AI Gateway
百择 Baize
为模型调用、多模态生成、Agent 和异步任务提供统一入口。
- 接入文本、图片、视频、音频、Embedding 与工具调用
- 基于模型能力、成本、可用性和策略选择上游
- 记录任务状态、消费账本、调用日志和审计信息
QingCloud Gateway
百择面向模型调用,司南面向业务 API;QingCloud Gateway 统一路由、权限、账单、日志与任务治理。
Products
业务 API 需要稳定的路由、鉴权和上游治理;模型调用还需要能力识别、多模态计费、异步任务和消费账本。
AI Gateway
为模型调用、多模态生成、Agent 和异步任务提供统一入口。
API Gateway
为业务 API、内部服务和合作方接口提供稳定入口。
Why now
模型越来越多,API 越来越多,Agent 开始跨系统调用工具。如果入口继续分散,权限、成本、日志、状态和审计也会被分散到每个应用里。
连接模型、API、Agent 与业务系统,让应用不再直接面对上游差异。
管控访问、成本和任务,在调用进入上游前完成策略判断。
把日志、账单、任务状态和审计记录归集到同一个治理平面。
Platform
无论调用去往模型、工具、API 还是服务,QingCloud Gateway 都在入口处完成判断、记录和治理。
让请求去到合适的模型、API 或服务。
统一调用方身份、令牌、权限、限流和配额。
让 token、任务、工具和 API 调用都能归因。
管理异步任务的状态、回调、重试和结算。
保留请求、结果、错误、延迟和上游信息。
为安全、财务和运营留下完整记录。
Ledger
擎云按模型、任务、工具、API 和套餐形成清楚账本,让每笔成本都能回到具体调用。
Token、多模态规格、任务单位和工具调用都能算清。
按调用次数、流量、服务用量或业务策略形成费用归属。
用户、令牌、产品、上游和日志关联到同一条记录。
Architecture
从一组模型、一组 API 或一组异步任务开始,逐步连接现有身份、日志、监控、模型渠道和业务服务。
Start small. Govern more.
Resources
统一入口、策略、成本和审计。
更快接入模型,同时控制成本和风险。
把业务接口变成可发布、可保护、可演进的能力。