CAPABILITY 03 / TOKEN GOVERNANCE
让每一次模型调用
有入口 有预算 有记录
以统一模型网关托管 Key、身份、配额、路由与审计,在多模型环境中看清谁在用、用什么、花多少,以及异常时如何切换。
MODEL GATEWAY CONTROLPOLICY ENFORCED
治理对象 请求与 Token核心资产 策略、账单与审计日志
WHAT GETS CONTROLLED网关统一入口
网关统一入口
策略集中生效
业务系统不直接持有供应商 Key,通过统一接口获得可替换的模型能力,同时保留团队、应用、模型与成本维度的记录。
Key 托管
业务使用虚拟 Key,真实凭证集中管理与轮换。
用量计量
按团队、应用、模型和时间统计请求与 Token。
智能路由
按成本、可用性和任务类型选择主备模型。
审计追踪
保留调用身份、策略结果、模型响应与异常记录。
GOVERNANCE PATH从调用盘点
从调用盘点
到预算闭环
先建立真实用量基线,再逐步上线配额、路由、告警与审计,避免治理策略阻断业务。
调用盘点
应用、团队、模型、供应商与现有 Key。
网关接入
统一 API、虚拟 Key 与身份映射。
策略配置
限流、配额、预算、路由与回退。
账单核对
按组织维度校验用量和供应商账单。
持续优化
按效果、成本和稳定性调整模型组合。
OPEN ECOSYSTEM REFERENCE统一协议层
统一协议层
保留模型选择权
可参考 LiteLLM 的统一模型接口、虚拟 Key、费用跟踪、护栏、负载均衡与管理面板,也可结合现有 API 网关和可观测平台落地。