日期:2026-07-26
本文为工程实践复盘,客户信息已脱敏;所述数据均为示意值。
我们这套 AI 网关后面接了多家模型供应商,计费方式五花八门:有的按 token,有的按调用次数,有的按时长,单价还随套餐浮动。财务每个月底对着各家的原始账单,手工归并到部门,差异一大堆;跨部门内部结算更是扯皮——A 部门用了贵模型,账单却记到了 B 部门头上,谁都不认。我们调研时发现,最大的问题不是算不清,而是"计量"这件事本身就不透明:网关只管转发,谁调了多少、调的什么,没有一份自己说得清的明细。
我们当时定的目标,是让"计量、计费、结算"全链路自动且可稽核。这个项目里我们采用的 AI 网关,其计量层统一采集每次调用的 token、耗时、模型、调用方,计费引擎在计量数据之上叠加规则,把黑盒变成看板。
落地之后,每次调用都在网关计量层落一条结构化记录:调用方、应用、模型、输入与输出 token、耗时、是否命中缓存。计费引擎按"模型单价表乘用量"生成原始账单,再按部门和应用维度归集。账期上支持按月和按项目两种口径,内部结算在账期结束时自动出对账单,差异部分进入稽核队列而非默认挂账。
我们给每个部门设了预算配额,超预算前预警,超预算时可配置拦截或放行并标记,成本第一次从"黑盒"变成"看板",哪个部门花了多少、花在哪类模型上,一眼可见。
第一是多模型混合计费规则。我们把计费抽象成"计价单元,也就是 token、次、时长,乘以单价,单价按模型和套餐版本",单价表做版本化管理,结算时按调用发生时的生效版本取价,避免改价影响历史账,保证账单可解释。
第二是用量到账单归集。计量记录是明细,账单是聚合,我们保证"聚合能下钻回明细",任何一笔账单金额都能追溯到具体某次调用,这是稽核的基础,也是财务愿意信这套系统的前提。
第三是账期与内部结算。账期配置化,自然月或项目周期均可;结算时按部门归属自动分账,争议单进入人工稽核,而不是默认挂账等月底吵。
第四是异常用量稽核。对远超基线的用量,比如某应用单日 token 暴涨,自动标红,防止"刷量"或配置错误导致天价账单,把风险挡在发生之后、结账之前。
上线大约一个季度之后,以脱敏示意口径来看:出账自动化率从原来的半数以下,提升到接近全量;财务月度对账差异率从百分之一点几,降到千分级;成本归因准确率,也就是部门级的准确度,显著提升;内部结算周期从数周,缩短到账期结束后数日内;异常用量均能在当日被标红。数据为示意值。
计量先于计费,账期先约定后结算,这是我们踩坑后总结的两句话。早期直接拿供应商账单做内部分摊,结果单价变动、缓存命中都不透明,怎么摊都对不上;改成"网关自己计量、规则引擎出账"之后才可控。关键是聚合必须能下钻回明细,否则稽核永远在猜。账期与归属要前置约定,别等月底再谈谁该付钱,那时候只剩扯皮。
AI 成本治理的第一步,不是砍预算,而是先让钱花在哪看得清。当每一次调用都留下可下钻的明细,财务不再靠猜,业务也不再甩锅,成本优化才真正有了抓手。网关的计量层,看似只是记个数,实则是整个成本治理体系的地基。
回过头看,AI 成本治理的第一步,不是砍预算,而是先让钱花在哪看得清。当每一次调用都留下可下钻的明细,财务不再靠猜,业务也不再甩锅,成本优化才真正有了抓手。网关的计量层看似只是记个数,实则是整个成本治理体系的地基。我们把预算配额、异常用量稽核、账期结算串成闭环之后,部门负责人开始主动关注自己的模型选型,廉价模型在该用的地方真正用起来了。成本下降不是靠行政命令压出来的,而是靠透明之后每个人的自主选择自然发生的。
我们还把这套计费能力开放给了业务方自助查询,部门负责人第一次能实时看到自己这个月花了多少、主要花在哪些模型上。透明带来的改变很直接:一些原本默认用最贵模型的场景,在被看到账单后主动切换到了性价比更高的组合,整体支出结构更健康。
成本透明这件事,短期看是省了钱,长期看是养成了团队用模型的理性,这比任何一次性的砍预算都更可持续。
案例片段(已脱敏):计费规则与账期结算配置(示意) - 计量:
record(caller, app, model, in_tok, out_tok, dur, cache_hit)- 计价:cost = Σ (in_tok*price_in[model,v] + out_tok*price_out[model,v])- 账期:cycle=monthly; on_close: split_by(dept) -> statement; anomaly if tok>3σ案例片段(已脱敏):一次稽核(示意)——某应用单日输出 token 较基线暴涨约 5 倍,系统当日标红,排查为缓存层故障导致重复生成,修复后次日回落,避免了约数十万 token 的无效计费。