日期:2026-09-11
某集团 AI 网关后面接了十几个模型服务,新业务要接入,得运维手把手建应用、配路由、开配额,全程微信来回问。文档是另一个同事手动写的,接口一改文档就过时,接入方照着旧文档联调,报错一大堆。一个接入从申请到跑通平均拖两周,运维的工单堆成山,接入方怨声载道,网关成了效率瓶颈而不是赋能层。更离谱的是,有一次接口字段改了但文档没更,三个业务方照旧文档开发了三天,联调全挂,反过来怪网关不稳定,运维和研发差点吵起来,根子就是文档和代码早就不是一回事了,这种信任损耗比接入慢本身更伤。
这个项目做了自助接入门户。新业务在门户里填应用信息、选要用的模型、设配额,系统自动建好应用和密钥,不需要运维介入。文档从接口定义自动生成,改一处接口,文档、SDK 示例、调试台全同步。接入方还能在门户里点自助诊断,看自己的请求为什么被拒、配额剩多少、走的是哪条路由,不用再 @ 运维。我们还把常见错误和修复建议沉淀成知识卡,挂在调试台旁边,新人第一次接入基本能自助跑通,运维终于从"接入口"退回到"兜底岗"。
关键在文档和代码同源。我们让接口定义(OpenAPI schema)成为唯一真相,文档、示例、调试台都从它渲染,改接口时强制同步,杜绝文档说是 A 实际是 B。第二是配额自助但要防滥用,门户里设了审批钩子,超阈值的配额申请仍走人工,日常小额度自助放行,平衡效率和风险,不让一个应用把整池算力吃光。第三是自助诊断要说人话,早期报错返回技术码,接入方看不懂,我们把它翻成可读原因加修复建议,比如请在门户申请 model:chat 权限,联调效率明显上来。第四是密钥安全,自助下发的密钥默认只读、按最小权限赋权,避免新应用一上来就拿到全量能力。
案例片段(已脱敏): 自助接入与文档生成配置片段: 接口定义
openapi.yaml改动后,CI 触发文档站重建,调试台try-it自动带新参数;接入方门户申请app=report-bot,选model:chat+ 配额 1M tok/日,系统自动下发api_key并写入路由表。 诊断返回样例(脱敏):{ "code":"PERM_DENIED", "hint":"请在门户申请 model:chat 权限", "route":"default" },替代原生的403 no permission。
自助门户上线后,新业务平均接入时长从 14 天压到 2 天以内,其中 70% 走完全自助、不进运维工单,运维终于从重复劳动里抽身去做容量规划。接入相关工单周均从 30 多单降到 5 单上下,剩下的基本是超阈值配额的人工审批,本就该人把关。文档准确率因同源生成达到接近 100%,联调报错里文档不符类基本消失,那次三方联调全挂的闹剧没再发生。文中数据为项目复盘口径,已做脱敏。
自助门户跑顺之后,我们把它和内部的服务目录打通,新业务能直接看到有哪些模型能力可用、各自什么配额,选型从问人变成查门户。文档站也成了研发改接口的强制关卡,CI 里接口定义一旦变更就自动重建,谁也绕不过去,文档滞后这个问题从流程上被消灭了。我们还沉淀了接入常见错误的知识卡,新人第一次接入基本能自助跑通,运维从接入口退回到兜底岗,终于有余力去做容量规划和成本优化这些更值钱的事。接入时长压下来之后,业务方提需求的节奏也快了,网关从瓶颈变回了赋能层。
诊断信息说人话之后,接入方工单里那种查半天不知道为啥被拒的少了大半,大部分人看一眼 hint 就自己改了。我们还把配额使用做了实时看板,接入方自己能看剩余多少、哪个模型吃得最多,不用再问运维要数据。之前运维一半工单是在回这种查询,现在自助看板顶替了。门户上线半年,新业务接入从两周缩到两天,运维从接入口退到兜底,这个角色转变让团队把精力挪到了容量和成本上,网关的口碑也跟着转了,业务方提需求不再怕排期。
接入效率上来之后,业务方提新需求的周期也短了,网关从卡脖子变成了加速器,团队的精力终于能放到更值钱的地方。
文档滞后这个老毛病被从流程上消灭之后,研发改接口再也不用担心被谁追着问为什么对不上,协作成本降了一大截。
网关不自助就是运维的工单黑洞,接入方每多一次人工环节,效率就掉一截,十几个业务方乘以每次人工,运维直接被淹没。文档必须和接口定义同源,靠人手同步迟早失真,我们之前那版旧文档坑过不少人,还差点引发研发运维互撕。诊断信息要说人话,返回个技术码就把锅甩给接入方了,不如直接告诉他缺哪个权限、去哪申,新手体感差全在细节上。配额自助放权可以,但超阈值的口子得留人工,效率和风险这杆秤得两端都压住,否则一个应用就能把整池算力拖垮。