日期:2026-10-21
网关这层,很多人只盯着限流和路由,却忽略了传输体积本身也是成本。我们服务的一家客户,网关承接大量长文档理解类请求,请求体里动辄塞几万字的文本,还有多模态场景把图片转 base64 往里灌。没压缩时,单次调用耗时大半花在网络传输,带宽账单逐月涨,上游解析也慢。
当时他们的做法很原始:所有请求原样转发,偶尔某个大请求把链路带宽占满,后面的小请求全排队。运维看监控只看到"网络延迟高",找不到根因,因为没人把体积当指标。更隐蔽的是,这种大请求还会拖慢同链路上的其他业务,影响面比想象的大。这类隐性拖累最容易被归咎于网络,真相却是自己把大包袱往窄管子里塞。
我们进场最先要做的,就是让网关对请求体"该压就压",用 gzip 和 brotli 把传输体积降下来,同时别把好不容易换来的低延迟又搭进去。压缩这件事,省的是真金白银的带宽,也是端到端的时延。
落地场景围绕"自适应"三个字。网关在转发前判断请求体类型和大小:大体积的 JSON、长文本走 brotli(压缩率更高),普通小请求直接跳过压缩,省去压缩本身的开销。
上游服务配套做统一解压,收到压缩请求先识别头再解,解不出就回退原样。监控侧记录每类请求的压缩前后体积、压缩率和解压失败率,异常时自动降级到不压缩,保证可用性优先。
对多模态 base64 这类内容,我们单独处理,因为已经编码过的数据再压反而可能变大,需要类型白名单拦住。这部分是方案里最容易踩坑的地方,后面会细说。白名单定宽了压不动、定窄了漏了该压的,我们前后调了三轮才定准。
首个难点是压缩策略不能一刀切。我们起初对所有大请求都上 brotli,结果小请求也跟着压、压缩耗时抵消了收益。后来按体积阈值分流,只有超过阈值的才进压缩路径,小请求直接透传。这一步让平均时延反而降了,因为压缩这种 CPU 开销在小数据上不划算。
另一个难点是 base64 多模态的坑。图片视频转 base64 后是高熵数据,gzip 和 brotli 压不动还更慢,我们早期没注意,把多模态请求也压了,延迟不降反升。加上类型白名单后,这类请求跳过压缩,问题消失。这件事教训很直接:压缩不是银弹,得看数据特征。
再一个难点是上游解压的兼容性。网关压了,上游得认。我们统一了 Content-Encoding 头约定,并在上游做了容错:解压失败不报错,回退原请求体继续处理。没有这层兜底,一次压缩格式不一致就会整批失败,那可比不压缩还糟。容错这层我们曾想省,结果联调时一次编码头没对齐,整批请求挂了半天才定位,从此不敢省。
第四个难点是降级时机。压缩率监控一旦异常(比如某类请求压完反而变大),立即对该类停用压缩。降级要快,不能等用户投诉。我们把它做成实时规则,而非靠人巡检,规则触发到生效在秒级。
案例片段(已脱敏): 网关请求体自适应压缩的配置(参数为示意值):
yaml compression: enabled: true min_size_bytes: 4096 algorithms: - {name: brotli, quality: 4, apply_to: ["application/json", "text/plain"]} - {name: gzip, level: 6, apply_to: ["text/*"]} skip_types: ["image/*", "application/octet-stream"] upstream: {auto_decompress: true, fallback_on_error: true} monitor: {alert_if_ratio_below: 0.1}
上线后的数据(均为示意值,非审计口径)。大体积请求的平均传输体积压缩了约六成,长文档类调用的端到端时延下降明显,因为网络传输段被大幅缩短。带宽成本按月看降了约四成,这部分直接体现在云账单上。
解压失败率长期维持在极低水平,说明上下游约定稳定。更重要的是,大请求占用带宽的时间变短,链路不再被单个大请求拖垮,后面的小请求排队现象基本消失,同链路的其他业务也跟着变稳。有个上游服务一度忘了开解压,监控里压缩率突然掉,我们顺着告警几秒就发现,降级规则自动兜底没影响用户。
运维那边的反馈是监控终于能解释"网络延迟高"了——原来一半是体积问题,不是网络问题。把体积纳入指标后,排障思路一下清晰,也不再动不动就想扩容带宽。我们还顺手把压缩节省的带宽折算成费用口径写进月度成本报告,财务第一次能看懂网关这层的优化价值,后续申请网关资源时少跑了两趟审批。
网关降本别只盯着算力和配额,传输体积本身就是钱。我们这个项目最大的收获,是把"请求体大小"变成了一等监控指标,从此带宽异常一眼可见。
压缩策略必须自适应,小请求透传、大请求才压,否则压缩开销反噬收益。base64 这类已编码内容要进白名单跳过,这是我们用延迟反弹换来的教训,不值得再踩一次。
上游解压一定要容错降级,格式不一致时回退原样,别让压缩成为可用性炸弹。压缩率监控要能触发自动降级,靠人盯不如靠规则。
后来做新的网关模板,传输压缩成了默认勾选项,只是白名单按客户业务微调。传输层这种不起眼的地方,往往藏着最划算的优化,因为它改动小、收益广、风险低。