一个编程智能体跑完一个中等难度的仓库任务，要消耗多少 Token？一项基于 OpenHands 框架、覆盖 8 个前沿模型的研究给出了数字：在 SWE-bench Verified 实验里，一个完整任务平均约 417 万 Token，是单轮代码推理的 3500 倍、多轮代码对话的 1200 倍，其中绝大部分是输入。
这就是上下文压缩要解决的问题。11 月 11 日，孵化自北京大学软件工程研究所的硅心科技（aiXcoder）开源了专门做这件事的小模型 aiXcompact-4B。
它做的事很具体
编程智能体的工作方式是循环：读文件、调工具、看返回、改代码、跑测试、读报错、再改。每一轮都把新的内容追加进上下文，几轮之后，历史里塞满了完整的文件内容、长篇日志和重复的检索结果。
主流框架的处理办法是「压缩成概要」——Claude Code、Codex CLI 都内置了类似 /compact 的命令，让通用大模型把前面的历史总结成一段话。问题有两个：一是用旗舰模型做总结，本身就很贵；二是概要是有损的，关键的工程约束（比如「必须兼容现有接口」「不许引入新的外部依赖」）很容易在改写中被弱化。
aiXcompact-4B 换了个做法：不做一段自由文本的总结，而是对历史轨迹逐项做结构化决策，分三类。
三类决策都有操作记录，开发者可以回看哪些内容被保留、哪些被替换、哪些被删除。压缩完成后，模型还会生成一份结构化任务摘要，记录用户意图、关键技术信息、错误与修复过程、当前进度与待办。
数字
官方给出的核心指标是：在目标任务场景下，历史上下文平均压缩至原长度的 25.89%，也就是四分之一左右。
质量侧，在 Terminal-Bench 基准上把 aiXcompact-4B 接入 OpenCode 做压缩，整体任务完成准确率相对 DeepSeek-V4-Pro 并未下降。在自建的上下文压缩评测集上，它的规则综合分为 0.7012，DeepSeek-V4-Pro 为 0.7332；格式有效率 0.9939 对 1.0；信息保留规则分 0.4981 略高于对照的 0.4968。
成本侧更直观。私有化部署下，针对特定任务的单次 GPU 推理成本从 0.9518 元降到 0.2076 元，降幅约 78%。走 API 的话，单次压缩请求的 Token 费用约 0.019 元；同样一次压缩，DeepSeek-V4-Pro 约 0.702 元、GLM-5.3 约 0.648 元、Qwen3.8-Max 约 0.936 元，对应降幅分别是 97.30%、97.08%、97.98%。
怎么训出来的
技术路径是三段：教师大模型蒸馏、4B 学生模型 LoRA 微调、结构化压缩决策。
训练数据全部来自真实研发场景下的智能体运行轨迹，经过归一化、过滤筛选与压缩触发点采样，由教师模型生成参考压缩决策，再经样本校验后用于学生模型训练。模型学的是「在什么进度下、哪些信息还必须留着」，而不是通用摘要能力。
这条路线的经济学很朴素：把一个高频、边界清晰、判定标准明确的任务，从通用大模型手里拆出来，交给一个只干这件事的小模型。4B 的模型能在单张 A100-40GB 上跑，意味着企业可以把它放在自己的机房里，不必把研发代码发到外部 API。
小模型矩阵的思路
aiXcompact-4B 不是这家公司第一个专用小模型。此前它已推出面向代码生成与补全的 aiXcoder-7B、面向代码变更应用的 aiXapply-4B、面向 Token 消耗优化的 aiXpruner-4B，并计划推出面向智能体决策环节的 aiXdecision。这条产品线的逻辑叫「场景定义模型」：先锁定任务，再决定参数规模与训练数据，而不是先训一个大模型再想办法塞进场景。
这与行业近半年的走向吻合。通用模型的竞争集中在能力上限，而企业落地的瓶颈在成本、时延与数据合规；后三者的解法往往不是更大的模型，而是更小、更专的模型，加上一套能把它们编排起来的工程框架。
还剩什么没解决
压缩率不是越低越好。压到 25.89% 之后，模型对早期需求的记忆会变薄，长任务后段容易出现「重复已完成工作」的问题，这也是另一条技术路线（给概要补一层软记忆）正在尝试的方向。
另一个未解的问题是跨框架通用性。评测是在 OpenCode 与 Terminal-Bench 上做的，不同框架的工具调用格式、日志结构差异很大，模型能否零样本迁移到别的 Harness 上，还需要第三方复现。
对工程团队来说，这条开源带来的实际价值是可算的：如果一个智能体任务平均烧 400 万 Token，压缩环节的成本从每次七毛降到两分，一年跑十万次任务，省下的钱足够养一个专职工程师。这类账算得清的技术，通常落地都很快。