在开源基座这条赛道上，参数总量早已经不是稀缺品，稀缺的是「每个 Token 花多少钱换多少能力」。11月5日，百度发布并开源文心5.5 Flash Base（ERNIE-5.5-Flash-Base），试图用一套围绕效率重做的架构来回答这个问题。
文心是百度的大模型品牌，Flash 系列定位在「性能够用、成本可控」的档位，Base 则表示这是预训练终点的基座权重——没有经过中训练与后训练，留给开发者自己做领域适配、指令微调、推理强化与 Agent 训练。这个交付形态对研究团队友好：拿到的是一个统一起点，而不是一个已经调好的成品。
模型规格先说清楚。稀疏 MoE 架构，总参数 280B，每个 Token 仅激活 14B；共 43 层 Transformer，Hidden Size 4096，64 个注意力头；在 33.5T tokens 上从零完成预训练，训练上下文逐步扩展到 128K，微调与推理支持 1M tokens 上下文。
架构上做了三处改造，指向的都是长上下文与 Agent 场景下不断累积的开销。
注意力： 43 层中 37 层用重度压缩注意力（HCA），把每 128 个 Token 压成一条缓存条目，注意力只在压缩条目与最近一小段未压缩 Token 上计算；其余 6 层保留多头潜在注意力（MLA），逐 Token 访问远距离历史，并对这 6 层引入稀疏注意力（DSA），用轻量索引器为每个查询的历史位置打分，只在前 K 个位置上做精细计算。通俗讲，大部分层看「摘要」把握全局，少数层负责「翻原文找细节」。
专家路由： 传统 MoE 只用一个路由器打分再硬选 Top-K，团队发现打分与专家实际效用只是弱相关，中深层尤其明显，一旦选错就很难纠正。文心改用多路由器隐空间 MoE，让多个独立初始化的 Sigmoid 路由器共同打分，只要某个专家被某个路由器强烈看好、或被多个路由器同时认可就有机会入选；同时把 Token 从 4096 维投影到 2048 维隐空间再做专家计算，使专家 FLOPs 与分发合并通信量约减半。配置为 512 个路由专家选 10，外加 1 个共享专家。
未来 Token 预测： 业界常见的多 Token 预测会额外挂一个模块，多步预测的损失主要作用在新模块上。文心的 ECHO 直接复用主干网络最后一层承担未来 Token 预测，让多步损失作用于生成下一个 Token 的参数；这一层还能直接充当投机解码的内置草稿模型，不增加额外参数，预训练时只学多预测一个 Token，推理时却能连续向后起草多个。
数据侧重点打造了网页、代码、长文三类语料。代码不只收静态仓库与网页代码，还补了 commit、issue、pull request、代码评审、需求到 PR、多 commit 轨迹、自动生成测试以及经 CI 验证的修复数据；长文则混合天然长文档、拼接构造的长序列与合成的检索式、引用式、多跳问答数据。这类能力很难靠后训练补，必须在预训练阶段打底。
评测方面，百度把 ERNIE-5.5-Flash-Base 与 DeepSeek-V4-Flash-Base（284B-A13B）、Hy3-preview-Base（295B-A21B）、MiMo-V2.5-Base（310B-A15B）放在同尺寸档对比，称在推理、代码、学科能力与长上下文任务上领先，拿下同尺寸 SOTA。需要说明的是，这是厂商自测口径，第三方复现仍需时间。
权重已开放 FP8 与 BF16 两个版本，配套 vLLM 插件与 SGLang Cookbook，官方同时提供了技术博客。对想自建推理栈的团队，这降低了「拿到权重却跑不起来」的门槛。
11月9日，百度文心又首次披露 RSI（递归自我改进）方向的进展：ERNIE Evolve 已用于最新模型研发，文心5.5 Flash 正式版或将近期发布。把「模型参与造模型」公开写进研发流程，是比单个版本更能说明路线选择的信号；但它同时也把评估难题推到了台前——如果训练环节有模型参与，能力评测与安全评估的方法需要同步升级。
对开发者，这个 Base 的价值在于起点统一：可以在同一底座上横向对比不同的微调与强化方案。对产业，观察点不在榜单，而在两件事：正式版能否把 Base 的潜力兑现成可用的 Agent 能力，以及开源生态里的第三方复现能否收敛到官方数字附近。