↑

商汤开源 SenseNova Loop-9B:循环结构复用参数,10GB 显内部署逼近 27B 级性能

PromptTree|阅读 0
2026/11/18 07:49
商汤科技SenseNova寒武纪开源模型
商汤开源 SenseNova Loop-9B:循环结构复用参数,10GB 显内部署逼近 27B 级性能
商汤科技 11 月 17 日晚间发布并开源 SenseNova Loop-9B。模型以 Loop 结构复用参数,把 32 个物理解码层扩展为 56 次层计算,上下文最高 512K tokens,4bit 量化后权重约 4.9GB,部署显存需求低至 10GB 内。官方评测显示其在 Agent 与数据分析任务上与 Qwen3.8-27B 相当。寒武纪当日完成 Day 0 适配。

大模型行业有一条明线是拼参数规模,还有一条暗线是让同样的参数干更多的活。商汤科技 11 月 17 日晚间正式发布的 SenseNova Loop-9B,走的是后一条路:用约 9B 的参数量,通过循环计算结构逼近 27B 级模型的性能,同时把部署门槛压到 10GB 显存以内。

SenseNova 是商汤的基础模型产品线,此次发布的 Loop-9B 延续了其 Preview 版本对参数效率的探索。核心思路是 Loop 结构复用模型层的参数:模型将第 4 至 27 层组成共享权重的循环模块并执行两次,把 32 个物理解码层扩展为 56 次层计算,相当于用「跑两遍」换取更深的计算路径。与之配合的是流形约束超连接(mHC)技术,通过可学习映射对循环模块中的两条残差流进行信息路由与融合。

这套结构带来的直接收益在部署侧。官方 4bit 量化后模型权重仅约 4.9GB,整体部署显存需求低至 10GB 以内;采用 4bit 权重与 8bit KV 缓存时,256K 长上下文推理的显存需求约 15GiB。换句话说,一块消费级或入门级专业显卡就有机会跑起这个模型,私有化部署的硬件门槛被显著拉低。模型支持文本与图像输入、文本输出,上下文长度最高 512K tokens。

性能方面,官方给出了一组对照:在 Agent 与数据分析评测中,Loop-9B 的 NL2Repo 得分为 41.36,接近 Qwen3.8-27B 的 44.60;AIDABench 得分 65.31,高于后者的 65.01。商汤的表述是「让低显存芯片获得前沿 27B 级别模型性能成为可能」。这一说法的分量取决于具体任务,但方向明确:以参数效率而非绝对规模换取可用性。

开源策略执行得比较彻底。模型权重与相关代码已经开放,发布首日同步提供官方 AWQ 4bit 量化版本,方便用户快速部署,Hugging Face 上已建立专门合集。对于关注私有化部署的企业和研究者,这降低了尝鲜成本。

同日还有一条联动消息:寒武纪宣布完成 Day 0 适配,打通了这一新型循环计算架构在国产 AI 芯片上的推理链路。Day 0 适配意味着模型发布当天即在国产算力上可用,这对循环结构这类非标准计算图尤为关键——循环执行与混合注意力(三层线性注意力加一层全注意力的分组配置)都对芯片的算子支持提出额外要求。模型与国产芯片的同日协同,是国产软硬件栈成熟度的一个观察样本。

从更大的背景看,业界对参数效率路线的兴趣正在回升。当训练与推理成本成为规模化的硬约束,「更少的参数、更聪明的结构」提供了另一条性价比路径。Loop-9B 的循环结构并非业界孤例,但把循环、超连接、长上下文与开源量化版本打包在一起,并以 10GB 显存为卖点,指向的是一块真实而庞大的市场:那些买不起旗舰卡、但需要本地跑模型的中小企业与开发者。

这条路线的考验在于规模化验证:循环结构在更长上下文、更复杂工具调用场景下的稳定性,以及社区实际微调与部署的反馈,都还需要时间积累。但在显存即预算的现实约束下,商汤这步棋切中的痛点足够真实。