Thinking Machines Lab 于 11 月 20 日发布并开源 Inkling 2 Mini,权重在 Hugging Face 以 Apache 2.0 提供,同时上线 Ollama、SGLang、vLLM、llama.cpp(GGUF)、Unsloth 等本地推理路径与自家的 Tinker 托管平台。
这是一个 26.4B 总参数、每 Token 激活约 3.4B 参数的混合专家模型,采用所谓「循环式 Transformer」:24 层分为四块,中间两块共 12 层对每个 Token 连续执行三次,首尾各执行一次,因此按权重激活量计约 5.4B。
这种设计让模型在不生成更多文字的前提下延长内部推理,用更少的输出 Token 找到答案;官方说明循环并不增加事实性知识,其 AA-Omniscience 分数与同规模模型相当,增益主要出现在智能体编程这类更依赖推理质量而非存储知识的任务上。模型支持文本与图像输入、文本输出,上下文窗口 100 万 Token;大部分权重原生以 NVFP4 训练与部署,最后四层用 MXFP8,整体内存占用约 20GB,官方推荐 32GB 及以上内存的 Apple 芯片 Mac、DGX Spark 或 32GB 显存以上 GPU,演示中研究人员在一台 48GB M5 Pro MacBook Pro 上离线于数分钟内构建出可玩的飞行模拟器。
厂商自报的成绩是:DeepSWE v1.1 得 48.2%、Vals Index v2.2 得 46.5%,在总参数低于 100B 的开放权重模型中领先;Artificial Analysis 给出智能指数 20 分,与 Qwen3.8 27B 持平而成本约低六倍、速度约四倍,处在帕累托前沿;斯坦福「每焦耳智能」指标 0.703,对照 Qwen3.6-35B-A3B 的 0.430 与 Gemma-4-26B-A4B 的 0.159。
需要打折的地方也很明确:领先结论限于「100B 以下开放权重模型」和两项基准,且为厂商自跑;Vals 在其综合榜单上把该模型列为 43 个模型中的第 38 位;OpenRouter 上的 API 定价为输入每百万 Token 0.15 美元、输出 0.50 美元。团队同时放出可变循环次数的研究版本,观察到单次到三次循环把「无思维链时间视野」从 16 秒提升到 37 秒,思维链变短但仍可读,且在智能体破坏性测试上没有显著升高。
这是循环架构第一次以广泛可用、可本地跑的开放权重形态出现,对想做离线编程智能体或基于公司数据微调小模型的团队,是 30B 以下一个值得对照的选项。
训练侧还有两处工程细节值得记:模型先把 384 个专家剪枝到最常用的 128 个,再从一个更大的内部模型蒸馏「修复」性能;后训练经历监督微调与约 2.2 万亿 Token 的强化学习,并采用 on-policy 蒸馏做对齐。循环之间的信息则用带门控的注意力残差合并,官方称这是稳定训练的关键;强化学习微调可在 SkyRL、Miles 与 NVIDIA AutoModel 中进行。这些设计共同指向一个目标:把推理深度做进权重复用里,而不是靠堆参数或拉长输出。