MiniMax-01开源：线性注意力架构实现400万token超长上下文

声明：文档由AI根据原文生成。

模型发布与开源

2025年1月15日，MiniMax发布并开源MiniMax-01全新系列模型，包含基础语言大模型MiniMax-Text-01与视觉多模态大模型MiniMax-VL-01。完整权重已上传至GitHub仓库（https://github.com/MiniMax-AI），后续代码及多模态强化更新将持续推送。

架构创新：线性注意力首次规模化应用

MiniMax-01系列的核心突破在于首次将线性注意力机制扩展至商用模型级别。该模型总参数量达4560亿，单次激活459亿，采用混合架构设计：每8层中7层为基于Lightning Attention的线性注意力，1层保留传统SoftMax注意力。

为支撑这一架构，MiniMax几乎重构了训练与推理系统，涵盖更高效的MoE All-to-all通讯优化、长序列优化及线性注意力的高效Kernel实现。

性能表现：长上下文显著领先

综合性能方面，MiniMax-01在主流文本与多模态理解测评中追平GPT-4o-1120及Claude-3.5-Sonnet-1022。长上下文能力尤为突出：支持全球最长的400万token上下文，为GPT-4o的32倍、Claude-3.5-Sonnet的20倍。

在长文本任务中，随着输入长度增加，MiniMax-Text-01性能衰减最慢，显著优于Google Gemini。400万token的Needle-In-A-Haystack检索任务实现全绿通过。

基于真实数据的助手场景测试中，MiniMax-Text-01表现显著领先；多模态理解测试中，MiniMax-VL-01同样处于前列。

定价与接入方式

API标准定价为输入Token 1元/百万Token，输出Token 8元/百万Token。用户可通过MiniMax开放平台（https://www.minimaxi.com/platform）及海外版（https://www.minimaxi.com/en/platform）接入，亦可于海螺AI国内端（hailuoai.com）及海外端（hailuo.ai）直接使用。

MiniMax表示，开源旨在促进长上下文研究与应用、加速Agent时代到来，同时以开源驱动自身持续创新。技术合作可联系model@minimaxi.com。