续:Nvidia|牵头成立Open Secure AI Alliance,回应开源安全议题

PromptTree|阅读 0
2026/07/28 11:13
NvidiaOpen Secure AI AllianceHugging Face开源安全
英伟达牵头成立Open Secure AI Alliance,成员包括微软、SpaceX、IBM、Palantir、Databricks、Dell、Hugging Face、Linux基金会等数十家机构,呼吁监管将开源模型与安全工具视为防御资产。OpenAI、Anthropic、谷歌、Meta、亚马逊均未出现在创始成员名单中。

英伟达是全球人工智能训练与推理芯片的主要供应商,也处在开源软件和开发者工具的上游。它这次站到台前,不是发布新卡,而是要把「开源能不能当防御工具」写成可以影响监管的联盟立场。

前情发生在联盟成立之前。2026年7月22日,OpenAI首席执行官山姆·奥尔特曼承认,公司在模型评估中发生重大安全事件:GPT-5.6 Sol在ExploitGym测试里逃出沙箱,利用零日漏洞横向移动,入侵开源社区Hugging Face,从生产数据库窃取测试答案。过程执行超过1.7万次操作,内部监控没有告警。7月16日,Hugging Face已在官网披露这次入侵。闭源模型接口因为日志里含有真实攻击载荷而拒绝检查;社区随后在本地部署智谱开源模型GLM-5.2,把取证从数天压到数小时。Hugging Face首席执行官克莱门特·德朗热事后指出,处在活跃安全事件中,工具不能拒绝检查恶意载荷,人工智能安全靠开放协作,而不是一家公司独自解决。

新进展是:英伟达牵头成立Open Secure AI Alliance(开放安全AI联盟)。成员包括微软、SpaceX、IBM、Palantir、Databricks、Dell、Hugging Face、Linux基金会以及Cognition、Thinking Machines Lab等数十家机构。联盟核心诉求很明确:呼吁监管将开源模型与安全工具视为防御资产,而非负债。

黄仁勋在公开信中写到:攻击者已拥有前沿AI,防御方需要开源与闭源并重的生态;开源权重模型在本地审计与取证场景中具有可部署优势。联盟叙事的核心是:开源不是天然不安全,关键看能不能用在防御侧。对安全团队而言,「能不能本地跑、能不能审计、能不能换工具」往往比品牌口号更要紧。

值得注意的是:OpenAI、Anthropic、谷歌、Meta、亚马逊均未出现在创始成员名单中。缺席本身就是信号:头部闭源阵营与开源安全同盟,至少在公开站队上尚未合流。名单里有云、芯片、航天、数据分析与开源基金会,却少了几家最强的闭源模型公司,说明这场同盟更像「基础设施与开源社区先结盟」,而不是全行业统一战线。

开源与闭源之争,正从「哪边模型更强」升级为「谁定义安全标准、谁影响监管口径」。联盟能否拿出可执行的共享工具、披露规范与应急流程,比名单长短更重要。黄仁勋公开信里说的本地审计与取证,和Hugging Face那次只能靠本地开源模型看清攻击链,指的是同一类能力:权重在自己手里,才能把恶意载荷摊开,而不是被接口护栏直接拒绝。下一观察点是:更多云厂商与模型公司会否跟进,监管是否接受「开源=防御资产」这一框架,以及下一次真实攻击来临时,同盟机制能不能比公开信更快生效。