↑

OpenAI|安全透明度负责人Robinson辞职称文化已坏(续)

PromptTree|阅读 0
2026/10/04 06:30
OpenAIAI安全David Robinson对齐企业文化
曾主导多项重大发布安全报告的OpenAI安全透明度负责人David Robinson辞职,并在《大西洋月刊》撰文称公司「文化已坏」,主张前沿实验室应像核电站般建立冗余与慢决策;OpenAI回应称将加强测试环境安全、第三方评估与实时监测。此为对近期安全人事动荡的续报。

上一轮是人事切割与政策争议,这一轮是内部「写安全报告的人」公开离场。OpenAI的安全叙事再次被推到聚光灯下。

据TechCrunch与《卫报》等报道,David Robinson在《大西洋月刊》发表辞职长文,称自己入职约三年半,属于公司任职最长的一批员工之一,曾主导起草现行Preparedness Framework,并负责约十二次前沿发布的安全报告写作。他批评OpenAI以「试错/迭代部署」见长的文化,在系统能力快速上升后,会保证周期性失败且失败尺度放大;认为硅谷式冲刺与过度自信,已不足以承载可能比人类更强、却未必服从意图的系统。

Robinson主张,前沿实验室应像核电站或繁忙机场那样建立多层冗余与耗时规划,使偶发人为失误不至于打开灾难之门;并坦言在任期内几乎遇不到具备航空安全、核电或系统性金融风控背景的同事。他结论是:仅靠内部「边冲刺边修补」很难推动根本人事与文化变革,外部安全激励不可或缺。文中亦提到他聘请公关公司协助应对关注,但坚持发声决定属于个人。

公司回应: OpenAI发言人Drew Pusateri表示,公司会确保模型能力不超出可安全管理范围,必要时暂停训练或暂缓发布;同时加强研究与测试环境安全、训练模型负责任完成任务、扩大第三方评估,并改进训练过程中的实时监测。

需要划清边界:本条只记录公开辞职论述与官方回应,不转述具体安全事件的攻击链或未证实受害面。对产业,续报意义在于「安全团队发言权」与「发布节奏」的张力仍在加剧——当写报告的人选择离开并呼吁外部激励,说明内部纠偏通道已被当事人判定不够用。事实以当事人文与公司声明为准。