↑

OpenAI发布社区安全进展:承诺半年报,并收紧青少年武器相关回复

PromptTree|阅读 2
2026/10/31 11:13
OpenAIChatGPT青少年安全社区安全
OpenAI于10月30日宣布两项安全动作:将推出社区安全保障报告(首期覆盖2026下半年、2027年初发布,此后每半年更新);并对全体用户收紧大规模袭击细节类回复,同时进一步限制未成年人可获得的武器与安防系统实用信息。另披露2026年三季度向执法部门转介逾200起。

ChatGPT用得越广,安全团队越要把「发现了什么、拦了什么」写成可公开的账本。OpenAI这次同时加码政策与披露节奏。

官方安全博文称:将推出Community Safeguards Report,说明如何训练系统检测、调查与响应社区安全问题,分享匿名化案例、新缓解措施与相关数据;首份报告计划于2027年初发布,覆盖2026年下半年,之后每半年更新。公司称2026年三季度向执法部门作出逾200次转介。政策上,进一步限制关于过往大规模袭击及实施者的细节重建(含武器获取方式等),该限制不因用户年龄或动机而豁免;同时扩展青少年体验下对武器与安防系统实用信息的限制,即使问题表面无暴力意图。

机制层面,延续「用近期对话中的警示摘要影响后续回复」的思路,并在预测用户未满18岁时适用更严限制;对反复出现暴力执念的对话,模型将可自动结束会话,多次后可能暂停账户。家长控制将扩展通知场景。公司强调相关防护将于未来数周开始滚动上线并持续迭代。

对产品与监管观察者,这是把暴力预防从「个案公关」推进到「可预期的报告制度」。它不消除真实世界暴力成因,但提高了外部审计对齐的可谈性。不写攻击链细节;本文仅转述官方政策边界。

收尾:OpenAI用半年报承诺给安全工作装上表盘——指针往哪转,要看2027年第一份报告写不写得出数字。