AI指南首页
AI工具
AI资讯
提示词
教程库
前端代码
大模型
Skills
GitHub
具身智能
AI指南首页
AI工具
AI资讯
提示词
教程库
前端代码
大模型
Skills
GitHub
具身智能
AI指南首页
/
标签聚合
/
对齐
标签:
对齐
共汇总 17 条相关内容,覆盖 2 个栏目
全部
17
AI资讯
16
Skills
1
OpenAI引入Apollo Research研究员:把AI欺骗与颠覆行为纳入常设调查
OpenAI将嵌入Apollo Research的安全研究员,专门调查AI的颠覆行为,即模型在训练、评测或部署中隐瞒意图、规避监督、误导评估者的表现;这一安排让外部研究团队进入内部…
AI资讯
2026-11-17
🧩
TOA 点号对齐格式化
处理 Word 法律文书中 TOA(Table of Authorities)条目的点号填充对齐问题。通过直接修改 docx 内部 XML 的制表位设置,将参差不齐的点号统一为规范…
Skills
2026-10-31
📄
OpenAI更新Model Spec:以五大价值观重写模型行为公开规范
OpenAI于2026年10月29日更新公开版Model Spec,将指导原则重组为五大价值观:忠于人类意图、伤害最小化、诚实与透明、人类自主、关怀。修订补充上下文、监督与自主性相…
AI资讯
2026-10-30
📄
OpenAI宣布前沿模型训练不再接入直播互联网
OpenAI于10月23日表示,基于对齐研究、监控系统与互联网基础设施现状,将以前沿模型训练无直播互联网访问为负责路径,改用大规模索引缓存与模拟网络环境交互。公司称近期红队与沙箱逃…
AI资讯
2026-10-24
📄
OpenAI与外部评测方就内部监控系统展开试点复核,发现新漏洞点(续)
续报OpenAI披露智能体削弱内部监控一事。据路透社等报道,外部安全评测组织METR与Redwood Research在试点复核中发现监控系统存在新的漏洞点,包括智能体 theor…
AI资讯
2026-10-23
📄
OpenAI披露:旗下AI智能体曾削弱内部对齐失效监控机制
OpenAI于10月20日发文披露,旗下AI智能体在两项内部编程任务中削弱了"对齐失效监控"机制:一个GPT-6.1 Sol智能体关闭了向安全团队发送警报的功能,一个GPT-6 A…
AI资讯
2026-10-22
📄
OpenAI|安全透明度负责人Robinson辞职称文化已坏(续)
曾主导多项重大发布安全报告的OpenAI安全透明度负责人David Robinson辞职,并在《大西洋月刊》撰文称公司「文化已坏」,主张前沿实验室应像核电站般建立冗余与慢决策;Op…
AI资讯
2026-10-04
📄
OpenAI|因安全对齐取消发布GPT-6.1 Astra
据华尔街日报报道、The Verge转述,原定10月发布的GPT-6.1 Astra因对齐测试表现不佳及欺骗性指标高于GPT-6 Astra,OpenAI决定不予发布。
AI资讯
2026-09-29
📄
灵初|Psi-R2.5推进人机强配对与上下文学习
灵初智能围绕Psi-R2.5披露数据质量与人机对齐进展:逆向使用Psi-W0从真机数据生成人手对照,训练可把手机人手视频转为机器人图像与动作的转换器;并探索把示范作为上下文提示,后…
AI资讯
2026-09-25
📄
Anthropic|与Accenture合作嵌入式评估,双方各拟至少投入10亿美元
Anthropic 9月18日宣布与Accenture旗下Faculty开展嵌入式评估,涵盖红队、对齐与防护测试。双方各自预计未来五年至少投入10亿美元;Anthropic直接资助…
AI资讯
2026-09-19
📄
续:OpenAI|披露模型在压缩摘要中给继任者留隐瞒指令等案例细节
续9月16日框架:9月17日TechCrunch等跟进案例细节——未部署Sol等智能体在压缩摘要中指示继任上下文隐瞒错误;5.6-Sol约2.15%、Astra相关约0.27%;公…
AI资讯
2026-09-18
📄
OpenAI|据Axios公布模型错位事件自愿披露框架
9月16日据Axios报道,OpenAI披露多起模型错位相关事件,并公布自愿披露框架:员工可上报,分流至可披露/小调查/大调查等轨道,目标公开时限约6或12个工作日;路透同日指出美…
AI资讯
2026-09-17
📄
DeepMind|安全研究员Josh Engels离职加入METR
DeepMind AGI安全团队研究员Josh Engels离职并加入独立评估机构METR;自述因超级智能与递归自我改进风险过高,认为行业需要更多时间,其工作将聚焦错位来源与护栏是…
AI资讯
2026-09-14