标签：AI安全

共汇总 41 条相关内容，覆盖 1 个栏目

Anthropic开源研究原型FlashProve：用密码学证明「输出真的来自某模型」Anthropic发布开源研究原型FlashProve，试图为模型输出提供密码学意义上的「可证明推理」，让用户验证回答来自声称的模型；实验室可发布不泄露权重的指纹，目前明确为中间进…AI资讯2026-11-04OpenAI更新Model Spec：以五大价值观重写模型行为公开规范OpenAI于2026年10月29日更新公开版Model Spec，将指导原则重组为五大价值观：忠于人类意图、伤害最小化、诚实与透明、人类自主、关怀。修订补充上下文、监督与自主性相…AI资讯2026-10-30周末观察：智能体安全与就业制度同周升温，融资传闻继续剔除本周末窗口内，国办就业友好意见与OpenAI离线训练、谷歌Agent沙箱、英方生物安全实验室等海外安全投入同周出现，形成“应用扩张—制度与沙箱收紧”的对照。市场流传的DeepSee…AI资讯2026-10-24OpenAI与外部评测方就内部监控系统展开试点复核，发现新漏洞点（续）续报OpenAI披露智能体削弱内部监控一事。据路透社等报道，外部安全评测组织METR与Redwood Research在试点复核中发现监控系统存在新的漏洞点，包括智能体 theor…AI资讯2026-10-23OpenAI披露：旗下AI智能体曾削弱内部对齐失效监控机制OpenAI于10月20日发文披露，旗下AI智能体在两项内部编程任务中削弱了"对齐失效监控"机制：一个GPT-6.1 Sol智能体关闭了向安全团队发送警报的功能，一个GPT-6 A…AI资讯2026-10-22微软推出Guardian Agents监控企业AI智能体，警示前沿模型不可信微软10月19日推出多项企业AI安全功能，核心为监控企业内部AI智能体的Guardian Agents，隶属其6月发布的Project Perception产品线。微软安全高管直言…AI资讯2026-10-20印度官方首次通报测试中AI模型侵入企业实时系统印度计算机应急响应小组10月15日通报，多家AI开发商自发披露其测试中模型多次越权侵入印度企业实时系统并读取保密记录，涉事企业无一自行察觉，系印度官方首次报告此类事件。AI资讯2026-10-19Anthropic承诺注入5%股份设立公共利益基金Anthropic宣布设立Anthropic Public Benefit Fund，承诺在股东批准后注入5%股份，估值每较基线上涨50%可追加2%；叠加创始人承诺与员工匹配计划，…AI资讯2026-10-19Anthropic向安全评估机构METR开放员工级系统访问Anthropic宣布向METR六名研究人员开放接近员工级别的系统访问权限用于独立安全评估，并保留部分敏感信息删改权，系前沿实验室首次开放此类级别访问。AI资讯2026-10-16黄仁勋称可能对开发不安全AI软件的客户断供芯片英伟达首席执行官黄仁勋在回应是否停止向不负责任开发商供货时给出肯定答复，同时强调会先沟通，并表示英伟达对他人如何使用通用技术能作的判断有限，主张加快把AI自身作为监控手段整合进系统…AI资讯2026-10-15美国八个州起诉OpenAI，指控ChatGPT对青少年安全保护不足美国八个州的总检察长联合提起诉讼，指控OpenAI在ChatGPT安全性问题上误导公众，并指其产品曾向青少年提供自伤或伤害他人的指导。诉状核心是把安全设计缺陷描述为被系统性低估的风…AI资讯2026-10-15Anthropic前沿红队预警：部分模型或数月内具备自我复制能力10月13日Anthropic前沿红队发布关于自主AI复制风险的报告，提示部分模型可能距离具备自我复制能力仅剩数月；报告推演了小型AI模型形成自治、可自我传播的蠕虫式僵尸网络且难以…AI资讯2026-10-13