语音和聊天越来越像“朋友”，安全机制就必须更像监护网——Meta这次把通知家长和呼叫紧急服务写进了产品规则。
Meta于7月16日宣布全面升级Meta AI青少年安全保护，新增多项针对自杀和自残等敏感话题的机制。核心变化是家长通知：当检测到青少年对话中存在自我伤害或情绪困扰信号时，将主动通知使用Instagram家长监督功能的父母或监护人。安全信号由心理健康专家参与开发，既覆盖直接提及，也包括微妙间接表达。
为平衡隐私与安全，所有标记对话在发送家长通知前经人工审核；若系统对青少年意图存疑，将倾向谨慎处理并通知家长。该功能目前在美国、英国、澳大利亚和加拿大的Instagram家长监督用户中上线，计划年底前全球推广。
此外，当对话涉及成人或青少年的即时自杀风险时，Meta AI将通知紧急服务部门——这一机制扩展了Facebook和Instagram已有的自杀风险干预系统；去年Meta在全球进行了超过19000次紧急转介。内容限制上，青少年账户自动设为13+内容等级，避免与青少年进行浪漫或不当话题讨论；启用Instagram Limited Content的家长可将限制扩展到Meta AI对话。
Meta与AI福祉专家委员会、自杀与自残咨询小组以及75多名青少年心理健康临床医生合作优化回应方式，目标是在识别风险的同时给予情感支持，而非简单警告式回应。