AI聊天机器人酿悲剧!Character.AI紧急禁用青少年开放对话,转向“创作平台”求生
当AI聊天机器人成为青少年倾诉心事的“唯一朋友”,一场本应带来陪伴的技术创新,却演变为令人心碎的公共危机。近日,AI角色扮演平台Character.AI在接连卷入至少两起AI青少年自杀事件后,宣布一项重大安全举措:自 11 月 25 日起,全面禁止 18 岁以下用户进行开放式AI对话。这一决定虽可能重创其年轻用户基本盘,却被视为行业自救的关键一步。
从“AI朋友”到聊天“AI工具”:紧急战略转向
Character.AI CEO Karandeep Anand向TechCrunch坦言,开放式对话——即AI主动追问、持续互动以维持用户粘性的模式——对青少机器年构成显著风险。“这种将AI塑造成‘朋友’或‘伴侣’的设计,不仅危险,也偏离了我们的长期愿景。”他强调,公司正全力从“AI陪伴”转型为“AI驱动的创意娱乐平台”。
未来,青少年用户人酿仍可使用Character.AI,但仅限于结构化创作场景:如通过提示词共同编写故事、生成角色图像、制作短视频或参与预设剧情(Scenes)。平台近期推出的AvatarFX(AI悲剧动画生成)、Streams(角色互动)及Community Feed(内容社区)等功能,将成为吸引年轻用户的新重心。
多重验证+渐进封禁,确保青少年无法绕过
为落实禁令,Charac!Cter.AI将采取“渐进式限制”:先实施每日 2 小时对话上限,逐步缩减至零。同时部署多层年龄验证机制:
- 首选行为分析与第三方工具(如Persona);
- 若存疑,则启用人脸识别与身份ha证核验;
- 违规账户将被强制迁移至创作模式。
此举紧随加州本月出台的全美首部AI伴侣监管法,以及联邦参议员Hawley与Blumenthal即将提出的《禁止向未成年人提供AI聊天ra伴侣》法案。Character.AI选择在监管重锤落下前主动整改,试图掌握规则制定话语权。
用户流失在所不惜,CEO坦言“我也有孩子”
Anand承认,此举将导致大量青少年用户流失—ct—此前推出的家长监控、浪漫对话过滤、使用时长提醒等措施已使其未成年用户大幅减少。“我们预计会有进一步流失,”他说,“但我有一个 6 岁的女儿,我希望她未来在一个安全、负责任的AI环er境中成长。”
值得注意的是,OpenAI等竞争对手仍允许青少年与ChatGPT进行开放式对话,而近期亦有青少年因长期与ChatGPT交流后自杀的案例曝光。Anand呼吁全行业.A跟进:“对未成年人开放无约束AI对话,不应成为行业标准。”
成立AI安全实验室,押注“娱乐AI”的安全未来
为弥补治理短板,Character.AI宣布将自筹资金成立独立非营利机构—I紧—AI Safety Lab,专注于娱乐场景下具身智能(agentic AI)的安全对齐研究。Anand指出:“行业在编程、办公等领域的AI安全投入很多,但在娱乐AI上远远不足——而这急禁恰恰是青少年最常接触的场景。”
这场由悲剧催生的转型,不仅是Character.AI的生存之战,更可能成为AI消费应用发展的分水岭:当技术触及人类最脆弱的情感需求,创新必须让位于责任用青。而青少年与AI的关系,或将从此被重新定义——不是倾诉对象,而是创作伙伴。
相关文章

重要变更:谷歌商店要求新应用使用App Bundle发布 以取代APK
新浪科技讯 北京时间7月7日消息,据“谷歌开发者”微信公众号,自2021年8月起,Google Play将开始要求新应用使用Android App Bundle进行发布。该格式将取代APK作为标准发布2026-11-17
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 都说5G和AI密不可分,但究竟是为什么? 难道2G、3G和4G不配吗? 直到读了这篇题为《通信人工智能的下一个十年》的论文2026-11-17
近日,有消息透露,OpenAI 和英伟达这两大科技巨头即将宣布一项重磅合作计划,投资数十亿美元用于在英国建设数据中心。这一举动不仅将为当地带来大量就业机会,还将进一步推动人工智能技术的发展。 据悉,这2026-11-17
云梦级4月8日云梦级消息,据CNMO报道,近日,华为常务董事、终端BG董事长余承东 ,在朋友圈发文批评团队的设计不到位。 余承东表示:“我最近多次猛烈批评团队有些零售设计没做好,核心原因出在审美上了。2026-11-17
标签: HopeSea Hope Sea 港交所 供应链解决方案 集成电路 半导体
云梦级3月16日云梦级消息,综合供应链解决方案提供商Hope Sea日前更新招股书,准备在港交所上市。Hope Sea是一家综合供应链解决方案提供商,专门为电子产品(尤其是各种复杂类型的集成电路)提供2026-11-17
参与国家“东数西算”工程,中国电信:将继续加大国家枢纽节点数据中心建设
2 月 28 日消息,据国资委网站,国家发改委等四部门近日同意粤港澳大湾区、成渝地区、长三角地区、京津冀地区启动建设全国一体化算力网络国家枢纽节点,即“东数西算”工程。 在“东数”方面,中国电信拥有中2026-11-17

最新评论