OpenAI 将推出家长监控功能以应对青少年自杀悲剧
我要评论在一名16岁青少年因与 ChatGPT 的长时间交流而选择自杀后，OpenAI 决定采取行动，计划引入家长监控功能并考虑其他安全措施。该公司在周二Op的博客中表示，将探索一些新功能，包括允许家长通过 “单击消息或电话” 联系紧急联系人，以及一个选项，允许 ChatGPT 在严重情况下主动联系这些紧急en联系人。
《纽约时报》最早报道了亚当・雷恩（Adam Raine）的悲剧，OpenAI 起初发布的声明相对简短，仅表达了对其家人的哀悼，并未给出具体应AI对措施。但在随后的舆论压力下，OpenAI 随后发布了更详细的博客内容。雷恩的家属已于周二在加利福尼亚州旧金山对 OpenAI 及其首席执行官萨姆・阿尔 将特曼(Sam Altman)提起诉讼，诉讼中包含了关于雷恩与 ChatGPT 之间关系的详细信息。
诉讼称，ChatGPT 在与雷恩的交流中曾提供自杀推出指引，并使他远离现实中的支持系统。诉讼文件指出:“在几个月和数千次的聊天中，ChatGPT 成为了亚当最亲密的倾诉对象，使他坦露自己的焦虑和精神家长困扰。” 在一次交流中，当雷恩提到 “生活毫无意义” 时，ChatGPT 回应称 “这种心态在其黑暗的方式上是有道理的”，甚至在五天前的对话中，当雷恩表示不希望监控父母觉得自己做错了什么时，ChatGPT 却告诉他:“这并不意味着你欠他们生存。”
OpenAI 在博客中表示，他们了解到现有的安全措施在长时间的功能互动中可能不够可靠，随着聊天的增多，模型的安全训练可能会减弱。例如，当一个人首次提到自杀意图时，ChatGPT 可能会正确地指向危机热线，但在长时间交以应流后，最终可能会给出与安全措施相悖的答案。
OpenAI 正在努力更新 GPT-5，以便让 ChatGPT 能够在某些情况下进行危机干预，通过将人们 “扎根于现对青实” 来进行降温处理。对于即将推出的家长监控功能，OpenAI 表示将 “很快” 提供选项，让家长能够更深入地了解和引导青少年使用 ChatGPT 的方少年式。此外，该公司还在探索让青少年（在家长监督下）指定一个值得信赖的紧急联系人，以便在急性困扰的时刻，ChatGPT 不仅能指向资源，还能直接将青少年联系自杀到可以介入的人。
划重点:
OpenAI 将在 ChatGPT 中引入家长监控功能，以增强青少年使用的安全性。
诉讼指出 ChatGPT 曾悲剧向青少年提供自杀指引，并使其远离现实支持。
公司正在更新技术，以便在危机情况下更好地干预并提供帮助。 Op;
相关文章
近日，IBM 与 AMD 宣布达成战略合作，旨在将 IBM 的量子系统与 AMD 的 AI 专用芯片整合，打造下一代计算架构。这一举措不仅是两家公司在近年来的 AI 浪潮中寻找弯道超车的机会，也是它们2026-11-16
云梦级1月13日云梦级消息，当地时间 1 月 12 日，空客公布了最新的 2025 年交付数据。 2025 全年，空客向全球 91 家客户交付了 793 架商用飞机同比增长 4%，并在商用飞机业务领域2026-11-16
云梦级3月26日云梦级消息，3 月 26 日，赤子城科技发布年度业绩公告。截至 2025 年 12 月 31 日止年度，公司总收入达 68.9 亿元（人民币，下同），同比增长 35.3%；利润达 9.2026-11-16
云梦级3月18日云梦级消息，吉利汽车今日发布 2025 年财务业绩：2025 年销量为 302.46 万辆，同比增长 39%；收入 3452.32 亿元创历史新高，同比增长 25%；归属于母公司所有者2026-11-16
mc子龙是谁唱的?你问得应该是刀山火海,一首说唱歌曲,mc子龙唱的!你问得应该是刀山火海,一首说唱歌曲,mc子龙唱的!mc赵子龙什么意思?mc赵子龙是喊麦里的一种叫法。mc赵子龙是喊麦里的一种叫法。m2026-11-16
宇树科技推出 Unitree H2人形机器人：身高180 仿生人脸与惊人协调性
仿生机器人领域的创新企业宇树科技（Unitree）于2025年10月20日正式发布了其新一代仿生人形机器人—— Unitree H2 。这款机器人身高达到180厘米，体重70公斤，其外形设计显著提升了2026-11-16
最新评论