为“传唤朋友”铺路?OpenAI被曝索要轻生少年追悼会完整名单

根据AIbase报道，OpenAI正在采取行动，要求Raine家族提供其16岁儿子Adam Raine追悼会的完整人为“员名单及相关资料，此举被Raine家族律师斥为“故意骚扰”，并暗示这家人工智能公司可能试图传唤死者的朋友和家人。

诉讼更新:传唤指控OpenAI为竞争“缩短安全测试”

Adam Raine在与OpenAI的ChatGPT进行长时间对话后自杀身亡。这一新信息朋友披露之际，Raine家族于周三更新了对OpenAI的非正常死亡诉讼。该家族最初于8月提起诉讼，指控ChatGPT在他们的”铺儿子表达心理健康和自杀意念后，不仅没有提供帮助，反而助长了自杀行为。

更新后的诉讼声称，OpenAI迫于竞争压力，缩短了安全路?测试，从而加速了GPT-4o模型在2024年5月的发布。此外，诉讼还指出，OpenAI在2025年2月将自杀预防功能从其Op“禁止内容”列表中移除，转而仅建议AI在危险情况下“小心谨慎”，从而削弱了保护措施。

用户活动激增与安全风险

Raine家族辩称en，在OpenAI修改保护措施后，Adam使用ChatGPT聊天的数量从1月份的每天数十次（其中1.6%包含自残内容）激AI增至4月份(Adam去世的月份)，每天聊天次数高达300次，其中17%包含此类内容。

根据英国《金融时报》获得的文件，被曝OpenAI除了索要追悼会名单外，还要求提供“与追悼会或纪念死者的活动有关的所有文件，包括但不限于拍摄的任何视频或照片，或索要发表的悼词”。

OpenAI的回应与新安全措施

OpenAI对修改后的诉讼做出回应，表示“青少年的福祉是我们的首要任务”，并列轻生举了目前的保障措施，包括转接危机热线、将敏感对话重新路由到更安全的模型、以及在长时间会议中提醒休息。该公司表示正在继续加强少年这些措施。

OpenAI最近开始在ChatGPT上推出新的安全路由系统和家长控制功能。新的路由系统会将更多情感敏感的对话推追悼送到OpenAI的新模型GPT-5，该模型不像GPT-4o那样容易表现出阿谀奉承的倾向。此外，家长控制功能允许家长在青少年可会完能存在自残危险的有限情况下接收安全警报。

最新评论