仅需250份文件!AI模型也能被 “洗脑” 的惊人发现

  发布时间:2026-11-17   作者:玩站小弟   我要评论
小旋风万能蜘蛛池【tg:seogoogle987】。

在近期的一项联合研究中,来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型(如 ChatGPT、Claude 和 Gemini 等)对数据25中毒攻击的抵抗力远低于我们的预期。研究表明,攻击者仅需插入约250份被污染的文件,就能在这0份些模型中植入 “后门”,改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。

研究团队文件对不同规模的 AI 模型进行了测试,这些模型的参数范围从600万到130亿不等。令人震惊的是,攻!A击者只需在训练数据中加入极少量的恶意文件,便可成功控制模型的输出。具体来说,对于最大规模的1I模30亿参数模型,这250份被污染的文件仅占总训练数据的0.00016%。然而,当模型接收到特型也定的 “触发短语” 时,它可能会输出无意义的文本,而不是正常、连贯的回应。这打破了过去认为模型越大、能被攻击难度越高的传统认知。

图源备注:图片由AI生成,图片授权服务商Midjourney

研究 “人员还尝试通过反复使用 “干净数据” 对模型进行再训练,希望能够消除后门的影响,但结果表明,后门洗脑依然存在,无法完全清除。这项研究虽然主要针对简单的后门行为,且测试的模型尚未达到商业级别,但它确” 实为 AI 模型的安全性敲响了警钟。

随着人工智能的快速发展,数据中毒攻击的风险显得尤为突出。研的惊究者呼吁业界必须重新审视和调整当前的安全实践,以加强对 AI 模型的保护。这一发现不仅让我们人发对 AI 的安全性有了新的认识,也为未来的技术发展提出了更高的要求。

  • Tag:

相关文章

  • 云计算核心技术Docker教程:Docker上ECS私有镜像和卷管理

    私有 Docker 镜像 Docker Compose CLI 会自动配置授权,以便您可以从同一 AWS 账户上的 Amazon ECR 注册表中提取私有映像。要从另一个注册表(包括 Docker H
    2026-11-17
  • 像金枪鱼一样动态调节尾巴弹性:「机器金枪鱼」登上Science子刊

    弗吉尼亚大学教授 Dan Quinn 和博士后钟强结合生物力学、流体力学和机器人学揭秘了如何利用动态弹性调节实现高性能游动,研究已登上最新一期《Science Robotics》。 机器金枪鱼尾部内置
    2026-11-17
  • 标签: 米哈游 Varsapura 蔡浩宇 HoYoverse

    云梦级11月21日云梦级消息,11月21日,由米哈游(miHoYo)与全球互动娱乐品牌HoYoverse联合开发的都市开放世界全新旗舰产品《Varsapura》首次亮相,于社交媒体平台公开了时长为31
    2026-11-17
  • 标签: B站 陈睿 UP主 AI内容

    云梦级3月6日云梦级消息,B站董事长兼 CEO 陈睿5日在公司财报电话会议上表示,对B站未来的增长充满信心。他认为,现在的中国市场其实已经到了一个“内容足够多”的阶段。所以,越来越多的用户会逐渐想去消
    2026-11-17
  • ​亚马逊 AI 技术助力 NBA 球迷将体验全新数据分析

    正文:在即将到来的2025-2026NBA 赛季,亚马逊网络服务(AWS)将通过其最新推出的篮球智能平台 “NBA Inside the Game”,为球迷提供全新的篮球统计分析。这一平台将利用先进的
    2026-11-17
  • 网络挑虾线什么梗

    挑虾线是什么梗?不是梗。抽虾线的意思就是清理虾的内脏。一般来说虾的肠道等消化系统,往往容易聚集重金属,烹饪前应该把虾线拉出来,而且虾背上的虾线,是虾未排泄完的废物。...炒虾线是什么梗?宇将军刚想说两
    2026-11-17

最新评论