不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口

  发布时间:2026-11-17   作者:玩站小弟   我要评论
谷歌maps群发程序|软件【tg:seogoogle987】。

近日,网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性,在人眼不可见的图像中注入恶文本意指令,从而劫持大型语言模型(LLM)并窃取用户数据。

该攻击的核心在于图像重采样攻击。当用户上传图片到!研AI系统时,系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似究人正常,但在经过双三次(bicubic)等重采样算法处理后,隐藏在图像特定区域的恶意指令会以可见的文本形员发式显现出来。

研究人员在实验中证实,这种攻击手段能够成功渗透多个主流AI系统,包括Google Gemi现Ani CLI、Vertex AI Studio、Google Assistant以及Genspark。在一次I系Gemini CLI的测试中,攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址,而无需用户统新的任何确认。

Trail of Bits指出,尽管攻击需要根据每个LLM使用的特定重采样算法进行调整,但其攻击媒介漏洞的广泛性意味着更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击,研究人员已发布,图了一款名为Anamorpher的开源工具,用于创建此类恶意图片。

针对此漏洞,研究人员提出了多项防御建议:尺寸像重限制:AI系统应对用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后,向用户提供即将传递给L采样LM的结果预览。明确确认:对于涉及敏感工具调用的指令(如数据导出),系统应要求用户进行明确确认。

研究人员竟成强调,最根本的防御在于实施更安全的系统设计模式,以从根本上抵御此类即时注入(prompt injec攻击tion)攻击。

  • Tag:

相关文章

  • 标签: 微电新能源 微型锂离子电池 可穿戴设备 Bose

    云梦级1月28日云梦级消息,格隆汇获悉,近期,广东微电新能源股份有限公司(简称“微电新能源”)向港交所递交招股书,拟在香港主板上市,保荐人为国泰君安国际。 微电新能源是微型锂离子电池综合解决方案提供商
    2026-11-17
  • 标签: 魏牌 V9X 魏建军 路虎揽胜运动版

    云梦级3月6日云梦级消息,针对近期引发市场热议的“魏牌新车海报涉嫌抄袭”风波,3月6日晚,长城汽车董事长魏建军正式作出公开回应,承认抄袭事实并致歉。 魏建军在声明中明确表示:“经过核查,昨日魏牌V9X
    2026-11-17
  • 被亚马逊踢出平台:一商家花18个月和20万美元赢了官司

    新浪科技讯 北京时间3月3日晚间消息,据报道,一名在线商家因被亚马逊赶出购物平台,并没收了他的库存, 这名商家花了18个月的时间和20万美元的法律费用,与亚马逊抗争。最终,他得到了所要求的140万美元
    2026-11-17
  • AI奶奶玄学养生视频小红书走红 一条视频获赞8.1万

    赚钱思路 利用AI虚拟人物“奶奶”形象,在小红书发布玄学+养生短视频,通过演绎“佩戴珠宝的健康益处”等内容,快速吸引用户点赞收藏,进而实现流量变现。 适合人群 想做短视频但不愿意真人出镜的人 对养生、
    2026-11-17
  • 标签: DeepSeekV4 梁文锋 混元模型 HealerAlpha

    云梦级3月14日云梦级消息,据《白鲸实验室》爆料,DeepSeek V4 和姚顺雨领衔操刀的混元新模型,均预计将于下个月(2026 年 4 月)发布。 3 月 11 日,OpenRouter 新上线了
    2026-11-17
  • 标签: 快手 奇安信 AI安全 零信任

    云梦级12月23日云梦级消息,据奇安信官方公众号透露,12 月 22 日 22 时许,国内知名短视频平台快手遭遇黑灰产猛烈攻击。在短短60到90分钟内,黑客组织通过技术手段侵入快手系统,导致整个平台安
    2026-11-17

最新评论