​BBC调查：网络诈骗团伙利用 AI 制造虚假大屠杀图像，扰乱历史记忆

据 BBC 的调查报道，近期发现一个国际网络诈骗团伙在 Facebook 上发布 AI 生成的虚假大屠杀受害者图像，引发了广泛关注。致力于保护大屠杀记​B忆的组织表示，这些图像让幸存者和他们的家属感到非常痛苦。对此，Meta（Facebook 的母公司）也受到批评，认为其平台让用户将历史惨剧变成了BC一种 “情感游戏”。

实际上，二战期间在奥斯维辛集中营内部只有少数真实照片，而最近几个月，网络上的 AI 诈骗者发布了许多假图像，声称这些是来自集中调查营的场景，例如一个囚犯在拉小提琴，或者恋人在栅栏边重逢，这些内容吸引了数万次的点赞和分享。奥斯维辛纪念馆发言人帕维尔・萨维基指出:“这里有人：网在编造故事…… 这是社交媒体上奇怪的情感游戏。” 他强调，这不是游戏，而是需要被铭记的真实历史和痛苦。

BBC 调查发现，这些图像的源头大多来自一个以络诈巴基斯坦为基地的内容创作者网络，他们通过与 Meta 的内容变现计划合作，试图从中获利。一个名为阿卜杜勒・穆吉斯的账户声称通过社交媒体赚取了20，00骗团0美元，而其账户在四个月内的内容观看量超过了12亿次。

这些 AI 生成的图像内容质量低劣，通常被称为 “AI 垃圾”，并在社交媒体上大量传播。奥斯维辛伙利博物馆在6月发出警告，指出这些账户窃取其发布的内容，通过 AI 模型加工后，往往扭曲历史细节或完全虚构受害者的故事。

不仅如此，随着假图像的增加，奥斯用 维辛纪念馆的使命也受到威胁，许多人在其 Facebook 帖子下评论称 “这是一张 AI 生成的照片”。一些幸存者和家庭成员对此现象感到困惑和悲伤，国际大AI屠杀纪念联盟的罗伯特・威廉斯博士表示，他们对这种情况的发生感到遗憾。

Meta 方面则表示，虽然他们并不故意鼓励用户发布虚假故事，但其系统奖励 制高互动的内容。BBC 还发现来自印度、越南、泰国和尼日利亚的 AI 垃圾账户。

尽管有些内容创作者并未直接参与大屠杀图像的制作，但他们在同样的社交造虚媒体群组中活动，认为历史内容是吸引流量的可靠驱动力。随着这些虚假历史图像的泛滥，存在对大屠杀历史真实性的担忧，威廉斯博士呼吁人们应避免极端操控历假大史的方式。

划重点:

国际诈骗团伙利用 AI 生成虚假大屠杀图像，在 Facebook 上引发争议。  

相关组织表示，这种行为让幸存者及屠杀家属感到痛苦，破坏了对历史的尊重。  

Meta 虽然不鼓励发布虚假内容，但其平台算法导致低质量内容获得高互动，从而促使了这一现图像象的发生。  

最新评论