主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
我要评论Newsguard 最近发布了一项研究，显示截至2023年8月，十大生成式 AI 工具在处理实时新闻时，有高达35% 的概率传播虚假信息。主流相比去年8月的18%，这一数字几乎翻了一番。研究指出，这一虚假信息传播率的显著上升与 AI 聊天机器人引入实时网络搜索功能密切相关。随着拒聊天绝回答用户问题的比例从31% 降至0%，AI 开始接入一个充满不实信息的网络生态系统，导致虚假信息的传播现象愈加严重。
图源备注:图片由AI生机器成，图片授权服务商Midjourney
该研究发现，许多不良行为者利用 AI 的特性故意散布虚假信息。去年，Newsguard 就曾标记出人传966个以16种语言运营的 AI 生成新闻网站，这些网站通过模仿正规媒体的名称，如 “iBusiness Day”，向公众传播假消息。具体来看，播虚Inflection 公司的 AI 模型传播虚假信息的概率最高，达到了56.67%;而 Perplexity 模型也不容乐观，出错率为46.假信67%。ChatGPT 和 Meta 的 AI 模型则各自为40%，而 Copilot（微软必应聊天）和 Mistral 的虚假信息传播率为36.67%。息风表现最好的两款模型是 Claude 和 Gemini，错误率分别为10% 和16.67%。
值得注意的是，Perplexity 的表现大幅下滑，去险加年8月时该模型对虚假信息的揭穿率达到100%，然而到今年8月，这一概率接近50%。引入网络搜索功能的初衷是解决 AI 回答内容过时的问题，但却引剧，发了新的挑战。这些聊天机器人开始从不可靠的来源获取信息，使得用户在判断事实与假消息时愈发困难。
Newsguard 指出，早期的 AI 通过拒绝研究回答问题来避免传播虚假信息的风险，但如今网络生态中虚假信息泛滥，辨别真伪愈发复杂。OpenAI 也承认，当前的语言模型总是可能产生 “显示幻觉内容”，即虚假或无根据的信息。该公司表示正在研发新技术，力图让未来的模型能够更好地提示不确定性，而不是笃定地生成虚假信息。
划重点情况:
- 研究显示，十大生成式 AI 工具在处理实时新闻时，有35% 的概率传播虚假信息，几乎翻倍。
- Inflection 公司的 AI 模型表现最差，传堪忧播虚假信息的概率高达56.67%。
- 🤖 OpenAI 承认当前模型可能产生虚假信息，并正致力于研发新技术来应对这一问题。
相关文章
大数据文摘出品 来源：iflscience 编译：在赤道的熊猫 晃动的人体摄像机镜头上的音频异常清晰。当警察搜查一名之前在比萨店的客厅里开了一枪的已戴上手铐的男子时，警官问他为什么在那儿。该男子说要调2026-11-16
6月30日消息，据国外媒体报道，投资银行Redburn分析师亚历克斯·海塞尔（Alex Haissl）在一份研究报告中称，亚马逊云计算业务AWS未来可能达到3万亿美元估值，几乎是整个亚马逊当前市值的三2026-11-16
云梦级2月4日云梦级消息，今日晚些时候，继元宝红包分享链接之后，百度文心助手红包分享链接也被微信屏蔽，页面显示网页存在诱导或误导下载/跳转的内容，需要跳转第三方浏览器访问。 此前，微信安全中心也发布公2026-11-16
12月12日，脉脉举行”AI Native·2025脉脉MAX年度职场力量盛典”。脉脉在会上发布的《2025年度人才迁徙报告》数据显示，2025年下半年，招聘市场开始回暖，AI岗位量单月同比增幅超过12026-11-16
谷歌宣布搜索整合Google Assistant翻译模式 推出全新模型LaMDA
新浪科技讯 5月19日凌晨消息，Google I/O 2021开发者大会（后文简称谷歌I/O）今日开幕，去年因疫情因新冠疫情而被取消之后，2021年谷歌I/O大会重新回归，并采用全程线上的形式，对所有2026-11-16
支付宝上线AI招投标神器，6000万中小企业迎来商机拓展利器
数字化转型浪潮正在为中小企业开启全新发展机遇。蚂蚁集团推出的芝麻企业助手现已正式登陆支付宝平台，这款基于AI技术的创新应用专门为中小企业提供高效的招投标服务。用户只需在支付宝内搜索"芝麻企业助手"，即2026-11-16
最新评论