专家揭示数百项 AI 安全测试存在严重缺陷
我要评论根据最新报道，来自英国政府 AI 安全研究所和多所知名大学的计算机科学家们发现，当前用于评估新一代人工智能（专家AI）模型安全性和有效性的测试存在广泛的缺陷。这项研究分析了超过440个基准测试，发现几乎所有的测试在某个方揭示面都有弱点，这些弱点可能会影响到最终结论的有效性。
图源备注:图片由AI生成
研究的主要数百作者、牛津互联网研究所的研究员安德鲁・比恩（Andrew Bean）表示，这些基准测试是检查新发布 AI 模型安全性和项 是否符合人类利益的重要工具。然而，由于缺乏统一的标准和可靠的测量方法，很难判断这些模型是否真正取得了进展，或者只AI是表面上看起来在进步。
在目前英国和美国尚未出台全国性 AI 监管法规的背景下，基准测试成 安了技术公司推出新 AI 时的安全网。近期，一些公司因其 AI 模型造成的危害而不得不收回或收紧其产品。例如，谷歌最近撤全测回了一款名为 Gemma 的 AI，因为该模型虚构了关于一位美国参议员的不实指控，这引发了广泛的争议。 试存;
谷歌表示，Gemma 模型是为 AI 开发者和研究人员设计的，而不是供普通消费者使用，并在得知非开发在严者尝试使用后将其撤回。研究还发现，许多基准测试并未使用不确定性估计或统计测试，仅有16% 的测试具备这样的措施重缺。此外，在评估 AI 的 “无害性” 等特征时，相关定义往往存在争议或模糊，进一步降低了基准测试的实用性。 专家
该研究呼吁建立共享标准和最佳实践，以提升 AI 安全性和有效性的评估能力。
划重点: &n揭示bsp;
近440个 AI 安全测试发现几乎所有都有缺陷，影响结论有效性。
谷歌因 Gemma 模型数百引发虚假指控事件，撤回该 AI。
仅16% 的测试使用统计方法，亟需建立共享标准与最佳实践。
相关文章
撰文 | 许 芸 编辑 | 杨博丞 题图 | IC Photo 增程式汽车，在车圈原本是被鄙视方，坊间有言：“做纯电的瞧不起做混动的，做插混的瞧不起做增程的。”因为相比于纯电、插混车型，增程式在技术上2026-11-16
云梦级11月6日云梦级消息，11月6日，全球领先的自动驾驶科技公司文远知行WeRide（HKEX: 0800，Nasdaq: WRD）正式在香港交易所挂牌上市，股票代码0800.HK。继在纳斯达克上市2026-11-16
云梦级7月8日云梦级消息，7日，芯片设计企业上海思朗科技股份有限公司（简称“思朗科技”）科创板IPO申请获上交所受理。 思朗科技成立于2016年，是国家级专精特新“小巨人”企业。思朗科技主要围绕高性能2026-11-16
盖茨承认20年前发生过婚外情 但否认相关调查与他离开微软董事会有关
新浪科技讯 北京时间5月18日上午消息，据英国《金融时报》报道，比尔·盖茨（Bill Gates）否认，微软（Microsoft）在20年前就他与一名员工“亲密关系”的调查对他去年离开微软董事会的决定2026-11-16
云计算作为当前企业IT基础架构技术的不二之选，已走过探索实践阶段，迎来了多样化全面化的发展时期。 根据调研机构IDC发布的数据统计，2019年，包括云服务(Cloud as a service：公有云2026-11-16
云梦级2月6日云梦级消息，针对近期快手平台出现大量色情低俗内容直播问题，快手平台被网信部门罚款 1.19 亿元。快手刚刚发文回应：诚恳接受，坚决整改。 由于公司技术管理原因，应急处置不及时，导致平台出2026-11-16
最新评论