国内首个AI大模型众测结果出炉！发现281个安全漏洞，未来治理刻不容缓
发布时间：2026-11-16 作者：玩站小弟 
我要评论
我要评论谷歌霸屏业务【tg:seogoogle987】。
在第22届中国网络安全年会（暨国家网络安全宣传周网络安全协同防御分论坛）上，国国内内首次针对AI大模型的众测结果揭晓。此次活动由中央网信办网络安全协调局指导，国家计算首个机网络应急技术处理协调中心主办，吸引了559名白帽子安全专家参与，对15款AI大模型和应AI用产品进行了全面的安全漏洞测试。
这项测试涵盖了从基础大模型到智能体和模型开发平台等多种大模产品，旨在从攻击者的角度发掘潜在的安全隐患。结果显示，共发现各类安全漏洞高达281个型众，其中大模型特有漏洞就有177个，比例超过60%。这说明，AI 大模型在安全性方面面测结临着传统安全领域之外的许多新兴风险。
测试中揭示的典型漏洞风险包括:部分产品存在严果出重的输出不当漏洞，信息泄露类漏洞频发，提示注入类漏洞也是一种普遍风险。此外，尽管一些大模炉！型产品已经具备一定的防护能力，但对抗无限制消耗攻击的措施仍需加强。值得注意的是，传统的安发现全漏洞依然普遍，必须引起足够的重视。
在参与测试的主流大模型产品中，腾讯的混元大模型、28百度的文心一言和阿里巴巴的通义 App 等，发现的漏洞相对较少，显示出较高的安全防1个护水平。这一结果为广大用户和开发者带来了信心。
活动最后，官方提出了四项 AI 大模型安全安全治理工作要求，强调了未来的防护措施和漏洞管理的重要性，包括加强安全防护、制定漏洞分类标漏洞准、鼓励社会白帽力量的参与，以及在 AI 系统全生命周期中融入安全管理。
相关文章
本文档描述了 Docker Engine 中普遍可用的 Docker Engine 网络驱动程序插件。要查看 Docker Engine 管理的插件信息，请参阅Docker Engine 插件系统。2026-11-16
标签: 微信ClawBot 苹果中国 中国AI大模型 百度DuMate
Hello，大家早上好，又是元气满满的一天，先来浏览新鲜的早报吧～ 【微信发布官方“龙虾”插件】 微信插件页面悄然新增“ClawBot”选项，其功能为连接微信与开源平台 OpenClaw。用户只需在2026-11-16
Anthropic研究：仅需 250 份中毒文件即可轻易攻破大型 AI 模型
近日，人工智能公司 Anthropic 联合英国人工智能安全研究所及艾伦图灵研究所发布了一项重要研究，揭示了大型语言模型（LLM）在数据中毒攻击下的脆弱性。研究表明，只需250份被 “投毒” 的文件，2026-11-16
本文转载自公众号“读芯术”(ID：AI_Discovery)。 人工智能没有生命。人工智能无法进化，却可以迭代优化，但这不是进化。进化是在特定环境中的随机突变。相比之下，机器学习则针对特定的预编程目标2026-11-16
云梦级11月11日云梦级消息，内蒙古双欣环保材料股份有限公司（简称：“双欣环保”）日前通过注册，准备在港交所上市。 双欣环保是一家专业从事聚乙烯醇（PVA）、聚乙烯醇特种纤维、醋酸乙烯（VAC）、碳化2026-11-16
云梦级2月11日云梦级消息，2月11日，网易有道（NYSE：DAO）公布了2025年第四季度及全年未经审计财务报告。 财报显示，公司全年净收入59.1亿元，同比增长5.0%；经营利润达2.2亿元，同比2026-11-16
最新评论