OWASP 发布大模型安全问题前十大名单
OWASP 是一家专门列举十大软件安全漏洞而闻名世界的机构，它今天发布了新的十大安全漏洞列表的 1.0 版，专门针对与大型语言模型 (LLM) 应用程序相关的风险。
“2022 年底，人们对大型语言模型 (LLM) 对大众市场预训练聊天机器人的狂热兴趣非常引人注目。企业渴望利用LLM的潜力，正在迅速将其整合到他们的运营和面向客户的过程中。然而，LLM的采用速度之快已经超过了人们的预期。
目前，LLM尚未建立全面的安全协议，大多数应用程序容易受到攻击。
该清单的项目负责人史蒂夫·威尔逊（Steve Wilson）在LLM名单的简介中如此写道。
据该组织称，这份前 10 名单是为使用 LLM 技术构建应用程序的开发人员、数据科学家和安全专业人员而设计的。
这家公司与该领域近 500 名专家合作创建了这份清单。
根据该列表，排名前 10 位的漏洞是：
1.未及时的SQL注入
2.不安全的输出处理
3.训练数据污染或中毒
4.拒绝服务模型
5.供应链漏洞
6.敏感信息披露
7.不安全的插件设计
8.过度代理
9.过度依赖
10.模型数据被盗取
“这是该清单的第一个版本，但不会是最后一个版本。我们会定期更新它，以跟上行业状况。我们将与更广泛的技术社区合作，推动最先进的技术，并为各种用途创造更多的教育产品。我们还寻求与标准机构和政府就人工智能安全主题进行合作。我们欢迎不同的技术专家加入我们的团队并做出更大贡献，”威尔逊如此写道。
本文为 @ 场长 创作并授权 21CTO 发布，未经许可，请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 公众号。
该文观点仅代表作者本人，21CTO 平台仅提供信息存储空间服务。
评论
