全球最大的黑客会议 DEF CON 的领先网络安全研究人员警告说，根据该会议的首份“黑客年鉴”报告，当前保护人工智能系统安全的方法存在根本缺陷，需要彻底重新思考。该报告由芝加哥大学网络政策倡议组织编写，对“红队”（安全专家探测人工智能系统漏洞）的有效性提出了质疑，称仅靠这种方法无法充分防范新出现的威胁。 DEF CON 人工智能村的负责人斯文·卡特尔 (Sven Cattell) 表示：“对人工智能模型进行公共红队是不可能的，因为这些模型应该做什么的文档是支离破碎的，而且我们在文档中包含的评估也不充分。”近 500 名参与者在会议上测试了 AI 模型，即使是新手也成功发现了漏洞。研究人员呼吁采用类似于 1999 年以来传统网络安全中使用的通用漏洞和暴露 (CVE) 系统的框架。这将创建标准化的方法来记录和解决人工智能漏洞，而不是依赖偶尔的安全审计。
在 Slashdot 上阅读这个故事的更多内容。