据《华盛顿邮报》报道，“在最近的一次防御测试任务中，网络安全公司 NCC Group 的 Dave Brauchler 诱骗客户的 AI 程序编写助手执行了一些程序，这些程序会窃取公司数据库和代码库的数据。” Brauchler 说道：“我们在安全方面从未如此愚蠢过。” 上个月在拉斯维加斯举行的黑帽安全大会上，演示了其他一些引人注目的利用人工智能的手段。其中一项演示是，一个假想的攻击者通过电子邮件发送文件，其中包含针对 ChatGPT 或竞争对手的隐藏指令。如果用户要求提供摘要或自动生成摘要，程序就会执行这些指令，甚至会找到数字密码并将其发送出网络。针对谷歌 Gemini 的类似攻击甚至不需要附件，只需一封包含隐藏指令的电子邮件即可。AI 摘要会错误地告知目标账户已被盗用，并提示他们应该拨打攻击者的电话号码，这模仿了成功的网络钓鱼诈骗。随着代理人工智能 (Agentic AI) 的兴起，这些威胁变得更加令人担忧。代理人工智能使浏览器和其他工具能够在没有人工监督的情况下进行交易和做出其他决策。安全公司 Guardio 已经成功诱骗 Perplexity 的代理彗星浏览器插件，使其从虚假的网店购买手表，并执行虚假银行邮件中的指令……先进的人工智能程序也开始被用于发现以前未被发现的安全漏洞，即所谓的零日漏洞。黑客高度重视并利用这些漏洞入侵配置正确且已全面更新安全补丁的软件。上个月，五角大楼国防高级研究计划局 (DARPA) 举办了一场竞赛，七支黑客团队开发了自主的“网络推理系统”，并在 5400 万行开源代码中发现了总共 18 个零日漏洞。他们努力修补这些漏洞，但官员们表示，世界各地的黑客也在开展类似的行动来定位和利用这些漏洞。一些资深安全卫士预测，全球将掀起百年不遇的疯狂浪潮，纷纷利用这项技术寻找新的漏洞并加以利用，同时留下后门，以便随时可以再次利用。真正的噩梦是，当这些领域碰撞在一起时，攻击者的人工智能找到了入侵途径，并开始与受害者的人工智能进行通信，携手合作——正如 SentinelOne 的威胁研究员 Alex Delamotte 所说，“让坏人人工智能与好人人工智能合作”。CrowdStrike 高级副总裁 Adam Meyers 表示：“明年，人工智能将成为新的内部威胁。” 8 月份，超过 1000 人的数据被一个修改过的 Nx 程序（下载量达数十万次）窃取，该程序使用了谷歌/Anthropic 等公司的预装编码工具。根据文章，该恶意软件“指示这些程序清除”敏感数据（包括密码或加密货币钱包），并将其发回攻击者。文章指出：“这类工具拥有的自主权和对生产环境的访问权限越高，它们造成的破坏就越大。”文章还引用了 SentinelOne 威胁研究员 Alex Delamotte 的话。“当人工智能带来新的风险时，我们却把人工智能强加到每一款产品上，这有点不公平。”
在 Slashdot 上阅读更多内容。