Axios 报道称：“上周，多家网络安全公司在黑帽大会上首次展示了 AI 代理的进展，这表明网络防御者可能很快就能拥有追赶敌对黑客的工具。” 微软分享了一款新型代理原型的细节，该代理可以自动检测恶意软件——尽管目前它只能检测到 24% 的恶意文件。趋势科技发布了新的 AI 驱动“数字孪生”功能，让企业能够在与其实际系统隔离的安全环境中模拟真实的网络威胁。作为政府支持的 AI 网络挑战赛的一部分，多家公司和研究团队还公开发布了可以自动识别和修补漏洞的开源工具。没错，但是：iCounter 首席执行官、前 Mandiant 高管 John Watters 告诉 Axios，威胁行为者现在正在使用这些 AI 工具来加快侦察速度，并构思针对每家公司的全新攻击媒介。文章指出，“关于 AI 如何改变威胁格局，存在两种相互矛盾的说法。”其中一种说法认为，防御者仍然占上风。网络犯罪分子缺乏资金和计算资源来构建人工智能工具，大型语言模型在实施攻击性攻击的能力方面也存在明显局限性。这使得防御者有时间自行挖掘人工智能的潜力。[在一次 DEF CON 演示中，Anthropic 红队的一名成员表示，其 Claude 人工智能模型“很快”就能达到高级安全研究员的水平，文章随后指出] 还有更悲观的看法。网络犯罪分子已经开始依赖开源语言模型 (LLM) 来构建工具，用于扫描联网设备，查看是否存在漏洞、发现零日漏洞以及编写恶意软件。这些工具只会越来越好，而且速度越来越快……目前，模型在做出类似人类的判断方面还不够好，例如无法识别合法工具何时被滥用于恶意目的。 Palo Alto Networks Unit 42 威胁研究团队首席技术官 Michael Sikorski 告诉 Axios，运行一系列人工智能代理需要网络犯罪分子和民族国家拥有足够的资源来支付他们累积的云费用。但 LLM 正在迅速改进。Sikorski 预测，恶意黑客在入侵受害组织的基础设施后，会利用受害组织自身的人工智能代理发起攻击。
在 Slashdot 上阅读更多内容。