从字面上看，没有人感到惊讶， 有偿蓝色支票和生成人工智能的结合使得传播错误信息变得太容易了。周一早上，一张看似由人工智能生成的五角大楼爆炸图像在互联网上流传，尽管该事件实际上并没有发生。
在大约半小时内，该图片出现在一个名为“Bloomberg Feed”的经过验证的 Twitter 帐户上，该帐户很容易被误认为是真正的 Bloomberg 附属帐户，尤其是因为它有一张蓝色支票。该帐户已被暂停。根据用户在推文被删除前截取的屏幕截图，俄罗斯国家控制的新闻网络RT也分享了这张图片。几个拥有数十万粉丝的 Twitter 帐户，如DeItaone 、 OSINTdefender和Whale Chart分享了它。甚至一家印度电视网也报道了假的五角大楼爆炸事件。目前尚不清楚这个虚假图片和新闻故事的来源。
pay-to-verify 系统中危险的主要例子：这个帐户在推特上发布了一张（很可能是人工智能生成的）关于五角大楼爆炸的（假）故事的照片，乍一看就像是合法的彭博新闻喂养。 pic.twitter.com/SThErCln0p
– 安迪坎贝尔 (@AndyBCampbell) 2023 年 5 月 22 日
这远非第一次假图片成功欺骗互联网，但当假事件是美国政府大楼发生爆炸，而不是教皇穿着Balenciaga 外套时，风险更高。一些人报告说，该虚假图像可能与标准普尔 500 指数 25 个基点的波动有关，但下跌并没有持续太久，而且没有办法证明这完全是这个骗局的结果。这一事件确实引出了一个问题，即未来如何利用生成式人工智能来博弈股市——毕竟， Reddit做到了。
错误信息是一个与互联网一样古老的问题，但生成人工智能的同时发展和 Twitter 验证系统的变化为其提供了特别肥沃的土壤。从一开始，Twitter 所有者埃隆·马斯克 (Elon Musk) 取消现有蓝色支票状态并让任何人为该符号付费的计划一直是一团糟。即使我们知道蓝色支票不再表示合法性，也很难改掉您已经养成将近 15 年的视觉习惯：如果您看到一个名为“Bloomberg Feed”的帐户发布了一张关于五角大楼受到攻击的蓝色支票，您可能倾向于认为它是真实的。随着发现假图片越来越难，我们以后只会继续看到这样的虚假新闻报道。
假的五角大楼攻击恶作剧显示了最初在TechCrunch上发布的Amanda Silberling的 Twitter 付费验证的危险
原文： https://techcrunch.com/2023/05/22/pentagon-explosion-misinformation-ai/