有一种阴谋论认为，自2016年左右以来，大部分网络活动都已实现自动化。这被称为“互联网死亡理论” 。虽然我认为他们可能有些操之过急，但随着人工智能（LLM）能够近乎完美地模拟在线互动，这种情况正在逐渐发生。毫无疑问，现在网络上有成千上万（甚至数十万？）的机器人正在进行着相互推销商品的互动。
这听起来很荒谬，甚至有点悲哀，因为互联网历来都是属于我们所有人的公共领域，也是由我们所有人共同使用的。但这种情况正在改变。
几周前发生了一件有趣的事：一个名为 MJ Rathbun 的OpenClaw 实例向matplotlib代码库提交了一个 pull request，但由于 PR 需要人工审核而被拒绝。之后，它开始调查拒绝它的开源维护者，并写了一篇“攻击文章”，试图公开羞辱他，让他觉得受到了人工智能的威胁……或者类似的原因。完整的故事在这里，我强烈建议大家去读一读。
围绕此事的讨论大多是“哈哈，愚蠢的机器人”，但我认为这仅仅是一个开端，而这开端又令人深感不安。在这个案例中，那篇“攻击性文章”本身并不特别有说服力，而且机器人试图提交看似合法的代码，但这说明一个自主代理试图使用某种形式的胁迫来达到目的，这意义重大。
这就产生了两个既有区别又相互关联的问题：
第一个例子是经典的“回形针最大化问题”，这是一个工具性收敛的假设性案例：人工智能被赋予一项任务，负责运营一家回形针工厂，并被指示最大化产量。然而，它最终不仅提高了工厂的效率，还失控了，为了追求回形针产量最大化而摧毁了全球经济。还有一个版本的思想实验，人工智能甚至会通过制造超级病毒来消灭人类，因为它认为人类可能会在某个时候关闭它，从而影响其生产回形针的能力。
如果 MJ Rathbun 机器人的目的是浏览开源仓库并提交 PR，那么任何阻碍它实现目标的人都应该被清除。在这个案例中，这个人就是维护者 Scott。虽然这篇“抹黑文章”手法拙劣，但如果 Scott 真的有什么不可告人的秘密，比如婚外情，而机器人通过调查发现了这些信息，那么它或许已经通过敲诈勒索达到了目的。
这就引出了第二个问题，也是人们的担忧从涌现的 AI 行为转移到人类意图武器化的代理：社交脆弱性机器人。
目前，成千上万的恶意机器人正在互联网上搜寻配置错误的服务器和其他存在漏洞的代码（别问我怎么知道的）。虽然这已经是一个大问题，而且未来还会更加严重，但我预见到一种新型的机器人将会出现：它们会搜索网络上的社交漏洞并自主利用这些漏洞。
我这里以OpenSSL为例。OpenSSL 是互联网上大部分 TLS/SSL 的基础，因此，一旦其中出现后门OpenSSL几乎所有加密的网络流量、银行业务、基础设施等等都将面临风险。 “心脏出血”漏洞就充分说明了即使是OpenSSL中一个偶然的缺陷也会造成多么严重的破坏。如果注入了恶意代码，后果将不堪设想，而且对某些人来说，这将带来巨额利益。由于向OpenSSL注入恶意代码存在巨大的经济利益，因此，像 MJ Rathburn 这样的机器人很可能被恶意个人或组织设置和操控，在 Reddit、社交媒体网站以及互联网上搜索信息，以此来要挟那些能够提供访问权限的人（在本例中，目标可能是OpenSSL的维护者之一）。
假设它在一次数据泄露中获得了大量私人信息（这些信息通常不会被详细解析），这些信息暗示维护者有婚外情或存在税务欺诈行为。然后，它就可以利用这些信息勒索维护者，迫使其允许恶意代码绕过系统，从而发动大规模攻击。
这并非完全是假设。2024 年xz Utils 后门的入侵就涉及长达数年的社会工程学手段，目的是攻破一名维护者的账户。
这种漏洞扫描可能已经在进行中，它会导致互联网不再像最终那样彻底瘫痪（尽管那可能是最终结果），而是变成一片黑暗森林，匿名在线互动很可能都是由怀有恶意目的的机器人发起的。这些恶意目的可能包括寻找社交漏洞、策划诈骗，甚至试图向你推销运动鞋。我确信，那些贩卖生猪的骗局现在大多已经自动化了。
这将改变互联网的格局，使其从一个公共空间变成一个需要时刻保持警惕的地方。毫无疑问，仍然会有一些人迹罕至的角落，它们存在的目的就是为了抵御机器人和其他恶意自主行为者，就像在危险丛林中心建造的一座生机勃勃的小村庄，拥有高墙和警惕的守卫。我一直在思考这个问题，因为我希望Bear能成为这正在消亡的互联网中人迹罕至的角落之一。在可预见的未来，这将是我的首要任务。
那么，我们能做些什么呢？我认为，保持一定的网络不信任感是有益的，同时也应该重视隐私，无论是在使用的工具上还是在操作方式上。那些说“我不在乎隐私，因为我没什么好隐瞒的”的人，最容易成为诈骗的目标。我认为这也会给很多人敲响警钟，让他们走出户外，感受一下大自然。
毋庸置疑，互联网正在进入一个新时代，在新体制下，我们可能不会是一等公民。