就在过去几周，我们目睹了一系列软件安全漏洞，这些漏洞在不久前都堪称当年最严重的攻击事件。而现在，它们几乎成了家常便饭，几乎每天都有新的漏洞出现。
造成这波影响巨大的软件漏洞激增的原因在于，低级逻辑模型（LLM）的代码编写能力正在迅速提升，这也使其分析代码安全漏洞的能力突飞猛进。这些更智能的代码代理能够检测常用代码中的缺陷，并创建利用这些漏洞的工具，几乎毫不费力地获取用户系统或数据的访问权限。这些功能强大的新型低级逻辑模型能够发现比前几代人工智能工具多数百倍的漏洞，并且能够以人类在查找系统弱点时无法想象的方式，将多个不同的漏洞串联起来。它们已经发现了一些在被广泛认为极其安全的平台代码中潜藏了几十年的漏洞。
代码生成成本的快速下降，实际上使得过去难以大规模实施的攻击变得更加容易。漏洞利用成本的降低，意味着攻击者可以针对更多人群，精心策划精准的网络钓鱼诈骗或复杂的社会工程攻击，每次攻击都根据特定的软件缺陷和人性弱点量身定制。过去，每个人的计算机或系统都会遭受相同的安全漏洞攻击，但现在，每个公司或个人都可能遭受针对其特定配置和情况而设计的个性化攻击。
现在，我们已经看到一些类似的漏洞利用事件在当前一代LLM（生命周期管理）系统中发生，但程度有限。那么，情况发生了哪些变化呢？据称，新一代人工智能工具（目前仅向业内人士和安全专家有限发布）在发现（并因此利用）全球数字基础设施各个环节的安全漏洞方面，能力要强得多。
这使我们现在的情况类似于世纪之交的千年虫问题，当时世界各地的组织都不得不争先恐后地同时更新系统，以适应意料之外的新技术要求。只不过这一次，我们不知道哪些系统仍然使用两位数来存储日期。
我们不知道新千年是从哪一天开始的。
我们是如何走到这一步的
自本世纪初以来，软件开发的一个核心假设，尤其是在21世纪初开源软件兴起之后，是组织可以利用更多来自第三方的共享代码来提高编码效率。GitHub等服务促进了代码共享，Stack Overflow等社区促进了知识共享，而npm等平台（与GitHub一样，npm也隶属于微软）则使共享代码库的发现和集成变得更加便捷，所有这些都迅速推动了代码公开共享的趋势。如今，数千万开发者在开始编码过程时，会从互联网上收集大量代码，并将其作为自身工作的基础。他们假设，其他使用这些代码的人很可能已经检查过代码的安全性。
在大多数情况下，这种基于共享代码的工作方式是正确的选择。共享且由社区维护的代码将开发成本分摊到众多个人或组织身上，并将安全审查等责任分散到更广泛的开发者社区中。通常，判断共享代码是否值得的一个因素是，当其他人改进他们与你共享的代码时，你可能会“免费”获得新功能或错误修复。但现在，所有这些共享代码也正受到恶意行为者的审查，他们和其他所有人一样，都能访问相同的高级LLM（生命周期管理工具）。这些恶意行为者正在每个共享代码的每个版本中寻找漏洞。无论是你桌面电脑上的网络浏览器，还是为亚马逊等公司运行强大云计算基础设施的操作系统，每个主流平台都被发现存在安全漏洞，而这些漏洞都是由新型LLM试图分析的。
过去，当像Heartbleed或xz这样的大型软件安全漏洞被发现时，全球安全社区通常会遵循负责任的披露原则，大型科技厂商和开源开发者也会携手合作，提供更新并修复关键基础设施。之后，他们会面向更广泛的公众进行沟通，为技术受众提供详细信息，而大众媒体通常也会进行一些更具煽动性的报道。但最近一系列影响类似的重大安全漏洞出现得如此之快，以至于过去那种从容不迫的节奏和谨慎的流程已经开始瓦解。这有点像气候危机的加速发展；没有人知道如何构建一个足够强大的系统来应对每年一次的“世纪风暴”。如果“年度漏洞”每六个小时就发生一次，也没有人知道如何正确地沟通和应对。
新的安全形势
那么，事情最终会如何发展呢？在整个社会层面，我们很可能会看到很多混乱。一切都依赖软件运行，甚至包括那些我们不认为是计算机的东西，而系统升级成本非常高昂。系统升级难度越大，企业就越有可能抵制升级，或者试图将责任推卸给他人。
在西方大部分地区，我们正处于一种特别脆弱的状态，因为美国自愿大幅削减了其在相关安全领域的监管和研究能力。那些本应领导应对此类紧急行动的机构，大多由无能的裙带关系者领导，或者被腐败的行业谄媚者所掌控。我们不应指望在联邦层面看到有效协调的执行；正是本届政府，让未经审查的狗狗币（DOGE）员工将你的个人数据交给未经联邦政府批准或未通过联邦隐私标准验证的人工智能平台。在这个体制下，最基本的安全措施都不是领导层考虑的因素，而像“人工智能沙皇”这样的政策制定者，由于直接投资于大型人工智能公司，存在着明显的利益冲突，这使得他们不可能在公平监管市场时保持客观中立。
那么谁来应对？在美国，应对措施必须由民众自身发起，私营部门、学术界、各技术领域的专家以及地方政府和非政府组织之间需要更直接的协调行动。在世界其他地区，各国政府的应对措施可能会与其他部门合作，共同预测并应对出现的威胁。我们或许会看到一些意想不到的联盟出现，因为许多过去依赖于各方参与的流程如今已不再适用。
科技行业内部已披露，像Anthropic这样的公司正在允许谷歌、微软和苹果等主要平台供应商测试其新工具的影响，以期发现这些平台中普遍存在的漏洞。这意味着其他人工智能公司要么已经在这样做，要么很可能很快就会这样做。随着各大人工智能平台评估（和利用）安全漏洞的能力各不相同，以及它们在与谁、如何以及何时共享其下一代LLM技术方面做出不同的决定，很可能会出现信息披露和共享零散的情况。如此重要的安全决策理应由不以盈利为目的的公务员，在相关领域专家的指导下，出于公众利益做出。但这种情况几乎肯定不会发生。
与此同时，在其他科技公司，关于苹果下一代Mac和iPhone操作系统的传闻是，其重点不再是炫酷的新功能，而是“底层”的改进；我们可以预见，许多其他手机或笔记本电脑厂商也会发布类似的公告，因为几乎所有主流平台都可能在未来几个月内推出相当规模的安全更新。这意味着我们将不断收到更新提示，包括手机、应用程序、浏览器，甚至硬件——从游戏主机到Wi-Fi路由器再到智能电视，无一例外。
当然，数以百万计的应用程序和设备将无法更新。显而易见的后果是，人们的数据将被劫持，账户将被盗用，甚至金钱或身份也可能被窃取。更隐蔽、更危险的影响体现在那些被入侵的系统中，不法分子会悄悄潜伏，伺机而动，不会立即利用他们的访问权限。由于即将发现大量新的安全漏洞，黑客一旦获得初始访问权限，就很有可能在个人电脑或公司技术基础设施上找到多个漏洞。而那些运行着旧版本应用程序的用户，很可能也没有更新其他应用程序。
开源项目真的会在这个新攻击环境下遭受重创。正如我之前提到的，开源项目已经因为整个开放互联网遭受围攻的趋势而受到攻击。开源维护者被大量人工智能生成的垃圾代码提交淹没，这些代码不仅浪费他们的时间，也激怒并耗尽了那些无偿贡献时间和精力的志愿者。更糟糕的是，正是那些导致垃圾代码泛滥的LLM（开源软件管理工具）现在也让不法分子能够发现并利用安全漏洞，或者在最好的情况下，发现需要修复的新安全漏洞。但即便新的安全问题被报告，他们仍然需要筛选所有提交的代码，才能在垃圾代码中找到合法的安全补丁！再加上人们越来越倾向于让人工智能代理按需生成代码，导致开源项目的参与度下降，许多开源项目可能最终会选择放弃。
最后，专业安全领域将会出现一些显而易见的快速变化。那些从事代码审查等传统安全漏洞（例如缓冲区溢出和后门）的安全从业人员，他们的工作内容将很快发生转变。我认为这项工作本身并不会消失，而是会延续过去几年的趋势，向更具战略性的层面发展，但速度会更快。同样，这波新的漏洞浪潮也会对销售基于特征码的扫描工具或使用简单启发式算法的平台的安全厂商造成冲击。不过，在很多情况下，这些公司一直依赖于客户群体懒得更换安全厂商这一事实，因此在新一代厂商推出更现代化的工具之前，他们或许还有一些时间来调整或转型。
避免Y2K26
2000年的时候，很多人认为千年虫问题“并不存在”，因为他们没有看到飞机坠毁，也没有看到全球金融危机。事实上，世界各地技术专家的积极参与，有效地保护了所有人免受千年虫最严重的影响，以至于普通民众的日常生活根本没有受到任何真正的干扰。
我不知道历史是否会重演，毕竟未来几周和几个月里，每个人都将面临一系列安全挑战。目前已经有一些资源和资金（与大型人工智能公司投入的巨额资金相比，数额相对较小）承诺投入，以帮助开源和开源基础设施组织应对他们即将面临的问题。许多科技巨头至少已经开始合作，这得益于安全从业人员长期以来秉持的深思熟虑和严谨作风，他们始终坚持不让企业间的竞争影响到保护公共利益的最佳实践。
但目前Anthropic之所以能在这个领域遥遥领先，纯属运气使然，也正是因为如此，我们才看到它在推广这些技术时采取了相对谨慎周全的态度。几乎所有其他处于领先地位的LLM（生命周期管理）领域企业，尤其是在美国，一旦其平台具备类似功能，就会更加鲁莽行事。而且，为了规避未来的风险，它们更有可能选择性地允许某些公司和组织参与合作。
那些其资助者、董事会成员和首席执行官曾公开谈论过摧毁大型新闻机构或削弱公民社会组织的平台，在自身平台暴露出足以威胁其持续运作的漏洞时，绝不会突然出手保护这些机构。这不仅仅是安全问题——一旦落入不法分子之手，这些漏洞就会成为武器。更何况，在全球范围内，美国政府的不负责任行为（而这通常得到了许多大型人工智能公司领导层的支持）也会助长这些新安全漏洞的武器化。
仅仅跟上最新的软件更新似乎不足以保护所有需要保护的人。假以时日，我们必须改变软件的开发方式、代码的共享方式，以及评估整个技术供应链中信任度的方式。我们对风险和漏洞的假设必须发生根本性的转变。我们应该假设，如今所有投入生产环境的重要代码集合都可能被利用。
这意味着一些更深层次的假设也将开始动摇。这个设备需要联网吗？在这种情况下我们需要保持连接吗？这个过程必须在这个平台上进行吗？这真的需要用到软件吗？许多行动和惯例的成本效益分析可能会发生变化，也许只是暂时的，也许会持续很长时间。
我们所能期望的最好结果，就是在这次反思之后，能够形成一套新的实践方法，让我们比以前更有安全感。我认为，要达到那种真正感到安全的状态，还需要很长时间。现在看来，距离新千年似乎只有十分钟了。