第 80 期综述：人工智能，无处不在

我保证会尽快写一些关于特朗普政府这场灾难性闹剧的文章——以及其他一些我感兴趣的话题。但在那之前，先来看看这篇关于人工智能的短文和故事汇总。

不过，首先来听一期《经济学102》！虽然播客已经正式结束了，但我们偶尔还是会重播一些节目。这期节目恰好是关于人工智能生物安全的：

总之，这里还有六个与人工智能相关的有趣内容：

1. 预测人工智能对增长的影响

没人真正知道人工智能会对经济增长产生什么影响，但或许每个“专家”都略知一二。也许，如果把所有这些微弱的信号结合起来，就能获得一些关于人工智能经济影响的实际信息。

这就是预测研究所一项新研究背后的理念。他们调查了众多不同人群，了解他们对人工智能未来能力的看法，以及这些能力对经济增长的影响。具体来说，他们调查的群体包括：

• 经济学家

• 人工智能专家

• 超级预测员

• 公众

结果其实有点出人意料：

首先，所有研究小组对2030年人工智能能力的预测基本一致：

这看起来像是对人工智能发展缓慢的预测，但事实并非如此。这里所说的“中等”发展情景意味着人工智能能够创作高质量的小说，完成人类需要五天才能完成的编程任务，创建半自动化实验室，并使用机器人执行基本的家务。因此，基本上，这项调查中的所有预测小组都认为，未来几年人工智能可能会取得惊人的进步。

然而，在所有这些群体中，只有人工智能专家预测在这些情景中会出现大幅增长加速——即便如此，也只是加速到 4% 或 5%，而不是某些人所说的10% 或 20%：

为什么经济学家认为，即使人工智能接近神明，也无法转化为经济的快速增长？预测研究所列举了部分原因：

一些经济学家认为，人工智能带来的生产力提升不会均匀分布在所有行业，尤其​​是在人力瓶颈所在的行业。另一些经济学家则指出，其他通用技术（如电气化、汽车、个人电脑）从广泛应用到生产力提升之间往往存在数十年的滞后。这种滞后部分原因在于资本从劳动力转向计算、数据中心、应用程序接口（API）等领域，而这种资本转移只有在生产力提升真正发挥作用后才会转化为GDP的增长……

一些经济学家预计，人口下降和地缘政治不稳定将抵消人工智能发展带来的部分GDP增长……一些经济学家认为，能源和芯片供应的限制、数据中心建设时间以及其他大宗商品限制了GDP增长的上限……一些经济学家认为，尾部风险……包括人工智能带来的生存风险、社会动荡或崩溃以及战争。

人工智能专家们很可能也在考虑这些瓶颈和摩擦，或者类似的问题，这就是为什么他们最乐观的预测是 5.3% 的增长——速度很快，但仍然比印度目前的增长速度慢得多。

但事实上，我认为这里面肯定还有更深层次的原因。基本上，这些团体都不认为人工智能的任何能力都能带来经济腾飞。在我看来，这表明他们——或许是潜意识里——考虑的不仅仅是摩擦和缓慢的普及。

有一种可能性——我应该多写一些——是人们怀疑人类正在变得满足，至少在发达国家是这样，即使是像神一样的AI能够为我们创造的新有价值的东西的数量，也受到我们无法渴望更多商品和服务的限制。

我应该再仔细考虑一下。

2. 有人会用振动编码技术预测末日病毒吗？

我对人工智能的许多影响都持乐观态度，尤其是在科学和政治领域。但正如Noahpinion的读者所知，我非常担心人工智能引发的生物恐怖主义（而且我认为越来越多的人也和我一样）。我担心某个虚无主义、抑郁的青少年可能会让越狱版的Claude Code帮他制造一种末日病毒，而人工智能真的会替他执行。我们现在生活在一个研究人员可以利用人工智能设计新型功能性病毒并通过邮件寄送的世界。这是一个充满力量的世界，但同时也是一个令人恐惧的世界。

自从我写了那篇关于这种危险的文章后，我一直在与生物安全专家交流，试图更好地了解我的担忧是否合理。我交流过的专家之一，阿比沙伊克·马哈詹（Abhishaike Mahajan），当时正在撰写一篇关于人工智能时代生物安全的长文。他现在已经完成了这篇文章：

你应该阅读全文，但总的来说，他提出了几个无需恐慌的理由。首先，他认为即使是极其强大的人工智能，也很难在第一次尝试时就制造出有效的生化武器。这是因为对于任何新制造的病毒在现实世界中的行为方式，都存在太多未知因素，所以在释放病毒之前，你根本无法确定它是否具有末日杀伤力。

我对这种论证方式持怀疑态度。与其只制造一种末日病毒，不如制造100种候选病毒并全部释放。末日本身就是一场实地实验，你可以同时进行多项实验。更先进的生物模拟工具或许能大幅减少你为了找到有效病毒而需要制造的候选病毒数量。

阿比沙伊克还认为，疫苗、抗病毒药物以及远紫外线等防御措施（远紫外线基本上对所有病毒都有效）等应对措施将会迅速改进。我相信这一点，但我并不感到安心。借鉴新冠疫情的经验，我认为部署这些应对措施需要很长时间。一种真正经过精心设计的末日病毒会在我们能够分发解药或给每个人配备紫外线照射器之前就夺走我们的生命。正如阿比沙伊克所指出的，美国很可能不会主动为未来的疫情威胁做好准备，而只是在疫情发生时被动应对。

所以，虽然我认为Abhishaike 的帖子非常出色，值得仔细阅读，但我认为他可能仍然低估了威胁的严重性。

3. 网络安全末日？

世人如何知道你有多少钱？其实，有很多计算机将你的财富以一系列数字的形式存储起来——比如你的支票账户里有多少美元，你的投资组合里有多少股苹果股票等等。银行和其他金融机构拥有最先进的计算机和庞大的优秀软件工程师团队，将他们的电子记录打造成一座坚固的堡垒。

但人工智能在黑客攻击方面已经变得非常非常出色。Lyptus Research 写道：

我们发布了METR时间跨度方法论在进攻性网络安全领域的新应用，该应用基于一项由10位专业安全从业人员参与的全新人类专家研究……自2019年以来，进攻性网络能力每9.8个月翻一番，预计到2024年及以后将加速至每5.7个月翻一番。Opus 4.6和GPT-5.3 Codex再次远超上述两条趋势线，在人类专家需要约3小时才能完成的任务上，成功率达到50%。

目前，人工智能公司正在扮演白帽黑客的角色——利用人工智能新获得的黑客能力来帮助企业提升网络安全。但是，当一些不择手段的人获得了越狱版的Claude Code和Codex时，会发生什么呢？

如果人工智能代理允许不法分子随意入侵银行，会发生什么？如果所有个人财富记录在网络攻击中被抹去，银行或政府又能做些什么？很多人的毕生积蓄可能瞬间就被转移到黑客的银行账户里。

似乎这还不够令人担忧，量子计算的最新进展使网络安全形势更加岌岌可危。以下是斯科特·阿伦森的分析：

如果你还没看到，本周量子计算领域实际上有两项“重磅”公告。一项来自加州理工学院，包括本博客好友约翰·普雷斯基尔在内，他们展示了如何利用高速率码以比以往更低的开销实现量子容错，这项技术可以应用于例如中性原子架构（或者其他允许非局域操作的架构，例如囚禁离子）。另一项重磅公告来自谷歌，他们提供了一种开销更低的肖尔算法实现，可以破解256位椭圆曲线密码……

当我提前得知这些结果时……我想起了弗里施和佩尔斯，他们在1940年计算出了链式反应所需的铀-235的量，但却没有发表，尽管关于核裂变的最新研究成果在前一年就已经公开发表了……但我最尊敬的密码学和网络安全专家们强烈反对我用这个比喻。他们说……如果发表（这样的结果）会让那些仍在使用量子漏洞系统的人们吓得屁滚尿流……那么，也许这正是我们现在需要做的。

我并非网络安全专家，因此没有资格评估这些事态发展究竟有多令人担忧。但它们看起来确实相当令人担忧。整个现代世界都依赖于网络安全——如果我们目前用来保护信息安全的方法出现普遍失效，整个社会都将陷入困境。所以，这绝对值得我们密切关注。

4. 匿名性的终结？

当我开始写博客时，我特意决定只用真名发帖。我当时的想法是，文本分析技术总有一天会发展到足以识别（“人肉搜索”）我所有匿名账号的地步。十五年后，我期待着真相大白。以下内容摘自勒曼等人的一篇新论文：

我们证明，大型语言模型可用于大规模去匿名化。在完全访问互联网的情况下，我们的代理仅凭匿名在线个人资料和对话，就能高精度地重新识别 Hacker News 用户和 Anthropic Interviewer 参与者，其效率相当于专职调查员需要数小时才能完成的工作。……基于大型语言模型的方法显著优于传统基线方法，在 90% 的精确度下，召回率高达 68%，而最佳的非大型语言模型方法的召回率接近于 0%。我们的结果表明，保护在线匿名用户的实际隐蔽性已不再有效，需要重新审视在线隐私威胁模型。

很快，任何不认同你匿名小号观点的人，甚至仅仅是对你感到不满的人，都可以利用黑客攻击你的账号，曝光你的个人信息——前提是你曾经用真名在网上发表过任何言论。如果你只用过笔名，那你可能还算安全。

匿名性的即将终结——或者至少是其显著减少——有可能彻底改变互联网。匿名性显然与有害内容密切相关，因为人们会用化名发布一些过于激进或不恰当的内容，而这些内容用真名发布则显得不妥。

我们或许还会看到“取消文化”有所减少，因为匿名指控和举报人将不再能免遭报复。由于人们害怕用真名进行过多讨论，互联网上坦诚的讨论和完整的信息可能会减少。

减少匿名性也可能关闭一个重要的社会和心理安全阀——尤其是对于日本人来说，他们倾向于使用匿名账户来表达他们不敢在公共场合表达的感受。

总之，事情会变得很奇怪。

5. 人工智能量化分析会吞噬经济吗？

在查尔斯·斯特罗斯的《加速》一书中，人工智能金融量化专家一度将整个内太阳系变成计算机，为其金融化的在线经济提供动力——从而将其他人都推向了太阳系的边缘。

这有点夸张了，但值得思考的是，如果人工智能被大规模部署用于量化交易等对抗性经济活动，将会发生什么。

人们想到人工智能的大多数应用场景都与生产相关。我们期望人工智能能够加速科学发展，替我们编写代码等等。我们设想的人工智能应用场景中也有一些与犯罪有关——我们担心生物恐怖主义、网络犯罪等等。但很少有人讨论，如果人工智能被大规模用于寻租——即通过合法手段重新分配收入——将会发生什么。

很多人怀疑量化交易中存在大量寻租行为——一群交易员试图互相欺骗或抢占先机，却并未创造经济价值。事实上，已有模型解释了这种情况的发生——我最喜欢的是Hirshleifer（1971）的模型。在那篇论文中，Hirshleifer指出，当交易员竞相获取最终会自动公开的信息时，他们最终会在一个零和博弈中浪费资源。

量化交易员一直以来都大量使用人工智能，甚至在生成式人工智能兴起之前就是如此。但强大的人工智能代理和推理模型的出现，很可能会导致量化交易支出的爆炸式增长。如果这些交易算法仅仅是在纳秒之内争先恐后，那么大量的社会资源——计算能力、电力等等——都将被浪费掉。

令人沮丧的是，我不知道究竟有多少社会资源可能因此被浪费掉，目前还没有一个比较全面的数据。但当我尝试一些简单的例子时，很明显，潜在的浪费非常巨大。人工智能量化交易或许不会把整个太阳系变成计算宇宙，但它仍然可能造成巨大的浪费。

所以，当我看到像这样的报道时，我有点担心，报道称DeepMind创始人德米斯·哈萨比斯试图在谷歌内部建立一个人工智能驱动的量化对冲基金。量化交易是利用人工智能赚取巨额利润的一种非常自然的方式，但如果它成为人工智能工作中过于重要的部分，人们就会对这项技术感到愤怒。

6. 人们在工作中是否减少了人工智能的使用？

从大多数指标来看，人工智能的普及速度超过了有史以来任何一项技术。如今，几乎每条新闻都在报道人工智能如何征服商业世界。因此，每当出现人工智能普及速度不快的统计数据时，都显得格外引人注目。

事实上，现在已经有一些这样的数据点了。Hartley等人正在进行一项针对美国员工的持续调查，询问他们在工作中是否使用生成式人工智能。他们的调查一度显示，生成式人工智能的普及率迅速增长。但在过去一年里，他们发现其普及率实际上有所下降：

一项调查结果可能只是偶然现象，或者问题本身可能存在问题。但《经济学人》 报道称，其他一些指标显示，人工智能在工作场所的使用速度正在放缓甚至下降：

美国人口普查局的研究人员询问企业在过去两周内是否在“生产商品和服务”中使用过人工智能。据我们估计，近期美国使用人工智能的就业加权比例下降了一个百分点，目前为11%……员工人数超过250人的大型企业采用人工智能的比例急剧下降……

圣路易斯联邦储备银行的亚历克斯·比克及其同事的一项追踪调查显示，2024年8月，12.1%的劳动年龄成年人每天在工作中使用生成式人工智能。一年后，这一比例降至12.6%。金融科技公司Ramp发现，2025年初，美国企业人工智能的使用率飙升至40%，之后趋于平稳。人工智能的普及速度似乎确实在放缓。

这是怎么回事？ 《经济学人》提出了几种解释——生产力提升效果令人失望、难以将人工智能融入现有工作流程、经济不确定性等等。

但如果这种趋势属实，我们有理由认为它不会持续太久。首先，这些数据大多来自可靠的人工智能代理出现之前，而这类代理实际上是去年12月才开始崭露头角的。如今，人工智能的功能远不止聊天机器人，可以预见的是，会有更多公司找到它的应用场景。

此外，一旦企业家们开始思考如何构建新的商业模式和工作流程，而不是试图将新技术硬塞进现有的模式和流程中，我们就会看到人工智能赋能的生产力爆发式增长，就像我们以前看到通用技术爆发式增长一样。

但就目前而言，工业聊天机器人使用量出现停滞迹象的迹象值得关注。

立即订阅

分享

原文： https://www.noahpinion.blog/p/roundup-80-all-ai-all-the-time