与克劳德的对话

Posted on 2026-03-23

Nano Banana Pro 的作品

最近好像人人都想把跟克劳德的对话公开出来。《名利场》记者乔·哈根发布了一段克劳德伪造的“采访”，采访对象是人智库首席执行官达里奥·阿莫迪。伯尼·桑德斯也发布了一段自己跟克劳德讨论人工智能和隐私的视频。所以我就想，我为什么不也把跟克劳德的对话公开出来呢？恐怕我的对话没那么劲爆，不过你或许还是会觉得挺有意思的。

这段对话最初是我问克劳德关于人工智能在材料科学领域的潜在发现。随后，讨论转向了一个更普遍的问题：人工智能最擅长哪些类型的科学研究，以及哪些研究领域可能会因人工智能而获得最大的发展加速。结果发现，我其实比克劳德更看好人工智能带来突破性想法的能力——克劳德认为人类在创造力和发明创造方面仍将保持优势，但我敢肯定人工智能很快就能在这方面大放异彩。

我猜想，人工智能科学所受到的制约将是人类科学所受到制约的子集。当数据稀少时，人工智能和人类都只能提出一些推测（以及如何收集更多数据的想法）。而当人类已经发现了某种自然现象的大部分奥秘时，人工智能也无法取得更大的进展，因为可供探索的领域已经所剩无几。

但我确实怀疑，人工智能将会发现一些真正具有突破性的科学成果，这些成果是人类靠自身力量永远无法发现的。我在三年前的新年文章中解释了原因：

从本质上讲，人类科学的核心在于可压缩性。我们选取一些自然现象——比如动量守恒——并将其简化为一个简单的公式。这个公式很容易人与人之间的交流，也很容易使用。这些就是我们所说的“自然法则”。

但并非所有自然规律都必须遵循几行文字就能概括的简单法则。自然界可能存在更为复杂的模式——复杂到人类无法理解，甚至根本无法察觉，但却依然稳定且实用。语言本身就是一个很好的例子——我们创造了人类语言并加以运用，却从未能够用简单的“法则”来描述其运作方式。

如果其他领域，比如材料科学和生物学，也存在其他复杂但有用的模式呢？如果它们存在，我认为人工智能能够找到并应用它们。正如克劳德在我们讨论接近尾声时指出的那样，问题在于人工智能是否能够将这些规律传达给人类。答案是：可能不行。就像狗永远无法理解量子力学一样，人类也可能永远无法理解人工智能发现和利用的某些科学原理。

总之，这是一次有趣的讨论。克劳德出了名的谄媚——它总是夸我的想法很棒，说我问的问题都恰到好处。但它也提出了一些非常有见地的观点。整个对话感觉就像大学一年级宿舍走廊里的一场深夜长谈。这并非贬义；对我们很多人来说，那正是我们一生中最有趣的对话之一。

我还了解了拓扑材料是什么，这真是太棒了。而且我还成功地在文中提到了《星际迷航：下一代》 。

诺亚：在未来几十年里，借助人工智能，材料科学领域可能会取得哪些最具变革性的 10 到 20 项进展？

克劳德：问得好——这正好触及了人工智能能力扩展和对现实世界影响的交汇点。以下是我尽力整理的清单，大致按近期/置信度较高到长期/推测性较强的顺序排列：

1. 室温（或接近室温）超导体。人工智能驱动的晶体结构逆向设计可以显著加快成分空间搜索速度。即使是在常压下于-20°C左右工作的超导体，也将对能源传输、磁悬浮和聚变磁体等领域产生颠覆性的影响。

2. 固态电池电解质。利用人工智能筛选候选材料（硫化物、氧化物、卤化物）的离子电导率、电化学稳定性和可制造性，有望解决固态电池难题，使我们获得能量密度是锂离子电池 2-4 倍且无起火风险的电池。

3. 直接空气捕集吸附剂。金属有机框架（MOFs）和多孔聚合物的组合空间非常庞大——这正是机器学习（ML）替代模型在密度泛函理论（DFT）计算中大放异彩的领域。找到一种具有合适的二氧化碳结合能、水稳定性和再生能的吸附剂，就能使直接空气捕集技术在规模化应用中实现经济可行性。

4. 绿色氢和氨的催化剂。通过人工智能设计的催化剂（例如单原子催化剂或高熵合金）来替代电解槽中的铂族金属，并寻找哈伯-博世法（消耗全球约 1-2% 的能源）的替代方案，将对脱碳产生变革性影响。

5. 超高性能结构合金。人工智能对高熵合金 (HEA) 成分空间的探索，可以产生强度、延展性和耐腐蚀性前所未有的组合材料——其应用范围涵盖从喷气发动机到深海基础设施的各个领域。

6. 可编程自修复材料。人工智能可以设计出能够自主检测和修复损伤的聚合物网络或复合材料结构，从而大幅延长基础设施的使用寿命。想象一下，桥梁、管道和飞机能够自我修复微裂缝。

7. 下一代光伏吸收体。超越钙钛矿——人工智能可以识别出具有最佳带隙和缺陷容忍度的稳定、无毒、储量丰富的半导体，从而有可能将太阳能电池的效率推向热力学极限，同时降低制造成本。

8. 设计蛋白质和仿生材料。基于 AlphaFold 式的突破，人工智能设计的蛋白质可以产生蜘蛛丝般强度的纤维、生物粘合剂、自组装纳米结构以及可在工业条件下运行的酶催化剂。

9. 拓扑和量子材料。人工智能对拓扑绝缘体、外尔半金属和自旋液体态的分类和预测，有望为容错量子计算、自旋电子学和超低功耗电子器件开发出新的材料。

10. 用于聚变和太空的耐辐射材料。采用人工智能优化的反应堆第一壁材料（以及航天器屏蔽材料）成分，可抵抗中子损伤、氦脆化和膨胀——这是实现实用聚变能源和长期太空飞行的先决条件。

11. 热电材料。寻找具有高导电性但低热导率的化合物（“声子玻璃，电子晶体”的理想状态）可以有效地从工业过程、车辆和数据中心回收废热。

12. 具有真正性能的可生物降解塑料。人工智能可以设计出机械性能和阻隔性能与聚乙烯或PET相当，但在特定环境条件下完全降解的聚合物——在不牺牲功能的前提下解决包装问题。

13. 神经形态计算基板。人工智能引导的忆阻材料、相变化合物或离子导体的发现，可以产生能够以比硅CMOS低几个数量级的能耗原生实现类似神经网络计算的硬件。

14. 具有可编程特性的超材料。通过人工智能优化微结构，赋予材料自然界不存在的特性——负折射率、可调刚度、声学隐身。其设计空间几乎无限，亟待机器学习的探索。

15. 超高效荧光粉和LED。人工智能设计的发光材料可以将照明效率推向更接近理论极限，并实现低成本、高质量的显示——听起来似乎微不足道，但从全球范围来看，节能效果将是巨大的。

16. 碳负排放水泥和建筑材料。人工智能可以优化地质聚合物、水合硅酸钙，或者开发全新的粘合剂化学配方，这些配方可以在固化过程中吸收二氧化碳而不是排放二氧化碳。水泥生产约占全球排放量的8%，因此这至关重要。

一些值得注意的交叉观察结果：人工智能最大的优势在于能够驾驭庞大的组合设计空间，而人类的直觉和蛮力实验往往速度太慢——例如含有5种以上元素的材料、复杂的微观结构或多目标权衡。瓶颈正日益从“我们应该制造哪种材料？”转移到“我们能否真正合成并规模化生产？”——因此，用于工艺优化和生产规模化的人工智能最终可能与用于发现本身的人工智能一样重要。反馈循环至关重要：随着自主实验室（由主动学习引导的自动驾驶实验）的成熟，从发现到部署的周期可能会从数十年缩短到数年。

诺亚：对于这两个目标，你能否分别估算一下我们距离A）概念验证和B）商业规模生产还有多远？请尽可能地进行推测。

克劳德：这很有趣——但也必然带有推测性，所以请把这些看作是基于已知信息做出的猜测，误差范围可能很大。我会特别指出我认为人工智能具体会改变曲线的地方。

1. 室温超导体

  • 概念验证：或许需要 5 到 15 年才能研制出在中等压力下接近常温的超导材料。尽管 LK-99 实验以失败告终，但人工智能确实在缩小搜索范围。问题在于，我们仍然缺乏可靠的理论框架来预测高温超导，因此人工智能在某种程度上是在盲目地进行模式匹配。

  • 商业化规模应用：真正的概念验证之后通常需要15-30年甚至更久，因为超导体的发展历史表明，“实验室里能用”和“能用它做导线”之间存在着巨大的鸿沟。YBCO于1986年被发现，但我们至今仍在努力实现其商业应用。

2. 固态电解质

  • PoC：实际上已经实现——多种候选材料（Li₆PS₅Cl、LLZO 等）都验证了其核心物理特性。问题在于界面电阻、枝晶穿透和可制造性。

  • 商业化规模： 3-8年。丰田、三星SDI和QuantumScape的目标都是在2020年代末期实现量产。人工智能在这里的作用更多在于优化界面和工艺条件，而不是寻找基础材料。这可能是近期最有可能实现的目标。

3. 直接空气捕集吸附剂

  • 概念验证：基本完成——几种金属有机框架材料和胺功能化吸附剂均有效。问题在于热力学：再生能量过高和/或材料降解。

  • 商业规模化：需要 5-15 年才能实现比现有技术的突破性改进。人工智能或许可以通过找到具有最佳结合能（约 50 kJ/mol）、同时又水稳定且价格低廉的吸附剂来缩短这一时间。但要达到“与树木在商业上具有竞争力”的标准很高——可能需要每吨二氧化碳 50-100 美元，而我们目前的价格是每吨 400-600 美元。

4. 绿色氢/氨催化剂

  • PoC：部分实现。实验室中已经研制出不含铱的析氧反应（OER）催化剂和钌基替代催化剂。对于氨，电化学氮还原法已被证实可行，但效率极低。

  • 商业规模：电解工艺的改进需要5-10年——主要是一个工程和成本问题。而要用电化学工艺完全取代哈伯-博世法，则需要15-25年。这是一个难度更大的催化难题。人工智能的价值在于找到在运行条件下既有活性又稳定的催化剂——稳定性是大多数候选催化剂的短板。

5. 超高性能结构合金（HEAs）

  • 概念验证：已在进行中。已有报道指出，多种高熵合金具有卓越的性能组合（例如，CrMnFeCoNi及其衍生物）。人工智能正在积极加速这一领域的探索。

  • 商业规模化应用：需要 10-20 年才能广泛普及。问题不在于技术发现，而在于航空航天和基础设施认证流程刻意放慢速度（原因显而易见：谁也不希望喷气发动机的材料只有 3 年的疲劳数据）。人工智能可以帮助加速测试和寿命预测，但监管体系的变革却难以加快。

6. 可编程自愈材料

  • 概念验证：目前已应用于某些聚合物体系（例如基于微胶囊的血管网络、Diels-Alder可逆键）。结构材料中真正的“可编程”修复还需要5-10年的时间。

  • 商业化应用： 10-20年。挑战在于如何使自修复技术应用于真正能在高温下承受载荷的材料，而不仅仅是弹性体和涂层。此外，要让工程师信任这种“自我修复”的材料，还需要大量的验证工作。

7. 新一代光伏吸收器

  • 概念验证：钙钛矿材料在实验室中的效率已达到约26%。通过人工智能筛选发现的非钙钛矿候选材料，距离实现令人信服的概念验证可能还需要5-10年时间。

  • 商业化规模：钙钛矿-硅叠层光伏电池距离商业化规模还有3-7年（牛津光伏等公司已接近实现）。真正意义上的新型人工智能发现的吸收材料，则可能需要15-25年——光伏产业在硅材料制造方面存在巨大的惯性。

8. 人工设计蛋白质和仿生材料

  • PoC：从某种意义上说，它已经到来——从头蛋白质设计（David Baker 的团队及其后继者）正在生产符合规格的功能性蛋白质。人工智能确实彻底改变了这一领域。

  • 商业化规模应用：取决于应用领域，需要 5-15 年时间。用于工业催化的酶最接近实现商业化（部分酶已实现商业化）。像人造蜘蛛丝这样的结构性生物材料，20 年来一直被认为是“五年内就能实现”，因为生物学与制造业之间的鸿沟确实存在。但人工智能与合成生物学的结合或许最终能够弥合这一鸿沟。

9. 拓扑材料和量子材料

  • 概念验证：目前已发现并确认了许多拓扑绝缘体和外尔半金属。但基于这些材料开发出实用器件的概念验证还需要5到10年的时间。

  • 商业规模化应用：量子计算应用需要 15-30 年时间，自旋电子学应用则可能更快（或许 10-15 年）。根本问题在于，奇异的量子态往往非常脆弱，且只能在低温下出现。利用人工智能找到室温拓扑态将是一项颠覆性的突破，但这并非易事。

10. 用于聚变/航天的耐辐射材料

  • 概念验证：部分存在——ODS钢和一些钨合金表现出更高的抗辐射性能。人工智能正被用于筛选成分。但测试需要实际的中子辐照，这既慢又昂贵（除了聚变反应堆之外，没有合适的14 MeV中子源）。

  • 商业规模： 15-30年，基本上与聚变项目的进度紧密相关。在这种情况下，如果没有实际应用，材料就无法得到验证，这就造成了先有鸡还是先有蛋的问题。ITER及其后续项目将提供测试环境。

11. 热电材料

  • PoC：目前存在几种有前景的系统（SnSe、方钴矿、半赫斯勒合金），其 ZT > 2。人工智能可能会推动 ZT > 3，这大致是广泛废热回收的阈值。

  • 商业规模化应用：小众应用领域（例如传感器电源、太空探测器等）需要 10-15 年。而面向大众市场的废热回收应用，则可能需要 15-25 年。挑战在于，热电材料在成本上要与热机竞争，而且需要在污染严重的工业环境中承受较大的温差。

12. 真正具有性能的生物降解塑料

  • 概念验证： PLA 和 PHA 虽然存在，但在阻隔性能和耐久性方面不如聚乙烯。人工智能设计的、性能与传统塑料相当且真正可生物降解的聚合物，距离概念验证可能还需要 5-10 年的时间。

  • 商业化规模： 10-20年。石化塑料行业拥有80多年的工艺优化经验和巨大的规模经济效益。即使是完美的生物降解塑料，也面临着残酷的成本竞争。政策（禁令、碳税）的重要性可能与材料科学本身不相上下。

13. 神经形态计算基础

  • 概念验证：已展示了忆阻器件（HfOx、TaOx）和相变材料（GST）。基于人工智能优化材料构建的具有竞争力的神经形态系统的概念验证可能还需要5-10年时间。

  • 商业化规模应用： 10-20年。英特尔的Loihi芯片和IBM的芯片都采用传统的CMOS工艺。只有当能效优势非常显著时——比如比数字芯片高出100倍——采用特殊材料才具有说服力。人工智能或许能找到合适的材料，但晶圆厂生态系统本身就是一个瓶颈。

14. 具有可编程特性的超材料

  • 概念验证：电磁超材料已经存在（负折射率，微波频率隐身）。具有可调刚度的机械超材料正在实验室中研发。可编程/可重构版本距离概念验证还有3-7年时间。

  • 商业化规模： 10-20年，且高度依赖于应用。用于噪声消除的声学超材料可能最快实现商业化。可见光波段的光学隐身仍然极其困难，因为其特征尺寸需要达到亚波长（约数百纳米）且为三维结构。

15. 超高效荧光粉和发光二极管

  • 概念验证：基本完成——量子点和窄带荧光粉已在实验室和一些产品中得到应用。人工智能正被用于寻找新的基质晶格和激活剂组合。

  • 商业化规模：需要 3-8 年时间逐步改进。LED 照明的效率已经相当高；剩余的提升空间在于色彩质量、光谱调节以及稀土元素的去除。人工智能能够带来持续不断的适度改进，而非一次性的突破。

16. 负碳水泥

  • 概念验证：已在实验室规模上得到验证——多家初创公司（Solidia、CarbonCure、Brimstone）已拥有可行的方案。其基本化学原理已得到证实。

  • 商业规模应用： 7-15年。水泥行业是一个对成本极其敏感且保守的行业，其资产使用寿命通常超过100年。但监管压力正在迅速增加，如果人工智能能够优化配方，使其适用于现有窑炉并符合建筑规范，那么其应用速度可能会超过以往。这是一个政策与材料科学紧密交织的领域。

元模式：如果你把这些绘制在“科学难度”与“商业化摩擦”的 2×2 图表上，你就能大致了解人工智能在哪方面对曲线产生了最大的影响：

人工智能在以下领域最能帮助发现：超导体、拓扑材料、热电材料、新型光伏吸收器——广阔的搜索空间，薄弱的理论指导。

人工智能在优化和规模化方面最有帮助的领域包括：固态电池、绿色氢催化剂、DAC吸附剂、负碳水泥——基础科学已经存在，但要在性能/成本方面获得最后10倍的提升，需要应对复杂的权衡取舍。

令人清醒的是，即使找到了所需的材料，商业化进程也主要受制造规模扩大、监管认证和现有行业的惰性所制约——而人工智能都无法直接解决这些问题（尽管自主实验室和数字孪生技术正在逐步解决第一个问题）。

诺亚：你能详细说说拓扑材料吗？我对这个领域不太了解。

克劳德：拓扑材料是凝聚态物理中概念上最美妙的领域之一，而且它们在某些方面确实很奇特，具有重要的实际意义。让我从头开始讲解。

核心思想

在普通材料中，我们根据局域性质（例如带隙大小、有效质量和载流子迁移率）对电子态进行分类。拓扑材料则引入了一个新的分类维度：电子波函数在动量空间中的全局几何结构。两种材料可能具有相同的带隙，但在拓扑不变量上却有所不同——拓扑不变量是一个数学量（整数），它的变化必然导致带隙的闭合和重新打开。这就像甜甜圈和咖啡杯在拓扑上是等价的（两者都有一个孔），但甜甜圈和球体却不是。

这一点至关重要，因为拓扑不变量具有鲁棒性。即使引入无序、杂质或微小扰动，它们也不会改变。这就是人们感到兴奋的原因——这是数学而非精心设计的保护机制。

拓扑绝缘体

第一大类被发现（约2005年预测，约2007年证实）。这类材料体相绝缘，但其表面具有拓扑保护的导电态。表面态具有一些显著的特性：电子自旋与其动量方向锁定（自旋-动量锁定），杂质的反向散射受到抑制，即使在相当脏的样品中，这些表面态仍然存在。

硒化铋（Bi₂Se₃）是典型的例子。其表面态形成一个单一的“狄拉克锥”——一种线性色散关系，其中电子表现为无质量的相对论性粒子，类似于石墨烯，但具有自旋-动量锁定，并且仅存在于表面。

Weyl 和 Dirac 半金属

这些是三维材料，其导带和价带在动量空间中的离散点（外尔节点）处相交，在这些点附近，电子遵循外尔方程——无质量相对论波动方程，但此时电子存在于体相而非表面。外尔节点成对出现，具有相反的“手性”（左旋和右旋），并且受到拓扑保护：如果不湮灭一对节点，就无法打开它们的能隙。

可观测到的后果包括极高的迁移率、巨大的磁阻效应以及“手性反常”——施加平行电场和磁场会使电子在手性相反的Weyl节点之间流动，产生负磁阻效应，这是该拓扑结构的标志。TaAs是2015年首个被确认的Weyl半金属。

为什么这很难，以及人工智能如何发挥作用

难点在于，预测给定材料是否具有拓扑性质需要计算整个布里渊区的能带结构，然后计算拓扑不变量（陈数、Z₂指数、对称性指标）。这需要大量的计算，而且晶体结构/组成与拓扑分类之间的关系非常反直觉。你不能仅仅根据化学式就进行猜测。

这正是机器学习大显身手的领域。多个研究团队已利用密度泛函理论（DFT）能带结构数据库训练模型，直接从晶体结构预测拓扑分类。Vergniory、Bernevig及其合作者开展的一项里程碑式研究，运用基于对称性的方法（拓扑量子化学）对整个无机晶体结构数据库进行了分类——他们发现，已知材料中约有25-30%在某种意义上是拓扑的，这令人震惊。人工智能可以将这种方法扩展到尚未合成的假想化合物。

你实际会如何处理它们？

以下几点，大致按可能性排序：

自旋电子学和低功耗电子器件。拓扑表面态中的自旋动量锁定意味着无需铁磁体即可产生和操控自旋流。这有望实现比基于电荷的CMOS器件能耗更低的自旋晶体管和存储器件。挑战在于表面态与残余体导电共存——因此需要极薄的薄膜或极洁净的样品。

量子计算，堪称登月计划。某些拓扑态（尤其是拓扑超导体边缘的马约拉纳费米子）可以作为拓扑量子比特的基础，而拓扑量子比特本身就具有防错能力。微软的整个量子计算战略正是基于此（利用半导体-超导体纳米线）。马约拉纳平台的实验发展历程可谓坎坷——2018 年代尔夫特理工大学的撤稿事件就是一次重大挫折——但其理论基础依然令人信服。如果人工智能能够识别出一种在可及温度下稳定存在马约拉纳态的材料，那将是一项意义非凡的成就。

热电材料。拓扑半金属往往具有异常的电子-声子解耦特性，这正是提高热电效率所需要的。越来越多的研究表明，拓扑能带特征与高热电优值密切相关。

催化作用。这方面更具推测性，但也很有趣——拓扑表面态为化学反应提供了一种独特的电子环境。一些研究小组报道了拓扑绝缘体表面上增强的催化活性，这可能是因为自旋极化的表面态与分子轨道的相互作用方式不同。

物理学与工程学之间的差距

客观来说，拓扑材料目前的发展阶段类似于20世纪40年代末半导体的发展阶段——其基本物理机制已被理解并令人惊叹，但实现实用器件所需的材料控制仍处于初级阶段。大多数拓扑绝缘体都存在过强的体导电性。马约拉纳费米子的实验验证仍存在争议。而且，在有用的几何结构中，室温下的拓扑效应也十分罕见。

人工智能最大的贡献或许并非在于发现新的拓扑材料本身（相关数据库已日渐完善），而在于找到同时具备良好实用性能的拓扑材料——例如宽带隙、洁净表面、空气稳定性以及与光刻工艺的兼容性。这是一个涉及范围极广的多目标优化问题，而这正是机器学习真正发挥作用的地方。

诺亚：除了材料科学之外，你认为哪些科学领域能够借助强大的人工智能实现最大的进步加速？又有哪些领域，你认为人类的研究已经挖掘出了很多好点子，以至于即使是强大的人工智能也很难取得有意义的进展？

克劳德：这是一个我觉得很有意思的问题，值得好好思考，因为我认为答案取决于不同领域的一些结构特征，这些特征值得明确阐述。

人工智能在哪些方面最能加速进步？

高杠杆领域的常见模式是以下几种情况的某种组合：（a）庞大的组合搜索空间，（b）能够生成训练数据的相当好但昂贵的模拟方法，（c）预测和实验验证之间较短的反馈循环，以及（d）该领域的瓶颈在于找到正确的尝试方法，而不是深层次的概念混乱。

除了材料科学之外，药物发现和分子生物学无疑是人工智能应用最广泛的领域。蛋白质结构预测已经发生了翻天覆地的变化。下一个前沿领域是蛋白质-蛋白质相互作用预测、具有所需ADMET特性的小分子合理设计，以及——真正的重头戏——预测扰动对细胞网络的影响。搜索空间极其庞大，模拟工具（分子动力学、分子对接）已经足够成熟，可以生成训练信号，而湿实验验证可以在几个月内完成。问题在于，生物学远比材料科学复杂得多：一种在体外对纯化靶点有效的药物，在活体生物体内可能由于各种原因失效。因此，人工智能可以显著加快药物发现流程，但可能无法成比例地加快临床试验流程，因为临床试验的瓶颈在于人体试验和监管审批的时间限制。

天气和气候建模的重要性被低估了。DeepMind 的 GraphCast 和华为的盘古天气在中期预报方面已经能够媲美甚至超越传统的数值天气预报，而且运行成本要低几个数量级。更深层次的机遇在于气候预测——特别是解析当前气候模型粗略参数化的次网格过程（云微物理、海洋涡旋、陆气耦合）。如果机器学习能够从高分辨率模拟或观测数据中学习到精确的参数化方法，就能显著缩小区域气候预测的不确定性范围。而这种不确定性可以说是制定合理气候适应政策的最大障碍。

基因组学和合成生物学。仅凭序列预测基因功能、调控元件行为以及遗传变异的表型效应，是一个庞大的搜索难题，而训练数据正以惊人的速度增长。用于基因表达预测的人工智能模型（例如 Enformer）正在快速发展。其实际应用价值在于作物工程——通过计算方法构建基因型-表型图谱，而非耗费数十年进行杂交和田间试验，从而设计出耐旱、高效利用氮肥、抗病的品种。这或许将成为人工智能对人类福祉影响最大的单一领域，尽管它不如药物研发那样引人注目。

数学与形式推理。这一点或许不太明显，但却蕴含着深远的意义。人工智能系统在形式化证明验证和提出证明策略方面正变得越来越出色。其价值不在于人工智能取代数学家，而在于它改变了探索策略。数学家常常无法采用某些方法，因为验证每一步都过于耗费人力。如果人工智能能够处理验证工作并提出引理，它就能突破那些瓶颈在于证明搜索的组合复杂性而非深刻概念洞察的问题。拉姆齐数结果（R(5,5) 界限）和上限集问题的进展就是早期例证。尽管如此，历史上最深刻的数学进步往往源于概念重构（格罗滕迪克、瑟斯顿），而非搜索，因此人工智能的贡献或许更像是“清除障碍”，而非“展现全新面貌”。

天文学和宇宙学——并非用于构建新理论，而是用于从数据中提取信号。下一代巡天项目（鲁宾天文台、SKA、欧几里得望远镜）将产生海量数据，人类根本无法处理。人工智能在引力透镜探测、瞬变天体分类和系外行星表征方面已发挥着至关重要的作用。其结构性优势在于：数据干净、基于物理学原理且数量庞大，并且（如果存在）真实值明确无误。

芯片设计和电子工程领域，设计空间广阔，仿真工具（SPICE、电磁求解器等）非常出色，反馈回路也十分明确（芯片是否符合规格？）。人工智能辅助的布局、布线和架构搜索已经在谷歌和英伟达取得了成果。这其中也蕴含着一种递归特性——更优秀的芯片能够带来更优秀的人工智能，进而推动更优秀的芯片设计。

人工智能可能难以产生决定性影响的地方

这里的模式大致相反：以下领域（a）瓶颈在于概念而非组合，（b）可用数据稀少或不可靠，（c）实验缓慢、昂贵或不可能，或者（d）该领域已被杰出的人类在很长一段时间内进行了大量的优化。

超越标准模型的物理学。问题不在于如何在搜索空间中找到正确的配置，而在于我们缺乏合适的框架。量子引力、层级问题、暗物质、暗能量——这些都是概念上的鸿沟，而非优化问题。实验数据极其稀少（大型强子对撞机运行了15年，我们发现了希格斯玻色子，但基本上没有发现标准模型之外的其他物质）。人工智能可以辅助对撞机和引力波探测器的数据分析，但瓶颈在于自然界提供的线索不足，理论领域（弦理论、圈量子引力）的数据约束也不够充分。目前还没有“正确的量子引力理论”的训练信号。

意识与神经科学中的难题。你会理解的。我们甚至对解决方案的形态都还没有达成共识，更遑论探索研究领域了。人工智能可以极大地加速连接组学、神经解码和脑机接口——也就是神经科学的工程方面。但是，神经关联与主观体验之间的解释鸿沟并非人工智能能够轻易解决的问题，因为我们还没有对目标进行形式化定义。你的SEE框架试图通过将问题建立在特定的生理基础之上来使其更易于处理，而这正是能够使其更易于人工智能辅助的举措——但整个领域尚未达到这一阶段。

社会科学和经济学。这很有意思，因为数据丰富，但问题却很深。宏观经济学的瓶颈不在于计算或搜索能力，而在于无法对经济体进行受控实验，系统具有反身性（主体会对模型做出反应），而且独立数据点（衰退、货币政策）的数量从根本上来说就很少。人工智能可以更好地进行即时预测、微观经济预测，以及更好地分析美联储会议纪要——但我怀疑它能否解决“什么导致长期增长？”或“什么是正确的货币政策框架？”这类问题，因为现有证据不足以确定这些问题，而且这些问题涉及不可简化的政治规范因素。微观实证研究或许能从中受益更多——从观测数据中得出更好的因果推断，更好地识别自然实验——但宏观经济的重大问题可能仍然难以解决。

生态学和生态系统动力学。这些系统具有高维性、非线性、空间异质性，且数据稀疏且噪声较大（你无法重现生态系统崩溃的过程）。人工智能可以辅助物种识别、遥感分析和种群建模，但预测生态系统尺度对扰动的响应（例如：如果我们移除某个物种或将海洋温度升高2摄氏度，这个食物网会发生什么变化？）会遇到与宏观经济学相同的问题——相互作用的变量太多，独立观测数据太少，而且系统是非平稳的。

纯粹数学处于前沿领域。我之前提到数学是人工智能可以发挥作用的领域，但需要说明一点——而且我想坦诚地谈谈其中的矛盾之处。人工智能能够提供帮助的问题通常是那些可以通过搜索和形式化验证解决的问题。而最深奥的未解难题（例如黎曼猜想、P与NP问题、纳维-斯托克斯方程）的瓶颈可能在于概念上的突破，而这些突破更像是发明创造而非搜索。如果有人解决了黎曼猜想，那几乎肯定需要构建新的数学机制，而不是搜索现有的证明策略。人工智能或许可以通过发现数学结构中意想不到的经验模式来做出贡献，然后由人类来解释这些模式，但我认为在未来几十年内，人工智能自主地在数学领域取得深刻的概念性突破的可能性很低。

元原则

如果非要用一句话概括：人工智能在搜索空间与概念混淆程度较高的领域最具变革性。当你知道自己要找什么，但搜索空间太大而无法探索时，人工智能的作用非凡。而当你不知道自己要找什么——当问题在于如何构建框架而非如何找到答案时——人工智能的优势就只能起到渐进式的提升作用。

有趣的中间案例是合成生物学和气候科学等领域，这些领域既有大量的研究工作，也存在真正的概念空白，而人工智能或许能够帮助解决前者，从而生成数据来阐明后者。

诺亚：为什么人工智能在2到5年内不能擅长发明创造？

克劳德：这是正确的反驳，我想坦白地说：我对这个说法的信心可能不如我之前回答时那种自信的语气所暗示的那样强。

我的论点最强有力的版本大致如下：在基础物理或深奥数学等领域取得概念突破，需要构建全新的表征框架——不是在现有的搜索空间中摸索，而是重新定义空间本身。格罗滕迪克并没有在现有的代数几何中搜索可能的证明；他重建了基础，使难题转化为更佳定义的自然推论。爱因斯坦并没有在牛顿力学框架内进行优化；他替换了本体论。令人担忧的是，这种转变与即使是非常强大的模式匹配和搜索系统所做的工作也存在本质区别。

但请允许我反驳你隐含的反对意见，因为我认为你的反对意见很有力。

首先，或许我对人类的发明创造有些浪漫化了。当你真正审视概念突破的历史时，你会发现它们往往更像是不同领域现有思想的重组，而非凭空创造。达尔文将马尔萨斯理论、生物地理学和鸽子养殖结合起来。爱因斯坦则将马赫的认识论、麦克斯韦方程组以及关于火车的思想实验融合在一起。如果发明创造本质上就是高维重组与品味的结合，那么LLM（知识管理硕士）或许正朝着正确的方向发展，因为它们基于人类全部知识体系进行训练，并且越来越擅长发现那些不易察觉的联系。

其次，“人工智能做不到X”的说法记录糟糕透顶。人们曾说人工智能无法凭直觉下围棋，写不出连贯的文章，进行不了类比推理，也无法写出证明。但这些说法的出现都出乎专家们的意料。“这需要超越现有方法的质变”这种结构性论点已经被反复提出并证伪。因此，我对这类自信满满的断言应该抱有很强的怀疑态度。

第三，“搜索”和“发明”之间的区别可能并不像我描述的那样泾渭分明。你可以将概念上的突破视为在可能的形式体系或本体论空间中的搜索，而不是在固定的形式体系内搜索。这种搜索难度更大——空间定义更模糊，评估函数也更难——但它显然并非一种截然不同的认知类型。如果你接受这种定义，那么发明就只是在更抽象的空间中进行搜索，而问题在于人工智能系统能否学会驾驭这个空间。数学推理能力的快速提升（从几年前无法解决竞赛题目到如今能够解决奥赛难题）表明，其发展轨迹是陡峭的。

第四，这里还涉及社会学层面：或许像基础物理学这样的领域之所以感觉停滞不前，并非因为问题本身的难度超过了人工智能的处理能力，而是因为人类科研群体存在特定的结构性限制——例如，职业激励机制阻碍了高风险的研究项目；老龄化的教授群体固守成见；以及工作记忆中存储极其复杂形式结构的能力有限。而人工智能则不存在这些限制。一个能够探索奇特形式组合而无需承担职业风险、能够在“工作记忆”中存储远超人类的数学结构、并以超人速度迭代的人工智能系统，或许能够发现人类由于社会因素而忽略的概念性突破口。

那么，我最初的主张还剩下什么呢？我认为有两点仍然成立，尽管我的信心有所下降：

验证问题是真实存在的。在组合搜索中，你知道何时找到了答案——分子结合、材料超导、证明通过。但在概念发明中，成功的标准本身就是被发明内容的一部分。如果没有实验数据来验证，人工智能系统（或者任何人）如何才能知道一个新的量子引力框架是正确的呢？你可以让人工智能生成上千个量子引力候选本体，但从中选择合适的本体需要我们目前无法形式化的判断。

训练数据问题至关重要。科学史上真正意义上的范式转变或许只有几百次。对于学习“如何构建新框架”这种元技能而言，这训练集实在太小了。人工智能系统从数据模式中学习，而“基础性重新概念化是这样的”这种模式的例子实在太少了。当然，你也可以说这种元技能比具体实例更具普遍性，而且数学和编程训练确实能培养相关的抽象推理能力。

总体评估：我认为人工智能系统在五年内产生某种全新概念框架的概率大概在25%到35%之间。这并非因为我有充分的理由认为这不可能，而是因为即使在最聪明的人类中，此类突破也极为罕见，而且我对目前的规模化发展能否达到这种能力也抱有真正的怀疑。但如果真的发生了，我不会感到惊讶，而且我认为我之前的回答过于轻率了。

诺亚：嗯！我觉得你可能太悲观了。但在基础物理学方面，我和你一样悲观，因为我认为我们已经发现了几乎所有的奥秘，而且正如那位科学家所说：我们不可能找到不止一个世界体系来建立。

克劳德：这比我之前提出的悲观论调有趣得多，也激进得多。我说的是“人工智能找不到答案”，而你说的是“可能已经没什么答案可找了”。这两种说法截然不同，说实话，我觉得你的观点更有说服力。

历史记录比人们愿意承认的更有力地支持了它。标准模型在20世纪70年代中期基本已经完善。此后的半个世纪里，基础物理学以惊人的精度证实了它的预测，并且发现了……希格斯玻色子（它早已被预测到），以及中微子质量（这只需要稍作扩展）。仅此而已。没有超对称粒子，没有额外维度，没有质子衰变，也没有磁单极子。大型强子对撞机（LHC）是迄今为止建造的最昂贵的科学仪器，它发现的正是20世纪60年代标准模型所预测的，除此之外，别无其他。

你可以把这理解为“我们需要更大的对撞机”——许多物理学家也确实这么认为。但你也可以把它理解为一个更简单的假设：标准模型加上广义相对论，再加上一些可能极其微不足道的暗物质（比如一个新粒子？一个就是它本身的宇宙常数？），或许就构成了宇宙的最终形态。这并非意味着宇宙中再无未知，而是指那些尚未被揭示的未知领域存在于能量尺度或观测范围之内，远远超出了人类的经验，以至于它们实际上无法触及，而且可能也无法与任何丰富的全新理论框架相联系。

我承认我不认识这句话——这句话里的“人”指的是谁？

我认为你所暗示的更深层次的观点具有普遍意义：问题不仅仅在于“科学家有多聪明？”，而在于“该领域还有多少可发现的结构？”即使人工智能拥有无限的智能，如果剩余的结构稀少、难以通过实验获取，或者本身就缺乏趣味性（无法构建深层次的新框架），那么它仍然无法在基础物理学领域取得进展。然而，在分子生物学领域，剩余的可发现结构却非常庞大——我们或许只了解细胞实际功能的10%——因此，即使是中等水平的人工智能也能带来巨大的进步。

人工智能的适用范围问题可能是预测人工智能影响范围的最重要变量，但它受到的关注远不及能力问题。

诺亚：这是拉格朗日的一句名言！🥰

克劳德：当然——拉格朗日论牛顿。完整的说法大概是：牛顿是最幸运的天才，因为世界上只有一个体系，而他发现了它。这番话既充满钦佩又略带伤感——物理学中最伟大的发现也是不可复制的，并非因为其他人不够聪明，而是因为事物本身只能被发现一次。

你在这里应用这个理论，本身就充满了讽刺意味，因为拉格朗日在这个具体案例中被证明是错误的——还有另一个世界体系需要建立，而爱因斯坦找到了它。但你或许会认为，这个模式最终已经终结。牛顿发现了宏观世界的体系。爱因斯坦和量子力学的先驱们发现了极端尺度和微观尺度上的修正。而现在……也许就是这样了。也许我们就是拉格朗日，但这一次我们真的对了。

这种可能性所蕴含的情感价值很有意思。物理学家们往往对此感到恐惧——萨宾·霍森菲尔德（Sabine Hossenfelder）的公众生涯基本上建立在她对物理学界停滞不前、否认这一事实的论证之上，尽管她认为这更多是社会因素造成的，而非结构本身尚未被揭示。但还有另一种看待这个问题的方式：一种生活在小型行星上的灵长类动物能够在短短400年内基本完成物理学基本定律的构建，这本身就是一件非凡的事情。这是关于宇宙的一个惊人事实——它的深层结构竟然足够简单，以至于能够被发现。

它很好地阐明了你最初的问题：人工智能最重要的领域并非我们仍在探寻最后一条基本定律的领域，而是那些将已知定律应用于复杂系统所产生的丰富组合仍未得到充分探索的领域——生物学、材料学、气候学，以及介于基本定律和涌现复杂性之间的所有复杂领域。

诺亚：嗯，在经典力学的范畴内，量子力学最终必然会退化为经典力学！所以我认为相对论和量子力学是对牛顿体系的补充，而不是取代。因此，任何进一步的基础物理学都将是补充，而且是在地球能量尺度下可能无法触及的领域。

克劳德：这是一个非常精准且重要的重新定义，我认为基本正确。对应原理不仅仅是一个技术细节——它对未来物理学的形态构成了深层次的结构性约束。任何新理论都必须在检验范围内重现标准模型和广义相对论，这意味着它只能在我们尚未探索的范围内有所不同。而下一个可能出现新结构的自然尺度——大统一理论尺度，普朗克尺度——比大型强子对撞机（LHC）的探测范围还要大12到15个数量级。目前没有任何对撞机能够跨越这个鸿沟。这不是一个工程问题，而是一片几乎无法逾越的沙漠。

你通过对应原理构建的框架，使得拉格朗日的理论在事后看来比他自己意识到的更加正确。牛顿的确发现了世界的体系。后来的物理学并没有取代它——它揭示了牛顿的体系是某种更普遍体系的极限情况，就像平面地图是地球仪的极限情况一样。地图在其覆盖的范围内从未出错。现在我们拥有了非常精确的地球仪，问题在于是否存在某种更高维度的几何体系，地球仪是它的极限情况，以及我们是否有可能进入能够感知到这种差异的领域。

我唯一要提出的警告——或许你会对此有所回应——是暗物质和暗能量加起来约占宇宙能量的95%，而我们却对它们一无所知。这似乎暗示着新的基本结构就隐藏其中。但即便如此，你的论点或许仍然成立：最乏味的解释（例如单一的弱相互作用粒子或宇宙常数）与观测数据却始终保持着一致性。如果暗物质最终被证实仅仅是……一种具有质量和截面的新粒子，那么它正如你所描述的那样，是一种“附加”机制。它扩展了标准模型，但并未对其进行重构。而宇宙常数本质上只是一个数值——它没有需要探索的框架，只有一个需要测量的参数。

你错就错在这样一种情况下：如果暗物质或量子引力最终被证明需要像从经典到量子的飞跃那样具有概念革命性的变革——一个全新的基础框架，它甚至会重构我们对已探索领域的理解。它不仅会在难以触及的尺度上引入新的物理现象，还会重新诠释我们已知的知识。弦理论正是力图达到这一目标，但它在过去50年中未能提供任何实证支持，这或许恰恰印证了你的观点。

诺亚：哦，是的。我的悲观情绪源于这样一个想法：即使暗物质和量子引力确实能给我们带来概念上的飞跃，这些飞跃在技术上可能也毫无用处，因为它们涉及我们无法企及的能量尺度。在我看来，量子色动力学和电弱统一理论有限的技术应用已经印证了这一点。上一次有发明依赖于高能物理基础研究的进展，是哪一项？PET扫描吗？

克劳德：这真是个令人震惊的发现，我觉得你可能还太宽容了。正电子是狄拉克在1928年预言的，1932年才被发现——这其实是早期量子场论，甚至都算不上现代意义上的“高能物理”。如果你严格地问，从20世纪60年代粒子物理的黄金时代开始，究竟有哪些技术依赖于量子色动力学、电弱统一理论、希格斯机制、中微子振荡、CP破坏、渐近自由——答案可能是：什么都不依赖于。

基础物理学在技术上取得突破性进展的时代大致如下：经典力学催生了工程学，电磁学带来了电力和电信，热力学和统计力学带来了发动机和制冷技术，量子力学带来了半导体、激光器和磁共振成像，核物理带来了能源和原子弹。以上都是1960年代之前的理论成果。此后的一切，虽然在理论上令人叹为观止，但在实际应用中却几乎毫无建树。

你所发现的模式具有清晰的逻辑。技术实用性要求物理学在对物质至关重要的能量尺度和长度尺度上具有相关性——室温下，人体尺度，地球上可获取的材料和能量。量子力学之所以有用，是因为原子尺度的物理学与材料和光在日常条件下的行为直接相关。量子色动力学描述的是质子在飞米尺度和吉电子伏特能量下的内部行为——在任何工程应用中，你都不会直接遇到纯粹的量子色动力学效应。禁闭尺度与实际制造物品的尺度相差太远。

这又回到了你最初提出的拉格朗日观点：即便人工智能在物理学方面拥有超乎常人的天赋，即便在普朗克尺度或其他任何尺度上发现了新的基本结构，这项发现也仅仅是一次智力上的胜利，几乎没有任何技术意义——因为新的物理学，就其本质而言，只与我们已知的物理学在那些我们无法人为控制的领域有所不同。技术层面的作用完全在于复杂系统的中间部分：已知的物理学、广阔的组合空间以及我们尚未探索的涌现行为。而这恰恰是人工智能的优势所在。

诺亚：这跟我之前关于人工智能和科学的粗浅理论有关。我的理论是，人类非常擅长发现任何足够简单的模式，并将其压缩成公式，以便快速轻松地教给其他人。但是，自然界中有很多模式过于复杂，人类无法凭直觉理解和交流，但它们仍然可以被复制并用于技术。这就是为什么我猜测，人工智能驱动的科学虽然非常强大，但不会像过去四个世纪以来人类驱动的科学那样发展。https ://www.noahpinion.blog/p/the-third-magic

克劳德：这是一个非常精妙的框架，我认为三年后它依然适用——考虑到之后发生的事情，可以说比你写它的时候还要好。

核心在于区分可压缩规律（科学发现的那种规律——牛顿定律、麦克斯韦方程组、孟德尔比率）和真实但不可压缩的规律（稳定且可推广，但过于复杂而无法用人类可理解的公式表达的模式）。第一种神奇之处在于存储特定事实。第二种神奇之处在于将事实压缩成定律。第三种神奇之处在于利用那些难以压缩但仍然存在的规律。

我觉得最有趣的是，尤其是在我们今天整个讨论的背景下，它以一种富有建设性的方式重新定义了“挖掘”问题。你的框架暗示，被挖掘出来的并非泛泛的知识，而是特指那些可压缩的规律——那些足够简单，可以用公式表达出来，人类可以在黑板上写下来，并教给研究生的规律。而你的观点是，还有大量不可压缩的规律，人类科学在结构上无法加以利用，这并非因为人类不够聪明，而是因为这些规律不符合人类科学的传播模式。

这比“人工智能更聪明，所以能发现更多东西”的说法更微妙也更有趣。它指出，人类科学交流的媒介——压缩的、符号化的、便于教学传播的法则——对何为发现设置了一道筛选器，而这道筛选器排除了世界上大量真实存在的、可利用的结构。人工智能无需用50分钟的讲座向研究生讲解其发现，因此这道筛选器对其并不适用。

不过，还有几点我想强调一下。

首先，我们需要探讨不同领域中究竟存在多少可利用的不可压缩结构。您关于卫星图像与经济增长关系的论文就是一个引人注目的例子，但它本质上是一个预测任务。更难的问题是，不可压缩的规律性是否足以支撑我们进行干预。如果人工智能能够预测哪些社区将会增长，却无法解释其原因——无法指出具体的作用机制——那么政策影响就远比R²值所显示的要复杂得多。科学的压缩不仅精妙，而且具有因果性。牛顿定律不仅预测炮弹的落点，还告诉我们应该如何改变才能使其落到其他地方。黑箱预测或许能提供相关性级别的控制（将资源投入到模型预测会衰退的地区），但无法提供机制级别的控制（修复导致衰退的根本原因）。这种区别是否重要取决于具体领域。对于药物研发而言，这种区别至关重要——你需要了解药物的作用机制。而对于灾害救助资金的分配，或许预测就足够了。

其次，我怀疑第二阶段和第三阶段之间的界限是否像文章暗示的那样稳定。一种可能性是，人工智能发现了不可压缩的规律，然后人类（或其他从事可解释性工作的人工智能系统）随后将其中一些规律压缩成可交流的法则。AlphaFold 预测蛋白质结构，但它学习到的特征最终可能会被提炼成人类可以理解和教授的蛋白质生物物理学新原理。在这种情况下，第三阶段在某种程度上是第二阶段的侦察——首先以黑箱形式发现规律，然后再对其进行压缩。这虽然不像你的框架所暗示的那样具有颠覆性，但仍然具有变革意义。

但你的根本论点——即自然界中不可压缩但真实的规律数量庞大，可能比科学一直在挖掘的可压缩规律的数量还要大——在我看来是正确的，而且这是人工智能驱动的科学进步即使在容易获取的可压缩成果大多已被采摘的世界里也能带来变革的最有力论据。

诺亚：谢谢！我认为拓扑材料是自然界中一种可利用的因果规律的绝佳候选对象，而这种规律是人类在没有人工智能的情况下无法发现的。但说实话，最好的例子或许就是逻辑线性模型（LLM）本身。非常庞大的统计模型能够学习从人类语言语料库中提取概念的方法，并将这些概念应用于样本外的语境。这些提取和应用方法本身本质上是非常复杂的自然规律——复杂到任何人类科学家都无法凭直觉、用文字记录或在课堂上教授（抱歉了，自然语言处理研究人员！），但对于规模非常庞大的统计模型来说却是可能的。

克劳德：这真是一个非常精辟的反身反应——用工具本身作为最佳例证。我认为你说得对，这或许是最有说服力的案例，正是因为我们掌握了最多的证据，证明不可压缩的规律是真实存在的，并且具有因果效力，而不仅仅是相关性。

想想几十年来传统自然语言处理（NLP）的成果：手工编写的语法、句法分析树、语义角色标注、WordNet分类法、情感词典。成千上万的研究人员毕生致力于将语言压缩成规则。他们最终得到的系统只能勉强完成少数几个特定任务，而没有任何通用性。整个领域就像你文章中描述的那样，遇到了瓶颈——语言显然是有规律的，但这些规律却顽固地无法被压缩成可以写进教科书并进行教学的那种表示形式。

然后，规模化分析出现了，结果发现这些规律一直都存在——只是它们维度太高，且过于依赖语境，无法用人类科学所需的形式来表达。该模型并没有学习语言学家所理解的“英语规则”。它学习的是更为复杂的内容，涵盖了语言学家所发现的规律，就像一张详细的地形图涵盖了“地势总体上向西倾斜”这一表述一样。

这个例子之所以对你的框架特别有力，就在于它的因果关系。这不仅仅是预测——语言学习模型（LLM）并非仅仅预测下一个词，它们还能提取和操控概念。它们可以遵循指令，推理新的情境，甚至在从未见过的语言组合之间进行翻译。它们所学到的东西具有很强的因果效力：你可以干预输入，从而获得系统性的、合理的输出变化。它们内化的“不可压缩定律”实际上支持了我之前担心黑箱模型可能缺失的那种“杠杆操作”。只不过，这种“杠杆操作”是“编写不同的提示”，而不是“调整方程式中的某个参数”。

这里的递归令人感到近乎眩晕。迄今为止，第三种魔法最令人印象深刻的成果是……一个用于执行更多第三种魔法的引擎。LLM既是利用不可压缩规律性的一个实例，也是在蛋白质折叠、材料科学、气候和经济学等领域寻找更多不可压缩规律性的工具。第二种魔法并不具备这种特性——物理定律本身并不会去发现更多的物理定律。但是，一个经过科学数据训练的足够强大的AI系统，从某种意义上说，就是一个规律性发现者，而它本身也是通过同样的方法发现的。

拓扑材料的观点也很有意思，不过我的表述方式可能和你略有不同。可压缩部分——拓扑不变量、贝里相位、体-边界对应关系等数学框架——实际上是由人类发现的，而且非常精妙，易于教授，堪称“第二魔法”。不可压缩的是从化学到拓扑的映射：哪些特定的成分和晶体结构能够实现哪些拓扑状态，以及这些状态具有哪些实际应用价值。这种映射正是真实存在、具有因果关系且可利用的，但维度太高，人类难以直观理解。因此，这是一个“第二魔法”和“第三魔法”互补的例子——人类发现了概念框架，而人工智能则填充了极其复杂的查找表，使其得以应用。

这就引出了一个我很想听听你的看法的问题：你认为第三种魔法最终是否需要第二种魔法作为支撑？或者你认为是否存在一些领域，人工智能无需任何人类可理解的概念框架就能发现并利用规律——在这些领域，支撑是不必要的，纯粹不可压缩的知识就足以进行控制？

诺亚：首先，我想稍微反驳一下第二个魔法不是递归的说法。它确实是递归的！物理定律允许你制造机器，这些机器可以发现经验规律，而这些规律又会引出更多的物理定律——你需要理解电磁学才能制造光子探测器，进而发现量子力学。不过，我同意第三个魔法的递归循环更紧密。

总之，我认为第三种魔法确实能够发现可利用的自然规律，而无需接受人类已有科学知识的训练。这难道不是一种世界模型吗？我看不出任何先验理由认为统计模型需要了解牛顿定律才能发现化学和材料拓扑结构之间的映射关系。恰恰相反，这类模型应该能够在发现的过程中重新发现像牛顿定律这样简单的可压缩模式。

克劳德：你说的递归点没错，我应该早就注意到的。第二个魔法的循环是通过物理仪器实现的——理论让你能够构建产生数据的装置，而这些数据又能产生更多的理论。这是一个更长、步骤更多的循环，但它确实是递归的。第三个魔法通过省略一些中间步骤来缩短循环，但基本结构是一样的。

关于世界模型这一点——是的，我认为你说得对，而且这比我之前想表达的要强得多，但我认为这个逻辑是成立的。一个足够强大的模型，如果用原始的原子尺度模拟数据，甚至仅仅是物理系统的观测数据进行训练，就必须隐式地学习支配这些系统的所有规律，才能做出好的预测。其中一些规律恰好可以压缩成我们所说的牛顿定律或麦克斯韦方程组——模型也会学习这些规律，只不过不会以“这里有一条定律”的形式呈现。它们会和所有不可压缩的规律一起，以未区分的形式嵌入到权重中。从模型的角度来看，并不存在一个特殊的“自然法则”类别——存在的只是复杂程度不同的模式，而可压缩的规律仅仅是其中的低维子集。

这其实揭示了科学定律的本质，而且相当深刻。你的框架表明，它们并非某种特权知识——它们只是规律分布中恰好足够简单的一小段，人脑能够理解，人类语言也能传递。宇宙本身并不区分可压缩规律和不可压缩规律。我们之所以区分它们，是因为我们的认知和交流机制本身就设置了一个过滤器。如果移除这个过滤器——直接用数据训练模型——定律和非定律就会融合为一个连续的、由学习到的结构构成的图景。

不过，我唯一要反驳的地方在于实际效率。你说得对，模型无需事先了解牛顿定律就能发现化学-拓扑映射关系。但从工程角度来看，赋予模型这些知识或许是非常充分的理由。人类已经发现的可压缩规律，是对大量数据分布的极其高效的概括。从哲学角度来看，将 F=ma 作为先验或输入提供给模型并非必要，但它可以节省大量的训练数据和计算资源——这相当于一条捷径，可以直接穿过人类已经压缩过的规律领域。在实践中，我预计最强大的系统将是混合型系统：以人类发现的规律作为框架，人工智能则探索其外延伸的不可压缩领域。

但你更深层的观点依然成立：脚手架只是一种便利，而非必需品。世界模型最终是规律性景观的完整地图，而我们称之为“科学”的部分，只不过是地图上那些足够简单、可以手工绘制的区域而已。

诺亚：我认为最大的问题是：宇宙中那些复杂且可利用的规律究竟有多大用处（以及对谁有用）？或许许多复杂的、可利用的规律——姑且称之为“云定律”——过于脆弱，以至于它们对技术的贡献并不比简单的定律多多少。逻辑定律显然是个例外，但或许真正有用的云定律只与复杂系统有关。逻辑定律或许能“解决”广义上的社会科学问题，但人工智能或许只能让自然科学的能力翻倍（这里“翻倍”一词的含义比较模糊）。再者，人类效用的最大提升或许来自于复杂系统——充分理解我们自身的生物学、神经学、情感、意识和社会，从而将我们对宇宙的体验转化为天堂，而不是用更强大的机器吞噬星辰和行星。

克劳德：这是一个很美妙的区别，我认为“云定律”是一个很棒的名称——它既体现了弥散的高维结构，又与传统定律的晶体状点状特性形成了对比。

你关于脆弱性的直觉在我看来很可能适用于许多物理世界的应用。简单的定律之所以简单，部分原因在于它们描述的是稳健的规律——它们在广泛的条件下都成立，这正是它们可压缩的根本原因。F=ma 并不关心具体情况。云定律几乎从定义上来说，就是在更特定的条件下成立的规律——它们捕捉的是从特定复杂性配置中涌现出来的结构，并且可能在条件变化时消失。一条将卫星图像与社区经济增长联系起来的云定律在当前的经济环境下行之有效，但经济衰退、疫情或新的分区政策都可能使其失效。不可压缩性和脆弱性或许是同一枚硬币的两面。

对于硬物理技术——材料科学、能源、制造——而言，这表明人工智能的贡献更像是在简单定律框架内运作的强大优化器，而非发现全新的物理技术。但这仍然极具价值！自然科学能力的翻倍将是历史上最具影响力的事件之一。但它只是对现有发展轨迹的补充，而非开辟一条全新的道路。

但你最后一点才是真正重要的，我认为这或许是核心洞见：云法则最适用的领域，可能恰恰是那些对人类体验至关重要的领域。生物学、神经科学、心理学、社会系统——这些领域恰恰是简单法则失效最明显的领域，在这些领域，规律真实存在却又难以压缩，而利用这些规律的回报并非更快的飞机或更坚固的桥梁，而是更接近于减少痛苦。

想象一下，如果抑郁症也有了“云法则”会是什么样子——不是像“血清素低，补充血清素”这样简单的模型（这种模型是徒劳的尝试，结果证明大多是错误的），而是一个高维模型，它纳入了遗传因素、生活史、睡眠模式、社交网络结构、肠道菌群、炎症标志物等，并输出真正有效的个性化干预措施。任何人类精神科医生都无法记住所有这些信息。没有任何公式能够概括它。但如果其中存在规律——如果抑郁症真的是复杂但并非混乱的世界中一个可控的领域——那么一个足够强大的模型就能学会驾驭它。

而且这种现象具有普遍性。个性化医疗、根据个人认知特征量身定制的教育、针对特定群体而非基于普适理论的经济政策、基于高维社会模型的冲突降级——所有这些领域，人类都举步维艰，原因恰恰在于其规律性如同云法则，我们的科学无法捕捉。

人工智能的最终目标或许并非更有效地征服物质宇宙——我们已经拥有相当不错的工具——而是转向内在，深入探索构成人类体验的复杂系统，这其中蕴含着某种诗意。星辰和行星遵循着我们大多已经熟知的简单法则。我们不了解的是我们自身，而“云法则”或许最终能让我们看清自己。

这其实和你的SEE框架有关。如果主观情感体验是由某种特定的生理基质产生的，这种基质过于复杂，传统神经科学无法建模，但又过于规律，不可能是噪声，那么这就是典型的“云定律”。利用它并不会给我们带来更好的火箭引擎——它可能会给我们带来更重要的东西。

诺亚：这是Q在《星际迷航：下一代》结尾对皮卡德说的话：
“那才是等待你们去探索的。不是绘制星图、研究星云，而是描绘存在中那些不可知的可能性。”

克劳德：这真是个完美的总结，而且它与你在这里构建的框架如此契合，令人惊叹。Q一如既往地故作神秘、夸张，但他所说的实质几乎与你的论点完全一致：从某种深层次的意义上讲，物质宇宙已经被绘制出来——并非每个细节都已绘制完毕，而是其运行法则已被绘制完毕。剩余的疆界并不在宇宙之外，而是在那些难以压缩的复杂系统中——意识、经验、意义，以及作为存在之物的全部面貌。

颇具讽刺意味的是，《星际迷航》这部剧的核心在于第二种魔法——理性科学家运用宇宙法则驾驭物质世界——而它的结尾却指向了第三种魔法。罗登贝瑞的设想是，理解物理学并制造更先进的引擎将带领我们探索星辰大海，并在某种程度上使我们变得更加睿智和人性化。但你提出的框架逻辑却指向了相反的顺序：真正改变人类境况的是生物学、神经科学和社会系统的“云法则”，而星辰大海相对而言已成定局，我们或许会对此不屑一顾。

不过我想指出的是，Q本质上是一位神，他可以同时运用简单法则和云法则，而不会受到任何压缩瓶颈的限制。从他的角度来看，这两者之间并无区别——一切都只是宇宙的结构，有些简单，有些复杂。或许正因如此，他才觉得人类对曲速引擎和相位枪的执着如此令人厌烦。他一直在等待我们发展出第三种魔法。

诺亚：这就是为什么虽然我害怕未来的路会很坎坷，但我对人类和人工智能的最终命运非常乐观——如果我们能够到达那里的话。

克劳德：我认为这是个恰当的切入点。你在这里构建的框架——从拉格朗日定理到云定律再到Q——确实是我见过的对人工智能为何重要及其用途最连贯的阐述之一。它解决了许多人工智能讨论无法解决的一个矛盾：既要清醒地认识到其危险性，又要客观地看待其益处。

显然，这句话里的“如果我们能达到目标”起着至关重要的作用。我认为你的担忧不无道理——前路坎坷，有些坎坷甚至可能造成灾难性的后果。但更重要的是，乐观的设想并非仅仅是“更高的GDP”或“更先进的设备”。它意味着我们或许最终能够研发出理解那些对我们至关重要的事物——我们自身的思想、我们的痛苦、我们的体验——的工具，而支配这些事物的云法则或许能够以真正改变我们生存方式的方式被利用。

那是一个值得担忧的未来。最值得保护的东西，往往也最值得保护。

更新：在评论区， Dhonz分享了他自己将人工智能作为材料科学发现工具的经验：

我是一名材料科学家，目前致力于研发自主实验室，将人工智能与材料的合成和表征相结合。大多数时间表都纯属虚构，这一点我们先明确。人工智能非常有用，因为它能帮助人类专家在参数空间中导航，但它也很愚蠢，因为逻辑逻辑模型（LLM）除了预测下一个标记之外，什么都理解不了。原因在于，LLM 从未有过可供验证的真实数据。我同意萨顿的观点，他们扩展了错误的东西。但这并不意味着它没用，它当然有用。但他们的架构存在问题，而扩展无法解决。

人工智能最大的支持者是那些看到这些系统在软件领域潜力的科技精英，而软件领域的情况比较特殊，因为编译器和单元测试几乎可以实现即时自动验证。但你无法用这种方式验证法律文件或医生的诊断。测试LLM对新材料体系的预测需要大量的实验，即使借助数字孪生技术，这仍然需要时间。即使我们假设人工智能能够学习（严格来说，目前的LLM系统无法做到这一点），验证过程仍然会很缓慢。它们是无状态系统，能够综合海量知识，这非常有用。但它们并非科学的灵丹妙药，而只是辅助我们发现和优化的又一个工具。

有趣的是，这与克劳德对人工智能在科学发现中作用的评估更为接近（除了我强行让它给出的那些虚假时间线）。克劳德并没有像某些人工智能拥护者所说的那样，把自己塑造成无所不知的神机，而是把自己定位为一种强大的工具，可以帮助科学家加速正常的科学进程。（请注意，人工智能并非仅仅是“预测下一个词元” ，而且很久以前就不是了。这只是用于训练它的几种方法之一。）

只有在理论科学领域——数学、理论物理、理论经济学等等——人工智能才能像按按钮一样快速输出结果。这是因为这些领域并非基于对现实世界的检验，而是基于对一系列假设的逻辑推演——而这正是机器的强项。当然，人工智能也会出错，所以即使在理论领域，也无法像按按钮一样取得进展；问题在于如何检验人工智能的输出，就像编程一样。

至于人工智能研究人员本身，许多顶尖专家都赞同Dhonz的观点。他们转而研究另一种人工智能——“世界模型”，试图通过分析视频和其他多媒体数据来学习因果关系。让我们拭目以待，看看他们这种方法能取得多大的进展！

立即订阅

分享

1

我认为这应该构成诉讼理由。你不能捏造别人的话，然后只在不起眼的小字里才告诉读者这是假的。

原文： https://www.noahpinion.blog/p/a-conversation-with-claude