机器里的幽灵

当一个系统变得复杂，而我们的知识逐渐减少时，我们很容易断言，用吉尔伯特·赖尔的话来说，有一个“机器里的幽灵”。

“红绿灯是怎么工作的？”“嗯，它知道交通中断了，所以它会从绿灯变成红灯。”

实际上，它什么都不知道。

专业人士可以解答关于“如何”的问题。一路深入。

这就是为什么 LLM 的 AI 技术栈如此令人困惑的原因之一。因为没有专家能准确地告诉你接下来会发生什么。结果可能是真的有鬼，或者至少这是最简单的解释。

原文： https://seths.blog/2025/08/the-ghost-in-the-machine-2/