前段时间我收到一份报告，明显是 ChatGPT 写的。倒不是因为语气——语气平淡得像是出自任何人之手——而是因为报告里有三处事实错误，任何稍有相关知识的人都能轻易发现。我指出这些错误后，对方只是耸耸肩，说：“哦，我没仔细核对，是 AI 写的。”
那段小小的对话让我不寒而栗。倒不是因为他们的懒惰——懒惰本身就够让人恼火的了——而是因为他们的那种自信。他们没有丝毫羞愧，也没有意识到发出署有自己名字的错误作品应该让他们感到不安。他们只是轻描淡写地接受了机器替他们思考的事实，觉得这样就万事大吉了。
我们已经进入了一个时代：装作胜任工作从未如此容易，而真正胜任工作却从未如此不重要。人工智能工具为每个人提供了词汇、结构和专业形象。你可以在几秒钟内生成一份战略文件、一份研究摘要或一封关于任何主题的详细电子邮件。它读起来流畅，听起来权威，甚至可能大部分内容都正确。然而，撰写者可能根本不理解自己发送的内容，而且越来越多的人不再进行审核。
多年前我曾写过一篇关于我称之为“莫里斯点”的文章，指的是邓宁-克鲁格曲线上的那个特定时刻：你学到的东西刚好足够让你过度自信，但现实很快就会让你清醒过来。这种低谷过去几乎无法避免。你会开始做一件新事，感觉自己很棒，持续几周，然后就会撞上一堵墙，意识到自己其实懂得很少。而这种不适感正是真正学习的开始。大多数人会在这个时候放弃，而那些坚持下来的人最终会获得真正的理解。
人工智能有效地弥合了这一鸿沟。现在，你可以完全跳过那些令人不适的阶段。既然能够轻松产出看似出自他人之手的作品，何必还要苦苦挣扎于学习曲线呢？既然聊天机器人三秒钟就能给你一个自信满满的答案，何必还要忍受无知的煎熬呢？一无所知和看似无所不知之间的差距从未如此之小，我认为这确实是一个值得关注的问题。
问题不在于人们使用工具来辅助工作。我经常使用人工智能工具。我一直坦诚地将它们作为写作的思考伙伴，用来检验论点、发现盲点。区别在于，思考仍然在我身上。我会阅读每一份输出结果，质疑答案，运用自身的知识，并用工具来完善而非取代它。这才是真正的增强。而我周围看到的却是完全不同的情况：人们把人工智能当作理解的替代品，然后却自信满满地摆出一副自己亲力亲为的样子。
我曾在会议上见过有人引用人工智能生成的数据，语气却像自己亲自进行分析一样。我也曾在电子邮件中见过，发件人显然对自己写的内容一无所知，只觉得听起来很专业。几个月来，人工智能生成的垃圾文件一直在困扰着我的工作。医疗信函、供应商沟通、新闻稿，所有这些都明显是自动生成的，未经审核，却都一本正经地发出去。最让我震惊的是他们的自信。这些人并非明知自己在胡乱拼凑，而是真心相信输出结果足够好，认为让机器生成内容就等同于自己掌握了知识。
过去，自信地犯错是要付出社会代价的。如果你提出无法证实的论断，总会有人指出你的错误。你的无知会通过后续提问、实际应用以及用现实检验想法的基本过程而暴露出来。而现在，你可以编造出一套说辞来回避这些问题，听起来像是出自一位对此问题深思熟虑的人之口，大多数人也不会再追问。表面功夫已经取代了实质内容。
我拥有理科学位，但从未从事过相关职业。它教会我的最有用的技能就是如何辨别别人是否真的了解自己在说什么。这并非依靠什么特殊能力，而是源于养成习惯，比如问“你怎么知道的？”，然后看着对方的回答漏洞百出。如今，这个问题比以往任何时候都更加重要，但问的人却越来越少。我们似乎都默认速度和数量比准确性和深度更重要。
真正的知识和表演式的知识之间的区别在于，只有在压力下才会显现出来。一切顺利时，使用人工智能撰写报告的人和真正理解主题的人看起来完全一样。但一旦出现问题，计划需要调整，或者客户提出不在提示范围内的问题，这种差异就会变得显而易见。表演式的知识一旦脱离既定的框架，就会瞬间失效。
我总是想起我之前写的一篇关于人工智能以及人们使用人工智能走捷径的文章：那就是“只管去做” 。学习的意义不在于最终结果，而在于过程。在于挣扎、失败，在于反复钻研难题直到豁然开朗。当你把这个过程交给机器时，你并没有节省时间，反而跳过了让你真正胜任的环节。最终你得到的只是输出结果，却没有获得本应伴随而来的理解。
令人担忧的是，我们正在培养一批能够随时随地展现专业技能，但一旦被要求真正展示能力就束手无策的人。这听起来或许有些夸张，但只要花一周时间留意一下你邮箱里那些由人工智能生成的邮件，你就会明白我的意思。这种自以为是的蠢货并非新鲜事物。每一代人都有夸夸其谈、能力远不及实际表现的人。真正的新变化在于，如今的工具已经能够满足人们的野心，表象与现实之间的差距几乎变得难以察觉。
最可怕的不是那些明知自己在装病的人，而是那些不知道的人。
原文： https://gregmorris.co.uk/the-age-of-the-confident-idiot/