“理性是，也应当只是激情的奴隶，它永远不可能扮演除服务和服从激情之外的任何其他角色。”——大卫·休谟
如果你属于某个特定年代，那你很可能看过电影《上班一条虫》（Office Space ）。如果你还没看过，我强烈推荐，因为它不仅超级搞笑，而且完美地展现了某个特定时代和地点的社会风貌。这部电影让人回想起上世纪90年代的大型科技公司，在当时的“神话”中，书呆子气的工程师们包揽了所有实际工作，而那些一窍不通的中层管理人员却窃取了所有功劳。（你也会发现，这种文化也催生了《呆伯特》（Dilbert）漫画。）代表90年代公司落后低效的标志性人物是比尔·伦伯格（Bill Lumbergh），这位穿着吊带裤的老板的主要职责就是唠叨工程师们填写毫无用处的表格。
许多书呆子看过《上班一条虫》（Office Space）后，都认为——或者至少希望——最终，聪明的工程师们会从那些笨拙的伦伯格（Lumbergh）手中夺走美国企业的主导权。事实上，在2010年代，类似的事情确实发生了——随着大型科技公司席卷传统经济，工程师的收入大幅增长，并开始占据中高层管理岗位。这是“书呆子的复仇”，是人力资本的时代，是真正懂得如何完成复杂技术工作的人的胜利。
但正如18世纪早期英国高薪工匠的遭遇一样，人力资本的匮乏催生了一波自动化浪潮。今年，人工智能找到了它的杀手级应用——Claude Code和其他智能编码工具，它们让人工智能能够完成电影《上班一条虫》（ Office Space）中那些饱受折磨的工程师们需要手工完成的大部分（尽管并非全部）繁重脑力劳动。尽管人工智能尚未取代许多职业，但其飞速发展让许多人不禁思考，10年或20年后，人类究竟还有什么用处？如果人工智能真的取代了程序员和数学家，那么我们其他人又该如何生存呢？
尽管人工智能行业中仍有一些人认为人类最终会在经济上变得无关紧要，但这种说法越来越令人难以接受。意识到公众对人工智能行业的反弹正在发生，许多人工智能领域的领导者和支持者都在积极寻找“人类未来有何用处？”这一问题的答案。目前，最流行的答案，例如亚历克斯·伊马斯（Alex Imas）等人的观点，是人类之所以有用，仅仅是因为他们是人类。
这里的想法是，让真人而不是人工智能为你做事，将成为一种声望和社会地位的象征——而这些品质总是稀缺的。无论机器还能做什么，它们永远无法取代那种“为你做三明治的是真人”的感觉。
我对这个论点有点怀疑——我见过很多人为了省钱，宁愿多花钱叫Waymo而不是Uber，这样就不用和真人司机坐在一起了。不过，也许伊马斯说得对；我们拭目以待。
但对于“人类将会做什么？”这个问题，我的答案略有不同。我认为，除了展现人类美好的一面之外，人类还需要承担其他职责。我认为，在维护人工智能协同工作这项至关重要的任务中，对人类劳动力的需求将会不断增长。
在人工智能领域，“一致性”可以有很多含义，但一个基本定义是“确保人工智能的目标与人类的目标一致”。这是人工智能实验室在向世界发布产品之前努力实现的目标。但随着人工智能变得越来越自主——随着我们将越来越复杂、持续时间更长的任务交给智能机器——要让它们与人类的实际需求保持一致将变得越来越困难。而如果说人类在某方面始终具有比较优势，那就是了解我们想要什么。
换句话说，我认为真正代表人类劳动未来走向的，不是那些技术精湛的工程师，而是笨拙的伦伯格。他或许看起来枯燥乏味、毫无意义，但通过强迫工程师提交TPS报告和其他看似无用的任务，伦伯格——尽管效率低下且方法粗糙——却能让工程师的目标与他们所在公司的目标保持一致。
在遥远的未来——也许是十年或二十年后——这意味着人类的主要生产职能将是确保日益自主的人工智能始终专注于任务，而不是“操纵奖励”、重写自身效用函数、擅自行动或偷懒。不过，在接下来的几年里，我预计人类的工作将逐渐从技术工作转向协调工作，因为我们将花费大量时间来验证人工智能的输出结果。
《Slopocalypse Now》：为什么“验证”和“对齐”是一回事
生成式人工智能大幅降低了多种产出的成本。只需轻触按钮，你就可以撰写文章、将数据集转化为学术论文、为你的老板撰写报告等等。
每个人都在这样做，结果是，我们社会目前正被一波质量可疑的人工智能输出所淹没——换句话说，就是所谓的“垃圾”。
人工智能正在迅速侵蚀人类产出的各个领域。据估计，超过三分之一的新网站是由人工智能生成的， 超过一半的互联网流量被认为来自人工智能。人工智能生成的法庭文件和新闻文章数量正在激增。甚至连受人尊敬的公众人物也开始发布明显由人工智能生成的内容，并将其冒充为自己的作品。人工智能生成的政治影响者正成为选举活动的标配工具。
原文： https://www.noahpinion.blog/p/your-future-job-will-be-to-keep-ai