《大西洋月刊》的一篇新文章指出：“如果OpenAI曾经存在过，那么它已经不复存在了。” 该文章基于对90多名现任和前任员工（包括高管）的采访。文章指出，在Altman被解雇（并重新受聘）前不久，他“似乎为了权宜之计试图规避安全流程”。OpenAI联合创始人兼首席科学家Ilya曾对三位董事会成员说：“我认为Sam不应该成为AGI项目的掌舵人。” （委员会已经发现奥特曼“没有向他们坦白一系列问题”，包括违反部署安全委员会的规程。）这篇文章改编自即将出版的新书《人工智能帝国》，首先回顾了2023年夏天，当时苏茨克弗（“ChatGPT构建背后的大型语言模型大脑”）与一群新的研究人员会面：苏茨克弗长期以来一直认为通用人工智能（AGI）是不可避免的——现在，随着生成式人工智能行业的加速发展，他相信AGI的到来迫在眉睫，这是人工智能先驱、他的博士导师兼导师杰夫·辛顿以及另一位熟悉苏茨克弗思想的人士的说法……在周围人看来，苏茨克弗似乎正沉浸在对即将到来的文明转型的思考中。当一个至高无上的AGI出现并超越人类时，世界将会是什么样子？OpenAI又肩负着什么责任来确保最终世界是极度繁荣而不是极度痛苦？那时，此前大部分时间都致力于推进人工智能能力的苏茨克弗，开始将一半时间投入到人工智能安全领域。在周围的人眼中，他既像个“婴儿潮一代”，又像个“末日论者”：对未来比以往任何时候都更加兴奋和恐惧。那天，在与新研究人员的会面中，他制定了一个计划。据一位在场的研究人员说，他一开始就说：“等我们都进了地堡……”。“抱歉，”这位研究人员打断道，“地堡？” “在发布通用人工智能（AGI）之前，我们肯定会建一个地堡，”苏茨克弗回答道。如此强大的技术必将成为全球各国政府梦寐以求的目标。致力于这项技术的核心科学家需要受到保护。“当然，”他补充道，“你们可以选择是否要进地堡。” 我采访的另外两位消息人士证实，苏茨克弗确实经常提到这样的地堡。 “有一群人——伊利亚就是其中之一——相信构建通用人工智能会带来狂喜，”这位研究员告诉我。“真的，狂喜……”但到了2023年中期——大约在他开始更频繁地谈论地堡的想法的时候——据熟悉他想法的消息人士透露，苏茨克弗不再仅仅专注于通用人工智能和超级智能可能带来的灾难性转变。他被另一种焦虑所困扰：他不再相信OpenAI能够保持其技术进步以达到通用人工智能，或者在奥特曼的领导下承担这一责任。消息人士称，苏茨克弗认为奥特曼的行为模式正在破坏OpenAI使命的两大支柱：它正在减缓研究进度，并削弱做出合理人工智能安全决策的任何机会。 “OpenAI 的未来曾一度悬而未决。它或许会选择一条远离激进商业化和 Altman 的道路。但事实并非如此，”文章总结道。相反，“董事会对解雇 Altman 的理由缺乏清晰的解释”。他们担心无法充分发挥自己的潜力（一些员工甚至担心失去出售价值数百万美元股权的机会）。“面对 OpenAI 可能分崩离析的局面，Sutskever 的决心立刻开始动摇……他开始恳求董事会其他成员重新考虑他们对 Altman 的立场。”最终，“Altman 会回来的；没有其他办法可以拯救 OpenAI。”对我来说，这场闹剧凸显了我们这一代最紧迫的问题之一：我们如何治理人工智能？随着人工智能正在重塑社会中许多其他关键功能，这个问题实际上是在问：我们如何确保我们的未来变得更好，而不是更糟？ 2023年11月发生的事件清晰地表明，极少数硅谷精英之间的权力斗争正在多大程度上塑造着这项技术的未来。这种中心化的人工智能开发方式的后果令人深感不安。如今，OpenAI 已经完全背离了它曾经宣称的……作者认为，OpenAI“变得越来越神秘，不仅切断了对其自身研究成果的访问，还改变了整个行业的规范，使其不再分享有关人工智能模型的有意义的技术细节……”“与此同时，人们对生成式人工智能的真正经济价值的质疑也越来越多，越来越多的研究表明，这项技术并没有转化为大多数工人的生产力提升，反而还在侵蚀他们的批判性思维。”
在 Slashdot 上阅读更多内容。