OpenAI 首席执行官 Sam Altman 在 4 月 24 日于华盛顿举行的 2025 年全球隐私峰会的主题讨论中远程发言。 |安娜摇钱树/盖蒂图片社
这个故事的一个版本最初出现在未来完美时事通讯中。在这里注册！
目前，OpenAI 不仅在人工智能公司中，而且在整个大公司中都是独一无二的。
OpenAI 的董事会不像大多数公司那样致力于为股东提供价值，而是致力于确保“通用人工智能造福全人类”，正如该公司网站上所说。 （OpenAI 仍处于私有状态，在今年早些时候完成创纪录的 400 亿美元融资后，目前估值超过 3000 亿美元。）
温和地说，这种情况有点不寻常，而且在自身矛盾的重压下日益崩溃。
长期以来，投资者很乐意向 OpenAI 投入资金，尽管 OpenAI 的结构并没有把他们的利益放在第一位，但在 2023 年，控制该公司的非营利组织董事会——是的，这就是多么令人困惑—— 解雇了山姆·奥尔特曼，因为他对他们撒谎。 （披露：Vox Media 是与 OpenAI 签署合作伙伴协议的几家出版商之一。我们的报道在编辑上保持独立。James McClave 是 Anthropic 的早期投资者之一，他的 BEMC 基金会为 Future Perfect 提供资金。）
这个故事首先出现在《未来完美》时事通讯中。
在此注册，探索世界面临的重大、复杂的问题以及解决这些问题的最有效方法。每周发送两次。
这一举措绝对没有实现股东价值最大化，充其量处理得非常笨拙，并且清楚地表明非营利组织对营利组织的控制可能会产生巨大影响——特别是对其合作伙伴微软而言，微软已经向 OpenAI 投入了数十亿美元。
奥尔特曼的解雇并没有持续下去——一周后，他在强烈抗议后返回，董事会大部分成员辞职。但自从被解雇以来，OpenAI 一直在考虑重组为一家更正常的公司。
根据该计划，控制 OpenAI 的非营利实体将出售其对公司的控制权及其拥有的资产。然后，OpenAI 将成为一家营利性公司，特别是一家公益公司，就像它的竞争对手 Anthropic 和 X.ai 一样，而这家非营利组织将带着一笔备受争议但绝对是数百亿美元的巨额资金离开，大概会用于用人工智能改善世界。
法律学者、几位诺贝尔奖获得者和一些前 OpenAI 员工在一封新的公开信中指出，只有一个问题：整个事情都是非法的（而且是一个糟糕的想法）。
他们的论点很简单：非营利组织董事会目前控制的东西——世界领先的人工智能实验室的治理——对于非营利组织来说以任何价格出售都是没有意义的。该非营利组织的行动应该是为了追求一个高度具体的使命：让人工智能造福全人类。但拥有为 OpenAI 制定规则的权力甚至比为这项任务投入巨额资金更有价值。
信中指出：“非营利组织对 AGI 开发和管理方式的控制对于 OpenAI 的使命非常重要，以至于取消控制将违反对非营利组织受益人负有的特殊信托义务。”这些受益者是我们所有人，而争论的焦点是，一个大基金会对于“指导 OpenAI 的作用”毫无意义。
这不仅仅是说此举是一件坏事。据称，如果董事会继续这样做，将非法违反其职责，加利福尼亚州和特拉华州总检察长（这封信是写给他们的，因为 OpenAI 在特拉华州注册成立并在加利福尼亚州运营）应该介入阻止。
我之前曾讨论过有关 OpenAI 潜在结构变化的争论。我写了一篇关于为非营利组织拥有的资产定价的挑战的文章，我们还报道了埃隆·马斯克的说法，即他自己在 OpenAI 历史早期的捐款被挪用为营利性组织。
这是一个不同的论点。这并不是说非营利组织对营利组织的控制应该产生更高的销售价格。有人认为 OpenAI 及其可能创造的东西实际上是无价的。
OpenAI 的使命“是确保通用人工智能的安全并造福全人类”，非营利性律师、这封信的作者之一泰勒·惠特默 (Tyler Whitmer) 告诉我。 “用美元和美分来谈论它的价值是没有意义的。”
他们的观点正确吗？这有关系吗？这基本上取决于两个人：加州总检察长罗伯特·邦塔和特拉华州总检察长凯瑟琳·詹宁斯。但这是一个严肃的论点，值得认真听取。这是我试图消化它的尝试。
OpenAI 如何成为 OpenAI
当 OpenAI 于 2015 年成立时，它的使命听起来很荒谬：致力于通用人工智能的安全发展——现在它澄清了，这意味着人工智能可以完成几乎所有具有经济价值的工作——并确保它造福全人类。
许多人认为这样的未来还需要一百年或更长时间。但为数不多的想要开始计划的人中，有很多人都在 OpenAI。
他们将其创立为非营利组织，并表示这是确保全人类对人类未来拥有主权的唯一途径。 “我们永远不想做出有利于股东的决策，”奥特曼在 2017 年承诺。 “我们唯一想要对整个人类负责。”
对生存风险的担忧也日益凸显。如果有可能构建出极其智能的人工智能，那么即使是偶然的，也有可能构建出不与人类目标和法律合作的人工智能。 “超人机器智能（SMI）的发展可能是对人类持续存在的最大威胁，”奥特曼在 2015 年表示。
因此非营利组织。我们的想法是，OpenAI 将免受为股东赚更多钱的无情激励——这种激励可能会驱使它低估人工智能的安全性——并且它将拥有一个治理结构，使其能够做正确的事情。即使这意味着关闭公司、与竞争对手合并或将主要（危险）产品撤出市场，情况也是如此。
“营利性公司的义务是为股东赚钱，”加州大学洛杉矶分校商业法教授迈克尔·多尔夫告诉我。 “对于非营利组织来说，无论其慈善目的是什么，这些相同的信托义务都有不同的目的。在这种情况下，非营利组织的慈善目的有双重：一是安全地开发人工智能，二是确保人工智能的开发是为了全人类的利益。”
“OpenAI 的创始人认为，如果 AGI 是由具有专有利润动机的商业实体开发的，公众将会受到伤害，”信中写道。事实上，这封信记录了 OpenAI 的成立正是因为许多人担心人工智能会在谷歌内部开发，而谷歌过去和现在都是一个以盈利为目的的大型商业实体。
即使在 2019 年，当 OpenAI创建了一个“以营利为上限”的结构，让他们从投资者那里筹集资金并向投资者支付高达 100 倍的回报时，他们仍然强调非营利组织仍然拥有控制权。我们的使命仍然不是建立通用人工智能并致富，而是确保其发展造福全人类。
“我们设计 OpenAI LP 的目的是将我们的总体使命——确保创建和采用安全且有益的 AGI——置于为投资者创造回报之前。……无论世界如何发展，我们都将在法律上和个人上致力于我们的使命，”该公司在采用新结构的公告中宣称。
OpenAI 做出了进一步的承诺：为了避免人工智能“军备竞赛”，即两家公司在安全问题上偷工减料，互相击败对方到达终点线，他们在管理文件中加入了“合并和协助”条款，改为加入另一家实验室，共同努力确保人工智能的安全。由于这个上限，如果 OpenAI 真的变得异常富有，那么投资者超过 100 倍上限的所有财富都将分配给人类。非营利性董事会——本应由在公司中没有财务利益的大多数成员组成——将拥有最终控制权。
在很多方面，该公司都在刻意克制未来的自己，试图确保在巨额利润的诱惑声越来越大的情况下，OpenAI 仍能牢牢地绑在其最初使命的桅杆上。当最初的董事会决定解雇奥特曼时，他们正在采取行动来执行他们认为的任务。
新的公开信指出，现在 OpenAI 希望得到释放。但该公司自己在过去十年中的论点非常有说服力：他们提出的使命并不是一家完全商业化的公司可能会追求的使命。因此，总检察长应该告诉他们“不”，而应努力确保董事会有资源去做 2019 年 OpenAI 计划董事会有资源去做的事情。
那么公益企业呢？
当然，OpenAI 并不打算成为一家完全商业化的公司。我看到的提议是成为一家公益公司。
“公益公司就是我们所说的混合实体，”多尔夫告诉我。 “在传统的营利性公司中，董事会的主要职责是为股东赚钱。在公益公司中，他们的工作是在赚钱与公共职责之间取得平衡：他们必须考虑公司活动对所有受其影响的人的影响。”
问题在于，出于所有实际目的，公益公司的义务是无法执行的。从理论上讲，如果一家公益公司没有造福公众，那么你——作为公众的一员——就会受到冤屈。但你无权在法庭上质疑它。
“只有股东才能提起这些诉讼，”多尔夫告诉我。以一家致力于帮助消除无家可归者为使命的公益公司为例。 “如果无家可归者权益倡导组织说他们没有让无家可归者受益，他们就没有理由起诉。”
如果 OpenAI 没有造福人类，那么只有 OpenAI 的股东才能试图追究其责任。多尔夫表示，“除非董事恶意行事或存在某种利益冲突，否则股东很难赢得注意义务诉讼。” “法院在选择如何经营企业方面非常尊重董事会，这是可以理解的。”
这意味着，从理论上讲，公益公司仍然是平衡利润和人类福祉的一种方式。在实践中，它对利润的规模非常重视，这可能是 OpenAI 在 2019 年没有选择重组为公益公司的一个重要原因。
“现在他们说我们没有预见到这一点，”编码正义组织的桑尼·甘地（该信的签署人之一）告诉我。 “这是故意撒谎，以避免真相——他们最初是这样建立的，因为他们担心这种情况发生。”
但是，我向甘地提出质疑，OpenAI 的主要竞争对手 Anthropic 和 X.ai 都是公益公司。这不应该有什么不同吗？
“这有点像是在问为什么非营利性保护组织不能仅仅因为还有其他伐木公司就转变为伐木公司，”他告诉我。从这个角度来看，是的，Anthropic 和 X 的治理都不充分，不能也不会要求他们负责确保人类从他们的人工智能工作中受益。这可能是回避他们、抗议他们或要求他们改革的理由，但为什么这是让 OpenAI 放弃使命的理由呢？
“我希望我从来没有遇到过这个公司治理难题，”佛罗多说道。
读完这封信，并与其作者以及其他非营利法和公司法专家交谈后，我不禁为 OpenAI 的董事会感到难过。 （在过去几个月里，我曾多次联系 OpenAI 董事会成员征求意见，因为我已经报道过非营利组织的过渡。他们没有回复任何评论请求。）
负责 OpenAI 治理的令人印象深刻的团队面临着作为一家快速发展的科技公司的董事会成员所面临的所有常见挑战，该公司拥有巨大的潜力和非常严重的风险，然后他们还面临着 OpenAI 情况特有的一大堆难题。正如奥特曼在国会证实的那样，他们的信托责任是确保通用人工智能的安全开发并造福全人类。
但我认为，他们中的大多数人是在奥特曼短暂解雇后被选中的，还有另一个隐含的任务：不要搞砸了。不要解雇萨姆·奥尔特曼。不要吓坏投资者。不要妨碍地球上任何地方正在发生的一些最令人兴奋的研究。
我问多尔夫，如果董事会成员对人类负有很难履行的信托义务，他们应该做什么？他们有胆量投票反对奥特曼吗？他对这种困境的困难程度的印象不如我。 “这仍然是他们的职责，”他说。 “有时责任很艰难。”
这也是这封信的落脚点。 OpenAI 的非营利组织无权放弃对 OpenAI 的控制权。它的义务是对人类的义务。人类应该对 AGI 的发展有发言权。因此，它不应该以任何价格出售该控制权。
即使它使筹款变得更加方便，它也不应该出售该控制权。它不应该出售这种控制权，尽管它目前的结构是笨拙、笨拙的，并且不适合应对如此规模的挑战。因为它比成为另一家公益公司更适合应对挑战。 OpenAI 在 2015 年为自己设想的史诗般的命运方面，取得的进展比任何人想象的都要远。
但如果我们希望 AGI 的发展造福人类，非营利组织就必须坚持自己的立场，即使面对压倒性的动机不这样做。否则州总检察长将不得不介入。
更新，美国东部时间 4 月 24 日下午 3:25：本文已更新，披露了有关 Vox Media 与 OpenAI 和 Anthropic 的关系的信息。