Newsroom Robots是一个每周播客，探讨人工智能和新闻业的交叉点，由Nikita Roy主持。
我是最新一集的嘉宾，该集于周三录制并于今天发布：
新闻编辑室机器人： Simon Willison：解析 OpenAI 的新功能和大型语言模型的安全风险
我们最终把谈话分成两部分。
第一集涵盖了最近围绕 OpenAI 董事会纠纷的重大新闻，并探讨了他们在 DevDay 上发布的新功能以及其他主题，例如数据新闻中的大型语言模型的应用、即时注入和 LLM 安全性以及小型模型的令人兴奋的潜力记者可以在自己的硬件上运行。
您可以在 Newsroom Robots 网站上阅读完整的文字记录。
我决定提取并注释一部分文字记录，其中我们讨论了最近的 OpenAI 新闻。
Nikita 在4 分 55 秒询问我对 OpenAI 董事会情况的看法（Overcast 上该部分的链接）。
这里的根本问题是 OpenAI 是一个形状奇怪的组织，因为它们是非营利组织，而非营利组织拥有营利性部门。
这家营利性机构于 2019 年才成立，此前它们纯粹是非营利机构。
他们成立了一个营利性部门，这样他们就可以接受投资来购买他们做所有事情所需的所有计算能力，他们筹集了大约 130 亿美元之类的资金，其中大部分来自微软。 [更正：迄今为止，微软总共提供了 110 亿美元。]
但非营利组织仍然完全控制着。他们有章程，有独立的董事会，重点是——如果他们建立了这个神秘的通用人工智能——他们就是在努力为人类服务，并使其脱离单一公司的控制。
这就是他们应该追求的目标。但这一切都彻底崩溃了。
头三天我完全困惑了——我不明白为什么董事会解雇了萨姆·奥尔特曼。
后来人们发现，这一切的根源都是董事会长期运作失调。
多年来，OpenAI 的董事会之间一直存在大规模的争斗，但问题是，在去年 11 月 ChatGPT 推出之前，这些争斗所涉及的利害关系并不是那么重要。
你知道，在 ChatGPT 之前，OpenAI 是一个人工智能研究组织，取得了一些有趣的成果，但它并没有引起世界关注。
然后 ChatGPT 出现了，突然间，这个非营利组织的董事会负责了一款拥有数亿用户的产品，该产品正在颠覆整个技术行业，纸面价值一度达到 800 亿美元。
但董事会仍在继续。董事会基本上还是一年前的样子，人数减少到了六人，我认为这是最有趣的事情之一。
董事会人数缩减至六人的原因是，随着人们离开董事会，他们无法就董事会成员的加入达成一致。
所以这是董事会状况不佳的第一个迹象。由于意见分歧，他们无法任命新的董事会成员，这导致他们的董事会只有六人，这意味着只需四人的多数即可开始所有这些事情。
现在发生的情况是，董事会已减少到三人，这三人的工作是将董事会人数增加到九人。这实际上就是他们的目的，再次开始扩大董事会。
但与此同时，很明显山姆已经成为国王。
他们试图解雇萨姆。如果你要解雇萨姆，而他四天后又回来了，那就再也行不通了。
因此，关于我们是一个研究组织还是一个不断发展、构建产品、提供开发者平台并尽可能快速发展的组织的整个内部争论似乎已经在 Sam 的方向上得到了解决。
尼基塔询问这对他们的声誉风险意味着什么？
老实说，过去几天他们最大的声誉风险在于其作为平台的稳定性。
他们试图为开发人员、初创公司提供一个平台，让他们可以在此基础上构建极其复杂且重要的东西。
有人说，“天哪，我的初创公司，我在这个平台上建立了它。下周它会不存在吗？”
值得赞扬的是，OpenAI 的开发者关系团队非常直言不讳地说：“不，我们会继续努力。我们会继续运行。”
他们确实设法推出了新功能，即 ChatGPT 语音功能，但随后出现了中断，看起来不太好！
你知道，从他们的状态板来看，API 已经失效了几个小时。
[状态板显示部分中断，并显示“API 和 ChatGPT 错误增加”，持续 3 小时 16 分钟。]
因此，我认为在 OpenAI 之上构建的人们会寻求的一件事是董事会层面的稳定性，这样他们就可以相信该组织会继续存在。
但我觉得他们遭受的最大声誉打击是这样的想法：他们作为一个非营利组织的设立方式不同，其存在的目的是为人类服务，并确保他们正在构建的强大事物不会落入某个人的控制之下。单一公司。
然后 700 名员工签署了一封信，写道：“嘿，如果董事会不辞职，我们明天将在 Sam 的领导下为微软工作，继续开发这些东西。”
我觉得这削弱了他们作为勇敢的独立人士的想法，他们首先为人类而建设，并使之脱离公司控制！
我们谈话后半部分的这一集谈论了我的一些人工智能和数据新闻相邻项目，应该在下周发布。
原文： http://simonwillison.net/2023/Nov/25/newsroom-robots/#atom-everything