将总部位于旧金山的初创公司 OpenAI 开发的免费文本生成 AI ChatGPT称为热门是一个巨大的轻描淡写。
截至 12 月，ChatGPT 估计每月活跃用户超过 1 亿。它引起了主要媒体的关注，并在社交媒体上催生了无数模因。它已被用于在亚马逊的 Kindle 商店中编写数百本电子书。它因合着至少一篇科学论文而受到赞誉。
但是 OpenAI 作为一家企业——尽管是利润上限的企业——必须以某种方式将 ChatGPT 货币化，以免投资者坐立不安。它在 2 月份推出了高级服务ChatGPT Plus ，朝着这个目标迈出了一步。它今天采取了更大的举措，引入了一个 API，允许任何企业将 ChatGPT 技术构建到他们的应用程序、网站、产品和服务中。
API 始终是计划。这是 OpenAI 总裁兼董事长（也是联合创始人之一）格雷格·布罗克曼 (Greg Brockman) 的说法。在 ChatGPT API 发布之前，他昨天下午通过视频通话与我进行了交谈。
“我们需要一段时间才能让这些 API 达到一定的质量水平，”Brockman 说。 “我认为这有点像，只是能够满足需求和规模。”
Brockman 表示，ChatGPT API 由 OpenAI 广受欢迎的 ChatGPT 背后的相同人工智能模型提供支持，该模型被称为“gpt-3.5-turbo”。 GPT-3.5是 OpenAI 目前通过其 API 套件提供的最强大的文本生成模型； “turbo”绰号指的是 GPT-3.5 的优化、响应速度更快的版本，OpenAI 一直在为 ChatGPT 悄悄测试它。
价格为每 1,000 个代币 0.0002 美元，或大约 750 个单词，Brockman 声称该 API 可以推动一系列体验，包括“非聊天”应用程序。 Snap、Quizlet、Instacart 和 Shopify 是早期采用者。
开发 gpt-3.5-turbo 的最初动机可能是为了降低 ChatGPT 庞大的计算成本。 OpenAI 首席执行官 Sam Altman 曾称 ChatGPT 的开支“令人垂涎”， 估计每次聊天只需几美分的计算成本。 （拥有超过一百万的用户，这可能会很快加起来。）
但 Brockman 表示 gpt-3.5-turbo 在其他方面得到了改进。
“如果你正在构建一个 AI 驱动的导师，你永远不希望导师只给学生一个答案。你希望它总是解释它并帮助他们学习——这是你应该能够[使用 API] 构建的那种系统的一个例子，”Brockman 说。 “我们认为这将会使 API 更加可用和可访问。”
ChatGPT API 支持My AI 、Snap 最近宣布的面向 Snapchat+ 订阅者的聊天机器人，以及 Quizlet 的新 Q-Chat 虚拟导师功能。 Shopify 使用 ChatGPT API 构建个性化购物推荐助手，而 Instacart 利用它创建了 Ask Instacart，这是一个即将推出的收费站，Instacart 客户可以通过该收费站询问食物并根据公司零售店的产品数据获得“可购买”的答案伙伴。
“杂货店购物可能需要很大的精神负担，有很多因素在起作用，比如预算、健康和营养、个人口味、季节性、烹饪技巧、准备时间和食谱灵感，”Instacart 首席架构师 JJ Zhuang 通过电子邮件告诉我. “如果 AI 可以承担这种精神负担，我们可以帮助通常负责杂货店购物、膳食计划和将食物摆上餐桌的家庭领导——并真正让杂货店购物变得有趣，那会怎么样？ Instacart 的 AI 系统与 OpenAI 的 ChatGPT 集成后，将使我们能够做到这一点，我们很高兴开始试验 Instacart 应用程序中的可能性。”
图片来源： Instacart
不过，那些一直密切关注 ChatGPT 传奇的人可能想知道它发布的时机是否成熟——确实如此。
早期，用户能够提示 ChatGPT 以种族主义和性别歧视的方式回答问题，这反映了 ChatGPT 最初接受训练时所依据的有偏见的数据。 （ChatGPT 的训练数据包括广泛的互联网内容，即电子书、Reddit 帖子和维基百科文章。）ChatGPT 还捏造事实但没有透露它正在这样做，这种现象在 AI 中被称为幻觉。
ChatGPT——以及类似的系统——也容易受到基于提示的攻击，或恶意的对抗性提示，使他们执行不属于其原始目标的任务。 Reddit 上的整个社区都在寻找“越狱”ChatGPT 并绕过 OpenAI 实施的任何保护措施的方法。在一个不太令人反感的例子中，初创公司 Scale AI 的一名员工能够让 ChatGPT泄露有关其内部技术运作的信息。
毫无疑问，品牌不想成为十字准线。布罗克曼坚称他们不会。为什么这样？他说，原因之一是后端的持续改进——在某些情况下是以牺牲肯尼亚合同工为代价的。但是 Brockman 强调了一种新的（并且争议较小的）方法，OpenAI 称之为聊天标记语言或 ChatML。 ChatML 将文本作为消息序列和元数据提供给 ChatGPT API。这与标准的 ChatGPT 不同，后者使用表示为一系列标记的原始文本。 （例如，“fantastic”这个词将被拆分为“fan”、“tas”和“tic”等标记。）
例如，给定提示“我 30 岁生日有哪些有趣的派对创意？”开发人员可以选择在该提示后附加一个额外的提示，例如“你是一个有趣的对话聊天机器人，旨在帮助用户解决他们提出的问题。你应该用有趣的方式如实回答！”或“你是一个机器人”，然后让 ChatGPT API 处理它。 Brockman 表示，这些说明有助于更好地定制和过滤 ChatGPT 模型的响应。
“我们正在转向更高级别的 API。如果你有一个更结构化的方式来表示系统的输入，你说，“这是来自开发人员”或“这是来自用户”……我应该期望，作为开发人员，你实际上可以更健壮[使用 ChatML] 来对抗这些类型的即时攻击，”Brockman 说。
另一个可以（希望）防止意外的 ChatGPT 行为的变化是更频繁的模型更新。随着 gpt-3.5-turbo 的发布，开发人员将默认自动升级到 OpenAI 的最新稳定模型，Brockman 说，从 gpt-3.5-turbo-0301（今天发布）开始。不过，如果开发人员愿意，他们可以选择继续使用旧模型，这可能会在某种程度上抵消其好处。
布罗克曼指出，无论他们是否选择更新到最新型号，一些客户——主要是预算相对较大的大型企业——将通过引入专用容量计划对系统性能进行更深入的控制。本月早些时候泄露的文档中首次详细介绍了 OpenAI 的专用容量计划，该计划于今天推出，让客户支付计算基础设施的分配费用以运行 OpenAI 模型——例如 gpt-3.5-turbo。 （顺便说一下，后端是 Azure。）
除了对实例负载的“完全控制”——通常，对 OpenAI API 的调用发生在共享计算资源上——专用容量使客户能够启用诸如更长的上下文限制等功能。上下文限制是指模型在生成额外文本之前考虑的文本；更长的上下文限制允许模型本质上“记住”更多的文本。虽然更高的上下文限制可能无法解决所有的偏差和毒性问题，但它们可能会导致像 gpt-3.5-turbo 这样的模型产生更少的幻觉。
Brockman 表示，专用容量客户可以期待具有高达 16k 上下文窗口的 gpt-3.5-turbo 模型，这意味着它们可以接收四倍于标准 ChatGPT 模型的代币。这可能会让某人粘贴一页又一页的税法，并从模型中得到合理的答案，比如说——这在今天是不可能的。
布罗克曼暗示未来会发布一般版本，但不会很快发布。
“上下文窗口开始逐渐增大，我们现在只为专用容量客户服务的部分原因是因为我们这边有很多性能权衡，”Brockman 说。 “我们最终可能能够提供同一事物的点播版本。”
鉴于 OpenAI 在获得微软数十亿美元的投资后扭亏为盈的压力越来越大，这不足为奇。
OpenAI 推出了用于 ChatGPT 的 API，以及最初在TechCrunch上发布的Kyle Wiggers为企业客户提供的专用容量