OpenAI 表示，它正在启动一项计划，奖励 10 笔 100,000 美元的赠款，以资助实验，以建立一个民主程序来决定人工智能系统应该遵循哪些规则——“在法律规定的范围内”。
具体而言，OpenAI 表示，它正在寻求资助个人、团队和组织，为“民主进程”开发概念验证，以回答有关人工智能护栏的问题。该公司表示，希望从这些实验中吸取教训，并将其作为未来更全球化、更雄心勃勃的进程的基础。
该公司在博客中写道：“虽然这些最初的实验（至少目前）并不打算对决策产生约束力，但我们希望它们能够探索与决策相关的问题，并构建新颖的民主工具，以便在未来更直接地为决策提供信息。”今天发布的帖子。 “这笔赠款代表了建立监督……超级智能的民主程序的一步。”
通过 OpenAI 的非营利组织提供的资助，OpenAI 希望建立一个反映柏拉图式民主理想的过程：一个“具有广泛代表性”的人群交换意见，参与“深思熟虑”的讨论，并最终通过透明的方式决定结果做决定的过程。 OpenAI 表示，理想情况下，该过程将有助于回答诸如“在什么情况下人工智能系统应该谴责或批评公众人物，鉴于不同群体对这些人物的不同意见？”这样的问题。和“有争议的观点应该如何在 AI 输出中表示？”
“这笔赠款的主要目标是促进流程创新——我们需要改进民主方法来管理人工智能行为，”OpenAI 写道。 “我们认为，关于 AI 行为的决定应该由反映公众利益的不同观点来决定。”
在公告中，OpenAI 暗示该资助计划完全脱离了其商业利益。但考虑到 OpenAI 首席执行官萨姆奥特曼最近对欧盟拟议的 AI 监管提出批评，这有点难以下咽。奥特曼上周出现在美国参议院国会委员会面前之后，时机似乎也很明显，他在会上提倡一种非常具体的 AI 监管方式，这种方式对 OpenAI 技术的影响微乎其微。
尽管如此，即使该项目最终是自私的，它也是一个有趣的人工智能决策方向（尽管在某些明显的方面重复了欧盟的努力）。过程”出现——以及 OpenAI 最终选择了哪些申请人。
人们可以从今天开始申请 OpenAI 资助计划——截止日期为 6 月 24 日晚上 9 点。申请期结束后，OpenAI 将选出十名成功的接受者。收件人必须展示一个涉及至少 500 名参与者的概念，在 10 月 20 日之前发布关于他们发现的公开报告，并开源他们工作背后的代码。
原文： https://techcrunch.com/2023/05/25/when-new-grant-program-openai-aims-to-crowdsources-ai-regulation/