本周，无党派智囊团布鲁金斯发表了一篇文章，谴责欧盟对开源人工智能的监管，认为这会给通用人工智能系统带来法律责任，同时破坏它们的发展。根据欧盟的人工智能法案草案，开源开发人员必须遵守风险管理、数据治理、技术文档和透明度以及准确性和网络安全标准的指导方针。
作者断言，如果一家公司部署了一个导致某些灾难性后果的开源人工智能系统，那么该公司可以通过起诉他们构建产品的开源开发人员来试图转移责任并不是不可想象的。
发表这篇文章的布鲁金斯学会分析师亚历克斯·恩格勒写道：“这可能会进一步集中大型科技公司对人工智能未来的权力，并阻止对公众理解人工智能至关重要的研究。” “最终，[欧盟] 对开源进行监管的尝试可能会产生一系列复杂的要求，危及开源 AI 贡献者，而这可能不会改善通用 AI 的使用。”
2021 年，欧盟委员会——欧盟政治上独立的执行机构——发布了《人工智能法案》的文本，该法案旨在在欧盟今年秋季投票之前征求行业的意见，以促进在欧盟部署“可信赖的人工智能”。机构正在寻求对试图平衡创新与问责制的法规进行修订。但根据一些专家的说法，书面的人工智能法案将对开发人工智能系统的开放努力提出繁重的要求。
该立法包含对某些类别的开源 AI 的例外情况，例如专门用于研究和控制以防止滥用的那些。但正如 Engler 指出的那样，要阻止这些项目进入商业系统是很困难的——如果不是不可能的话——它们可能会被恶意行为者滥用。
在最近的一个例子中，Stable Diffusion 是一个从文本提示生成图像的开源 AI 系统，其发布时获得了禁止某些类型内容的许可。但它很快在社区中找到了使用此类人工智能工具来制作名人的色情深度伪造的受众。
艾伦人工智能研究所的创始首席执行官奥伦·埃齐奥尼同意当前的人工智能法案草案存在问题。在接受 TechCrunch 的电子邮件采访时，Etzioni 表示，规则带来的负担可能会对开放文本生成系统的开发等领域产生寒蝉效应，他认为这使开发人员能够“赶上”像谷歌这样的大型科技公司和元。
“通向监管地狱的道路是由欧盟的善意铺就的，”埃齐奥尼说。 “开源开发人员不应承受与开发商业软件的人相同的负担。应该总是这样，可以“按原样”提供免费软件——考虑一个学生开发人工智能能力的情况；他们无力遵守欧盟法规，可能被迫不分发他们的软件，从而对学术进步和科学成果的可重复性产生寒蝉效应。”
Etzioni 认为，欧盟监管机构不应寻求广泛监管人工智能技术，而应专注于人工智能的特定应用。他说：“人工智能存在太多的不确定性和快速变化，以至于缓慢的监管过程无法发挥作用。” “相反，自动驾驶汽车、机器人或玩具等人工智能应用应该成为监管的对象。”
并非每个从业者都认为人工智能法案需要进一步修改。作为Knives and Paintbrushes集体成员的 AI 研究员 Mike Cook 认为，对开源 AI 进行“稍微严格”的监管是“完全可以的”。他认为，设定任何类型的标准都可以成为展示全球领导力的一种方式——希望能鼓励其他人效仿。
“关于’扼杀创新’的恐惧主要来自那些想要取消所有监管并自由支配的人，而这通常不是我所重视的观点，”库克说。 “我认为以更美好世界的名义立法是可以的，而不是担心你的邻居是否会比你监管得更少并以某种方式从中获利。”
也就是说，正如我的同事 Natasha Lomas之前指出的那样，欧盟基于风险的方法列出了人工智能的几种禁止用途（例如中国式的国家社会信用评分），同时对被认为是“高风险”的人工智能系统施加限制——比如那些与执法有关的人。如果法规针对的是产品类型而不是产品类别（正如 Etzioni 认为的那样），则可能需要数千条法规（每种产品类型一个），从而导致冲突甚至更大的监管不确定性。
由纽卡斯尔学院法学教授和 Ada Lovelace 研究所兼职法律顾问 Lilian Edwards撰写的分析质疑开源大型语言模型（例如 GPT-3）等系统的提供者是否可能承担责任根据人工智能法案。她说，立法中的语言使下游部署者有责任管理人工智能系统的使用和影响——不一定是最初的开发者。
“[T] 下游部署人员使用 [AI] 并对其进行调整的方式可能与它最初的构建方式一样重要，”她写道。 “人工智能法案注意到了这一点，但还远远不够，因此未能适当规范以各种方式参与人工智能供应链‘下游’的许多参与者。”
在 AI 初创公司 Hugging Face，首席执行官 Clément Delangue、法律顾问 Carlos Muñoz Ferrandis 和政策专家 Irene Solaiman 表示，他们欢迎保护消费者安全的法规，但提议的 AI 法案过于含糊。例如，他们说，目前尚不清楚该立法是适用于人工智能软件核心的“预训练”机器学习模型，还是仅适用于软件本身。
“这种缺乏明确性，加上不遵守正在进行的社区治理举措，例如开放和负责任的人工智能许可证，可能会阻碍人工智能价值链最顶端的上游创新，这是我们 Hugging Face 关注的重点， ”德朗格、费兰迪斯和索莱曼在一份联合声明中说。 “从竞争和创新的角度来看，如果你已经在人工智能创新流的顶端公开发布的功能负担过重，你就有可能阻碍渐进式创新、产品差异化和动态竞争，后者是人工智能等新兴技术市场的核心相关的……监管应考虑人工智能市场的创新动态，从而明确识别和保护这些市场的核心创新来源。”
至于 Hugging Face，无论 AI 法案的最终语言如何，该公司都提倡改进 AI 治理工具，例如“负责任的”AI 许可证和模型卡，其中包含 AI 系统的预期用途及其工作方式等信息。 Delangue、Ferrandis 和 Solaiman 指出，负责任的许可开始成为主要 AI 版本的常见做法，例如 Meta 的OPT-175 语言模型。
“人工智能领域的开放式创新和负责任的创新不是相互排斥的目标，而是互补的目标，”德朗格、费朗迪斯和索莱曼说。 “两者之间的交集应该是正在进行的监管工作的核心目标，就像现在人工智能社区一样。”
那口井可能是可以实现的。鉴于欧盟规则制定涉及许多活动部分（更不用说受其影响的利益相关者），欧盟的人工智能监管可能需要数年时间才能开始形成。