Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

“我们人民”可以控制人工智能吗?

Posted on 2023-02-17

技术专家和研究员Aviv Ovadya不确定生成人工智能是否可以得到控制,但他认为最合理的控制方法可能只是委托那些将受到人工智能影响的人共同决定遏制它的方法。

这意味着你;这意味着我。与一小群人单独解决问题(包括,比如说,在华盛顿)相比,大型个人网络能够更快、更公平地解决问题。它本质上是依靠群众的智慧,它发生在许多领域,包括科学研究、商业、政治和社会运动。

例如,在台湾,具有公民意识的黑客在 2015 年组建了一个平台——“虚拟台湾”——“汇集了来自公共、私营和社会部门的代表,讨论主要与数字经济相关问题的政策解决方案”,正如所解释的那样2019 年由台湾数字部长 Audrey Tang 在纽约时报发表。从那时起,众所周知,vTaiwan 通过“依靠在线辩论和与利益相关者面对面讨论的结合”解决了数十个问题,唐当时写道。

一项类似的倡议是 俄勒冈州的公民倡议审查,该倡议于 2011 年签署成为法律,并通过公民驱动的“审议过程”向该州的选民通报投票措施。代表整个俄勒冈州选民的大约 20 到 25 名公民聚集在一起讨论一项倡议的优点;然后,他们共同撰写一份关于该倡议的声明,并将其发送给该州的其他选民,以便他们在选举日做出更明智的决定。

所谓的审议过程也成功地帮助解决了澳大利亚(水资源政策)、加拿大(选举改革)、智利(养老金和医疗保健)和阿根廷(住房、土地所有权)等地的问题。

Ovadya 承认,由于它与 AI 相关,“使这项工作有障碍”,他隶属于哈佛伯克曼克莱因中心,其工作越来越集中于 AI 对社会和民主的影响。 “但根据经验,这已经在世界各大洲以各种规模进行了”,而且“我们越快将这些东西落实到位越好,”他指出。

让人们决定什么是可接受的 AI 指南,尤其是对某些人来说可能听起来很古怪,但即使是技术专家也认为这是解决方案的一部分。著名人工智能初创公司 OpenAI 的首席技术官米拉·穆拉蒂 (Mira Murati) 在一次新的采访中告诉《时代》杂志,“[我们是一小群人,我们需要对这个系统进行更多的投入,并且需要更多的投入超越技术——当然是监管机构、政府和其他所有人。”

当被问及 Murati 是否担心政府的参与会减缓创新,或者她是否认为政策制定者和监管机构介入还为时过早时,她告诉媒体,“现在还不算太早。鉴于这些技术将产生的影响,每个人都开始参与是非常重要的。”

在当前的监管真空中,OpenAI 目前采取了一种自治的方法,制定了安全使用其技术的指导方针,并在点点滴滴中推出新的迭代——有时会让更广泛的公众感到沮丧。

与此同时,欧盟一直在起草一个监管框架—— 人工智能法案——该框架正在通过欧洲议会,旨在成为全球标准。法律将人工智能的应用分为三个风险类别:产生“不可接受的风险”的应用程序和系统; “高风险应用程序”,例如“对求职者进行排名的 CV 扫描工具”,将受到特定法律要求的约束;以及未明确禁止或列为高风险的应用程序,这些应用程序在很大程度上不受监管。

美国商务部还起草了一个自愿框架,作为公司的指导,但在迫切需要时仍然没有监管——zilcho 。 (除了 OpenAI 之外,像微软和谷歌这样的科技巨头——尽管他们自己的 AI 早期版本适得其反——正在公开竞相再次推出注入 AI 的产品和应用程序,以免被甩在后面。)

一种万维网联盟,一个成立于 1994 年的国际组织,旨在为万维网制定标准,这似乎是有道理的。事实上,在那次时代采访中,穆拉蒂​​观察到“不同的声音,如哲学家、社会科学家、艺术家和人文学科的人”应该聚集在一起,以回答许多“我们需要考虑的伦理和哲学问题”。

也许这个行业就是从那里开始的,所谓的集体智慧填补了粗线条之间的许多空白。

也许一些新工具有助于实现这一目标。例如,Open AI 首席执行官 Sam Altman 也是柏林一家名为 WorldCoin 的视网膜扫描公司的联合创始人,该公司希望轻松验证某人的身份。人们对 WorldCoin 的生物识别方法对隐私和安全的影响提出了质疑,但它的潜在应用包括分配全球普遍基本收入,以及赋予新形式的数字民主权力。

无论哪种方式,Ovadya 都认为,转向涉及来自世界各地的广泛人群的审议过程是围绕 AI 创造界限的方式,同时也为行业参与者提供了更高的可信度。

Ovadya 说:“OpenAI 现在正受到所有人的批评,”包括其明显的自由主义偏见。 “[对公司]有一个真正具体的答案会很有帮助”关于它如何制定未来的政策。

Ovadya 同样指出 Stability.AI,这家开源人工智能公司的首席执行官 Emad Mostaque 一再表示 Stability 比 OpenAI 更民主,因为它随处可用,而 OpenAI 目前仅在可以提供“安全访问。”

Ovadya 说,“Stability 的 Emad 说他正在‘让 AI 民主化’。”好吧,实际上使用民主程序来弄清楚人们真正想要什么不是很好吗?”

“我们人民”可以控制 AI 吗?作者: Connie Loizos,最初发表于TechCrunch

原文: https://techcrunch.com/2023/02/16/ai_governance/

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Anil Dash
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Big Technology
  • Bits about Money
  • Brandon Skerritt
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • eighty twenty
  • Elad Gil
  • Ellie Huxtable
  • Ethan Dalool
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • HeardThat Blog
  • Henrique Dias
  • Herman Martinus
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Li Haoyi
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Maggie Appleton
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mind Matters
  • Mostly metrics
  • Naval Ravikant
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Rohit Patel
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Steph Ango
  • Stephen Wolfram
  • Steve Blank
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • Wes Kao
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme