Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

Stability AI、Hugging Face 和 Canva 支持新的 AI 研究非营利组织

Posted on 2023-03-03

开发像ChatGPT这样的尖端人工智能系统需要大量的技术资源,部分原因是它们的开发和运行成本很高。虽然一些开源项目试图对 Alphabet 的 DeepMind 和 OpenAI 等商业实验室创建的专有闭源系统进行逆向工程,但它们经常遇到障碍——主要是由于缺乏资金和领域专业知识。

为了避免这种命运,一个社区研究小组EleutherAI正在组建一个非营利基金会。该组织今天宣布,它将成立一个非营利性研究机构 EleutherAI 研究所,该研究所的资金来自支持者的捐赠和赠款,这些支持者包括 AI 初创公司 Hugging Face 和 Stability AI、前 GitHub 首席执行官 Nat Friedman、Lambda Labs 和 Canva。

“作为一个组织正式化使我们能够建立一个全职员工队伍,并参与比作为一个志愿者团体可行的更长、更复杂的项目,”Stella Biderman,Booz Allen Hamilton 的人工智能研究员,将与 EleutherAI Institute 共同运营,在电子邮件采访中告诉 TechCrunch。 “特别是就非营利组织而言,考虑到我们对研究和开源空间的关注,我认为这是一个明智的选择。”

EleutherAI 几年前作为致力于开源 AI 研究的基层开发人员集合而成立。它的创始成员——Connor Leahy、Leo Gao 和 Sid Black——编写了代码并收集了创建机器学习模型所需的数据,该模型接近于 OpenAI 的文本生成GPT-3 ,该模型在当时受到了广泛的关注。

EleutherAI 策划并开源了 The Pile,这是一组数据集,旨在用于训练类似 GPT-3 的模型来完成文本、编写代码等。它在 Apache 2.0 许可下发布了多个模型,包括 GPT-J 和 GPT-NeoX,这些语言模型一度推动了全新的创业浪潮。

为了训练其模型,EleutherAI 主要依赖 TPU Research Cloud,这是一个支持项目的谷歌云程序,期望结果将被公开共享。 CoreWeave 是一家总部位于美国的加密货币矿工,为人工智能工作负载提供云服务,它还向 EleutherAI 提供计算资源,以换取其客户可以使用和服务的模型。

EleutherAI 发展迅速。今天,超过 20 名社区的定期贡献者是全职工作,主要专注于研究。在过去的 18 个月里,EleutherAI 成员共同撰写了 28 篇学术论文,训练了数十个模型并发布了十个代码库。

但其云提供商变化无常的本性有时会迫使 EleutherAI 取消其计划。最初,该小组打算发布一个在参数数量方面与 GPT-3 大致相当的模型,但由于技术和资金原因最终搁置了该路线图。 (在 AI 中,参数是模型从历史训练数据中学习的部分,本质上定义了模型在某个问题上的技能,例如生成文本。)

2022 年底,EleutherAI 熟悉了Stability AI ,这是图像生成 AI 系统Stable Diffusion背后目前资金雄厚的初创公司。它与其他合作者一起帮助创建了 Stable Diffusion 的初始版本。从那时起,Stability AI 从其 AWS 集群中捐赠了一部分计算,用于 EleutherAI 正在进行的语言模型研究。

Biderman 说,在另一个大赞助人——Hugging Face——接触了 EleutherAI 之后,非营利性讨论开始了。 (许多 EleutherAI 员工参与了公司的BigScience项目,该项目试图在一年的时间里训练和开源一个类似于 GPT-3 的模型。)

“EleutherAI 过去主要关注在架构上类似于 ChatGPT 的大型语言模型,并且很可能会继续这样做,”Biderman 说。 “除了训练大型语言模型,我们很高兴能将更多资源投入到伦理、可解释性和对齐工作中。”

人们可能想知道 Stability AI 和 Hugging Face 等商业动机的企业的参与——它们都得到了大量风险投资的支持——是否会影响 EleutherAI 的研究。这是一个自然的假设——甚至有证据支持。至少一项研究表明,捐赠与非营利组织谈论拟议的政府规则的可能性之间存在直接关联。

Biderman 断言 EleutherAI 基金会将保持独立,并表示她目前没有发现捐助者池有问题。

“我们不会按照商业实体的要求开发模型,”Biderman 说。 “如果有的话,我认为拥有多元化的赞助可以提高我们的独立性。如果我们完全由一家科技公司资助,从我们这边来看,这似乎是一个更大的潜在问题。”

EleutherAI 基金会必须克服的另一个挑战是确保其金库不会枯竭。 OpenAI 是一个警示故事;在 2015 年作为非营利组织成立后,该公司后来转变为“ 上限利润”结构,以资助其正在进行的研究。

从广义上讲,为人工智能研究提供资金的非营利性举措喜忧参半。

成功案例包括由已故微软联合创始人保罗·艾伦创立的艾伦人工智能研究所 (AI2),旨在实现人工智能和机器学习方面的科学突破。还有位于英国、由政府资助的国家数据科学和机器学习研究所艾伦图灵研究所。较小的有前途的努力包括 AI 初创公司 Cohere 的 Cohere For AI(尽管它与公司有联系)和全球分布式研究组织 Timnit Gebru 的 Distributed AI Research。

但对于每一个 AI2,都有前谷歌董事长埃里克施密特的人工智能研究基金。它的规模超过 1.25 亿美元,在 Politico 报道称施密特对白宫科技政策办公室拥有异常强大的影响力后,它引起了新的争议。

时间会告诉我们 EleutherAI 基金会最终走向何方。很可能,任务会随着时间的推移而演变和变化——我们只能希望以积极的方式。

Stability AI、Hugging Face 和 Canva 支持Kyle Wiggers最初发表在TechCrunch上的新 AI 研究非营利组织

原文: https://techcrunch.com/2023/03/02/stability-ai-hugging-face-and-canva-back-new-ai-research-nonprofit/

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Big Technology
  • Bits about Money
  • Brandon Skerritt
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • eighty twenty
  • Elad Gil
  • Ellie Huxtable
  • Ethan Dalool
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • HeardThat Blog
  • Henrique Dias
  • Herman Martinus
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Li Haoyi
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Maggie Appleton
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mind Matters
  • Mostly metrics
  • Naval Ravikant
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Rohit Patel
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Steph Ango
  • Stephen Wolfram
  • Steve Blank
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • Wes Kao
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme