Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

去平台化:AI 版本

Posted on 2025-04-26

所以昨天我收到了这封电子邮件。几秒钟后,我的 o3 查询降级为 gpt-4o-mini(我注意到答案变得更糟)。然后它完全停止了。然后我的 API 调用就死掉了。然后我打开的聊天窗口就挂了。历史已经消失了。

我不知道为什么会这样。我问过 OpenAI 内部认识的人,他们也不知道。可能是 API 密钥泄漏,但几天前我删除了所有密钥,所以这不应该是问题。可能是多种设备使用(我有几台笔记本电脑和手机)。可能会同时询问,这似乎又不是什么大问题?

会不会是内容?我对此表示怀疑,除非 OpenAI 讨厌编写 PRD 或 vivi 编码。我能感同身受。我的大多数查询几乎都不是触发事件1 的任何内容。我的意思是,这就是 ChatGPT 在我的问题中觉得有趣的地方。

或者这个。

从 2020 年到 2024 年,当氛围发生变化时,我们就去平台化进行了很多对话。那是在社交媒体的背景下,其中存在合法(人们知道为什么)和非法(没有人知道为什么)的禁令,以及政府“鼓励”的禁令。

这被正确地视为有问题的。如果你不知道为什么会发生某事,那么这就是反复无常的算法之神的行为。而人类讨厌反复无常。我们创建了整个万神殿来尝试让自己对此感觉更好。但你无法对抗你不理解的不公正现象。

未来,甚至现在,我们都处于同一问题的不同层面。我们拥有极其强大的人工智能,它们非常聪明,以至于构建者认为它们很快就会剥夺整个人类的权力,但人们仍然无法解释原因地被锁定在他们的帐户之外。如果你真正在建造上帝,你至少不应该无缘无故地将人赶出圣殿。

我不禁想知道,如果这完全是由法学硕士完成的,如果 OpenAI 的政策是由 o3 执行的,达里奥可能会认为这是可解释性问题的一个版本。我也这么认为,尽管没有法学硕士。我们的机构和政策设置得不够透明,以至于我们确实存在可解释性危机。

这场危机也让我们中的许多人(如果不是大多数人)对世界感到愤怒,当我们谴责 FDA、大学、NIH、IRS、NASA 等等时,我们把婴儿和洗澡水一起倒掉了。因为他们看起来不负责任。他们似乎在内部产生了卡夫卡式的戏剧,因此即使是体制内工作的人也不会暴露其运作方式。

这才过了一天。我已将快捷方式移至 Gemini、Claude 和 Grok 来取代我的工作。当然,这不是一个复杂的案例,希望能够得到解决。我认识实验室里的一些人,也许他们可以帮助我。他们之前曾在 API 密钥泄露时做过一次。

但这也是我仍然不知道到底发生了什么的情况,因为任何地方都没有说。没有人会、也不能告诉我任何事情。这是“You Can Just Do Things”,但是组织版 Kafka。我所知道的是,我的对话历史、我的项目都消失了。我以前也有过这样的感觉。 2006年,我不小心被硬盘擦除了。 2018 年,我搞砸了 OneDrive 备份。但至少那些案例都是我的错。

在大多数行业中,我们认为我们周围的系统在某种程度上也是可预测的。我们今天(2025 年 4 月)看到的宏观经济意义上的秩序崩溃部分是因为规则的规范和可预测性已经崩溃。当它们不再可预测或被视为反复无常时,我们就会进入一个脆弱的世界。在这个世界中,我们不能依靠系统来保护我们,但我们必须依靠我们自己或值得信赖的第三方。我们生活在恐惧之中,担心自己会陷入这样的间隙,除非有人能鼓起勇气发声,并发挥影响力让人们听到,否则不同的组织很乐意让我们陷入困境。

你可以想象一个这种现象猖獗的新世界。那将是一个你必须专注于去中心化所有权的世界。您希望开源模型在您的硬件上运行。您痴迷于自己备份数据并备份给多个提供商。你可能会继续下去,最终想要完全去中心化的钱。许多人已经采取了这条确切的道路。

顺便说一句,我并不是说这是正确的。我认为,当世界不可避免地将更多人工智能纳入更多决策功能时,这样的问题是不可避免的。解决这些问题非常重要,否则对整个系统的信任就会消失。

正如一位评论者所写,如果我们正在迈向一个人工智能极其重要的世界,如果 OpenAI 是真正的 AGI,那么从中脱离平台就等于敲响了丧钟。

我有一个奇怪的假设,我之所以被错误地卷入一些奇怪的检查,是因为 OpenAI不使用法学硕士来做到这一点。与任何其他公司一样,它们依赖于广泛应用的各种规则,有些是临时的,有些是机器学习的。

如果他们拥有法学硕士学位,就像我们在不久的将来肯定会拥有的那样,他们在弄清楚何时对谁应用哪些规则方面可能会更聪明。如果他们还没有法学硕士这样做,为什么?您需要帮助来构建它吗?正如他们所说,我充满动力。它必须是一个比我们现在的系统更好的系统,在我们现在的系统中,人们被留在盔甲的缝隙中,只是为了看看谁能爬出来。

或者说我希望如此。


[我会更多地检查和编辑这篇文章,但正如我所说,我现在没有 ChatGPT]

1

除非,问为什么我的背反复疼痛是造成外伤吗?

原文: https://www.strangeloopcanon.com/p/deplatforming-ai-edition

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Bits about Money
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • Elad Gil
  • Ellie Huxtable
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • Henrique Dias
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mostly metrics
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme