ChatGPT 刚刚删除了“使此聊天可被发现”的共享功能，因为大量用户无意中通过 Google 搜索公开了他们的私人聊天记录。
OpenAI 首席信息安全官 Dane Stuckey在 Twitter 上表示：
我们刚刚从 @ChatGPTapp 中移除了一项功能，该功能允许用户将自己的对话添加到 Google 等搜索引擎中。这是一个短期实验，旨在帮助人们发现有用的对话。[…]
最终，我们认为此功能为人们意外分享他们不想分享的内容提供了太多机会，因此我们删除了该选项。
一些媒体已经报道了这个问题 – 以下是来自TechCrunch 、 TechRadar和PCMag 的例子。
事实证明，用户分享了极其私密的对话，并让搜索引擎可以发现它们，这意味着各种site:chatgpt.com ...搜索都会出现各种可能令人尴尬的细节。
在删除该选项之前，UI 是这样的：
我在 Twitter 和Hacker News 帖子上看到了很多评论，人们对此感到困惑，为什么 UI 中如此清晰的选项竟然会让人感到困惑。
我认为这种混淆是有道理的。让我们来分析一下。
以下是有问题的微文案：
使此聊天可被发现
允许它显示在网络搜索中。
这里的第一个问题是术语的选择。“可发现”并不是一个被广泛理解的术语——它是业内行话。“允许在网络搜索中显示”更好，但仍然需要用户有非常深入的理解，才能做出明智的决定。
以下是用户需要了解的所有内容，以便他们能够理解这一点：
- 什么是 URL？如何创建一个半公开的 URL？它既无法被他人猜测，又可以被你分享给其他人。这个概念本身就相当高深！
- 什么是网络搜索引擎 – 在这种情况下，它是 Google、Bing、DuckDuckGo 等的通用术语。
- 这里的“网络搜索”是指“其他人可以使用的公共搜索引擎”，而不是“您在此网站上使用的私人搜索功能”。
- 对搜索引擎工作原理的一个宽泛的理解：它们有索引，并且这些索引可以有选择地包含或排除内容。
- ChatGPT 等网站可以控制其内容是否包含在这些索引中。
- “秘密 URL”的本质是，一旦共享并可发现，任何拥有该链接的人（或通过搜索找到该链接的人）都可以查看该页面的全部内容。
ChatGPT 目前拥有超过 10 亿用户。这意味着这些用户的技术水平参差不齐。我们不能假设每个人都理解上述概念，从而理解勾选该选项的含义。
即使用户具备理解这一点所需的先决知识，他们也不会阅读。
人们在使用应用程序时，总是在寻找实现目标的最短路径。任何出现的对话框或问题，都希望尽快跳过。
可悲的是，很多用户可能已经习惯了对任何问题都直接回答“是”。这个关于让某些内容“可发现”的选项呢？当然，不管怎样，点击那个方框，继续下一步。
我认为这里还有另一个因素在起作用：这个选项本身几乎没有意义。
有多少人在寻找一种分享聊天内容的方式时会想“你知道吗？把这个也贴到谷歌上”？
这只占受众的一小部分，当面临上述选择时，一个合乎逻辑的结论很可能是，它显然不会将我的聊天记录放到 Google 中，因为究竟是谁希望发生这种情况呢？
我认为 OpenAI 禁用此功能的决定是正确的。它为少数使用它的人提供的价值，远远超过了那些不太谨慎的用户无意中将私人对话分享给全世界而造成自身伤害的可能性。
元人工智能做得更糟
这种反模式的一个更糟糕的例子是 Meta AI 决定在他们自己的 Meta AI 聊天应用中提供“发布到 feed”按钮：
我认为这里的微文案是一流的——这里的文字使用清晰的语言，任何人都可以轻松理解。
（不过，我今天截取了此屏幕截图，因此文本可能最近已更新。）
然而……未来主义，6 月 14 日：人们没有意识到 Meta 的 AI 应用程序正在向世界公开揭露他们的羞辱秘密。
再说一次，当您的用户数量达到数百万时，其中一些人会随机点击某些内容，而不考虑后果。
Meta AI iPhone 应用（有趣的是：它可以用朱迪·丹奇女爵士或约翰·塞纳的声音和你说话）会在你首次打开应用时在主页上显示公开动态，大概是为了帮助人们克服“这玩意儿到底是干什么用的”的空白页问题。他们似乎并不想放弃这个功能！
标签：设计、隐私、可用性、人工智能、 OpenAI 、生成式人工智能、 ChatGPT 、 LLMS 、元
原文： https://simonwillison.net/2025/Aug/3/privacy-design/#atom-everything