Snapchat 为其 AI 聊天机器人添加了新的保护措施

Snapchat 正在推出新工具，包括适合年龄的过滤器和针对父母的洞察力，以使其 AI 聊天机器人体验更安全。

在 Snapchat 为 Snapchat+ 订阅者推出其基于 GPT 的聊天机器人几天后，《华盛顿邮报》的一篇报道强调该机器人以不安全和不恰当的方式做出响应。

这家社交巨头表示，在发布后，它了解到人们正试图“诱骗聊天机器人提供不符合我们准则的回复。”因此，Snapchat 推出了一些工具来控制人工智能的反应。

Snap 加入了一个新的年龄过滤器，让 AI 知道用户的生日并为他们提供适合年龄的响应。该公司表示，聊天机器人在与用户交谈时将“始终考虑他们的年龄”。

Snap 还计划在未来几周内向父母或监护人提供更多有关儿童与去年 8 月推出的家庭中心机器人互动的见解。新功能将分享他们的青少年是否与 AI 交流以及这些互动的频率。监护人和青少年都需要选择使用 Family Center 才能使用这些家长控制功能。

在一篇博文中，Snap 解释说 My AI 聊天机器人不是“真正的朋友”，它使用对话历史记录来改进响应。当用户开始与机器人聊天时，他们还会收到有关数据保留的通知。

该公司表示，该机器人仅以“不合格”语言给出了 0.01% 的回复。 Snap 将任何包括提及暴力、露骨色情用语、非法吸毒、儿童性虐待、欺凌、仇恨言论、贬损或偏见言论、种族主义、厌女症或将弱势群体边缘化的回应都计为“不合格”。

该社交网络提到，在大多数情况下，这些不恰当的回应是鹦鹉学舌般地重复用户所说的结果。它还指出，该公司将暂时阻止滥用该服务的用户访问 AI 机器人。

“我们将继续利用这些经验来改进 My AI。这些数据还将帮助我们部署一个新系统来限制对 My AI 的滥用。我们正在将 OpenAI 的审核技术添加到我们现有的工具集中，这将使我们能够评估潜在有害内容的严重性，并在 Snapchatter 滥用服务时暂时限制他们访问 My AI，”Snap 说。

鉴于人工智能工具的快速普及，许多人担心他们的安全和隐私。上周，一个名为人工智能和数字政策中心的道德组织写信给联邦贸易委员会，敦促该机构停止推出 OpenAI 的 GPT-4 技术，指责这家新贵的技术“有偏见、具有欺骗性和隐私风险”和公共安全。”

上个月，参议员 Michael Bennet 还写信给 OpenAI、Meta、谷歌、微软和 Snap，表达了对青少年使用的生成 AI 工具的安全性的担忧。

现在很明显，这些新的聊天机器人模型容易受到有害输入的影响，进而产生不适当的输出。虽然科技公司可能希望快速推出这些工具，但他们需要确保周围有足够的防护栏以防止聊天机器人流氓。