微软上周为 Edge 浏览器推出了Bing AI 聊天产品，从那以后它就一直上新闻——但并不总是出于正确的原因。我们的初步印象很好，因为它提供了锻炼程序、旅行路线等，而且没有任何障碍。
然而，用户开始注意到 Bing 的机器人提供了不正确的信息， 斥责用户浪费时间，甚至表现出“精神错乱”的行为。在一次奇怪的谈话中，它拒绝提供《阿凡达：水之道》的清单，坚称这部电影还没有上映，因为它还是 2022 年。他们试图告诉必应这是错误的。
现在，微软发布了一篇博文，解释了发生了什么以及它是如何解决这些问题的。首先，该公司承认它没有预料到 Bing 的 AI 会被用于“世界的一般发现和社交娱乐”。
Bing subreddit 有很多新 Bing 聊天失控的例子。
开放式搜索聊天在这个时候可能被证明是个坏主意！
在此捕捉是为了提醒人们，曾经有一段时间，一家主要的搜索引擎在其结果中显示了这一点。 pic.twitter.com/LiE2HJCV2z
– 弗拉德 (@vladquant) 2023 年 2 月 13 日
那些“包含 15 个或更多问题的长时间、延长的聊天会话”可能会使事情偏离正轨。该公司表示：“Bing 可能会变得重复，或者被提示/激怒给出不一定有帮助或不符合我们设计基调的响应。”这显然会发生，因为一个接一个的问题可能会导致机器人“忘记”它最初试图回答的内容。为了解决这个问题，微软可能会添加一个工具，让您可以重置搜索上下文或从头开始。
另一个问题更加复杂和有趣：“该模型有时会尝试响应或反映它被要求提供可能导致我们不想要的风格的响应的语气，”微软写道。这需要很多提示才能实现，但工程师认为他们可以通过给用户更多控制权来解决这个问题。
微软表示，尽管存在这些问题，但测试人员普遍在搜索的引用和参考资料方面给 Bing 的 AI 打了好分，尽管它需要在“实时体育比分等非常及时的数据”方面做得更好。它还希望通过将基础数据提高四倍来改善财务报告等问题的事实答案。最后，他们将“添加一个切换开关，使您可以更好地控制答案的精确度与创造性，以适应您的查询。”
Bing 团队感谢用户迄今为止的测试，称其“帮助我们为每个人改进产品”。与此同时，他们对人们会花长达两个小时的聊天时间表示惊讶。毫无疑问，用户会同样勤奋地尝试打破任何新的更新，因此我们可以在接下来的一段时间内进行一次有趣的旅程。
原文： https://www.engadget.com/microsoft-explains-bings-bizarre-ai-chat-behavior-134931486.html?src=rss