不要被明天 AI 悦耳的拨号音和奇点的警笛声所左右。加州大学圣巴巴拉分校 Duca Family 技术管理学教授 Paul Leonardi和Naylor Fitzhugh哈佛商学院的工商管理，在他们的新书《数字思维：在数据、算法和人工智能时代蓬勃发展的真正需要》中 ——因此不应该像人类一样对待。两人在下面的摘录中争辩说，这样做会阻碍与先进技术的互动并阻碍其进一步发展。
经哈佛商业评论出版社许可转载。摘自《数字思维：在数据、算法和人工智能时代蓬勃发展的真正要素》，作者：Paul Leonardi 和 Tsedal Neeley。版权所有 2022 哈佛商学院出版公司。版权所有。
像机器一样对待人工智能，即使它看起来像人一样
我们习惯于以视觉方式与计算机交互：按钮、下拉列表、滑块和其他功能允许我们向计算机发出命令。然而，人工智能的进步正在将我们与数字工具的交互转变为更自然、更人性化的交互。所谓的会话用户界面 (UI) 使人们能够通过书写或交谈来使用数字工具，这更像是我们与他人互动的方式，例如 Burt Swanson 与助手 Amy 的“对话”。当您说“Hey Siri”、“Hello Alexa”和“OK Google”时，这就是对话式 UI。由对话式 UI 控制的工具的增长是惊人的。每次您拨打 800 号码并被要求拼写您的姓名时，请回答“是”或说出您的社会安全号码的最后四个数字，您正在与使用对话式 UI 的 AI 进行交互。对话机器人已经变得无处不在，部分原因是它们具有良好的商业意义，部分原因是它们使我们能够更有效、更方便地访问服务。
例如，如果您通过 Amtrak 预订了火车旅行，您可能已经与 AI 聊天机器人进行了交互。它的名字叫 Julie，每年回答超过 3000 万乘客的超过 500 万个问题。您只需说出您要去的地方和时间，就可以与 Julie 一起预订铁路旅行。 Julie 可以在 Amtrak 的日程安排工具上预先填写表格，并在预订过程的其余部分提供指导。 Amtrak 在 Julie 的投资获得了 800% 的回报。 Amtrak 通过使用 Julie 解决低级别、可预测的问题，每年可节省超过 100 万美元的客户服务费用。预订量增加了 25%，通过 Julie 进行的预订产生的收入比通过网站进行的预订多 30%，因为 Julie 擅长向上销售客户！
Julie 成功的一个原因是 Amtrak 向用户明确说明 Julie 是一名 AI 代理，他们会告诉您为什么他们决定使用 AI，而不是直接将您与人类联系起来。这意味着人们将其定位为机器，而不是误认为是人。他们对此期望不高，并且倾向于以能得到有用答案的方式提出问题。 Amtrak 的决定可能听起来违反直觉，因为许多公司试图将他们的聊天机器人伪装成真人，而与机器进行交互似乎应该是获得最佳结果的准确方法。数字思维方式需要改变我们对与机器关系的看法。即使它们变得更加人性化，我们也需要将它们视为机器——需要明确的指令并专注于狭窄的任务。
x.ai 是制造会议安排程序 Amy 的公司，它使您可以在工作中安排会议，或邀请朋友参加您孩子的篮球比赛，只需通过电子邮件向 Amy（或她的对手 Andrew）发送您的请求，就好像他们是一个现场私人助理。然而，该公司的首席执行官丹尼斯·莫滕森（Dennis Mortensen）观察到，公司服务台收到的 90% 以上的询问都与人们试图在机器人中使用自然语言并努力获得良好结果有关。
也许这就是为什么安排与新熟人的简单会议对斯旺森教授来说变得如此烦人，他一直试图在非正式对话中使用口语和惯例。除了他说话的方式，他对他与艾米的互动做出了许多完全正确的假设。他假设艾米能够理解他的日程安排限制，并且“她”能够从谈话的上下文中辨别出他的偏好。斯旺森是非正式的和随意的——机器人不明白这一点。它不明白，在要求别人的时间时，特别是如果他们在帮你一个忙，频繁或突然改变会议安排是没有效果的。事实证明，与智能机器人随意互动比我们想象的要难得多。
研究人员已经验证了这样一种观点，即像对待机器一样对待机器比试图成为人类更好。斯坦福大学教授 Clifford Nass 和哈佛商学院教授 Youngme Moon 进行了一系列研究，其中人们与拟人化的计算机界面进行交互。 （拟人化，或将人类属性分配给无生命的物体，是人工智能研究中的一个主要问题。）他们发现个人倾向于过度使用人类社会类别，将性别刻板印象应用于计算机，并与计算机代理进行种族识别。他们的研究结果还表明，人们表现出过度学习的社会行为，例如对计算机的礼貌和互惠。重要的是，人们倾向于参与这些行为——将机器人和其他智能代理视为人——即使他们知道自己正在与计算机而不是人类进行交互。似乎我们与人交往的集体冲动经常潜入我们与机器的互动中。
当通过会话 UI 与人工代理交互时，将计算机误认为人类的问题变得更加复杂。以我们与两家公司进行的一项研究为例，这些公司使用 AI 助手为日常业务查询提供答案。其中一个使用了类似人类的拟人化人工智能。另一个不是。
当代理没有返回有用的答案时，使用拟人化代理的公司的员工经常对代理生气。他们经常说“他糟透了！”之类的话。或者当提到机器给出的结果时，“我希望他做得更好”。最重要的是，他们改善与机器关系的策略反映了他们与办公室其他人一起使用的策略。他们会更有礼貌地提出问题，他们会用不同的词重新措辞，或者他们会尝试策略性地安排问题的时间，以便他们认为代理人会用一个人的话来说“不那么忙”。这些策略都没有特别成功。
相比之下，另一家公司的员工表示对他们的体验更加满意。他们输入搜索词，就好像它是一台计算机一样，并详细拼写出来，以确保无法“阅读字里行间”并了解细微差别的 AI 会注意他们的偏好。第二组经常表示，当他们的查询返回有用甚至令人惊讶的信息时，他们是多么惊讶，他们将任何问题都归结为计算机的典型错误。
在可预见的未来，数据很清楚：在与机器交互时，像技术一样对待技术——无论它们看起来多么像人类或多么聪明——都是成功的关键。问题的很大一部分是他们为用户设定了他们将以类似人类的方式做出回应的期望，并且他们让我们假设他们可以推断出我们的意图，而他们却无法做到。与对话式 UI 成功交互需要一种数字思维方式，即理解我们距离与技术进行有效的类人交互还有一段距离。认识到 AI 代理无法准确推断出您的意图，这意味着阐明流程的每个步骤并明确您想要完成的任务非常重要。