你打电话给航空公司，要求更改延误的航班。客服人员说他帮不上忙——电脑系统不允许他这么做。你要求和客服经理通话。她也说了同样的话。你又去找她的经理。得到的回复也一样。每个人都想帮你，但没人能帮得上。系统已经做出了决定，而且系统本身也没有解释清楚。
这就是丹·戴维斯在《不负责任的机器》中所说的责任沉沦。
问责机制的设计使得当事情出错时，没有任何个人能够承担责任。他认为，“决策被委托给一本复杂的规则手册或一套标准程序，导致错误发生时无法识别根源。”
组织规模越大，这种情况就越常见。这是一种分散风险的策略。
随着人工智能的发展，这种情况可能会进一步恶化。书中写道：“未来，我们必须习惯说‘我怪系统’，而且要真正地做到字面意思。”
我责怪人工智能。
这番话一出口，世界就仿佛静止了，就像一辆停在繁忙路口的 Waymo 一样。下一步该怎么办？
巧合的是，创始人模式的风气与指责人工智能系统同时出现。创始人模式的本质与责任沉没相反。所有责任都落在一个人身上。
““你能够改变决策的程度恰恰就是你对决策负责的程度。”因此，设计负责任的组织意味着为人们定义角色和系统，让他们对系统的输出负责并可以覆盖系统的输出。
此外，戴维斯主张自下而上的反馈循环。经理的经理与团队成员的跨级会议就是一个例子。
但在人工智能时代，这还远远不够。海量的数字信息在组织中飞速流动，可能难以应对。如果在这场信息洪流之前，问责机制就已经存在问题，那么想象一下之后的影响。
重新设计角色和人工智能系统，使其具备人工干预功能，对于确保问责制至关重要。至少目前，每个关键决策仍然需要有人来做，或许这样才能快速完成重新预订，以便回家吃晚饭。