机器学习系统多年来一直在围棋和危险！用于药物发现和癌症检测。随着该领域取得的所有进步，人们对机器人在明天的劳动力中取代他们保持警惕并非闻所未闻。 Gerd Gigerenzer 在他的新书How to Stay Smart in a Smart World 中辩称，这些担忧是错误的，如果没有其他原因，除了不确定性本身。人工智能是非常有能力的机器，但前提是有足够的数据来采取行动。在他们的算法中引入人类本性的极度不稳定，并观察他们的预测准确性直线下降——否则，我们永远不需要向左滑动。在下面的摘录中，Gigerenzer 讨论了与保险公司共享车辆远程信息处理的隐藏隐私成本。
摘自Gerd Gigerenzer 如何在智能世界中保持智能。麻省理工学院出版社出版。版权所有 © 2021 Gerd Gigerenzer。版权所有。
当您的汽车向警察报告您时
如果自动驾驶汽车不会发生，一种替代方法似乎是训练人类使用人工智能作为支持系统，但在失败时保持警惕并保持控制——这就是所谓的增强智能。它相当于部分自动化，即 2 级或 3 级的复杂版本。然而，增强智能不仅仅需要为您的汽车添加有用的功能，而且很可能将我们带入一个不同的未来，人工智能既用于支持又用于监视我们。这种可能的未来更多是由保险公司和警察推动，而不是由汽车制造商推动。它的种子在远程信息处理中。
根据刻板印象，年轻司机鲁莽、过度自信并且有保险风险。有些确实是，但很多不是。然而，保险公司通常将他们视为一个群体并收取高额保费。远程信息处理保险可以通过为安全驾驶员提供更优惠的价格来改变这一点。这个想法是根据一个人的实际驾驶行为而不是根据普通驾驶员的驾驶行为来计算溢价。为此，在车上安装了一个连接到保险公司的黑匣子（使用智能手机是可能的，而且更便宜，但不太可靠）。黑匣子记录驾驶员的行为并计算安全分数。图 4.6 显示了首批远程信息处理保险公司之一的评分系统。它观察四个特征并为它们分配不同的权重。
快速加速或急刹车被赋予最大的权重，其次是超速行驶。每个驱动程序的四个功能中的每一个功能的每月预算为 100 点。一个“事件”会导致扣分，例如第一次快速加速或超速驾驶扣 20 分。在月底，剩余的分数如图所示加权，并加总为总安全分数。尽管远程信息处理通常被称为黑盒保险，但该算法根本不像大多数爱情算法那样是黑盒。保险公司的网站上有详细的解释，大家都可以了解和验证得出的分数。
个性化关税被宣传为促进公平。他们通过考虑个人驾驶风格来做到这一点。但是，当夜间驾驶和在城市受到惩罚时，它们也会造成新的歧视来源。例如，医院工作人员可能几乎没有选择避免在夜间和城市工作。因此，某些功能在驾驶员的控制之下，但不是全部。有趣的是，几乎所有个性化关税都没有一项由驾驶员控制的功能：开车时发短信。
而允许公平的黑匣子也可以实现监视。考虑一个可能的未来。为什么黑匣子应该只向保险公司发送超速记录？一份给警察的副本将非常方便，可以节省他们很多精力。这将使所有速度陷阱过时。如果您超速，汽车会按时打印罚单，或者更方便的是，自动从您的在线帐户中扣除罚款。您与心爱的汽车的关系可能会发生变化。公平和全面监控之间存在滑坡。
您是否赞成将交通违法行为直接发送给警察的新一代汽车？在我进行的一项调查中，三分之一的成年人说是，在 60 岁以上的人中更是如此，在 30 岁以下的人中更是如此。这个未来的技术已经存在，因为大多数新车都安装了黑匣子。它收集的数据不属于车主，可以在法庭上用来对付司机。在佐治亚州，警方在一次致命事故后在没有搜查令的情况下获得了黑匣子数据，司机被判鲁莽驾驶和超速。
虽然监视的动机各不相同，但数字技术支持所有这些。甚至不需要购买远程信息处理保险。现代汽车都有内置的互联网连接，而且——在车主手册中没有透明化——大多数汽车每隔几分钟就会向汽车制造商发送他们可以收集的所有数据，包括驾驶员当前的位置、是否发生过急刹车、多久一次驾驶员座椅的位置发生了变化，访问了哪些加油站或电池充电站，以及插入了多少 CD 和 DVD。此外，一旦您插入智能手机，汽车可能会复制您的个人信息，包括联系人地址、电子邮件、短信甚至照片。汽车制造商对这项活动非常沉默，当被问及他们与谁分享这些数据时，他们通常不会回复。这些信息有助于找出许多其他感兴趣的事情，例如司机光顾麦当劳的频率、他们的健康状况以及他们晚上偶尔拜访的人。联网汽车可以支持正义并提高安全性，但也可以监视您。远程信息处理保险体现了数字技术的两面性：监控以换取便利。