由 Axon 任命为其技术决策提供建议的道德委员会的 12 名成员中有 9 名已辞职，理由是该公司计划在学校安装配备泰瑟枪的无人机和普遍监控。 “经过几年的努力，公司从根本上未能接受我们试图灌输的价值观，”离职成员写道。 “我们对 Axon 成为负责任的合作伙伴的能力失去了信心。”
近年来，Axon（前身为 Taser）已发展成为执法软件和硬件的主宰，不仅提供熟悉且以前同名的电动武器，还提供随身摄像头和用于证据管理的整个数字平台。暂时不考虑将这些东西私有化的固有风险，Axon 对其技术的考虑非常周到，征求将使用这些工具的社区以及将佩戴或使用它们的警察的建议。
人工智能伦理委员会成立于几年前，因为很明显机器学习是一种非常有价值的工具，但也很容易构建不良、滥用或两者兼而有之。该委员会由专家、学者和行业专业人士组成，将对提出保障措施、问责措施等的技术提出缓和的看法。
它有一个良好的开端，辞职的成员在一份声明中写道：
我们每个人都相信我们可以影响公司的发展方向，从而有助于减轻警务技术可以播下的危害并更好地获得任何好处。有一段时间，我们看到这种影响在 Axon 的一些决定中发挥作用。从不为其任何产品配备面部识别功能，到撤回从社交媒体网站收集数据的新软件工具，再到推动迫切需要的立法以控制车牌阅读器的使用，我们观察到了我们所发现的差异的切实证据正在制作。
早在 2020 年，我就与首席执行官里奇·史密斯 (Rich Smith) 聊天，发现他对科技是否能解决持续的警务危机的问题有着令人耳目一新的诚实看法。
“科技不是灵丹妙药。它不会为我们解决这些问题，”他说。但同样真实的是，他继续说，如果没有技术，其中一些问题将无法解决。随身摄像机和其他对警察遭遇的数字跟踪并不是一个很好的选择，但我们还指望如何系统地记录这些事件呢？定义这些工具的不是警察，而是制造它们的公司，而 Axon 已经在努力将自己置于这个位置。
但最近，在应该采用多少和何种类型的技术来威慑大规模枪击事件方面，它可能已经走得太远了。
“[Axon] 打算开发配备泰瑟枪的无人机，将它们预先定位在大规模和学校枪击的潜在目标中，并在具有实时流媒体功能的监控摄像机中包围这些目标，”董事会的信中写道。
“董事会已经被介绍并考虑将泰瑟无人机作为一种可以试飞的东西，并进行严格的控制，因为关于这种设备的使用有很多问题需要回答。然而，董事会在很短的时间内接到通知，Axon 计划宣布这个工具作为一个广泛的概念，完全绕过人工智能伦理委员会的谨慎，“纽约大学警务项目监督组织的前董事会成员和倡导主任 Mecole McBride 说。 “如果在如此重要的事情上让董事会靠边站这么容易，我们不得不问自己，我们在这里做什么？”
董事会警告 Axon，如果他们按计划进行，就会有人辞职。它继续 – 他们辞职了。
鉴于这一点以及社区中其他人的强烈抗议，认为这可能不是对大规模枪击威胁的适当回应，史密斯写了这篇博客文章，承认公司可能已经超越了自己。
“根据反馈，我们正在暂停该项目的工作，并重新集中精力与关键支持者进一步接触，以充分探索最佳前进道路，”他写道。 “在学校使用远程操作的非致命 TASER 无人机是一个想法，而不是产品，而且还有很长的路要走。我们有很多工作和探索，看看这项技术是否可行，并了解公众关注的问题是否可以在继续推进之前得到充分解决。”
他还表示，他们将“加强”收集替代意见的过程，尽管正如 McBride 指出的那样，它似乎已经超越了现有的系统。什么增强功能会阻止它在未来对任何人做同样的事情，无论人员多么好，在鹰派担任决策职位时，它只是纯粹的咨询角色？ Axon 没有回答有关董事会未来的问题，而是让我参考上述帖子。
奇怪的是，史密斯在其中声称，道德委员会的辞职成员“在我们听到或有机会解决他们的技术问题之前，已经选择退出直接参与这些问题。”
然而，与 Axon 和董事会就这一想法合作的警务项目律师 Max Isaacs 表示，“一年多来，道德委员会与 Axon 讨论了一个狭窄的试点计划的参数”，这意味着史密斯的账户已经它倒退。 “该公司违反了在做出如此重大决定之前咨询道德委员会的承诺，并接受了持续的大规模监控，这表明 Axon 没有充分致力于以负责任的方式开发这项技术，”艾萨克说。
Axon 的一位代表解释说，该委员会已经对配备泰瑟枪的警察无人机进行了权衡，而不是“预先安装在公共场所”并暂时打算在学校使用的无人机。说董事会没有介入，这有点薄弱：他们对警察部署的担忧肯定对学校的部署更加紧迫。正如辞职信所指出的那样，Axon 并没有给他们太多时间来回应——或者更有可能的是，他们确切地知道回应会是什么。
无论如何，Taser Drone 计划已搁浅，Axon 可能会三思而后行，然后再进行火药桶讨论，手牵手。技术将始终在安全和执法中发挥重要作用，但以比我们想象的更快的速度行动对任何人都没有任何好处（而且很可能会产生严重的影响）。