TechCrunch 全球事务项目研究了科技行业与全球政治之间日益交织的关系。
地缘政治参与者总是使用技术来实现他们的目标。与其他技术不同，人工智能 (AI) 不仅仅是一种工具。我们不想将人工智能拟人化或暗示它有自己的意图。它还不是——还不是——一个道德代理人。但它正迅速成为我们共同命运的主要决定因素。我们认为，由于人工智能的独特特性——以及它对从生物技术到纳米技术等其他领域的影响——它已经威胁到全球和平与安全的基础。
人工智能技术的快速发展，加上新应用的广度（预计从 2020 年到 2028 年，全球人工智能市场规模将增长9 倍以上）意味着人工智能系统在没有足够的法律监督或充分考虑其伦理道德的情况下被广泛部署影响。这种差距，通常被称为节奏问题，使立法机关和行政部门根本无法应对。
毕竟，新技术的影响往往难以预见。早在我们充分意识到它们被滥用的潜力之前，智能手机和社交媒体就已融入日常生活。同样，需要时间来意识到面部识别技术对隐私和侵犯人权的影响。
一些国家将部署人工智能，通过确定人们看到的信息以及使用监视来限制言论自由来操纵公众舆论。
展望未来，我们几乎不知道目前正在研究的哪些挑战将导致创新，以及这些创新将如何相互作用以及更广泛的环境。
这些问题在人工智能中尤为严重，因为学习算法得出结论的方式通常是难以理解的。当不良影响曝光时，可能很难或不可能确定原因。不断学习和改变其行为的系统无法不断地进行安全测试和认证。
人工智能系统可以在很少或没有人为干预的情况下采取行动。无需阅读科幻小说即可想象危险场景。自治系统可能会破坏应该始终有一个代理人（无论是人还是公司）的原则，他们可以对世界上的行为负责——尤其是在涉及战争与和平问题时。我们不能让系统自己承担责任，部署它们的人会争辩说，当系统以不可预测的方式运行时，他们不负责任。
简而言之，我们认为我们的社会在政治上、法律上或道德上都没有为人工智能做好准备。世界也没有为人工智能将如何改变地缘政治和国际关系伦理做好准备。我们确定了可能发生这种情况的三种方式。
首先，人工智能的发展将改变国家之间的力量平衡。技术一直塑造着地缘政治力量。在 19 世纪和 20 世纪初，国际秩序建立在新兴工业能力的基础上——轮船、飞机等。后来，对石油和天然气资源的控制变得更加重要。
所有主要大国都敏锐地意识到人工智能在推进其国家议程方面的潜力。 2017 年 9 月，弗拉基米尔·普京 (Vladimir Putin ) 对一群学童说：“谁成为 [AI] 的领导者，谁就会成为世界的统治者。”虽然美国目前在人工智能方面处于领先地位，但中国的科技公司正在迅速发展，并且在面部识别软件等特定研究领域的开发和应用方面可以说具有优势。
大国对人工智能的统治将加剧现有的结构性不平等，并助长新形式的不平等。已经无法访问互联网并依赖富裕国家慷慨援助的国家将远远落在后面。人工智能驱动的自动化将以有利于某些国家经济相对于其他国家经济的方式改变就业模式。
其次，人工智能将赋予民族国家之外的一组新的地缘政治参与者。在某些方面，数字技术领域的领先公司已经比许多国家更强大。正如法国总统埃马纽埃尔·马克龙在 2019 年 3 月所问的那样：“面对数字巨头，谁能声称自己是主权国家？”
最近对乌克兰的入侵就是一个例子。各国政府的回应是对俄罗斯联邦实施经济制裁。但可以说，IBM、戴尔、Meta、Apple 和 Alphabet 等公司停止在该国运营的决定至少具有同样的影响力。
同样，当乌克兰担心入侵会破坏其互联网接入时，它呼吁的不是友好政府，而是科技企业家埃隆·马斯克(Elon Musk)。马斯克的回应是在乌克兰打开他的 Starlink 卫星互联网服务并提供接收器，使该国能够继续通信。
数字寡头垄断企业可以访问大型且不断增长的数据库作为机器学习算法的燃料，它正在迅速成为人工智能寡头垄断企业。鉴于其巨大的财富，美国和中国的领先公司要么开发新的应用程序，要么收购发明有前景的工具的小公司。机器学习系统也可能有助于人工智能寡头垄断规避国家法规。
第三，人工智能将开启新形式冲突的可能性。这些范围从通过虚假媒体和操纵的社交媒体帖子影响其他国家的公众舆论和选举结果，到干扰其他国家关键基础设施（如电力、交通或通信）的运营。
这种形式的冲突将被证明难以管理，这促使人们对不适合对付胁迫武器的军备控制工具进行彻底的重新思考。当前的军备控制谈判需要对手清楚地认识到彼此的能力和军事必要性，但例如，虽然核弹在开发和应用方面受到限制，但人工智能几乎可以实现任何事情，因为能力可以快速且不透明地发展。
如果没有可强制执行的条约限制其部署，由现成组件组装而成的自主武器系统最终将可供恐怖分子和其他非国家行为者使用。对自主武器系统知之甚少的自主武器系统也很有可能无意中引发冲突或升级现有的敌对行动。
减轻人工智能的地缘政治风险并提供其所需的敏捷和全面监督的唯一方法是就其优势、局限性和复杂性进行公开对话。 G20 是一个潜在的场所，或者可以建立一个新的国际治理机制，让私营部门和其他主要利益相关者参与进来。
人们普遍认为，国际安全、经济繁荣、公共利益和人类福祉取决于管理致命武器系统的扩散和气候变化。我们相信，它们将越来越依赖于我们共同塑造人工智能和其他新兴技术的发展和轨迹的能力。
来源： https://techcrunch.com/2022/04/06/artificial-intelligence-is-already-upending-geopolitics/