哪里有自主，哪里就必须有信任。如果我们培养孩子独立自主，他们需要自主，我们也需要信任他们。（育儿是学习如何信任的学校。）如果我们构建一个自主代理系统，我们需要代理之间建立高度的信任。如果我将决策委托给人工智能，那么我必须信任它；如果该人工智能依赖于其他人工智能，它也必须信任其他人工智能。因此，我们需要开发一个非常强大的信任系统，能够检测、验证并建立人机之间，更重要的是机器与机器之间的信任。
信任的应用研究主要有两个方向：更好地理解人类如何相互信任，并将其中一些原则抽象地应用于机械系统。技术人员已经创建了原始的信任系统来管理数据云和通信的安全。例如，是否应该允许某个设备连接？它是否值得信任，能够完成它声称能够完成的任务？我们如何验证它的身份和行为？等等。
到目前为止，这些系统还没有处理自适应代理，它们的行为、身份和能力更加不稳定、不透明、变化多端，也更具影响力。这使得信任它们变得更加困难，也更加重要。
如今，当我选购人工智能时，准确性是我最看重的品质。它能给出正确的答案吗？它会产生多少幻觉？这些品质是信任的体现。我能相信人工智能会给出可靠的答案吗？随着人工智能开始承担更多任务，走向世界，为我们做出决策，它们的可信度变得至关重要。
信任是一个宽泛的词，随着它渗透到人工智能生态系统，它的含义将被进一步细分。信任既包括安全性，也包括可靠性，既包括责任，也包括问责制。随着我们对信任的整合和衡量，这些概念将变得更加精确。未来十年，信任将成为我们讨论的更多话题。
随着人工智能的能力和技能开始分化——有些人工智能在某些任务上比其他人工智能更胜一筹——对它们的评价将开始关注其可信度。正如其他制造产品会宣传其规格——例如燃油效率、存储空间、像素数、正常运行时间或治愈率——人工智能供应商也会宣传其代理的可信度。它们的可靠性如何？即使不宣传这种品质，也需要在内部进行衡量，以便公司能够不断改进。
当我们依靠人工智能代理预订度假机票、续订药物处方或维修汽车时，我们就会对其抱有极大的信任。不难想象，人工智能代理可能会参与到生死攸关的决策中。我们对人工智能代理的信任程度甚至可能带来法律责任。如果代理搞砸了，谁来负责？
目前，人工智能不承担任何责任。如果它们犯了错误，它们不保证修复。它们不承担因自身错误可能造成的麻烦。事实上，这种差异目前是人类员工和人工智能员工之间的关键区别。责任最终落在人类身上。它们对自己的工作负责；你雇佣人类是因为你相信他们能把工作做好。如果做不到，它们会重做，并学习如何避免再次犯错。但目前的人工智能并非如此。这使得它们很难被信任。
AI代理将组成一个网络，一个由交互的AI组成的系统，该系统可以为每项任务分配风险系数。某些任务，例如购买机票或分配处方药，其风险评分将反映潜在的负面结果与正面便利。每个AI代理本身都会根据其权限获得一个动态风险评分。代理还会根据其过往表现积累信任评分。信任是非常不对称的；它可能需要长期的多次互动才能获得价值，但一次失误也可能瞬间失去信任。信任评分将不断变化，并由系统跟踪。
大多数人工智能工作将以代理与代理之间的交互方式隐形完成。普通人工智能代理生成的大部分输出结果只会被其他人工智能代理（数万亿中的其中一个）看到和使用。人工智能的全部工作中，只有极少数会被人类看到或注意到。人类与之互动的人工智能代理数量将非常少，尽管它们对我们至关重要。虽然从统计数据来看，我们与之互动的人工智能数量稀少，但它们对我们却至关重要，而且它们的信任至关重要。
为了赢得我们的信任，面向外部的人工智能代理需要与它同样信任的人工智能代理建立联系，因此，它的能力很大一部分将在于如何选择和利用它能找到的最值得信赖的人工智能。我们可以预见到全新的骗局，包括欺骗人工智能代理信任空洞的代理、伪造信任证书、伪造身份证件、欺骗任务等。就像在网络安全领域一样，人工智能代理的可信度取决于其最弱的子代理。而且，由于子任务可以分配给多个层级，因此质量管理将成为人工智能的首要任务。
正确归咎错误并纠正错误也成为人工智能的一项极具市场价值的技能。所有系统——包括最优秀的人类——都会犯错。系统不可能做到防错。因此，高信任度很大程度上取决于能否承担纠正错误的责任。最高信任度的智能体将是那些能够（并且值得信赖！）纠正自身错误，拥有足够智慧力量弥补过失，并最终改正错误的人。
最终，我们对我们每天与之互动的人工智能代理的信任程度，将会成为一个被吹嘘、被争论、被分享和被广泛宣传的分数。在其他领域，比如汽车或手机，我们认为可靠性是理所当然的。
与我们今天生活中的其他产品和服务不同，人工智能更加复杂、更加个性化，
人工智能代理的可信度至关重要，且将持续受到关注。它的信任商（TQ）可能比智商（IQ）更重要。挑选和留住高TQ的代理，与招聘和留住关键的人类员工非常相似。
然而，我们倾向于避免给人类分配数字分数。另一方面，人工智能代理系统将拥有各种各样的指标，我们将用它们来决定哪些系统可以帮助我们管理生活。得分最高的人工智能很可能也是最昂贵的。甚至有传言说，有些人工智能得分近乎完美，但你买不起。然而，人工智能是一个不断改进、收益递增的系统，这意味着它使用得越多，就越好，所以最好的人工智能将成为最受欢迎的人工智能之一。亿万富翁和我们使用的谷歌一样，他们很可能也会使用和我们一样的人工智能，尽管他们可能拥有高度个性化的界面。这些人工智能也需要拥有最高的信任商数。
每家公司，或许每个人，都会拥有一个AI代理，在AI系统内部代表他们与其他AI代理沟通。确保您的个人代表代理拥有较高的信任度评分是您的责任之一。这有点像AI代理的信用评分。您需要拥有较高的信任度（TQ），因为有些AI代理不会与TQ较低的其他代理互动。这与个人社交评分（比如中国人的社交评分）不同。这不是您的分数，而是您的代理的信任度评分，它代表您与其他代理沟通。您可能拥有良好的社交评分声誉，但您的代理可能很糟糕。反之亦然。
在人工智能时代的未来几十年里，TQ 将被视为比 IQ 更重要。