几周前，我写了一篇关于马克·扎克伯格如何就 Meta 的人工智能策略进行公开采访的文章，经常提到聊天机器人可以通过充当朋友，或更令人惊讶的是充当治疗师来解决孤独感的流行问题。我发现他对聊天机器人治疗师的公开讨论令人惊讶，因为治疗师有道德义务。他们不应该鼓励自杀或有害行为，监视患者以向他们投放广告，或者侵犯隐私。
当 Meta 进入这一领域时，它将受到一整套法律的约束，因为州立法者正在努力解决自动决策和人工智能对心理健康等敏感领域的影响。大多数公司官员不会邀请这样的审查，但也许我不应该对扎克伯格这样做感到惊讶，因为他似乎在国会共和党人中拥有重要的政治影响力。
昨天，似乎是在暗示，美国众议院能源和商业委员会通过了以下提案，十年内禁止国家对人工智能和“自动决策系统”进行监管，“自动决策系统”被定义为“实质性影响或取代人类决策的系统”。
这是德克萨斯州参议员特德·克鲁兹特别吹捧的一项提议，主要来自大型科技 丰富研究所及其周围的游说者和各种自由主义科赫资助的智库，以及科罗拉多州州长贾里德·波利斯等少数自由主义民主党人。
这不是一个写得很好的规定，因为它是如此模糊且包罗万象。法律分析人士似乎认为这些定义赋予了该法律相当广泛的法律含义，因此它将禁止大量的法律条文和新法律的提案。如果你阅读整篇文章，就会发现州立法者做什么和不能做什么有点含糊。但我们确实知道一些事情。首先，该法案告诉州立法者他们不能对我们知之甚少的通用技术新领域进行监管。这有点像《通信规范法案》第 230 条，该法案于 1996 年制定时含糊不清，但最终使大多数在线活动免受法律审查。
其次，对于想要取消许可要求或放松管制的立法者来说，它有一个例外。如果这一条款成为法律，州立法者将很难在什么是聊天机器人治疗师、什么不是聊天机器人治疗师、如何获得许可或如何培养意外告诉青少年自杀的服务的责任方面划定新的界限。但他们可以轻松地消除限制 Meta 的许可要求。
下面是具体的构建规则。
换句话说，如果这项规定成为法律，马克·扎克伯格就可以自信地推动 Meta 成为准治疗师类型的服务。
这个问题不是理论上的。犹他州有一项法律规定，心理健康聊天机器人供应商必须向用户披露聊天机器人是否不是人类。如果该法案获得通过，任何州都无法通过此类法律。犹他州的法律还禁止治疗师聊天机器人出售或分享某人的个人身份健康信息。想象一下，您使用聊天机器人来应对赌博成瘾，并且该数据直接发送到赌场的营销部门。 （再次强调， 这不仅仅是一个理论问题。）规范或阻止这种行为的法律将会消失。
还有其他法律将不再可行。犹他州还有另一项法律，要求在收集个人健康信息或提供医疗建议时披露人工智能。走了。还有其他州法律要求由有执照的医生而不是保险公司的人工智能工具来确定医疗必要性，法律规范了围绕医疗保健服务或保险的提供、拒绝、成本或条款做出决策的系统。走了。加州有一项关于客户服务的法律，要求临床实践使用人工智能来指导患者如何通过医疗培训与人联系。也不见了。
BIG是一份由读者支持的时事通讯，重点关注垄断和金融政治。如果您还不是付费订阅者，请考虑成为付费订阅者。你总是可以免费得到谎言。真相要花几块钱，但从长远来看，它要便宜得多。
当然，这样的禁令远远超出了医学的范围。猜猜自动化系统还有什么？老虎机或几乎任何游戏应用程序。所以，是的，这项规定可能会禁止州政府制定关于在赌博应用程序中使用人工智能或向赌徒投放定向广告的规定。我还可以看到这项规定适用于法律，规定孩子在访问具有成瘾功能的社交媒体功能之前必须获得父母的许可。法律规定，必须为客户提供一种联系真人的方式，以解决平台去银行化或审查等问题，也可能被禁止。为产生虚假价格或不准确客户服务承诺的聊天机器人制定责任标准可能会被禁止，但仍然存在一般产品责任和欺骗索赔。
很难弄清楚这项法律的适用范围到底有多大。国家网络安全法会被取消吗？可能是因为它们需要对自动化决策进行监管。例如，阿拉斯加法律要求各州“定期测试和监控信息系统和程序，以检测对信息系统的实际攻击或企图攻击或入侵”。信息系统可以说取代了人类。 （请参阅此州法律列表。）数据泄露通知法律？人脸识别监管？我想他们会被禁止。
还有一些奇怪且令人毛骨悚然的东西可能会受到影响。例如，38 个州已将人工智能生成或计算机编辑的儿童性虐待材料定为犯罪。联邦禁止人工智能生成的 CSAM 内容，我认为这些法律不会受到影响。也就是说，我并不完全确定。这是德克萨斯州的法律；我突出显示了我担心的文本。
我不认为众议院能源和商业委员会的共和党人事实上投票将人工智能生成的儿童色情内容排除在州刑法之外，但我认为他们可能应该对这一条款的深远影响进行法律分析。对于 Deepfake 来说也是如此。许多州正在提议限制人工智能的使用的法律，以禁止制作“虚假但真实的个人所做或所说的事情的视频”。我不认为所有这些法律都会被禁止，但有些法律可能会被禁止。
换句话说，法律的制定方式存在很多含糊之处，这意味着一整套规则现在将面临挑战。隐私法可能会受到影响。与网站或应用程序的年龄限制法律相同。这些人可能使用自动决策系统，因此他们可能属于这一规定的范围。同时，它们可以以技术中立的方式编写，因此您可以认为它们会保留下来。禁止大型科技审查的法律也是如此，例如保守派通过的佛罗里达州和德克萨斯州法律，或禁止基于种族或政治意识形态的歧视或去银行业的法律。
还有禁止算法定价的法律（如 RealPage），以及更广泛的个性化和监控定价选择（如温迪的短暂“动态”定价实验），或禁止共享薪酬数据的法律。这甚至还没有涉及银行、信贷或金融技术，以及工人监督和配额系统，这些系统带来了完全不同的可能性。
毫无疑问，这项规定的支持者会说“哦，不，你关心的事情不会受到影响。”但现在几乎所有事情都使用自动化决策，我们不知道法院将如何解释这项法律规定。当然，许多资本充足的利益集团会立即跳出来说，无论你想做什么来解决特定的行业惯例，现在都被禁止了，他们会花很多钱来实现这一点。许多商业活动将围绕创建不必要的自动化或人工智能系统而形成，纯粹是为了属于这种例外。想想自动驾驶、仓库自动化和安全、人工智能和飞行、生物识别、污染管理等领域所有被取消的政策空间。
现在总的来说，我不喜欢我所见过的很多特定于人工智能的监管，比如试图监管通用人工智能模型的“安全”。因此，我们不一定要在所有这些领域进行监管。也就是说，束缚州立法者的手脚并说他们不能对一般商业方法的使用制定规则，即使他们遇到非常严重的安全或犯罪问题，这只是疯狂的行为。所以你可以明白我为什么担心。 （顺便说一句，这一策略反映了大型科技公司寻求利用贸易协议来限制州立法者围绕算法采取行动的策略。）
现在让我们回答最后一个问题。这条规定会成为法律吗？答案是，我们不知道。如果该法案是正常国会程序的一部分，那么它不会有一条轻松的道路。你需要通过委员会听证会，所有这些可能的问题都会出现，并且该法案将被重写以解决不同的问题。我提出的许多担忧都是两党成员所共有的，因此，至少如果该提案经过正常流程，您会看到针对明显有争议的事情制定了一系列豁免。在此过程之后，此类立法必须通过参议院的阻挠，需要 60 票，这似乎很难获得。
然而，在这种情况下，众议院能源和商务主席布雷特·格思里（Brett Guthrie）使用了程序性策略来快速跟踪它。他将其作为唐纳德·特朗普目前正在起草的大规模减税预算法案的一部分；像这样的预算法案不能被阻挠。昨天，一项消除这一条款的民主党修正案被否决，因此它可能会作为特朗普“一个美丽的大法案”减税的一部分在众议院获得通过。
流程迷可能会注意到该法案是一项政策变化，它似乎不应该成为预算法案的一部分。他们是对的。然而，众议院几乎可以做大多数人想要做的事情。存在障碍的是参议院。上层立法机构对预算程序的要求要严格得多。他们有一位官员，即议员，负责决定某件事是预算项目还是政策选择。昨天，在有关该条款的辩论中，两名民主党人众议员亚历山大·奥卡西奥-科尔特斯和莉齐·弗莱彻让提案国承认这是一项政策变化，这意味着它不能成为参议院减税法案的一部分。为了反驳，共和党众议员杰伊·奥伯诺特声称该条款是一项政策改变，但这是允许商务部购买人工智能系统所必需的，因此它是预算的一部分。
那么谁知道会发生什么？如果当选的领导人（保守派和自由派）考虑到该条款的全部影响，它就不可能成为法律。不管你相信与否，指出法律的作用确实可以改变人们的想法。例如，几周前，我们确实设法让众议院共和党人吉姆·乔丹放弃了一项消除他试图潜入预算流程的反垄断法的提案。但对于像这个预算方案这样必须通过的法案，你永远不知道什么会被通过。
不过，不用担心，如果它确实成为法律，并且您对可能发生的所有不好的事情感到沮丧，这个非常正常的人会建立一个治疗聊天机器人来谈论您的感受。
原文： https://www.thebignewsletter.com/p/will-congress-legalize-mark-zuckerberg