美国司法部今天宣布,它与 Facebook 的母公司 Meta 达成协议,以解决一项指控 Meta 从事违反《公平住房法》(FHA) 的歧视性广告的诉讼。拟议的和解方案须经最初提起诉讼的纽约南区的一名法官审查和批准。但假设它向前发展,Meta表示已同意开发一个新的住房广告系统,并支付大约 115,000 美元的罚款,这是 FHA 规定的最高罚款。
“当一家公司开发和部署完全或部分基于受保护特征剥夺用户住房机会的技术时,它违反了《公平住房法》,就像公司使用更传统的广告方法进行歧视性广告一样,”美国检察官 Damian威廉姆斯在一份声明中说。 “由于这场开创性的诉讼,Meta 将首次改变其广告投放系统以解决算法歧视问题。但如果 Meta 未能证明其已充分改变其交付系统以防止算法偏差,该办公室将继续进行诉讼。”
该诉讼是司法部在 FHA 下第一个具有挑战性的算法偏见,它声称 Meta 用来确定哪些 Facebook 用户接收住房广告的算法部分依赖于种族、肤色、宗教、性别、残疾、家庭状况和国籍——所有这些都受 FHA 保护。外部调查提供了支持司法部说法的证据,其中包括卡内基梅隆大学 2020 年的一篇论文,该论文表明 Facebook 广告工具中的偏见加剧了社会经济不平等。
Meta 表示,根据与司法部达成的和解协议,它将停止使用一种用于住房广告的广告工具 Special Ad Audience,据称该工具依靠一种歧视性算法来根据 FHA 保护的特征来寻找“看起来像”其他用户的用户.根据一份新闻稿,Meta 还将在未来六个月内开发一个新系统,以“解决由于其在住房广告投放系统中使用个性化算法而造成的种族和其他差异”,并在 12 月 31 日之前实施该系统, 2022 年。
独立的第三方审查员将持续调查和验证 Meta 的新系统是否符合公司和司法部同意的标准。如果司法部认为新系统不能充分解决歧视问题,和解将被终止。
如果 Meta 打算添加任何定位选项,它必须通知司法部。
Meta 在一篇博文中表示,其新系统将适用于与就业和信贷以及住房相关的广告——可能也是为了回应对该公司在这些领域的广告定位系统的批评。上述卡内基梅隆大学的研究发现,Facebook 上与信用卡、贷款和保险相关的广告不成比例地发送给男性,而招聘广告则展示给了更大比例的女性。合著者发现,选择不识别性别或将自己标记为非二元或跨性别的用户很少(如果有的话)展示任何类型的信用广告。
美国官员长期以来一直指责 Meta 的歧视性广告定位做法。 2018 年,时任美国住房和城市发展部部长的本·卡森 (Ben Carson) 就基于种族、宗教和其他类别“非法歧视”用户的广告系统对 Facebook 发起了正式投诉。国家公平住房联盟在 2019 年提起的另一项诉讼自达成和解后,指控 Meta 向广告商提供了歧视性的定位选项。