你知道那种感觉；您在使用约会应用程序，并开始与某人进行对话，但事情似乎并没有完全叠加。您在 Netflix 上看过The Tinder Swindler ，突然想知道：有人要向我要钱吗？视频约会网站 Filter Off的团队决定采取一种新颖的方法：每个检测到的骗子都被添加到约会希望者的边池中，其中仅包含他们自己的聊天机器人，冒充可爱的单身人士和其他骗子。正如您所料，随之而来的是欢闹。
作为一个平台，Filter Off 是一款视频优先的约会应用程序，在 COVID-19 封锁之初推出。随着约会从酒吧、画廊和野餐转变为更以聊天和视频为先的方式，该公司开始腾飞，围绕各种主题提供虚拟快速约会活动。哈利波特约会之夜，爱狗人士约会之夜，纽约市约会之夜 – 你的名字。该平台拥有数十万用户，随着人们寻找爱情的普及，创始人发现它也吸引了第二批人——寻找金钱的人。
“我第一次注意到有问题是当我看到乔治克鲁尼加入了 Filter Off 的时候。我当时想，’天哪，就像，这太疯狂了，我不敢相信……’但后来我更仔细地查看了他的个人资料，”Filter Off 产品负责人 Brian Weinreich 在接受 TechCrunch 采访时笑着说。他意识到克鲁尼可能不会出现在约会网站上，即使他在，他也不会是来自尼日利亚拉各斯的 34 岁。 “我删除了他们的个人资料，让他们离开应用程序。然后我开始注意到所有这些看起来像真人的个人资料，但它们都是这些不同的个人资料，没有加起来。”
产品团队决定尝试用算法解决这个问题，并创建了一款软件，可以将用户分类为人类，并“基于我开始注意到的某些特征，关于人们如何注册他们如何使用该应用程序” 他们很可能是骗子。该团队一直在删除个人资料，但他们每减少一个骗子，就会有另外五个冒出来代替他们，美杜莎式的。
“我想，好吧，我们需要一种可以摆脱诈骗者的方法，但它需要的方式是他们不能只是回来重新加入平台，”Weinreich 说。 “我记得 Reddit 和其他平台有一种‘影子禁令’形式，用户可以继续发帖，但普通用户看不到他们的内容。”
于是工作开始了。该团队使用GPT-3创建了许多聊天机器人，并结合了生成类似人脸的脚本，从而自己创建了许多虚假的个人资料。警告：“普通”用户看不到这些配置文件，只有算法确定为骗子的人才能看到。他们将它们放入由数千个机器人组成的池中，这些机器人看起来和说话都像真人。
“有趣的是，发生了两件事。第一，骗子会遇到其他机器人，但他们也会遇到其他骗子，他们试图互相欺骗，”Weinreich 笑着说。 “他们就像‘我要 40 美元买一张 Google Play 礼品卡’，而另一个骗子回答‘不，不，你给我一张礼品卡’，他们一直在争吵。这只是一件有趣的事情，目前在我们的应用程序中，据我所知，我们可能有超过 1,000 名诈骗者正在积极与机器人交谈。这很棒。他们在浪费时间，而且他们不必与我们的真实用户打交道。”
该平台确实具有报告和阻止功能，真实用户可以报告潜在的诈骗者。报告后，团队可以改进他们的算法，并手动将诈骗者放入机器人池中。
“关于我们的报告功能，最有趣的一点是我从诈骗者那里得到的报告数量，他们报告说他们正在与机器人交谈。我就像’是的，我知道，这就是重点’，”Weinreich 耸了耸肩。
该公司在自己的博客上收集了诈骗者彼此之间以及与机器人之间的一些最荒谬的对话，也值得一读。
原文： https://techcrunch.com/2022/08/31/filter-off-scam-fighters/