管理一个在线社区是一项艰巨的工作，而且往往是吃力不讨好的工作——当它发生在一个孤岛中时就更难了。
在Twitch上，相互关联的频道已经非正式地分享了他们希望避开的用户的信息。该公司现在正在使用一种新工具正式化这种临时做法，该工具允许频道交换禁止列表，邀请社区合作锁定连续骚扰者和其他破坏性用户，以免他们造成问题。
在与 TechCrunch 的对话中，Twitch 产品副总裁 Alison Huffman 解释说，公司最终希望通过向社区版主提供尽可能多的信息来赋予他们权力。霍夫曼说，Twitch 已经对 mod 进行了“广泛”的采访，以确定他们需要什么才能感觉更有效并让他们的社区更安全。
版主需要即时做出大量的小决定，而最大的决定通常是弄清楚哪些用户是善意的——不是故意造成问题的——哪些不是。
“如果你看到某个人，然后你说‘哦，这是一条稍微有点颜色的信息，我想知道他们是否只是新来的，或者他们是否是恶意的’——如果他们被你的一个朋友禁止渠道，你更容易去，’是的，不，这可能不是这个社区的合适人选’，你可以更容易地做出决定，“霍夫曼说。
“这减少了版主的精神开销，并且更有效地让不适合社区的人离开你的社区。”
在创作者仪表板中，创作者和频道模组可以提示他们想与之交易被禁用户列表的其他频道。该工具是双向的，因此任何请求另一个流媒体列表的频道都将分享他们的作为回报。频道可以接受共享禁止列表的所有请求，或仅允许来自 Twitch 关联公司、合作伙伴和相互关注的频道的请求。所有频道将能够与多达 30 个其他频道交换禁止列表，从而可以建立一个他们希望阻止的非常强大的用户列表，并且频道可以随时停止共享他们的列表。
频道可以选择自动监控或限制他们通过这些共享列表了解的任何帐户，并且默认情况下会受到限制。被“监控”的用户仍然可以聊天，但他们会被标记，因此可以密切关注他们的行为，并且他们的第一条消息将用一个红色框突出显示，该框还显示他们被禁止的其他地方。从那里，频道可以选择完全禁止他们或完全清除他们并将他们切换到“受信任”状态。
Twitch 最新的审核工具是一种有趣的方式，让频道可以针对可能被证明具有破坏性但可能不会违反公司禁止公开不良行为的更广泛指导方针的用户强制执行其规则。不难想象一个场景，特别是对于边缘化社区，怀有恶意的人可以故意骚扰一个频道，而不会明确违反 Twitch 反对仇恨和骚扰的规则。
Twitch 承认骚扰有“多种表现形式”，但出于被 Twitch 暂停的目的，该行为被定义为“跟踪、人身攻击、促进人身伤害、敌对袭击和恶意虚假报告”。在该定义之外有一个更难以捕捉的灰色行为区域，但共享禁令工具是朝着这个方向迈出的一步。尽管如此，如果用户违反了 Twitch 的平台规则——而不仅仅是频道的本地规则——Twitch 鼓励频道举报他们。
“我们认为这也有助于解决违反我们社区准则的事情，”霍夫曼说。 “希望这些也被报告给 Twitch，以便我们采取行动。但我们确实认为，这将有助于我们看到影响特别是边缘化社区的有针对性的骚扰。”
去年 11 月，Twitch 为版主添加了一种新方法来检测试图绕过频道禁令的用户。该公司称之为“Ban Evasion Detection”的工具使用机器学习自动标记频道中可能逃避禁令的任何人，从而允许主持人监控该用户并拦截他们的聊天消息。
新功能符合 Twitch 在其平台上“分层”安全的愿景，创作者可以在平台上直播，有时是向数十万用户直播，并且必须在各个级别实时做出审核决定。
“我们认为这是一个强大的工具组合，可以帮助主动阻止基于聊天的骚扰 [而且] 我喜欢它的一件事是它是人类和技术的另一种组合，”霍夫曼说。 “通过禁令规避检测，我们正在使用机器学习来帮助找到我们认为可疑的用户。有了这个，我们依靠人际关系以及他们已经建立的可信赖的创作者和社区来帮助提供这种信号。”
Twitch 的内容审核挑战就像一个熔炉，危险的流可以到达观众并在它们实时展开时造成伤害。大多数其他平台都专注于事后内容检测——某些内容被发布、自动系统扫描或报告，并且该内容要么保持不变，要么被标记为用户或面向平台的某种警告。
该公司正在发展其安全方法并听取其社区的意见，考虑长期努力在平台上开辟安全空间或可见存在的黑人和 LGBTQ 彩带等边缘化社区的需求。
黑人创作者厌倦了在@Twitch上成为目标和骚扰。
COC 一直在与黑人流媒体合作以结束骚扰，而#Twitch仍然不会听。
我们要求#TwitchDoBetter ，因为黑人应该安全上网。 https://t.co/enjqNYFaEw pic.twitter.com/d5bYi7FqTQ
— ColorOfChange (@ColorOfChange) 2022 年 3 月 24 日
3 月， Color of Change呼吁该公司通过一项名为#TwitchDoBetter 的活动加大力度保护黑人创作者。 跨性别和更广泛的 LGBTQ 社区也迫使该公司采取更多措施来结束仇恨袭击——恶意用户通过有针对性的骚扰充斥着流媒体的频道。去年年底，Twitch 起诉两名用户协调自动仇恨活动以阻止未来的不良行为者。
最终，平均执行的智能政策和版主可以使用的工具包的改进可能比诉讼产生更多的日常影响，但更多的防御层不会受到伤害。
“对于像针对性骚扰这样的问题，互联网上的任何地方都无法解决，”霍夫曼说。 “而且，就像在非互联网世界中一样，这是一个永远存在的问题——而且它没有一个单一的解决方案。
“我们在这里要做的只是构建一套非常强大的高度可定制的工具，然后将它们交给最了解他们需求的人，即创作者和他们的版主，然后允许他们定制这套工具以满足他们的特定需求。”
原文： https://techcrunch.com/2022/07/21/twitch-shared-ban-list-safety-tools/