前 Meta 员工创办的一家初创公司旨在为应对互联网上一些最复杂、最危险的挑战的公司简化内容审核流程。
Cinder 喜欢将自己描述为“信任和安全的操作系统”，在安全和内容策略工作方面拥有多年的综合经验。其中包括 CEO 兼联合创始人 Glen Wise，Meta 前红队工程师，Philip Brennan 和 Declan Cummings，曾在 Meta 从事威胁情报工作，以及 Facebook 反恐和危险组织团队前任主管 Brian Fishman。
Cinder 得到了风险投资公司 Accel 的支持，该公司在 5 月领投了种子轮融资，本月在 Y Combinator 的参与下进行了 1280 万美元的 A 轮融资。该公司成立于今年 1 月，迄今已筹集了 1400 万美元。
在接受 TechCrunch 采访时，Wise 将 Cinder 比作 Salesforce 和 Zendesk 等商业软件平台，它们可以将分散的数据集整合到一个用户界面中。但是，有了 Cinder，内容管理员和公司信任与安全团队的其他成员无需销售或客户服务团队跟踪和筛选数据，就可以将敏感的工作流程集中到一个专门构建的工具中。
怀斯说，没有为信任和安全建立稳健工作流程的公司现在尴尬地依赖为不同用例构建的系统，比如错误跟踪。
“我开始与许多信任和安全部门的负责人 [以及] 许多其他大型互联网公司进行交谈，老实说，还有很多社交媒体之外的公司，他们在运营上苦苦挣扎如何解决很多问题，怀斯告诉技术危机。 “他们会雇用非常聪明的人，但他们会被困在电子表格中，他们会被困在 SQL 语句中，并被困在过去的这种世界中，因为他们没有为此定制的工具。”
例如，如果使用这些系统之一的内容审查员想要审查社交媒体帖子，他们必须离开该环境并按照 URL 查看相关内容，然后再返回错误跟踪工具查看任何相关内容上下文并提供他们的输入。
“然后大约一个半小时后，他们实际上可以做出决定，”怀斯说。 “所以我们想开箱即用。” Wise 说，到目前为止，Cinder 主要吸引那些已经建立了信任和安全操作的大公司，或者那些正在弄清楚这些工作流程应该是什么样子的公司。
对于托管用户生成内容的社交网络和其他公司而言，信任和安全团队面临的威胁既复杂又多样。建立信任和安全的公司必须将各方面的专业知识结合在一起，从有针对性的骚扰和仇恨团体到儿童性虐待材料 ( CSAM ) 和国家支持的影响力行动。
在这些领域做出审核决定可以像标记使用种族诽谤的单个文本帖子一样简单——这个决定可能只需要几秒钟——或者像将数百个账户链接在一起进行秘密的政府赞助的影响活动一样微妙许多个月的过程。
虽然有些内容是完全非法的，官方检测和报告工作流程可以反映这一点，但大多数执法决定都由私营公司来解决。正如我们近年来一次又一次地看到的那样，定义允许在线内容和不允许在线内容的规则是实时响应、回溯和演变的动态文档。
Cinder 的目标是集中这些政策和必要的背景，使大规模直接决策成为可能，同时仍然促进“动态调查”——虚假信息运动或破坏选举的协调努力可能需要的那种工作。该平台本身不进行任何检测，也不设置规则，这完全取决于获得其软件许可的公司。 （目前，Cinder 没有透露任何客户的名字。）
Wise 还指出，由于 Cinder 是为内容审查流程而设计的，该公司已经能够适应一些对情感要求最高的网络工作中的人为因素，“从头开始”构建这些需求。这包括新兴的行业标准做法，如模糊处理和灰度化，或在查看特别具有挑战性的内容后提示版主休息一下。这些干预措施和其他干预措施可以减轻可能对内容审阅者造成的持久伤害。
“我认为很多人都明白担任主持人和查看大量此类内容是多么艰巨的工作，”怀斯告诉 TechCrunch。 “真正有益的是，公司确实在努力投资于安全措施，并希望第三方帮助提供这些措施。”
Wise 表示，除了版主安全问题外，Cinder 在构建时还考虑了各个层面的安全和隐私，这对于拥有强大安全血统的团队来说是自然而然的。他描述了软件中的“强大”许可系统，可以轻松隐藏敏感的身份信息或其他数据，从而允许对预定义组进行不同级别的访问。
“我们有一些客户在使用该产品，他们对此非常满意，”Wise 说。 “人们从来没有真正拥有为此构建的工具……人们真的很高兴看到这一点，好吧，有一群人以前做过这件事，他们可以帮助构建确切的用例，这真的很棒。 ”
Cinder 的内容审核软件由Taylor Hatmaker为信任和安全团队定制，最初发布于TechCrunch
原文： https://techcrunch.com/2022/12/08/cinder-builds-a-trust-and-safety-platform/