为了提高 AI 系统的安全性，Protect AI 今天在由 Acrew Capital 和 Boldstart Ventures 共同领投、Knollwood Capital、Pelion Ventures 和 Aviso Ventures 跟投的种子轮融资中筹集了 1350 万美元。联合创始人兼首席执行官 Ian Swanson 表示，随着 Protect AI 脱颖而出，资金将用于产品开发和客户拓展。
Protect AI 声称是为数不多的完全专注于开发工具以保护 AI 系统和机器学习模型免受攻击的安全公司之一。 Swanson 解释说，其产品套件旨在帮助开发人员识别和修复机器学习生命周期各个阶段的 AI 和机器学习安全漏洞，包括可能暴露敏感数据的漏洞。
“随着机器学习模型在生产用例中的使用呈指数级增长，我们看到 AI 构建者需要产品和解决方案来使 AI 系统更加安全，同时认识到围绕机器学习代码的独特需求和威胁，”Swanson 在电子邮件采访中告诉 TechCrunch。 “我们已经研究并发现了独特的漏洞，并提供了工具来降低 [机器学习] 管道中固有的风险。”
大约一年前，Swanson 与 Daryan Dehghanpisheh 和 Badar Ahmed 共同推出了 Protect AI。 Swanson 和 Dehghanpisheh 之前曾在 Amazon Web Services (AWS) 合作，负责业务的人工智能和机器学习方面； Swanson 是 AWS 人工智能客户解决方案团队的全球领导者，Dehghanpisheh 是机器学习解决方案架构师的全球领导者。 Ahmed 在 Swanson 的最后一家初创公司 DataScience.com 工作时结识了 Swanson，该公司于 2017 年被 Oracle 收购。Ahmed 和 Swanson 也在 Oracle 一起工作，Swanson 是 AI 和机器学习的副总裁。
Protect AI 的第一个产品 NB Defense 旨在在 Jupyter Notebook 中工作，Jupyter Notebook 是一种在 AI 社区的数据科学家中流行的数字笔记本工具。 （2018 年 GitHub分析发现，在该报告发布时，有超过 250 万个公共 Jupyter Notebooks 在使用，这个数字几乎可以肯定自那时以来有所攀升。）NB Defense 扫描 Jupyter notebooks 以寻找 AI 项目——通常包含所有训练、运行和测试 AI 系统所需的代码、库和框架——针对安全风险并提供补救建议。
AI 项目笔记本可能包含哪些有问题的元素？斯旺森建议内部使用身份验证令牌和其他凭据，其中之一。 NB Defense 还会查找个人身份信息（例如姓名和电话号码）和带有可能禁止在商业系统中使用的“非许可”许可证的开源代码。
Jupyter Notebooks 通常用作暂存器而不是生产环境，并且大多数都被安全地锁定，以免被窥探。 根据Dark Reading 的分析，公共网络上大约 10,000 个 Jupyter Notebook 实例中只有不到 1% 配置为开放访问。但这些漏洞确实不仅仅是理论上的。去年 12 月，安全公司 Lightspin发现了一种方法，允许攻击者跨 AWS SageMaker（亚马逊完全托管的机器学习服务）上的账户运行受害者笔记本上的任何代码。
包括 Aqua Security 在内的其他研究公司发现，保护不当的 Jupyter Notebook 容易受到基于 Python 的勒索软件和加密货币挖矿攻击。在 2020 年微软对使用 AI 的企业进行的一项调查中，大多数人表示他们没有合适的工具来保护他们的机器学习模型。
敲响警钟可能为时过早。尽管 Gartner 的一份报告预测到今年年底 AI 网络攻击会增加，但没有证据表明攻击正在大规模发生。但斯旺森认为预防是关键。
“[许多] 现有的安全代码扫描解决方案与 Jupyter 笔记本不兼容。这些漏洞以及更多漏洞是由于当前网络安全解决方案提供商缺乏关注和创新，这是 Protect AI 的最大差异：当今 AI 系统中存在的真正威胁和漏洞，”Swanson 说。
Swanson 说，除了 Jupyter Notebooks，Protect AI 还将与常见的 AI 开发工具一起使用，包括 Amazon SageMaker、Azure ML 和 Google Vertex AI Workbench。它可以免费开始使用，将来会推出付费选项。
“机器学习是……复杂的，大规模提供机器学习的管道会产生并增加网络安全盲点，这些盲点会避开当前的网络安全产品，从而阻止重要风险得到充分理解和缓解。此外，新兴的合规性和监管框架继续推动强化人工智能系统的数据源、模型和软件供应链的需求，以满足日益增长的治理、风险管理和合规性要求，”Swanson 继续说道。 “Protect AI 在企业和 AI 的机器学习生命周期中的独特能力和深厚专业知识可帮助各种规模的企业满足当今和未来对更安全、更安全的 AI 数字体验的独特、新兴和不断增长的需求。”
这很有前途。但 Protect AI 的优势在于进入一个直接竞争对手相对较少的市场。也许最接近的是 Resistant AI，它正在开发 AI 系统以保护算法免受自动攻击。
Protect AI 尚未有收入，并未透露其目前拥有多少客户。但斯旺森声称，该公司已经在金融、医疗保健和生命科学以及能源、游戏、数字业务和金融科技等垂直领域获得了“财富 500 强企业”。
斯旺森说：“随着我们发展客户、建立合作伙伴和价值链参与者，我们将在 2023 年利用我们的资金在软件开发、工程、安全和上市角色中增加更多的团队成员，”并补充说 Protect AI 的员工人数保持不变15岁。“我们有数年的现金跑道可用于继续推进这一领域。”
Protect AI 获得 1350 万美元的投资，以加强 AI 项目免受最初发表于TechCrunch的Kyle Wiggers的攻击