Palantir 已经将其国内监控服务出售给美国移民和海关执法局，因此由亿万富翁彼得泰尔创立的公司也在努力进军五角大楼也就不足为奇了。 周二，该公司发布了其最新产品 Palantir 人工智能平台 (AIP) 的视频演示。虽然系统本身只是简单地设计用于将像 OpenAI 的 GPT-4 或谷歌的 BERT 这样的大型语言模型 (LLM) 集成到私人运营的网络中，但他们做的第一件事就是将其应用于现代战场。
在上面的视频演示中，一名负责监视东欧战区的军事操作员发现敌军在边境附近集结，并通过请求 ChatGPT 式数字助理帮助部署侦察无人机做出回应，对感知到的侵略甚至做出战术反应组织干扰敌人的通讯。显示 AIP 通过发射收割者无人机执行侦察任务来帮助估计敌人的组成和能力，以响应操作员对更好图片的要求，并在发现装甲元素后建议适当的响应。
“必须在这种高度监管和敏感的环境中控制 LLM 和算法，以确保它们以合法和道德的方式使用，”视频开始。为此，AIP 的运营基于三个“关键支柱”，第一个是 AIP 将部署在一个机密系统中，能够在道德和法律上实时解析机密和非机密数据。该公司没有详细说明这将如何运作。第二个支柱是用户将能够切换网络上每个 LLM 和资产的范围和操作。根据演示，AIP 本身将生成整个操作的安全数字记录，“对于减轻敏感和机密环境中的重大法律、监管和道德风险至关重要”。第三个支柱是 AIP 的“行业领先的护栏”，以防止系统采取未经授权的行动。
在 Palantir 的场景中确实存在防止此类行为的“人在循环中”，尽管从视频来看，“操作员”似乎只是点头同意 AIP 的建议。该演示也没有详细说明正在采取哪些步骤来防止系统所依赖的 LLM“产生幻觉”相关事实和细节。
本文最初出现在 Engadget 上，网址为 https://www.engadget.com/palantir-shows-off-an-ai-that-can-go-to-war-180513781.html?src=rss
原文： https://www.engadget.com/palantir-shows-off-an-ai-that-can-go-to-war-180513781.html?src=rss