Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

收购人工智能系统时需要注意什么

Posted on 2025-05-16

大型语言的概念图

三年多来, IEEE 标准协会的一个工作组一直在完善一项用于采购人工智能和自动决策系统的标准草案IEEE 3119-2025 。该草案旨在帮助采购团队识别和管理高风险领域的风险。此类系统已被教育、卫生、就业和许多其他公共部门领域的政府机构使用。去年,该工作组与一家欧盟机构合作,评估了该标准草案的组成部分,并收集了用户需求及其对标准价值的看法。

当时,该标准包括五项 帮助用户制定请求并识别、减轻和监控通常与高风险人工智能系统相关的危害的流程。

这些过程包括问题定义、供应商评估、解决方案评估、合同谈判和合同监控。

欧盟机构的反馈促使工作组重新考虑流程和多项活动的顺序。最终草案现在新增了一个流程:招标准备,紧接着问题定义流程。工作组认为,新增的流程解决了组织在准备人工智能特定招标时遇到的挑战,例如需要增加透明且稳健的数据要求,并纳入有关供应商人工智能治理成熟度的问题。

欧盟机构还强调,招标准备工作至关重要,这为采购团队提供了更多机会,使其能够根据技术要求以及有关负责任的人工智能系统选择的问题调整招标方案。在新兴且不断变化的监管环境中进行人工智能收购时,留出调整空间尤为重要。

人工智能采购工作流程图,涵盖采购前、方案评估、合同签订和采购后。步骤包括问题定义、招标准备、供应商评估、解决方案评估、合同谈判和合同监控。吉赛尔·沃特斯

IEEE 3119 在标准生态系统中的地位

目前,国际上已制定了多项关于人工智能管理、人工智能伦理和通用软件获取的标准。IEEE 标准协会和国际标准化组织的标准主要针对人工智能的设计、使用和生命周期管理。

到目前为止,还没有一个国际公认的、基于共识的标准,专注于人工智能工具的采购,并提供运营 负责任地购买服务于公众利益的高风险人工智能系统的指南。

IEEE 3119 标准弥补了这一差距。与人工智能管理标准 ISO 42001 以及其他与通用人工智能监管和风险管理相关的认证不同,IEEE 的新标准提供了一种基于风险的、可操作的 方法来帮助政府机构适应传统的采购实践。

政府在负责任地部署人工智能方面发挥着重要作用。然而,市场动态以及产业界与政府之间在人工智能领域的专业知识不平等,可能会成为阻碍成功的障碍。

该标准的核心目标之一是让采购主管在进行高风险人工智能采购之前更好地了解他们正在购买的产品。IEEE 3119 将高风险人工智能系统定义为那些能够做出或影响重大决策的系统,而这些决策可能会产生重大影响。 对个人、群体或社会的影响。该定义与科罗拉多州2034年《人工智能法案》中使用的定义类似,该法案是美国第一部全面解决高风险系统的州级法律。

然而,该标准的流程确实在很多方面补充了ISO 42001。两者之间的关系如下所示。

IEEE 3119 和 ISO/IEC 42001:2023 中的流程关系

IEEE 3119 条款 ISO/IEC 42001:2023 条款
6 问题定义 4.1 了解组织及其背景
4.2 了解相关方的需求和期望
6.1.4 人工智能系统影响评估
7 招标准备流程 4.3 确定人工智能管理体系的范围
4.4 人工智能管理系统及其流程
8 供应商评估流程 5. 领导力(承诺、政策、角色等)
6.1.2 人工智能风险评估
7.1 资源
7.2 能力
7.3 意识
9 解决方案评估流程 4.3 确定人工智能管理体系的范围
4.4 人工智能管理系统及其流程
6.1 应对风险和机遇的行动
7.4 沟通
7.5 文件化信息
10 合同谈判流程 6.1.3 人工智能风险处置
9.1 监测、测量、分析和评估
10.2 不符合项和纠正措施
11 合同监控流程 4.4 人工智能管理系统
6.3 变更规划
7.1 资源
7.2 能力
7.5.2 创建和更新文件化信息
7.5.3 控制文件化信息
8.1 运营规划与控制
8.2 人工智能风险评估
8.3 人工智能风险处置
8.4 人工智能系统影响评估
9.1 监测、测量、分析和评估
9.2 内部审核
9.3 管理评审
10.2 不符合项和纠正措施

来源:IEEE 3119-2025 工作组

国际标准通常被称为软法,用于塑造人工智能发展并鼓励在人工智能治理方面的国际合作。

世界各地正在制定人工智能的硬性法律,即具有法律约束力的规则和义务。在美国,各州的立法各自为政,管理着人工智能的不同方面,而国家级人工智能监管方法也各自为政,不同的联邦机构各自实施着各自的指导方针。

欧洲率先通过了欧盟的《人工智能法案》 ,该法案于去年生效,开始根据风险等级对人工智能系统进行管理。

但世界缺乏具有国际范围的监管硬性法律。

IEEE 3119-2025 标准确实符合现有的硬性法律。由于该标准侧重于采购,因此它支持欧盟《人工智能法案》第三章和科罗拉多州《人工智能法案》中概述的高风险条款。该标准也符合德克萨斯州拟议的 HB 1709法案,该法案要求报告某些商业实体和政府机构对人工智能系统的使用情况。

由于公共部门使用的大多数人工智能系统都是采购的而不是内部构建的,因此 IEEE 3119 适用于不需要进行大量修改或定制的商业人工智能产品和服务。

该标准的目标受众

该标准适用于:

  • 具有中等水平的人工智能治理和人工智能系统知识的中级采购专业人员和跨学科团队成员。
  • 在其实体内担任协调员或买家或具有同等角色的公共和私营部门采购专业人员。
  • 非采购经理和主管负责采购或监督提供采购职能的员工。
  • 受雇于涉及公共教育、公用事业、交通运输和其他公共资助服务的管理实体的专业人员,他们从事或管理采购,并有兴趣调整人工智能工具的采购流程。
  • 人工智能供应商寻求了解其高风险商业产品和解决方案的新透明度和披露要求。

培训计划正在制定中

IEEE 标准协会与人工智能采购实验室合作,推出IEEE 负责任人工智能采购培训项目。该课程涵盖如何应用标准的核心流程,并调整当前高风险人工智能采购的实践。

该标准涵盖六大流程,涵盖超过 26 种工具和准则,培训课程讲解了如何使用其中许多工具。例如,培训内容包括如何进行风险偏好分析、如何运用供应商评估评分指南分析AI 供应商的索赔,以及如何创建与已识别用例风险及其潜在缓解措施相关的 AI 采购“风险登记册”。培训课程现已开放购买。

人工智能集成尚处于起步阶段。决策者在为高风险领域采购人工智能以及如何降低这些风险方面尚缺乏丰富的经验。IEEE 3119-2025 标准旨在支持各机构构建和增强其人工智能风险缓解能力。

原文: https://spectrum.ieee.org/ieee-ai-3119-standards

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Bits about Money
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • eighty twenty
  • Elad Gil
  • Ellie Huxtable
  • Ethan Dalool
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • Henrique Dias
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Li Haoyi
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mind Matters
  • Mostly metrics
  • Naval Ravikant
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Rohit Patel
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Steve Blank
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • Wes Kao
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme