在 2025 年 UXPA 波士顿会议上，斯图尔特·史密斯 (Stewart Smith) 的演讲《桥接人工智能和人类专业知识》分享了有关设计有效桥接人工智能和人类专业知识的专家系统的见解。以下是我从他的演讲中得到的笔记：
- 专家系统模拟人类专家决策来解决 GPS 路由和供应链规划等复杂问题
- 关键组件包括知识库、推理引擎、用户界面、解释工具和知识获取
- 传统系统是基于规则的，但人工智能正在通过机器学习进行模式识别来改变它们
- 解释工具通过回答“为什么”和“如何”问题来证明结论的合理性
- 信任是系统采用的基石。如果人们不信任你的系统，他们就不会使用它
- 必须从一开始就将可解释性设计到系统中以跟踪关键决策
- 当您知道输入和输出但看不到内部运作时，就会出现“黑匣子问题”
- 金融或医疗保健等高风险领域需要更高的可解释性
- 力求在对人工智能的依赖不足（错失机会）和过度依赖（技能萎缩）之间取得平衡
- 当用户习惯性地批准系统建议时，过度依赖会产生虚假的安全感
- 人类专家对于捕获不良数据源或有偏见的数据仍然至关重要
- 将人工智能视为决策的增强，而不是替代
- 提供系统确定性水平的置信度分数或指标
- 确保用户可以在必要时调整和覆盖人工智能建议
- 在现有工作流程中呈现与专家心理模型相匹配的人工智能见解
- 明确区分人类和人工智能生成的见解
- 培训显着提高了人工智能素养——没有使用过人工智能的人往往会低估它
- 突出成功案例并提供人工智能优势的社会证明
- 专注于日常决策自动化，让人们有更多时间完成复杂任务
- 信任是人工智能采用的基础。
- 可解释性是一个范围，必须与性能相平衡。
- 用户体验在连接人工智能能力和人类专业知识方面发挥着至关重要的作用。