适用条件
适用条件
- 输入内容有明确来源和允许使用的边界
- 结果可以通过规则、样本或后续步骤检查
- 错误不会在无人知情时直接造成高影响结果
- 流程具备人工接管、回退和操作记录
判断框架
判断框架
- 01
判断任务稳定性
先区分规则稳定的重复动作与依赖语境的复杂判断。
- 02
定义输出证据
要求 AI 同时给出结构化结果、来源位置和置信度。
- 03
设置人工门禁
按金额、权限、置信度和业务影响决定谁来复核。
- 04
设计失败恢复
保存原始输入、处理结果和原因，允许退回、重试和修正。
检查清单
检查清单
- 是否知道谁对最终结果负责
- 是否定义低置信度与字段冲突
- 是否禁止 AI 直接执行高影响动作
- 是否保存来源、模型结果和人工修正
- 是否可以停止、回退和重新处理
风险与例外
风险与例外
- 把语言流畅误认为事实正确
- 只演示成功路径，没有低置信度与异常队列
- 人工复核没有权限、时限和关闭依据
依据与说明
依据与说明
- 依据 NIST AI 风险管理框架中的治理、测量与管理思路整理
- 实际项目需要结合业务责任、数据授权和行业要求重新确认
外部来源
- NIST AI Risk Management Framework 1.0（2023）
NIST AI 100-1；用于核对风险治理、测量与管理框架。