跳到正文

第7章学习笔记:透明、解释与问责

课程笔记

让受影响者、操作员、审计者和管理者获得各自真正需要的解释。

关联:章节 第7章 透明、解释与问责

第7章笔记:透明、解释与问责

让受影响者、操作员、审计者和管理者获得各自真正需要的解释。

七节依赖

  1. 透明对象与受众;任务:区分用户说明、运维诊断和独立审计材料;边界:一个全局模型图不能满足全部受众。
  2. 可解释性、忠实性与可理解性;任务:比较简洁解释和忠实解释的取舍;边界:听起来合理不代表真实反映模型。
  3. 模型卡、数据卡与系统卡;任务:为组件写用途、禁用场景和限制;边界:文档发布后仍需随版本更新。
  4. 日志、审计轨迹与防篡改;任务:设计可关联请求又不过度采集的日志;边界:日志本身也可能成为敏感数据。
  5. 责任链与可追责接口;任务:把模型、产品、法务和管理责任连到补救;边界:责任分散不能等于责任消失。
  6. 自动化决定的通知与申诉;任务:设计用户可理解的拒绝通知和复核流程;边界:只提供客服入口不等于有效申诉。
  7. 外部审计与证据独立性;任务:区分自测、二线审查和独立审计;边界:付费审计仍需披露范围与利益冲突。

交付

提交事实/未知表、六类利益相关者、义务地图、五个选项、指标与限制、反方意见、上线/停止门槛、申诉补救和复核日期。