第7章学习笔记:透明、解释与问责
课程笔记让受影响者、操作员、审计者和管理者获得各自真正需要的解释。
关联:章节 第7章 透明、解释与问责
第7章笔记:透明、解释与问责
让受影响者、操作员、审计者和管理者获得各自真正需要的解释。
七节依赖
- 透明对象与受众:;任务:区分用户说明、运维诊断和独立审计材料;边界:一个全局模型图不能满足全部受众。
- 可解释性、忠实性与可理解性:;任务:比较简洁解释和忠实解释的取舍;边界:听起来合理不代表真实反映模型。
- 模型卡、数据卡与系统卡:;任务:为组件写用途、禁用场景和限制;边界:文档发布后仍需随版本更新。
- 日志、审计轨迹与防篡改:;任务:设计可关联请求又不过度采集的日志;边界:日志本身也可能成为敏感数据。
- 责任链与可追责接口:;任务:把模型、产品、法务和管理责任连到补救;边界:责任分散不能等于责任消失。
- 自动化决定的通知与申诉:;任务:设计用户可理解的拒绝通知和复核流程;边界:只提供客服入口不等于有效申诉。
- 外部审计与证据独立性:;任务:区分自测、二线审查和独立审计;边界:付费审计仍需披露范围与利益冲突。
交付
提交事实/未知表、六类利益相关者、义务地图、五个选项、指标与限制、反方意见、上线/停止门槛、申诉补救和复核日期。