跳到正文

第8章学习笔记:平台算法、生成式AI与内容治理

课程笔记

把推荐放大、生成内容、深度合成、标识和程序正义放在同一治理框架中。

关联:章节 第8章 平台算法、生成式AI与内容治理

第8章笔记:平台算法、生成式AI与内容治理

把推荐放大、生成内容、深度合成、标识和程序正义放在同一治理框架中。

七节依赖

  1. 算法推荐、参与度与反馈回路;任务:比较停留时长目标与多样性约束的长期后果;边界:用户点击不等于长期福祉。
  2. 训练数据来源、质量与多样性;任务:审查训练数据合法来源、代表性和标注规则;边界:数据量大不能弥补系统性缺失。
  3. 生成式AI角色与适用范围;任务:判断服务是否面向境内公众及各角色义务;边界:不能把面向公众服务规则无条件套给全部内部研发。
  4. 幻觉、偏见、有害输出与系统评测;任务:建立准确性、偏见、拒答和可追溯测试集;边界:平均通过率会掩盖高伤害场景。
  5. 深度合成、身份冒用与人格权益;任务:分析肖像、声音、名誉和诈骗风险;边界:获得素材不等于获得合成人格授权。
  6. 生成合成内容的显式与隐式标识;任务:实现离线标识检查并记录传播链;边界:水印存在不能证明内容真实或授权。
  7. 平台审核、透明度、申诉与脆弱用户;任务:用撤销率、时延、一致性和可达性审计治理;边界:申诉量低也可能因为入口不可达。

交付

提交事实/未知表、六类利益相关者、义务地图、五个选项、指标与限制、反方意见、上线/停止门槛、申诉补救和复核日期。