第14章笔记：端到端自然语言处理综合项目

本章任务

交付任务、语料、模型、结构/检索证据、鲁棒、安全、部署与答辩。 先用一条能人工判断的短文本、标签序列、语法树或检索集合建立基准，再让代码输出完整中间证据，最后在真实语料、困难语言切片和生产约束下验收。

七节连接

• 综合项目任务、用户与验收章程：项目先固定用户语言任务、输入来源、输出用途、错误代价、证据、隐私和人工接管，再选模型。 核心关系：pass=task quality∧grounding∧robustness∧privacy∧reproducibility。 算例：总体准确达标但关键数字事实性失败，五项硬门禁整体不通过。 边界：先接大模型再找问题；把流畅demo当用户任务成功。
• 语料、标注与数据版本项目：项目建立许可、来源、去重、主体/时间划分、标注指南、仲裁和删除传播，保留原文偏移。 核心关系：data ready=licensed∧split-safe∧annotated∧audited∧versioned。 算例：同用户对话跨训练测试造成说话风格泄漏，应按用户/会话隔离。 边界：用全数据学词表/IDF后再切分；修标直接覆盖无审计。
• 基线、模型与消融项目实验：从规则、n-gram/线性基线到Transformer/LLM逐层增加复杂度，用同一协议和消融证明贡献。 核心关系：component gain=metric_full-metric_without_component。 算例：完整F1=.82，去检索=.70，检索贡献.12。 边界：同时换数据、模型和提示却归因单组件。
• 结构、检索与生成证据闭环：项目必须输出token/span、标签/树/实体、检索文档、主张引用或工具轨迹，使最终回答可反查。 核心关系：evidence closure=output linked to every required intermediate artifact。 算例：答案正确但实体偏移和引用文档版本缺失，闭环仍不完整。 边界：只保存prompt和回答；中间检索/工具结果被覆盖。
• 鲁棒、公平、隐私与攻击评审：在拼写噪声、域外、长文本、低资源语言、最差群体、PII和提示注入下联合验收并提供拒答。 核心关系：risk pass requires every critical slice above/below its declared threshold。 算例：总体95%但某低资源语言60%低于80%门槛，不能平均通过。 边界：只做随机字符噪声；高风险无证据仍强答。
• 部署、监控与可重复发布：提交数据/代码/tokenizer/权重/提示/索引digest、环境、基准、模型卡、灰度、监控和回滚。 核心关系：artifact identity=hash(data,code,tokenizer,weights,prompt,index,toolchain)。 算例：权重相同但chat模板或检索索引变化会改变输出，必须纳入版本身份。 边界：只交模型名与API；线上提示已改却无法复现事故。
• 现场答辩、故障回放与局限：答辩从一个回答向后追到token、结构、检索/证据、模型和业务动作，并现场构造最短失败输入。 核心关系：evidence completeness=linked artifacts/required artifacts。 算例：15类证据只交14类，完整率93.33%，硬性全交门禁仍失败。 边界：只展示精选成功对话；把局限写成以后换更大模型。

实验要求

运行本章两道Python语言算法实验的四组测试，并新增空文本、Unicode边界、未知词、非法标签、句法歧义、否定、长上下文、低资源语言、域外、证据冲突或提示注入中的至少一种。保存原文hash/offset、Tokenizer、数据与模型版本、随机种子、中间格表/结构/概率、输出、证据和首个偏差。

错题闭环

按字符/token/offset、规范化、概率分母、动态规划状态、标签约束、句法结构、语义作用域、训练测试泄漏、检索召回、引用蕴含、校准、隐私和工具授权分类。更换一个词频、上下文、标签、阈值、候选数、语言或证据版本重做阶段卷；能先预测变化方向，再复算并解释失效，才算掌握。