闭卷重建人工智能问题与智能体闭环的对象、公式、算例、算法与失败边界。
人工智能基础 · 小纸条
选一章打印。双面打印(按长边翻页)后沿虚线剪开,每张卡片正面题目、背面答案。
闭卷重建PEAS任务环境描述的对象、公式、算例、算法与失败边界。
闭卷重建理性、全知与有限计算的对象、公式、算例、算法与失败边界。
闭卷重建环境可观测性与确定性的对象、公式、算例、算法与失败边界。
闭卷重建效用、约束与多目标权衡的对象、公式、算例、算法与失败边界。
闭卷重建基线、测试分布与误差切片的对象、公式、算例、算法与失败边界。
闭卷重建安全边界、监督与停机的对象、公式、算例、算法与失败边界。
对象:PEAS用性能、环境、执行器、传感器限定一个可检验任务。;公式:task=(P,E,A,S)。;算例:扫地机P含洁净与能耗,E含房间,A含移动/吸尘,S含尘埃与碰撞。;边界:把算法名写进环境;漏掉安全和能耗导致策略钻空子。。
对象:智能体用传感历史选择动作;评价对象是策略在环境分布中的长期表现。;公式:a_t=π(o_1,…,o_t),J(π)=E[Σγ^t r_t]。;算例:两步奖励2和4、γ=.5时回报2+.5×4=4。;边界:把一次答对当成一般智能;训练目标与部署评价错位。。
对象:完全/部分可观测、确定/随机、静态/动态决定状态表示和算法。;公式:belief(s)=P(s|o_1:t,a_1:t-1)。;算例:两个状态先验各.5,观测在s1下概率.8、s2下.2,后验s1=.8。;边界:把传感器读数当真实状态;随机转移仍用单一路径计划。。
对象:理性是在已有证据和计算预算下最大化期望表现,不要求预知未来。;公式:a*=argmax_a E[U|history,a,budget]。;算例:动作A成功率.8收益5,B成功率1收益3,期望4与3,选A。;边界:把事后失败反推为当时不理性;忽略估计成本。。
对象:智能系统必须相对简单基线,在冻结分布和关键切片上配对比较。;公式:Δ_i=M_i(new)−M_i(base)。;算例:三个切片增益.1、-.2、.05,宏平均(-.05)/3≈-.0167。;边界:只报总体平均掩盖安全切片退化;在测试集调参。。
对象:奖励是局部信号,效用表示结果偏好;硬约束不能被普通加权抵消。;公式:U=w_q Q−w_c C,subject to risk≤ε。;算例:质量8成本3,权重2和1,效用16−3=13;风险超限仍不可选。;边界:用大质量收益买掉隐私硬约束;尺度不同直接相加。。
对象:部署要定义允许动作、置信门槛、人类接管、审计和可恢复停机。;公式:execute iff confidence≥τ ∧ constraints_pass。;算例:置信.82、阈值.9时即使建议正确也应转人工。;边界:失败时继续自主动作;把拒答率降低当唯一目标。。