AI产品容错设计模型

核心判断

AI产品的本质是"设计不确定性的边界"——不是消灭错误，而是让错误可预期、可纠正、低成本。容错设计是AI产品的核心体验，而非补丁。

推理逻辑

1. 识别确定性与不确定性的边界：必须确定的环节（数据安全、支付扣费）→用规则兜底不依赖AI；可容忍不确定的环节（推荐、生成、翻译）→给用户"纠正"的能力。核心判断：这个场景的错误成本有多高？ 2. 用户预期管理三阶段：交互前明确AI能力边界（"我可能不准，你来把关"）→交互中展示信心指标（高置信度直接执行，低置信度请求确认）→交互后提供简单纠错路径（一键修正>重新生成>手动编辑）。 3. 渐进信任机制：首次使用保守模式（多确认少自动），多次使用后根据纠错行为学习偏好逐步自动化。关键指标是纠错率（越低说明AI越懂用户）而非准确率。 4. 幻觉管理三层防线：模型层（Prompt工程+RAG减少幻觉）→产品层（输出格式约束+引用来源标注）→用户层（建立"AI说的不一定对"的心智+低成本验证路径）。

关键案例

ChatGPT的成功不是因为它不犯错，而是因为犯错的成本极低（重新问一次就行）。对比自动驾驶——错误成本决定了容错设计的严格程度，同是AI产品但容错策略截然不同。

适用场景

AI产品输出结果不稳定、用户对AI幻觉的处理策略、AI产品容错机制设计、让用户接受AI的不完美。

不适用场景

错误零容忍的场景（如医疗诊断、金融交易、自动驾驶），用户无法承担"试错-纠正"的成本，必须以规则系统+人工审核为主，AI只做辅助建议；已高度标准化的确定性流程（如表单提交、支付扣费），不存在"不确定性边界"可设计。