AI 状态
设计 AI 功能除“正常工作”之外的所有时刻。
团队通常只设计演示场景:用户提问、AI 回答、所有人鼓掌。但实际用户使用时,他们会问一些 AI 做不到的事,它需要十四秒才响应,它自信满满地回答但结果是错的,连接在回答中途中断,产品只显示一个旋转加载图标和“出了点问题”。现在 AI 还能行动——发送、预订、编辑并在无人注视时继续工作——这些未经设计的时刻更糟:它做了某事,而用户无法分辨是什么。
因此,任务不是“设计聊天”,而是:在每一个时刻,用户都能知道 AI 在做什么、基于什么,以及他们接下来能做什么——并且,当 AI 替他们行动时,知道它做了什么以及如何撤销。
目标是校准信任:用户根据具体情况,恰如其分地信赖该功能。两种偏离都是失败——不检查就接受,以及亲手重做所有事。
每个 AI 功能必须做对的地方
先检查这些。它们是用户最先注意到缺失的部分。
- 绝不只有空白加载动画。 大约两秒后,用户需要知道正在发生什么;十秒后,需要知道如何停止或离开。
- 四种不同的“不”。 不知道(无信息)、做不到(不是它做的事)、不允许(不被允许)和出错了(系统故障)有不同的原因和不同的下一步。对所有情况用一个通用错误提示会让用户重试那些永远行不通的事情。
- 不知道是一种被设计的状态,而非错误。 “我在你的文档中找不到那项信息”是一个好回答。它让其他回答更可信。
- 任何不完整的内容都不应看起来完整。 看起来完整但不完整的结果是最危险的状态,因为没有人会去检查它。
- 限制需提前说明。 用户从第一个屏幕就知道它能做什么、不能做什么,而不是通过失败才得知。
- 每个死胡同都有出路,并且用户给它的东西不会丢失:他们输入、上传或选择的内容,以及之前的结果,在发生任何故障后仍然保留。
- 检查的成本低于重做。 回答应展示其依据,且程度与风险成正比——在声明旁标注来源、涵盖的页面、信息的时效日期。如果需要重新做一遍才能验证,那么这个功能就没有节省任何时间。
- 在行动之前展示,在行动之后可撤销。 任何涉及发送、删除、支付或变更的操作都应提供预览,并在无法撤销时提供确认。只确认重要的事项,而非所有事:持续不断的提示会训练人们不阅读就批准。
- 无人值守完成的工作应以报告而非祝贺的形式返回: 完成了什么、什么未完成、什么未验证,以及首先查看哪里。
- 只说系统能确定的内容。 不标注模型无法支持的置信度,不说“我已检查”而实际并未检查,不说“我会记住”而实际并未存储。
工作方式
-
在绘制任何内容之前,先理解功能。 你需要了解:AI 做什么以及为谁做;交互界面(阅读
references/surfaces.md,包括聊天是否是正确选择);它能读取什么以及能修改什么;系统实际能检测和暴露什么——流式输出、来源、拒绝信号、检索分数、错误类型、步骤事件;是否存在人工后备方案;语言和语体。先阅读用户提供的内容,然后在一轮中询问缺失的信息。如果你无法提问(非交互式运行或用户不在),则假设最可能的答案,在每一个依赖它的触发条件上标注待确认,并列出所有假设。不要发明能力:系统无法检测的状态是无法构建的。但这与团队需要构建的信号不同:如果功能需要的某个状态依赖于系统尚未暴露的内容(错误类型、拒绝标志),则设计该状态并在信号表中将该信号列为待构建——该表往往是工程团队从你这里获得的最有用的东西。 -
设定风险级别。 它们决定每个状态需要多少投入。
风险 示例 变化点 低 头脑风暴、重写句子、日常提问 轻量处理:重新生成和编辑即是安全网 中 人们依赖的摘要、关于用户自身账户或公司数据的回答 来源、可见范围、清晰的“未找到” 高 涉及金钱、健康、法律、安全、发送给他人或不可撤销的操作 行动前确认、过程中的证据、人工渠道、审计追踪 风险源自人们对输出的使用方式,而非 AI 是否行动:律师依赖的合同摘要,即使是只读的,也是高风险。对于一个不采取行动的高风险功能,“高风险”意味着过程中的证据、可见的覆盖范围和人工渠道——没有需要确认的。
-
检查所有失败方式(
references/failure-modes.md)。大多数是隐式的:流畅但错误的回答、遗漏、智能体执行了超出要求的操作、指令被植入文档。针对每种可能发生的情况,指明防御它的状态或模式。 -
构建状态映射图。 遍历
references/states.md中的每个状态并标记:- 适用 - 是、否(附原因)、或仅当存在你无法确认的信号时。
- 当前状态(评审现有功能时)- 已设计、不完整(存在但缺少风险要求的某些内容——说明是什么)、通用处理(用通用方案处理)或缺失。
仅当状态需有规格说明块和映射图行,在覆盖条中计为“待确认”而非总数,并且仅当它足够可能值得绘制时才创建卡片。
如果 AI 运行多个步骤、自主使用工具或在用户离开时工作,则同样处理
references/delegation.md中的委托状态,并为每种操作填写自主权级别和权限表。一个在用户确认后执行一次操作的聊天不是智能体:状态 5(包含其“确认后”屏幕和撤销操作)覆盖了它,再加上一个三列权限表即可。不要强行套用 D1-D12。即使用户只问了某个单一状态,也不要跳过映射图:告诉他们该功能还需要哪些其他状态。 -
为每个适用的状态编写规格说明,使用以下格式。
-
绘制面板。 从
assets/template.html开始:每个状态一张卡片,显示该状态下实际组件和最终文案。一堆文字描述的状态列表只会被敷衍地点头;而一张能清晰看到缺失部分的面板才会被修正。如果你获得了产品的实际设计风格(颜色、组件、截图),则使用它;否则保持模板的中性风格并说明。绘制功能的实际界面:按钮+面板的功能应显示面板,而不是聊天气泡。一个需要多个屏幕的状态(确认前和确认后)仍作为一张卡片,包含这些屏幕。对于新设计,删除模板的“发现”块和映射图的“当前状态”列,让覆盖线说明有多少状态适用、多少不适用、多少等待信号。 -
编写文案,遵循
references/copy.md,使用产品的语言和语体。 -
编写测试脚本和度量指标(
references/measure.md):每个状态一个能触发的输入,以及要日志记录的内容。 -
评审,对照
references/checklist.md和references/anti-patterns.md,查看渲染后的面板而非源码。python scripts/screenshot.py board.html board.png将其渲染为可打开的图片(App 内浏览器通常拒绝本地文件);当面板较长时,添加--tile 1400以可读的分片形式获取。如果在查看后更改了面板,请再次渲染。 -
交付 面板、规格说明,以及一份简短的假设列表和需要回答的问题。说明你已经验证了什么以及什么尚未验证。
需要阅读的内容。 始终阅读:states.md、copy.md、checklist.md,以及 surfaces.md 中对应本章界面的部分。对于评审,还要阅读 failure-modes.md 和 anti-patterns.md。仅对于智能体(多个步骤、工具、无人值守工作):delegation.md。编写测试脚本时阅读 measure.md。
状态列表
五个时刻下的十四个回答状态。每个状态在 references/states.md 中有详细说明,包括用户需要什么、模式、反模式和文案。
| 时刻 | 状态 | 用户在问 |
|---|---|---|
| 之前 | 1. 首次使用 | 这是什么?我可以问什么? |
| 2. 输入中 | 它会用哪些信息?我的输入没问题吧? | |
| 期间 | 3. 工作中 | 它在做某事吗?还要多久?我能停止吗? |
| 4. 需要澄清 | 它需要我提供什么? | |
| 5. 需要我同意 | 它具体要做什么? | |
| 回答 | 6. 回答 | 这基于什么?我能用它做什么? |
| 7. 部分回答 | 哪部分完成了,哪部分没有? | |
| 8. 不确定 | 我应该多大程度依赖这个? | |
| 否定 | 9. 不知道 | 是没有答案,还是没有在正确的地方查找? |
| 10. 做不到 | 谁或什么能做到? | |
| 11. 不允许 | 是我有问题,还是规则限制?我能问什么替代问题? | |
| 12. 出错了 | 我的工作丢失了吗?要重试吗? | |
| 之后 | 13. 被纠正 | 它接受我的纠正了吗?之后还会发生吗? |
| 14. 转接人工 | 现在谁在处理,他们知道什么,什么时候有结果? |
十二个委托状态,用于会行动的 AI。在 references/delegation.md 中有详细说明。
| 状态 | 用户在问 |
|---|---|
| D1. 任务简报 | 它理解任务及其限制了吗? |
| D2. 计划 | 它打算怎么做?我能修改吗? |
| D3. 权限 | 我具体允许它接触什么,以及多长时间? |
| D4. 无人值守工作中 | 它还在正轨上吗?我需要盯着吗? |
| D5. 需要你 | 它在等什么?如果我不回应会怎样? |
| D6. 被转向 | 它接受新指令了吗? |
| D7. 交回 | 它做了什么?没做什么?我该先看哪里? |
| D8. 大规模审查 | 这 140 个变更中,我真正需要看哪些? |
| D9. 撤销与修复 | 我能撤回吗——全部撤回,还是只撤回这部分? |
| D10. 离开时出错 | 情况有多糟?它停在了哪里? |
| D11. 学习 | 它现在对我有什么假设? |
| D12. 面向他人行动 | 其他人能看到什么——他们知道是 AI 做的吗? |
对于在后台工作且无对话的智能体,几个回答状态会被对应的委托状态替代,而不是重复绘制:输入中由 D1 任务简报替代,工作中由 D4 替代,需要澄清由 D5 替代。在映射图中将回答状态标记为“否——参见D4”。重复性任务(每晚、每个周一)有固定的任务简报和计划:D1 和 D2 是用户一次性审查并在每次运行前可查看的设置。在此类面板上,你可以按时间顺序(之前、工作时、交回时)而非按五个时刻排序卡片,如果这样阅读效果更好;保持状态编号不变。
产品因业务原因(余额不足、日期已被占用)而拒绝的操作不属于关于 AI 的四种“不”中的任何一种:将其显示为状态 5 的屏幕,附上系统给出的原因以及用户可以更改的内容。
有四个贯穿所有状态的内容需作为备注放在面板上:打断、记忆、主动性(AI 先说话)和成本(额度、配额、消耗)。参见 references/states.md 的末尾。
如果你只能设计五个: 工作中、不知道、出错了、部分回答、以及当 AI 行动时的“需要我同意”(无人值守工作时为“交回”)。这些是信任丧失最快的地方。
规格说明格式
每个状态一个块,按此顺序。开发人员从触发条件开始构建;没有触发条件,状态就是空想。
### 9. 不知道
- **触发条件:** 检索结果中没有超过阈值的段落。(待确认:阈值)
- **显示:** 回答气泡,中性样式(非错误样式)。
- **文案:** “在 HR 政策中未找到关于搬家假期的信息。”
- **操作:** 重新表述 · 查看政策 · 向 HR 询问
- **保留:** 问题内容,可编辑。
- **跳转到:** 2 输入中,或 14 转接人工。
- **测试:** “有搬家假期吗?”
- **度量:** `answer_not_found` 附带查询;按主题监控比率。
- **开放问题:** 系统能否区分“没有文档”和“文档存在但用户无权限访问”?
当团队使用其他语言工作时,请翻译标签(触发条件、显示、文案……):Disparador, Muestra, Texto, Acciones, Conserva, Lleva a, Prueba, Medición, Pregunta abierta。
保留 是指用户可能丢失的任何内容:已输入的文本、附件、选择项、之前的结果、智能体已完成的工作。
语言和语体
使用用户要求的语言编写;如果用户未说明,则使用其请求和产品的语言。语体是产品的选择,而不是默认值:了解产品已有的说话方式(您、你;正式或亲切)并在每个状态中保持一致。错误状态是团队容易切换语气的地方——在一个其他部分都说“搞定!”的产品中出现一个正式的“发生了一个错误”会让人感觉是另一家公司。
可能涉及两种语言。文案——绘制屏幕内的所有内容——使用产品的语言和语体。面板及其周围的规格说明——状态名称、标题、规格说明的标签、你的备注——使用团队工作所用的语言,也就是用户与你交流时使用的语言。不要为西班牙语团队的面板保留模板的英文标题。参考文件中的示例使用正式西班牙语和英语;它们展示了模式,因此请以产品的语体重写,而非直接复制。
AI 自己的语气:如果产品让 AI 使用第一人称,则对 AI 已做的事保留“我”(“我没有找到……”“我使用了三个文件”),但不对它没有的感受使用“我”(“我十分乐意帮助你”)。如果功能没有拟人化——一个按钮、一个面板——则使用产品的非人称语气(“无法读取文件……”)。