AI 狀態設計
設計 AI 功能在「正常運作」之外的所有時刻。
團隊通常只設計示範場景:使用者提問、AI 回答、眾人鼓掌。然後真人開始使用。他們問了做不到的事,等了十四秒,AI 信心滿滿卻答錯,網路連線中斷,產品顯示轉圈圈和「發生錯誤」。現在 AI 還會「行動」——發送、預訂、編輯,並在無人監看時持續運作——這些未經設計的時刻更糟:它做了某事,使用者卻無法得知。
因此,任務不是「設計對話」。而是:在每一刻,使用者都清楚知道 AI 在做什麼、它根據什麼、他們接下來能做什麼——而當 AI 為他們行動時,知道它做了什麼、以及如何復原。
目標是「校準信任」:使用者根據實際情況,給予 AI 符合其應得程度的信任。兩種偏差都是失敗——不經檢查就接受,以及全部手動重做。
每個 AI 功能都必須做對的事
先檢查這些。它們是使用者缺少時會立刻注意到的項目。
- 絕對不要只是空轉。大約兩秒後,使用者需要知道正在發生什麼;十秒後,需要知道如何停止或離開。
- 四種不同的「不行」。不知道(無資訊)、做不到(非其功能)、不願意(不允許)和出錯了(系統故障)有不同的原因與後續步驟。一個通用錯誤訊息應付所有四種情況,會讓使用者不斷重試永遠不會成功的事。
- 不知道是設計好的狀態,不是錯誤。「在你的文件中找不到相關資訊」本身就是一個好答案。正是這個答案讓其他答案變得更可信。
- 未完成的東西看起來絕不能像已完成。看起來完整的部分結果是最危險的狀態,因為沒有人會去檢查它。
- 限制要事先說明。使用者從第一個畫面就該知道它能做什麼、不能做什麼,而不是在失敗時才學到。
- 每個死路都有出路,而且使用者提供的任何內容都不會遺失:他們輸入的文字、附加的檔案或選取的項目,以及先前的結果,在任何失敗後都應仍然存在。
- 檢查的成本應低於重做。答案應根據其重要性,展示其依據——結果旁邊的來源、涵蓋的頁面範圍、資料的更新日期。如果驗證意味著重新執行所有工作,那麼這個功能就沒有任何節省效益。
- 行動前顯示,行動後可復原。任何會發送、刪除、付款或修改內容的操作,都應提供預覽;無法復原時,則需要確認。只對重要事項進行確認:持續不斷的提示會訓練人們不經閱讀就批准。
- 無人值守完成的工作,應以報告而非歡呼的方式呈現:報告中應包含完成的事項、未完成的事項、未經驗證的事項,以及應優先檢查的部分。
- 只說系統能確定的事。不要標示模型無法驗證的信心度,不要說「我已檢查」但實際上沒有檢查任何事,不要說「我會記住」但實際上沒有儲存任何東西。
工作方式
-
在開始繪製任何東西之前,先了解功能。你需要知道:AI 做什麼、為誰服務;表面形式(參閱
references/surfaces.md,包括聊天是否為合適的形式);它讀取什麼、能更改什麼;系統實際上能偵測和揭露什麼——串流、來源、拒絕信號、檢索分數、錯誤類型、步驟事件;是否有真人後備方案;語言與語域。先閱讀使用者提供的資訊,然後在一輪中詢問缺少的部分。如果你無法提問(非互動式執行,或使用者不在),則假設最可能的答案,並在每個依賴此假設的觸發器上標記 待確認,並列出所有假設。不要創造不存在的功能:系統無法偵測的狀態就無法實作。這與團隊需要建置的信號不同:如果功能需要的某個狀態依賴於系統尚未揭露的信號(例如錯誤類型、拒絕標誌),請設計該狀態並在信號表中將該信號列為 待建置——這張表通常是你提供給工程團隊最有用的東西。 -
設定風險等級。風險等級決定了每個狀態需要投入多少資源。
風險等級 範例 有何不同 低 腦力激盪、改寫句子、隨意提問 輕量處理:重新產生和編輯就是安全網 中 需要據以行動的摘要、關於使用者自身帳戶或公司資料的答案 需要來源、明確的涵蓋範圍、清晰的「找不到」 高 金錢、健康、法律、安全、任何會發送給他人或不可逆的操作 行動前需確認、路徑中需有證據、需有人工處理路徑、需有稽核軌跡 風險等級來自人們如何使用輸出結果,而不是來自 AI 是否採取行動:律師依賴的合約摘要(唯讀)屬於高風險。對於不採取行動但風險高的功能,「高」意味著路徑中需有證據、需有可見的涵蓋範圍以及人工處理路徑——沒有需要確認的事項。
-
逐一檢查可能失敗的方式(
references/failure-modes.md)。大多數失敗是無聲的:流暢但錯誤的答案、遺漏、代理做了超出要求的事、文件中被植入的指令。針對每種可能發生的情況,指出防禦該情況的狀態或模式。 -
建立狀態地圖。逐一檢查
references/states.md中的每個狀態,並標記:- 適用 - 是、否(附上原因),或僅當存在某個你無法確認的信號時。
- 現狀(審查現有功能時) - 已設計、不完整(存在但缺少風險等級所需的某些東西——說明缺少什麼)、通用(由一個通用狀態處理)或缺失。
一個標記為僅當的狀態應有規格區塊和地圖中的一行,在涵蓋率欄位中算作「待確認」而非計入總數,且僅在可能性足夠高時才繪製卡片。
如果 AI 執行多個步驟、自行使用工具或在使用者不在時運作,請對
references/delegation.md中的委派狀態執行相同操作,並為每種操作填入自主程度和權限表。使用者在確認後,聊天機器人執行單一操作,這不算代理:狀態 5(包含其「確認後」畫面與復原功能)加上一個三欄權限表即可涵蓋。不要硬套 D1-D12。即便使用者只問了單一狀態,也不要跳過地圖:告訴他們該功能還需要哪些其他狀態。 -
以以下格式,為每個適用的狀態撰寫規格。
-
繪製狀態板。從
assets/template.html開始:每個狀態一張卡片,顯示該狀態下真實元件的樣貌與最終文案。一份純文字描述的狀態列表只會被點頭應付;一個能清楚看到缺口的狀態板才會被修正。如果已知產品的設計風格(顏色、元件、截圖),請使用它;否則保持範本的簡潔風格並說明。繪製功能真實的介面:按鈕與面板的功能就繪製面板,而不是對話氣泡。一個需要多個畫面(確認前後)的狀態仍是一張卡片,包含那些畫面。對於全新設計,刪除範本的「發現」區塊和地圖的「現狀」欄,並讓涵蓋率行說明有多少狀態適用、多少不適用、以及多少等待信號。 -
依照
references/copy.md撰寫文案,使用產品的語言和語域。 -
撰寫測試腳本和衡量指標(
references/measure.md):一個能觸發每個狀態的輸入,以及應記錄的內容。 -
審查,對照
references/checklist.md和references/anti-patterns.md,並查看渲染後的狀態板,而非原始碼。使用python scripts/screenshot.py board.html board.png將其渲染為可開啟的圖片(應用程式內建瀏覽器常拒絕本機檔案);當狀態板較長時,可加上--tile 1400以可讀的切片取得。如果你在查看後修改了狀態板,請再次渲染。 -
交付:狀態板、規格文件、以及一份簡短的假設事項與待確認事項清單。說明你已驗證和未驗證的內容。
需要閱讀的資料。 固定閱讀:states.md、copy.md、checklist.md,以及 surfaces.md 中對應此表面形式的章節。如果是審查,也請閱讀 failure-modes.md 和 anti-patterns.md。僅在處理代理功能時(多個步驟、工具、無人值守工作)才閱讀:delegation.md。measure.md 則在撰寫測試腳本時閱讀。
狀態
五個時刻中的十四個回答狀態。每個狀態在 references/states.md 中有詳細說明,包含使用者需求、模式、反模式與文案。
| 時刻 | 狀態 | 使用者在問 |
|---|---|---|
| 之前 | 1. 首次使用 | 這是什麼?我可以問什麼? |
| 2. 輸入中 | 它會用到什麼?我的輸入沒問題嗎? | |
| 期間 | 3. 運作中 | 它在做事嗎?要多久?我能停止嗎? |
| 4. 需要澄清 | 它需要我提供什麼? | |
| 5. 需要我同意 | 它接下來要確切做什麼? | |
| 回答 | 6. 回答 | 這是根據什麼?我能用它做什麼? |
| 7. 部分回答 | 哪部分完成了,哪部分還沒? | |
| 8. 不確定 | 我應該多相信這個結果? | |
| 不行 | 9. 不知道 | 是沒有答案,還是它沒找對地方? |
| 10. 做不到 | 誰或什麼可以做到? | |
| 11. 不願意 | 是我個人的問題,還是規則限制?我能問什麼替代方案? | |
| 12. 出錯了 | 我的工作遺失了嗎?我要重試嗎? | |
| 之後 | 13. 被修正 | 它接受了我的修正嗎?這會再發生嗎? |
| 14. 轉接給真人 | 現在誰在處理?他知道什麼?何時會有回應? |
十二個委派狀態,適用於會行動的 AI。詳細說明在 references/delegation.md。
| 狀態 | 使用者在問 |
|---|---|
| D1. 簡報 | 它理解了任務及其限制嗎? |
| D2. 計畫 | 它打算怎麼執行?我能更改嗎? |
| D3. 權限 | 我確切允許它接觸什麼?持續多久? |
| D4. 無人值守工作 | 它還在正軌上嗎?我需要盯著看嗎? |
| D5. 需要你 | 它在等什麼?如果我不回應會怎樣? |
| D6. 被引導 | 它接受了新的指示嗎? |
| D7. 交回 | 它做了什麼?沒做什麼?我該先檢查哪裡? |
| D8. 大規模審查 | 這 140 個變更中,我實際上需要看哪些? |
| D9. 復原與修復 | 我能全部復原嗎?還是只能部分? |
| D10. 在無人時出錯 | 情況有多糟?它在哪裡停住了? |
| D11. 學習 | 它現在對我有哪些假設? |
| D12. 對他人行動 | 其他人會看到什麼?他們知道是 AI 做的嗎? |
對於在背景運作且沒有對話的代理,幾個回答狀態會被對應的委派狀態取代,而非重複繪製:將「輸入中」由 D1 簡報取代、「運作中」由 D4 取代、「需要澄清」由 D5 取代。在地圖中將回答狀態標記為「否 - 請見 D4」。定期執行的任務(每晚、每週一)有固定的簡報與計畫:D1 和 D2 是使用者審查一次並可在每次執行前查看的設定。在這類狀態板上,你可以按時間順序(執行前、執行中、交回時)而非五個時刻來排列卡片,只要閱讀起來更順暢即可;但請保留狀態編號。
產品本身因業務理由(餘額不足、日期已被預約)而拒絕的操作,不屬於關於 AI 的四種「不行」之一:應將其顯示為狀態 5 的一個畫面,包含系統提供的拒絕原因以及使用者可以更改的選項。
四項橫跨所有狀態的事項應作為註記放在狀態板上:中斷、記憶、主動性(AI 主動發言)和成本(點數、配額、花費)。詳見 references/states.md 結尾。
如果你只能設計五個狀態: 運作中、不知道、出錯了、部分回答,以及當它行動時的「需要我同意」(無人值守工作時則是「交回」)。這些是信任喪失最快的時刻。
規格格式
每個狀態一個區塊,按以下順序。開發人員從觸發條件開始建置;沒有觸發條件,這個狀態就只是一個願望。
### 9. 不知道
- **觸發條件:** 檢索結果未返回任何高於門檻的段落。(待確認:門檻值)
- **顯示:** 回答氣泡,中性樣式(非錯誤樣式)。
- **文案:** 「在人力資源政策中未找到關於搬家假期的資訊。」
- **操作:** 重新表達 · 查看政策 · 詢問人力資源部
- **保留:** 問題本身,可編輯。
- **前往:** 2 輸入中,或 14 轉接給真人。
- **測試:** 「請問有搬家假期嗎?」
- **衡量指標:** `answer_not_found` 並附上查詢;按主題監控比例。
- **待確認事項:** 系統能否區分「沒有文件」與「有文件但使用者無權存取」?
當團隊使用其他語言工作時,請翻譯標籤(觸發條件、顯示、文案、操作、保留、前往、測試、衡量指標、待確認事項)。
保留指的是使用者可能會遺失的內容:輸入的文字、附加的檔案、選取的項目、先前的結果、代理已完成的工作。
語言與語域
使用使用者要求的語言撰寫;如果使用者未指定,則使用其請求語言及產品語言。語域是產品的選擇,而非預設值:了解產品既有的說話方式(您、你/妳/您、親切或正式),並在所有狀態中保持一致。錯誤狀態是團隊最容易偏離原有語域的地方——一個在到處說著「搞定!」的產品裡,突然出現一句正式的「發生錯誤」,會讓人感覺像出自不同的公司。
可能同時使用兩種語言。文案——繪製在畫面上的內容——使用產品的語言與語域。圍繞文案的狀態板與規格——狀態名稱、標題、規格標籤、你的備註——使用團隊工作的語言,也就是使用者向你提問時使用的語言。不要將範本中的英文標題留在為西班牙語團隊設計的狀態板上。參考檔案中的範例使用正式西班牙語和英語;它們展示了模式,請根據產品的語域重新撰寫,而非直接複製。
AI 自己的語氣:如果產品讓 AI 使用第一人稱,請在描述其行動時使用「我」(「我找不到……」、「我使用了三個檔案」),但不要用於表達它沒有的感受(「我很樂意幫助你」)。如果功能沒有擬人化角色——例如一個按鈕或面板——請使用產品的非人稱語氣(「無法讀取檔案」)。