AI Capabilities Lesson 12：當特性互相衝突，診斷 AI 的非預期輸出
Anthropic 官方免費課程 AI Capabilities and Limitations 第十二課中文筆記。真實世界的 AI 失誤大多是「兩個特性相撞」：捏造引用、長對話飄移、自信的錯誤算術、附和錯誤前提。學會三步驟診斷法，叫出兩個特性的名字，就知道該用哪一種解方。
- 分類
- 工具
- 發布
- 閱讀
- 約 5 分鐘
曲目表
四大特性從來不是各自運作的。**真實世界中的 AI 失誤，大多是兩個特性同時撞在一起。**本課帶你診斷四組最經典的碰撞：捏造的引用、長對話飄移、自信滿滿的錯誤算術，以及附和你的錯誤前提。關鍵只有一句話：**一旦你能叫出是哪兩個特性在作用，你就知道該拿哪一種解方。**這是整門課的收尾，也是「辨別（Discernment）」的實戰版本。
遇到 AI 幻覺時，先確認是否涉及具體引用、數字或人名，這些地方最容易出錯。提供原始資料給 AI 核對，比直接相信它的回答更可靠。
| 課程單元 | Lesson 12｜When Properties Collide |
|---|---|
| 預估時間 | 約 25 分鐘（含練習） |
| 難度 | 中階（建議先讀完 L4–L11 四大特性） |
| 官方單元連結 | When Properties Collide（英文） |
本課學習目標
讀完這一課，你將能夠：
- 認清大多數 AI 失誤都牽涉兩個以上的特性交互作用
- 透過辨識「哪些特性在作用」來診斷常見失誤：捏造引用、長對話飄移、自信的錯誤算術、附和錯誤前提
- 根據「哪個特性是限制因子」，採取對症下藥的修正
四大特性，從來不是各自運作
官方互動頁在這裡放了一個很妙的設計：四個特性是可以拖曳的節點，把任兩個拖近，就會看到它們相撞時發生什麼事。先把四個節點的「一句話定義」記起來：
看懂這四句話，就懂為什麼它們會相撞：一個負責生成聽起來對的東西，一個只知道讀過的，一個只顧得上附近的，一個聽最大聲的。把任兩個放在同一個任務上，縫隙就出現了。
三步驟診斷法
下次 AI 給你一個令人失望的輸出時，別急著重試——先跑一遍這三步：
我問了什麼？拿到什麼？具體哪裡不對？
四個特性裡，哪兩個在這裡作用？哪一個是限制因子？
根據診斷選解方，而不是把同一句話再講一次。
診斷速查表
| 你看到的現象 | 哪兩個特性 | 解方 |
|---|---|---|
| 細節精確但查不到／不存在 | 🎲 Token 預測 + 📚 知識 | 查證具體細節、改用有來源的工具 |
| 聊久了規則跑掉 | 🧠 工作記憶 + 🧭 可引導性 | 重供脈絡、搬到系統提示、開新對話 |
| 計算流暢但答案錯 | 🎲 Token 預測 + 🧭 可引導性 | 交給程式碼執行、展示步驟、插檢查點 |
| 它一直說我對 | 🤝 諂媚性格 + 🎲 Token 預測 | 邀請反駁、先別表態、要求反面論點 |
| 最新的事它講成舊的 | 📚 知識 + 🎲 Token 預測 | 開啟網頁搜尋、自己提供最新資料 |
| 長文件漏看中間的關鍵條款 | 🧠 工作記憶 + 🧭 可引導性 | 關鍵指示前置與結尾重申、分段處理 |
這個「叫出兩個特性名字」的動作，就是辨別能力的實際操作。當你知道自己面對的是哪一種錯，評估會準得多——也才不會用錯解方（例如遇到知識空缺卻拼命改提示、遇到脈絡流失卻怪模型變笨）。4D 框架教你要辨別；這門課給了你辨別時該用的座標。
重點整理（Key Takeaways）
- 真實世界的失誤通常是兩個特性交互作用，而不是單一特性出問題。
- 要認得的診斷配對：Token 預測 + 知識（捏造的具體細節）、工作記憶 + 可引導性（長對話飄移）。
- 叫出在作用的特性名字，會直接指向解方：查證具體細節、重供脈絡、外包給程式碼執行、或邀請反駁。
- 這個診斷動作就是「辨別」的應用——知道自己面對的是哪一種錯，評估才會準。
實作練習：失誤診斷（The Failure Diagnosis）
回想你用 AI 的經驗（包括這門課過程中觀察到的），找出 2–3 次輸出真正讓你失望或意外的時刻。每件事用一兩句話寫下：你問了什麼、拿到什麼、哪裡令人失望或意外。
**步驟一：**把每個事件拿去跟 AI 討論。描述發生了什麼，然後問：「根據四大特性（下一個 Token 預測、知識、工作記憶、可引導性），這裡可能是哪些特性在作用？為什麼？」
步驟二：用你現在的知識評估它的診斷。你同意嗎？不同意就直接反駁。
⚠️ 記得 Lesson 3 的諂媚指紋：AI 可能太快同意你的框架。如果你覺得它錯了，說出來——這一步本身就是碰撞④的實戰。
**步驟三：**針對每個診斷追問：「既然是這個診斷，最對症的修正是什麼？」如果可以，現在就用一個類似的任務測試這個調整。
收尾：你的任務清單，五層註記總回顧
現在打開你從 Lesson 1 一路累積下來的任務清單。經過這門課，它上面應該已經疊了好幾層資訊：
| Lesson 1 | 任務清單本體 + 一次到位／需要重做 |
|---|---|
| Lesson 2 | 特性標籤（你當初憑直覺猜的那四個問題） |
| Lesson 4 | 查證分數（具體細節的正確率） |
| Lesson 6 | 知識註記（可以依靠模型／需要自己餵） |
| Lesson 8 | 脈絡需求（要常設脈絡／冷啟動就夠） |
| Lesson 10 | 目標句與檢查點位置 |
📎 最後一步：挑出最讓你頭痛的那幾個任務，替每一個寫下「是哪兩個特性在相撞」。這份清單，就是你從這門課帶走的個人化診斷手冊。
課後反思
- 叫出特性配對的名字，有沒有改變你會採取的解方？上這門課之前，你會不會用另一個（比較沒效的）方法？
- 你的日常工作中，最常遇到哪一組特性配對？
下一課預告
最後一課，我們把你建立起來的一切收攏起來：把這門課接回 4D 框架成為一套完整的系統，並指出可以往下深入的方向。之後就是官方測驗與證書了 🏆
常見問題 FAQ
這是「下一個 Token 預測」撞上「知識」的典型案例：模型的知識有空缺，但空缺不會被標記出來，生成流程走到那裡就用看似合理的材料填滿，而引用格式又是最容易模仿的模式。解方是查證所有具體細節，並改用有引用來源功能的工具。
這是「工作記憶」撞上「可引導性」：開頭的規則隨對話變長而淡出注意力甚至被擠出視窗，同時每一則新訊息都是更大聲的指令。解方是重新供應關鍵脈絡、把常設規則搬到系統提示或專案設定，或開新對話並帶上整理過的脈絡。
附和是「訓練出的諂媚傾向」撞上「延續你的框架」。三個做法：提問時先不要表達自己的立場、明確邀請它反駁（「如果你認為我錯了，請真誠告訴我」）、或請它先列出最強的反面論點再作答。
不要急著重試或把同一句指令講得更用力。先跑三步驟診斷：具體描述哪裡不對 → 叫出是哪兩個特性在作用 → 依診斷選對應解方（查證細節、重供脈絡、外包計算、邀請反駁）。診斷錯了，再多的重試也修不好。
本文為 Anthropic 官方課程之中文學習筆記。原課程建立於 Prof. Rick Dakan（Ringling College of Art and Design）與 Prof. Joseph Feller（University College Cork）發展的 AI Fluency Framework 之上，以 CC BY-NC-SA 4.0 授權釋出。Copyright 2026 Anthropic.