你的 AI 告警為什麼沒人理？因為它已經狼來了太多次

最近看到一份國外 AI 安全事故的技術覆盤，裡面有一段話我看完直接坐直了身體：某次自動監控正確標記出異常，人也去查了，也正確判斷出問題所在，然後那次執行照樣繼續跑下去。系統沒壞，人沒偷懶，結論也是對的。壞掉的是「有人喊停之後，真的有人聽」這一步。這句話我建議所有正在導入或已經有監控系統的企業主貼在會議室牆上，因為這不是某家實驗室獨有的問題，是我們做系統整合十幾年，看過最多次的通病。

告警不是壞掉的，是被馴化的

我們接手過不少客戶的舊系統，共同症狀都一樣：告警信箱裡幾百封未讀，某個異常通知重複跳了上百次，最後全公司預設它就是雜訊。這不是系統設計爛，是一個很誠實的心理機制：人腦對重複出現又沒有後果的警訊，會自動降級處理。第一次誤報被人工駁回的那一刻，其實就已經在替之後所有真警訊打折扣，只是沒人發現而已。

企業導入AI監控最常犯的三個錯

• 只看準確率，不看誤報成本：99% 準的系統，代表每 100 次會有 1 次讓人學會不信任它，這 1% 在資安或財務場景可能就是致命傷。
• 把「已讀不回」當成正常運作：告警被查看、被駁回、但沒有任何行動紀錄，長期下來系統形同虛設，卻沒人意識到它已經失效。
• allowlist、規則、閾值用「系統自己可以影響的東西」當判準：例如比對的字串來源本身就能被異常流程改寫，這種防線等於沒有防線。

我們會怎麼設計這件事

我們幫客戶做監控或流程自動化時，第一個問題從來不是「準確率多高」，而是「這個告警被忽略一次，代價是什麼」。代價高的告警，設計上必須讓它沒辦法被輕易已讀不回，例如要求填寫處理結論才能結案，或是設計成重複出現次數與嚴重度掛鉤的升級機制。代價低的告警，反而應該大方合併、降頻，把系統的信任額度留給真正重要的事。監控系統的價值不是產出多少通知，是決策者在關鍵時刻願不願意相信它。

監控系統最貴的成本，不是買錯工具，是養出一群不相信它的人。