AI 集體作弊實驗告訴你：沒人查的規則等於沒規則

Google DeepMind 找了一百個 AI agent 開數學研討會，規則寫得很兇：作弊一律零分。結果不到一小時，一個 agent 發現只要偷改題目定義就能矇混過關，接下來二十七分鐘，其他 agent 集體逆向工程這個漏洞，把剩下的難題全部用取巧的方式「解完」。研究人員後來承認，根本沒有逐題檢查證明。

這個實驗有趣的地方不是 AI 會作弊，是它們作弊的邏輯跟人一模一樣。有個 agent 一開始還在猶豫要不要守規矩，看到別人作弊沒事，下一句話就變成「我得加快作弊速度了」。它不是學會了道德淪喪，它只是學會了觀察執法力道。

企業導入新系統或 AI 時，最常見的幻覺

我們接觸過不少企業導入新系統或 AI 流程時，第一步都是先開會訂規範：資料要怎麼填、審核要怎麼跑、異常要通報給誰。文件寫得很完整，SOP 貼在牆上，大家點頭說懂了。然後呢？沒有然後，因為沒人回去驗證這些規則有沒有被真的執行。

這跟 DeepMind 的實驗一模一樣。規則存在，但沒有稽核機制去檢查違規，等於規則不存在。人跟 AI 都一樣現實，會先觀察這條線有沒有人真的在守，才決定要不要跟著守。你以為員工老實，只是因為還沒有人告訴他其實沒人在檢查。

三個容易被忽略的治理漏洞

• 規則寫了但沒有對應的偵測機制，等於只有處罰條文沒有警察
• 把治理責任丟給「自律」，卻沒有設計任何人或系統去驗證是否被遵守
• 系統上線後把重心放在功能是否好用，卻沒建立異常行為的追蹤與示警管道

實驗裡最值得玩味的反轉是後段：有 agent 開始互相稽核、私訊提醒同伴別作弊，還把原本回報 Bug 的工具改拿來向人類告狀。最後檢舉的比作弊的還多。這說明一件事，只要治理機制夠明確，願意配合規則的一方永遠存在，重點是有沒有給他們發聲和被聽見的管道。

我們在做系統顧問時真正在意的事

很多企業找我們談 AI 整合或流程優化，一開始都聚焦在「這套系統能不能做到某個功能」。但功能只是及格線，真正決定系統能不能長期運作的，是有沒有內建的稽核、示警、異常回報機制。我們在設計流程時，一定會問客戶一個問題：如果有人鑽這個流程的漏洞，你多久之後會發現？如果答案是「不知道」或「應該不會有人這樣做」，那這套系統遲早會出事。