AI合成資料是大錯？圖靈獎得主戳破企業導入迷思

最近強化學習界的祖師爺Richard Sutton又講了一句很傷人的話。他說各大AI實驗室現在流行的合成資料，是個大錯誤。理由很簡單：真實世界複雜到無限，任何模擬都只是切了一小塊微觀樣本，摩擦力算不準、馬達行為算不準，更慘的是，你沒辦法為別人的腦袋生出合成資料。這句話聽起來是在講AI模型，但我覺得根本是在講我們做企業系統這行的日常。

規格從來不是被物理改壞的

做過專案的都懂，系統上線前的規格文件跟上線後的規格文件，通常是兩份不同的東西。不是需求分析沒做好，是需求本人自己也還沒想清楚，等看到雛形才知道自己要什麼。這就是Sutton講的大世界假說在企業現場的翻版：你可以模擬流程、模擬資料庫負載、模擬報表輸出，但你模擬不出老闆下週開會又想到一個新點子。

企業導入AI最怕的不是技術，是把人拿掉

• 很多公司導入AI客服或自動化流程，第一件事是想把人力全部砍掉，結果系統上線三個月，例外案件堆成山沒人處理
• 合成資料訓練出來的模型，遇到沒看過的刁鑽問題會硬掰答案，因為它沒有真人審核那道防線
• 真正能規模化的AI系統，不是一次訓練完就丟著不管，而是持續把真實使用回饋餵回去修正

Sutton連LLM都酸了，說訓練完權重就不再變，頂多算兩成智慧，剩下八成還在人身上。這句話對企業主的提醒是，你花大錢導入的AI系統如果沒有持續學習與人工校正機制，它就是一個很貴的靜態工具，跟買一臺印表機沒兩樣。

我們在做系統整合時的觀念

富瓏這幾年協助企業做系統開發跟AI整合，最常做的其實不是把AI丟進去就收工，而是先幫客戶盤點哪些流程是死物理定律，哪些是活人的判斷。前者可以放心自動化，後者一定要留人在迴圈裡，而且要設計好回饋機制，讓系統跟著實際使用狀況持續調整，不是上線那天就是巔峰。

目前唯一還合成不出來的，是難搞、不講道理、每週改一次需求的人類。