Google Earth 生圖功能上線一天就爆炸，問題出在哪

Google Earth 上禮拜四上線一個功能，打一句話就能在真實衛星空拍圖上生東西出來，禮拜五就下架了。官方說法是護欄不夠強，先回去補。聽起來像小事，但拆開來看，這其實是每個想把AI塞進自家系統的企業都會踩到的坑，只是Google踩得比較快、比較大聲而已。

出包的不是模型，是招牌

生圖模型本身沒問題，問題是它被放進了一個被當成『事實資料庫』的產品裡。Google Earth 這塊招牌，多年來累積的信任是『這張圖沒被動過手腳』，記者查現場、研究人員做調查，都是建立在這個假設上。你在這塊招牌底下裝一顆改圖按鈕，等於把一個唯讀資料庫開了寫入權限，卻沒做任何權限管控。有研究者隨手生出難民營畫面貼在真實座標上，一天內就被抓包，這不是模型失控，是產品定位跟功能設計完全脫節。

我們在客戶那邊也常看到同款劇本

這幾年接AI導入的案子，最常見的錯誤不是技術做不出來，是沒人問過『這個功能掛在哪塊招牌下』。同一套生成式AI，放進內部草稿工具是效率神器，放進對外的客服紀錄、財務報表、合約條文自動生成流程裡，就是一顆未爆彈。我們遇過的狀況是，企業想用AI自動生成對外報價單或合約摘要，興沖沖談規格，卻沒人問過『如果生錯了，誰要負責，客戶會不會拿這份文件去打官司』。功能好不好玩是一回事，它站在哪一層信任等級上，才是真正該先問的問題。

• 先分類：這個系統輸出的東西，使用者會不會拿去當『證據』或『事實』使用
• 再分權限：誰可以觸發生成、誰可以審核、誰對最終結果負責，這條線要在上線前畫好
• 最後才談模型：模型選型、prompt設計都是後面的事，順序顛倒就是在賭運氣

護欄要長在骨架裡，不是貼在外面

Google這次的處理速度其實不差，一天內回滾，說明監控機制有在運作。但真正該檢討的是，這個問題明明在會議室規劃階段就能被問出來，卻拖到使用者截圖瘋傳才被發現。企業導入AI系統時最常犯的錯，是把風控當成上線後的維運項目，而不是設計階段的必答題。等到出包才裝護欄，那叫災後重建，不叫產品設計。

護欄要在功能存在之前就決定，補在後面的那叫災後重建。