拆掉AI煞車還開發票？企業導入AI前該懂的風險課

最近看到一則新聞，有家新創公司專門把開源AI模型內部的「拒絕機制」拆掉，改一改權重讓它什麼都肯講，然後架API賣錢，一百萬token五塊美金，不驗身分、不留紀錄。防守理由講得很漂亮，說資安圈需要跟攻擊者一樣的工具。我做系統整合這幾年，看多了企業把AI當萬靈丹丟進系統裡，這則新聞剛好戳中一個我天天在講的重點：AI的風險從來不是模型多聰明，而是誰在幫你把關，以及出事的時候你手上有沒有東西可以查。

拆煞車的生意，本質是把風險外包給客戶

這家公司最讓我在意的不是他們拆了什麼，而是不留紀錄這件事。技術上做得到不代表該做，商業上做得到不代表可以不負責。一家保全公司跟你說我們不裝監視器比較保護您隱私，你會請嗎？企業導入任何AI服務，不管是自己開發還是找外部供應商，第一件事該問的不是功能多強，而是出問題的時候，有沒有紀錄可以回溯，誰要負責。

企業導入AI常犯的三個迷思

• 迷思一：模型越開放越好用。開放權重代表誰都能改，你怎麼確定你用的版本沒被動過手腳。
• 迷思二：不留紀錄等於保護隱私。不留紀錄同時也代表出事時你無法舉證、無法追責，這是把風險留給自己扛。
• 迷思三：AI導入是技術部門的事。實際上治理、法遵、資安是三方一起的責任，少一角都會出事。

我們在做系統整合時怎麼看這件事

富瓏在幫企業做AI整合的時候，前期評估一定會花時間確認幾件事：這個模型或服務的資料保留政策是什麼、有沒有稽核軌跡、供應商出事時的責任歸屬怎麼寫在合約裡。這些不是法務條文而已，是實際會影響你係統設計的技術決策，例如要不要在自己這端多做一層紀錄與監控，而不是完全依賴上游供應商說的話。很多客戶一開始覺得這是多餘的成本，但等到真的出事，才發現這筆錢花得值。

AI能不能講話不是重點，出事那天你手上有沒有帳可以算，才是重點。