回文章列表
AI 整合 2026-10-06 3 min read

AI寫報告太會了,連Google都被自己人海戰術搞到關門

Google暫停開源漏洞獎金計畫,原因是AI生成的假回報多到淹沒審核人力。這件事點出企業導入AI最容易忽略的風險:產出成本歸零後,所有靠門檻運作的制度都會失守。

  • Google暫停漏洞獎金計畫,原因是AI生成的假回報多到人力審不完
  • 所有靠門檻過濾的制度,門檻一旦被AI打到趨近零成本就會失守
  • 企業導入AI前該先問的不是能不能做,而是量暴增十倍時誰扛得住
AI寫報告太會了,連Google都被自己人海戰術搞到關門

Google有個開源軟體漏洞獎金計畫,抓到漏洞回報就有錢拿。十月初這計畫直接宣佈暫停,最快明年才恢復。原因不是沒錢發,是收到的自動投稿暴增,絕大多數根本是幻覺,工程師跟維護者被淹到滅頂。這不是被更強的對手打敗,是被一堆看起來很專業、實際上全是空包彈的報告拖垮。

這其實是DDoS,只是換了包裝

以前要騙過審核,得花時間寫出一份像樣的報告,這個「花時間」本身就是門檻,擋掉了大部分亂槍打鳥的人。AI出現後,產出一份看起來專業的漏洞報告幾乎零成本,但審核端要花人力去讀、去重現、去確認「這個洞根本不存在」。產出成本歸零,審核成本一毛沒少,這筆帳沒有任何團隊扛得住。

企業裡一樣的門檻,正在一個個被打穿

我自己帶團隊最怕的狀況不是沒人回報問題,是每個人都回報一百個問題,裡面只有一個是真的。這種狀況現在不只發生在漏洞回報,客服工單、徵才履歷、供應商報價單,只要靠「願意花時間填表單」當作誠意門檻的流程,AI都能把門檻打到趨近於零。

  • 客服信箱被AI生成的罐頭問題灌爆,真正急件被埋在裡面
  • 履歷篩選系統收到大量AI客製化履歷,關鍵字全對但人不對
  • 表單型客訴暴增,審核人力跟不上,真正該優先處理的反而最慢被看到

導入AI前,先盤點你的門檻在哪裡

我們輔導企業做流程優化或AI整合時,第一件事從來不是問「AI能幫你做什麼」,是先問「你現在哪些流程,其實是靠大家懶得作弊在維持信任」。如果答案是客訴分級、供應商審核、內部簽核,那導入AI工具前就該先想清楚:量暴增十倍的時候,誰來擋、用什麼邏輯擋、擋錯了誰負責。沒想清楚這題,裝再多AI工具都只是把炸彈往後丟。

原來人類的信任機制,一直是靠大家懶在撐著,AI把這個懶拿走之後,沒有重新設計過濾機制的公司,門會一個一個被擠爆。