AI全自動的謊言：土耳其機器人退場給企業的提醒

亞馬遜宣布，一個叫Mechanical Turk的服務要收攤了。你可能沒聽過，但你天天在用的AI，不少是靠它養大的。這服務2005年上線，讓人付幾毛錢請真人做機器搞不定的雜事，判斷語氣、標記圖片。後來被包裝成AI訓練用的資料標註服務，一路撐到現在。

最妙的是這名字的由來。18世紀有台會下棋的機器紅遍歐洲，後來被拆穿，桌子底下藏了個真人棋手。兩百多年後，同一齣戲又演一次，只是這次台上換成了AI。2023年還有人查出，平台上三到四成的工人偷偷開LLM幫自己做答，人假裝機器，機器假裝人，最後誰是誰都分不清。

我看過的全自動，後台多半有人在頂

做這行十幾年，接過不少案子是客戶說系統已經全自動了，只是想優化一下。掀開後台才發現，所謂全自動是某個同事每天早上七點手動匯出報表、下午再手動匯入另一套系統，做了兩年沒人發現這是人力在補洞。自動化很少是真的沒有人，多半是把人搬到你看不見的地方，然後帳面上寫著已導入AI。

導入AI前，先問三個問題

• 這個流程現在是真的無人值守，還是有人半夜還在補救例外狀況
• 如果那個補救的人請假一週，系統會不會直接爆掉
• 供應商講的自動化，是整個流程自動，還是只有中間那一小段

這三個問題聽起來簡單，但九成企業從沒認真問過。原因是大家太急著看到成果，卻沒人想拆開來看成果是怎麼生出來的。我們接手企業系統整合案時，第一件事永遠是先畫出真實的流程圖，標出每個環節到底是機器在跑還是人在扛，這比急著上線新系統重要得多。

人力不是敵人，亂放位置才是問題

Mechanical Turk的故事不是要你恐懼AI是騙局，而是提醒你，好的系統設計從來不是消滅人力，是把人放在對的位置。標註資料需要人，處理例外需要人，判斷模糊地帶需要人，這些都合理。問題是很多企業把這些必要的人力藏起來，假裝一切自動，結果那個藏起來的人離職，整套系統跟著垮。

我們在幫企業做流程優化或AI整合時，會刻意把人力需求攤在陽光下，寫清楚哪個環節需要人工複核、需要多久、萬一那個人不在怎麼辦。這不是比較不酷，是比較不會在半夜三點接到電話。

你以為的魔法，通常只是你沒看到的勞力，先找出那個人，再談要不要真的用機器換掉他。