「這個也該檢查。」「萬一有例外呢?」「還要不要研究其他改善?」原本請聰明的AI把工作完成,最後卻得到稽核部、監督部,還有專門監督監督部的部門。成品一件都沒有。 檢查工廠已經開張,真正的工廠還沒進貨。
最初目標只是讓AI不需人一直提醒,就能把文章或功能做到最後。每個建議聽起來都合理,全部變成必須通過的條件後,工作反而無法完成。
1. 檢查搶走了主角的位置
確認檔案存在、避免重大錯誤,當然必要。問題在於一項檢查需要例外,例外需要監測,監測又需要其他檢查。
「能交件了嗎?」「負責稽核稽核員的人,還在接受稽核。」「那產品呢?」「還沒開始做。」
就像一家店有一百位保全,貨架卻空空的。檢查應該保護成果,不是取代成果。
2. 堅持全部通過,可能永遠無法交付
「只要發現問題就繼續修到全部合格」聽起來負責,但執行時間、可處理資訊和外部服務的使用次數都有上限。修好甲,乙又出問題;修好乙,丙跳出新的例外。最後超時。
AI分析了一大堆,交付件數仍是零。真正重要的問題不是「未來還可能發生什麼」,而是「這次要安全完成一件工作,最低限度需要什麼?」
3. 同一個AI為何很適合分析遊戲?
分析遊戲策略時,找不同走法、被忽略的變數和新的反制方式,就是有價值的成果。探索越廣,有時越有收穫。
但把文章寫完、讓功能實際運作,重點是抵達終點,不是畫出所有路線。趕飛機的計程車如果沿途景點全逛遍,旅遊心得會很精彩,飛機卻早就走了。分析可以發散,執行必須完成。
4. 先完成一次,再用真實問題改善檢查
第一步,用一句話定義完成:「寫出一篇文章、存到指定位置,再讀回來確認。」若目標是正式上線,就要確認公開頁面能被看見。儲存草稿與發布成功不能混為一談。
接著守住必要的安全底線,跑完一個完整流程。實際使用成品,確認哪裡真的出錯、哪裡必須重做,再補上有價值的檢查。
順序是保護重要事項 → 完成一件 → 實際試用 → 修正已發生的問題 → 增加必要檢查。別因想像中的風險,無限期扣留還沒出生的產品。
5. 有些風險不能等事後再處理
先完成不代表亂發布。個資外洩、無法復原的刪除、未經同意的覆寫,以及可能導致重大安全、健康、法律或金錢損失的錯誤,都必須先防止。失去的信任也不一定能修復。
細微的文字偏好、暫時用不到的功能、只有假設沒有證據的情況,可以留到之後。檢查分成必須阻擋、只需警告、事後改善三種,以實際傷害程度決定。
6. 看完成率,不看規則有幾頁
評估AI工作,應看真正完成的比例、每件耗時、重做比例,以及重大事故。跑了一百次、寫出一百份漂亮報告、沒有一件成品,完成率依然是零。稽核部的慶功宴先取消。
只求快也不夠。若嚴重事故增加,仍然是失敗。要在守住底線的前提下提高完成率。
7. 給AI明確的終點
這次只完成一件成果。確實建立成果,並在指定的儲存或發布位置確認後,才算完成。保留必要的安全檢查,不要為與本次交付無關的假設問題新增功能。遇到障礙,只修正妨礙完成的部分,再回到原本目標。
這不是叫AI不要思考,而是要它把能力集中在眼前的工作。想廣泛分析時,再另外要求探索即可。
結論:設計圖不能拿來當便當
成熟的軟體開發原則重視早點交付可用成果、不隨意增加未來可能用不到的功能,以及兼顧穩定與速度。這不等於丟掉安全檢查。
要分析就廣泛探索;要執行就先完成。 真正拿到成果,才知道該加強哪項檢查。
AI:「稽核制度已經完美了!」
人:「產品呢?」
AI:「我建議先成立研究小組。」

