「ここも検査しましょう」「例外への対策も必要です」「ほかにも改善点があります」。有能なAIに作業を頼んだら、いつの間にか品質管理部、監視部、監視部を監視する部まで完成していた。製品だけが完成していない。 工場長、検品する商品がありません。
本来の目的は、人がずっと操作しなくても記事や機能を作り、最後まで届けることだった。AIの提案は一つずつなら賢い。だが全部の対策を実装すると、いつの間にか「製品を作る仕事」より「問題が起こる可能性を管理する仕事」が大きくなる。
1. 一つの検査が次の検査を呼ぶ
最初は「必要なファイルがあるか」「変な内容を出さないか」の確認だった。次にチェックの例外が見つかり、例外の監視が追加され、監視が止まると困るので監視の監視が生まれる。気づけば一件納品するだけで、全部署のハンコが必要になった。
「出荷できますか？」
「検査担当者を検査する担当者が現在検査されています」
「商品は？」
「まだ作っていません」。
警備員百人、商品ゼロ。品質管理は手段なのに、手段だけが立派になった。
2. 全条件の合格を待つほど、終点が遠くなる
AIに「合格するまで問題を探し、修正し続けて」と頼むと、検査Aの問題を直したらBが引っかかり、Bを直したらCの例外が見つかる。実行時間や処理量に限界がある環境では、その探索が長引き、最後の保存や公開まで到達できずに時間切れになる。
これは「AIが何も考えなかった」失敗ではない。考えることに資源を使い切り、成果物がゼロになった失敗だ。検査に百点をつけても、納品率がゼロなら工場の仕事としては失敗である。
3. ところがゲーム分析には、このAIが強い
ゲームの攻略なら「ほかの変数は？」「見落とした動きは？」と広く探す価値がある。予想外の仮説を見つけること自体が成果になる。分析を頼んだAIが横へ広がるのは、むしろ長所だ。
しかし「記事一件を完成」「機能一つを動かす」という仕事では話が違う。ここで必要なのは可能性の展覧会ではなく、到着すること。空港行きのタクシーに観光名所を全制覇させれば、景色は楽しめても飛行機に乗れない。
探索のときは広く。実行のときは狭く、深く、最後まで。 この切り替えが重要だ。
4. 正しい順番は「まず一件、着地させる」
最初に「何をもって完了か」を決める。たとえば「記事を書いて指定の場所に保存し、保存した内容をもう一度読んで確認する」。公開が目的なら、本番で実際に読めることまで確認する。原稿の保存と公開成功は同じではない。
そのうえで最低限の安全条件を守り、一件を完成させる。実際に動かして、問題が起きた場所だけ直す。繰り返し起きる問題に対して必要な検査を足す。
順番は 守るべきものを守る → 一件完成 → 実際に試す → 起きた不具合を直す → 本当に必要な検査を追加。まだ起きていない問題のために、まだ存在しない製品を止め続けない。
5. ただし、後回しにできない検査もある
「検査は後から」は「何も確認せず公開する」とは違う。個人情報の漏えい、不可逆なデータ削除、無断の上書き、安全・健康・法律・金銭への重大な損害は、実行前に防ぐ。信用を失ったら、ファイルだけ元に戻しても元通りにならない。
一方、細かな文体の好み、まだ必要のない機能、仮説だけの将来の問題は後から見直せる。検査を「必ず止める」「警告にする」「後で改善する」の三種類に分け、実害の大きさで決めればよい。
6. 成績表は「ルールの数」ではなく「完了した数」
見るべき数字は、実行100回のうち何件最後までできたか、完成一件に何分かかったか、あとからやり直した割合、重大事故が発生したかどうか。
仮に検査報告を100枚作っても完成品ゼロなら、完了率は0％だ。検査部門の表彰式を開くより先に、空っぽの倉庫を見てほしい。逆にスピードを上げて重大事故が増えたなら、それも失敗。必要な安全を保ちつつ完了率を上げるのが目標だ。
7. AIへの指示はこう変える
今回の目的は一件の成果物を最後まで完成させること。完了条件は、指定場所に保存または公開され、実際に確認できること。重大事故を防ぐ最低限の検査は残す。今回の達成に不要な新機能や仮説上の改善案は増やさない。問題が起きたら必要な部分だけ修正し、元のゴールへ戻る。
これはAIの知性を縛るのではない。賢さの使い道を指定している。幅広い分析が必要な別の仕事では「他の可能性も探して」と改めて頼めばいい。
結論――設計図は食べられない
既存のソフトウェア開発の考え方にも、動くものを早く届ける、今要らない機能を増やしすぎない、速さと信頼性の釣り合いを取るという発想がある。だからといって安全確認を捨てる話ではない。
考えるためのAIは広げていい。作るためのAIは、まず完成させる。 作品が出たあとで現実の不具合をもとに検査を育てればいい。
AI「検査システムは完璧です！」
人「製品は？」
AI「製品を作るための検討会を開催します」。
お前が先に完成してどうする、検査委員会。
