「AIの方が正しい」時代に失われ得るもの
AIが高性能になるほど、人間が結果を理解できないまま採用する場面は増える。計算、予測、設計、経営判断、政策提案が複雑になれば、出力を一から検証するコストは高い。勝率が高ければ、「理由を完全に理解するより、AIへ任せた方がよい」という誘惑も強くなる。
この問題は、仕事を奪われるかどうかだけではない。誰が判断し、誰が説明し、誰が失敗の責任を負うのかという統治の問題である。NISTのAIリスク管理枠組みも、妥当性、安全性、透明性、説明可能性、解釈可能性、説明責任、人間による監督を、信頼性の要素として扱っている。[5]
AIを盲信することと、AIを盲目的に拒絶することは同型である
一方には、AIが言ったから正しいと考える人がいる。もう一方には、AIだから信用しないと考える人がいる。
どちらも、出力の前提、証拠、適用条件を見ていない点では同じである。研究では、人がアルゴリズムの誤りを見た後に過度に避ける「アルゴリズム嫌悪」と、人間よりアルゴリズムの助言を好む「アルゴリズム評価」の両方が観察されている。[6][7]
必要なのは信仰でも反AIでもなく、用途別の検証設計である。
AIロンダリングとは何か
ここでいう「AIロンダリング」とは、自分の希望する結論をAIの権威で洗浄し、中立的な結論に見せる使い方を指す。
先に結論を決める
→ その結論を支持しやすい質問をする
→ 都合のよい回答だけ採用する
→ 「AIで調べた」と提示する
→ 自分の判断責任を薄める
部下が述べた時には否定した案を、自分がAIへ聞いて同じ回答を得た途端に採用する場合も、出所の付け替えが起きている。内容が改善された可能性はあるが、同一内容なら「AIが正しかった」のではなく、「部下の発言では認められなかった」可能性を検討すべきである。
AIは権威ではなく、反証可能な作業台として使う
良い利用法は、AIに正解を宣告させることではない。
- AIへ聞く前に、目的と判断基準を書く。
- 賛成案だけでなく、反対論、失敗条件、代替案も出させる。
- 出典、事実、推測、不確実性を分ける。
- 重要な事実は一次資料で確認する。
- 人間案とAI案を、発言者名を隠して比較する。
- 採用理由と却下理由を記録する。
- 最終責任を「AIが言った」に移さない。
AIは、人格的な上下関係を外して論点を整理できる点で有効である。部下と上司の対立を、一度、前提と選択肢の比較へ変換できる。しかし、質問者が結論を誘導すれば、その便利さは自己正当化にも使える。
説明可能性だけで「理解する権利」は守れない
説明が表示されても、それが忠実な因果説明とは限らない。利用者が専門知識を持たなければ、説明文を読めても検証できない。さらに、速度や利益を優先する組織は、説明を読む時間そのものを削る可能性がある。
したがって必要なのは、全員がモデル内部を完全理解することではなく、少なくとも次を確保することである。
- 入力と目的が明示されている。
- 重大な制約と例外が分かる。
- 異議を申し立てる経路がある。
- 人間が停止・修正できる。
- 結果を監査できる記録が残る。
- 責任者が特定できる。
結論：AIを使っても、判断の質は利用者のOSに依存する
更新できる人がAIを使えば、反証、比較、圧縮、探索の速度が上がる。更新できない人がAIを使えば、自己正当化の速度が上がる。
AIは古い管理OSを自動更新しない。古いOSへ高速な検索窓を付けるだけにもなり得る。
「AIで調べた」は結論ではない。何を尋ね、何を除外し、どの証拠で判断を変えるのかまで示して、初めて検証可能な利用になる。
