夢でメテオを3発撃った。3発目が地面に落ちると、なんと温泉が湧いた。
「やった、温泉開業だ！」
と思った次の瞬間、水柱が空まで噴き上がり、街が水浸しになった。
温泉は当てた。世界も壊した。
めちゃくちゃな夢だ。でも、AIに大量の作業を一度に任せるときの怖さも、少し似ている。
温泉を掘っただけなのに、なぜ水没する？
メテオの目的は、地面に大きな一撃を入れることだった。温泉まで出たなら、ひとまず成功に見える。
問題はそのあと。水柱がどこまで上がるのか、周囲にどれだけ水が流れるのかを、撃つ前に考えていなかった。
AIの一括修正でも同じことが起こる。たとえば「記事の見出しを読みやすくして」と頼んだつもりが、見出しだけでなく本文まで書き換わる。何十ページも直してから、一部の説明が消えていると気づく。
頼んだ作業が終わることと、ほかを壊さないことは別問題なのだ。
メテオを撃つなら、まず小さな場所で
対策は難しくない。いきなり街の真ん中へ撃たない。それだけでだいぶ違う。
最初は記事1本、画面1つなど、小さな範囲だけを直す。実際にどこが変わったかを、変更前と並べて見る。問題がなければ、次の範囲へ広げる。
「10ページ直した！」という報告より、「この10ページ以外は変わっていない」と確かめられる方が大事な場面もある。
一度に全部やる方が速く見える。けれど、あとで全部点検するなら、最初の速さは幻だったかもしれない。
高台をコピーできても、街は元に戻らない
夢の中では、水が迫ったときに高台をコピーして逃げられた。便利すぎる。もはやゲームの裏技である。
現実でも、変更前のデータを残しておけば、ファイルを戻すことはできる。
ただし、元に戻せるのはファイルだけとは限らない。誤った情報を読んだ人や、動かない画面に困った人の時間まで、巻き戻せるわけではない。
だからこそ、直す前に「何を変えるか」、直したあとに「実際に何が変わったか」を確認する。バックアップは最後の保険であって、好き放題に撃つための免許証ではない。
強い道具を弱くする必要はない
メテオを使うな、という話ではない。危ないから何も変えずにいよう、でもない。
大きく変えられる道具ほど、最初の一撃を小さくして、結果を見てから広げればいい。
夢ではメテオで温泉を掘り当て、ついでに街まで沈めた。
現実の修正なら、温泉だけ当てて帰りたい。
メテオは撃っていい。ただし、本番の街で試し撃ちしない。
