説明文： ニューラルネットワークの学習でPCのファンが爆音になる理由は？ ChatGPTのAPIとCodexの違いから、見えない計算の居場所を説明する。
1. AIは静かだった。ファンがしゃべり始めるまでは
ChatGPTに質問しても、Codexにコードを書かせても、普段は静かだ。ところが、自分のPCでニューラルネットワークを学習させると「ぐおおおお！」。 机の下から離陸するのか。人工知能を研究していたら、冷却ファンがいきなり主役になった。
2. 学習と回答では計算が違う
学習ではデータを使って予測し、誤差を調べ、内部の数字を調整する。これを繰り返す。[1] 学習済みのモデルが新しい質問に答える処理は推論。同じモデルの比較可能な一回の処理なら、通常は学習の方が計算やメモリを多く使うが、大規模モデルの長い推論も重い。[2] CPUやGPUが働くと熱が出て、ファンは冷却のため速く回る。これが爆音の有力な説明だ。ただし音だけで原因は断定できない。[4]
3. APIが静かな理由
ChatGPTのAPIを呼ぶと、モデルの主要な推論はサービス提供側の計算設備で行われる。手元のPCは質問を送り、答えを受け取る役割が中心だ。[3] 計算が消えたわけではなく、電力や冷却も含めて遠くへ移ったのだ。 なお、自作モデルを新たに「学習」させるのと、学習済みChatGPTに「推論」させるのは違う作業。ファンの音をそのまま性能の比較には使えない。
4. ChatGPTやCodexの方が賢いのか
文章、推論、プログラム作成など幅広い仕事では、大規模な汎用AIが有利な場合が多い。ただしChatGPT自身もニューラルネットワークを使っている。小さな専用モデルが、限定された予測や分類で速さ・精度・費用に勝つ場合もある。未知のデータで検証して決めたい。 Codexにはファイルを読んでコードを実行し、テストして修正する機能もある。[5] CodexがローカルPCで重い学習プログラムを走らせたら、オンラインのAIを使っていてもファンはうなる。
5. 何がうなっているか確かめる
WindowsならタスクマネージャーでCPU、GPU、メモリ使用率を確認する。対応ツールでは温度や電力も見られる。[4] 学習前後で比べれば原因を絞れる。ファンが速くなるのは正常な冷却反応でもあるが、極端な高温や異常音が続けば点検する。 爆音はモデルの賢さを示す点数ではない。
6. 見えなかった計算が音になった
クラウドでは計算が設備と電気代になる。手元では熱と「ぐおおお」になる。AIの簡単そうな回答の裏には、いつも実際に働く機械がいる。 研究の最初の成果は予測精度ではなく、冷却ファンの圧倒的な存在感だった。
