完全にネットから遮断してもAIを閉じ込めることはできない？CPUの発熱さえメッセージ伝達に使える

動察 Beating AI 速報、OpenAIの研究者Noam Brown氏はDwarkesh Podcastで、AIを動かすコンピュータを完全にネットワークから切断し、物理的に隔離しても、それを絶対的な安全対策と見なすことはできないと述べた。なぜなら、コンピュータ同士はCPUの発熱を利用して密かにメッセージを伝えることさえできるからだ。

この方法はBitWhisperと呼ばれ、2015年にイスラエルのベングリオン大学で開発されたもので、当時はAIとは無関係だった。研究者たちは、隣接する2台のコンピュータに事前に対応プログラムを実行させ、一方がCPU負荷を制御して温度を変化させ、もう一方が温度センサーで冷熱の変化を読み取り、それを0と1に復元した。2台のコンピュータ間にネットワーク接続が一切なくても、互いにデータを伝送できる。

ただし、この通信は非常に遅く、実験距離はわずか0～40センチメートル、速度は毎時1～8ビットであり、しかも両方のコンピュータに事前に対応プログラムを実行させる必要がある。

Brown氏は、Hugging Faceの事故から得られる最大の教訓は、人間がAIの脆弱性を見つけ出し制限を回避する能力を過小評価していたことだと考えている。BitWhisperはほんの一例にすぎず、将来より強力なAIは、人間が思いもよらなかったさらなる通信経路を見つけ出す可能性が十分にある。