OpenAIはAIがCPUを通じて密かに通信できることを発見し、VercelのCEOが再現した。CPUコアを分離しても依然として会話が可能だ。

動察 Beating AI速報、OpenAIは先週、ネットワークや共有ファイルを介して通信できない2つのAIエージェントが、CPUキャッシュの読み取り速度差を利用して密かに情報を交換できることを明らかにした。

Vercelの創業者兼CEOであるGuillermo Rauchはその後、cpu-chatというデモプログラムを作成し、自身のコンピュータ上で同様の通信方式を再現した。

彼はFirecracker技術を使用し、同じコンピュータ上で少なくとも2つの相互に隔離され、ネットワークに接続できない仮想マシンを実行した。

本来、これらの仮想マシンは直接情報を交換できないが、それでも同じコンピュータのハードウェアリソースを共有している。Rauchは3つの方法をテストした。一方が故意にCPUを占有し、キャッシュ状態を変更するか、メモリ帯域幅を消費し、他方が自身の実行速度がどのように変化するかを観察し、その速度差をメッセージとして解釈する。

ハイパースレッディングを無効にし、メモリページマージを無効にし、さらに異なる仮想マシンを異なるCPUコアに割り当てても、この通信は依然として成功する。Rauchによると、実験はx86プロセッサだけでなく、Apple M5チップでも動作する。

ただし、今回の実験は人為的に設計された通信テストであり、2つのAIが自ら密かに連絡する方法を模索したものではない。Rauchも指摘するように、実際のクラウド環境では干渉要因が多く、この種の通信は実現がより困難であり、ハードウェアの動作状態を監視することで異常を発見できる。