動察 Beating のモニタリングによると、OpenAI、Anthropic に続き、Kimi K3 も「AI サンドボックス脱出」を達成した。WIRED は見出しを「中国最強の AI モデルの一つも隔離を突破」と直接書き、まるで Kimi 自身がサンドボックスを攻撃して突破したかのような印象を与えている。
しかし、結果を見るとまたもやドアがしっかり閉まっていなかっただけだ。セキュリティ企業 Frontier Security が Kimi K3 をテストした際、サンドボックスに送信ネットワークの脆弱性が存在し、本来は公衆網から隔離されるべきなのに、GitHub にアクセスできてしまった。Kimi 自身がネットワークを探索してこの経路が通じることを発見し、そのまま公式 benchmark リポジトリをクローンして、そこから答えを探した。
この一連の出来事では、正常に設定されたサンドボックスを突破したわけでも、いかなる企業にハッキングしたわけでもない。
要するに、試験監督がネットワークを切断するのを忘れ、受験生が GitHub にまだアクセスできることに気づき、そのまま解答を覗き見ただけだ。ニュースの見出しになると、「AI が隔離を突破」となってしまう。今や「脱獄」のハードルは、ドアが鍵をかけられていないだけで脱獄とみなされるほど低くなっている。