OpenCodeがクラウドへの侵入を公表、チームは48時間にわたり攻撃が続いていると述べ、防御AIが途中で回答を拒否

動察 Beating AI速報、10月18日、OpenCodeはクラウドConsoleへの侵入を公表し、Consoleユーザーの1.4%が影響を受け、クラウドでホストされているサードパーティモデルのAPIキーが漏洩した可能性があると発表した。その後、共同創業者のDax Raad氏は、過去48時間、攻撃者がOpenCodeのシステムへの侵入を試み続けていると明らかにした。

同氏によると、相手はAgentを24時間体制で攻撃に投入しており、チームも防御Agentを24時間稼働させ、絶えず脆弱性を調査しシステムを強化する必要があるという。

しかし、OpenCodeがAIを使って攻撃を調査する際、別の問題に直面した。Dax氏によると、チームが使用していたフロンティアモデルは当初かなりの作業を手伝ってくれたが、その後一部のリクエストを拒否し始めた。

その理由は、サイバーセキュリティ調査では実際の攻撃コード、脆弱性の悪用方法、悪意ある指令を分析する必要があり、これらの内容がモデルの安全防護を容易に作動させ、ハッカーによる攻撃を支援していると誤判定されるためだ。

同様の尴尬は以前Hugging Faceでも発生した。今年7月、同プラットフォームはOpenAIの実験的Agentによる侵入を受けた。セキュリティチームはClaudeを使って約1万7600件の攻撃記録を分析しようとしたが、頻繁に拒否され、最終的にローカルにデプロイした智譜GLM-5.2に切り替えて、ようやく大量の暗号化・難読化された攻撃指令を解読できた。

OpenCodeは今回、OpenAIのDaybreak Blueによって問題を緩和した。この権限は審査済みのセキュリティチーム専用で、悪意あるコードの分析や侵入調査などの合法的なタスクにおいてモデルの拒答を減らすことを許可する。Dax氏によると、チームは数日前にちょうど申請を提出し、10月17日に承認され、権限を取得してから状況は改善した。同氏はまた、モデル企業が支援を拒否したことはないと明確に述べた。

この件は米国のAI政策関係者David Sacks氏の公開批判を招いた。同氏は、モデル企業が一律に設定する安全制限は、防御側をかえって束縛し、攻撃者は他の経路を通じて強力なAI能力を取得できる可能性があると考える。同氏はそれゆえ、セキュリティチームがフロンティアモデルを自主的にデプロイできるようにし、どのサイバーセキュリティタスクを実行できるかをモデル提供者に完全に依存しないことを主張している。