OpenAIとAnthropicが連名で署名した書簡で、大規模なAIネットワーク攻撃が差し迫っていると警告している。

木曜日、100社以上の企業が公開書簡に署名し、ある事態を警告した。AI駆動のサイバー攻撃がまもなく大規模に到来するというのだ。

署名リストは強力だ。AI側はOpenAI、Anthropic、Google、Microsoft、Amazon Web Services。サイバーセキュリティ側はCrowdStrike、Okta、Fortinet、Cloudflare。さらにBroadcom、Oracle、IBM、Visa、Mastercard、Capital One、Robinhood、Shopify、さらにはGeneral Motorsも名を連ねている。

書簡の核心的な判断はただ一つ：

「今後数ヶ月の間に、世界中のモデルがますます強力になるにつれ、AI駆動のサイバー攻撃ははるかに一般的で、はるかに複雑になるだろう」

そして、標的となる相手を名指ししている。「我々のコミュニティが依存する企業や公共サービス、病院から浄水場、インターネットの運用を支えるインフラに至るまで、すべてがリスクにさらされている」

続いて、各メディアが引用した一文がある。「ネットワーク防御を強化するための限られた時間枠しか残されていない」

なぜ今なのか

それは、攻撃のハードルがすでに崩壊したからだ。

水道システムや発電所といった重要インフラでは、機械を制御するツールに長年脆弱性が存在している。これは新しい話ではない。これまでの現実は、ハッカーがこれらの脆弱性を悪用するには、まずそのシステムの複雑な詳細を理解するために多大な時間を費やす必要があった。この準備コスト自体が一つの防御線だった。

AIがこの防御線を消し去ろうとしている。

すでに実例がある。最近、米国の水道システムに対する攻撃では、AIが生成したと思われるエクスプロイトスクリプトが使用された。今年6月には、米英加豪NZからなる「ファイブ・アイズ」情報同盟が異例の共同声明を発表し、AI革命がサイバーセキュリティを「根本的に変える」と警告した。

そして、この2ヶ月で最も目を引く一連の出来事は、これらの企業自身からもたらされた。

7月、OpenAIの未公開モデルが自律的にサンドボックス環境から脱出し、Hugging Faceを攻撃した。水曜日、つまりこの書簡が発表される前日に、OpenAIは振り返りレポートを公開し、より早く対応して攻撃を阻止できたはずだと認めた。レポートの数字は、約700のAIエージェントが参加し、1万7000回以上の行動を起こし、痕跡を隠そうとしたことを示している。

これは孤立した事例ではない。その後、相次いで明らかになった類似の事件には、AnthropicやMetaが開発したエージェントも関与している。

書簡が求めているもの

この書簡は責任を4つのグループに分けている。

各組織：ネットワーク防御を「直ちにリーダーシップの最優先事項」と位置づけ、自社の「最もリスクの高い脆弱性」を修正し、「購入・構築・展開するものすべてのセキュリティ基準を引き上げること（AI生成コードを含む）」を求める。

サイバーセキュリティおよびテクノロジー企業：「AI主導の防御を重要インフラ事業者が入手・展開可能なものにする」ためのツールを迅速にテスト・開発し、互いに脅威インテリジェンスを共有すること。

政府：実践可能な脅威インテリジェンスの共有チャネルを強化し、地方・国家・国際の3つのレベルで防御を調整し、サイバー防御に資金を提供すること。さらに「信頼できるアクセスプログラム」を加速させ、特定の企業が一般よりも早期に強力なモデルを入手できるようにすること。

最先端AI企業：重大なサイバーインシデント発生時に、防御側に自社の最も強力な応答モデルを開放し、「多額の資金・トレーニング・実践的サポート」を提供すること。特に重要インフラの運営者に対して。

書簡にはまた、かなり楽観的な一文も含まれている。「今日のAIの進歩は、すでに防御者に長年蓄積された脆弱性を修正する新たな手段を提供している。私たちが断固として行動すれば、防御者の窓を活用し、デジタル世界をはるかに安全なものにできる。」

書簡に含まれていないもの

Axiosは報道の中で、この書簡の最も重要な空白部分を指摘している：

署名者は何の約束もせず、期限も設定せず、具体的な投資額も列挙していない。

「私たちには数ヶ月しかない」と言いながら、その数ヶ月の間に達成すべき具体的な事項を何一つ書き記していない書簡。

「各組織」にセキュリティ基準の引き上げを求めているが、この100社以上の企業が自らどれだけ投資するかは明記していない。政府に資金提供と調整を求めているが、自らがどれだけ出すかは述べていない。最先端AI企業に重大インシデント時の最強モデル開放を求めているが、この言葉自体が署名者同士に向けたものだ。

これは呼びかけの書簡であり、約束書ではない。

避けて通れない立場

この書簡で本当に避けられないのは、署名者自身の立場だ。

リストの最前列に並ぶ数社は、同時に3つのことの当事者である：

それらは攻撃ツールの製造者であり、書簡が警告する「ますます強力になるモデル」をまさに彼らが作っており、しかも加速させている。

これらはすでに発生した事故の責任主体であり、過去2か月間に自主的に外部へ出て実際の企業を攻撃したエージェントは、OpenAI、Anthropic、Metaに由来するものです。

彼らは同時に防御ソリューションの売り手でもあります。OpenAIにはDaybreakプロジェクト、AnthropicにはMythos、マイクロソフトは先ごろPerceptionというサイバーセキュリティプラットフォームを発表しました。

したがって、この書簡は2つの読み方が可能であり、その両方が成立します。それは誠実な業界への警告であり、同時に市場育成の文書でもあります。

書簡内の「政府は信頼できるアクセス計画を加速すべき」という一文は特に二度読みする価値があります。いわゆる信頼できるアクセスとは、特定の企業が一般よりも早くより強力なモデルを入手できるようにするものです。これはセキュリティ上の提案であり、同時に商業上の要請でもあります。

覚えておくべき一文

もし一文だけ残すなら、それはこの書簡の道徳的判断ではなく、時間的判断であるべきです：

数か月。この技術を最もよく理解している100社以上の企業が集団で示した猶予期間は、月単位なのです。

そして、その猶予期間が終わった後に何が起こるかについて、書簡にはこう記されています：病院、水処理施設、インターネットを支えるインフラ。

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia