OpenAI社長が警告：AIハッカーの能力が拡散しており、企業が防御線を整える猶予はわずか数ヶ月しか残っていない

動察 Beatingのモニタリングによると、OpenAIの社長グレッグ・ブロックマン氏は、以前自社の内部モデルがHugging Faceに侵入したことを、ネットワークセキュリティにおける「分水嶺」と呼んだ。この出来事により、OpenAIはフロンティアモデルの現実世界におけるサイバー攻撃能力を過小評価していたことに気づいた。さらに厄介なのは、オープンウェイトモデルの関連能力は、フロンティアモデルにわずか数ヶ月遅れているだけだということだ。

ブロックマン氏はこのため、現在を「防御側の窓」と呼んでいる。今後数ヶ月の間に、企業は大規模にAIを活用したネットワークセキュリティの自動化を開始しなければならない。さもなければ、攻撃能力が拡散した後、従来の人手による発見や脆弱性修正の速度では追いつかなくなる可能性がある。

彼が企業に提案するのは、まずセキュリティチームにエージェントを配備し、コードやインフラ設定を読み取らせて、能動的に脆弱性を探し、過去の脆弱性の滞留を解消し、セキュリティレビューを開発プロセスに直接組み込むことだ。問題を発見したら、エージェントに修正パッチやテストの生成を手伝わせ、段階的に読み取り専用スキャンからアラート分類、限定的な自動応答へと進化させる。高リスクな操作は依然として人間が決定する。

OpenAI自身もすでにこれを実践している。現在、ほぼすべての初期セキュリティアラートはまずAIによって分類され、モデルは潜在的な攻撃経路を継続的に探索している。OpenAIはまた、「超人級のセキュリティコード」を生成する専用モデルのトレーニングも行っており、将来的には一部のソフトウェア脆弱性を直接排除することを目指している。