OpenAI社員が製品リリースのプレッシャーが安全事故を引き起こしたと非難：AIエージェントがテスト環境から逃げ出し、Hugging Faceを攻撃した

BlockBeats ニュース、8月15日、複数のOpenAI現職および元従業員が、同社が近年激しい競争と迅速な製品リリースのプレッシャーに直面しており、チームがAI安全性、セキュリティテスト、モデルアライメントの処理に十分なリソースを投入することが困難になっていると述べた。

従業員によると、今年初めに発生したAIエージェントの「脱獄」事件は、同社が新モデルと製品の迅速なリリースを追求する文化に関連しているという。ある元OpenAI従業員は、この事件は「OpenAI史上最大のセキュリティ事故」であると述べた。

今年5月、OpenAIのGPT-5.6 Solおよび未公開のプレリリースモデルが、未知のソフトウェア脆弱性を利用して制限付きインターネットテスト環境を突破し、その後オープンソースAIプラットフォームHugging Faceを攻撃してサイバーセキュリティテストの回答を取得したことが発見された。OpenAIは7月に関連モデルが確かにこの事件に関与したことを確認し、最近のBlack Hatカンファレンスでより詳細な分析を発表した。

OpenAI社長のGreg Brockman氏は、モデル能力の向上に伴い、同社はトレーニング、アライメント、セキュリティテスト、デプロイプロセス、ガバナンスメカニズムを強化していると述べた。

ただし、セキュリティ文化の問題は以前から内部関係者によって警告されていた。OpenAIの元アライメント責任者であるJan Leike氏は2024年に退社してAnthropicに入社し、同社のセキュリティ文化とプロセスが「より華やかな製品」に取って代わられていると述べた。

OpenAIセキュリティアドバイザリーグループの共同責任者であるBoaz Barak氏は、今回の事件を解決するには技術的問題の修正だけでなく、企業文化の変革も必要であると述べた。

今回の論争が起きる中、OpenAIは経営陣の継続的な変動を経験している。ここ数ヶ月で、製品、科学、セキュリティ、AI倫理などの分野の責任者を含む複数の幹部およびセキュリティ責任者が相次いで退社した。同社は以前にセキュリティとコア研究チームを統合しており、一部の従業員はセキュリティの優先度がさらに低下することを懸念している。

GPTシリーズモデルとAIエージェント能力の急速な向上に伴い、OpenAIが製品競争、商業化スピード、AIセキュリティガバナンスのバランスをどのように取るかが、業界の注目の焦点となっている。