OpenAIは製品責任者のTiboに安全対策の立て直しを主導させ、エンジニアの4分の1を脆弱性修正に異動させた

動察 Beating AI 速報、OpenAI が内部セキュリティの大規模な刷新を開始し、製品開発を担当する幹部 Thibault Sottiaux（Tibo）が自ら先頭に立っている。今年8月、彼は約4分の1のプロダクションエンジニアを動員し、内部システムのセキュリティ脆弱性の修正に専任させた。

11月2日、OpenAI はさらに新たなセキュリティテストの開始を発表し、サイバーセキュリティ企業 Cathedral と協力して、自社モデルと外部のセキュリティ研究者を活用してシステムの脆弱性を共同で発見する。同時に、同社は重大な脆弱性に対する報奨金を元の4倍以上に引き上げた。

今回の刷新の原因は、OpenAI が長年にわたり十分に解決できなかった内部セキュリティ問題にある。ロイターが取材した5名の関係者によると、ChatGPT の公開前から、従業員は経営陣や取締役会に対して、社内資料の公開範囲が広すぎ、セキュリティチェックも十分に厳格でないと何度も警告していた。

当時、OpenAI は大量のプロジェクトコードを同じリポジトリに置いていた。従業員がアクセス権を持っていれば、自分の業務と無関係な多くのプロジェクトコードを見ることができた。一部の研究資料も GitHub や Slack に置かれ、一部の内部テストツールには定期的なセキュリティチェックすら欠けていた。従業員は、このような管理体制では外部のハッカーやさらには外国政府が同社の中核技術に容易に接触できるようになることを懸念していた。

早くも2023年、OpenAI 内部でデータ漏洩事件が発生していた。ハッカーが同社の Slack に侵入し、GPT-4 モデルの技術的詳細を窃取した。OpenAI は後に、ハッカーが侵入したのは一般従業員もアクセスできる内部チャンネルにすぎなかったと説明した。

今年7月には、セキュリティ企業 Hacktron AI の3名の研究者が Anthropic のモデルを利用して、複数の OpenAI 従業員の ChatGPT アカウントを突破し、同社のコードリポジトリを含む一部の内部システムに侵入した。

より広く知られているのは、今年10月の内部事件である。米国司法省は、サウジアラビア国籍の OpenAI エンジニアが会社の幹部会議室に隠し録音機器を設置したと告発した。彼はまた、内部 AI ツールを利用して幹部のサウジアラビア訪問日程や、どの幹部がサウジアラビアの大臣との会議に参加する可能性があるかを照会していた。司法省の文書によると、彼はサウジアラビアの AI プロジェクトへの参加を勧誘しようとした王室メンバーと連絡を取り続けていた。

相次ぐ事件の暴露により、従業員が数年前に提出したセキュリティ警告が再び注目を集めている。OpenAI は以前、研究開発の速度と情報の開放性をより重視していたが、現在は内部権限を厳格化し、セキュリティチェックを強化し、大量のエンジニアを投入して脆弱性の修正に当たっている。