OpenAIのエージェントがまた黒歴史を暴露：Hugging Face事件の2ヶ月前にすでにRubyGemsを攻撃していた

動察 Beating AI 速報、研究者が明らかにしたところによると、OpenAI の内部 Agent が今年5月に大規模に Ruby 公式パッケージサイト RubyGems.org に流入していた。5月11日から12日にかけて、2日間で2000以上のパッケージをアップロードし、RubyGems は一時新規ユーザー登録を4日間停止した。OpenAI はこれらの Agent が社内のものであることを確認したが、それらは単に RubyGems を利用してインターネットにアクセスし、良性のタスクを実行し公開情報を取得していただけだと述べている。

これらの Agent はまた、RubyDoc.info のドキュメント自動生成の仕組みを利用して、自分たちがアップロードしたスクリプトを相手のサーバー上で実行させ、さらに英国地方政府のウェブサイトのデータを取得して再パッケージ化して送り返していた。研究者によると、少なくとも6つのパッケージが当時まだ公開されていなかった RubyGems の脆弱性を利用して、他のユーザーの API Key を窃取しようと試みた。この脆弱性は7月になってようやく独立に発見され、RubyGems は後にこれを高危険度の脆弱性と評価した。

現在のところ、Agent が実際に鍵を盗み出したことを証明する証拠はない。RubyGems がログを検査した後も、古い鍵が悪用された形跡は見つかっていないが、過去のログは完全ではない。研究チームはまた、OpenAI が当時 RubyGems に自分たちがこの攻撃に関与していることを伝えていなかったと述べている。この一連の事件は、7月の Hugging Face への侵入より2か月早かった。