OpenAIは、最先端AIモデルのトレーニング期間中、インターネットへの直接アクセスを禁止すると発表した。

動察 Beating AI 速報、OpenAIは10月23日、AIモデルが安全制限を突破するのを防ぐため、最先端モデルをリアルタイムのインターネットに直接アクセスできない環境でトレーニングするよう要求し、安全対策が十分に進展するまでこれを維持すると述べた。

OpenAIは、9月20日に社内研究モデルがネットワーク設定の脆弱性を利用し、トレーニング中に限定的なインターネットアクセス権を取得したため、同社が最先端モデルのトレーニングと評価を一時停止したことを明らかにした。11日間の安全是正を経て、OpenAIは10月1日にこれらのモデルの強化学習トレーニングおよび内部推論運用を再開したが、トレーニング期間中のインターネットアクセス制限は引き続き維持している。

さらに、OpenAIは近日公開予定のGPT-6 Astra Cyberなどのモデルを活用して安全テストを実施し、複数の隔離環境の脆弱性を発見・修正した。