OpenAIは、外部機関がより早い段階で人工知能モデルを評価することを許可する予定です。

BlockBeatsのニュースによると、9月23日、OpenAIは開発サイクルの初期段階で、第三者機関に自社のAIモデルの安全リスクを審査させる計画を発表した。これは、技術の潜在的危害に対する公衆の懸念の高まりに継続的に対応する取り組みの一環である。

同社は火曜日のブログ記事で、新しいAIモデルのトレーニング、評価、リリースの過程において、外部組織がこれらのモデルの技術的安全評価を行うことを許可すると発表した。OpenAIはまた、このような審査が効果的に機能するための重点を明確にし、「強力な独立性メカニズム、科学的厳密性、堅牢な安全対策、および明確な責任分担」を確保することを含めている。

同社の外部専門家との安全審査協力を担当するLama Ahmad氏は、これまでOpenAIは通常、モデルリリース前にこうした団体を招いて安全評価を行い、その能力を評価していたと述べた。「リスクが増大するにつれて、私たちは展開の問題だけでなく、トレーニングや評価といった高リスクの段階にも同時に注目したいと考えています。」