OpenAIの首席科学者がAIの急速な発展に警告を発し、現在は「極度の慎重さ」が必要だと述べた。

動察 Beating AI 速報、OpenAI のチーフサイエンティストであるヤクブ・パチョツキ氏は、人工知能の発展速度が速すぎて、ますます人間が理解・制御することが難しくなっており、「今は極度の慎重さが必要だ」と警告した。

同氏は、AI モデルはすでにコンピューターを操作し、人間や他の AI と協力して研究を進めることができ、近い将来には人間の介入なしに「再帰的自己改善」を実現する可能性もあると指摘した。パチョツキ氏は、機械知能の急速な向上がもたらす結果に備えている人がいないことを懸念していると述べた。

開発者は AI を人間の利益に沿うように調整できるほか、必要に応じて将来の研究開発速度を緩めることも可能だ。同氏は、業界が共通の安全基準を確立するまで、AI ラボが「自主的に研究開発を減速する」ことが標準になると予想し、期待している。現在、OpenAI は GPT-6 Astra が高度なサイバーセキュリティ能力を持つため、限定的なリリース方式を採用している。