動察 Beating AI速報、OpenAI CEOのアルトマン氏はSemaforカンファレンスでRSI(再帰的自己改善)、つまりAIを次世代のより強力なAIの研究開発に関与させ、自らの能力を絶えず向上させることについて語った。
司会者が、OpenAIはすでにこの能力を実現したのかと尋ねた。
アルトマン氏は、AGI(汎用人工知能)と同様に、AIの自己改善にも明確な線引きは難しいと答えた。以前はAGIがなく、今突然ある、と単純に言うことはできない。
その結果、この発言は切り取られ、アルトマン氏がOpenAIはすでにAGIを実現したと自ら宣言した、と伝えられた。
実際には、同氏はその後、OpenAIの進展について明確に説明した。同社は確かに自社のAI技術を活用して次世代モデルの研究開発を加速している。しかし、AIが人間の監督なしに自律的に次世代モデルを設計し、自らを絶えず改善することについては、彼の答えは「絶対にない」だった。
アルトマン氏はまた、OpenAIはRSIでさらに先へ進むこともできたが、現時点ではそうすることの安全性を保証できないため、速度を落とすことを選んだと述べた。