原文タイトル:すべての人に利益をもたらすために作られた:私たちの計画
原文著者:Sam Altman、Jakub Pachocki(OpenAI)
原文編集:小鹿(BlockBeats)
数世代に一度、すべてを変える新技術が登場する。
想像してみてほしい。1920年代、アメリカの辺鄙な町に電力がもたらされた瞬間を。
送電線が敷かれる前、日常生活は物理的な制約に縛られていた。水を汲み、衣類を手洗いし、氷で食料を保存し、日没後はほとんどの活動ができなくなった。電力は一夜にしてすべての家庭を変えたわけではなく、恩恵を受ける度合いも人によってまちまちだった。
しかし、電力が徐々に普及するにつれ、日常は静かに変化していった。夜の灯りは一日を延ばし、電動ポンプや家電製品、冷蔵庫は多くの重労働を軽減した。ラジオは何百マイルも離れたニュースや音楽、感情のつながりを家庭や公共の場にもたらした。
電力の当初の目的は人々の生活を便利にすることだったが、そのより深い影響は、より多くの人々がそれを使って新たな可能性を創造できるようになったことにある。時が経つにつれ、新たな可能性が次々と現れた。機械とコンピュータは医学、工学、そして多くの分野の進歩を劇的に加速させた。
20世紀末までに、人間の平均寿命は20年以上延び、インフレ調整後の中央値収入は約3倍に増加した。
これらの成果は、医療、衛生、生活水準の向上に大きく依存しており、その多くは電力の広範な普及とそれに関連する技術の進歩によって促進または加速されたものである。
AIは今、この現象を再現しようとしている。AIは間もなく非凡な能力を備えるだろう。しかし重要なのは技術そのものではなく、人々がそれを使って何ができるかだ。
それは、医療費請求書を理解する手助け、新しいスキルを学ぶこと、小さなビジネスを始めること、年老いた親の世話をすること、法律や財務上の決定を理解すること、アイデアを現実に変えること、さらには科学的発見を推進することに役立つだろう。
夜の灯りがもたらす新奇さはすぐに薄れるかもしれないが、人々がその光を使って何をするかは薄れない。そして、技術が常に繁栄への確かな道であるからこそ、私たちはAIがすべての人に開かれ、誰もが自分の必要に応じて、どこでも、どのようにでも使えるようにすべきだと考える。
しかし、そんな未来は自然には訪れない。
変革をもたらすテクノロジーは、権力を集中させることも分散させることもできる。少数の人の生活を便利にする一方で、より多くの人に機会を広げることも可能だ。私たちの理念は、一つの信念に基づいている。AIは人々に奉仕すべきであり、人々が自らの目標を追求し、能力を高め、その技術の恩恵を可能な限り広く社会に還元する手助けをするべきだ。
私たちの最初の約束は、人間に奉仕するためのAIを構築することだ。つまり、少数の企業、政府、個人に権力が集中するのではなく、広く大衆に力を与えたいと考えている。
私たちは、より安全な未来とは、権力が広く分散され、より多くの人々が強靭なエコシステムの構築に参加できる世界だと信じている。
私たちがAIに楽観的なのは、それが人間の能力と幸福を拡張できると信じているからだ。
しかし同時に、リスクについても冷静に認識している。強力なシステムは安全性を確保し、人間の意図と一致し、人間の監督と制御を受け入れなければならない。OpenAIの使命は、AGIが全人類に利益をもたらすことを確実にすることだ。つまり、私たちが構築するシステムは、人間を代替するのではなく、人々が自ら選択したことをより多く実行できるように支援するものだ。
すべてを完全に自動化することは、私たちが望む未来ではない。
それは絶望的であり、危険でもある。AIは人間を代替するのではなく、人間が自らを向上させる手助けをすべきだ。AIシステムの能力が高まるにつれ、人間の役割はさらに重要になる。方向性を見極め、トレードオフを評価し、判断を下し、価値観、センス、思いやり、責任を仕事に持ち込むことだ。
未来において、人間の中心的な使命の一つは、何をする価値があるかを決めることになるだろう。
私たちは、今後数年のうちに、AIがAI研究を行うことが進歩の速度を決める重要な要素になると信じている。
これは極めて重要だ。なぜなら「アライメント」自体が深遠な研究課題だからだ。迅速かつ深い進展を遂げるために、私たちの研究者はAIシステムを活用してアイデアを検証し、エラーを発見し、代替案を探求し、私たちと共に反復作業を行う必要がある。
しかし、技術の進歩が速まるほど、人間の判断と公共の協力はより重要になり、軽視されることはない。未来は、人間、制度、社会によって共に形作られるべきであり、最も強力なシステムを構築する企業だけが決めるものではない。
最先端AI開発の進展に伴い、国家レベルおよびグローバルレベルでの調整がますます重要になると予想しています。
私たちは長年にわたり、最終的には主要なAI勢力を調整し、壊滅的なリスクを共同で低減するための国際機関を設立すべきだと確信してきました。
協力と共通の安全を標準とし、それを前進の道筋の重要な一部とすること——特に商業競争や国家間の競争から生じる問題を避けて通れないからです。
そのような組織の目標の一つは、世界が協調した行動を取れるようにすることであり、必要に応じて最先端分野の開発を一時的に緩め、社会の回復力、安全性、およびアライメント能力が技術の進歩に追いつけるようにすることです。
現在、OpenAIには3つの主要な目標があります:
自動化されたAI研究者の構築——研究プロセス自体を加速し、徐々に自動化するAIシステムであり、同時に制御可能性、説明責任、および人間との緊密な連携を維持します。
社内の判断では、2028年3月までに、私たちの研究のかなりの部分がAIシステムと自社の研究者との協力によって行われるでしょう。
アライメント研究で十分な進展を遂げるためには、AIと共に反復的に進化する必要があると考えています。これにより、「ポストAGI世界」への移行を共にナビゲートし、未来への道筋を集団で決定できるようになります。
経済発展の加速——科学の進歩を加速し、生産性を向上させ、経済成長を促進すると同時に、その成果が広く共有されるよう努めます。
誰もがAIが生み出す繁栄から有意義な分け前を得る機会を持つべきです。
地球上のすべての人に個人用AGIを提供する——人類の最も変革的な技術の一つから、各自が選んだ方法で恩恵を受けられるようにします。
これらすべてを実現するために、私たちはOpenAIの第3フェーズに入っています。
OpenAIの第1フェーズは、AGIに関する研究でした。
第2フェーズは、研究が現実世界と結びつき始め、私たちがプロダクト企業になったことから始まりました:システムを展開し、人々の使用方法から学び、安全性と「ミッションアライメント」を前提にAGIの進展を推進しました。
現在、私たちは第三段階に突入しています。
経済はAIを中心に再構築されつつあります。核心的な課題は、高度なAIを誰もが手軽に利用でき、安全で実用的かつ十分に使いやすく、すべての人や組織がその恩恵を受けられるようにするにはどうすればよいか、という点に変わっています。
最先端の能力は仕事の一部に過ぎず、より大きな課題は、その能力を人々が実際に創造や発展のために活用できるツールへと変えることです。
最も重要なのは、権力が広く分散されることが、より良い未来につながると私たちは信じていることです。人類の歴史が示すように、権力の集中は社会を脆弱にし、権力の広範な共有は社会をより強靭で、変化に適応しやすく、より自由にします。
これこそが、普及性が重要である理由であり、安全性、プライバシー、手頃な価格、オープンなエコシステム、そして公の監視が重要である理由です。
素晴らしいAIの未来とは、少数の機関が能力と利益の大半を掌握する未来ではありません。
それは、多くの人々、多数の企業、各地のコミュニティ、そして各国が構築し、恩恵を受け、権力を保持できる未来であるべきです。私たちは、この変革は本来、すべての人のものであると信じています。
もし私たちが正しく行動すれば、AIは大衆の生産性、創造性、科学的進歩、そして経済的機会を高める基盤となり、私たちの使命である「AGIが全人類に利益をもたらすこと」を実現できるでしょう。
BlockBeats の公式コミュニティに参加しよう:
Telegram 公式チャンネル:https://t.me/theblockbeats
Telegram 交流グループ:https://t.me/BlockBeats_App
Twitter 公式アカウント:https://twitter.com/BlockBeatsAsia