lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

OpenAI共同創業者のJohn Schulman:AIアライメントは公共科学であるべきで、少数のテック企業が主導すべきではない

動察 Beating AI 速報、Thinking Machines の共同創業者で OpenAI の共同創業者である John Schulman 氏は A16Z のポッドキャスト番組で、AI アラインメントは一部のテック企業だけの専有研究であるべきではなく、世界に向けた公共科学として発展させ、より多くの人々が AI の価値観の形成に参加できるようにし、少数の企業の判断に過度に依存することを避けるべきだと述べた。


再帰的自己改善(RSI)が徐々に進展するにつれ、AI はすでにモデル研究開発を支援し始めている。OpenAI の最高研究責任者である Mark Chen 氏は、AI の研究開発プロセスに RSI による加速効果の初期兆候がすでに現れており、現在の進捗は約 25% から 50% であるが、AI は依然として価値のある研究方向を独立して判断することが難しく、次世代モデルの自主開発にはまだ至っていないと明らかにした。


Mark Chen 氏は同時に、モデルの自律性が高まるにつれ、その目標が人間の意図と一致しない場合、長時間の稼働によって予期せぬ副次目標が生じる可能性があると警告した。ただし、より強力な AI は逆に研究者がモデルの行動を監視し、アラインメントの問題を発見・修正するのを助けることも期待される。


John Schulman 氏は、AI アラインメントは技術的な問題だけでなく、AI が従うべき価値観を誰が決めるかという問題でもあり、ユーザーと社会は AI の価値観に参加し形成するより多くの余地を持つべきだと強調した。

举报 訂正/通報
関連おすすめ
AnthropicはAIプログラミングに早くから賭け、OpenAIの戦略的リズムはずれました
《ニューヨーカー》はOpenAIの権力闘争を振り返り、Sam Altmanのガバナンスの亀裂と信頼問題を明らかにしました。
Microsoft Azureの独占が終了した後、OpenAIは企業の実務フローにAIエージェントを導入しようとしています。
マイクロソフトは、「OpenAIの唯一のパートナー」から「OpenAIの顧客の一つ」に変わりました。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了