lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

罗福莉:ラージモデルが後続トレーニング時代に入る中、トップチームの事前トレーニングと後続トレーニングのコンピューティングパワー比は1:1に達する。

根據 動察 Beating 的監測,小米大模型團隊負責人羅福莉指出,大模型競爭已從預訓練主導的 Chat 時代,全面轉向後訓練(Post-train)主導的 Agent 時代。當前的核心賽點是「如何在 Agent 上做好強化學習(RL)的 scaling」。

這一範式轉變直接導致算力分配的重構。羅福莉透露,在 Chat 時代,用於研究、預訓練和後訓練的算力比例約為 3:5:1;而在如今的 Agent 時代,合理的算力分配比例變為 3:1:1,即預訓練與後訓練的算力投入已基本相當,目前頂尖模型團隊在這兩項的投入比例已達到 1:1。

同時,系統架構的要求也發生巨變。過去的 RL 基礎設施主要以「模型推理引擎」為核心,處理純文本演算;現在的基建必須以「Agent」為核心,支持異構集群調度,並能容忍 Agent 在複雜工作流中因各類不可控因素中斷的模糊性。

举报 訂正/通報
関連おすすめ
どれだけ大きな機械に自分を入れれば、自分の賢さを無駄にしないと言えるのだろうか。
技術は常に高尚な贅沢品であるべきではありません。
コストそのものが進歩そのものである。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了