lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

バイト10兆パラメータモデルのトレーニングが開始され、規模はAnthropic Mythos5に迫っている。

動察Beatingのモニタリングによると、英国『フィナンシャル・タイムズ』は3人の関係者の話として、バイトダンスが最高10兆パラメータの大規模モデルの事前学習を開始したと報じた。プロジェクトはまだ初期段階にあり、最終的な規模は未確定だ。上限でトレーニングした場合、Kimi K3の3倍以上となり、現在知られている中国チームの中で最大のパラメータ規模のモデルとなる。

バイトダンスは今回、モデルサイズを直接Anthropicのフラッグシップ付近まで押し上げた。AnthropicはMythos 5のパラメータ数を公表したことはないが、『フィナンシャル・タイムズ』は業界の試算として、Mythos 5は約8兆パラメータ、Fable 5は約5兆パラメータと報じている。バイトダンスの新モデルが10兆に達すれば、少なくともパラメータ規模では米国の最先端クローズドソースモデルと同じ水準に入る。

このモデルは現在まだ事前学習段階(膨大なデータでモデルの基礎能力を訓練する段階)にある。『フィナンシャル・タイムズ』によると、この段階は通常3〜6か月かかり、その後さらに後続学習を続け、順調に進めば公開される。パラメータが多いほど能力が必ず強いとは限らず、最終的な性能はアーキテクチャ、トレーニングデータ、トレーニング方法にも依存する。

張一鳴氏は最近、Seed内部で競合他社モデルの蒸留に明確に反対し、チームに短期的な遅れを受け入れ、自社開発で世界のトップ層に挑むよう求めた。この最高10兆パラメータの新モデルは、バイトダンスにとってこれまでで最も積極的な規模への賭けである。

関連おすすめ
AnthropicはSpaceXと協定を締結し、同社のデータセンターの計算能力を取得しました。
AnthropicのチーフプロダクトオフィサーMike Kriegerの最新インタビュー
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了