lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

JevがAttentionの管理を始め、MiniMax H3の生成時間が41.7%削減された。

動察 Beating AI 速報、日本の開発者 Kamimoto が Jev を MiniMax H3 の動画生成プロセスに組み込んだ。各層の動作状態に応じて、1%、3%、5%、10% の4段階から Attention をどれだけ保持するかを選び、さらに Sparse Attention が具体的にどの計算を省略できるかを決定する。


RTX 4070 12GB 上で、同じ約5秒の動画を生成する場合、オリジナルの 4-step 方式では6分07秒かかるが、Sparse Attention + Jev の動的制御を加えると3分34秒に短縮され、総所要時間は41.7%短縮された。

ただし、この41.7%をすべて Jev の成果と見なすことはできない。Sparse Attention 自体が Attention の一部を計算しないことで高速化を実現しており、5%または10%を固定で保持しても速くなる。Jev が行っているのは動的調整である:重要な層は多く計算し、重要でない層は少なく計算する。

現時点では、この動的調整が固定比率よりも画質が良いと証明されておらず、著者も品質が十分に検証されていないと明言している。実験コードはすでにオープンソース化されている。

関連おすすめ
ゴールドマン・サックスは、MiniMaxが新製品とコスト優位性によってバリュエーションを回復できると見ている。
お金が少ない、カードが少ない、人数が少ないという状況が、逆に最高のエンジニアリング能力とアーキテクチャ革新を引き出しました。
ブランドに頼らず、宣伝に頼らず、8日間で開発者によるフットソール投票を行います。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了