lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

CoinbaseはAI支出を約半分に削減し、GLM 5.2やKimi 2.7などのオープンウェイトモデルをデフォルトオプションとして設定する試みを行っている。

BlockBeats ニュース、6月27日、CoinbaseのCEOであるBrian Armstrong氏は、トークン使用量が指数関数的に増加する一方でAI支出を安定させるためには、使用時の摩擦や支出通知を設定するのではなく、より優れたデフォルトモデル、ルーティング、キャッシュメカニズムが重要だと述べた。CoinbaseはLLMゲートウェイを通じて、デフォルトでGLM 5.2やKimi 2.7などのオープンウェイトモデルを試用しており、同時にエンジニアにはタスクに応じて適切なモデルを選択するよう促している。同氏によると、従業員の91%が使用上限に達したことがないため、同社は上限を引き下げて通知を増やすのではなく、より低コストのデフォルトモデルに移行したという。


モデルルーティングに関して、Coinbaseはカスタムプロセスでプロンプトを前処理し、キャッシュヒット率とモデル価格に基づいてタスクを最適なモデルにルーティングする。例えば、計画段階では最先端モデルが必要かもしれないが、実行段階でそれを使用するのは過剰かもしれない。同氏は、将来的には人間がモデルを選択するのではなく、AIが自動的にそのタスクを実行できるようになると考えている。


Armstrong氏はまた、キャッシュミスがコストを押し上げる最も簡単な方法だと述べた。Coinbaseのリクエストはすべてキャッシュ認識機能を備えており、ホットキャッシュを可能な限り再利用できるようになっている。例えば、キャッシュを適切に実装した後、LibreChatのキャッシュヒット率は5%から60%に向上した。さらに、Coinbaseはエンジニアに対し、タスク切り替え時の新しいセッション開始、ファイルコンテキストの縮小、未使用ツールの切断など、コンテキストを簡潔に保つよう求めている。目標はAI使用量を抑制することではなく、指数関数的な成長を支えるインフラを構築することだ。これらの実践により、CoinbaseはAI支出をほぼ半減させながら、トークン使用量は引き続き増加している。

本ニュースはGateと共同でお届けします Gate Moneyは、Crypto・株式・決済・資産運用をワンストップで提供します
関連おすすめ
Robinhood は主流の金融をターゲットにしており、Coinbase は暗号通貨のインフラに重点を置いています。
サブスクリプションとサービス収入はすでにCoinbaseの純収入のほぼ半分を占めている
Coinbaseは、その名前が示すように、暗号通貨反乱軍の拠点となることを望んでいる。
Echo と Base が協力して ICO 時代の到来を告げます。Coinbase が投資した 40 のプロジェクトの中には、どの Alpha プロジェクトがありますか?
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了