lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

中国のAIがなぜこのように急速に発展しているのか? 答えは実験室の内部に隠されています

この記事を読むのに必要な時間は 38 分
ごく普通の日本人エンジニアの見解。</h4> <p>実は、日本人エンジニアは中国のAI研究室について非常に興味を持っています。中国はAIの分野で急速に成長しており、その最新の進歩は世界中で注目されています。</p> <p>中国のAI研究室を訪れる機会を得た場合、以下のようなものに出くわす可能性があります:</p> <ul> <li>最新の深層学習プロジェクト</li> <li>大規模なデータセットとその活用方法</li> <li>革新的な自然言語処理システム</li> </ul> <p>これらの要素は、日本のエンジニアにとって非常に示唆に富んだものであり、彼らの自身のプロジェクトに活かすことができるかもしれません。</p> <p>中国のAI研究室は、その先進性とスケールの大きさから、世界中のエンジニアにとって貴重な学びの場となることでしょう。</p>
原文タイトル:中国AIラボ内部からのメモ
原著者:Nathan Lambert
翻訳:Peggy,BlockBeats


Editor's Note: 中国のAIラボは、ますます無視できない大規模モデル競争の中で重要な存在になっています。彼らの強みは、単なる優れた人材や強力なエンジニアリング、スピードの速さにとどまらず、非常に現実的な組織方法にも由来しています:概念を話すよりもモデルを作ることに重点を置く;個人のスーパースターを強調するのではなく、チームの実行を重視する;外部サービスに頼るよりも、核心技術を自ら習得する傾向が強い。


本文の著者であるNathan Lambertは、中国のトップAIラボを訪れた後、中国のAIエコシステムはアメリカと完全に同じではないことを発見しました。アメリカはオリジナルなパラダイム、資本投入、そしてトップ科学者の個人的影響力を重視していますが、中国は既存の方向での迅速な追い上げを得意とし、オープンソース、エンジニアリングの最適化、そして多くの若手研究者の投入を通じて、モデル能力を急速に先進的なレベルに引き上げています。


中国のAIがアメリカを超えているかどうかではなく、注目すべきは、2つの異なる発展パスが形成されつつあることです。アメリカは資本とスターラボによる前衛的競争に駆動されているように見えますが、中国はエンジニアリング能力、オープンソースエコシステム、そして技術の自己抑制意識によって推進される産業競争により、より産業的な競争を展開しています。


これは、将来のAI競争がモデルのランキングだけでなく、組織能力、開発者エコシステム、そして産業実行力の競争にもなることを意味しています。中国のAIの真の変化は、シリコンバレーの単なる模倣から脱却し、独自の方法で世界の最先端に参加しようとしている点にあります。


以下は原文:


杭州から上海に向かう新しい高速鉄道の中で座っていると、窓の外を見ています。起伏の激しい山脈が見え、山々には風力タービンが点在し、日没に照らされてシルエットを描いています。山々が背景をなし、目の前には広大な田園地帯と高層ビルが交互に広がる風景が広がっています。


中国から謙虚な心持ちで帰国しました。非常に不慣れな場所に行き、しかし非常に暖かく歓迎されたことは、非常に暖かく、また非常に人間味のある体験でした。私は多くのAIエコシステムの中の人々に会う機会を得ました。これらの人々は以前は遠く離れて知っていた人々でした;彼らは輝かしい笑顔と熱意で私を迎え入れ、私の仕事だけでなくAIエコシステム全体が世界的なものであることを再認識させてくれました。


中国の研究者のマインドセット


中国の企業は、言語モデルを構築していると言っても過言ではありません。彼らはこの技術の「迅速な追随者」として非常に適しています。彼らは中国の長い教育と労働文化の伝統に基づいており、西洋とやや異なる技術企業の構築方法を持っています。


アウトプットだけを見ると、最新かつ最も大きなモデルと、これらのモデルがサポートするエージェントスタイルの作業フローを考えると、中国の研究所とアメリカの研究所は大まかに似ています。本当の長期的な違いは、これらの要素がどのように組織され、形作られるかにあります。


私は常に、中国の研究所が追いつくことに非常に長けており、最先端でどのように維持されているのかは、その文化的にこのタスクに非常にマッチしていることが理由の1つだと考えてきました。しかし、直接人々と交流することなしに、このような直感をある重要な影響に帰することは自分には適していないと感じていました。中国のトップ研究所の多くの優れた、謙虚でオープンな科学者たちと直接話した後、私の多くの考えがより明確になりました。


今日、最高の大規模言語モデルを構築するためには、技術全体にわたって細心の注意を払う必要があります:データからアーキテクチャの詳細、そして強化学習アルゴリズムの実装まで。モデルの各部分には改善の余地があり、それらの改善をどのように組み合わせるかは、複雑なプロセスです。このプロセスでは、非常に利口な個人が行う仕事は、全体としてのモデルが多目標最適化で最大化されるようにするために一時的に中断する必要があるかもしれません。


アメリカの研究者は明らかに単一のコンポーネントの問題を解決するのに非常に長けていますが、アメリカにはもう1つの「自己主張」の文化があります。科学者として、自分の仕事に関心を持ってもらうよう自らアピールすると、通常より成功することがあります。そして、現代社会は新しい名声の道を進むことを推進しており、それが「トップ AI 科学者」になることです。これは直接的な衝突をもたらします。


外部からは、Llama組織がこれらの利益要求を組織の階層に組み込んだ後、政治的圧力によって崩壊したと広く言われています。他の研究所でも、一流の研究者を「なだめる」必要があるかもしれないという話を聞いたことがあり、彼らのアイデアが最終モデルに組み込まれていないことについて不満を言うのをやめさせる必要があるかもしれません。これが完全に事実であるかどうかは別として、その意味は非常に明確です:自己認識とキャリアの昇進欲求は、人々が最高のモデルを構築するのを妨げる可能性があります。アメリカと中国の間には、このような文化的なわずかな方向性の違いでも、最終的な成果に意味のある影響を与える可能性があります。


その違いの一部は、中国がこれらのモデルを実際に構築している人々に関係しています。すべての研究所で、非常に明確な現実の1つは、中心的な貢献者のかなりの割合がまだ学生であるということです。これらの研究所は非常に若いですが、これは私たちがAi2での組織方法を思い出させます:学生は仲間と見なされ、直接大規模言語モデルチームに統合されます。


これはアメリカのトップ研究所と非常に異なります。アメリカでは、OpenAI、Anthropic、Cursorなどの企業は実習機会を提供していません。Googleなど他の企業は、Geminiに関連したインターンシップを提供していますが、多くの人が心配しています。自分のインターンシップが本当の中核的な仕事から隔離されているかもしれないということを。


簡単に言えば、この軽微な文化の違いは、モデル構築能力を向上させる可能性があります。最終的なモデルを向上させるために、人々はあまり輝かしくない作業をすることを喜んで行います。AI構築に初めて参加する人々は、以前のいくつかのAIブームサイクルの影響を受けず、したがって新しいモダンな技術アプローチに迅速に適応できます。実際、私が話をした中国の研究者の1人は、これを明確に利点と見なしています。低い自己意識は、組織の拡張をある程度容易にし、人々がシステムを「操作しよう」とすることが少ないためです。多くの才能は、他の場所ですでにコンセプトが検証されている問題を解決するのに非常に適しています。など。


この時代の言語モデル構築により適した能力の傾向は、既知の固定観念とは対照的です。通常、中国の研究者は、「0から1」の創造性が豊かで新しい分野を切り拓けるような学術研究を出力する量が少ないと考えられています。


今回のいくつかの学術的なラボ訪問では、多くの責任者が、より野心的な研究文化を育成していると述べています。同時に、私たちが話したいくつかの技術責任者は、このような科学研究スタイルの変革が短期間で実現可能かどうか疑問に思っています。これは教育システムやインセンティブシステムの再設計を必要とするためであり、その変革は現在の経済バランスのもとで起こりにくいからです。


この文化は、非常に優れた「大規模言語モデル構築ゲーム」の学生やエンジニアを育成しているようです。もちろん、彼らの数も非常に多いです。


これらの学生は、中国でもアメリカと同様に、才能の流出が起きていると私に伝えました。以前は教授になりたかった研究者の中で、今は産業界にとどまることを考えている人が多いです。興味深いコメントの1つは、本来教授になりたかった研究者からもたらされました。彼は教授になりたかった理由として、教育システムに近づきたかったと述べました。しかし、その後で彼は、教育は既に大規模言語モデルによって解決されているとコメントしました。「生徒たちはなぜ私に話しかけてくるのでしょうか!」


学生たちは新鮮な視点で大規模言語モデルの分野に参入しており、これは利点です。過去数年間で、大規模言語モデルの主要なパラダイムが継続的に変化してきました。MoEの拡張から強化学習の拡張、さらにはエージェントのサポートまで。これらのいずれかをうまく行うには、広範な背景情報を非常に迅速に吸収する必要があります。文献だけでなく、所属する企業のテクノロジースタックも含まれます。


学生はこのようなことをするのに慣れていて、また「何が効果的であるべきか」というすべての仮定を謙虚な心構えで捨てることを喜んでいます。彼らは没頭し、人生をかけて取り組み、モデルを改善する機会を得るために力を注いでいます。


これらの学生は非常に率直であり、科学者が気を散らすいくつかの哲学的な議論を行うことはありません。モデルの経済的影響や長期的な社会的リスクについてどのように考えるか尋ねたとき、複雑な観点を持ち、これらの問題に影響を与えたいと考えている中国の研究者は明らかに少ないです。彼らは自分たちの役割が最高のモデルを構築することであると考えています。


この違いは非常に微妙であり、否定されやすいものです。しかし、優雅で賢明で、英語で明確に表現できる研究者と長時間話すときに、この違いを最も感じやすいのです。AIについてより哲学的な質問をし、基本的な問題が宙に浮いているのを感じると、相手は単純な困惑を示します。彼らにとって、これは範疇エラーです。


実際、1人の研究者は、Dan Wangの有名な判断を引用していました:弁護士主導のアメリカと比較して、中国はエンジニア主導です。これらの問題について話す際、彼はこの比喩を使用して、彼らが望む構築を強調しました。中国では、DwarkeshやLexのような世界的なポッドキャストで中国の科学者を育成するような体系的な経路は存在しません。


私は中国の科学者に、AIによってもたらされる将来の経済の不確実性、単純なAGIの能力を超える問題、あるいはモデルがどのように振る舞うべきかについてコメントしてもらおうとしました。最終的に、これらの問題は私に、これらの科学者の育ちと教育背景を見せてくれました。彼らは自分の仕事に非常に集中していますが、彼らは社会がどのように組織され、変化すべきかについて議論や表現を奨励していない環境で成長しました。


遠くから見ると、特に北京は、私にとってシリコンバレーのような感じがしました:競争力のある研究所が、歩いて数分またはタクシーで行ける距離にあります。着陸後、ホテルに向かう途中にアリババの北京キャンパスに立ち寄りました。その後36時間で、私たちはインテリジェントスペクトルAI、Dark Side of the Moon、清華大学、Meituan、Xiaomi、そして01.aiを訪れました。


中国では、Didiで移動するのがとても便利です。XLモデルを選択すると、マッサージチェア付きの電動小型バンに割り当てられることがよくあります。私たちは研究者に才能の争奪戦について尋ねると、これは米国で経験するものと非常に似ていると言いました。研究者の転職は一般的で、人々がどこに行くかは、ほとんどの場合、その時点で最も良い雰囲気がどこにあるかに大きく左右されます。


中国では、大規模言語モデルコミュニティは、部族間の闘争ではなく、生態系のような感覚を与えます。多くの非公式の会話で、私が聞いたのは同僚へのほぼすべてが尊敬の念でした。すべての中国の研究所は、ByteDanceとその人気のある豆包モデルを警戒していますが、それは中国唯一の先進的なクローズドソース研究所だからです。同時に、すべての研究所はDeepSeekを非常に尊敬しており、それが最も優れた研究センスを持つ研究所だと考えています。米国では、非公式の交流をする際には、火花がすぐに散ります。


中国の研究者の謙虚さの中で、最も印象的だったのは、彼らがビジネス面でも頻繁に肩をすくめ、それが彼らの問題ではないと言うことです。一方、米国では、データの売買者、算力、そして資金調達など、あらゆる生態系レベルの産業トレンドにひたっているように見えます。


中国 AI 産業と西洋の研究所の異なる点と類似点


今日、AI モデルを構築することが興味深い理由は、これが単に優れた研究者たちを一つの建物に集めてエンジニアリングの奇跡を共同で創り上げるだけではなくなったからです。過去は本当にそのようなものでしたが、AI ビジネスを維持するために、大規模言語モデルはハイブリッドになりつつあります:それは構築、展開、資金調達、およびこの創造物の採用を推進することを関係しています。


トップの AI 企業は複雑なエコシステムの中に存在しています。これらのエコシステムは資金、コンピューティングパワー、データなどのリソースを提供し、最前線を推進し続けるためのものです。


西洋のエコシステムでは、大規模言語モデルを作成および維持するために必要なさまざまな投資要素の統合方法が、比較的十分に概念化され、描かれています。その代表例としては、Anthropic と OpenAI があります。したがって、中国の研究所がこれらの問題に対する考え方が明らかに異なることを発見できれば、異なる企業が将来どの有意義な違いに賭ける可能性があるかがわかります。もちろん、これらの将来も資金調達や/またはコンピューティングパワーの制約を強く受けます。


これらの研究所とのやり取りから得られた最大の「AI 産業レベル」の洞察をまとめました:


第一に、国内の AI 需要は早くも現れています。
広く議論されている仮定の一つは、中国の AI マーケットがより小さいため、中国企業は通常、ソフトウェアに対して支払いを行うことを嫌うため、研究所を支えるほどの大規模な推論市場を展開することができないというものです。


しかし、この判断は、SaaS エコシステムに相対するソフトウェア支出にのみ適用されます。中国の歴史的に SaaS エコシステムは非常に小さかった。一方で、中国には明らかに膨大なクラウド市場がまだ存在しています。


未回答の重要な質問の1つは、中国企業の AI に対する支出が、SaaS マーケットにより似るのか(つまり、規模が小さい)、それともクラウドマーケットにより似るのか(つまり、基盤的な支出)。この問題については、中国の研究所内でも議論が行われています。総じて、AI は新しいツールの周囲で形成される市場が成長しないだろうという心配を誰も持っていないように感じます。


第二に、ほとんどの開発者がクロードの影響を強く受けています。
クロードは名目上は中国で禁止されていますが、中国のほとんどの AI 開発者はクロードに非常に魅了されており、彼らがソフトウェアを構築する方法をどのように変えたかについてです。過去に中国がソフトウェアを購入することをあまり好まなかったとしても、私は中国が大規模な推論需要の成長段階に入る可能性があると考えています。


中国のテクノロジー関連の人々は非常に実際的で謙虚であり、やる気があります。この点は、「ソフトウェアにお金を支払わない」歴史的な習慣よりも強く感じます。


一部分の中国の研究者は、Kimi や GLM のコマンドラインツールなど、独自のツールを使用して構築していると言及するかもしれませんが、誰もが Claude を使用していると言います。驚くべきことに、Codex について言及する人はほとんどおらず、Codex は明らかにベイエリアで急速に普及しています。


第三に、中国企業は一種のテクノロジー所有権意識を持っています。
中国文化は、活気に満ちた経済エンジンと融合しており、予測困難な結果を生んでいます。私が深く感じた一つの印象は、数多くの AI モデルが、この地域の多くのテクノロジー企業が現実世界で取る実用的なバランスを反映していることです。総合的な計画は存在しません。


この業界は、バイトダンスやアリババへの尊敬を基盤としています。これらは多くの市場を強力なリソースで獲得すると見なされている大手の在籍企業です。DeepSeek は尊敬されるテクノロジーのリーダーですが、市場の主導企業ではありません。彼らは方向性を示していますが、市場で勝利するための構造は持っていません。


これには、美団やアントグループなどの企業が含まれます。西洋人は、なぜこれらのモデルも構築するのか驚くかもしれません。しかし、実際には、彼らは大規模な言語モデルを将来の技術製品の中核と見なしているようですので、強力な基盤が必要です。


強力な汎用モデルを微調整する際、オープンソースコミュニティからのフィードバックにより、彼らのテクノロジースタックはより堅牢になり、自社製品のために内部の微調整バージョンを保持できます。この業界での「オープンファースト」の考え方は、実用主義によって大部分が定義されています:これによりモデルは強力なフィードバックを受け取り、オープンソースコミュニティへのフィードバックが行え、彼ら自身の使命を支援できます。


第四に、政府の支援は実在しますが、規模はまだ明確ではありません。
多くの人々が中国政府がオープンな大規模言語モデルの競争を積極的に支援していると主張しています。しかし、これは多層構造かつ比較的非中央集権的な政府システムであり、各レベルには自分たちが何をすべきかを明確に定めた手順書はありません。


北京の異なる地域は競争し、科技企業にオフィスを置くよう説得しようとします。これらの企業に提供される「支援」には、ほぼ確実にライセンスなどの官僚的手続きから開放されることが含まれます。しかし、この支援はどこまで及ぶのでしょうか?政府の異なるレベルは、人材を引き寄せるのに役立ちますか?彼らは半導体を密輸するのを手伝うことができますか?


訪問全体を通して、政府の関心や支援に関する言及は確かにありましたが、それに関する情報は私が断定的にレポートするには十分ではありません。また、最高レベルの政府がどの技術的決定に影響を与えているかについては断定的に示す兆候もありません。


第五,データ産業は西洋のように発展していない。
以前に聞いた話では、Anthropic や OpenAI は個々の環境に1,000 万ドル以上を投資し、強化学習の最前線を推進するために年間数十億ドルを超える累積支出を行っていると聞いています。したがって、私たちは、中国の研究所がアメリカの企業から同様の環境を購入しているか、それとも国内のエコシステムがそれらをサポートしているかを知りたいと思っています。


答えは、厳密には「データ産業が存在しない」というわけではなく、彼らの経験に基づくと、データ産業の品質は比較的低いため、多くの場合、より良いアプローチは内部で環境やデータを構築することです。研究者自身が多くの時間を強化学習トレーニング環境の作成に費やし、ByteDance や Alibaba などの大手企業は、これをサポートするための内部データ注釈チームを持つことができます。これはすべて、「購入ではなく自前構築」のスタンスに呼応しています。


第六、より多くの NVIDIA チップに対する渇望が非常に強いです。
NVIDIA の計算力はトレーニングのゴールドスタンダードであり、誰もがより多くの計算力に制限されています。供給が充足すれば、彼らは明らかに購入するでしょう。華為など他のアクセラレータも推論面で高い評価を受けています。無数の研究所が華為のチップを使用できます。


これらのポイントは非常に異なる AI エコシステムを描いています。西洋の研究所の運営方法を迅速に中国の同僚に適用しようとすると、しばしば範疇の誤りを引き起こします。重要な問題は、これらの異なるエコシステムが実質的に異なるモデルタイプを生み出すか、それとも中国のモデルが常にアメリカの最先端モデルの約3〜9ヶ月前に類似して解釈されるかということです。


結論: グローバルなバランス


この旅行の前、私は中国についてほとんど何も知りませんでした。しかし、去る時には、まるで学び始めたばかりのような気持ちでした。中国はルールやレシピで表現できる場所ではなく、非常に異なる力学と化学反応を持つ場所です。その文化は非常に古く、深いものであり、国内の技術構築の方法と完全に絡まっています。私にはまだ学ぶべきことがたくさんあります。


アメリカの現在の権力構造の多くは、彼らの中国観をそれぞれの決定における重要な心理的ツールとして捉えています。中国のほぼすべてのトップAI研究所と正式または非公式に対面した後、西洋の意思決定方法ではモデリングが難しい多くの中国固有の品質と本能があることに気づきました。


これらの研究所は非常に実践的であり、必ずしもオープンソースの絶対主義者ではなく、彼らが構築するすべてのモデルを公開リリースするわけではありません。しかし、彼らは開発者を支援し、エコシステムを支援し、そしてオープン性を自身のモデルをさらに理解するための手段として積極的に活用しています。


ほぼすべての中国の大手テクノロジー企業が独自の汎用言語モデルを構築しています。メタプラットフォーム企業である美団や大規模な消費テクノロジー企業である小米などが、オープンウェイトモデルをリリースしているのを見てきました。同様の米国の企業は通常、サービスを購入するのみです。


これらの企業が大言語モデルを構築しているのは、ホットな新しいもので存在感を示すためではなく、より深い、根源的な欲求からです。自社のテクノロジースタックをコントロールし、最も重要な技術を開発したいという欲求です。私がノートパソコンから頭を上げると、地平線にはクレーンが連なって見えることがよくありますが、この光景は中国のより広範な建設文化や建設エネルギーと非常に一致しています。


中国の研究者の人間味、魅力、誠実さは非常に親しみやすく感じられます。個人的には、米国で慣れているような残酷な地政学的議論は、彼らには全く浸透していません。この世界には、より多くのこの種のシンプルな前向きさがあってもいいのではないかと思います。AIコミュニティの一員として、私が今より懸念しているのは、国籍のラベルやメンバーシップ、グループ間に亀裂が生じつつあることです。


私が米国の研究所がAI技術スタックのあらゆる部分で明確なリーダーになることを望んでいないと言うと嘘になります。特に私が多くの時間を費やしているオープンモデルの分野では、私はアメリカ人であり、これは正直な選好です。


同時に、オープンエコシステム自体が世界中で繁栄することを望んでいます。なぜなら、これによりより安全で、よりアクセスしやすく、より有用なAIが世界に生み出されるからです。ただし、現在の問題は、米国の研究所がそのようなリーダーシップポジションを取るかどうかです。


この記事を書き終えた時点で、行政命令がオープンモデルに与える影響に関するさらなる噂が広がっています。これは、米国のリーダーシップとグローバルエコシステムの連携関係をさらに複雑にする可能性があります。これは私に自信を与えるものではありません。


私が月の裏側、知識スペクトル、美団、小米、通願千問、アント金光、01.ai、および他の機関で幸運にも話をする機会を得たすべての素晴らしい人々に感謝します。みなさんは非常に熱心で、自分の時間を惜しまずに提供してくれました。私の考えが徐々に形作られるにつれ、中国に関する観察、文化全般、さらにはAI領域そのものについても引き続き共有していきます。


明らかに、この知識はAIの最先端の進化と直接関係しています。


[Original Article Link]



BlockBeats の公式コミュニティに参加しよう:

Telegram 公式チャンネル:https://t.me/theblockbeats

Telegram 交流グループ:https://t.me/BlockBeats_App

Twitter 公式アカウント:https://twitter.com/BlockBeatsAsia

举报 訂正/通報
ライブラリを選択
新しいライブラリを追加
キャンセル
完了
新しいライブラリを追加
自分のみが閲覧可
公開
保存
訂正/通報
送信