lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

トランスフォーマー八賢者、9年後:グーグルは一人も引き留められず

この記事を読むのに必要な時間は 52 分
8人の著者が9年を経て全員Googleを去り、それぞれ次の答えを探し求めている。
原文タイトル:「Transformerの8人の生みの親、今どこにいるのか?」
原文出典:機器之心


6月18日、Transformer論文の共同著者の1人であるNoam ShazeerがX上で退職を発表し、OpenAIに加入した。2日後、2024年ノーベル化学賞受賞者でAlphaFoldチームのリーダーであるJohn JumperもGoogle DeepMindを離れ、向かう先はAnthropicだと発表した。


2つのニュースが続けて飛び込んできたことで、資本市場の反応は大きかった:Googleの親会社Alphabetの株価は一時7%以上急落し、時価総額は3000億ドル以上消失した。複数の分析機関はこの売りを「人材流出」に起因するとしている。D.A. DavidsonのアナリストGil Luriaは、ShazeerがOpenAIに、JumperがAnthropicに移籍し、相次いで退職したことで、市場はGoogleがAI人材獲得競争で劣勢に立たされていると懸念し始めたと述べている。



Shazeerの今回の離脱は特に興味深い——彼がGoogleを離れるのはこれで2度目だ。


2021年、彼は自ら主導して開発したチャットボットを会社が公開したがらなかったことに不満を抱き、退社してCharacter.AIを創業した。2024年8月、Googleは約27億ドルでCharacter.AIの技術ライセンスを購入し、ついでに彼をDeepMindに呼び戻し、Geminiプロジェクトのエンジニアリング担当副社長に任命し、Jeff Deanと共にプロジェクトを率いることになった。それから2年も経たないうちに、彼はまた去り、今度は宿敵のOpenAIに向かった。


これで、9年前に発表された論文「Attention Is All You Need」の8人の共同著者は全員、Googleを去ったことになる。


ユーザーTyler Maranが、彼らの現在の行き先を1枚の図にまとめた。この図はソーシャルネットワーク上で爆発的に拡散された。



しかし、この図はすぐに時代遅れになるかもしれない。ここ2日の間に、NVIDIAがEssential AIのコアチームを密かに引き抜いているという噂が市場に流れている。その中にはTransformer論文の著者の1人であり、Essential AIの共同創業者兼CEOであるAshish Vaswaniも含まれている。本稿執筆時点で、NVIDIAとEssential AIのいずれもこの件について正式な回答をしていない。


この機会に、「Transformerの父」と呼ばれる8人の9年間の経歴と、彼らが現在実際にどこにいるのかを、余すところなく振り返ってみよう。


なお、論文『Attention Is All You Need』の著者順はランダムに並べられている。論文の脚注には明確に記されている:全著者の貢献は同等であり、順序はランダム。したがって、いわゆる「第一著者」や「責任著者」は存在しない。本稿では、論文本来の署名順に従い、この8人を順に紹介する。


「万物の起源」:本業を離れた8人のGoogle社員


彼らが現在どこにいるのかを理解するには、まず2017年に戻る必要がある。当時、機械翻訳分野の主流はリカレントニューラルネットワーク(RNN)であり、モデルは単語を一つずつ順番に処理しなければならなかった。まるで一方通行の道路で列を作って道路を渡るようなもので、並列計算ができず、訓練は遅くてコストがかかった。


Google Brainの8人は、ほぼ無謀とも言えるアイデアを試すことにした。それは、循環構造を丸ごと捨て、「アテンション機構」だけを残し、モデルが文全体を一度に見渡し、どの単語に重点を置くべきかを自ら判断させるというものだ。論文タイトルの「Attention Is All You Need」は、ビートルズの曲『All You Need Is Love』をもじったもので、その後、多くの論文タイトルが模倣する形式となった。



論文の著者貢献説明には、各人が具体的に何を行ったかが簡潔に記されている:



・Jakob Uszkoreit は、自己アテンションで循環構造を置き換えることを最初に提案し、このアイデアの初期検証を主導した。


・Ashish Vaswani は Illia Polosukhin と共に、最初のTransformerモデルを設計・実装し、プロジェクトのほぼすべての側面に関与した。


・Noam Shazeer は、スケーリングドット積アテンション、マルチヘッドアテンション機構、およびパラメータフリーの位置表現方法を提案し、ほぼすべてのことに自ら関与したもう一人の人物である。


· Niki Parmar は、初期のコードベースと後の tensor2tensor フレームワークにおいて、数え切れないほどのモデルバリアントの設計、実装、デバッグを担当しました。


· Llion Jones も同様に多数の新しいモデルバリアントを試し、初期のコードベース、推論効率の最適化、可視化作業を担当しました。


· Łukasz Kaiser と Aidan N. Gomez は、昼夜を問わず tensor2tensor の各モジュールを構築し、初期のコードベースを置き換えることで、実験結果と研究効率を大幅に向上させました。


この説明は、ある詳細を間接的に明らかにしています。論文の著者順はランダムですが、Uszkoreit、Vaswani、Polosukhin、Shazeer が明らかにアーキテクチャレベルでより中心的な役割を担い、Parmar、Jones、Kaiser、Gomez はエンジニアリング実装とシステム構築で大きな役割を果たしました。これは、後に8人がそれぞれ異なる道を選ぶ際の、性格と専門性の違いを示す初期の注釈でもあります。


「Transformer」という名前自体にも逸話があります。Uszkoreit がこの言葉の発音を気に入ったため、チーム内では自らを「Team Transformer」と呼び、初期の設計ドキュメントの表紙にはトランスフォーマーアニメの6人のキャラクターが描かれていました。


論文が発表されてから現在まで、その引用数は26万回を超え、21世紀で最も引用された論文の1つとなっています。



Ashish Vaswani



Vaswani は1986年生まれのインド人で、2002年にインドのビラ工科大学(BIT Mesra)でコンピュータサイエンスの学士号を取得した後、渡米し、南カリフォルニア大学で David Chiang の下で博士号を取得しました。研究テーマは統計的機械翻訳とニューラルネットワーク言語モデリングでした。博士課程修了後、南カリフォルニア大学情報科学研究所で2年間コンピュータサイエンティストとして働き、2016年に正式に Google Brain に研究科学者として加わり、2021年まで在籍しました。


論文の著者貢献説明によると、Vaswani は Illia Polosukhin と共に初期の Transformer モデルを設計・実装し、「プロジェクトのほぼすべての段階に関与した」中心人物の1人です。


Google退社後、Vaswani氏は2021年にNiki Parmar氏、元OpenAIエンジニアリング担当副社長David Luan氏らと共にAdept AIを共同設立し、最高科学責任者に就任。あらゆるソフトウェア内で自律的に操作を実行できる「行動モデル」の開発を目指した。



Adeptは一時4億ドル以上の資金調達に成功し、評価額は約10億ドルに達したが、製品の実用化が遅れ、チーム内でも意見の相違が生じた。Vaswani氏とParmar氏は早期に離脱を選択。Vaswani氏のAdeptにおける最高科学責任者の任期は2022年11月で終了した。


2023年初頭、Vaswani氏とParmar氏は再び手を組み、Essential AIを共同設立。Vaswani氏がCEOに就任した。同社はGoogle、NVIDIA、AMDから戦略的投資を獲得。シードラウンドで830万ドルをThrive Capitalが主導し、2023年末の5650万ドルのシリーズAラウンドはMarch Capitalが主導、Google、NVIDIA、AMD、KB Investment、Franklin Templetonなどが参加した。


2026年初頭、同社は1億7500万ドルのシリーズBラウンドを完了。Lightspeed Venture Partnersが主導し、Thrive Capitalがフォロー。評価額は10億ドルに達し、正式にユニコーン企業となった。


2025年末、同社は初のオープンソースモデルシリーズ「Rnj-1」(インドの数学者ラマヌジャンに因んで命名)をリリースした。


しかし、ここ2日間で状況が一変した。報道によると、NVIDIAがEssential AIのコアチームを採用しており、Vaswani氏自身もその中に含まれ、今後NVIDIAのオープンソースモデル「Nemotron」の開発に参加する見込みである。


関係筋によると、その理由は極めて現実的である。Essential AIの資金調達が困難に直面しており、Vaswani氏とチームをNVIDIAの競合であるAMD陣営から引き抜くこと自体が(AMDはEssential AIの初期戦略的投資家の一つであり、同社も長らくAMDのGPUに依存してきた)、割の良い取引であるという。


既にEssential AIの研究者数名(Alok Tripathy氏、Saurabh Srivastava氏を含む)がLinkedInのプロフィールを更新し、NVIDIAに加入したことを示している。ただし現時点では、NVIDIAもEssential AIもこの情報を正式に確認していない。


ノーム・シャジーア



シャジーアは1976年にフィラデルフィアで生まれ、正統派ユダヤ教徒である。父のドブ・シャジーアは数学教師出身のエンジニアで、姉妹はヘブライ大学からラビの資格を授与されている。彼は幼少期から卓越した才能を発揮し、1994年にはアメリカ代表として国際数学オリンピックに出場し満点で金メダルを獲得。その後デューク大学で数学とコンピュータ科学を学び、アンジェ・B・デューク記念奨学金を受給し、パットナム数学競技会でも入賞を果たした。


2000年、シャジーアはGoogleに入社。初期の代表作は、Google検索のスペル修正機能を改善したことである。


Transformer論文の著者貢献説明によれば、彼はスケーリングドット積注意機構、マルチヘッド注意機構、パラメータフリーの位置表現方法を提案し、VaswaniやPolosukhinに次いで「ほぼすべての細部に関与した」人物とされる。


2017年にTransformer論文を共著した後、同僚のダニエル・デ・フレイタスと共にチャットボット「Meena」を開発したが、Googleは慎重な姿勢からこれを公開しなかった。二人は2021年に退職し、Character.AIを設立。a16zなどの機関から1億5000万ドル以上を調達し、人気のロールプレイングチャットアプリに成長させた。



2024年8月、展開に転機が訪れる。GoogleはCharacter.AIとライセンス契約を結び、その金額は報道によれば27億ドルに上る。シャジーアとデ・フレイタスは少数の同僚を連れてGoogle DeepMindに復帰し、彼はエンジニアリング担当副社長に任命され、Jeff DeanやOriol Vinyalsと共にGeminiプロジェクトを共同で統括した。


彼自身がCharacter.AIの株式の約3割から4割を保有していたため、この取引により個人での現金化額は推定7億5000万ドルから10億ドルに達した。2026年には米国国家工学アカデミーのフェローに選出され、経歴は絶頂期にあるように見えた。



しかし、わずか数カ月後、彼は再び去ることを選んだ。今回の行き先はOpenAIであり、報道によれば「アーキテクチャ研究」と呼ばれる分野を担当する予定である。これは、OpenAIがIPOに向けて人材を積極的に採用する時期(同社は6月8日に米国証券取引委員会にS-1書類を秘密提出し、評価額は8520億ドルとの噂がある)にちょうど重なっている。


OpenAIのCEOであるサム・アルトマンが珍しく公の場で次のように述べた。「OpenAIを設立した初日から、彼は私が最も一緒に仕事をしたい人物の一人だった」と。また、今回の採用は「丸10年かけて準備してきた」とも語った。



Googleにとって、これは代償の大きい「買い戻し失敗」だ。2年前に27億ドルを投じて呼び戻した人材が、今や最大の競合先に移籍した。これが今週のGoogle株価急落の直接的な要因の一つとなっている。


Niki Parmar



Parmarはインドのプネーで生まれ、プネー工科大学(Pune Institute of Computer Technology)で情報技術を専攻した。在学中、アンドリュー・ンとピーター・ノーヴィグが開講したオンライン公開講座を通じて人工知能と機械学習に興味を持ち、その後渡米して南カリフォルニア大学でコンピュータサイエンスの修士号を取得。教授のモルテザ・デフガーニの指導の下、機械学習手法を用いて社会科学の問題を研究した。


2015年、ParmarはGoogle Researchにソフトウェアエンジニアとして入社し、2017年にはGoogle Brainに研究ソフトウェアエンジニアとして異動した。報道によれば、当時彼女はGoogle Brainチームで最年少であり、博士号を持たない唯一の研究者だった。


論文の著者貢献説明によると、彼女は初期のコードベースと後のtensor2tensorフレームワークにおいて、数え切れないほどのモデルバリアントを設計、実装、デバッグした。論文発表後も、Transformerを言語以外の分野に拡張し、自己注意機構を画像生成やコンピュータビジョンの研究に応用する作業に参加した。


2021年、ParmarはGoogleを離れ、Ashish Vaswani、David Luanらと共にAdept AIを共同設立し、最高技術責任者を務めた。彼女はVaswaniと同様に早期にAdeptを離脱し、2023年初頭には再びVaswaniと共にEssential AIを設立し、共同創業者として活動を続けた。



しかし、彼女はEssential AIの後のシリーズB資金調達やユニコーンとしての地位を待つことはなかった。2024年末、Parmarは静かにEssential AIを去り、Anthropicに加わり、2025年2月にこのニュースを公に発表した。彼女はXにこう書き込んだ。「今日はいつも通り共有するのに適した日です。昨年12月にAnthropicに加わりました。」



彼女はその後、Claude 3.7 Sonnetの開発に参加しました。これはAnthropic史上最も重要なモデルリリースの一つです。現在、彼女はAnthropicの技術チームメンバー(Member of Technical Staff)として、最先端能力の研究と強化学習に注力しています。


かつては常に行動を共にしていた共著者であり、二度にわたって共同創業したパートナーは、最終的に全く異なる道を歩むことになりました。Parmarは1年以上前から静かに身を引き、大手研究所に溶け込みました。一方、VaswaniはEssential AIを前進させ続け、今週になってようやく競合他社から手を差し伸べられました。


Jakob Uszkoreit



Uszkoreitは言語学の家系に生まれました。彼の父、Hans Uszkoreitは著名な計算言語学者です。息子が「注意機構だけで十分だ」という仮説を提唱した時、父自身も懐疑的でした。Uszkoreitはベルリン工科大学で博士号を取得し、後にGoogle Brainで「Distinguished Scientist」の地位にまで上り詰めました。


論文の著者貢献説明によると、Uszkoreitが最初に自己注意機構でリカレントニューラルネットワークを置き換えることを提案し、このアイデアの初期検証を主導しました。この仮説の種は、実際には2016年にAnkur Parikh、Oscar Täckström、Dipanjan Dasと共著した「分解可能注意モデル」の論文にすでに埋め込まれていました。



「Transformer」という名前も、彼がこの言葉の発音を気に入ったために決まりました。チーム内では自らを「Team Transformer」と呼び、初期設計書の表紙にはトランスフォーマーアニメの6人のキャラクターが描かれていました。


2020年末、DeepMindのAlphaFold2は、Transformer型モデルがタンパク質フォールディングのような「生物学の聖杯」レベルの課題を解決できることを証明しました。彼はまた、深層学習がまだ生物学を真に変えられていない理由は、アルゴリズムではなくデータの不足にあるとますます明確に認識するようになりました。「これはほとんど道徳的義務になった」と彼は後に振り返っています。


そこで彼は2021年、スタンフォード大学の生化学教授であり、有名なRNA設計ゲーム「Eterna」の開発者であるRhiju Das氏と共同でInceptiveを設立した。本社はバークレーに置き、研究チームはベルリンに残した。彼自身はベルリン在住で、社員はチューリッヒ、ロンドン、バンクーバー、米国東海岸の複数の都市に分散している。


同社の核となる考え方は、実験を逆方向から行うことだ。つまり、データが先にあってからモデルを訓練するのではなく、ロボットと人手を駆使して大規模に全く新しいRNA実験データを生成し、それをモデルに学習させるのである。



Inceptiveはこれまでに、NVIDIA、a16z、Obvious Ventures、Section 32などの機関から約1億2000万ドルを調達している。最新の進展は今月(6月)にあった。6月初め、RNA干渉療法の先駆者であるAlnylam PharmaceuticalsがInceptiveと戦略的提携を結び、Inceptiveの基盤モデルを活用してsiRNA候補薬の設計を加速することになった。契約一時金は3000万ドルで、報道によると契約全体の潜在的な総額は約20億ドルに上る可能性がある。


Uszkoreit氏は声明で次のように述べている。「ほとんどの医薬品設計は今でも試行錯誤に依存しています。何千もの分子をテストし、そのうちの一つが成功するのを賭けるのです。Inceptiveのアプローチは異なります。生命は極めて複雑な法則に従っており、AIだけがそれを学ぶことができるのです。」


8人の著者のうち、彼だけが完全にバイオテクノロジーに転身した人物であり、これはまさに、あの論文が当時残した予言を裏付けている。すなわち、アテンション機構の可能性は機械翻訳にとどまらない、というものだ。


Llion Jones



Jones氏はウェールズ出身で、バーミンガム大学を卒業後、2011年にGoogleにソフトウェアエンジニアとして入社し、10年以上在籍した。8人の著者のうち、博士号を持たず、純粋にエンジニアリングの直感で道を切り開いた数少ない人物である。


論文の著者貢献説明によると、彼は多数の新しいモデルバリアントを試し、初期のコードベース、推論効率の最適化、可視化作業を担当した。


後に彼は決定的な瞬間をこう振り返っている。「私たちは当時、モデルの一部を単純に削除し始めたところでした。効果がどれだけ悪化するかを見るためです。驚いたことに、むしろ良くなったのです。」これこそが、「循環構造は実は冗長である」という仮説が初めて検証された瞬間だった。


2023年、Jones氏は同じくGoogle出身のDavid Ha氏と共に、東京でSakana AIを設立した。「Sakana」は日本語で「魚」を意味する。Ha氏がCEO、Jones氏がCTO、もう一人の共同創業者であるRen Ito氏がCOOを務めている。



Jones氏は現在東京を拠点とし、ソーシャルメディア上で「東京在住のウェールズ出身AI研究者」と自称している。この会社の研究方針は明確な反潮流の色彩を帯びている。計算能力やパラメータ数をひたすら増やすのではなく、自然進化のロジックを参考に、より小さなモデル群が魚群のように協調することを目指している。同社の代表的な研究成果には、Continuous Thought Machine(連続思考機)や、自律的にエンドツーエンドの研究を実施する「AI Scientist」プロジェクトが含まれる。


最近、同社は最先端の性能を誇るSakana Fuguモデルを発表した。



Sakana AIの累計調達額は3億7900万ドルに達し、2026年3月に完了したシリーズBラウンドを含む。三菱電機もその投資家の一つである。2026年3月、同社は三菱UFJフィナンシャル・グループ(MUFG)との複数年にわたる提携契約も獲得した。後者はSakanaの技術を銀行業務システムの変革に活用する計画であり、この提携により、評価額約15億ドルの同社が1年以内に黒字化できると報じられている。


Jones氏自身は、複数の場で単なる「スケーリング」への懐疑を表明している。


2026年3月、彼は銀行業界の内部イベントで、現在のAI研究は厄介な現実に直面していると述べた。投資と人材が大量に流入し、理論上はさらなるブレークスルーを生むはずだが、実際の効果はその逆かもしれない。投資家は成果を急かし、競争は初動を急がせ、研究者に「自由に模索する」余地がかえって狭められているという。


彼は、Sakana内部では常に「KPIなし」の研究自由度を一部保持していると述べた。なぜなら、次のブレークスルーは、こうした結果を気にしない長期的な投資から生まれると確信しているからだ。これはまさに、あのGoogle BrainのオフィスでTransformerが生まれた方法である。


彼はまた、繰り返し引用される言葉を残している。新しいアーキテクチャが真にTransformerを置き換えるには、「より良い」だけでは不十分で、「明らかに、疑いようもなくより良い」ものでなければならないと。


Aidan N. Gomez



Gomez氏は8人の著者の中で最年少である。論文が発表された年、彼はGoogle Brainの20歳の学部インターンで、トロント大学でコンピュータサイエンスと数学のダブルメジャーを専攻していた。


論文の著者貢献説明によると、彼とŁukasz Kaiserは幾日も幾夜もかけてtensor2tensorフレームワークの各モジュールを構築し、初期のコードベースを置き換えることで、実験結果と研究効率を大幅に向上させた。「当時はただ注意機構が実際にどのように機能するのかを理解したかっただけだ」と彼は後に振り返る。「それが『万物のアーキテクチャ』になるとは全く思っていなかった」。論文発表後、彼はオックスフォード大学で博士号を取得するため留学し、途中で学業を中断して起業し、2024年にようやく正式に博士号を取得した——つまり、彼は起業しながら学位を取得したと言える。


2019年、GomezはIvan Zhang、Nick Frosstと共にCohereを設立し、同社をエンタープライズ向けAIサービスプロバイダーとして位置づけ、消費者向けチャットボットの資金消耗競争を意図的に避け、データプライバシー、ローカル展開、多言語対応に重点を置き、顧客の多くは大企業や各国政府である。


2023年、Gomezは『タイム』誌が選ぶAI分野の影響力ある人物100人に選出され、彼と2人の共同創業者も『Maclean’s』誌がその年に選んだAIトレンドパイオニアランキングの首位を獲得した。2025年4月には、電気自動車企業Rivianの取締役会にも選出された。



この比較的「セクシーではない」戦略が、むしろ同社に良好な財務データをもたらした。2026年半ば時点で、Cohereの年次経常収益は既に2億ドルを超え、過去1年で6倍に成長し、粗利益率は約70%、累計調達額は約17億ドル、評価額は約70億ドルに達している。同社は2025年8月に、Uberの上場に関与したFrancois Chadwickを初のCFOとして迎え入れ、従業員のセカンダリーマーケットでの株式売却ウィンドウも既に1回開放されており、Gomez自身はIPOが「間近」だと繰り返し述べているが、現時点で同社は規制当局に目論見書を提出していない。


ここ数年、Gomezは地政学的な意味でのAIスポークスパーソンのような存在になりつつある。今週、彼は『フォーチュン』誌に寄稿し、各国が「デジタル主権」の問題に真剣に向き合うよう呼びかけている。


記事では、Anthropicのモデルへのアクセス権が最近制限された事件に直接言及し、各国が自らの未来を少数の中央集権的なテックジャイアントに「レンタル」してはならないと警告し、各国が異なるAIプロバイダーに依存しつつ、自らの価値観、言語、法体系を保持できる真に多元的なエコシステムの構築を提案している。


また、彼は「AI終末論」的な存在リスクに対する懸念は誇張されていると公言しており、より懸念すべき現実的なリスクは、ソーシャルメディア上で誤情報が自動的に増幅されることだと述べている。Gomezが今語るのは、もはやモデルそのものだけではなく、誰が世界全体でどのようなAIが使われるかを決定する資格を持つのかということである。


Łukasz Kaiser



Kaiserはポーランド人で、当初の学術的訓練は論理学、オートマトン理論、アルゴリズムモデル理論、ゲーム理論などの理論的コンピュータサイエンス分野にありました。彼はヴロツワフ大学で数学とコンピュータサイエンスの二重修士号を取得し、その後ドイツのアーヘン工科大学で博士号を修了しました。その後、フランス国立科学研究センター(CNRS)とパリ第7大学で終身在職権を持つポジションを得て、論理学とオートマトン理論の純粋理論研究に専念しました。


その後、彼は応用分野に転向し、Google Brainで約8年間働きました。その間、TensorFlowの共著者の一人でもあり、Samy Bengioと共に「アクティブメモリはアテンションを置き換えられるか」という初期の論文を発表し、Ilya Sutskeverと共に「ニューラルGPU学習アルゴリズム」を発表しました。



論文の著者貢献説明によると、彼はAidan N. Gomezと共に数え切れない夜を費やしてtensor2tensorフレームワークを構築し、実験結果と研究効率を大幅に向上させました。


8人の著者のうち、彼だけが起業せず、常に大規模な研究所で純粋研究を続けている人物です。


2021年に彼はOpenAIに加わりました。その時点ではChatGPTはまだ発表されていませんでした。OpenAIでは、Codexの研究開発(後にGitHub Copilotの技術基盤となる)とそれに付随するHumanEvalプログラミングベンチマーク、さらにGSM8K数学問題データセットの研究に参加しました。この研究は、「モデルに推論時に少し多く計算させ、複数回サンプリングさせる」ことで精度を大幅に向上できることを早期に示しており、これが後の推論モデルパラダイムの原型となりました。



彼はGPT-4技術レポートの署名著者の一人でもあり、その後OpenAI初の推論モデルo1(2024年9月リリース)の中核的貢献者となり、「研究責任者」レベルの役割と見なされています。その後、o3やさらに新しい推論パラダイム、そして今日のGPT-5シリーズに至るまで一貫して関わっています。


彼は最近、Matt Turckが司会を務めるMAD Podcastで、Transformerは数学的にあらゆる問題を解決できることが証明されており、モデルが十分な中間推論ステップを生成することを許せばよいと語りました。ある意味で、これは9年前のあの論文に対する、遅ればせながらより正確な注釈と言えるでしょう。


イリア・ポロスキン



ポロスキンはウクライナのハリコフ出身で、学部では応用数学を専攻し、国際大学対抗プログラミングコンテスト(ICPC)の優勝者でもある。本人の回想によると、10歳の時に『マトリックス』を観てから、人工知能にほぼ執着とも言える興味を持つようになった。2014年にはGoogleに入社し、TensorFlow関連の研究に携わり、機械読解や質問応答システムの研究も行った。


論文の著者貢献説明によると、彼はAshish Vaswaniと共に最初のTransformerモデルを設計・実装し、主にこのアーキテクチャが機械翻訳タスクで有効であることを検証する部分を担当した。


論文発表後、2017年にGoogleを退社し、Alexander Skidanovと共に当初NEAR.AIという人工知能企業を共同設立した。しかしすぐに、モデルを作るよりも分散型インフラの方が面白いと気づき、2018年頃に同社はブロックチェーンプロジェクトNEAR Protocolへと転換した。



NEARはNightshadeと呼ばれるシャーディング技術を採用し、Auroraを通じてイーサリアム互換のレイヤー2ネットワークを提供している。2020年にメインネットが正式にローンチされ、これまでにa16z、Coinbase、Tiger Global Management、Hashed、Dragonfly Capitalなどの機関から5億3000万ドル以上の資金調達を行っている。


現在のポロスキンは、自身の最初の二つのアイデンティティを再び統合しようと試みている。2026年3月、彼はメディアに対し「ブロックチェーンの将来のユーザーは人間ではなくAIエージェントになる」と語り、NEARをエージェント経済の「決済レイヤー」として位置付けた。


同年4月には、自律型AIエージェントに対応するためのより完全な規制枠組みの構築を公に呼びかけ、既存の機関や制度はこうしたシステムがもたらす責任の所在やシステムリスクの問題に対処する準備ができていないと指摘し、より明確な説明責任の仕組みや「人間がループ内にいる」形の監視を求めた。


現在はポルトガルに在住している。「基礎となるLLM論文を執筆した」という立場と「数十億ドル規模のブロックチェーン企業を経営する」という立場の両方を同時に持つ人物は、世界中で彼だけだろう。


八つの道、さらなる探求へ


2024年3月、NVIDIA GTCカンファレンスにおいて、8人の著者のうち7人(Niki Parmarは都合により欠席)が初めて集団として同じステージに立ち、ジェンスン・フアン(黄仁勲)のインタビューを受けました。



ジェンスン・フアンは言いました。「私たちが今日享受しているすべては、あの瞬間に遡ることができる。」


対談の終わりに、彼は一人ひとりに「あなたたちは世界を変えた(You transformed the world)」と刻まれたNVIDIA DGX-1スーパーコンピュータのサイン入り記念プレートを贈りました。同年11月、日本のNEC C&C財団は、その年のC&C賞をこの8人からなる「Transformerチーム」に授与しました。同じステージで賞を受賞したのは、大洋横断海底光ケーブル伝送技術を研究する3人のベテランエンジニアでした。全く異なる分野のインフラ構築者たちが、同じ賞に並べられたのです。



9年が経ち、この8人の人生の軌跡は、もはや交わることがほとんどない場所へと分散しました。シリコンバレーのエンタープライズサービス分野、東京の進化アルゴリズム研究所、ベルリンの分子生物学企業、ポルトガルのブロックチェーンプロトコル、そして今週も再編成が続くいくつかのトップAI研究所です。


しかし、彼らがこれまでに語ってきた言葉を並べてみると、共通する判断が繰り返し現れていることに気づきます。誰も本当にTransformerが終着点だとは信じていないのです。


Aidan N. Gomezは、世界にはTransformerよりも優れたものが必要だと語り、Llion Jonesは、次のアーキテクチャは「明らかに、疑いようもなく優れている」ものでなければ、それを置き換えることはできないと言います。そしてŁukasz Kaiserは今もなお、数学の言葉を使って、9年前に生まれたこのアーキテクチャが、人類をどこまで連れて行けるのかを説明しようと試みています。


おそらくこれこそが、この論文が残した最も永続的な遺産でしょう。その8人の著者は世界中に散らばったものの、次の答えを探し求めることをやめた者は一人もいないのです。


原文リンク


BlockBeats の公式コミュニティに参加しよう:

Telegram 公式チャンネル:https://t.me/theblockbeats

Telegram 交流グループ:https://t.me/BlockBeats_App

Twitter 公式アカウント:https://twitter.com/BlockBeatsAsia

ライブラリを選択
新しいライブラリを追加
キャンセル
完了
新しいライブラリを追加
自分のみが閲覧可
公開
保存
訂正/通報
送信