動察 Beating AI ニュース、AI推論スタートアップの Gimlet Labs が新たに3億ドルの資金調達を完了し、評価額は30億ドルに達した。Andreessen Horowitz がリード投資し、Arm とマイクロソフト傘下の M12 が新たに参加した。Gimlet はマルチチップ推論クラウドを手がけており、AI推論を分割して、各段階をより適したチップで実行させる。
この企業の資金調達ペースは非常に速い。約半年前、Gimlet はちょうど8000万ドルのAラウンドを完了したばかりだ。さらにその約1年前には、シードラウンドはわずか1200万ドルだった。3ラウンド合計で3億9200万ドルを調達している。CEOの Zain Asgar 氏によると、今回のラウンドはすぐにまとまった。なぜなら、同社は複数の投資家から自発的な投資意向書を受け取っていたからだ。
Gimlet は当初主にチップスケジューリングソフトウェアを提供していたが、現在は顧客のデータセンター構築支援を開始し、自社のデータセンターも建設中だ。チップごとに冷却、温度、サーバー構成の要件が異なるため、ソフトウェアを適切に書くだけでは不十分で、サーバールーム全体もそれに合わせて再設計する必要がある。
例えば、AI推論におけるプリフィルとデコードは、一方は計算能力をより多く消費し、もう一方はメモリ帯域幅に依存する。Gimlet はこれらを異なるベンダーのチップに割り当てることができる。Arm は今回、出資と協力の両方を行い、両社は Gimlet のソフトウェアをより多くの Arm チップに適合させる予定だ。