オープンソース時代における、AIネイティブなクラウドを築く：Together AIへの新たな投資

推論は、AI業界の中で最も価値の高い分野になりつつあります。これまでに学習されたあらゆる基盤モデルは、オープンソースであれクローズドソースであれ、最終的には本番環境で予測処理を提供しなければなりません。そして、その予測処理の量は、モデル学習そのものに使われる計算量をはるかに上回るペースで増えています。Brookfieldは、2034年までに運用管理込みのGPUクラウドの需要が2,500億ドルを超え、そのうちおよそ75％を推論が占めると見積もっています。

しかし、この需要を支えるインフラ層はいまだに分断されたままです。超大規模クラウド事業者は自社の独自モデルや半導体に最適化しており、GPUクラウドはソフトウェア面での差別化なしに生の計算資源を再販しているにすぎません。また、プラットフォーム専業の事業者は、大規模提供に必要なインフラの主導権を持っていません。つまり、そこには構造的な空白があるのです。すなわち、モデルの開発から運用までを、単一の統合基盤の上で一貫して最適化できる「AIネイティブなクラウド」が求められている、ということです。

そこで登場するのがTogether AIです。

Together AIは、企業、開発者、研究者がAIモデルの学習、ファインチューニング(追加学習による調整)、推論実行までを一貫して行いやすくするAIインフラプラットフォームです。2022年の創業以来、同社は、市場にある独立系AIクラウドの中でも、私たちが見るかぎり、技術面で最も際立った差別化を実現してきました。その事業領域は、事前学習、事後学習やモデル調整、推論、サンドボックス環境、管理運用付きのインフラ基盤という5つの中核領域にまたがっています。重要なのは、こうした一体化が単なる運用上の利便性ではないという点です。それは技術と経済の両面で複利的に積み上がる優位性をもたらします。

技術面：Together AIはスタック全体にわたって同時に最適化をかけることができます。たとえば、B300で入力処理段階(プレフィル)を担い、GB300で生成段階(デコード)を担うといった構成です。こうしたハードウェアの役割分担は、他に大規模な推論事業を手がけながらその前提で設計している事業者がいないため、どのパブリッククラウドでも実現できません。サーバーラック単位で構築された推論システムにより、同社は他では得られない明確な強みを持っています。

経済面：AIネイティブな顧客が6か月から12か月単位でインフラ契約を結ぶ際には、学習、ファインチューニング、推論のあいだで、どれだけの負荷がそれぞれにかかるのかを正確に見積もることはできません。Together AIの統合プラットフォームは、単一の契約のもとで、こうしたさまざまな処理に柔軟に対応できます。つまり、複数の事業者にあらかじめ配分して契約しておく必要がなくなるのです。そうした事業者はそれぞれ独自に長期契約を求めるか、都度利用には非常に高い料金を設定するのが普通だから。

Together AIの強みの中核にあるのは「T字型」の事業モデルです。つまり、様々な処理に幅広く対応しつつ、その土台となるインフラまで自社で保有しているのです。これは同社の発展を通じて一貫してきた特徴であり、Together AIをGPUクラウドとも、プラットフォーム専業の競合とも分ける大きな要因になっています。純粋なインフラ事業者は、計算資源そのものこそ提供できますが、運用管理込みのサービスや研究に基づく最適化までは備えていません。一方、プラットフォーム専業の企業も、いまでは自らを「クラウド」と称し、データセンターの供給網への投資を進めています。これは、インフラを自前で持つことがもはやこの市場で戦うための前提条件になっていることを示しています。しかし、それでもTogether AIが持つ自社保有キャパシティの強みには及びません。実際、Together AIは同等の条件で、競合よりGPUあたりおよそ15％多くのトークンを処理しており、その差を支えているのが世界トップクラスの研究組織です。

研究が生み出す競争優位

Together AIの差別化の核心にあるのは、大規模な研究チームです。その顔ぶれは、最先端のAI研究機関を除けば、AIシステム分野でも屈指の厚みを誇ります。創業チームには、Vipul Ved Prakash（同社CEO。3度の起業経験を持ち、ProofpointとAppleへの売却実績もある、Ce Zhang（CTO）、そしてスタンフォード大学の教員であるChris Re、Percy Liang、Tri Daoの3名が名を連ねています。このグループは、FlashAttention¹、オープンデータプロジェクトのRedPajama、さらにDSIRのようなデータ選定ツールなど、基盤技術への重要な貢献で知られています。Together AIは技術力を競争力の源泉とする組織を築いているのです。

この研究による強みは、複数の技術領域にわたって相乗効果が生まれているところです。Together AIのカーネルチームは4年かけて築かれ、NVIDIAの標準実装を10〜20％上回る性能を出す独自のCUDAカーネルを実装しています。同じ期間をかけて築かれたコンパイラチームは、PyTorch標準のコンパイラをそのまま置き換えられるGather Compileを開発しました。さらにアルゴリズムチームは、投機的デコーディング、分離型推論、長文コンテキストの最適化について、高い頻度で改良を重ねています。重要なのは、こうした改善がそれぞれ単独で効果を発揮しているだけではないことです。カーネル、コンパイラ、アルゴリズムの各領域で改良が重なり合うことで、差は縮まるどころか、むしろ広がっていきます。新しいハードウェア世代が登場するたびに、Together AIはまず先行し、その後で業界全体がある程度追いつきます。そうしてまた次の世代が現れ、同じサイクルが繰り返されるのです。

ここで大事なのは、これがいわば「実力に裏打ちされたロックイン」だということです。顧客はモデルも学習済みパラメータもデータも自ら保有しており、他のプラットフォームへ移すこと自体はできます。ただ、移した先では、速度、効率、品質のいずれかが落ちることになります。Together AIの違いは、純粋に実行時の性能として現れるのです。

追い風としてのオープンソース

Together AIの事業は、AI市場全体の活発さや支出の伸びに広く支えられていますが、そのプラットフォームとしての強みが最も鮮明に表れるのは、オープンソースの領域です。プラットフォーム上で処理されるトークンの約90％は、オープンソースのベースモデルを事後学習して独自化した派生モデルによるものです。つまり、追加学習による調整や強化学習だけでなく、実運用に向けた最適化も必要になる、事実上のカスタムモデルです。オープンソースモデルであれば、Together AIはベースモデルの段階から本番環境への導入まで、一連の流れ全体を支えることができます。一方、クローズドソースモデルの場合、同社の役割は主としてインフラと推論の提供に限られます。

だからこそ、MetaのLlamaファミリーから次々に広がる特化型モデルに至るまで、オープンソースの基盤モデル群の拡充は、Togetherにとって最も利益率の高いサービスの成長を直接牽引する要因となります。こうした勢いは、開発者層にも表れています。研究成果を軸にした開発者向けのリレーション活動と、本番環境へ移行するAIネイティブなアプリケーションの広がりを追い風に、このプラットフォームの開発者トラクションは15か月で5倍に拡大しました。AIネイティブな企業は、一定の売上規模を超えると、Together AI上でオープンウェイトのモデルを使いながら、自社モデルを自ら主導したいという動きが強まります。機能、性能、収益性のいずれを取っても、そのほうが魅力的だからです。

Geodesicの投資

私たちは、Together AIへの出資に加われたことを誇りに思います。Together AIは驚異的なペースで売上を拡大しており、前年比で6倍超の成長を遂げています。私たちは、同社が巨大かつ急速に拡大するAIインフラ市場で大きな存在感を確立し、AIエコシステムにおける重要な結節点になっていくと考えています。私たちは、Vipulとそのチームが、オープンソース時代を象徴するAIネイティブなクラウドプラットフォームを築いていくなかで、今後とも力を合わせていけることを楽しみにしています。

Togetherの発表はこちらからお読みください。
Together AI、評価額83億ドルで8億ドルを調達――最先端AIをすべての人に届けるために

¹ AIのTransformerモデルにおけるアテンション計算のメモリ不足と計算遅延を解消した革新的なアルゴリズム