February 27, 2025

AIが実現する効率化：企業向けAIの導入が新たなステージへ

Written by
ARVIND AYYALA

様々な業界に革命を起こすAIの勢いが止まりません。そして、その力をビジネスに役立てようとする企業も増加しています。ところが、AIモデル自体のコストは下がっているのに、自社インフラにAIを導入する際の全体的なコストが高く、思ったように効率化を実現できない企業が多くあります。

AIモデルの可用性と能力は急速に発展していますが、高コストなのはモデルそのものではありません。実際に企業の大きな負担となるのは、AIモデルのトレーニングと、AI推測（トレーニングしたモデルを使用して予測や意思決定を行うプロセス）を大規模に実装する社内インフラのコストです。大規模なAIモデルのトレーニングには、計算に膨大なリソース、優秀な人材、時間が必要となり、結果として多額のクラウド・コンピューティング費用と人件費がかかることもあります。AI推論の実装についても同様で、特に大量のデータやリソースを扱うアプリケーションでは、多額の費用が継続的に発生する場合があります。カスタムAIソリューションの導入コストは、1万ドル（約150万円）から50万ドル（約7500万円）以上に及ぶことがあり、継続的な運用コストは初期開発コストの50～200％に達する可能性もあるのです。

A. コストの管理

革新的な企業の中には、AIがもたらす効率性の限界に挑み、企業が直面しているコストとパフォーマンスの問題に対応する技術とプラットフォームを開発しているところもあります。

1. DeepSeekが注目する学習と合成データの強化

DeepSeekがもたらしたAI推論モデルの進歩は、シリコンバレーとテクノロジー株に大きな衝撃を与えました。同社は、約600万ドル（９億円）以下の事前トレーニングコストで、様々なベンチマークに対して良好なパフォーマンスを発揮し、OpenAIやAnthropicに匹敵するAI推論モデルを開発するとしています。モデルの基盤となる革新的技術は、COT（Chain-of-thought：思考の連鎖）や学習の強化、合成データの使用を組み合わせたものです。

このイノベーションによって、既存の技術を改良または利用しながらAIが自身の開発を効率化し、コストを削減できることが浮き彫りになりました。また、主要なAI研究機関が、APIを経由し、低コストでAIのパフォーマンスを企業に提供する競争が始まることが予想されます。そして最も重要なのが、アプリケーションレイヤーで価値を生む道が開かれたことですが、これについては今後の記事で取り上げる予定です。

2. 小規模なドメイン特化型モデル

特定のドメインやタスク向けの小規模なドメイン特化型モデルはどうでしょうか。実は一般的な考えとは異なり、大規模企業向けの大がかりな汎用モデルよりも優れた性能を発揮することが多く、しかもトレーニングや運用に必要なリソースは少なくて済みます。Arcee.aiといった企業はこのアプローチの先駆けであり、オープンソースの汎用AI上に企業が独自のAIモデルを構築・維持するためのプラットフォームを提供しています。この戦略によって、企業はパラメータ空間の最適化を通じてベースとなるAIモデルの能力を拡張し、より効率的で費用対効果の高いAIソリューションを実現できます。そのほか、2024年にDatabricksが買収し、同社のプラットフォームの一部として利用されているMosaicMLなどは、特定のビジネスドメインでモデルのトレーニングを行うことで、計算コストを大幅に削減しながら、GPT-3.5のような大規模モデルよりも優れた結果を得られることが実証されています。

3. モデルにデータを持ち込む：パラダイムシフト

AI導入コストを削減する最も有望な手段のひとつは、従来の「データが格納されている場所にモデルを移動させる」アプローチの代わりに、「モデルにデータを持ち込む」というコンセプトを採用することです。このように考え方を大きく転換することで、データのプライバシーとセキュリティを強化しながら、データの転送コストと遅延を大幅に削減できるようになります。

4. 最適化された予測エンジン

予測の最適化は、本番環境の費用対効果と遅延に直接的な影響を及ぼします。AIのトレーニング/予測コストが収益を60～80%上回る状況で、持続可能なAI環境を実現するには、適切にチューニングされた予測エンジンが不可欠です。これにより、計算リソースを最小に抑えながら、ハードウェア使用率を最大にすることができます。

Together.aiは、既存のクラウドまたはオンプレミスのインフラで予測を2～3倍高速に、運用コストを最大50％削減するエンタープライズプラットフォームを提供しています。ファインチューニングの自動化や投機デコーディング用の適応型スペキュレーターなど、継続的にモデルを最適化するためのテクノロジーによって、時間の経過とともにモデルの性能を向上させます。

5. GPUオーケストレーションとリソース管理

効果的なGPUオーケストレーションを実装すると、インテリジェントなワークロードスケジューリングとリソース割り当てによって、インフラコストを40～50%削減することができます。オーケストレーションに問題があると、GPUが十分に活用されずにボトルネックとなり、採算性とスケーリング能力に直接影響を与えます。Fireworks.aiといった企業は、ジョブのスケジューリング、自動スケーリング、トラフィック制御を含む、強化されたGPUオーケストレーション機能を提供しています。これらの機能によって企業のGPU投資を最大限活用でき、リソース使用率の最適化が可能になります。

6.モデルのマージと適応

当社のポートフォリオ企業であるSakana.aiは日本におけるAIラボの先駆者であり、2つの言語モデルのパラメータを組み合わせる進化的モデルマージのパイオニアです。この技術を継続的な事前トレーニングや調整プロセスとともに利用することで、企業の特定のニーズに合わせた効率的なカスタムモデルを作成することができます。

B. AIデータのトランザクションレイヤー

多くの企業が既存のシステムやプロセスへのAI実装に挑戦している中、AIモデルと企業のデータソースの間で効率的かつシームレスなデータトランザクションを促進する新たなレイヤーが出現しています。これはAIデータのトランザクションレイヤーと呼ばれ、効率的で費用対効果の高いAI導入に不可欠となりつつあります。

1. AI時代のAPI

AIファーストを掲げるAPI企業の新たな波が押し寄せ、企業によるAPI開発やソフトウェア開発キット（SDK）生成のあり方が大きく変わろうとしています。これらのAPI企業は、APIの品質と維持管理を向上させながら、開発負荷の大幅な削減、APIの利用促進、市場投入までの時間短縮を可能にする洗練されたツールチェーンを構築しています。このようなプラットフォームは、企業のAPI開発を次のように変革します。

反復的な開発タスクの自動化
複数のプログラミング言語間での一貫性の確保
API、ドキュメント、SDK間の同期の維持
エンタープライズレベルのセキュリティと監視機能の提供

また、SDKの生成やAPI管理など、興味深いサブセグメントも提供されています。例えば、Stainlessのプラットフォームでは、Python、TypeScript、Kotlin、Go3を含む複数の言語で高品質のSDKを自動的に生成できます。ほかにも、Speakeasyの「Code as Docs」プラットフォームのように、SDKから直接コードサンプルを生成し、技術ドキュメントと実装を効率化するものもあります。また、Unkeyが提供するAPI管理に特化したソリューションには、AIサービスの展開に欠かせないレート制限やトークンシステムが組み込まれています。

2.データのキュレーションと準備

モデルのパフォーマンスと競争優位性を維持するには、キュレーションが完了している高品質なデータセットが不可欠です。モデルがどれだけ洗練されていても、適切なデータを準備できなければPOC（概念実証）を拡張することも、真の価値を実証することもできません。

当社のポートフォリオであるScale.aiは、トレーニングデータの品質と関連性を高めることでAIモデルを改良する包括的なデータエンジンを提供しており、この分野のリーダーとしての地位を確立しています。インテリジェントなデータセット管理、テスト、モデル評価ツールが含まれる同社の製品スイートを利用すれば、企業は最も価値のあるデータを特定してラベリングできるため、ラベリング投資のリターンを最大にすることができます。

同様に、Datologyのような企業は、生成AIモデルに大きな影響のあるトレーニングサンプルを優先するデータキュレーションの自動化に重点を置いています。同社の技術によって冗長なデータや低品質なデータの量を削減し、トレーニングサイクルを20～30％短縮して、モデルの精度を最大30％向上させることができます。

3. データ圧縮ー AI効率化の隠れた英雄

データ圧縮はキュレーションと準備を補完するもので、企業内でAIを導入、運用する際の採算性向上に役立ちます。Granicaのような企業は、機械学習（ML）を利用した圧縮アルゴリズムをデータに適用し、ストレージと転送にかかるコストを最大80％削減しながら、クエリー速度を56％高速化するソリューションを提供しています。データ圧縮とは、冗長あるいは不要な情報を排除して必要なコンテンツを保持し、デジタルデータのサイズを縮小する方法で、アルゴリズムによってデータの効率的な保存と高速な送信が可能になります。企業は、クラウドのオブジェクトストレージに保存されているペタバイト規模のAIトレーニングデータを可逆圧縮することで、データの整合性を損なうことなく、インフラにかかるコストを削減することができます。

C. 企業向けAIの導入手順

2025年もAI環境は急速な進化を続けるでしょう。企業がAI投資の価値を最大限利用してAIの効率化を進めるには、以下の事項を検討することが重要です。

小規模な特化型モデルを採用：大規模で汎用的なモデルを基本とするのではなく、ファインチューニングと導入が比較的簡単なドメイン特化型の小規模モデルに関するメリットを調査します。
標準化と相互運用性：業界はAIインフラのインターフェースとプロトコルの標準化に向けて進んでいくことになるでしょう。これが実現すると、異なるプロバイダーへ簡単に切り替えることができるほか、複数の専門サービスを組み合わせて、すべてのプラットフォームで一貫したパフォーマンスを維持することが容易になります。
インフラの自動最適化：クラウドネイティブのAIプラットフォームと最適化された予測エンジンを活用すると、モデルの継続的なパフォーマンス監視、リソースの自動スケーリング、インテリジェントなワークロード配置などの機能を通じて、運用コストを大幅に削減し、パフォーマンスを向上させることができます。
データ品質への投資：コンピューターサイエンス業界では「garbage in, garbage out（ゴミからはゴミしか生まれない）」という言葉がありますが、これはAIにも当てはまります。企業はデータのキュレーション、クレンジング、準備を優先して行い、高品質で関連性の高いデータを利用してAIモデルをトレーニングします。
柔軟な導入戦略の採用：クラウドと社内インフラの両方でAIを運用できるハイブリッド導入モデルを採用することで、コスト、パフォーマンス、データセキュリティのバランスを取ることができます。
AIのデータトランザクションレイヤーに焦点を当てる：長期的な成功を収めるには、堅牢なインフラを開発して、企業システムとAIモデル間のシームレスなデータフローを実現することが重要です。

企業のAI導入は新たなステージを迎えています。AIの運用効率を最適化し、データトランザクションレイヤーを効率化することで、これまでの投資に対する真のROI（投資回収率）を高めることが次のチャレンジです。持続可能なAI導入を実現できるのは、ただモデルを選ぶだけの企業ではなく、このような側面を考慮できる企業です。また、インフラの最適化とデータ管理に特化した統合プラットフォームが登場していますが、これは業界がエンタープライズAI導入に目を向けており、より効率的で費用対効果の高いソリューションの提供に動いていることを示唆しています。