エージェンティックAIの急拡大の中で、ハードウェアの限界をどう乗り越えるか

オリジナル記事「Navigating Hardware Limitations Amid the Agentic AI Rush」

AIイノベーションという止められない勢いが、動かぬ壁にぶつかった。それは規制でも、電力網でもなく、ハードウェアの処理能力だ。

AIブームが始まって以来、需要が供給を上回り、GPUをめぐる競争はすでに激化していた。今、エージェンティックAIが有望な実験段階から競争上の必須要件へと急速に変化する中、企業はAI変革を継続するために、さらに多くの演算能力を必要としている。これに対応して、すでに高騰していたGPU価格はさらに急騰している。Ornn GPU価格指数によると、GPUのレンタルコストは過去2ヶ月間で48%上昇した。これはあくまで基準値に過ぎない。コストは株価のように変動するため、企業やハードウェアブローカーが予算を算出し、標準化することは困難だ。

単純に、供給が需要に追いついていないのだ。そして、一夜にして解決する問題でもない。ハードウェアの増設は、長期かつコストのかかるプロセスである。データセンターの建設には数年を要し、リソース不足や消費者の反発の高まりにより、数多くのプロジェクトが停滞または中止されている。米国だけでも、来年予定されていたデータセンタープロジェクトの半数がキャンセルされた。一方、稼働待ちの容量は満杯状態で、より効率的な次世代ハードウェアは依然として製造段階にある。

この逼迫した状況に対処するため、さまざまな対策が進められている。データセンター建設業者は、地域社会との信頼関係を築くため、持続可能性とコスト削減策を掲げている。ハードウェアの導入を加速させるべく、新興のクラウドインフラ企業にはベンチャー資金が注ぎ込まれている一方、ハイパースケーラーや大手企業は、イノベーションと拡大を維持するために循環的な資金調達ループを確立している――しかし、このサイクルが途絶えた場合、重大な脆弱性が生じる恐れもある。

それでもなお、亀裂は広がり続けている。現在のハードウェアの制約下では、AIサービスは稼働時間の維持に苦戦しており、より多くの専門家がこれらに依存し、より多くの企業がAI関連の効率化による利益に賭けるにつれ、ワークフローに支障をきたしている。企業のスコアボード上でAI利用を形だけ積み上げる時代は終わったのだ。

イノベーションのペースを維持し、競争力を保つためには、AIを導入するすべての企業が、ハードウェアのリソース効率を飛躍的に高める必要がある。単なるシリコンやデータセンターの物理的な配置にとどまらず、より広範で多様なコンピューティングインフラストラクチャの領域にワークロードを再配分していくことが求められるのだ。

	AIブームはバブルを生み出している。それはいつ弾けるのか？（hx4Stock-team/Shutterstock）

逼迫がもたらす代償

GPUの限界がAI開発のペースを脅かす中、2つの不確実性が迫り、誰もが神経を尖らせている。我々はAIバブルの中にいるのか、そして何より重要なのは、そのバブルは今にも弾けようとしているのか、ということだ。ハードウェア不足は、崩壊の前兆のように感じられるかもしれない。何しろ、企業はAIを大規模に導入するために天文学的な金額を投資してきた――2025年だけで生成AIへの投資額は370億ドルに達した。この数字には、機能するために依然として堅牢なハードウェアを必要とする非生成型プログラムや、これらの組織のクラウド予算全体は含まれていない。

現在起きているのは、技術そのものと、それを導入せざるを得ないという圧力が、物理的なインフラよりも速いペースで進化しているということだ。AIは現代を象徴する技術であり、企業にとって導入を遅らせることは、自社の業務を過去のものとして固定化することになる。もしAIイニシアチブからROIを生み出せなければ、企業は、自分たちが参加することさえできないかもしれない未来に向けて、総額数十億ドルを無駄にしたことになる。企業は、GPUの減価償却期間が極めて短いという厳しい制約の中で、より迅速に反復し、結果を収集し、モデルを再学習させ、戦略を洗練させなければならない。

需要が極端に高まる中、GPUはある種の贅沢品となりつつあり、その波及効果は将来のイノベーションの進展を阻害する恐れがある。この問題に対処しなければ、価格の高騰と供給不足により、AIアプリを開発する開発者が減少し、その結果、新たなユースケースや効率化の可能性も狭まってしまうだろう。ハードウェアの制約によって、AIへのアクセスが最大手かつ資金力のある組織のみに限定されてしまえば、我々は多くのものを失うことになる。

企業は、ハードウェアの制約によってAI変革を中断せざるを得ないような状況に陥ってはならない。物理法則に逆らうことはできないが、GPUを多用するワークロードをより効率的に管理する方法は見出せるはずだ。

推論の分水嶺

AIのライフサイクル全体がGPUに負荷をかけるが、AIモデルを実行するプロセスである「推論」こそが、GPUの真価を問う場面だ。また、推論こそが、組織がAIイニシアチブから最大の価値を引き出す場でもある。しかし、多くの組織では断片化したインフラ上でAIシステムを運用しており、リアルタイム推論を実現する能力が制限されている。ハードウェア不足は、こうしたシステムの欠陥をさらに早く露呈させるだけだろう。

AIワークロードを収容するため、大規模な新しいデータセンターが建設されている（Matthew-G-Eddy/Shutterstock）

一部のユーザは、モデルをローカルで実行するためにオンデバイス推論を採用している。しかし、ユーザが個人所有の、承認されていないデバイスで推論を実行する場合、これは深刻なガバナンス上の問題を引き起こし、機密性の高い個人情報や企業情報を漏洩させる恐れがある。さらに、これが標準的な慣行となった場合、企業のAIコストをより多く従業員に転嫁するという不公平な前例を作りかねない。

推論の実際のコストは流動的だが、重要なのは平均コストではなく、企業が自社のコンピューティングエコシステム全体で推論コストを削減するために何ができるかである。

企業は、ユーザの需要に基づいて推論を自動的にスケールできる必要がある。つまり、推論トラフィックを調整し、収益に資するトークンエコノミーを支援し、よりリソース効率の高いオーケストレーションを確保するために、包括的な運用スタックを採用する必要がある。多くの企業にとって、これは単一プロバイダのインフラストラクチャモデルから離れ、より俊敏なマルチクラウド戦略を採用することを意味する。より多様なインフラストラクチャへの段階的な展開は、計算上の冗長性の削減から既存のスタックとの統合促進に至るまで、推論をさらに最適化する新たなソフトウェアによる高速化の可能性も開く。

効率化のための再構築

ある新しい報告書によると、CFOの69％が、自社のクラウド予算の10～30％が無駄になっていると考えている。ハードウェアコストの上昇が続く中、企業はこの割合を0％に引き下げるために懸命に取り組まなければならない。今年は多くのクラウド契約が更新時期を迎えており――AIブームの初期に締結された契約が相次いで更新されることも含め――推論処理のコスト削減とGPUの利用率最大化を最優先課題とすべきだ。

AIワークロードを、まさにその通り、インフラの肩にバランスよく乗せられた物理的な負荷だと考えてほしい。すべての負荷を1人の担ぎ手、1つの体に集中させれば、その担ぎ手はそれを支えるためにはるかに大きな力を発揮しなければならない。その負荷を複数の担ぎ手のチームに分散させれば、負担ははるかに軽くなる。同時に、負荷が十分に小さければ、おそらく1人か2人の担ぎ手で済むだろう。

要点は、インフラの利用がワークロードに比例してこそ効率が生まれるということだ。ハイパースケーラーは多種多様なソリューションを提供しているものの、必ずしも最も効率的な選択肢とは限らない。マルチクラウド戦略を通じて多様なインフラを活用することで、企業は正確なハードウェア要件に合わせてAIトレーニングと推論を最適化できる。これにより、エネルギー消費と財務的負担を削減しつつ、セキュリティ、一貫したパフォーマンス、持続可能な拡張性を確保できる。単一のプロバイダでは、通常、これらすべての成果を保証することはできない。

	ワークロードを移動させる能力を維持することは、顧客がAIブームとハードウェア不足を乗り切る助けとなる（Shutterstock）

コンポーザビリティは効率化への道だが、現代のAIシステムに必要なインフラを構築するには、綿密な戦略的取り組みが求められる。今こそ、AIイノベーションを牽引する有識者、すなわち効率化の実用化プロセスを可能にするプラットフォームエンジニアリングチームや開発者チームに注力すべき時だ。こうしたAIの「センター・オブ・エクセレンス」を構築することで、企業は現在および将来のハードウェア・エコシステムから最大限の価値を引き出せる。そして、GPU不足が緩和され始めた際、大規模なイノベーションを継続するための強固な基盤が整っていることになる。

オープンなエコシステムに救いを見出す

より効率的なAIコンピューティングへの道は、すでにテクノロジー業界のDNAに刻まれている。それはオープンソースだ。

オープンソースのAIモデルは、初期のトレーニングやテストの多くがすでに完了しているため、時間と演算リソースを節約できる。組織は、インフラに追加のトレーニング負荷を強いることなく、柔軟にイノベーションを推進できる。あらゆるトレーニングや改良は、信頼性の高い基盤上で行われる。また、多くのオープンソースモデルはコンプライアンスやセキュリティの面で実戦的な検証を経ているため、追加の金銭的ペナルティが発生するリスクを低減できる。

同様に、小型言語モデル（SLM）やその他の高度に専門化されたモデルの導入は、特にデータストレージの改善と相まって、ハードウェアの効率化を促進する。ストレージプロバイダとハードウェアプロバイダの間にはオープンなパートナーシップが存在しており、企業はこれを活用して導入を最適化し、コストを削減できる。

オープンソースのモデルやソフトウェアも、企業が既存のインフラストラクチャの容量を最適化するのに役立つ。適切なハードウェアとソフトウェアを組み合わせることで、GPUの効率を高め、AI開発が持続可能なペースで進むようにすることができる。

「ウォールド・ガーデン」の壁は崩れつつあるものの、まだ完全に崩壊したわけではない。真にオープンなエコシステムこそが、企業が独自のAI目標を達成するためのカスタムハードウェアおよびソフトウェアの仕組みを構築することを可能にする。これは競争慣行の崩壊ではなく、競争が繁栄するための基盤を築くことである。現在のハードウェア供給危機に明るい兆しがあるとすれば、それはイノベーターたちが協力し、既存のハードウェア上でAIの導入負担を軽減するよう促す点にある。

著者について：ケビン・コクランは、クラウド上のハイパフォーマンスコンピューティングを提供するVultrの最高マーケティング責任者である。