AMD、ROCm.AIでCUDAの優位性を崩せるか？

オリジナル記事「Can AMD Lower CUDA’s Moat with ROCm.AI?」

7月に開催された「高度なAI」ローンチイベントの一環として、AMDは「ROCm.ai」を発表した。これは、AMDのGPU向け開発ツール「ROCm」にAIコーディングエージェントを導入する新たな「開発者向け体験」である。AMDによると、ROCm.aiは、高度に最適化された高性能なコードを開発するために必要な時間と労力を劇的に削減するという。しかし、エヌビディアの人気開発環境であるCUDAが支配的な市場に、果たして影響を与えるのだろうか。

もともと「Radeon Open Compute」の略称であったROCmは、GPU加速コンピューティング向けのAMDのオープンソース・スタックだ。AMDが約10年前にリリースしたこのソフトウェアには、コアランタイム、ドライバー、ライブラリが含まれており、開発者はこれらを利用して、PyTorchやTensorFlowなどの一般的なフレームワークを用いて、AIやHPC、その他の種類のアプリケーションを記述することができる。

アプリケーションでGPUの性能を最大限に引き出すことは、従来は困難な作業であり、低レベルの構造を扱うことに慣れた専門家向きだった。しかし、AIのおかげで、その状況は変わり始めていると、AMDのAI担当上級副社長であるヴァムシ・ボッパナ氏は述べた。

「ほんの数年前までは、AMD GPUのプログラミングには高度な専門知識と多大なエンジニアリングの労力が必要だった」と、ボッパナ氏はイベントで述べた。「我々は驚くほど短期間で、非常に大きな進歩を遂げた。」

	ROCm CLIはプレビュー版

この1年間、AMDのエンジニアたちは社内でROCmとAI支援型コーディングツールを併用し、GPUカーネルの生成、コードの最適化、問題のデバッグ、パフォーマンスの向上に取り組んできたとボッパナ氏は述べた。その取り組みは驚くほど良い結果をもたらしている。

「場合によっては、生成AIが生成したこれらのカーネルは驚くほど優れており、我々の予想を上回り、時には手作業で微調整された最高のバージョンよりも優れていることもある」とボッパナ氏は語った。「これを初めて目にしたときは、少し懐疑的になる。さらにテストを重ね、不具合を探し、何が間違っているのかを確認していくうちに、これが本物だと気づくのだ。」

こうした好結果を受け、同社は先週、GPU「Instinct MI400」シリーズおよび「Helios」ラックシステムの発売の一環として、ROCm.AIを開発・リリースした。

ROCm.AIは、Claude、Codex、Cursor、Geminiなどの既存のコーディングエージェントと連携し、ROCm環境のセットアップや検証、モデルの提供、ローカルテレメトリの公開、GPUのパフォーマンスを最大限に引き出すためのワークロードのチューニングなど、開発プロセスを開発者に案内する。

ROCm.AIはいくつかのコンポーネントで構成されており、その一部は一般提供済み、一部はプレビュー段階にある。まず、ROCm.AIがAIエージェントと連携するための主要な手段である「AMD Skills」がある。「serving-llms-on-instinct」や「local-ai-app-integration」といったAMD Skillsは、すでにAIエージェントに導入されており、Claudeやその他のエージェント向けのプラグインとして利用可能だ。

また、ROCmソフトウェアをインストールし、環境を操作するための新しいコマンドラインツール「ROCm CLI」も用意されている。AMDによると、プレビュー版であるこのCLIは「決定論的かつスクリプト化可能」であり、AIエージェントやROCmコンソール（後述）から呼び出して状態情報を取得できる。

ROCmコンソールは、ROCm.AIとともにリリースされたもう一つの新コンポーネントだ。このコンソールは、マシンのテレメトリ、ログ、実行時ステータス、診断コンテキストを可視化し、開発者やエンジニアに、GPUパフォーマンスのチューニングやパフォーマンス問題の追跡に役立つデータを提供する。

AMD Instinct MI455X GPU

また、ROCm.AIとともにリリースされる、AIを活用した新しいワークロード最適化ツール「ROCm Hyperloom」もある。Hyperloomは、AMD GPU上でのエンドツーエンドの推論ワークロード最適化を実現する、完全自律型のエージェントシステムを提供するために設計された。AMDによると、このツールは「AIエージェントとプロファイリングツールを使用してワークロードを分析し、ボトルネックを特定し、対象を絞った最適化を適用し、パフォーマンスと正確性の両方を検証する」ことで、ホストコードとGPUカーネルの両方を対象としているという。

ボパンナ氏によると、ROCm.AIは、Cursor、Claude、CodexといったAIコーディングツールがROCmをより深く理解できるよう支援し、RadeonやInstinct GPUを含むAMDのGPU全ラインナップ向けにワークロードを最適化するものだ。「つまり、これらの人気のあるコーディングエージェントをROCmのスーパーユーザーに変えているのだ」と彼は付け加えた。「実行したいワークロードや達成したいパフォーマンス目標を記述すれば、エージェントがその達成を支援してくれるはずだ。」

ボパンナ氏は、ROCm.AIに関するいくつかの数値を共有した。これは、ベンチマークテストで同等の性能を持つGPUにおいてエヌビディアのCUDAより10％から30％高いパフォーマンスを示していることから、AMDの競争力に関する疑問に関わるものだ。

「ここで画面上で実際に確認できる。私がGPUカーネルを記述すると、ROCm.AIはより最適化されたMoEグループGEMMを記述する機会を検知する。その結果は？」とボパンナは聴衆に問いかけた。「ROCm.AIは、この具体的な例において、トークン毎秒で38％の向上を実現した。これこそが、私たちが開発者に提供したい体験だ。始めるのは簡単で……最適化の力は強力だ。」

	AIアクセラレータの市場シェア（出典：Silicon Analysts）

ボパンナ氏はまた、ROCm.AIが、ブロックスケールの融合カーネル、クイックキャッシュ量子化、エキスパート並列化といった技術を用いて、DeekSeekのAIモデルで3.3倍の高速化を実現できたと述べた。同氏によると、ROCm.AIは、フューズ・フラッシュ・アテンションといった最適化されたカーネル、より効率的なチェックポイント機能、高度な並列化戦略を通じて、AIモデルのトレーニング性能を平均2.4倍向上させることができるという。

「当社のエンジニアたちは、ROCm.AIを通じてMI 455の能力を引き出すために素晴らしい仕事をしてくれた。そのため、ハードウェアに関する驚くべき成果を共有できることを大変嬉しく思う」と、同氏は発表イベントで語った。「開発者は、モデルアーキテクチャの各層、カーネルの選択、通信戦略、ラックレベルの展開について、手作業で一つひとつ検討する必要はないはずだ。AIはこの体験を変革しつつあり、それはGPUのハードウェアとソフトウェアにとって、非常に、非常に大きな変化だ。」

Silicon Analystsによる最近の分析によると、エヌビディアは現在、データセンター向けGPU市場で圧倒的なシェアを占めており、市場シェアは推定75％から80％であるのに対し、AMDは約7％にとどまっている。しかし、これらの数字は決して不変のものではない。AMDが新しいGPUシリーズ「MI400」で示している最近の性能上の優位性――もちろん、完全なHeliosラック環境やROCM.AIソフトウェアも同様だ――は、AMDがエヌビディアからシェアを奪うことに本腰を入れていることを示している。

CUDAはROCmよりも約10年の先行優位性を持ち、世界中の数百万台のGPUで広く使用され、その実績が証明されている。AMDは、AI分野を含めても、CUDAが提供する機能の全範囲においてエヌビディアに匹敵することはできない。

しかし、ROCM.AIのリリースにより、AMDはAI分野における最近の進歩を積極的に活用し、CUDAとの差を縮め、従来CUDAがROCMに対して持っていた性能や使いやすさという優位性を奪い取ろうとしていることを示している。市場がこの新たな情報にどう反応するか、そしてエヌビディア自体の反応はどうなるか、今後の展開を見守る必要がある。