Spectral Compute、CUDAの制約を取り除くことに成功するか？

オリジナル記事「Spectral Compute Aims to Set CUDA Free. Will It Succeed?」

エヌビディアは、GPUの大成功により、主にハードウェア企業として知られている。しかし、AIやHPC開発者にとって事実上の標準となっているプログラミング言語「CUDA」のおかげで、エヌビディアはソフトウェア分野でも大きな存在感を示している。現在、Spectral ComputeのCUDA専門家グループは、この言語をエヌビディアから切り離し、ユーザが他のチップ上でCUDAコードを実行できるようにしようとしている。

Spectral Computeは2018年、CEOのマイク・ソーンガード、CTOのクリス・キッチング、ソフトウェアエンジニアのニコラス・トムリンソン、そしてソフトウェアエンジニアのフランソワ・スーシェを含む4人のエンジニアが、CUDAコードにおけるハードウェアへのロックインに我慢の限界を感じたことをきっかけに設立された。HPC最適化の経験が合わせて60年に及ぶ創業メンバーは、当初AI企業に勤務していたが、エヌビディア製GPUのコストの高さや代替コンパイラの性能の低さに強い不満を抱き、独自のコンパイラを開発することを決意した。

創業者は、CLangとLLVMのコンパイラ技術を採用した「SCALE」という製品を開発し、エヌビディアのCUDAコンパイラであるNVCCのドロップイン代替として機能させることに成功した。同社がSCALEで最初にターゲットとしたのはAMDのGPUだったが、現在は目標を拡大し、ユーザが他のAIアクセラレータ上でCUDAを実行できるようにしている。同社はエヌビディアのGPUもサポートしている。その背景には、エヌビディアがハードウェアの販売拡大を優先しているため、ソフトウェアベースのパフォーマンス最適化を十分に追求していないという見方がある。

	CUDAは並列コンピューティング開発ツール市場の約80％を占めている（画像提供：Gilulo Malitesta）

SpectralはCUDAを強く支持しており、同社の成長担当責任者であるジュリオ・マリテスタ氏によれば、実運用されているHPCコードの約80％をCUDAが占めているという。「CUDAは基本的にHPCのデファクトスタンダードだ」と、マリテスタ氏はドイツ・ハンブルクで開催されたISC 2026カンファレンスでHPCwireに語った。「我々はそれを事実として受け入れ、コンパイラエンジニアとして、必ずしもエヌビディアに限らない様々なプラットフォームで利用可能にするだけでなく、エヌビディアのGPUでの性能も向上させるよう取り組む必要がある。」

マリテスタ氏が指摘したように、CUDAコードを他の環境で実行可能にするコンパイラは他にも市場に出回っている。AMDは「HIPIFY」というツールを開発し、エヌビディアのCUDAコードをC++コードに変換することで、HIP（Heterogeneous-compute Interface for Portability）を介してAMDのROCmソフトウェアスタック上で実行できるようにした。また、SYCLomaticというオープンソースツールもある。これはもともとIntelが開発したもので、CUDAコードをData Parallel C++（DPC++）へ移行させるためのものだ。さらに、ZLUDAも忘れてはならない。これはかつてAMDが支援していたジャストインタイムコンパイラであり、CUDAバイナリを受け取ってエヌビディア以外のハードウェア上で実行するものだ。

しかし、ほとんどのツールには欠点がある。例えば、Spectralの創業者たちが以前関わっていたHIPIFYは、CUDAにおいてハードウェアの深いサポートを可能にするエヌビディアのアセンブリ言語であるParallel Thread Execution（PTX）を実質的に無視していると、マリテスタ氏は指摘する。SYCLomaticは約90％のコードを移行するが、残りの10％については手作業が必要となる。また、ZLUDAはコンパイル済みのバイナリコード上で動作し、ミドルウェア層として機能するため、パフォーマンスが低下する。法的な問題も、エヌビディア以外のさまざまなCUDAコンパイラを悩ませてきた。

マリテスタ氏によると、Spectral ComputeはSCALEを活用することで、これらの他社コンパイラの平凡なパフォーマンスを上回り、CUDAが基盤となるハードウェアの性能を最大限に引き出せるようにするという。同社は自社ウェブサイトにベンチマーク結果を公開しており、SCALEを使用した場合、HIPIFYを用いてCUDAコードをAMD独自のROCm環境に変換する場合と比較して、AMD GPU上で約6倍のパフォーマンス向上を実現していることが示されている。

Spectralがこのようなパフォーマンスレベルを実現できているのは、最先端のコンパイラフレームワークに基づいたクリーンルームでの再実装を行ったためだと、マリテスタ氏は述べた。「我々はCPUにおける業界標準のアプローチを採用しているが、それをGPUに適用している」と同氏は述べ、さらに「これは、例えばAMDやARMのCPU上でC++を実行可能にするのと同じアプローチであり、そこでは、基盤となるハードウェアの違いに直接起因しないパフォーマンスの差が生じるとは誰も予想していない」と付け加えた。

コードを再コンパイルした後、Spectralは数値的な観点からその正しさを検証する。通常のNVCCの出力と一致すれば、同社は実装が成功したとみなす。

ロンドンに拠点を置き、昨年600万ドルの資金調達を行ったSpectralは、現在、名称はまだ明らかにされていないサードパーティ製のAIアクセラレータのサポートに取り組んでいる。同社はまた、エヌビディア GPU上でCUDAを実行する顧客に大幅なパフォーマンス向上をもたらすとされる、独自の革新的なコンパイラ最適化技術の開発も進めている。今月下旬には、PyTorchへの対応をリリースする予定であり、これにより同社のツールはAIおよび機械学習フレームワークとの連携がさらに向上する見込みだ。

同社の従業員たちは、自分たちの活動がCUDAコミュニティにとって有益であると述べている。エヌビディアでさえ、結局のところこれは良いことだと理解している。6月、Spectralは正式なパートナーシップを締結し、エヌビディア Inceptionプログラムに参加した。

	（画像提供：Spectral Compute）

「我々はエヌビディアとも良好な関係を築いており、AMDとも良好な関係にある」と、Spectralのアカデミックソリューションおよび事業開発責任者であるルーベン・ヴァン・ドンゲン氏は述べた。「もちろん、業界全体と友好的な関係を築きたい。我々は中立だ。真に中立である。」

SpectralはすでにCUDAのコア製品をサポートしているが、深層ニューラルネットワークをサポートするcuDNN、テンソルをサポートするcuTENSOR、PolarやpandasのようなデータフレームをサポートするcuDFなど、特殊なCUDAライブラリは数百種類存在する。同社は、こうした特殊なCUDAライブラリへの対応を追加するために積極的に取り組んでいる。

SCALEの出荷開始からまだ約2年しか経っておらず、同社には長い実績がない。しかし、現在従業員数は約30名で、さらなる拡大を目指しており、急速に成長している。Spectraは、SCALEの利用権を民間企業に販売している一方、学術機関や非営利団体にはコンパイラ・ツールキットを無償で提供している。

Spectraは、さらなるハードウェアプラットフォームでCUDA開発の可能性を広げたいと考える世界中の企業、大学、研究所と協力している。SCALEは、オークリッジ国立研究所のエクサスケール・スーパーコンピュータ「Frontier」上でも動作した実績がある。

「将来は非常に明るい。我々は業界内の大きな課題を解決している」とヴァン・ドンゲン氏は述べた。「特に研究の分野では、研究者には時間が足りない。コードベース全体を書き直したり、既存のコードベースから移植したりする必要がなく、当社のソリューションを使って再コンパイルするだけで、パフォーマンスの向上さえ図ることができる。」

HPCコミュニティが、AIブームやGPUコンピューティングの急速な普及をめぐる異例の事態を受け入れつつある今、今後のあらゆる可能性についてじっくりと考える価値がある。エヌビディアは、GPU製造や並列ソフトウェア開発（CUDAを通じて）における進歩の多くを自力で切り拓いてきた注目すべき企業であり、世界初の時価総額5兆ドル企業となるという相応の報いを得ている。

エヌビディアは、これらのAIという「金の卵」をすべて自社のカゴに留めておきたいと考えているだろうが、それは必ずしもHPCやAIの顧客、ひいてはコンピューティング・エコシステム全体にとって最善の利益になるとは限らない。その点において、Spectralはすべての関係者に恩恵をもたらしている。おそらくさらに驚くべきことは、CUDAという「堀」に架け橋を築くSpectralのような企業が、もっと多く存在しないということだ。