サムスンがインメモリAIチップ用のRISC-V CPUを開発している可能性を示すスライド

Agam Shah オリジナル記事「Slide Shows Samsung May be Developing a RISC-V CPU for In-memory AI Chip」

サムスンは図らずもRISC-V CPUを開発する意図を明らかにしたかもしれない。同社はインメモリ処理を多用したAIアクセラレーターのリリースを計画しているが、次期チップについては沈黙を守ってきた。

ISCカンファレンスのスライドには、”サムスンのRISC-V CPU/AIアクセラレーター “と記載されていた。RISC-V CPUがその特定のチップに関連するものなのか、それともサムスンが別のRISC-Vプロセッサーを開発しているのかは明らかではない。

このスライドは、エヌビディアのGPUではないAIアクセラレーターの販売をサポートするAIソフトウェアの構築を目指すUXL Foundation（Unified Acceleration Foundation）に関するセッションで発表された。このAIソフトウェアは、エヌビディアのCUDAと競合することになる。

ISC 2024カンファレンスのUXL Foundationのセッションで、サムスンの “RISC-V CPU/アクセラレータ “について言及したスライド（出典：ISC 2024 Video）

サムスンは、インメモリー処理について広く議論している。メモリの近傍や メモリ内部でコンピューティングを行うことで、科学的アプリケーションやAIアプリケーションの帯域幅の問題を軽減することができる。サムスンは今後、「Mach-1」と呼ばれるAIアクセラレーターを発表すると報じられており、ネイバー（韓国のインターネット複合企業）はすでに7億5200万ドルの発注を行っている。

サムスン高等技術研究所のスタッフ研究員であるボンジュン・キム氏はセッションの中で、LLMは一般的にAIアプリケーションに多くのメモリを必要とし、GPUが十分に活用されない場合があると述べた。

「メモリ帯域幅の問題を軽減するために、インメモリで処理を行う必要があります」と、ボンジュン氏は「HPCとAIのためのソフトウェアの次の35年のロックを解除する」と題されたISCのセッションで語った。

彼はこのチップについて具体的には語らず、サムスンのRISC-V CPUに関する追加情報もない。

CPUは、ソフトウェアキットの機能で定義された特定のタスクを実行するために、サムスンのメモリベースのチップに搭載された低性能のRISC-Vプロセッサである可能性がある。

RISC-Vはまだ高性能CPUとして確実に機能する段階にはない。インテルのx86アーキテクチャーやARMをベースとしたCPUのような性能は得られず、ソフトウェアのサポートも貧弱だ。

RISC-VのCPUは、オープンスタンダードな命令セットに基づいて構築されており、ライセンスは無料だ。エヌビディア、アップル、そして多くのチップ・プロバイダは、すでにARM CPUを搭載したチップにRISC-Vマイクロコントローラを搭載している。インテルのNIOS FPGAもRISC-V CPUを搭載している。

ヨーロッパ、中国、ロシアもRISC-V CPUをベースにした国産チップを製造している。これらの国々は、インテル、AMD、ARMの独自設計に縛られることを好まない。半導体は、国家間の貿易条件を決定する地政学的ツールとして武器化されている。

サムスンは、インメモリAIアクセラレータ上で動作するAIアプリケーションのために、UXL財団が推進するオープンソースのツールキットを使用している。また、エヌビディアのGPUに接続するためのフックとなるOpenMPとOpenACCもサポートしている。

インテルが所有するコードプレイ社のアンドリュー・リチャーズ最高経営責任者（CEO）はISCのセッションで、UXL財団のソフトウェア・キットはハードウェア企業が新しいハードウェアを革新するための基盤を提供すると述べた。

リチャーズ氏は、UXL財団のソフトウェア・ツールキットの中核をなすSYCLと呼ばれるツールは、新しいハードウェアをプラグインできる既製のフレームワークを提供すると述べた。

ユーザーはSYCLを使って、AIアプリケーションをエヌビディアのGPUから他のAIプロセッサーに移行することができる。

サムスンのボンジュン氏は、SYCLをニアメモリやインメモリ処理のユースケースに持ち込むことは困難だったと述べた。

サムスンは、基盤となる低レベルSDKをOneAPIベースのソフトウェアスタックに抽象化した。OneAPIは、AIとHPCのためのインテルの並列処理フレームワークであり、SYCLツールであるSYCLomaticを含んでいる。

「インメモリ、ニアメモリのAPIをSQLグループ関数と同じように設計することに決めたので、非常に簡単でした。実装に関しては、少し複雑だったと言えます」とボンジュン氏。

リチャーズ氏はこう答えた： 「われわれがSYCLを設計したとき、メモリーでの処理については考えていませんでした。あなたは、SYCLをメモリ上のプロセッサの特別な機能で拡張したのです。」