中国、ゼタスケールを2035年までに？

Tiffany Trader

エクサスケール・マシン（少なくともピークで1エクサフロップス）は、2020年ごろに到来する予定で、当初の予測よりも数年遅れている。非常に大きな性能上の課題がそれほど簡単にはなっていないためであるが、研究者はすでに次の1,000倍のパフォーマンス目標であるゼタスケール・コンピューティングを目指している。最近発表された論文では、Tianheシリーズのスーパーコンピュータを担当している中国国防技術大学のチームが、2035年までにゼタスケール・マシンを構築することが可能であることを示唆している。この論文では、ハードウェア・ゼタスケール・コンピューティングをサポートするための推奨事項をまとめている。

この見通しは、中国の（国家主要技術研究開発計画によって支援されている）ポスト・エクサスケール構想を垣間見るものであるが、示されたこれらの課題は、リーダーシップ・スーパーコンピューティングの限界を推進している人にとっては馴染み深いものだ。

情報技術＆電子工学のフロンティア（中国工程院のポスト・エクサスケールコンピューティングの特別号として発刊）に発表された「エクサスケールからゼタスケールへの移行：課題と技術」という記事は次の性能限界を突破するためのフォーカス領域の高次調査として行われた。それはいつだろうか？研究チームはパフォーマンスの低下を指摘しながらも、野心的な目標である2035年を設定している。一貫した指標を得るために、ゼタスケールをピーク性能で1秒当たり10 ^ 21の倍精度64ビット浮動小数点演算が可能なシステムと定義している。

性能メトリック(すでに動いている)における性能混合精度演算やAI型アルゴリズムの潜在的な影響は話題にされていないが、著者は次のように述べている。「アプリケーションタイプとスケールの継続的な拡大に伴い、従来の科学計算と新しいインテリジェントコンピューティングがアプリケーション層をさらに充実させることが期待されます。 ランタイム中にさまざまな作業負荷を自動調整するために、テクニック（機械学習など）が使用されるのです（Zhang et al.,2018）。」

アーキテクチャへの影響も考えられている。

「従来のHPCアプリケーションや新しく登場したインテリジェント・コンピューティング・アプリケーション（ディープ・ラーニングなど）は今後も存在しますが、多種多様なアプリケーション・ワークロードをサポートするために、プロセッサ設計では混合精度演算を考慮する必要があります。」

この論文は以下のように編成されている。

1はじめに
2高性能コンピューティングにおける将来の技術課題
2.2消費電力の課題
2.3インターコネクトの課題
2.4ストレージシステムの課題
2.5信頼性の課題
2.6プログラミングの課題
3将来の高性能コンピューティング技術の進化と革命
3.1アーキテクチャ
3.2高性能インターコネクト技術
3.3新ストレージ技術
3.4新製造プロセス
3.5プログラミングモデル環境
4 ゼタスケール・コンピューティングの提案

9ページ論文はアクセス可能で、すべて読むことができる。以下の最終セクションからの抜粋は、検討すべき方向性を示している。

「これらのメトリックを実現するには、マイクロアーキテクチャはより多種多様なコンポーネントから構成されるように進化していきます。量子コンピューティングのような新しいコンピューティングのパラダイムを含む多くの特殊アクセラレータが、共同でハイパフォーマンス・コンピューティングを促進するために共存する可能性があります。フォトニック結晶のような新しいインターコネクト素材が可能になると、完全な光インターコネクト・システムが使用されるようになり、よりスケーラブルで、高速で、低コストの相互接続が可能になるのです。」

「ストレージシステムは、データアクセスの帯域幅を増大し、レイテンシを削減するために、より階層的になります。 2.5D / 3DのスタックメモリとNVMテクノロジは、より成熟していきます。材料科学の発展により、メモリとコンピューティングのギャップを埋めるためにmemristorが実用化され、従来のDRAMは寿命を終えるかもしれません。消費電力を削減するため、ラック/ボードレベルからチップレベルまで、複数のレベルで冷却を行うことになるでしょう。」

「プログラミングモデルとソフトウェアスタックは、新しいハードウェアモデルに合わせて進化するでしょう。 MPI+Xプログラミングモデルを除いて、新コンピューティングパラダイムと新コンピューティングデバイスのための新しいプログラミングモデルが開発され、性能、ポータビリティ、生産性のバランスを念頭に置くことになります。従来のHPCアプリケーションと新しいインテリジェント・コンピューティングのアプリケーションは将来共存し、ハードウェア層とソフトウェア層の両方がこのアプリケーションワークロードの進化に適応する必要があるのです。（Asch et al.,2018）。」

ジャーナル記事へのリンク：https://link.springer.com/article/10.1631/FITEE.1800494

論文へのリンク：https://link.springer.com/content/pdf/10.1631%2FFITEE.1800494.pdf

ポスト・エクサスケール・スーパーコンピューティングに関する特集号：https://link.springer.com/journal/11714/19/10/page/1