Thomas SterlingのISC基調講演、Frontierとエクサスケールへの大手柄を祝福

John Russell オリジナル記事

長年 ISC の基調講演を務め、HPC のパイオニアであるトマス・スターリング氏は、2022 年の講演のテーマを決めるのは大変なことではなかったと述べている。

	インディアナ大学 トマス・スターリング氏

「特定の年について、誰もが覚え、同意するような必要な言葉は何でしょうか？これは簡単です。エクサフロップスです。本当のエクサフロップスという意味です。まさにエクサフロップスに食らいつけるようなものです。エクサスケールとか低精度エクサフロップスとか、『エクサフロップスが何かは知っているよね』といった言葉ではなく、Rmax（倍精度性能）ですよ」 と、スターリング氏。

それに反論するのは難しい。Frontierが1.102エクサフロップスのLinpackを実行し、最新のTop500の栄冠を勝ち取ったことで、エクサスケール時代が正式にスタートしたの だ。スターリング氏は、このニュースを喜んで受け止めた。同氏は、今回で19回目のISC基調講演を行った。彼は、インディアナ大学の知能システム工学の教授であり、AIコンピューティングシステム研究所の所長でもある。クラスタアーキテクチャ「Beowulfの父」として知られる。

ヨーロッパで急増する HPC、HPC のアイデンティティの危機、パンデミックによる不安と勝利、天の川の中心にあるブラックホールを画像化するイベントホライズン望遠鏡の計算量の多い努力についての短いスポットライトなど、いつものようにスターリング氏の講演（HPC Achievement and Impact 2022）には多くの内容があった、しかしエクサスケール・コンピューティングが中心となって行われた。ここでは、スターリング氏のスライドとコメントの一部を紹介する。ISCはこのビデオをアーカイブしており、年末までISC参加者に提供する予定だ。

 

Frontierとエクサスケールへの取り組み

Frontierの性能は、それ自体だけでなく、DOEや幅広いHPCコンピューティングコミュニティがエクサスケールコンピューティングに到達するための幅広い取り組みに対する力作だったと、スターリング氏は振り返る。

「Frontierは単なるマシーンではありません。Frontierはプロセスの結果なのです。そのプロセスは、エネルギー省の広い指導のもと、オークリッジ国立研究所で行われてきましたが、米国の他の主要な機関や目標とも連携しています。そしてそれは実際、TitanやSummit、そしてアプリケーションプログラマのために異種混在計算を実現しようとする多くの人々の献身と取り組みによる結果なのです。これは、アプリケーションやアルゴリズムに関係することです。また、システム・ソフトウェアやツールにも関係してきます。そしてもちろん、アーキテクチャや技術にも関係してきます。これは、10年以上にわたって細部に注意を払い、HPCへのアプローチを成熟させてきた集大成なのです。彼らはこのエキサイティングな結果を生み出し、この分野を前進させる以外の何ものでもありません」とスターリングは述べている。

HPCwireによるFrontierシステムおよびTop500のディープカバレッジをご覧ください。

スターリング氏は、1991年の高性能コンピューティング法によって設立された高性能コンピューティング＆コミュニケーション（HPCC）プログラムの重要な役割について次のように語っている。「30年前のHPCCプログラムは、本当に実用的で効果的なHPCを作ることに重点を置いていました。つまり、これはマシンだけではありません。アプリケーションやシステムソフトウェア、ツールも含まれるのです。」また、ソフトウェアに焦点を当て、新しいエクサスケールシステムのための実行可能なソフトウェアエコシステムを確保するために、ハードウェアの取り組みと密接に連携したエクサスケールコンピューティングプロジェクト（ECP）の仕事を賞賛し、その中でFrontierは最初のものであると述べている。

 

HPCとは何か（そしてAIとは何か）？

スターリング氏の講演の多くは祝辞であったが、HPC のいわゆるアイデンティティの危機に関する彼の暗いコメントは、少なくともそれと同じくらい興味深いものであった。HPCのアイデンティティの混乱は、これまでにも増して話題になっている。ムーアの法則の衰退、AI 技術の台頭とその HPC への導入、ヘテロジニアスシステムの出現により、多くの人がハイパフォーマンスコンピューティングを行うことの意味について疑問を抱くようになった。スターリング氏は、こうしたコメントを最後に残し、答えを提示しなかった。

「HPC って何？という問いかけは、そのままにしておきます。私はそれに答えようとは思いません。しかし、（もし）HPCがコンピューティングを中心とした最先端技術であり、「パフォーマンスとは何か」という問いかけをしたのだという感覚はお伝えします。バカげた質問だと思われるかもしれませんね。ハイパフォーマンス、何を語りましょうか？」

「スループットな のでしょうか？それとも解決までの時間ですか？」

観衆をスキャニングしながら、彼は言った。「20年前に会ったことがあるような人たちですね。time-to-solutionであることに同意していただける方もいらっしゃるでしょう。今、私は、キャパシティ・コンピューティングのコンセプトとその成長を高く評価しています。しかし、これは非常に深刻な問題で、もしtime-to-solutionを含めることができないのであれば、我々はすでに決して通過することのできない障壁を築いてしまっているのです。」

 

「もう一つの疑問は 」と述べ、「AIとは何かということです。このスライドをやるのはとても怖かったし、実際、誰かを怒らせたくなかったんです（下のスライド）。ここからが本題です。まず第一に、人工知能というのはひどい言葉です。たしかに、人工物から知能を連想させるかもしれません。この言葉は1958年か59年に作られたものです。しかし、人工的ということは、現実には存在しないということでもあり、正直なところ、私たちの使い方は後者のほうに近いと思います。AIがすべて機械学習や深層学習というわけではなく、機械学習や深層学習がすべて機械知能というわけでもないということを、簡単に申し上げておきます。そのあたりを考えていただきたいと思います。」

「正しい用語は機械知能だと思いますし、それが何をする必要があると思うかをお話しします。 これはチューリングテストではありません。チューリングは冗談で言ったのでしょう。チューリングテストは人間をコンピューターに対抗させるテストですが、コンピューターはなぜ、a) それに従うのか、b) 人間のように愚かな振る舞いをするのか。つまり、イギリスの[50ポンド]札に描かれている人（アラン・チューリング）を侮辱するわけではありませんが、機械知能とは機械が理解することなのです。これをスターリング・テストと呼びます。もし機械が理解すれば、それはウィノグラード・ブロック・ルール（1972年の素晴らしい作品）以上のもので、私たちは機械知能を達成したと思います」とスターリングは述べた。

これでどれだけ物事が明確になったかはわからないが、一考の余地はある。

 

復活する欧州のHPC

ISC22 を通じて、ヨーロッパにおける HPC の力強い復活が中心テーマと なっている。スターリング氏は，欧州ハイパフォーマ ンスコンピューティング共同事業（EuroHPC JU）プロ グラムの進展について言及した。また，欧州の HPC リソースが長期的に利用しやすくなっていることを指摘し，以前の Top500 プレゼンテーションのスライドを示した。

「これは派手なスライドではありませんが、重要なスライドです。国際的には、HPCの分野は、利用可能な性能において、それがピーク時であろうと、多くの導入されたシステムに分散していようと、収束しています」とスターリング氏は述べた。

 

スターリング氏は、欧州における量子コンピュータの取り組み、特に古典的な資源と量子コンピュータを統合することに焦点を当てた取り組みについて簡単に説明した。また、量子コンピュータは汎用的なシステムにはならず、特定の問題に対するアクセラレータとして利用されるようになるだろうと述べた。性能や実用性だけでなく、エネルギー効率も重視したマイクロプロセッサを開発する「EPI（European Processor Initiative）」について、「これは一大事業だと簡単に言っておきます」と述べた。

 

富岳の今日（と昨日）、明日はゼタスケール？

Frontier が HPC の新たな王者となった一方で、スターリング氏は Top500 で 2 位となった富岳を絶賛した。彼は、富岳の展開の早さ、素晴らしいパフォーマンス、そしてCovidパンデミックと戦うためのHPCリソースの世界的な動員の一部としての役割を賞賛した。

「この科学は、私たち（世界）が非常に強いポジティブな効果を持つワクチンを作ることができたことに驚いています。というのも、富岳は単なる納入機ではありません。Covid-19が世に出た時、理研（と文部科学省）の人たちは、富岳の配備を何ヶ月も、私の意見では1年近くも早めなければならないと判断したのです。さらに驚くべきことがあります。彼らは官僚主義を潰したのです。新薬を設計し、病気のメカニズムを理解する科学者と、機械の使い方は知っているが微生物学は知らない計算科学者の間で、同時に共同研究が行われるようになったのですから、おそらく時間の節約になったでしょう。富岳は、この勢いを推進する日本国内の中心的存在となったのです。並外れた成果でした。」

「さらに日本はこの地位に甘んじることなく、すでに2029年に納品する次のマシンの話をしていることにも触れたいと思います。ISC 2022で講演した松岡聡氏は、ゼタフロップスをコミットする用意はない、と言っています。彼が実際に冗談を言ったかどうかはわかりませんが、彼らはすでに、より高密度で、同等の大きなインパクトを与えたいものを目指しています」とスターリング氏は言う。

 

イベントホライゾンテレスコープで天空を目指す

スターリング氏の基調講演の特徴は、ハイパフォーマンス・コンピューティングによって可能となった科学的成果への賛辞だ。今年は、イベント・ホライズン・テレスコープ（EHT）が天の川の中心にあるブラックホール、射手座A（推定400万太陽質量）を画像化し、分析したことについて語った。この画像の解析には、2日間で10エクサフロップスの計算が必要だった。

射手座Aの写真を見せながら、過去の基調講演で紹介したM87と対比させた。M87は、これまでに確認された中で最大級のブラックホールだ。射手座Aの1000倍の大きさで、地球から約5500万光年の距離にある。「EHTは仮想のコンピュータであると同時に、仮想のアンテナでもあるのです。この電波望遠鏡は、世界中にある半ダースほどの電波望遠鏡を構成しています。その利点のひとつは、この仮想アンテナをひとつの天体に向け、地球が回っている間、それを継続的に見ることができることです」とスターリングは述べている。

「信じられないかもしれませんが、わずか2万6千光年の距離にある天の川の中心を見るよりも、超巨大で遠いブラックホールを見る方が簡単なのです。なぜでしょうか？それは、私たちは自分たちの銀河の塵の雲を直接見ているのに対し、他の渦巻き銀河のてっぺんを見下ろすことができるからです。この方がはるかに難しい。また、大きさもずっと小さいです。下の写真は、私たちのブラックホール（400万太陽質量）がいかに小さいかを示すものです。これ[画像の撮影と解析]は、高性能のコンピュータを使うことによって初めて可能になったのです。ちなみに、データの移動にはインターネットも使えなかったそうです。」

いつものように、スターリング氏は多くのことを話し尽くした。彼は、AMD のチップが多くの新しいシステムを動かしていることを指摘した。また、HPCシステムの寿命が延びる傾向にあることについても言及した。AI のコンピュートサイクルに対する欲求は、将来的に HPC を支配することになるだろうと彼は示唆した。HPE に買収された Cray の強さを多くの人と同様に賞賛している。彼は、Advanced Graphic Intelligence Logical Environmentプログラム（AGILE）を賞賛した。「AGILE プログラムは、大規模なデータ解析問題のニーズを満たす、新しいクラスの高性能、高効率、スケーラブルなコンピュータのために、革新的なコンピュータ・アーキテクチャと関連する集積回路設計を開発することを目的としています。」

来年はどうなのだろう。

スターリング氏のバイオ

インディアナ大学知能システム工学の正教授であり、同大学ラディ情報学・計算工学部のAI計算システム研究所の所長も務める。1984年にMITからHertz Fellowとして博士号を取得して以来、産業界、政府研究所、学界において、並列コンピューティングシステムの構造、セマンティクス、運用に関する応用研究に従事してきた。Harris Corp.、IDA Supercomputing Research Center、NASA (GSFC, JPL)、University of Maryland、Caltech、LSU などで勤務している。1997年にGordon Bell賞を受賞したコモディティ/Linuxクラスタコンピューティングの先駆的な研究により、「Beowulfの父」として知られている。現在の研究は、MLを含むAI向けの動的グラフ処理を加速するためのメモリ中心の非フォンノイマンアーキテクチャコンセプトによる革新的なエクストリームスケールコンピューティングに関連するものである。2018年には、新しい技術企業であるSimultac LLCを共同設立し、その社長兼チーフサイエンティストを務めている。スターリング博士は、2013年にヴァンガード・アワードを受賞し、AAASのフェローでもある。本年、宇宙技術の殿堂入りが決定している。7冊の本の共著があり、6つの特許を保有しています。直近では、2018年にモルガン・カウフマン社から出版された入門書「High Performance Computing」を共著し、第2版に移行している。