世界のスーパーコンピュータとそれを動かす人々


5月 30, 2016

HPCの歩み50年(第84回)-2001年(h)-

小柳 義夫 (高度情報科学技術研究機構)

SC2001最終日は「抵抗勢力・全員集合」のパネルで、200人も集まり盛り上がった。Compaq社が遂にHP社に吸収されることが発表された。この買収を主導したCarly Fiorina CEOは2005年にすべての役職を辞することになる。

SC2001(続き)

14) Awards
恒例のAwardsの発表は、15日3時30分から行われた。主な表彰は以下の通り。

(1) Best technical paper of the conference
(不明)
(2) Best student technical paper
Computational Grid Applicationsのセッションの、Shava Smallen, Henri Casanova, Francine Berman (UCSD)の”Applying Scheduling and Tuning to On-line Parallel Tomography”に与えられた。賞金は500ドル。
(3) Best research poster
Sumir Chandra, Johan Steensland and Manish Parashar (Rutgers, The State University of New Jersey) “An Experimental Study of Adaptive Application Sensitive Partitioning Strategies for SAMR Applications” (SAMR = Structured Adaptive Mesh Refinement)
(4) Network challenge awards
これは、去年のSC2000から始まった賞で、3件にそれぞれ5000ドルが授与された。スポンサーはQwest。
a) The Network Bandwidth Challenge
“Veni, Vidi, Conexi Maxime” (“I came, I saw, I connected to the max”の意味。シーザーのVeni, Vidi, Viciのパロディー) 。これは、NERSC (Berkeley), UIUC, Germanyのチーム。NERSCとUIUCで計算したブラックホールの衝突のシミュレーションを会場で可視化。3.3 Gb/s を達成。
b) Most Courageous and Creative Effort
“Dancing beyond Boundaries” Digital Worlds Institute (U Florida) ブラジルにいる演奏家の音楽に合わせて、デンバー、ミネアポリス、フロリダのダンサーがが踊った。バンド幅としては30Mb/s程度であるが、国際的に分散したダンサー、演奏家、グラフィック・アーチストなどが協力して、高品質のビデオ・オーディオの作品を創造した。
c) The Best Network-Enabled Application
“Telesciend Video and Data Service” UCSD, SDSCのチーム。ネットワークを通して電子顕微鏡を操作。32 Mb/s。
(5) Gordon Bell Prize Winners
Digital Equipmentの副社長であったGordon Bell氏がポケットマネーを出して設立し、高性能計算による研究や発見を表彰する賞で、今年は15回目ということである(SCより古い)。今年は7件がfinalistsとしてnominateされていた。このうち5件はtechnical papersとして発表していたが、13日3時30分からGordon Bell Finalist Showcaseのセッションがあり、全員が発表した。3部門の受賞は以下のとおり。
a) Peak performance部門。3件がnominateされていたが、
- J. Makino and T. Fukushige (U. Tokyo) Grape 6により、銀河中心部のブラックホールを含むシミュレーションで11.55 TFlopsを達成し受賞。牧野氏は、これでPrice/Performanceを含めてなんと5回目の受賞。
残念ながら、理研のMDMによる8.61 TFlopsのNaCl溶解のシミュレーションは選に漏れた。
- A. Canning (LBL) et al., “Multi-teraflops Spin Dynamics Studies of the Magnetic Structure of FeMn/Co Interfaces” 2016原子を含むスーパーセルのスピンダイナミックスを、NERSCのIBM SPにおいて2.46 TFlopsを達成した件は、 “Honorable Mention”。
b) Price Performance部門。1件がnominateされ、受賞した。
- Seung Jo Kim, Joon Hwang and Chang Lee (Seoul Nat. U),”Impact Locating on Aircraft Structure using Low Cost …” ソウルの秋葉原とも言うべき電気街(龍山(ヨンサン)であろう。清渓川(チョンゲチョン)かも知れない)で買った部品で組み立てたクラスタで、飛行機の構造計算をした。24.6 cents / MFlops。
c) Outstanding Accomplishment部門。3件がnominateされ、
- G. Allen (Max Planck) et al., “Supporting Efficient Execution in Heterogeneous Distributed Computing Environments with Cactus and Globus” が受賞。NCSAのOrigin3台とSDSCの1台をつないで(total 1500 CPU) 63%から88%の効率。3-4日の準備と、5人以下の人手で達成。Fully automatic load balancingの成果。
-R. D. Loft et al (NCAR), “Terascale Spectral Element Dynamical Core for Atmospheric General Circulation Models” がHonorable Mention。これは、Spectral Element Methodという新しい方法で、370GFを達成(NERSC IBM SP)。1日で130年分の計算ができる。MPI onlyの方が、OpenMP + MPIより効率がよかった。
落選したのは、G. L. Bryan (MIT) et al.の34レベルのmesh refinementを用いた宇宙創生のシミュレーション。10^10 の空間スケールの差がある計算。
例年、受賞者の中から大賞を選んでいるが、今年はそういう話はなかった。
(6) Third annual IEEE Computer Society Seymour Cray Computer Engineering Award
これは、Seymour Crayを記念して授与される賞で、今年は3回目に当たる。賞金は10,000ドルでSGIがスポンサー(発足当時、Cray ResearchはSGIの一部門となっていた)。今年は、Stanford 大学学長のJohn L. Hennessy教授が受賞し、インタネット経由で受賞演説を行った。
(7) IEEE Computer Society Sidney Fernback Memorial Award
2001年は受賞者なし。

 

15) Virtual Product Development with CAE
木曜日にExhibitsが終了して、Receptionでお別れパーティーをやってしまうので、最終日(金曜日)は出席率が非常に悪く、プログラム構成上頭を悩ませるところである。今年は、MasterWorksとPanel を2本並列に正午まで開催した。

Virtual Product Development with CAEは最初の講演だけ聴いたが、Fluent 社のTom Tysinger氏が、FLUENTの紹介をしていた。流体の様々なシミュレーションのアニメーションは印象的だった。コンピュータ科学的な面では、domain decomposition, parallel partitioning, dynamical load balancingなどの成果を示していた。

16) 最終日パネル—「抵抗勢力・全員集合」
最終日のパネルとしては、”HPC Software: Have We Succeeded in Spite of it or Because of it?” と “General: Supercomputing’s Best and Worst Ideas” が設定され、いずれもかなり刺激的な内容で客を引こうとしていた。SS氏に言わせれば「抵抗勢力」の大合唱であった。MasterWorksが50人くらいしか出席していないのに、こちらは200人を越す盛況であった。

前半の、”HPC Software: Have We Succeeded in Spite of it or Because of it?” は、John M. Levesque (Cray, Inc.、元Applied Parallel Research)が司会し、(プログラムによると)M. Gittings, B. Gropp, D. Kuckなど年寄りのパネリストを集めていた。当然、Fortran 90の機能は使うな、CやC++など論外、などという昔風の議論が行われていた。私は途中から入ったので内容を説明できるほどは理解できなかった。

後半の、”General: Supercomputing’s Best and Worst Ideas”も、老人が言いたいことをしゃべる、というようなパネルであった。司会は、H. J. Siegel (Colorado S U)で、あらかじめ設定した質問に答える形でパネリストが発題を行った。いろいろ面白いことを言っているのだが、結局我田引水。

(1) Marc Snir (U Illinois, Urbana-Champaign。今年の秋まではIBMのWatson 研究所)
(飛行機の時間があるので、すぐ失礼すると言いながら)スーパーコンピュータとは、性能から見て上位x%に入るコンピュータのことである(まあ常識的)。
Best ideaとしては、COTS (Commodity-off-the-Shelf)-based scalable parallel systemsが登場したことである。重要な技術はinterconnectionであって、ハードもソフト(MPI, parallel I/O)もある。なぜ「よい」のか、それはPCと同じprice/performance ratioでスーパーコンピュータが作れるからである。Worst ideaは、クラスタがそれ以外の設計を存続不可能にしていることである。速いスーパーコンピュータ(ベクトルのことか?)は、アメリカと日本の政府のお情けで存在しているに過ぎない。それは問題か? もちろん問題だ、なぜならクラスタでは効率よく走らない応用があるからである(BlueGeneが頓挫した恨みがこもっているのか?)。そもそも、クラスタが安いなどというのは幻想である。故障率、プログラミングの費用などトータルなコストを考えれば、クラスタは決して安くない。ハードの不足を補うソフトを買うより、よいハードを買った方がベター。なぜクラスタが伸びているのか、初期価格と全体価格、見えるコストと見えないコスト、教育研究分野における曲がったインセンチブなどの問題がある。研究分野からの技術移転が問題。では、server farmは?これは使い物になる。(要は、PCクラスタなどを買わずに、IBMなどのサーバを買えということか)
(2) Burton Smith (Cray Inc.)
(プログラムにはなかったが登場)10個のbestとworstを述べた。
-10番目のbest ideaはMPIである。しかし、10番目のworst ideaは裸のMPIである。あんなものは使えない。
-9番目のbest ideaは、performance visualizationである。しかし、9番目のworst ideaは、そのpoor hardware instrumentationである。
-8番目のbest ideaは、RAIDである(Iが何を意味するかは問題だが)。しかし、8番目のworst ideaは、SAN (storage area network)がスーパーコンピュータのdisk I/O problemを解決するだろうという考えである。
-7番目のbest ideaは、Gridである。しかし、7番目のworst ideaは、Grid経由のmulticomputerまたはクラスタである。
-6番目のbest ideaは、standard mathematical library (ScaLAPACK, METIS, …)である。しかし、6番目のworst ideaは、LINPACKのR_maxによるベンチマークである。まあ、R_peakよりはましだが。
-5番目のbest ideaは、SPMD (Single Program Multiple Data)である。これはHarry Jordanが発明した(知らなかった)。しかし、5番目のworst ideaは、”New program language for parallel programming is necessary.”という考えである。
-4番目のbest ideaは、multicomputerである。クラスタだって、COW/NOWだって、MPPだってみんなこれだ。しかし、4番目のworst ideaは、”Multicomputer is the only supercomputer”という考えである。
-3番目のbest ideaは、compiler vectorization and parallelizationである。「Q8命令なんて知ってるか」と笑いを取っていた。(Cray Iの命令かと思ったら、CDCのCyber203用のベクトル命令を使うためのFortran Libraryの俗称だそうである。当時は、自動ベクトル化命令がなかったため、Q8命令と称して頭にQ8のついたlibraryを呼んでベクトル機能を使っていたとのこと。TW氏から伺った。確かに相当古い話である。)3番目のworst ideaは、これらがlegacy softwareにしか必要でないという考えである。
-2番目のbest ideaは、vector pipelined processorである。2番目のworst ideaは、”Vector is dead”という考えである。
-1番目のbest ideaは、(予想の通り)fine grain hardware multithreading である。HEPだって、MTAだって、HTMTだってみんなこれだ。1番目のworst ideaは、”Supercomputer architecture is dead.”という考え方だ。最後に一言、
What a maroon!! (私は)なんという浦島太郎!!
で一同爆笑。
(3) Charles Seitz (Myricom, Inc.)
Best ideaはクラスタだ。なぜいいか、それば通常コストをかけても性能は飽和するが、PCはそれ以前で価格性能比が適切だからである。Worst ideaは、”Distributed computing algorithm and programming are not well understood.”デッドロックとか非決定性とか。なぜスーパーコンピューティングの領域でクラスタが有効か。タイのカセサート大学の6.1 GFのクラスタの新聞ニュースを見せた(ちなみに、これをやっているPuchong Ulhayopas君は、HPC-AsiaのSteering Committee member)。一番悪いのは、マーケッティングのウソである。たとえば、Infinibandのバンド幅が160Gb/sなどと宣伝しているが、1ポートでみれば2.0Gb/sに過ぎない。
(要は、Infinibandなんかだめだ、Myrinetにしろ、ということ)
(4) Guy Robinson (Arctic Regin Supercomputing Center, U of Alaska)
いきなり、”I’m the dark side.” 物理の学生のころ、実験を熱心にせずに、実験を計算機で検証することに興味をもった。そこで、今日...なぜスーパーコンピュータを使うのか、それは地球を対象に実験ができないからであり、そうしなければだれも私の言うことを信じないからである。10年に1つくらい、新しいFortranが出てくる、CMF, HPF, OpenMP など。最適化コンパイラは確かに速いが、同一の答えが出てこなければしょうがない。やりたいようにやるよりしかたがない。もしうまくいかなかったら、デバッガのようなツールを使うとよい。

しかし、「もっと速くして欲しい」という要求が出てくるのはだいたい遅すぎる。ソフトができてからアルゴリズムを入れ替えることは難しい。現実ははるかに複雑。

(5) Cherri M. Pancake (Oregon State U)
いきなり、「始めに、PRINTコマンドありき」。昔のデバッグやチューニングでは何千行のプリントをした。だから、「ツールがHPCの最大の進歩かもしれない。」「でも、second opinionを求めなくては」と言いながら後ろを向いてめがねと付け鼻をつけて、低い声で「Tools may be the Worst of HPC」なぜならreal world applicationを扱えないから。HPC toolsは真にparallelか?HPC toolsを開発するときのモチベーションは何か。マーケティング的には、差別化を図り、魅力的に見えるように。研究的には、新しい制御メカニズムを導入し、cool picture!真のベストは、HPCユーザーが、適切なツールもないのに、努力していることである。真の最悪は、HPCユーザーが、標準化の議論に発言権がなく、可用性へのビジネス的な配慮がなく、調達の決定過程にインパクトを持っていず、ベンダにもセンターにも声が届いていないことである。

そして、「PRINTに戻った」

(6) James C. Browne (U of Texas, Austin)
1966年から今まで、と題して。(何で1966、彼のHPCキャリアか、FORTRANか?)ベストは、
-新しいハードウェアアーキテクチャに今でも限りない情熱が向けられていること(ほんまかいな?)
-HPCアーキテクチャを主流に持っていくという必要性の認識
-アプリケーションの開発者の、忍耐と堅持
-アプリケーションのべースが広がっていること
MPIのプログラムを見せて、こんなものを教えてはいけない。さて、最悪は、
-コンピュータ科学者、応用数学者、計算科学者、アプリケーション開発者が、歴史的に相互に軽蔑しあっていること(これは名言)。
-HPCコード開発の実状
-MPIプログラミング・モデル
このあと、特に「軽蔑disdain」をめぐってひとしきり議論。

 

ベンチャー企業の創業

1) Wikipedia
2001年1月にLarry SangerとJimmy Donal “Jimbo” Walesによりプロジェクトが開始された。1月15日に英語版が発足。5月20日には、日本語版を含む13のWikipediaが開設された。2003年6月20日にはWikimedia財団(非営利組織)が設立され、Wikipedia等の運営を担当。

2) Lindows 社
2001年8月、San DiegoにおいてMichael RobertsonはLindows Inc.を設立した。これはMicrosoft Windowsと互換性を持ち、Windowsのアプリが動くようなLinux-baseのOSを開発するためである。このため、1993年以来LinuxプログラマーがWindowsのプログラムをLinux上で走らせるために開発してきたWineプロジェクトの成果を使おうとしたが、うまくいかなかった。その後方針を変え、Linuxとの互換性を重視し、使いやすいGUIを開発した。Lindows ver 1.0は2001年末に公開された。2001年12月に、Windowsと似ているとしてMicrosoft社から訴訟を起こされたが、2004年7月16日和解が成立し、Lindows社は$20Mを受け取る代わりに、社名と製品名をすべてLinpireと改称することになった。2008年7月2日にXandros社に買収された。

似たような試みは以前にもあり、Sun Microsystems社は1990年代中頃からWindowsプログラムをSolaris上で走らせるソフトウェアを開発するWabiプロジェクトを進めてきたが、1997年に中止した。

ベンチャー企業の終焉

1) Compaq社
Compaq Computer社は、業界第3位でありながら、1998年1月にDEC社を吸収して以来業績が低迷しており、買収されるのではないかという噂がかねてから流れていた。収益不振のCompaq社は新しいAlphaServer ES45システムを発表した。これは1 GHzのAlphaプロセッサを用い、OSとしてはTru64 UNIX、OpenVMS、Linuxが動く。

しかしついにその日はやって来た。New York Timesなどによると、2001年9月4日に業界2位のHewlett-Packerd社がCompaqを買収することが発表されるとのことであった。日本の4日12時にはまだ発表がなく、業界雀が騒いでいた。

その後の報道によると、米国時間3日に買収が発表された。買収金額は$24.87B(ドル120円として、約3兆円)で、株式交換方式をとる。交換比率はCompaq株1株に対しHP株0.6325 株とのことで、2002年3月に完了する予定。これで業界1位のIBMに匹敵する会社ができると期待された。合併会社の経営陣はHPのCarleton S. Fiorina最高経営責任者(CEO)が会長兼CEOに、CompaqのMichael Capellas CEOが社長に就任した。後から思えばこれがFiorina女史のケチのつき初めであった。

2001年11月頃のHPCwireには毎号、CompaqがTerascaleを供給したという勝利のコマーシャルが載っていた。白鳥の歌であろうか。

——————————————————
[ ] 72590 ) Terascale Delivered
6 TeraFLOPS system at Pittsburgh Supercomputing Center
5 TeraFLOPS system at (CEA)
3 TeraFLOPS ASCI Q system at Los Alamos
1.9 TeraFLOPS system at GeneProt
1.5 TeraFLOPS Cplant system at Sandia
1.5 TeraFLOPS system at (JAERI)
1.3 TeraFLOPS system at Celera Genomics
——————————————————–

創業者Hewlett家のWalter Hewlett取締役は、この合併に反対という意向を表明し注目された。HP社の5%の株式を保有し、この合併が議論される株主総会では反対票を投じる、と述べた。

次は2002年、地球シミュレータが驚異的な性能を出しTop500の首位を獲得した。Jack DongarraはNew York Timesに「これはComputenik(コンピュータ版のスプートニク)だ」と寄稿した。

 

left-arrow 50history-bottom right-arrow