新HPCの歩み（第140回）－1996年(f)－
|
PittsburghでのSupercomputing 96は、ENIAC完成50周年、IEEE/CSおよびACMの創立50周年ということで歴史資料が展示された。開会式ではSeymour Crayの追悼演説が行われ、Seymour Cray賞の創設が発表された。ECMWFの所長 David Burridgeが招待講演「天気予報の現場から－コンピュータの役割－」で予報におけるコンピュータの重要性を論じた。 |
SC96
 |
|
 |
1) はじめに
第9回目のSupercomputing国際会議SC96は、ペンシルバニア州のPittsburgh の David L. Lawrence Convention Center および隣接する Double Tree Hotel で、”Computers at Work” をテーマに、11月17日から22日まで(17日はtutorialのみ)開かれた。組織委員長はBeverly Clayton (Pittsburgh Supercomputer Center、写真)であった。今回のホットトピックはASCI計画とPetaflopsであろう。
今年の有料参加者は(主催者発表によると)展示だけの人も入れて4691人とのことで去年より1000人ほど減っている。これはHPC分野の退調を示すのか、単にピッツバーグの観光価値が低かったのか、興味のあるところである。テクニカルの参加者は1400人で、例年と同じ程度であろう。日本からの参加者は、100人程度はいたものと思われる。
前年のSC95の展示会場の一角にSC96のブースがあり、アンケートを持って行くと記念品をもらえた。「ピッツバーグって何の街ですか。鉄鋼ですか？」と聞いたら、係員が露骨に嫌な顔をして一言、‟Used to be！”（昔はね）。「じゃあ、何なの」と聞いたら、「医療の街」とか言っていた。医療のみならず、ハイテク産業・保険・教育・金融・学術都市というところか。
街の一角の公園に、数メートル以上の高さの大きな錆びだらけ鉄の塊が雨ざらしになっていた。看板には‟Clinton Furnace”とあった。ペンシルベニア州で2番目に古い高炉で（コークス炉としては最古）、ピッツバーグが鉄鋼の街となる出発点の炉のようである。2016年のアメリカ大統領選挙でDonald Trumpが出てきて、「ラストベルト（rust belt、錆びた地帯）」が話題になったとき、この錆びた炉を思い出した。
Pittsburgh は寒いと聞いていたが、会期中は東京の冬程度で、最低気温がマイナス2-3度、最高が5-6度（摂氏）というところであった。筆者は馬鹿なことに防寒コートを成田空港の手荷物検査に置き忘れてきたが、毛糸のベストとマフラー程度でもどうにか過ごせた。ちなみに、忘れたコートは、ピッツバーグの空港から遺失物に登録しておいたら、成田にちゃんと取っておいてくれて無事持ち帰った。現地での役には立たなかった。
 |
|
2) 初めての歴史展示
ENIAC完成50周年、IEEE Computer Society および ACM の創立50周年ということで、計算機の歴史展示が設けられた（写真）。とくに目を引いたのは、Atanasoff-Berry Computer のレプリカが展示されていたことである。関係者から日立の初期の資料がないという連絡を受けたので、河辺峻氏にお願いして、HIPAC 101 (商用パラメトロン計算機 1960) と、HITAC 5020E (初代の汎用大型機 1963) のパネルを提供していただき、展示に飾った。
3) 国際化
SCはこれまで何となくアメリカの国内会議の雰囲気が漂っていたが、HPCwireのNorris Parker Smith編集主幹が、HPCwire 1996/11/21の記事の中でSCがようやく国際化しつつあることを指摘している。50件の原著講演のうち6件の登壇者はUS外の所属、50件弱の研究展示のうち6件はUS外の組織、45件のポスター発表のうち11件はUS外の所属、組織委員、プログラム委員、その他の委員など75名のうちで1名がUS外の所属とのことである。
“Of these, only one is affiliated with a non-US institution.” この1名は実は筆者のことで、初めてSC’96 Roundtable Committeeの委員を務めた。仕事はメールベースで、実際に集まることはなかった。
記録を調べてみると、第1回のSC88では3名のプログラム委員が日本からで、その後も、Kenichi Miura, Raul Mendez, David Kahanerなどが何度かプログラム委員会に入っているものの、しばらく途絶えていた。松岡聡、朴泰祐はじめ多くの日本関係者が組織委員、プログラム委員等で大活躍している現在からみると、まるでうそのように思われる。筆者は、次年のSC97のプログラム委員を依頼された。ヨーロッパからの2名を合わせて、3名の非US委員であった。
4) Roundtable Committee
この委員会は、Roundtableの企画を取り扱う。委員は7名であった。
|
Chair: John Riganati (David Sarnoff Research Center) |
|
David Baily (NASA Ames, NAS) George Cybenko (Dartmouth University) Dick Draper (Supercomputing Research Center) Kenneth Neves (Boeing) Yoshio Oyanagi (University of Tokyo) Guylaine Polock (Sandia National Laboratories) |
筆者はJohn Riganati委員長から直接依頼されたと思う。PanelはEd Oliver（ORNL）をChairとする委員会が担当するが、両委員会は合同で作業を進めることになった。
2月に5月1日締め切りで提案を募集し、5月ごろ、何件かのPanelの提案とRoundtableの提案がまとめて委員にメールで送られた。これについて意見を述べ、最終的には評価書を送った。PanelとRoundtableの違いは何かと聞いたら、Panelは幅広く意見を戦わせるのに対し、Roundtableは互いによく知った専門家が議論を深めるものだそうである。議論を活発にするには100人以上の聴衆が必要で、そのくらいの人の興味を引き付けるテーマが求められた。
Panelテーマの提案には、以下のようなものがあった。この段階では、アイデアだけの提案も多い。
|
Industry関係 |
|
ASCI関係（2セッション必要） |
|
Discussion on computer scientists and their ability or inability to teach computational science |
|
Scalability, Portability, and Predictability: The BSP Approach to Parallel Computing |
|
Archival Storage Systems Experience for High Speed Computing |
|
DOD Modernization |
|
How to Buy a Supercomputer – and a few things not to do |
|
Opportunities and Barriers to Petaflops Computing |
|
To cache or not to cache: That is the question for scalable computing |
Roundtableテーマの提案は以下の通り。
|
System Software Technologies to Support Parallel Applications |
|
A New Paradigm for Teaching High-Performance Parallel Computing Using The Beowulf System |
|
High Performance Computing: Best Practice |
|
The ASCI Challenge: Multi-TFlop Applications by 2002 |
|
Center Directors Roundtable |
|
Center Directors Roundtable focused on distributed computing paths |
|
Hot Topics {eg. JAVA on the WWW, … } |
|
The Telecommunications Act Of 1996: Implications |
|
How to Make Great Presentations |
|
Education: What Have We Learned? |
|
Supercomputing Applications in Medicine |
|
The Scalable I/O Initiative |
|
Problem Solving Environments |
Center Director’s Roundtableは第1回からの伝統で、今回も2種類の提案があった。委員として意見は出したが、最後の調整は少数で行ったようである。ASCIパネルは結局3セッション設けられた。
 |
|
5) 企業展示
この会議の目玉の一つは大きな展示である。写真は展示会場のゲート。企業展示をざっと分類すると、コンピュータベンダ15、大容量記憶装置5、ネットワーク（機器およびプロバイダ）13、ソフトウェアベンダ9、出版7、その他学会、国際会議、地域、システムインテグレーションなど13であった。
今年元気がよかったのは、SGI/Cray である。Cray路線では、450 MHzのAlphaを使ったT3E-900を「最初にTFlopsに到達しうる商用機」として、また新路線では cc-NUMA machine の Origin 2000 を宣伝していた。日本の会社も健闘。NECはSX-4B/2（主記憶512 GB）の実機を、FujitsuはVPP-700を、HitachiはSR2201を展示。2年前から展示してなかなかできなかったBurton Smith の Tera Computer 社は、MTA (Multi-threaded Architecture) という並列計算機を完成させ、San Diego のセンターに設置するという。Burton 自身も会場で元気に動きまわっていた。
展示を出さなかった企業としては、Cray Computer, KSR, nCUBE, MasPar, Meiko, TMC など不調もしくは倒産した企業を別にすれば、Intel の不在が目立った。ある政府機関関係者は、「ASCI Red であれだけ連邦予算をもらっておきながら、来ないとはなんだ」と怒っていた。Top500の記事によると、ASCI Redが運用開始したとき、Intel社のSupercomputer Divisionはすでに閉鎖されていたとのことである。TMCは、昨年、ハードウェアを捨て、GlobalWorks というソフトで生き延びると宣言したが、この会議の直前、サンマイクロがこのシステムを買い取ると発表した。さて、TMCの今後はいかに？
6) 企業レセプション
19日（火曜日）には、SGI/Cray のレセプションが、20日（水曜日）には、IBM、HP、Digital 3社の各レセプションが開かれた。IBMは、例によって大掛かりで、市内Oakland地区の Carnegie Museum を借り切ったようである。
7) 研究展示
企業もすごいが、Research exhibits も盛大であった。特にアメリカの国立研究所は、積極的な展示をしていた。約50件の Research Exhibits のうち、日本からは、電総研(EM-X)、航技研(システム)、RWCP(ソフトとクラスタの2箇所)、東工大、早稲田大学の6ブースが出展されていた。これ以外は全部アメリカの大学・研究所であった。筑波大学は1995年には出展していたが、今年は出さなかった。Top500でトップを取ったことを考えると、これは失敗であった。
 |
|
8) 開会式（19日（火）8:30～）
お決まりの州知事代理の挨拶の後、Seymour Cray への追悼演説があった。9月の自動車事故で入院していたSeymour Crayは1996年10月5日に死去した。写真はSC96で追悼講演をするChuck Breckenridge氏。ERAへの入社(1951)、CDCの創立、Cray Research の創立、など歴史を追って、ユーモアを交えながら思い出を語った。「彼は、性能よりも物理的なデザインのエレガンスを重視した。かれは、生まれながらの optimist だった」と形容した。最後にロバート・リー・フロスト（Robert Lee Frost, 1874年3月26日 – 1963年1月29日）の有名な詩 “The Road Not Taken” の最後の一節を引用し
|
I I shall be telling this with a sigh Somewhere ages and ages hence: Two roads diverged in a wood, and I— I took the one less traveled by, And that has made all the difference. |
We will always remember Seymour as having taken the road less traveled.（我々はシーモア・クレイ氏を、踏みならされていない方の道を選んだ男として記憶するだろう）と結んだ。この詩の全文邦訳をWikipediaから引用する。
|
The road not taken（選ばれざる道）
黄色い森の中で、道が二つに分かれていた 残念ながら、両方の道を進むことはできない ひとりで旅する私はしばらく立ちどまり、 片方の道をできるだけ奥まで見ると、 その道は、先で折れて草むらの中に消えていた
次に、もう一方の道に目をやった こちらも劣らず美しいし、 むしろ良さそうに見えたのは、 草が生い茂っていて踏み荒らされていなかったからだ。 もっとも、それを言うなら、その道を通る事によって 実際にはどちらもほとんど同じように踏み均されてしまうのだが。
あの日、どちらの道も同じように、 まだ踏まれずに黒ずんでいない落ち葉に埋もれていた。 あぁ、私は最初の道を、別の日のために取っておくことにした！ しかし、道が先へ先へと続いていることは分かっていたから、 この場所に戻ってくるかどうかは、疑わしかった。
この先、私はため息まじりに語り続けるつもりだ。 今から何年、何十年先になっても言い続けるつもりだ。 ずっと昔、森の中で道が二手に分かれており、私は――― 私は、踏みならされていない道を選んだ。 そしてそれが、決定的な違いを生んだ。 |
あわせて(Cray Research社を買収した)SGI社のIrene Qualters女史から、彼を記念して賞を創設すること、同社が毎年賞金1万ドルを拠出することが発表された。実際には、1997年、IEEE/CSの賞として創設され、1999年から授与されている。筆者は2002年～2004年の3年間選考委員を務めた。
続いて、ENIAC 50周年を記念して、”Pioneers of Computing” というビデオの抜粋が上映された。ナレーターは Gordon Bell である。アタナソフの肉声や、Mark I の最初のプログラマの女性の(後年の)講演など面白かった。なお、このビデオおよびSeymour Crayのビデオは、History Exhibit のところで会期中ずっと上映されていた。
9) 基調講演
今年のKeynote Addressは、IBM Fellow の Dr. Frances Allen の “Scaling Up”であった。彼女は、もともとコンパイラの専門家で、最初の女性の IBM Fellow である。聞いていて、全然面白くなく、途中で席を立つ人も目立った。会場で配られたあるニュース速報でも “dull, dull, dull” などと書かれていた。Norris Parker Smithの要約記事(HPCwire)を読み直すと、21世紀のディジタル社会を予言するようなところもある。以下、筆者のメモと合わせて要約する。
|
これまでの50年間は、システムの変化は緩やかだったが、能力は革命的に変化した。主な変化は、信頼性の増大と、large virtual address space が利用可能になったことである（比喩で言っているのか？）。今後の50年の展望は何か？ それは、バーチャル企業が出現する革命である。 コンピュータの将来はバーチャル企業の出現によって形成される。それを可能にするのは、HPCや、世界的ネットワークや、ディジタル情報である。将来は、BoeingやChryslerや大保険会社や、そして政府が支配するであろう［現在からみれば、支配企業はBoeingなどではなくGAFAであった］。 今後は、ネットワークによって仲介業が不要になり、会社は顧客と直接取引できる。アフリカの諺に “Two women and a chicken make a market” とあるが、わたしは”Two men and a network make a market” と言いたい。保険代理店や銀行の支店が無くなる。会社は個人の好みや経済状況を知ることにより、ターゲットを絞ることができる。反面、プライバシーの問題や認証手段の問題が出てくる。 このような未来は、過去の50年間の人類の技術的経験の上に成立している。今日の解決法はスケールアップされ（ここでタイトルが出てくる）、古い方法にも新しい利用法が見つかる。古いアルゴリズムにも新しい仕事を。 特に、この転換は、データマイニングや可視化によって意思決定支援などに利用される。形式的には、組織内の統合と協力を要求する。現在の組織は、多様で、相互非互換なシステムに悩んでいる。新しいプロセスモデルが発展すれば、新しい効率化が可能になるに違いない。 重要な問題は危機管理 (crisis management) である。これは、ハリケーン、地震、TWA800便の墜落事故、オクラホマ・シティでのテロなどのような、予測不可能でかつ不可避な事件への対応である。このような危機への有効な管理は、データベースの利用にかかっている。一国だけでなく世界的なスケールが必要である。準備はしていても起こって見ないと分からないことも多い。計算と通信の限界を広げなければならない。 さらに、このような危機管理は第一義的には、公共機関の責任である。政府などの公共的な機関こそは、究極のバーチャル企業である。バーチャル企業は間髪をいれずに問題を解き、サービスを提供できなければならない。さまざまな組織や機関が動的な連携し、協力しなければならない。この 企業全体は adaptive で cost-effective でなければならない。人々は、この企業の一部であり、一方的な受け手ではない。人々は、問題と解答のまっただなかにあるのだ。コンピュータの専門家は、このような people-centric な態度をとってこなかった。 このような新しいバーチャル企業という観点から、現在の限界を認識しなくてはならない。それには、通信バンド幅の不足と、適切なネットワークの不足がある。ソフトウェアも問題である。これも、コンピュータの専門家がよい仕事を怠ってきた問題である。しかし、この問題は解決されるであろう。 これからの50年の計算は、人々が電話サービスに期待するのと同じ到達性と信頼性を持つものでなければならない。人間と人間との相互作用のパターンは急速に変化するので、このような変化は、市場に重大な欠陥を生じさせるであろう。また、教育、健康、政府、ビジネスにも深刻なインパクトをもたらすであろう。 次の50年は、 (1) global scale utility（電話のような） (2) dislocations in the marketplace（人間との相互作用や通信のあり方が急速に変わるので） (3) profound impact on education / healthcare / government / business (4) people-centric (5) A tool for improving opportunities for all people が重要な、問題になるであろう。これからの50年に、計算は環境を改良し、全ての人に機会を提供するものでなければならない。 |
10) 「HPCCはどこに行くか(Where does HPCC go from here?)」
今年のプログラムの特徴は、毎日朝のセッション（8:30-10:00）がplenary session（他のプログラムが並行して開かれない単独のセッション）となっていることである。その他 plenary sessions がだいぶ多い。20日（水）朝には、National Coordination Office for HPCC の Director（局長？） の John Toole が、”Crisis, Innovation, Opportunity: Where does HPCC go from here?” と題して総合講演を行った。
|
HPCCの領域で何が起こっているのか。incredible innovation とともに、産業、研究、資金の分野で大きな危機が起こっている。optimist でなければ政府で生きられない（笑）。 まず歴史を見てみよう。さまざまなcrisisとopportunitiesとがある。でもリスクはチャンスだ。 (1) downsizing (2) vector processing in the 70’s (latency を解決) (3) parallel processing (4) scalable technology in the 80’s. scalable とは面白い言葉だ。本当は意味ないのに。 (5) Markets have seen changes (6) International competition and trade 10年前に national enterprize はなかった。状況は時間とともに急速に変化している。今後10年は？ 将来のチャレンジの一つは巨大な先進的エンジンである。どう作るかは問題でない。 HPC には食物連鎖 (food chain)がある。下位から順に。 (6) Basic materials, physics and mathematics (5) Microelectronics (4) Component computing (3) Computing system technology (2) Integrated experimental system (1) A rich world of application ここで昔のHPCCのビデオを見せた。「HPCCは終わったのではない。始まったばかりだ、」と強調した。 Backbone network, Cray Y-MP, chip, White House, HPCC, Grand Challenge, Education, Virtual Reality, Industry .,, HPCCの目的は、アメリカの scientific and technological dominance である。 Blue Books に示されたように、The Federal HPCC program は1991に始まり、1. systems, 2. software, 3. Educational network, 4. Infrastructure, 5. Research に焦点を当てた。参加した政府機関は多数。 最初は、好奇心に満ちた10人が使い始める。すると、driving need をもつ100人が使う。次には、安定性を求めていた1000人が使う。最後には、何事もただで使いたい1000万人が使う。 |
一口で言って、HPCCの初期の夢よ、もう一度、という感じであった。
11) 「天気予報の現場から－コンピュータの役割－(Weather Forecasting –Computer at Work—)」
21日（木曜日）の朝の plenary talk は、ECMRF (European Center for Medium Range Forecasting、ヨーロッパ中期気象予報センター) の所長 David Burridge であった。昨年の SC ’95 の最中に、これまでの Cray Research Inc. を破って、富士通が契約を結んだことが発表され、ちょっとした話題となった。司会はなんと、SX-4導入問題に搖れるアメリカの NCAR (国立大気研究センター、National Center for Atmospheric Research) の Bill Buzbeeで、SC ’96 のプログラム委員長でもある。Bill は同時に OHP係をやっていた。講演の概要は以下の通り。
|
われわれは日本の大きなコンピュータを買った。Billと違って、いや冗談だ（笑）。実務上は60-100 kmのグリッドを使うので13M個の点を扱う。垂直には31層。データは地上と衛星とから来る。衛星からのデータは、high volume and low quality だ。それに対して地上のデータは、正確だが場所的に不均一である。世界各国と相互協定で入手し、2-3時間後には入力する。入力するといってもそのまま入れるのではなく、4次元変分データ同化（4D variational data assimilation ）によって時間的・空間的にある程度ならして入力する。一種のKalman filter だ。まともにやると 30M x 30M の行列になってしまうので妥協が必要である。 予報はどの程度現実と相関しているか、相関係数のグラフを示した。1992年には、1日後で90%、10日後で10%程度だったが、1995年には、1日後は100%、10日後は40%にまで増大した。気象現象は一種のカオスで、ごくわずかだけ違う初期状態から出発すると、全然違う発展をするから難しい。 コードは380ルーチン、100K行程度のもの。Fortran 77 + PARMACS6 で書かれている。並列化の方法には二つある。T3Dなどの場合には、semi-Lagrangean advection という方法を用いる。これは、不規則な2次元の領域分割である。C90、T90、VPP700などの場合は、1次元分割の、林檎を輪切りにしたような Apple Split Lattitude という分割を用いる。ロードバランスは非常に難しい。 ECMWF の HPC 戦略は、1984年よりESPRIT project のGENESIS, PPPE などに参加し、RAPS (Real Application on Parallel System) にも参加。RAPS は Fortran 90+MPI によって、common benchmark methodology を確立しようという動きである。 VPP700/46 (each 2.2 GFlops) は、将来的には240プロセッサ、1/2 TFlops にする予定。その他、ES9000, SP-2, VPP300/4, SGI Challenge, HP9000 などからなるマルチベンダーシステムである。現在、60TBのデータをHP9000で管理している。 Road map としては、96/3/30に preliminary VPP300 が到着、6/30にVPP700を導入、テスト、98/3にはPHASE Iが完成。98/9には、PHASE II で240プロセッサになる。 現在の構成は、1台が primary PE、6台が IPL Master PE’s、39台がSPE’s (secondary PE)。このVPP700を使うと、30GFlops sustained が出る。good scalability だ。MPPでは、せいぜい10%だ。98年までに、メッシュを60Kmから30 kmにしたい。6-7年内に1 TFlopsのマシンがほしい。ASCIに期待している。 |
12) 論文発表
今回は、143の論文投稿があり、54編が採択された。日本からの採択論文は以下の通り。
|
Hirotaka Ogawa, Satoshi Matsuoka “OMPI: optimizing MPI programs using partial evaluation” |
|
Takashi Nakamura, Toshiyuki Iwamiya, Masahiro Yoshida, Yuichi Matsuo, Masahiro Fukuda “Simulation of the 3 dimensional cascade flow with numerical wind tunnel (NWT)” |
|
Toshiyuki Fukushige, Junichiro Makino “N-body simulation of galaxy formation on GRAPE-4 special-purpose computer” |
論文の一つとして、日米スーパーコンピュータ摩擦渦中の性能評価の論文“Architecture and Application: The Performance of the NEC SX-4 on the NCAR Benchmark Suite”(S. W. Hammond, R. D. Loft and P. D. Tannenbaum, NCAR)が発表され、会場は満員で立ち見が出ていた。
13) ポスター発表
ポスター発表は45件ほどあり、企業展示・研究展示と同じフロアに展示されていた。水曜日の夜(6:00-7:30)に飲物と料理付きで展示された。結構人が入り、活発に議論が行われていた。私が興味を引いたのは、NASA Ames の人が発表していた NPB Ver. 2 の結果である。日本からも、Ninf Project, MD Engine, PIC などの発表があった。アメリカ以外では、メキシコ2件、アイルランド、スイス、スエーデン、イタリア、ロシアなど。
次回はSC96の続き。ASCI Challengeでは、来世紀初頭までの壮大なスーパーコンピュータ開発計画が公開された。Petaflops panelでは、さらにその先を目指す。Gordon-Bell賞などの表彰と、Top500が続く。
 |
 |
 |