世界のスーパーコンピュータとそれを動かす人々


5月 13, 2015

機械学習の指導者がマルチGPUクラスタに未来を見る

HPCwire Japan

Tiffany Trader

機械学習は、汎用GPUが提供する強力で効率的な並列処理能力によってこの数年で大きな進歩を遂げてきた。この傾向を示す最新の事例として、ニューヨーク大学のデータ科学センターとNVIDIAのパートナーシップが挙げられる。両者が言うには、このミッションは、大規模GPU高速化システム用に次世代の深層学習アプリケーションおよびアルゴリズムを開発することにある。

NVIDIAのKimberly Powellは最近のブログ投稿の中でこのニュースを公表しており、最近まで多くの深層学習研究者がたった1台のGPUが載ったシステムを使っていたと指摘している。この領域は突然の活動を経ており、アルゴリズムの登場、大規模データセットの利用(センサーデータとインターネットのおかげで)、そしてもちろんGPUを介した並列処理によって容易になってきたのだ。この分野の先駆者達は、HPCの観点からはかなり粗末なGPU高速化システムで、特徴検出や言語処理のようなアプリケーションにおいて新記録を設定しているが、これはそのモデルが計算の限界に達するかなり前であった。

ニューヨーク大学にとって、論理的な次のステップは、もっと多くの学習パラメータを使ったより大きなモデルをサポートするためにマルチGPUクラスタへ進む事だ。「ScaLeNet」と呼ばれる彼らの新しい深層学習計算システムは、8ノードのCirrascaleクラスタで32台のNVIDIA Tesla K80 Dual-GPUアクセラレータを搭載している。

「この新しいハイパフォーマンス・システムはニューヨーク大学の研究者達がより大きな挑戦に取り組めるようするとともに、計算機に人間のように知覚タスクを行わせる深層学習モデルを作るのです。」とPowellは書いている。

「マルチGPUマシンは人工知能AIと深層学習における将来の発展のために必要なツールなのです。」と深層学習のパイオニアで、ニューヨーク大学データ科学センターの創設者であるYann LeCunは語っている。「潜在的なアプリケーションとしては、自動運転自動車、医療画像解析システム、リアルタイム音声翻訳、および自然言語を本当に理解し、人との対話を保持できるシステムなどです。」

Facebookの人工知能研究のディレクターでもあるLeCunは、最初の利用事例を超えて拡大する潜在的なアプリケーションを引用している。

「このセンターには機械および深層学習を物理、生命および社会科学に適用する研究プロジェクトがあります。」と彼は言う。「これには宇宙論と高エネルギー物理学のベイズモデル、視覚と運動皮質の計算モデル、医療および生物学的画像解析用の深層学習システム、同様に社会行動と経済の機械学習モデルを含まれています。」

LeChunはサンディエゴで5月7から9日に開催される” International Conference on Learning Representations”のゼネラルチェアの一人である。彼は、画像およびビデオの理解のために利用される畳込みニューラルネットワークの高速、マルチGPUの実装を記述した論文を発表する予定だ。