デルがGPUとディープラーニングのパフォーマンス比較結果を公開 NVIDIA P100を使用してCaffe、TensorFlow等を比較

デルはGPUと各種ディープラーニングのフレームワークにフォーカスし、性能を比較したパフォーマンス結果を公式ホームページ(TechCenter)内で公開した。1月17日に東京高田馬場でNVIDIAが開催した「DEEP LEARNING INSTITUTE」でも、ミニシアターでこの結果を公表している。また、詳細のレポートをPDFファイルとしてダウンロード可能だ。

主に、「GPUを使うとどの程度のパフォーマンスアップに繋がるのか」「複数枚数のGPUボードを使用する場合、数が多いほど速度向上の効果が現れるか」「Caffe、MXNet、TensorFlowなどのディープラーニング・フレームワークによってパフォーマンスの違いがあるか」などが見てとれるものとなっている。

例えば、下記はディープラーニング・フレームワーク「NV-Caffe」(NVIDIA フォークの Caffe)で GoogleNet ニューラルネットワークの訓練速度と時間を比較したグラフ。「NVIDIA Tesla P100 GPU」をひとつ追加して最大5.3倍、4つで最大19.7倍の高速化という結果が出ている。

dell-01

P100 GPU を使⽤した NV-Caffe の GoogleNet におけるトレーニングスピードおよびタイム

その他、「MXNet」を使って「NVIDIA Tesla P100 GPU」を16基まで増やしていった際のパフォーマンスや、TensorFlowを使用した場合等も紹介されている。

dell-02

P100 GPU を使⽤した MXNet の GoogleNet におけるトレーニングスピードおよびタイム

dell-03

P100 GPU を使⽤した MXNet の Inception-BN におけるトレーニングスピードおよびタイム

dell-04

P100 GPU を使⽤した TensorFlow の Inception-V3 におけるトレーニングスピードおよびタイム

なお、複数のノードで TensorFlow を使⽤したトレーニングの場合、実⾏できたもののパフォーマンスは低下したとのこと。原因は調査中のため詳細情報は伏せている。

最後のグラフは、さまざまなディープラーニング・フレームワークで、複数の P100 GPU を使⽤する場合の⾼速化が確認できたもの。

dell-05

異なるDLフレームワークおよびネットワーク上における複数の P100 GPU による⾼速化

なお、このレポートでは最後に下記のように実際の現場を想定した感想が付け加えられている。


<引用>
実際のところ、リアルユーザアプリケーションではモデルをトレーニングするのに数⽇または数週間かかります。
ベンチマークのケースでは数分または数時間で実⾏されますが、実際にネットワークをトレーニングするために必要とされるのは、もっと時間がかかる実⾏からの⼩さなスナップショットです。例えば実際のアプリケーションのトレーニングには、120 万イメージにつき90 エポックが必要となります。P100 GPU を搭載した Dell C4130 では1 ⽇とかからずに結果を出すこと可能ですが、CPU では1 週間以上かかります。これはエンドユーザにとって本当に利点となります。実際の使⽤事例による効果は、秒単位ではなく実⾏毎に数週間の時間を節約出来ることです。

「DEEP LEARNING INSTITUTE」イベントにおいて、ミニシアターでこのレポートを紹介したデルの日本法人は、下記のようにコメントしている。


ディープラーニングを業務で利用する場合、コンピュータの構成はもちろん、フレームワークによって訓練時間等のパフォーマンスに差が出ることになるため、それらの選択がキーポイントのひとつになると考えている。小規模のシステムとデータではシングルノード構成、大規模ではリニアにマルチノード構成としてスケールさせるニーズがあると思うが、このレポートがその際の参考になればうれしい。
現在は当社も他社も標準的な技術を使ってシステム構成するのが主体かと思う。デルは従来からの経験や知見を活かしたシステムの構成を行い、標準的な技術を使っていてもプロダクションシステムで動作させたときにも最適な構成を提案でき、障害時の対応も充実させている。

ABOUT THE AUTHOR / 

神崎 洋治
神崎 洋治

神崎洋治(こうざきようじ) TRISEC International,Inc.代表 「Pepperの衝撃! パーソナルロボットが変える社会とビジネス」(日経BP社)や「人工知能がよ~くわかる本」(秀和システム)の著者。 デジタルカメラ、ロボット、AI、インターネット、セキュリティなどに詳しいテクニカルライター兼コンサルタント。教員免許所有。PC周辺機器メーカーで商品企画、広告、販促、イベント等の責任者を担当。インターネット黎明期に独立してシリコンバレーに渡米。アスキー特派員として海外のベンチャー企業や新製品、各種イベントを取材。日経パソコンや日経ベストPC、月刊アスキー等で連載を執筆したほか、新聞等にも数多く寄稿。IT関連の著書多数(アマゾンの著者ページ)。