【第41回AIセミナー】「ABCIグランドチャレンジ2019成果報告会」

2020/02/21(金)15:00 〜 17:20 開催
ブックマーク

イベント内容

【第41回AIセミナー】「ABCIグランドチャレンジ2019成果報告会」

産業技術総合研究所 人工知能研究センターでは、人工知能研究に関する情報交換を目的として、原則として月に一度、外部の方やセンター内研究者を講師とする人工知能セミナーを開催しています。

2020年2月は「ABCIグランドチャレンジ2019成果報告会」を行います。

基本的にどなたでも無料でご参加いただけますが、事前申込が必要です。人工知能に興味のある方は奮ってご参加ください。多くの方々にご参加いただき活発な議論が行われることを期待しています。

新型コロナウイルスへの対応について(2020.02.19)

【参加者の皆さまへのお願い】

・発熱などの症状がある方は来場をご遠慮ください。
・新型コロナウイルスへの感染の疑いがある方は来場をご遠慮ください。
・ご来場の際には、手洗い、消毒液のご利用、マスクの着用等、感染予防対策へのご協力をよろしくお願いいたします。

受付時にも同様の確認を行います。
条件に該当した方の参加・入場は、その場でお断りする場合もございます。
ご協力・ご理解のほどよろしくお願いいたします。



要旨

AI橋渡しクラウド(AI Bridging Cloud Infrastructure、ABCI) は、国立研究開発法人 産業技術総合研究所が構築・運用する、世界最大規模の人工知能処理向け計算インフラストラクチャであり、2018年8月に運用が開始されました。ABCIの狙いは、550ペタフロップス(半精度)という膨大なAI処理能力を研究者や開発者に提供することにより、我が国のAI/ビッグデータ処理の進歩を加速することです。産総研では、ABCIを用いて莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施しています。本プログラムは、ABCIがもつ最大計算ノード数である1,088ノード(4,352GPU)を最大24時間、無償で、1チームでの占有利用ができる公募型チャレンジプログラムです。

本セミナーでは、2019年に実施されたABCIグランドチャレンジ2019の参加者を講師としてお招きして、各チームでのチャレンジの内容や成果、今後の取り組みについてご紹介いただきます。

■AI橋渡しクラウド ABCI  https://abci.ai/ja/



基本情報

  • 名称:【第41回AIセミナー】「ABCIグランドチャレンジ2019成果報告会」

  • 日時:2020年2月21日(金)15:00-17:20

  • 受付時間:14:20-17:20
    ※ 受付時間外のご来場には、対応できない場合があります。

  • 場所:〒135-0064 東京都江東区青海二丁目5番10号 テレコムセンタービル東棟14階
    Asia startup office MONO

  • URL:https://mono.jpn.com/telecom-center-access/

  • 定員:200名

  • 参加費用:無料

  • 主催:産業技術総合研究所人工知能研究センター

  • 連絡先:人工知能セミナー窓口

  • 本セミナーは、国立研究開発法人新エネルギー産業技術総合開発機構(NEDO)による委託事業「次世代人工知能・ロボット中核技術開発(次世代人工知能分野)」による活動となります。

注意事項

  • 他の方に参加の機会をお譲りするためにも、参加ができないと分かった場合は早めのキャンセルをお願いします。

  • 産総研は、お送りいただいた情報をセミナー運営以外の目的には使用しません。

  • 懇親会の予定はありません。

プログラム

15:00 - 15:10 「ABCIグランドチャレンジ2019概要」
小川 宏高
(産業技術総合研究所 人工知能研究センター 研究チーム長/
実社会ビッグデータ活用オープンイノベーションラボラトリ ラボ長)
概要:
AI橋渡しクラウド(ABCI)は世界トップクラスの実効性能と省電力性能を有する、わが国の人工知能技術開発のためのオープンで先進的な高速計算基盤である。ABCIの目的は、産学官連携や多様な事業者による利用を促進し、高い計算能力を活用した人工知能技術の研究開発・実証を加速するとともに、人工知能分野の最重要課題に挑戦することである。その活動の一環として、産総研では莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施している。本発表ではABCIグランドチャレンジ2019の実施概要を報告する。


略歴:
1998年 東京大学大学院工学系研究科博士課程中退 1998-2003年 東京工業大学大学院情報理工学研究科助手 2003-現在 産業技術総合研究所 人工知能研究センター 人工知能クラウド研究チーム長、実社会ビッグデータ活用オープンイノベーションラボラトリ ラボ長を兼務。博士(理学)。

講演中の撮影: TBA
15:10 - 15:30 「大規模深層学習における学習時間最小化への挑戦」
笠置 明彦(株式会社富士通研究所 シニアリサーチャー)
概要:
ABCIグランドチャレンジにおいて、我々は巨大ミニバッチによる分散並列深層学習の高速化を実施した。 画像認識に用いられるResNet-50を用いて多数のGPUによるデータ並列学習を行い、ILSVRC2012のデータセットに対して精度が75.9%を超えるまでの実行時間を計測する。
我々はこれまでABCIの512ノード(2048GPU)を用いたResNet-50の学習高速化を実施してきたが、 本ABCIグランドチャレンジでは全てのノードが利用可能であるため、上記ResNet-50の学習をどこまで高速化できるか挑戦した。
1分以内での学習完了を目標に挑戦したが、巨大ミニバッチによる分散並列深層学習特有の課題に直面。最終的に768ノード(3072GPU)を用いて62.1秒での学習完了を達成した。

略歴:
2015年広島大学情報工学科博士課程後期を修了。同年、株式会社富士通研究所に入社。アクセラレータを用いた大規模な分散並列処理の高速化に従事。現在は深層学習を対象に高速化研究に携わる。

講演中の撮影:
15:30 - 15:50 「想定外を想定する津波即時予測AIの構築」
大石 裕介(株式会社富士通研究所 主任研究員)
概要:
津波予測における想定外回避に向け,大量の学習データを用いて,沖合の津波波形から沿岸付近の津波を即時予測するAIの構築を行った.ランダム生成された津波波源に基づくデータの学習に関し,MXNetで実装したニューラルネットワークの処理速度は,約36.2 PFLOPSに達した.構築した津波予測AIの予測精度を測定したところ,最大波高の予測値と正解値との相関係数は0.99を超え,十分な予測性能が得られた.

略歴:
TBA

講演中の撮影: TBA
15:50 - 16:10 「ABCIを活用した大規模分散DNN学習への取り組み」
田中 義己(ソニー株式会社 シニアAIシステムリサーチャー)
概要:
本セミナーでは、ソニー独自のディープラーニング・フレームワークとABCIを活用した大規模な分散DNN学習の取り組みについて説明する。 ソニーは2010年から独自のフレームワークの開発を進めており、これにより開発者は直感的にニューラルネットワークを設計することが可能となる。また、同フレームワークとABCIを活用した大規模な分散DNN学習の開発を進めている。大規模GPUを利用した分散DNN学習では、バッチサイズが巨大になるため学習が収束しないことが知られている。特にABCIの4000基強のGPUを活用して学習を進めるためには100Kを超えるバッチサイズが必要となる。今回、我々は独自のオプティマイザ(STiLL)により、128K超のバッチサイズでの学習に成功した。

略歴:
2001年 ソニー株式会社に入社。VAIO(PC)等の商品開発に従事し、2007年より研究開発部門でデジタルサイネージにおけるユーザーインタラクションの研究開発を行う。その後、2011年より分散並列処理の研究開発に携わっており、2016年からは分散DNN学習に取り組んでいる。

講演中の撮影: 可能
16:10 - 16:30 「A Scalable Framework for Instant High-resolution Image Reconstruction」
陳 鵬(産業技術総合研究所 実社会ビッグデータ活用オープンイノベーションラボラトリ)
概要:
Computed Tomography (CT) is a widely used technology that requires compute-intense algorithms for image reconstruction. We propose a novel back-projection algorithm that reduces the projection computation cost to 1/6 of the standard algorithm. We also propose an efficient implementation that takes advantage of the heterogeneity of GPU-accelerated systems by overlapping the filtering and back-projection stages on CPUs and GPUs, respectively. Finally, we propose a distributed framework for high-resolution image reconstruction on state-of-the-art GPU-accelerated supercomputers. The framework relies on an elaborate interleave of MPI collective communication steps to achieve scalable communication. Evaluation on a single Tesla V100 GPU demonstrates that our back-projection kernel performs up to 1.6 times faster than the standard FDK implementation. We also demonstrate the scalability and instantaneous CT capability of the distributed framework by using up to 2,048 V100 GPUs to solve a 4K and 8K problems within 30 seconds and 2 minutes, respectively.

略歴:
Peng Chen was born in Hubei, China, in 1981. He received the B.E. degree in navigation from Dalian Maritime University, Liaoning, China, in 2005, and the M.E. degree in traffic information engineering and control from Shanghai Maritime University, Shanghai, China, in 2007. He is currently a Ph.D. student in Tokyo Institute of Technology, Tokyo, Japan, and also working at AIST-Tokyo Tech Real World Big-Data Computation Open Innovation Laboratory, National Institute of Advanced Industrial Science and Technology, Japan. His research interests include parallel computing, image processing, and machine learning.

講演中の撮影:
16:30 - 16:50 「超高速タンパク質間相互作用予測システムMEGADOCK 5.0による細胞内タンパク質間相互作用の網羅的解明」
秋山 泰(東京工業大学 情報理工学院 教授)
概要:
 細胞内のタンパク質間相互作用 (protein-protein interaction, PPI) の網羅的な理解は新薬開発や疾病メカニズムの解明に重要である。本研究では、東京工業大学秋山研究室にて開発されたPPI予測プログラムMEGADOCK 5.0によって、ヒト細胞内PPIの網羅的解明に向けた実証評価実験を実施した。MEGADOCKはマルチGPU・マルチノード計算が可能なPPI予測プログラムであり、version 5.0ではABCI向けに2,000 GPU超の大規模並列環境を想定した並列性能向上のための改善を施した。本実施では主に次の3つの項目を達成した。1) ABCI 512ノード(2,048 GPU)によって2,500万ペア超の大規模なPPI予測計算を約8.8時間で完了できることを示した。 2) 並列実行性能計測において512ノードで強スケーリング0.967 (対16ノード値)の並列実行性能を達成した。 3) 同システムのSingularityコンテナによる仮想化版において、ネイティブ環境と同等性能(強スケーリング0.964)で計算できることを示した。

略歴:
1990 慶應義塾大学大学院理工学研究科 電気工学専攻博士課程修了 工学博士
1990 工業技術院電子技術総合研究所 研究官
1992 京都大学化学研究所 助教授
1996 新情報処理開発機構 並列応用つくば研究室長
2000 工業技術院電子技術総合研究所 主任研究官
2001 産業技術総合研究所 生命情報科学研究センター 研究センター長
2007 東京工業大学 大学院情報理工学研究科 教授 (2016年 組織変更により現職)

講演中の撮影: 可能
16:50 - 17:20 「二次最適化を用いた巨大な言語モデルの学習およびFRNNを用いたプラズマ挙動予測」
横田 理央
(東京工業大学 学術国際情報センター 准教授)
概要:
近年BERTなどの巨大なTransformerを用いた言語モデルの大規模分散並列学習が盛んになってきている。本研究では、二次最適化の汎化性能と計算量の問題を解決した独自技術を言語モデルに応用し、その収束性の向上および学習時間の低減を目指す。これまでに行ってきたImageNetの学習ではデータセットが小さすぎたため二次最適化の短所である過学習の問題が起きていたが、巨大な言語モデルの学習には何TBものデータを用いるため過学習は起きにくく、二次最適化の長所である収束の早さが活かせる。また、これとは別にプリンストン大学のチームが行った再帰型のニューラルネットを用いたプラズマの挙動予測についても紹介する。


略歴:
2009年 慶應義塾大学 博士(工学)取得
2009年 ブリストル大学 博士研究員
2010年 ボストン大学 博士研究員
2011年 アブドゥラ国王科学技術大学 常勤研究員
2015年 東京工業大学 学術国際情報センター 准教授

講演中の撮影:

注意事項

※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。

関連するイベント