【第40回AIセミナー】「説明できるAI　〜AIはブラックボックスなのか？〜」

産業技術総合研究所 人工知能研究センターでは、人工知能研究に関する情報交換を目的として、原則として月に一度、外部の方やセンター内研究者を講師とする人工知能セミナーを開催しています。

2020年1月は「説明できるAI　〜AIはブラックボックスなのか？〜」がテーマです。

基本的にどなたでも無料でご参加いただけますが、事前申込が必要です。人工知能に興味のある方は奮ってご参加ください。多くの方々にご参加いただき活発な議論が行われることを期待しています。

要旨

2020年1月は「説明できるAI」をテーマとして、研究動向や最先端の研究事例、さらには有望な応用先の一つである医療分野における取り組みについてご紹介します。

深層ニューラルネットワークに代表される機械学習技術に基づくAIの発展は著しく、生活や産業の様々な場面で活用され始めていますが、医療や自動運転、金融などのように、人間の生命・身体・財産の安全に関わる分野への浸透はまだ十分には進んでいません。そのような分野では、利用者が納得し、受け入れてもらいやすくするために、AIが自らの判断根拠をわかりやすく説明する技術が重要となります。

今回のセミナーでは、AIの説明性に関する基本的な考え方や、国内外の研究動向、先端的な研究事例紹介、さらには重要な応用分野の一つである医療から見たAIの現状や期待について、3名の講師にご講演いただきます。

基本情報

• 名称：【第40回AIセミナー】「説明できるAI　〜AIはブラックボックスなのか？〜」

• 日時：2020年1月29日（水）15:00-17:40

• 受付時間：14:20-17:40
  ※ 受付時間外のご来場には、対応できない場合があります。

• 場所：〒135-0064 東京都江東区青海二丁目5番10号 テレコムセンタービル東棟14階
  Asia startup office MONO

• URL：https://mono.jpn.com/telecom-center-access/

• 定員：200名

• 参加費用：無料

• 主催：産業技術総合研究所人工知能研究センター

• 連絡先：人工知能セミナー窓口

• 本セミナーは、国立研究開発法人新エネルギー産業技術総合開発機構（NEDO）による委託事業「次世代人工知能・ロボット中核技術開発（次世代人工知能分野）」による活動となります。

注意事項

• 他の方に参加の機会をお譲りするためにも、参加ができないと分かった場合は早めのキャンセルをお願いします。

• 産総研は、お送りいただいた情報をセミナー運営以外の目的には使用しません。

• 懇親会の予定はありません。

プログラム

15:00 - 16:00	「機械学習モデルの判断根拠の説明」 原 聡 （大阪大学 産業科学研究所　助教） 概要： 本講演では、機械学習モデルの判断根拠を提示するための説明法について紹介する。高精度な認識・識別が可能な機械学習モデルは一般に非常に複雑な構造をしており、どのような基準で判断が下されているかを人間が窺い知ることは困難である。このようなモデルのブラックボックス性を解消するために、近年様々なモデルの説明法が研究・提案されてきている。本講演ではこれら近年の代表的な説明法について紹介する。 略歴： 2013年3月大阪大学大学院工学研究科博士後期課程終了。IBM東京基礎研究所、国立情報学研究所を経て、2017年9月より現職。専門は機械学習で、特に特徴選択や異常検知。最近は機械学習モデルの説明法の研究に注力。 講演中の撮影： 可能 (共有は同僚等の範囲まで)
16:00 - 17:00	「AIの視線を可視化してAIを知る　-深層学習の判断根拠の可視化-」 藤吉 弘亘（中部大学 工学部　ロボット理工学科　教授） 概要： 深層学習（Deep Learning）による人工知能システムは、画像認識や音声認識の分野で人と同等の認識性能を達成しています。しかし、その出力は何を根拠に決定されたのか分からないという問題があります。 本講演では、推論結果を求める際に、深層学習が注目した領域であるアテンションを出力するネットワーク — Attention Branch Network (ABN)について紹介します。ABNはアテンションを獲得しつつ、 認識性能の向上にも寄与することができる深層学習のネットワークです。応用事例として、自動運転や医療診断におけるABNによる視覚的説明について紹介します。アテンションを可視化することはAIの視線を確認することであり、人工知能システムの出力の判断根拠を解釈するアプローチとして期待されています。 略歴： 1992年　中部大学工学部電子工学科卒業 1994年　中部大学大学院博士前期課程修了 1997年　中部大学大学院博士後期課程単位取得満期退学 1997年　博士（工学） 1997年　カーネギーメロン大学ロボット工学研究所Postdoctoral Fellow 2000年　中部大学工学部情報工学科講師 2004年　中部大学准教授 2005年 – 2006年　カーネギーメロン大学ロボット工学研究所客員研究員 2010年 – 現在　中部大学教授 2014年 – 現在　名古屋大学客員教授 講演中の撮影： 可能
17:00 - 17:40	「病理診断における人工知能の導入」 福岡 順也 （長崎大学大学院 医歯薬学総合研究科　教授） 概要： 病理診断において人工知能が臨床応用されることに疑いは無いが、応用にはどのようなものが想定されるであろうか？診断をサポートする人工知能では、PMDAの承認を受けた医療機器としてのツールの他にインハウスでチューニングするLDT仕様のプラットフォームも想定されるであろう。人工知能を導入したばあい、病理医のワークフローはどのように変化するのであろうか？また、病理医の業務は改善されるのか？それとも業務自体が人工知能に奪われる状況がやって来るのか？ また、病理診断に人工知能を応用する場合、病理医と人工知能が異なる判断をすることが想定される。この状況をどのように解決するのか？病理診断は主観的判断に基づくことが多く、診断者で異なる判断をすることが知られている。どうやってGround Truthを得るのか？説明できるAIには、答えを説明できるというプロセスが要求されるであろう。これら多くの疑問について、推定される解決方法とともに紹介をしたい。 略歴： 1995年　滋賀医科大学医学部医学科卒業 2000年　Mayo Clinic (Arizona) visiting clinician 2001年　NIH fellow 2002年　AFIP visiting pathologist (兼任) 2005年　富山大学　准教授 2009年　富山大学病院　外科病理学講座　教授 2012年　長崎大学大学院　医歯薬学総合研究科　教授 講演中の撮影： 可能 (共有は同僚等の範囲まで)