[Math & Coding #06] グラフニューラルネット入門/ GPT2(自然言語生成)の応用

Math & Codingは主に分析業務や予測モデルの作成、機械学習にたずさわる方が
数学とプログラミングのスキルを向上させたい方が集い学び合う場です。

難しい概念や技術も、シンプルな例で確認したり参加者が対話することで本質的な理解を得られると考えます。 本グループは、互いに教え学び合いができるようなコミュニティとなることを目指します。 ◆groupページ https://www.facebook.com/groups/284004485439214/

◆過去のイベント スクラムサインのコミュニティーページ
https://scrumsign.com/commuty/

進行について
運営者が必要に応じて進行や議論の整理などを行います。
内容に関係する質問ならいつでもOKです。 質問は認識を深める大切なコミュニケーションだと考えます。

内容について

[1] グラフニューラルネット入門
京都大学 大学院医学研究科人間健康科学系専攻 ビッグデータ医科学分野
特定助教 小島 諒介 氏

今回の内容について グラフを用いたニューラルネットワークについて紹介します。
深層学習技術の最近の発展により、様々な領域で今までに蓄積されたデータの利活用が期待されている。 特に、画像やいわゆるテーブルデータに対するニューラルネットワークはかなり一般的なものになり、工場や医療現場など多くの場面で実用的なものとなってきています。
その一方で、それら以外のデータに対しても、利活用できないかということからグラフデータに対するニューラルネットワークが注目を集めています。
本発表では、グラフニューラルネットワークの基礎的な仕組みと応用例について紹介します。 また、イメージをつけるために、オープンソースのグラフコンボリューションライブラリを使っての簡単な使い方も紹介します。

何が学べるか？
・グラフニューラルネットワークの基礎的な内容
・実例を通して、データをグラフで表現する方法
・グラフニューラルネットワークの使い方

準備と前提知識
初歩的なニューラルネットワークの知識
Python（google colaboratoryなどでも可）環境があると実際に動かしてみることができ、より楽しめます。
kGCN: https://github.com/clinfo/kGCN

[2] 予測モデリング合宿成果共有
Math & Codingでは2019年8月2日から4日にかけて参加者各自が課題を持ち寄り
集中して取り組む合宿を行いました。その中で一部ですが成果や知見を参加者と分かち合います。

[2-1] GPT-2: 本当に面白い教師なし文章生成の世界
Yasumasa Sasano 氏

概要
近年の機械学習の隆盛に反して、多くの機械学習タスクはアノテーションに依存しています。
これに対し、GPT-2は教師なしで多くのタスクを実現できますが、そのデモの多くは単に文章の続きを作るだけとなっていて、その可能性について十分説明できていないように感じます。
今回はGPT-2の可能性を探るべくデモを作ってみたのでご紹介いたします。

何が学べるか？(参加者目線)
・GPT-2の応用アプリのデモ
・GPT-2、Transformerについての概要
・個人的なプロジェクトをクラウドや合宿で進める上での苦労話
・など
必要な知識や環境
Webブラウザのみ

[2-2] グラフ構造データの作成について
株式会社スクラムサイン 代表取締役　北村 友和 概要
グラフィカルラッソを紹介し先行研究を参考にdarpa1998の時系列データをグラフにする際の知見を共有します。

会場について

終了後、希望者でお茶会を行う予定です。
内容は変更される可能性があります。ご了承ください。
興味のある方はぜひ参加くださいませ！