AI&機械学習しよう!最近の自然言語処理技術概説

イベント内容

AI&機械学習しよう!勉強会( https://www.facebook.com/groups/do2dle/ )は、プログラム、システム開発の現場の人を中心にしたソース&論文輪読会を進めて、AIを作れる人を増やすことを目的とするグループです。 AIに関するホットな話題を取り入れながら情報交換できる場を作っていきます。定期的にミートアップを開催していきます。

概要

2018 年は自然言語処理についての話題が沸騰した感がある。ELMo, BERT, ULMFiT, GPT-2, XLNet など炎上騒動になるほどの活況を呈している。今回は,それらのパフォーマンスに一喜一憂,右往左往することなく,問題の真の所在と取り組むべき課題とを整理して提示したい。注意については BERT は自己注意だが XLNet は 2 ストリーム注意。訓練には BERT はマスク化言語モデル,XLNet は順列言語モデル。位置情報は BERT では位置エンコーダだが,XLNet など異なる。これらの相違は何を意味し,どこへ向かっていると考えるべきなのか,今回はそれらの意味付けについて考える。

前提知識:seq2seq, 双方向 RNN, word2vec についての知識
上記を前提に解説いたします。 できれば、BERT、GPT-2、MT-DNNなど関連論文はチェックしておいてください。

タイムスケジュール

  • 18:30 ~ 開場 受付開始
  • 19:00 ~ 20:00 AI自然言語処理講演
  • 20:00 〜 21:00 TPUを使った実験プロジェクトディスカッション
  • 21:00 〜 21:30  片づけ撤収

内容

会場

参加費

200円

注意事項

※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。

類似しているイベント

SSDによる物体検出 理論と実装

中央区銀座2-14-4(銀座スクエア3階) 【東京メトロ日比谷線】東銀座駅徒歩4分/【東京メトロ有楽町線】銀座一丁目駅徒歩5分/【都営浅草線】宝町駅徒歩6分

10:00 〜13:00

connpass

2月 29 SAT