BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//https://techplay.jp//JP
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALDESC:BERTの論文の解説とハンズオンを行う簡易セミ
 ナー【リターンズ】
X-WR-CALNAME:BERTの論文の解説とハンズオンを行う簡易セミ
 ナー【リターンズ】
X-WR-TIMEZONE:Asia/Tokyo
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:19700101T000000
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
TZNAME:JST
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:731352@techplay.jp
SUMMARY:BERTの論文の解説とハンズオンを行う簡易セミナー
 【リターンズ】
DTSTART;TZID=Asia/Tokyo:20190528T200000
DTEND;TZID=Asia/Tokyo:20190528T220000
DTSTAMP:20260521T233440Z
CREATED:20190510T100540Z
DESCRIPTION:イベント詳細はこちら\nhttps://techplay.jp/event/73135
 2?utm_medium=referral&utm_source=ics&utm_campaign=ics\n\n内容概要\n\n
 ここ最近BERTについてご質問いただくことが多いので企
 画させていただきました。\nhttps://arxiv.org/abs/1810.04805\nB
 ERTは言語処理の事前学習（pre-trained）モデルとして役
 に立つのではということで\n注目を浴びています。\n\n
 今回は基礎知識〜トレンド〜論文の読解＆TensorFlow実装
 を実際に動かし、簡単に実装の流れを掴みます。\nWord2
 Vec、Seq2Seq、Transformerなどに触れながらBERTまで話をつな
 げていければと思います。\n\n※\n内容としては5/7に実
 施したものと同様の範囲で実施します。\nhttps://ml-for-ex
 perts.connpass.com/event/127153/\n前回開催で進行のイメージが
 ついたので、1\,000円値上げし4\,000円での実施とさせて
 いただきます。\n\n\n開催日程\n\n5/28（火）\n受付： 19:50
 〜20:00\n講義： 20:00〜22:00\n\n※\n途中5分ほどの休憩を設
 ける予定です。\n\n\nアジェンダ\n\n1. 言語処理の概論の
 復習＆予備知識(30分)\n      BoWとWord2Vec（局所表現と分
 散表現）\n　　言語モデルとニューラル言語モデル\n　
 　Seq2Seq（系列変換モデル）とEncoder-Decoder  etc\n\n2. 論文
 を元にした解説(30分)\n　　Transformer[2017]\n　　BERT[2018]\n
 \n3. 実装例を元にしたハンズオン(50分)\n　　下記を元
 にサンプルのrun_classifier.pyを実行と公式実装の簡単な
 解説を行います。\n　　https://github.com/google-research/bert\n
 　　（手順の共有とリポジトリやコードの解説をメイ
 ンにしますので、実行に関しての\n　　個別フォロー
 は行いません。実行についてはおまけ程度に考えてい
 るので、話の大枠\n　　の理解を優先いただけたらと
 思います。）\n\n※ 全体の流れは変えませんが、細か
 い時間配分は内容踏まえて変更する可能性があります
 。\n※ 以下進行にあたっての参考記事です\nhttps://lib-ar
 ts.hatenablog.com/entry/nlp_dl1\nhttps://lib-arts.hatenablog.com/entry/nl
 p_dl2\nhttps://lib-arts.hatenablog.com/entry/nlp_dl3\nhttps://lib-arts.ha
 tenablog.com/entry/nlp_dl4\nhttps://lib-arts.hatenablog.com/entry/nlp_dl5
 \nhttps://lib-arts.hatenablog.com/entry/nlp_dl6\nhttps://lib-arts.hatenab
 log.com/entry/nlp_dl7\n\n\n会場\n\n水道橋駅、神保町駅、九段
 下駅周辺\n千代田区西神田2-7-14 YS西神田ビル2F\n\n\n対象
 者\n\n言語処理の基本の理解を前提としますので、下記
 の記事の内容を把握しているものとして進行します。\
 nhttps://lib-arts.hatenablog.com/entry/nlp_tutorial1\nhttps://lib-arts.ha
 tenablog.com/entry/nlp_tutorial2\nhttps://lib-arts.hatenablog.com/entry/n
 lp_tutorial3\nhttps://lib-arts.hatenablog.com/entry/nlp_tutorial4\nhttps:
 //lib-arts.hatenablog.com/entry/nlp_tutorial5\n\n\n講師プロフィー
 ル\n\n東大工学部卒。\nデータ分析/AI開発の仕事の経験
 は7年ほどで、理論/開発/ビジネスのどれも経験があり
 強い。\nまた、多くの業界のプロジェクトに関わった
 ためドメイン知識も豊富。\n初心者向けの指導実績も
 多く、1\,000名近い。\n\n\n当日までの準備\n\n希望者は下
 記の公式を元に実行まで行っていただけたらと思いま
 すので、環境の構築と事前学習\nモデルのダウンロー
 ドまで準備として行ってきていただけるとスムーズで
 す。\nhttps://github.com/google-research/bert\nPython環境(3.6系推
 奨)とTensorFlow（1.12.0で動作確認取ってますが、公式だ
 と1.11.0で\nテスト済みとされています）のインストー
 ルとpre-trainedモデル(uncased_L-12_H-768_A-12.zip)\nをダウンロ
 ードをお願いします。回線混み合わなければその場で
 ダウンロードも可です。\n↓事前学習モデルのリンク
 （約400MB）\nhttps://storage.googleapis.com/bert_models/2018_10_18/unc
 ased_L-12_H-768_A-12.zip\n（話の分量自体多く解説がメイン
 なので、こちらの準備ではマストではありません）\n
 また下記のスクリプトを用いてGLUEのデータもダウンロ
 ードしておいてください。\nhttps://gist.github.com/W4ngatang/6
 0c2bdb54d156a41194446737ce03e2e\n\n関連分野について事前知識
 が欲しい方は「深層学習による自然言語処理」が非常
 に良い本なので、\nこちらに軽く目を通した上での参
 加を推奨します。（1\,3\,5章中心に読むのが良いと思い
 ます。）\nhttps://www.kspub.co.jp/book/detail/1529243.html\n\n\n費
 用\n\n4\,000円\n\n※\n・領収書発行の際は事務手数料とし
 て追加1\,000円のお支払いをよろしくお願いいたします\
 n\n\n定員\n\n6名（人数に合わせて調整します、別媒体で
 も募集していますので申し込み人数は当日参加者数を
 反映しません）\n\n\nご参加にあたってのお願い\n\n無断
 欠席や前日以降のキャンセルに関しては当日人数読め
 なくなり非常に迷惑なので\n基本的に行わないように
 お願いします。（直前参加は定員的に問題なければ歓
 迎です！）\n体調不良、職務都合、ご家庭の事情など
 どうしてものケースは別途ご連絡いただくか、\nイベ
 ントへのお問い合わせよりご連絡いただけますと嬉し
 いです。\n上記がひどいアカウントに関してはブラッ
 クリスト処理を行い以後の参加をお断りさせて\nいた
 だきますので、その点だけ予めご了承ください。\n（7
 割以上来れる前提でのお申し込みと前日以降のキャン
 セルはメッセージでのご連絡を\nいただくということ
 だけ気をつけていただければ大丈夫だと思います）\n\n
 モチベーションの高い参加者の方を重視する運営とし
 ていきたいと考えています。\nご協力のほど、よろし
 くお願いいたします。\n\n
LOCATION:
URL:https://techplay.jp/event/731352?utm_medium=referral&utm_source=ics&utm
 _campaign=ics
END:VEVENT
END:VCALENDAR