BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//https://techplay.jp//JP
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALDESC:BERTの論文の解説とハンズオンを行う簡易セミ
 ナー
X-WR-CALNAME:BERTの論文の解説とハンズオンを行う簡易セミ
 ナー
X-WR-TIMEZONE:Asia/Tokyo
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:19700101T000000
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
TZNAME:JST
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:738185@techplay.jp
SUMMARY:BERTの論文の解説とハンズオンを行う簡易セミナー
DTSTART;TZID=Asia/Tokyo:20190716T200000
DTEND;TZID=Asia/Tokyo:20190716T220000
DTSTAMP:20260506T040429Z
CREATED:20190623T130353Z
DESCRIPTION:イベント詳細はこちら\nhttps://techplay.jp/event/73818
 5?utm_medium=referral&utm_source=ics&utm_campaign=ics\n\n内容概要\n\n
 ここ最近BERTについてご質問いただくことが多いので企
 画させていただきました。\nhttps://arxiv.org/abs/1810.04805\nB
 ERTは言語処理の事前学習（pre-trained）モデルとして役
 に立つのではということで\n注目を浴びています。\n\n
 今回は基礎知識〜トレンド〜論文の読解＆TensorFlow実装
 を実際に動かし、簡単に実装の流れを掴みます。\nWord2
 Vec、Seq2Seq、Transformerなどに触れながらBERTまで話をつな
 げていければと思います。\n\n※\n内容としては5/7、5/28
 、6/16に実施したものと同様の範囲で実施します。\nhttp
 s://ml-for-experts.connpass.com/event/127153/\n初回開催で進行の
 イメージがついたので、1\,000円値上げし4\,000円での実
 施とさせていただきます。\n\n\n開催日程\n\n7/16（火）\n
 受付： 19:50〜20:00\n講義： 20:00〜22:00\n\n※\n途中5分ほど
 の休憩を設ける予定です。\n\n\nアジェンダ\n\n1. 言語処
 理の概論の復習＆予備知識(30分)\n      BoWとWord2Vec（局
 所表現と分散表現）\n　　言語モデルとニューラル言
 語モデル\n　　Seq2Seq（系列変換モデル）とEncoder-Decoder 
  etc\n\n2. 論文を元にした解説(30分)\n　　Transformer[2017]\n
 　　BERT[2018]\n\n3. 実装例を元にしたハンズオン(50分)\n
 　　下記を元にサンプルのrun_classifier.pyを実行と公式
 実装の簡単な解説を行います。\n　　https://github.com/goog
 le-research/bert\n　　（手順の共有とリポジトリやコード
 の解説をメインにしますので、実行に関しての\n　　
 個別フォローは行いません。実行についてはおまけ程
 度に考えているので、話の大枠\n　　の理解を優先い
 ただけたらと思います。）\n\n※ 全体の流れは変えま
 せんが、細かい時間配分は内容踏まえて変更する可能
 性があります。\n※ 以下進行にあたっての参考記事で
 す\nhttps://lib-arts.hatenablog.com/entry/nlp_dl1\nhttps://lib-arts.hate
 nablog.com/entry/nlp_dl2\nhttps://lib-arts.hatenablog.com/entry/nlp_dl3\n
 https://lib-arts.hatenablog.com/entry/nlp_dl4\nhttps://lib-arts.hatenablo
 g.com/entry/nlp_dl5\nhttps://lib-arts.hatenablog.com/entry/nlp_dl6\nhttps
 ://lib-arts.hatenablog.com/entry/nlp_dl7\nhttps://lib-arts.hatenablog.com
 /entry/nlp_dl8\n\n\n会場\n\n水道橋駅、神保町駅、九段下駅
 周辺\n千代田区西神田2-7-14 YS西神田ビル2F\n\n\n対象者\n\
 n言語処理の基本の理解を前提としますので、下記の記
 事の内容を把握しているものとして進行します。\nhttps
 ://lib-arts.hatenablog.com/entry/nlp_tutorial1\nhttps://lib-arts.hatenabl
 og.com/entry/nlp_tutorial2\nhttps://lib-arts.hatenablog.com/entry/nlp_tut
 orial3\nhttps://lib-arts.hatenablog.com/entry/nlp_tutorial4\nhttps://lib-
 arts.hatenablog.com/entry/nlp_tutorial5\nhttps://lib-arts.hatenablog.com/
 entry/nlp_tutorial6\n\n\n講師プロフィール\n\n東大工学部卒
 。\nデータ分析/AI開発の仕事の経験は7年ほどで、理論/
 開発/ビジネスのどれも経験があり強い。\nまた、多く
 の業界のプロジェクトに関わったためドメイン知識も
 豊富。\n初心者向けの指導実績も多く、1\,000名近い。\n
 \n\n当日までの準備\n\n希望者は下記の公式を元に実行
 まで行っていただけたらと思いますので、環境の構築
 と事前学習\nモデルのダウンロードまで準備として行
 ってきていただけるとスムーズです。\nhttps://github.com/g
 oogle-research/bert\nPython環境(3.6系推奨)とTensorFlow（1.12.0で
 動作確認取ってますが、公式だと1.11.0で\nテスト済み
 とされています）のインストールとpre-trainedモデル(unca
 sed_L-12_H-768_A-12.zip)\nをダウンロードをお願いします。
 回線混み合わなければその場でダウンロードも可です
 。\n↓事前学習モデルのリンク（約400MB）\nhttps://storage.
 googleapis.com/bert_models/2018_10_18/uncased_L-12_H-768_A-12.zip\n（話
 の分量自体多く解説がメインなので、こちらの準備で
 はマストではありません）\nまた下記のスクリプトを
 用いてGLUEのデータもダウンロードしておいてください
 。\nhttps://gist.github.com/W4ngatang/60c2bdb54d156a41194446737ce03e2e\n
 \n関連分野について事前知識が欲しい方は「深層学習
 による自然言語処理」が非常に良い本なので、\nこち
 らに軽く目を通した上での参加を推奨します。（1\,3\,5
 章中心に読むのが良いと思います。）\nhttps://www.kspub.co
 .jp/book/detail/1529243.html\n\n\n費用\n\n4\,000円\n\n※\n・領収
 書発行の際は事務手数料として追加1\,000円のお支払い
 をよろしくお願いいたします\n\n\n定員\n\n12名（人数に
 合わせて調整します、別媒体でも募集していますので
 申し込み人数は当日参加者数を反映しません）\n\n\nご
 参加にあたってのお願い\n\n無断欠席や前日以降のキャ
 ンセルに関しては当日人数読めなくなり非常に迷惑な
 ので\n基本的に行わないようにお願いします。（直前
 参加は定員的に問題なければ歓迎です！）\n体調不良
 、職務都合、ご家庭の事情などどうしてものケースは
 別途ご連絡いただくか、\nイベントへのお問い合わせ
 よりご連絡いただけますと嬉しいです。\n上記がひど
 いアカウントに関してはブラックリスト処理を行い以
 後の参加をお断りさせて\nいただきますので、その点
 だけ予めご了承ください。\n（7割以上来れる前提での
 お申し込みと前日以降のキャンセルはメッセージでの
 ご連絡を\nいただくということだけ気をつけていただ
 ければ大丈夫だと思います）\n\nモチベーションの高い
 参加者の方を重視する運営としていきたいと考えてい
 ます。\nご協力のほど、よろしくお願いいたします。\n
 \n
LOCATION:
URL:https://techplay.jp/event/738185?utm_medium=referral&utm_source=ics&utm
 _campaign=ics
END:VEVENT
END:VCALENDAR