BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//https://techplay.jp//JP
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALDESC:BERTの論文の解説と簡易ハンズオンを行うセミ
 ナー【概論編】
X-WR-CALNAME:BERTの論文の解説と簡易ハンズオンを行うセミ
 ナー【概論編】
X-WR-TIMEZONE:Asia/Tokyo
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:19700101T000000
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
TZNAME:JST
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:734706@techplay.jp
SUMMARY:BERTの論文の解説と簡易ハンズオンを行うセミナー
 【概論編】
DTSTART;TZID=Asia/Tokyo:20190616T130000
DTEND;TZID=Asia/Tokyo:20190616T150000
DTSTAMP:20260510T203414Z
CREATED:20190530T062259Z
DESCRIPTION:イベント詳細はこちら\nhttps://techplay.jp/event/73470
 6?utm_medium=referral&utm_source=ics&utm_campaign=ics\n\n内容概要\n
 ここ最近BERTについてご質問いただくことが多いので企
 画しています。\nhttps://arxiv.org/abs/1810.04805\nBERTは言語処
 理の事前学習（pre-trained）モデルとして役に立つので
 はということで\n注目を浴びています。\n\n今回は基礎
 知識〜トレンド〜論文の読解＆TensorFlow実装を実際に動
 かし、簡単に実装の流れを掴みます。\nWord2Vec、Seq2Seq
 、Transformerなどに触れながらBERTまで話をつなげていけ
 ればと思います。\n\n※\n内容としては5/7、5/28に実施し
 たものと同様の範囲で実施します。\nhttps://ml-for-experts.
 connpass.com/event/127153/\nhttps://ml-for-experts.connpass.com/event/130
 951/\n初回開催で進行のイメージがついたので、5/28開催
 から1\,000円値上げし4\,000円での実施とさせて\nいただ
 いています。\n\n※\nソースコードの解説に割けている
 時間が少ないので、より実装の解説に特化した続編も
 企画して\nみました。\nhttps://connpass.com/event/133552/\n\n\n\n
 開催日程\n6/16（日）\n受付： 12:50〜13:00\n講義： 13:00〜1
 5:00\n\n※\n途中5分ほどの休憩を設ける予定です。\n\n\n\n
 アジェンダ\n1. 言語処理の概論の復習＆予備知識(30分)\
 n      BoWとWord2Vec（局所表現と分散表現）\n　　言語モ
 デルとニューラル言語モデル\n　　Seq2Seq（系列変換モ
 デル）とEncoder-Decoder  etc\n\n2. 論文を元にした解説(30分)
 \n　　Transformer[2017]\n　　BERT[2018]\n\n3. 実装例を元にし
 たハンズオン(50分)\n　　下記を元にサンプルのrun_classi
 fier.pyを実行と公式実装の簡単な解説を行います。\n　
 　https://github.com/google-research/bert\n　　（手順の共有と
 リポジトリやコードの解説をメインにしますので、実
 行に関しての\n　　個別フォローは行いません。実行
 についてはおまけ程度に考えているので、話の大枠\n
 　　の理解を優先いただけたらと思います。）\n\n※ 
 全体の流れは変えませんが、細かい時間配分は内容踏
 まえて変更する可能性があります。\n※ 以下進行にあ
 たっての参考記事です\nhttps://lib-arts.hatenablog.com/entry/nlp
 _dl1\nhttps://lib-arts.hatenablog.com/entry/nlp_dl2\nhttps://lib-arts.hat
 enablog.com/entry/nlp_dl3\nhttps://lib-arts.hatenablog.com/entry/nlp_dl4\
 nhttps://lib-arts.hatenablog.com/entry/nlp_dl5\nhttps://lib-arts.hatenabl
 og.com/entry/nlp_dl6\nhttps://lib-arts.hatenablog.com/entry/nlp_dl7\nhttp
 s://lib-arts.hatenablog.com/entry/nlp_dl8\n\n\n\n会場\n水道橋駅、
 神保町駅、九段下駅周辺\n千代田区西神田2-7-14 YS西神
 田ビル2F\n\n\n\n対象者\n言語処理の基本の理解を前提と
 しますので、下記の記事の内容を把握しているものと
 して進行します。\nhttps://lib-arts.hatenablog.com/entry/nlp_tutor
 ial1\nhttps://lib-arts.hatenablog.com/entry/nlp_tutorial2\nhttps://lib-ar
 ts.hatenablog.com/entry/nlp_tutorial3\nhttps://lib-arts.hatenablog.com/en
 try/nlp_tutorial4\nhttps://lib-arts.hatenablog.com/entry/nlp_tutorial5\nh
 ttps://lib-arts.hatenablog.com/entry/nlp_tutorial6\n\n\n\n講師プロフ
 ィール\n東大工学部卒。\nデータ分析/AI開発の仕事の経
 験は7年ほどで、理論/開発/ビジネスのどれも経験があ
 り強い。\nまた、多くの業界のプロジェクトに関わっ
 たためドメイン知識も豊富。\n初心者向けの指導実績
 も多く、1\,000名近い。\n\n\n\n当日までの準備\n希望者は
 下記の公式を元に実行まで行っていただけたらと思い
 ますので、環境の構築と事前学習\nモデルのダウンロ
 ードまで準備として行ってきていただけるとスムーズ
 です。\nhttps://github.com/google-research/bert\nPython環境(3.6系
 推奨)とTensorFlow（1.12.0で動作確認取ってますが、公式
 だと1.11.0で\nテスト済みとされています）のインスト
 ールとpre-trainedモデル(uncased_L-12_H-768_A-12.zip)\nをダウン
 ロードをお願いします。回線混み合わなければその場
 でダウンロードも可です。\n↓事前学習モデルのリン
 ク（約400MB）\nhttps://storage.googleapis.com/bert_models/2018_10_18/
 uncased_L-12_H-768_A-12.zip\n（話の分量自体多く解説がメイ
 ンなので、こちらの準備ではマストではありません）\
 nまた下記のスクリプトを用いてGLUEのデータもダウン
 ロードしておいてください。\nhttps://gist.github.com/W4ngatan
 g/60c2bdb54d156a41194446737ce03e2e\n\n※\nハンズオンの環境はCol
 abでの実行でも大丈夫です。\n\n※\n関連分野について
 事前知識が欲しい方は「深層学習による自然言語処理
 」が非常に良い本なので、\nこちらに軽く目を通した
 上での参加を推奨します。（1\,3\,4\,5章中心に読むのが
 良いと思います。）\nhttps://www.kspub.co.jp/book/detail/1529243.
 html\n\n\n\n費用\n4\,000円\n\n※\n・領収書発行の際は事務
 手数料として追加1\,000円のお支払いをよろしくお願い
 いたします\n\n\n\n定員\n10名（人数に合わせて調整しま
 す、別媒体でも募集していますので申し込み人数は当
 日参加者数を反映しません）\n\n\n\nご参加にあたって
 のお願い\n無断欠席や前日以降のキャンセルに関して
 は当日人数読めなくなり非常に迷惑なので\n基本的に
 行わないようにお願いします。（直前参加は定員的に
 問題なければ歓迎です！）\n体調不良、職務都合、ご
 家庭の事情などどうしてものケースは別途ご連絡いた
 だくか、\nイベントへのお問い合わせよりご連絡いた
 だけますと嬉しいです。\n上記がひどいアカウントに
 関してはブラックリスト処理を行い以後の参加をお断
 りさせて\nいただきますので、その点だけ予めご了承
 ください。\n（7割以上来れる前提でのお申し込みと前
 日以降のキャンセルはメッセージでのご連絡を\nいた
 だくということだけ気をつけていただければ大丈夫だ
 と思います）\n\nモチベーションの高い参加者の方を重
 視する運営としていきたいと考えています。\nご協力
 のほど、よろしくお願いいたします。\n
LOCATION:水道橋駅周辺 千代田区西神田2-7-14 YS西神田ビル2F
URL:https://techplay.jp/event/734706?utm_medium=referral&utm_source=ics&utm
 _campaign=ics
END:VEVENT
END:VCALENDAR
