BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//https://techplay.jp//JP
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALDESC:Osaka GPT #0.16
X-WR-CALNAME:Osaka GPT #0.16
X-WR-TIMEZONE:Asia/Tokyo
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:19700101T000000
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
TZNAME:JST
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:936685@techplay.jp
SUMMARY:Osaka GPT #0.16
DTSTART;TZID=Asia/Tokyo:20240303T180000
DTEND;TZID=Asia/Tokyo:20240303T193000
DTSTAMP:20260430T201554Z
CREATED:20240223T062523Z
DESCRIPTION:イベント詳細はこちら\nhttps://techplay.jp/event/93668
 5?utm_medium=referral&utm_source=ics&utm_campaign=ics\n\n大阪の北浜
 で2週間に1度の頻度で開催しているオープン系LLMの勉
 強会です。\n目次\n\n第16回目のテーマ\nOsakaGPTクラブの
 趣旨と運営方針\nOsakaGPTクラブの参加要件\nOsakaGPTクラ
 ブ開催の経緯\n主催者の野望：自然言語処理×強化学習
 (RLHF)\n\n第16回目のテーマ\n引き続きRAGやります、Embeddin
 gベクトル全般の理解を深めます。\n過去にとりあげた
 テーマは以下の通りです。\n\n1回目：GPTのしくみ\n2回
 目：アテンションメカニズム\n3回目：ディープラーニ
 ング、強化学習クラッシュコース\n4回目：RLHF、PPO\n5回
 目：作成アプリケーション進捗報告\n6回目：dataset\, dat
 aloader\, datacollator\n7回目：SFT(supervised fine-tuning)\n8回目：
 トークナイザ(BPE\, Unigraｍアルゴリズム)\n9回目：日本
 語トークナイザ比較\n10回目：LoRA\n11回目：ハイパーパ
 ラメータ\n12回目：LLMアプリケーションのクラウド構成
 \n13回目：LLMアプリケーションのクラウド構成\n14回目
 ：RAG(Retrieval Argumented Generation)\n15回目：RAGその２\n\n1～4
 回目までの話聞きたい方いらっしゃればプレゼンさせ
 ていただきます。\nまた以下の項目に知見のある方、
 圧倒的に頭を垂れてお待ちしています。\n\nクラウドで
 のAIサービスの運用ノウハウ\n量子化やLoRAなどのメモ
 リ効率化ノウハウ\nスマートフォンアプリ開発(AI関係
 なく)\n\nOsakaGPTクラブの趣旨と運営方針\n\n参加者がク
 オリティの高いLLMアプリケーションを開発できるよう
 にコミュニティを形成するのがOsakaGPTクラブの趣旨で
 す。\nOsakaGPTクラブはオフライン集会です(つまり参加
 者は実際にひとつの場所に集まります)\n2週間に1回の
 頻度での開催を目論んでいます。\n参加費は500円です(p
 aypay対応可)\n参加者は各自でPCを持参していただきます
 。\n最初の30分の間に主催者が自然言語分野や強化学習
 分野についてのプレゼンをおこないます。\n主催者の
 プレゼンが終わると参加者はひとりで各々の作業をお
 こなうことができます(AES方式のWi-fiでインターネット
 への接続が可能です)\nその後は各々の開発の進捗をプ
 レゼンしたり、界隈の動向について雑談したりするこ
 とが多いです。\n\nOsakaGPTクラブの参加要件\n参加要件
 は以下のとおりです。\n\nプログラマー：圧倒的にpython
 を用います。\n\n主宰者個人の野望\n主催者個人の方向
 性について簡単に記しておきます。\n\n機械学習エンジ
 ニア\nオープンエンドな(特定の質疑応答に特化したも
 のではなく、幅広く様々な会話をおこなうような)チャ
 ットボットに興味があって2023年の4月から勉強を始め
 ました。\n勉強をしていく中で、同じような目線、環
 境のひとたちと情報を共有したいが、大阪でそういう
 コミュニティを見つけるのは困難だと感じていた。\n
 ファインチューニングの手法として、教師あり学習や
 、自己教師あり学習ではなく、報酬最大化をベースと
 した強化学習に興味がある\n\n以下の2つの論文を自分
 なりにアレンジして実装することを目標としている\n\n
 Fine-Tuning Language Models from Human Preferences\nTraining language mod
 els to follow instructions with human feedback\n\n\n\nこれアツかっ
 たので追加(2023/08/06)\n\nLlama 2: Open Foundation and Fine-Tuned Ch
 at Models\n\n\n
LOCATION:ルート中之島ビル 301号室 大阪府大阪市中央区東
 高麗橋２−１
URL:https://techplay.jp/event/936685?utm_medium=referral&utm_source=ics&utm
 _campaign=ics
END:VEVENT
END:VCALENDAR