Osaka GPT #0.16

2024/03/03(日)18:00 〜 19:30 開催
ブックマーク

イベント内容

大阪の北浜で2週間に1度の頻度で開催しているオープン系LLMの勉強会です。

目次

  • 第16回目のテーマ
  • OsakaGPTクラブの趣旨と運営方針
  • OsakaGPTクラブの参加要件
  • OsakaGPTクラブ開催の経緯
  • 主催者の野望:自然言語処理×強化学習(RLHF)

第16回目のテーマ

引き続きRAGやります、Embeddingベクトル全般の理解を深めます。

過去にとりあげたテーマは以下の通りです。

  • 1回目:GPTのしくみ
  • 2回目:アテンションメカニズム
  • 3回目:ディープラーニング、強化学習クラッシュコース
  • 4回目:RLHF、PPO
  • 5回目:作成アプリケーション進捗報告
  • 6回目:dataset, dataloader, datacollator
  • 7回目:SFT(supervised fine-tuning)
  • 8回目:トークナイザ(BPE, Unigramアルゴリズム)
  • 9回目:日本語トークナイザ比較
  • 10回目:LoRA
  • 11回目:ハイパーパラメータ
  • 12回目:LLMアプリケーションのクラウド構成
  • 13回目:LLMアプリケーションのクラウド構成
  • 14回目:RAG(Retrieval Argumented Generation)
  • 15回目:RAGその2

1~4回目までの話聞きたい方いらっしゃればプレゼンさせていただきます。

また以下の項目に知見のある方、圧倒的に頭を垂れてお待ちしています。

  • クラウドでのAIサービスの運用ノウハウ
  • 量子化やLoRAなどのメモリ効率化ノウハウ
  • スマートフォンアプリ開発(AI関係なく)

OsakaGPTクラブの趣旨と運営方針

  • 参加者がクオリティの高いLLMアプリケーションを開発できるようにコミュニティを形成するのがOsakaGPTクラブの趣旨です。
  • OsakaGPTクラブはオフライン集会です(つまり参加者は実際にひとつの場所に集まります)
  • 2週間に1回の頻度での開催を目論んでいます。
  • 参加費は500円です(paypay対応可)
  • 参加者は各自でPCを持参していただきます。
  • 最初の30分の間に主催者が自然言語分野や強化学習分野についてのプレゼンをおこないます。
  • 主催者のプレゼンが終わると参加者はひとりで各々の作業をおこなうことができます(AES方式のWi-fiでインターネットへの接続が可能です)
  • その後は各々の開発の進捗をプレゼンしたり、界隈の動向について雑談したりすることが多いです。

OsakaGPTクラブの参加要件

参加要件は以下のとおりです。

  • プログラマー:圧倒的にpythonを用います。

主宰者個人の野望

主催者個人の方向性について簡単に記しておきます。

  • 機械学習エンジニア
  • オープンエンドな(特定の質疑応答に特化したものではなく、幅広く様々な会話をおこなうような)チャットボットに興味があって2023年の4月から勉強を始めました。
  • 勉強をしていく中で、同じような目線、環境のひとたちと情報を共有したいが、大阪でそういうコミュニティを見つけるのは困難だと感じていた。
  • ファインチューニングの手法として、教師あり学習や、自己教師あり学習ではなく、報酬最大化をベースとした強化学習に興味がある
  • 以下の2つの論文を自分なりにアレンジして実装することを目標としている

  • これアツかったので追加(2023/08/06)

注意事項

※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
情報提供元ページ(connpass)へ

新規会員登録

このイベントに申し込むには会員登録が必要です。
アカウント登録済みの方はログインしてください。



※ ソーシャルアカウントで登録するとログインが簡単に行えます。

※ 連携したソーシャルアカウントは、会員登録完了後にいつでも変更できます。

関連するイベント