大阪の北浜で2週間に1度の頻度で開催しているオープン系LLMの勉強会です。

目次

• 第16回目のテーマ
• OsakaGPTクラブの趣旨と運営方針
• OsakaGPTクラブの参加要件
• OsakaGPTクラブ開催の経緯
• 主催者の野望：自然言語処理×強化学習(RLHF)

第16回目のテーマ

引き続きRAGやります、Embeddingベクトル全般の理解を深めます。

過去にとりあげたテーマは以下の通りです。

• 1回目：GPTのしくみ
• 2回目：アテンションメカニズム
• 3回目：ディープラーニング、強化学習クラッシュコース
• 4回目：RLHF、PPO
• 5回目：作成アプリケーション進捗報告
• 6回目：dataset, dataloader, datacollator
• 7回目：SFT(supervised fine-tuning)
• 8回目：トークナイザ(BPE, Unigraｍアルゴリズム)
• 9回目：日本語トークナイザ比較
• 10回目：LoRA
• 11回目：ハイパーパラメータ
• 12回目：LLMアプリケーションのクラウド構成
• 13回目：LLMアプリケーションのクラウド構成
• 14回目：RAG(Retrieval Argumented Generation)
• 15回目：RAGその２

1～4回目までの話聞きたい方いらっしゃればプレゼンさせていただきます。

また以下の項目に知見のある方、圧倒的に頭を垂れてお待ちしています。

• クラウドでのAIサービスの運用ノウハウ
• 量子化やLoRAなどのメモリ効率化ノウハウ
• スマートフォンアプリ開発(AI関係なく)

OsakaGPTクラブの趣旨と運営方針

• 参加者がクオリティの高いLLMアプリケーションを開発できるようにコミュニティを形成するのがOsakaGPTクラブの趣旨です。
• OsakaGPTクラブはオフライン集会です(つまり参加者は実際にひとつの場所に集まります)
• 2週間に1回の頻度での開催を目論んでいます。
• 参加費は500円です(paypay対応可)
• 参加者は各自でPCを持参していただきます。
• 最初の30分の間に主催者が自然言語分野や強化学習分野についてのプレゼンをおこないます。
• 主催者のプレゼンが終わると参加者はひとりで各々の作業をおこなうことができます(AES方式のWi-fiでインターネットへの接続が可能です)
• その後は各々の開発の進捗をプレゼンしたり、界隈の動向について雑談したりすることが多いです。

OsakaGPTクラブの参加要件

参加要件は以下のとおりです。

• プログラマー：圧倒的にpythonを用います。

主宰者個人の野望

主催者個人の方向性について簡単に記しておきます。

• 機械学習エンジニア
• オープンエンドな(特定の質疑応答に特化したものではなく、幅広く様々な会話をおこなうような)チャットボットに興味があって2023年の4月から勉強を始めました。
• 勉強をしていく中で、同じような目線、環境のひとたちと情報を共有したいが、大阪でそういうコミュニティを見つけるのは困難だと感じていた。
• ファインチューニングの手法として、教師あり学習や、自己教師あり学習ではなく、報酬最大化をベースとした強化学習に興味がある

• 以下の2つの論文を自分なりにアレンジして実装することを目標としている

  • Fine-Tuning Language Models from Human Preferences
  • Training language models to follow instructions with human feedback

• これアツかったので追加(2023/08/06)

  • Llama 2: Open Foundation and Fine-Tuned Chat Models