【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習
オンライン
イベント内容
【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習
日時 : 2024年11月24日(日) 17:00 - 19:00
場所 : Zoom
参加対象者 : どなたでも参加可
参加費 : なし
定員 : 1,000名
イベント概要
TanukiモデルのTRLライブラリを用いた事後学習を、手頃な価格で仕立てられるローカルPCやレンタルクラウド環境上で、動作検証をするという実演的な勉強会です。
※Tanukiとは松尾研がGENIACで開発したLLMモデルです。
ご覧頂くだけであれば、特に準備物は必要ありません。
（H100×8の1ノードをご用意頂けますと8Bモデルの学習、H100×8の3ノードあればTanuki-8x8Bの学習が可能です。）
本イベントはイベント終了後に松尾研公式YouTubeでアーカイブ動画を公開予定です。残念ながら当日ライブで参加頂けない方でも、connpassに参加登録を頂いていれば、動画公開のタイミングでconnpassのメール機能にてお知らせいたします。
想定する参加者と期待される学び
- LLM初中級者
Tanuki開発で行われた実際の作業の一部を垣間見ることで、LLM開発の実現場をご体感頂けます。 - 小型LLMや次世代Tanukiの開発をお考えの方
Tanuki開発のエッセンスを全3回程度の実演に詰め込んでお送りします。
＊なお、実際のTanuki開発内容の発信を目的にしているため、理論や開発総括に関してはLLM講座または松尾研LLM開発プロジェクト「Tanuki-8x8B」開発成果報告会 Vol.1～3をご覧ください。
タイムテーブル
- オープニング・自己紹介
- Tanuki開発について
- 事後学習 - SFT,DPOについて
- 事後学習 - 総力戦について
- 事後学習 - スクリプト解説
- SFT/DPOの実演
- 質疑
- クロージング
参考リンク
その他
- 2025年4月開講予定の「深層学習 DeepLearning基礎講座」の事前予約を開始しています。予約フォームはこちら
注意事項
※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
お問い合わせ
関連するイベント
【生成AIベストプラクティス公開】上場企業15社以上で効果が出た生成AIを起点とする業務改善の最前線
2026/06/02(火) 開催
【第1弾】使わなきゃ損！生成AIまるわかりウェビナー～基本編～【参加無料】
2026/05/02(土) 開催
【新講座】データ分析×AI活用超入門 -ビジネス課題を解決する実践的な使い方-【参加無料】
2026/05/28(木) 開催
【生成AIベストプラクティス公開】上場企業15社以上で効果が出た生成AI Ready のデータ整理で生成AIの利活用が促進する施策
2026/06/16(火) 開催