【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習
オンライン
イベント内容
【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習
日時 : 2024年11月24日(日) 17:00 - 19:00
場所 : Zoom
参加対象者 : どなたでも参加可
参加費 : なし
定員 : 1,000名
イベント概要
TanukiモデルのTRLライブラリを用いた事後学習を、手頃な価格で仕立てられるローカルPCやレンタルクラウド環境上で、動作検証をするという実演的な勉強会です。
※Tanukiとは松尾研がGENIACで開発したLLMモデルです。
ご覧頂くだけであれば、特に準備物は必要ありません。
（H100×8の1ノードをご用意頂けますと8Bモデルの学習、H100×8の3ノードあればTanuki-8x8Bの学習が可能です。）
本イベントはイベント終了後に松尾研公式YouTubeでアーカイブ動画を公開予定です。残念ながら当日ライブで参加頂けない方でも、connpassに参加登録を頂いていれば、動画公開のタイミングでconnpassのメール機能にてお知らせいたします。
想定する参加者と期待される学び
- LLM初中級者
Tanuki開発で行われた実際の作業の一部を垣間見ることで、LLM開発の実現場をご体感頂けます。 - 小型LLMや次世代Tanukiの開発をお考えの方
Tanuki開発のエッセンスを全3回程度の実演に詰め込んでお送りします。
＊なお、実際のTanuki開発内容の発信を目的にしているため、理論や開発総括に関してはLLM講座または松尾研LLM開発プロジェクト「Tanuki-8x8B」開発成果報告会 Vol.1～3をご覧ください。
タイムテーブル
- オープニング・自己紹介
- Tanuki開発について
- 事後学習 - SFT,DPOについて
- 事後学習 - 総力戦について
- 事後学習 - スクリプト解説
- SFT/DPOの実演
- 質疑
- クロージング
参考リンク
その他
- 2025年4月開講予定の「深層学習 DeepLearning基礎講座」の事前予約を開始しています。予約フォームはこちら
注意事項
※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
お問い合わせ
関連するイベント
【過去最大規模】KIZACIOソリューションフェア2026～AX：競争優位を再定義する"AIネイティブ戦略"～ リアル会場とオンラインのダブル開催！【7月7～9日 参加無料】
2026/07/07(火) 開催
【7月東京開催】ハンズオンセミナー：エクセル1行から始める「ベテランのつぶやきAI」構築のための入門講座（生成AI×技術継承、現場主導のローカルLLM活用）
2026/07/28(火) 開催
AI駆動開発の最前線 ～シアトル発・Biz × Techを繋ぐAI Native開発プロセス～【Slalom Tech Night vol.1】
2026/07/03(金) 開催
TypeScriptで開発するAIエージェントの裏側 〜KAG社の実践知から学ぶMastra〜
2026/07/14(火) 開催