BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//https://techplay.jp//JP
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALDESC:一般庶民でもfine-tuningしたい！ ～ローカルLLM
 のGPU節約の手法を解説～
X-WR-CALNAME:一般庶民でもfine-tuningしたい！ ～ローカルLLM
 のGPU節約の手法を解説～
X-WR-TIMEZONE:Asia/Tokyo
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:19700101T000000
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
TZNAME:JST
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
UID:912276@techplay.jp
SUMMARY:一般庶民でもfine-tuningしたい！ ～ローカルLLMのGPU
 節約の手法を解説～
DTSTART;TZID=Asia/Tokyo:20230727T193000
DTEND;TZID=Asia/Tokyo:20230727T203000
DTSTAMP:20260704T071556Z
CREATED:20230712T143009Z
DESCRIPTION:イベント詳細はこちら\nhttps://techplay.jp/event/91227
 6?utm_medium=referral&utm_source=ics&utm_campaign=ics\n\n講座概要\n20
 22年にOpenAIがChatGPTを公開して以降、大規模言語モデル 
 (LLM) 界隈は大きく盛り上がっています。\n最近ではオ
 ープンソースのLLMが続々と公開されるようになり、そ
 うしたモデルたちはローカル環境で動かしたり学習し
 たりすることができます。\nしかし、一般にLLMは数十
 億以上のパラメータを持ち、全パラメータをロードす
 るだけでも大量のメモリが必要になります。\n一般的
 なスペックのGPUでは、LLMをメモリに乗せることすらで
 きないのが現状です。fine-tuningは言わずもがなです。\n
 では、一般庶民はLLMを動かすことはできないのでしょ
 うか？\nそんなことはありません。\nLLMの学習や推論に
 必要なGPUメモリを削減するための技術は多く研究され
 ています。\n今回はその中でも量子化 (quantization) とLoRA
  (Low-Rank Adaption) を紹介し、これらの技術を使って実際
 にOpenCALM (サイバーエージェント社のオープンソースLLM
 ) をfine-tuningしてみた結果を共有します。\n主な対象者\
 n\nLLMに興味がある方\nオープンソースLLMのfine-tuningを試
 してみたい方\n\n前提とする知識\n\n深層学習の基本的
 な知識がある方\n\nアジェンダ\n\nLLMとは\nLLMのパラメー
 タ数とメモリ消費\n量子化とは\nLoRAとは\nオープンソー
 スLLMのfine-tuning\n\n※ 発表内容は多少変更が入る可能性
 があります\n会場\nZoomウェビナーでの開催となります\n
 ※ 参加登録してくださった方に、このページ上部の「
 参加者への情報」の欄にZoom URLが表示されます。\nタイ
 ムテーブル\n\n\n\n時刻\n内容\n\n\n\n\n19:30\nはじめに\n\n\n1
 9:35\n一般庶民でもfine-tuningしたい！ ～ローカルLLMのGPU
 節約の手法を解説～\n\n\n20:20\n質疑応答\n\n\n20:30\n終了\n
 \n\n\n※質疑の内容や数などにより、終了時刻が前後す
 る可能性があります。
LOCATION:Zoom オンライン
URL:https://techplay.jp/event/912276?utm_medium=referral&utm_source=ics&utm
 _campaign=ics
END:VEVENT
END:VCALENDAR