Research Seminar: 大規模言語モデルの分散並列学習 (藤井 一喜, 東工大/理研AIP)

2024/05/29(水)13:00 〜 14:00 開催
ブックマーク
#大規模言語モデル（LLM）

イベント内容

大規模モデルの効率的な学習には、分散並列学習が不可欠であり、学習効率に大きく影響する重要な要素です。データ並列、テンソル並列、パイプライン並列など、様々な分散並列学習手法が存在しますが、効率的な学習のためには、それぞれの特徴をふまえた組み合わせが必要です。本講演では、これらの手法の技術的な側面を解説します。加えて、実際のプロジェクトにおける実例についても紹介します。

注意事項

※ こちらのイベント情報は、外部サイトから取得した情報を掲載しています。
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
情報提供元ページ（Doorkeeper）へ

新規会員登録

このイベントに申し込むには会員登録が必要です。
アカウント登録済みの方はログインしてください。

※ ソーシャルアカウントで登録するとログインが簡単に行えます。

※ 連携したソーシャルアカウントは、会員登録完了後にいつでも変更できます。

関連するイベント