経産省起案プロジェクトに採択された大規模言語モデル（Mixtral 8x7B）開発の裏側

2024/09/13(金)19:00 〜 21:00 開催

ブックマーク

#大規模言語モデル（LLM）, #キャリア, #データサイエンス

イベント内容

イベント概要

株式会社ABEJA主催、大規模言語モデル(LLM)の開発の裏側や、開発を通じて得られたこと、ハマったポイントなど、可能な限り公開します！
・データサイエンスの知見を広げたい
・LLMの活用にとどまらず、LLM自体を開発することに興味がある
・データサイエンティストとしてのキャリアの考えを深めたい
というデータサイエンティストの方はぜひご参加お待ちしております！

弊社ABEJAは、経産省の「GENIAC」に採択され、国産LLM開発の推進をしています。
添付資料にもあるように、ABEJAではMixtral 8x7Bモデルの日本語語彙拡張継続事前学習と、周辺技術であるRAG/Agentで使いやすいモデルにするための事後学習を実施しました。
当日は、実際のモデル開発をリードしたデータサイエンティストから、開発の裏側を解説します。

この成果は、NEDOの助成事業（JPNP20017）の結果得られたものです。

開催概要

開催日：9月13日（金）
時間：19:00~21:00
主催：株式会社ABEJA
場所：秋葉原Lounge @ 東京都千代田区神田佐久間町4-6齋田ビル
持ち物：お名刺 2枚（受付時に必要です）
参加費：無料
登壇者：藤本（CEO室ラボ長 / 博士）

＜タイムテーブル＞

時間	内容
18:30 - 19:00	開場
19:00 - 19:05	オープニングトーク
19:05 - 19:50	LLM開発について
19:50 - 20:00	休憩
20:00 - 20:50	懇親会
20:50 - 21:00	閉会