Understanding Diffusion Models #7

モチベーション

画像生成モデルなどで応用されている拡散モデルの理解を深めていきたいと思い企画しました。
勉強会では下記の論文を読んでいきます。
Understanding Diffusion Models: A Unified Perspective. https://arxiv.org/abs/2208.11970

Code 参考資料
https://github.com/google-research/vdm

興味がある方が集まり、一緒に学べることを楽しみにしています。

論文より About Variational Diffusion Models

The easiest way to think of a Variational Diffusion Model (VDM) is simply as a Markovian Hierarchical Variational Autoencoder with three key restrictions:
• The latent dimension is exactly equal to the data dimension
• The structure of the latent encoder at each timestep is not learned; it is pre-defined as a linear Gaussian model. In other words, it is a Gaussian distribution centered around the output of the previous timestep
• The Gaussian parameters of the latent encoders vary over time in such a way that the distribution of the latent at final timestep T is a standard Gaussian

進め方

主催が論文を読み、疑問をなげかけたりしながらファシリテートする役割を担います。
参加者は議論に参加したり、質問したり、質問に答えたりするなど自由に応答します。
黙って聴くだけの参加の仕方もOKです。(最初の自己紹介と最後の感想のシェアはお願いしています。)
09:30~12:30 本編ディスカッション 12:40~13:00 交流タイム(雑談会) 任意参加

準備

こちらのZoomというオンラインミーティングのアプリを利用します。
開始前までにインストールしてください。
https://zoom.us/jp-jp/meetings.html
申し込み者のみ閲覧可能なcompass 上の情報ページに勉強会に参加可能なURLが記載されています。

休憩

休憩を途中挟みます。

必要とする前提知識

微分積分、線形代数、確率モデル、統計的機械学習および深層学習の基礎知識

対象者

機械学習領域の研究者、エンジニア、または目指している方. 拡散モデルの理論に興味がある方

Math & Codingとは

数学とプログラミングのスキルを向上したい方が集い学び合う場です。 またそのために必要な数学も取り上げていきます。 難しい概念や技術も、シンプルな例で確認したりメンバーが対話することで本質的な理解を得られると考えます。 本グループは、そのようなことができるようなコミュニティとなることを目指します。
◆groupページ
https://www.facebook.com/groups/284004485439214/

◆過去のイベント スクラムサインのコミュニティーページ
https://scrumsign.com/community/