生成式視覺模型

原理與實踐9:18:57下午1第6章擴散模型

（2）DDPM原理9:18:57下午2復習：正向/逆向擴散過程9:18:57下午3真實圖像加噪圖像白噪聲轉移分布轉移分布轉移分布轉移分布真實圖像（馬爾科夫鏈）（馬爾科夫鏈）復習：損失函數(shù)（無推導）

9:18:57下午4源噪聲神經(jīng)網(wǎng)絡

主要內(nèi)容正向與逆向過程的數(shù)學描述對數(shù)似然與證據(jù)下界證據(jù)下界的分解最終損失函數(shù)的推導用神經(jīng)網(wǎng)絡對什么建模？采樣過程等價的損失函數(shù)9:18:57下午5正向過程9:18:57下午6正向過程

9:18:57下午7正向過程

9:18:57下午8正向過程

9:18:57下午9正向過程

9:18:57下午10DDPM的正向擴散過程無可學習參數(shù)！正向過程

9:18:57下午11將在后續(xù)推導中被應用證明應用了馬爾科夫性質（如何用的？）正向過程9:18:57下午12

如何證明？（提示見下一頁）正向過程

9:18:57下午13

正向過程

9:18:57下午14正向過程

9:18:57下午15逆向過程9:18:57下午16

逆向過程一個直接的想法：根據(jù)貝葉斯法則，有9:18:57下午17正向過程的轉移分布解析形式未知！逆向過程

9:18:57下午18真實去噪轉移分布逆向過程可以證明，9:18:57下午19逆向過程

9:18:57下午20逆向過程逆向過程的狀態(tài)轉移分布被定義為9:18:57下午21神經(jīng)網(wǎng)絡逆向過程

9:18:57下午22如何利用馬爾科夫性質來推導？習題2：逆向擴散9:18:57下午23對數(shù)似然與證據(jù)下界與VAE類似，DDPM模型的訓練，實際上也是在最大化對數(shù)似然函數(shù)的證據(jù)下界（ELBO），即9:18:57下午24

用了什么不等式？證據(jù)下界的分解然而，ELBO無解析形式，無法被直接優(yōu)化。我們需要對ELBO進行分解和化簡！9:18:57下午259:18:57下午26推導過程見講義證據(jù)下界的分解9:18:57下午27【結論】ELBO可以被分解為以下三項：見VAE無可學習參數(shù)DDPM只優(yōu)化該項證據(jù)下界的分解

9:18:57下午28關注：最小化去噪匹配項具有解析形式！最終損失函數(shù)的推導根據(jù)上文，我們知道9:18:57下午29真實去噪轉移分布逆向過程的轉移分布最終損失函數(shù)的推導

9:18:57下午30最終損失函數(shù)的推導因此，可以推導出去噪匹配項的表達式9:18:57下午31最終損失函數(shù)的推導

9:18:57下午32

最終損失函數(shù)的推導最終的訓練損失函數(shù)為9:18:57下午33

為什么與DDPM的損失不一樣？

9:18:57下午34采樣過程（推理）根據(jù)逆向過程的狀態(tài)轉移分布我們通過如下公式，構造馬爾科夫鏈進行采樣9:18:57下午35小結一下9:18:57下午36等價損失：噪聲預測損失

9:18:57下午37等價損失：噪聲預測損失可得9:18:57下午38高斯噪聲9:18:57下午39等價損失：噪聲預測損失

9:18:57下午40神經(jīng)網(wǎng)絡等價損失：噪聲預測損失

9:18:57下午41等價損失：噪聲預測