生成扩散模型数学推导
本文基于2020年提出的DDPM(Denoising Diffusion Probabilistic Models)模型,对扩散模型的原理进行了详细的介绍。对于扩散过程,在满足马尔科夫链的条件下,我们应用了重参数技巧证明了基于原始数据我们可以对任意步进行采样,并且可以使用数学表达式进行表示;对于逆扩散过程,我们应用了贝叶斯公式和高斯分布的性质进行数学推导,得到了逆扩散过程的后验分布,并且应用于目标优化;对于目标优化,在已知真实数据的条件下,我们应用了极大似然估计将模型参数估计转换为对数似然估计,结合了变分推断和KL散度将极大化对数似然转换为最小化变分下界的问题,通过数学推导将原来预测均值转换成预测噪声,从而简化了模型的目标优化。在得到目标函数之后,我们完成了模型设计的算法流程介绍,并给出了训练模型;最后,我们基于扩散模型对于非条件生成图像和有条件生成图像进行了代码实现并且分析了结果。