【芝士】看看生成式模型

Rosta清

最近统计机器学习的课快结束了，正好做一下小小的总结。

9 S! X* a) K' E7 K- |Requirements: 高中概率和一点点本科的概率论，和一些统计机器学习的基础知识。
; ?% y% z5 W& M4 f
00：

# J: [! o9 ?" M1 c  h% `/ ~) @1 Z+ {最近（其实已经不是最近了）感觉机器学习领域最热门的是两个话题：ChatGPT类型的transformer模型，和Stable Diffusion这类生成式模型。不难注意到，这两类模型在解决两种完全不同的问题：对于一个sequence（序列，很多情况下就是你的输入，以及历史的上下文）他的后续应该是什么，以及给定一组D(一堆数据)找到他在某个空间的分布。对于前者，当你知道每一段输入的下一个词语是什么的时候，你就可以生成文本，而对于后者，除了D是数据，在哪个空间，什么分布，似乎都不是非常明了（当然，你也可能早就了解到这些信息了）。

1 Y+ u5 i2 t, g遵顼传统地，先给出两个重要量的定义：
D={x_1, x_2, ……, x_n} 是数据集，其中包含n个元素。以图像生成为例，这些元素就是图片。
θ={z_1, z_2, ……, z_m} 是隐变量。这是一些我们不知道的变量，但我们希望通过算法学习到这些变量，并且用这些变量重构D。
5 A# @) o# {, [( w
其实看不懂也没关系，因为我课上到这里的时候也不清楚这两个量的意义。
5 S( a" i) m! y* n* K. a: J- D
让我们从最简单也是最符合直觉的GAN开始吧。
6 c' D4 M4 I1 g% Y% S1 v. M+ l: Q
& E5 `; P/ ?' [4 }! e4 U; b01：
3 S3 y, ?, R' \" A( H2 w1 p
GAN可以用来生成图片，其训练的原理也众所周知：模型分为生成器和鉴别器，生成器负责生成随机的图片，鉴别器负责判断一张图片来自生成器还是来自数据集D。这是一个非常简单而符合直觉的模型：如果模型训练良好，那么生成器就会生成尽可能像原始数据集的图片从而骗过鉴别器，鉴别器在一次次的欺骗中也学会怎么从最微小的差别中判断到底图片来自哪里，那么随着时间的进行，鉴别器愈发精明的同时生成器生成的图片也更能让人信以为真。

* h$ g' X+ R) D! z( A% }# f/ i5 c+ Z5 b那么随之而来的是三个问题。
- Y$ A; H# A; j9 H        模型怎么训练？
1 \0 k1 _7 f4 W( f        鉴别器怎么鉴别？
$ A! \: t2 \' v$ N2 F        生成器怎么生成？

6 z; a! {( L0 g: |4 z  i对于第一个问题有疑惑的人，其实答案是很简单的梯度下降。你只要定义好loss，而pytorch要考虑的就多了（（（。只要知道一个loss是可微的那么模型就是可梯度下降的。关于这个如果你不知道什么是梯度下降那么可能去百度一下有无数人比我更能讲清楚。其实基本所有的模型都是这么训练的。

- h) S6 a( F7 n对于第二个问题，答案是这就是一个简单的图片分类问题，而且还是其中最简单的二分类，任何一个Data Science和ML专业的学生都不会对此感到陌生。
. r/ A* a5 y6 q. K第三个问题的答案是，从一个随机的输入开始，经过一个网络就生成了。这个网络在最简单的情况下可以是一个多层感知机（一堆全连接层），或者有卷积，逆向卷积这些CV里常用的网络结构。那么这个模型的输入是什么呢？是一个随机的噪声，更确切的，他是一个高斯噪声。

也就是说，这个模型包含两个网络：一个通过随机的噪声生成了图片，一个判断图片的来源。而令人感到惊喜的是，这个随机噪声就是θ。在GAN中，θ并没有被学习到，被学习到的是两个网络。

至此，θ和D就都被提及了，希望能让大家有个概念。

* o) {* p& R$ f( |% v02：
4 y2 p" A5 A0 m- E0 x& L% i
在编码器-解码器的架构中，VAE是其中之一。编解码器的架构的意思是，模型有编码器和解码器两个部分（呃……）。编码器把D编码成θ，而解码器从θ中恢复出一个D’。而模型的loss就是D’和D的区别，以及一个kl散度（这个先不必理会）。
* ?8 R8 s( m, s1 N( V) A0 ?
一般来说，模型训练完美之后，从一个x∈D经过编码器产生一个θ，用这个θ经过解码器会得到和x完全一样的图像。

9 v  i4 M7 d2 G" j  y5 Z这是我们希望的吗？
; `: }  ^6 R+ f1 c2 a
1 Z* I' Q6 l' @6 M% j其实并不是，我们希望的是获得一些稍微不同的图像。比如我输入的是一张JK的色图，得到了一个隐变量θ，我希望得到的是其他的图片，最好也是色图，最好也是JK题材，而不是获得一个打了马赛克的原图（因为θ一般比输入要小，所以信息多少会丢失一些，因此恢复的图像的质量会变差）。怎么做呢？答案是在θ附近采样。一个符合直觉的猜测是：如果一个θ对应解码后是JK色图，那么他的附近生成的也应该是JK色图。
; N9 q1 h1 m; `8 \
事实并非如此，要不然也不需要大费周章地搞VAE了。
1 S' T8 R" A2 [8 W3 G4 R
- ]$ k& g" s9 V3 a9 V' e2 Q其实根本原因在于θ所在的空间性质很差。从你当前的位置向某些方向移动或许是JK色图，向另一些方向移动一点点就变成章鱼色图，再朝另外一个方向移动就会变成JK鬼片。在三维的世界里我们有三个正交的方向，然而θ常常有几千的维度，也就是几千个正交的方向。如果不要求每个方向向量完全正交，那么几千的维度可能会产生上万个方向。（这段推导或者模拟都很麻烦）。总之就是，这个空间的性质很差，以至于你没有办法知道你应该去哪里采样。
- a, R, T* m* F: v* ~5 g
所以我们需要VAE。

VAE的一个基本假设是θ应该满足高斯分布。高斯分布是一个性质很好的分布：首先他很圆，所以一个点附近的点和他也是近似的。其次是有些东西是可以计算的，过会就能看见。
/ j" l) ~$ O( M, c
; Z8 E" h1 t" ?+ F" a在VAE的视角下，问题变成了：
我们有：
6 ^0 s5 }: y, E/ U3 @* e数据的分布：p(D) 我们不知道
/ P" B2 x4 I# q1 v, B  q7 rθ的分布： p(θ) ~N(0, 1) 我们假设他是一个标准正态分布。
9 g' w1 C$ A0 J. a" I: e5 \; [现在我们希望将D编码到θ，并且从θ恢复到D。
# N+ y- e, \6 S# fp(D| θ)是似然，就是从θ还原成D的概率
p(θ|D)是后验，既从D编码成θ的概率。（其实这里一般是说在观察到数据D后对θ分布的猜测）
. ?# c7 G6 f# z6 l& c! J
那么loss的设计就很简单了。我们希望θ能准确的还原D，所以只需要最大化似然就行。
但是这一切怎么计算呢？我们对于似然和后验都不知道，所以我们需要一个好的后验的假设，让似然是可以计算的。我们这门课叫这个东西conjugate priors，

https://en.wikipedia.org/wiki/Conjugate_prior 这里有更多的例子。
+ N* I8 c( H3 Z6 S
0 B" Q- D9 U5 m话说回来，既然我们假设了先验，也就是p(θ)是一个正态，那么如果我们假设似然也是高斯，那么后验就可以计算了！
8 ~6 |/ z* ~7 F) S! O0 c
& g6 y8 n( A8 W" H+ t& l4 k- |6 AVAE干的事情就是假设似然也服从一个正态分布，均值和方差就是可以学习的参数。
7 T( f! y$ b3 G6 f9 T9 c- S
7 L" u* k* L! t+ C% x* T5 [3 v) R  l结局就是VAE在一个x给出的θ旁的采样也是和x类似的！
# o! v% @; I6 p
那么古尔丹，代价是什么呢？答案是首先，你做出了两个假设。第一个先验的假设还算合理，第二个就完全是为了凑共轭而嗯造出来的，事实上似然几乎不可能是一个高斯，我们只能用一个高斯去近似（这也就是kl散度那一项，目的是让这个高斯尽可能接近真实的似然）。但只有两个参数的高斯何德何能能逼近一个一般需要上万参数才能拟合的分布呢？所以这导致的结果就是：VAE生成的图片很烂。但他保证了你能找到类似的图片。

- X% z! {! }5 ]1 P03：diffusion
+ R4 g: b/ @5 X9 {+ O) y+ F既然一层的VAE是不好用的，那么不如试试叠一堆VAE到一起。你既可以把diffusion理解为一堆VAE，也可以从他的形式上理解为他就是在原图上一点点加高斯噪音，直到图像完全变成噪音后，再从噪音一点点重建图像。效果很好。效果好的一方面是因为网络变深了，因此参数是VAE的几百上千倍，自然能学到更加精细的结构。第二点我觉得是因为一堆高斯的叠加才能拟合复杂的分布，就好像一堆线形层的堆叠才能识别复杂的结构一样。
7 E+ p) ^. n; |( \- s
) ?7 r5 z2 q* D8 b+ \04：不是，我写不下去了。直接快进到结语部分。
4 I2 T# |; i( q; c2 M+ ]
4 S5 Q# |3 Z0 g# O' G其实这件事情远比这一点点东西复杂，但怎么能不牵扯到麻烦的概率论和很多机器学习的概念又能讲明白确实不是很容易做到，真这么写了有时候又觉得写得很像是你去知乎也能看到的科普，以及更重要的是我不知道这个论坛怎么写latex，导致写公式异常难受。

6 q6 ]& j( w, l3 [但如果你知道loss是什么，知道什么是正态分布，最好也知道先验，后验和似然，更巧的是这么博学的你竟然不知道VAE，那么可能你会对VAE有个大致的概念。


顺便调研一下真的有人看吗？以及看的人的分布是什么样的，还有有什么计算机相关的问题。主要思索了好久也不知道什么主题好，我会的大家都会，专业的知识网上也有很多现成的。
, |: e  B; d5 X! p要不然下一篇讲讲怎么从逻辑门到简单CPU吧，计组和数电我学的还不算太差的。或者有什么关于C++（20以前）或者机器学习的推荐主题？我发现我一旦写下我学过的东西或者给别人讲之后我的印象就会更加深刻，所以可能等着课少一点的时候会再更新一些。

看了看感觉好像逻辑性和其他芝士帖子没法比，，，有点惭愧


& o( q4 D6 [1 i6 v0 @

微时灬暮雨

可读性20，大段文字+无图+内容需要一定的前置只是基础，而并没有对前置知识简单说明

7 c. u. y; J; q; ^; L. j4 ]排版40，建议多分段、分割线——，“引号”、**星号**等标记重点内容

内容80，深度学习和神经网络确实很好发文章，能讲的东西很多，但是科普的知识门槛略高

Rosta清

微时灬暮雨 发表于 2024-10-16 18:44
2 Z/ h. s/ ?- J1 T3 V可读性20，大段文字+无图+内容需要一定的前置只是基础，而并没有对前置知识简单说明

排版40，建议多分段、 ...

是真的。其实本来想写的核心是VAE的，但写着写着就发现：1. 基本上所有东西都得假设读者知道深度学习的基础（神经网络和梯度下降），并且对概率论比较熟悉
2. 如果想要用类比的方法VAE很难找到另一个相似的东西（比如神经网络和神经元之类的），因为他的核心就是要把信息编码到一个正态分布里去然后去采样，但对分布和采样不熟悉的人很难理解这其中的意味
3. VAE的效果基本都一般，虽然可以沾边diffusion说后者是前者的堆叠，但其实差别还是有不少的，所以不是很容易举出很多例子
8 P& z# e( T* F  Z5 N1 |, N# G% v
2 a0 g6 y& u6 A  U所以我在想应该从什么方向，向谁说明这个东西。更重要的是，其实这个还需要读者知道无监督学习的目的，以及到底哪些东西可以这么搞，但这个其实就完全不属于VAE的范围，而是在半监督无监督学历那边讨论。其实发出来也是有点侥幸的，因为我确实想写点什么但又找不到很好的主题，所以这个有点水也有点难读，但是真读懂了会发现也不是很有深度。

* T0 l& X. m! X' A7 X! `以及有个问题，有什么好办法能在这边发latex或者类似的东西吗？因为我看可以从word粘贴所以我用word写的，然后粘贴过来发现公式和格式很多乱掉了，所以我直接删掉了公式推导的部分

微时灬暮雨

Rosta清 发表于 2024-10-21 05:15
是真的。其实本来想写的核心是VAE的，但写着写着就发现：1. 基本上所有东西都得假设读者知道深度学习的基 ...

7 X3 Z% T2 N7 a! [1、关于如何发帖，建议私聊站长询问，这个功能或许可以加
2、关于公式推导，个人不建议，如果是我评分的话，出现大量公式推导也是扣分项。原因是我认为**科普**类型的文章不宜涉及过多的数学运算；而且阅读文章的人数学水平参差不齐，并不是所有读者都能熟练掌握数分、线代、概统的相关知识，所以反而会增加阅读障碍
/ j# c: `- [. }$ k/ z7 L3、机器学习相关知识确实比较难科普，之前我也想写过类似的科普文，写着写着就会不明所以了，所以我自己也放弃了

微时灬暮雨

Rosta清 发表于 2024-10-21 05:15
/ @' h% |6 f& x是真的。其实本来想写的核心是VAE的，但写着写着就发现：1. 基本上所有东西都得假设读者知道深度学习的基 ...

: N! z/ V4 A6 c0 T但总之感谢你的分享

civsurd臭脚

看不懂思密达