带你看懂变分自编码(VAE)

编码器（AutoEncoder, AE）是一类神经网络，其功能是通过将输入信息作为学习目标，对输入信息进行表征学习。在结构上是一种对称的网络，本文对它不做单独介绍，而是以变分自编码（Variational AutoEncoder）来理解它。

实际上，我们在机器学习篇章中对VAE从理论上做了一次介绍，还是比较晦涩难懂的。今天，我们就由浅入深来详细理解一下这个由世界级顶尖研究型大学——阿姆斯特丹大学——学霸提出来的研究成果。

传送门：变分自编码（VAE）

用已知分布逼近任意分布

首先，考虑下面情景：

假设已知一个能生成服从均匀分布U(0,1)的生成器，请问如何利用它生成服从正态分布的伪随机样本？

根据中心极限定理，只要对每次生成m个样本的均匀分布求和，作为一个新样本，重复n次，那么n个样本服从正态分布。但这里我们想得到更一般的方法：

即X经过f映射后，得到的Y服从正态分布。如果f存在，很显然有：

于是得到：

Φ是正态分布累计分布函数，它的显式表达式不好求，而且还是逆函数，更加难以求解。那怎么办呢。那就用神经网络吧，它可以逼近任意函数。

VAE实现框架

实际上，VAE模型是构建一个从隐变量 Z 生成目标数据 X 的模型，更准确的说，利用某些常见的分布（这里是正态分布），然后训练一个模型 X=G(Z)，这个模型能够将原来的简单概率分布映射到训练集的真实概率分布，也就是说，VAE的本质是利用一个简单概率分布去逼近训练集的真实分布：