Autoencoders | Haruk1y Wiki

📄️Autoencoder

Autoencoder の基本構造、encoder、decoder、latent representation、reconstruction loss を整理します。

Denoising Autoencoder の考え方、corrupted input、reconstruction objective、stacking を整理します。

Sparse Autoencoder の sparsity constraint、KL penalty、k-sparse Autoencoder を整理します。

Contractive Autoencoder の Jacobian penalty と robust representation の考え方を整理します。

Variational Autoencoder の latent variable model、encoder / decoder、ELBO との関係を整理します。

VAE の objective である Evidence Lower Bound の導出と意味を整理します。

VAE における sampling と backpropagation の問題を解く Reparameterization Trick を整理します。

Beta-VAE の objective、disentangled representation、KL term の重み付けを整理します。

Vector Quantized VAE と VQ-VAE-2 の discrete latent representation、codebook、hierarchical latent を整理します。

Temporal Difference VAE の時系列 latent state、未来予測、belief state を整理します。