TD-VAE
TD-VAE、つまり Temporal Difference Variational Autoencoder は、時系列 data に対して latent state を学習し、未来の state を予測するための VAE 系 model です。
目的
TD-VAE は、観測列の中で離れた時刻どうしの関係を学習し、未来の状態を効率よく予測することを狙います。通常の sequence model が隣接時刻の transition を中心に学習するのに対して、TD-VAE は temporal difference learning の発想を取り入れています。
画像出典: Lilian Weng, “From Autoencoder to Beta-VAE”。観測列と latent state の関係が示されています。
Belief state
TD-VAE では、過去の observation から belief state を構築し、その belief state を通じて未来の latent state を推論します。
画像出典: Lilian Weng, “From Autoencoder to Beta-VAE”。TD-VAE は時刻 と の間の latent transition を学習します。
直感
TD-VAE は、未来を逐次的に一歩ずつ予測するだけではなく、離れた時点の latent state 間の関係を直接学習しようとします。そのため、長期的な依存関係を捉えるための generative model として位置づけられます。