ntizar Autoencoders para Diffusion
Resumen
Los autoencoders son el motor oculto de la generación de imágenes con diffusion. Todo modelo difusivo moderno (Stable Diffusion, DALL-E, Flux) opera en un espacio latente comprimido por un autoencoder.
Tipos de Autoencoder
1. VAE (Variational Autoencoder)
- Espacio latente continuo: z ~ N(μ, σ²)
- Usado en: Stable Diffusion 1.x/2.x, SDXL
- Compresión típica: 8× (512×512→64×64)
- Canales: 4
2. VQ-VAE (Vector Quantized VAE)
- Espacio latente discreto: K embeddings en códigobook
- Usado en: DALL-E 1/2, Parti
- Compresión: 8× pero tokens discretos
- Canales post-cuantización: 1 token/posición
3. VQGAN
- VQ-VAE + GAN + Perceptual Loss (VGG)
- Calidad fotorealista para la reconstrucción
- Usado en: DALL-E 1, StyleGAN integration
4. DAE (Diffusion Autoencoder)
- Diffusion como decoder: p(x|z)
- Compresión extrema: 32×-128×
- Calidad superior: el decoder es probabilístico
5. Hierarchical Autoencoder (HF 1/2×1/32)
- Multi-escala con códigobook por nivel
- Compresión: ~10,000×
- Latent: 16×16×16 para 512px
Reglas de Diseño (HuggingFace 2024)
- Compresión >= 8x es minimo
- 4 canales para compresion 8x, 16 para 32x
- Usar strided conv (no pooling)
- Skip connections obligatorias
- BatchNorm training -> GroupNorm inference
- SiLU > ReLU > GELU
- Dropout bajo (0.1), weight decay (1e-4)
Selección del Autoencoder
| Uso | Calidad | Recomendacion |
|---|---|---|
| Imagen gen | alta | HF 1/2x1/32 |
| Imagen gen | balance | SD 2.x |
| Video gen | alta | DAE 3D |
| Realtime | rapida | SD 1.x |
| Controlnet | balance | SD 1.x |
Métricas
- PSNR: >30 dB = bueno
- SSIM: >0.9 = bueno
- LPIPS: <0.1 = bueno (menos = mejor)
Recursos
- Nota completa: notes/deep-learning/2026-07-16-variational-autoencoders-vae-vqgan-diffusion.md
- Paper VAE: arXiv:1312.6114
- Paper VQGAN: arXiv:2112.10752
- Paper DAE: arXiv:2403.12372