090 — Modelos de difusión

← Clase anterior · Índice de la parte · Clase siguiente →

Parte: 07 — IA generativa para texto, imagen, audio, video y 3D
Nivel: avanzado · Horas estimadas: 6
Laboratorio: generation · Estado: EXECUTABLE_CORE

🎯 Propósito

Comprender modelos de difusión dentro de la evolución de la inteligencia artificial, implementar un experimento mínimo verificable y distinguir qué parte constituye evidencia frente a una afirmación todavía no comprobada.

📚 Resultados de aprendizaje

Al finalizar podrás:

1. Explicar modelos de difusión usando los conceptos DDPM, denoising, scheduler, sampling.
2. Ejecutar el laboratorio con una semilla explícita y revisar su contrato JSON.
3. Identificar al menos un supuesto, una limitación y un riesgo de aplicación.
4. Comparar el enfoque con la etapa anterior de la ruta de aprendizaje.
5. Producir una evidencia reproducible y una conclusión que no exceda los datos.

🧩 Conceptos centrales

DDPM, denoising, scheduler, sampling

🗺️ Ubicación en el mapa de la IA

Los modelos de difusión nacen en la termodinámica fuera de equilibrio (Sohl-Dickstein et al., 2015) y maduran con DDPM (Ho et al., 2020), que demostró calidad de imagen comparable o superior a los GAN con un entrenamiento estable de un solo objetivo. Combinan lo mejor de las dos clases anteriores: como el VAE (088) optimizan una cota variacional, y como el GAN (089) producen muestras nítidas — sin juego adversarial. Son el motor de Stable Diffusion, DALL·E, Imagen y de los generadores de audio y video de las clases siguientes, donde el condicionamiento por texto (091) se monta sobre exactamente este proceso.

📖 Fundamentos

🌫️ Proceso forward: destruir con ruido gaussiano

El proceso forward es una cadena de Markov fija (sin parámetros aprendidos) que corrompe el dato x₀ en T pasos añadiendo ruido gaussiano según un scheduler de varianzas β₁, …, β_T (típicamente crecientes, p. ej. de 10⁻⁴ a 0.02 con T = 1000):

q(x_t | x_{t−1}) = N( x_t ; √(1−β_t) · x_{t−1} ,  β_t · I )

El factor √(1−β_t) encoge la señal exactamente lo necesario para que la varianza total se conserve. Definiendo α_t = 1 − β_t y ᾱ_t = ∏_{s=1}^{t} α_s, la composición de t pasos gaussianos tiene forma cerrada — se puede saltar de x₀ a x_t sin recorrer la cadena:

q(x_t | x₀) = N( x_t ; √ᾱ_t · x₀ ,  (1−ᾱ_t) · I )
x_t = √ᾱ_t · x₀ + √(1−ᾱ_t) · ε ,   ε ~ N(0, I)

Como ᾱ_T → 0, al final x_T es indistinguible de ruido puro N(0, I): la distribución de partida del muestreo es conocida.

🔄 Proceso reverse: aprender a des-ruido

Generar es invertir la cadena: partir de x_T ~ N(0, I) y quitar ruido paso a paso. La inversa exacta q(x_{t−1}|x_t) es intratable (requiere la densidad de los datos), pero para β_t pequeños es aproximadamente gaussiana, así que se aprende:

p_θ(x_{t−1} | x_t) = N( x_{t−1} ; μ_θ(x_t, t) ,  σ_t² · I )

La observación clave de DDPM: en lugar de predecir μ directamente, la red predice el ruido ε que se usó para llegar a x_t. De la forma cerrada se despeja x₀ = (x_t − √(1−ᾱ_t)·ε)/√ᾱ_t, y la media óptima queda:

μ_θ(x_t, t) = (1/√α_t) · ( x_t − β_t/√(1−ᾱ_t) · ε_θ(x_t, t) )

🎯 Objetivo simplificado

La derivación completa parte de la cota variacional (un ELBO como el del VAE, con un término KL por paso), pero Ho et al. muestran que descartar los pesos de cada término funciona mejor en la práctica. El objetivo de entrenamiento se reduce a:

L_simple = E_{x₀, t, ε} [ ‖ ε − ε_θ( √ᾱ_t·x₀ + √(1−ᾱ_t)·ε ,  t ) ‖² ]

El algoritmo de entrenamiento cabe en cuatro líneas:

repetir:
    x₀ ~ datos;  t ~ Uniforme{1..T};  ε ~ N(0, I)
    x_t = √ᾱ_t·x₀ + √(1−ᾱ_t)·ε
    paso de gradiente sobre ‖ε − ε_θ(x_t, t)‖²

Una sola red ε_θ (una U-Net o un transformer, condicionada en t) aprende todos los niveles de ruido. No hay juego adversarial ni riesgo de colapso de modos: es una regresión estable. Este objetivo equivale además a aprender la función de score ∇_x log q(x_t) (Song y Ermon), lo que conecta difusión con score matching.

⏱️ Muestreo y el costo de iterar

Generar exige recorrer la cadena reverse: T evaluaciones de la red (1000 en DDPM original) frente a 1 sola pasada en GAN o VAE. DDIM reformula el proceso como no markoviano y determinista, permitiendo saltar pasos (50-100 evaluaciones con poca pérdida); la destilación posterior lo reduce a unas pocas. El scheduler de β y el número de pasos de muestreo son los dos diales operativos principales.

🧮 Ejemplo trabajado

Difusión escalar (1D) con dos pasos y scheduler β₁ = 0.1, β₂ = 0.2.

Paso 1 — alfas acumuladas:

α₁ = 1 − 0.1 = 0.9        α₂ = 1 − 0.2 = 0.8
ᾱ₁ = 0.9                  ᾱ₂ = 0.9 · 0.8 = 0.72

Paso 2 — forward directo a t = 2 con x₀ = 1.0 y ruido muestreado ε = 0.5:

x₂ = √ᾱ₂ · x₀ + √(1−ᾱ₂) · ε
   = √0.72 · 1.0 + √0.28 · 0.5
   = 0.8485 + 0.5292 · 0.5
   = 0.8485 + 0.2646 = 1.1131

La señal conserva el 84.85 % de su escala y el ruido aporta desviación √0.28 ≈ 0.53. Con T grande, √ᾱ_T → 0 y x_T sería prácticamente ε puro.

Paso 3 — reconstrucción de x₀ si la red acierta el ruido. Un ε_θ perfecto devolvería ε̂ = 0.5 y podríamos despejar:

x̂₀ = ( x₂ − √(1−ᾱ₂) · ε̂ ) / √ᾱ₂ = ( 1.1131 − 0.2646 ) / 0.8485 = 1.0000 ✓

Paso 4 — la pérdida castiga el error de ruido. Si la red predice ε̂ = 0.3:

L_simple = (0.5 − 0.3)² = 0.04
x̂₀ = (1.1131 − 0.5292·0.3)/0.8485 = 1.1247   (error de 0.1247 en el dato)

El mismo error de ruido produce un error en x̂₀ amplificado por √(1−ᾱ_t)/√ᾱ_t — por eso los pasos muy ruidosos (t alto) son los más difíciles y los que fijan la estructura global de la muestra.

📊 Propiedades y comparación

flowchart LR
    X0["x₀ (dato)"] -->|"q(x_t|x₀): + ruido según β_t"| XT["x_T ≈ N(0, I)"]
    XT -->|"reverse aprendido"| S1["x_{T−1}"]
    S1 -->|"..."| S2["x_1"]
    S2 --> XG["x̂₀ generado"]
    subgraph paso reverse en t
        XTIN["x_t"] --> NET["ε_θ(x_t, t)"]
        T["t"] --> NET
        NET --> MU["μ_θ = (x_t − β_t/√(1−ᾱ_t)·ε_θ)/√α_t"]
        MU --> SAMP["x_{t−1} ~ N(μ_θ, σ_t²)"]
    end

⚠️ Errores conceptuales frecuentes

1. "El modelo aprende a quitar todo el ruido de golpe." ε_θ predice el ruido total presente en x_t, pero el muestreo solo retrocede un paso cada vez; la estimación de x₀ se rehace y refina en cada iteración.
2. "El proceso forward se entrena." No tiene parámetros: es una cadena fija definida por el scheduler β. Solo la red reverse ε_θ aprende.
3. "Más pasos de muestreo siempre mejoran la calidad." Hay rendimientos decrecientes rápidos; DDIM logra con 50 pasos casi lo mismo que DDPM con 1000. El número de pasos es un trade-off calidad/latencia, no una virtud en sí.
4. "La pérdida ‖ε − ε̂‖² es un truco sin justificación." Es la cota variacional con los pesos por paso igualados a 1; la teoría (y su equivalencia con score matching) está completa en Ho et al. y Song et al.
5. "Difusión reemplaza a VAE y GAN en todo." Paga su calidad con decenas de evaluaciones de red por muestra; en latencia estricta un generador de una pasada sigue ganando, y los sistemas reales (Stable Diffusion) usan un VAE por debajo.

🚀 Del aprendizaje a la operación

Entre este forward escalar a mano y un generador real median: una U-Net o DiT con cientos de millones de parámetros condicionada en t (y en texto, clase 091), schedulers coseno y espacios latentes comprimidos para abaratar cada paso, muestreadores avanzados (DDIM, DPM-Solver) y destilación para bajar de 1000 a menos de 10 evaluaciones, y guías de clasificador libre para controlar la generación. La calidad fotorrealista resultante hace obligatoria la trazabilidad de procedencia que cierra esta parte (clase 098).

🧪 Laboratorio

python lab.py

El laboratorio llama a ai_evolution.labs.run_lab("generation"). Esta decisión evita 183 implementaciones divergentes: cada clase tiene un entrypoint propio, pero los motores didácticos se prueban como una biblioteca común.

🔍 Evidencia esperada

• tipo de laboratorio y semilla;
• entradas o decisiones observables;
• resultado estructurado;
• lista evidence con hechos que pueden inspeccionarse;
• lista limitations que impide presentar la demo como producción.

📓 Notebooks

• 📓 notebook.ipynb: recorrido guiado con la materia resumida.
• ✍️ notebook_student.ipynb: ejercicios para resolver.
• ✅ notebook_solution.ipynb: solución de referencia explicada.

📝 Evaluación

Consulta assessment.md para preguntas y criterio de aceptación.

⚠️ Errores comunes

❓ Preguntas frecuentes

¿Debo usar una API comercial?
No. El núcleo funciona localmente. Las extensiones LIVE se documentan por separado.

¿El laboratorio representa una implementación industrial?
No por sí solo. Enseña el contrato y el patrón; producción exige integración, seguridad, observabilidad, pruebas y operación.

¿Dónde profundizo?
Revisa las especializaciones enlazadas en el README raíz y la ruta siguiente.

🔗 Referencias

• Ho, J., Jain, A. y Abbeel, P. (2020). Denoising Diffusion Probabilistic Models. Paper seminal de DDPM. arXiv:2006.11239 — uso: fuente primaria del mecanismo estudiado
• Sohl-Dickstein, J. et al. (2015). Deep Unsupervised Learning using Nonequilibrium Thermodynamics. Origen del marco de difusión. arXiv:1503.03585 — uso: fuente primaria del mecanismo estudiado
• Song, J., Meng, C. y Ermon, S. (2020). Denoising Diffusion Implicit Models (DDIM). arXiv:2010.02502 — uso: fuente primaria del mecanismo estudiado
• Song, Y. et al. (2020). Score-Based Generative Modeling through Stochastic Differential Equations. arXiv:2011.13456 — uso: fuente primaria del mecanismo estudiado
• Rombach, R. et al. (2021). High-Resolution Image Synthesis with Latent Diffusion Models (Stable Diffusion). arXiv:2112.10752 — uso: fuente primaria del mecanismo estudiado
• Documentación de Hugging Face Diffusers: DDPMScheduler — uso: referencia consultada en su fuente original

📜 Papers que fundamentan esta clase

Bloque generado por python scripts/link_papers_to_classes.py. La fuente es papers/catalog/papers.json.

Cada ficha explica el problema anterior, la matemática mínima, los límites y los errores de atribución más frecuentes. Para leerlas con método: cómo leer un paper de IA · anexos matemáticos.

📚 Bibliografía de apoyo

Bloque generado por python scripts/link_sources_to_classes.py. Cada obra lleva su localizador verificado en sources/bibliography.json.

Los papers dicen de dónde salió el mecanismo. Estas obras lo desarrollan con el espacio que una clase no tiene: teoría completa, demostraciones y ejercicios.

⬅️ Clase anterior

089 — GAN y entrenamiento adversarial

➡️ Siguiente clase

091 — Texto a imagen y condicionamiento

📝 Evaluación completa

❓ Preguntas

1. Define modelos de difusión sin usar una marca o framework como definición.
2. Explica la relación entre DDPM, denoising, scheduler, sampling.
3. Ejecuta lab.py dos veces con la misma semilla. ¿Qué debe conservarse?
4. Identifica una afirmación permitida y una afirmación exagerada sobre el resultado.
5. Propón una prueba negativa o un caso límite.

🏆 Reto verificable

Amplía el resultado del laboratorio con una clave student_extension que incluya:

• el supuesto que estás probando;
• una medición o comprobación;
• la conclusión;
• una limitación.

✅ Criterio de aceptación

• [ ] lab.py termina con código 0.
• [ ] El resultado contiene kind, seed, evidence y limitations.
• [ ] La extensión no modifica el comportamiento de otras clases.
• [ ] La interpretación referencia datos impresos por el laboratorio.
• [ ] Se declara al menos un riesgo o condición de no uso.