Neural Network Training Labs

📈 LSTM para series temporales

LSTM para series temporales

Antes de tocar el código

La demanda de bicicletas combina ciclos diarios, clima y tendencias. Las compuertas permiten conservar unas señales y descartar otras.

Pregunta esencial: ¿Qué decide recordar, olvidar y revelar una LSTM?

Haz una predicción antes de ejecutar el notebook. Al final volverás a ella y tendrás que decir qué evidencia la confirmó, la corrigió o la dejó abierta.

Las tres decisiones de una celda LSTM

Mapa de esta clase: Las tres decisiones de una celda LSTM. La figura no es decorativa; úsala para explicar el mecanismo con tus propias palabras.

🎯 Qué vas a aprender y construir

Pronosticar demanda horaria respetando el orden temporal.

Práctica propia de esta clase: Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.

Es la clase 06 de 31 del programa y pertenece a 🔵 el módulo 2, Arquitecturas según la forma del dato. Llegas desde RNN para texto y lo que hagas aquí lo da por supuesto Autoencoder para fraude.

Trabajarás con el dataset seoul_bike (UCI, licencia: CC BY 4.0), y tendrás que superar la línea base Persistencia, media móvil y Ridge, decidiendo con la métrica rmse medida sobre validation. Nivel intermedio, unas 6 horas de dedicación.

Lo que conviene traer resuelto de las clases anteriores: PyTorch básico, particiones train/validation/test, métricas de evaluación.

Al terminar deberías ser capaz de:

Una idea que conviene desmontar

Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.

🧠 Comprender antes de entrenar

Esta sección es la explicación completa del tema. No hace falta abrir otro archivo para entender lo que viene después: aquí está la idea, la matemática que la sostiene y sus límites. (El mismo texto vive en theory.md, que es la fuente desde la que se genera esta guía, junto con la bibliografía del final.)

De qué trata

Este laboratorio estudia memoria recurrente para pronóstico temporal usando seoul_bike, un dataset público real procedente de UCI.

Este laboratorio ataca directamente la limitación descubierta con las RNN simples: su incapacidad para retener información a lo largo de muchos pasos por el desvanecimiento del gradiente. La LSTM (Long Short-Term Memory) introduce un canal de memoria protegido —el estado de celda cₜ— y un sistema de puertas que deciden, de forma aprendida, qué información conservar, qué olvidar y qué exponer en cada instante. El resultado es una memoria capaz de sostener patrones a largo plazo (ciclos diarios y semanales de demanda) sin que el gradiente se disipe.

El problema es un pronóstico de series temporales genuino: predecir la demanda horaria de bicicletas compartidas en Seúl a partir de su historia reciente y variables climáticas, sobre 8.760 observaciones reales. A diferencia de la clasificación, aquí el orden temporal es sagrado: la partición no puede mezclar futuro con pasado, y las líneas base (persistencia, media móvil, Ridge) son duras de batir. La pregunta crítica —si el modelo supera a la persistencia en períodos de cambio— pone el foco donde un pronosticador realmente demuestra su valor.

La matemática, paso a paso

La LSTM mantiene dos estados que viajan en el tiempo: el estado oculto hₜ (la salida en cada paso) y el estado de celda cₜ (la memoria a largo plazo). En cada instante, tres puertas —vectores con valores en (0, 1) producidos por sigmoides σ— regulan el flujo de información. Con la concatenación de la entrada xₜ y el estado previo hₜ₋₁:

Puerta de olvido: fₜ = σ(W_f·[hₜ₋₁, xₜ] + b_f)

Puerta de entrada: iₜ = σ(W_i·[hₜ₋₁, xₜ] + b_i)

Candidato de memoria: c̃ₜ = tanh(W_c·[hₜ₋₁, xₜ] + b_c)

Puerta de salida: oₜ = σ(W_o·[hₜ₋₁, xₜ] + b_o)

La actualización del estado de celda es el corazón del mecanismo y combina las puertas mediante el producto elemento a elemento ⊙:

cₜ = fₜ ⊙ cₜ₋₁ + iₜ ⊙ c̃ₜ

hₜ = oₜ ⊙ tanh(cₜ)

La lectura es intuitiva: la puerta de olvido fₜ decide qué fracción de la memoria vieja cₜ₋₁ se conserva (fₜ ≈ 1 recuerda, fₜ ≈ 0 borra); la puerta de entrada iₜ decide cuánto del nuevo candidato c̃ₜ se escribe; y la de salida oₜ decide qué parte de la memoria se expone como estado oculto. Cuando la red aprende fₜ ≈ 1, el estado de celda actúa como una cinta transportadora por la que la información —y el gradiente— fluye a través de muchos pasos casi sin atenuarse. Esa suma cₜ = fₜ ⊙ cₜ₋₁ + … es precisamente lo que evita el producto de jacobianos que desvanecía el gradiente en la RNN simple: la ruta aditiva mantiene ∂cₜ/∂cₜ₋₁ ≈ fₜ en lugar de un factor que se contrae exponencialmente.

Una alternativa más ligera es la GRU (Cho et al. 2014), que fusiona las puertas de olvido y entrada en una sola puerta de actualización y prescinde del estado de celda separado, con menos parámetros y rendimiento a menudo comparable. Para el pronóstico, la salida h_T (o la de cada paso) pasa por una capa densa que produce el valor real predicho, y el entrenamiento minimiza un error de regresión como el MSE, L = (1/N) Σᵢ (ŷᵢ − yᵢ)². La evaluación reporta MAE, RMSE, MAPE y R², siempre comparando contra las líneas base clásicas de series temporales.

La formulación debe conectarse con cuatro elementos: representación de entrada, función del modelo, función de pérdida y regla de actualización. El notebook muestra las dimensiones de los tensores y conserva la misma implementación que el script de terminal.

Por qué las puertas resuelven el desvanecimiento

La clase 05 dejó el diagnóstico: el gradiente de una RNN simple se multiplica por W_hᵀ·diag(σ′) en cada paso, y ese producto se apaga exponencialmente. La LSTM no lo mitiga, cambia la operación, y ahí está toda su ventaja.

Derivando la actualización del estado de celda cₜ = fₜ ⊙ cₜ₋₁ + iₜ ⊙ c̃ₜ respecto del estado anterior:

∂cₜ/∂cₜ₋₁ = fₜ (elemento a elemento),

de modo que el gradiente que atraviesa k pasos por la vía de la celda se multiplica por Π fₜ, un producto de escalares entre 0 y 1, y no por un producto de matrices con activaciones saturantes. La diferencia es cualitativa: cuando la puerta de olvido se mantiene cerca de 1 —el modelo ha decidido conservar esa memoria—, el factor es cerca de 1 y el gradiente atraviesa cientos de pasos casi intacto. Ese camino se conoce como carrusel de error constante, y es lo que permite aprender dependencias largas.

Obsérvese la estructura: la actualización es aditiva, cₜ = (algo)·cₜ₋₁ + (algo), mientras que en la RNN simple era completamente multiplicativa, hₜ = tanh(W·hₜ₋₁ + …). Es la misma idea que reaparece en las conexiones residuales de la clase 04 y en los atajos de la 07: dejar un camino donde la señal se suma en vez de transformarse es lo que mantiene vivo el gradiente. Y aún así la LSTM no es inmune —si las puertas de olvido se cierran, la memoria y su gradiente se pierden—: la diferencia es que ahora eso es una decisión aprendida y no una fatalidad de la arquitectura.

De ahí una recomendación práctica bien establecida: inicializar el sesgo de la puerta de olvido en un valor positivo (típicamente 1). Con b_f = 1, la sigmoide arranca en σ(1) ≈ 0,73, así que la red empieza conservando memoria por defecto y aprende luego a olvidar. Con b_f = 0 arranca en 0,5 y el gradiente ya se reduce a la mitad por paso desde la primera época, justo cuando aún no ha aprendido nada que valga la pena conservar.

El costo de las puertas es lineal en parámetros. Con entrada de dimensión d y estado oculto h, cada una de las cuatro transformaciones consume (d + h)·h pesos más h sesgos, de modo que

|θ|_LSTM = 4 · ( (d + h)·h + h ),

cuatro veces una RNN simple del mismo tamaño. La GRU fusiona la celda con el estado oculto y usa tres puertas en vez de cuatro, así que cuesta 3·((d + h)·h + h): en torno a un 25 % menos, con rendimiento comparable en muchas tareas. Comparar ambas con el mismo presupuesto de parámetros —y no con la misma h— es la forma honesta de decidir entre ellas.

Qué hace que una serie temporal no sea un dataset normal

La particularidad de este laboratorio no está en la arquitectura sino en el protocolo, y es donde se cometen los errores más caros.

El dato original es una única serie continua, no un conjunto de ejemplos independientes. Para entrenar se construyen ejemplos con una ventana deslizante: cada entrada es el tramo (x_(t−L+1), …, x_t) de longitud L y el objetivo es el valor en t + H, donde H es el horizonte de pronóstico. Elegir L y H no es cosmético: L acota cuánto pasado puede ver el modelo —si la serie tiene estacionalidad diaria de 24 horas, una ventana de 12 no puede capturarla— y H define un problema distinto, porque pronosticar la hora siguiente y pronosticar dentro de una semana no son la misma tarea ni admiten la misma comparación.

La partición no puede ser aleatoria. Repartir ventanas al azar entre train, validation y test coloca en el entrenamiento momentos posteriores a los que hay que predecir en la evaluación: el modelo aprende del futuro. Es una fuga de datos que no produce ningún síntoma —de hecho produce métricas excelentes— y por eso es tan peligrosa. La partición correcta es cronológica: un corte temporal, todo lo anterior a entrenamiento y lo posterior a evaluación, respetando el orden.

Hay un detalle más fino que se escapa incluso partiendo por fecha. Como las ventanas se solapan, una ventana de train que termine justo antes del corte puede tener su objetivo después del corte, dentro del periodo de validación. La solución estándar es dejar un hueco (embargo) de al menos H pasos entre particiones. Sin él, el solape filtra exactamente la información que se quería aislar.

El escalado arrastra el mismo principio: la media y la desviación se calculan solo con el tramo de entrenamiento. Estandarizar con las estadísticas de la serie completa introduce en el preprocesamiento información sobre el nivel y la variabilidad del futuro, que es justo lo que el modelo debería tener que inferir.

Y la línea base debe ser honesta. En series temporales, el modelo ingenuo —predecir que el valor siguiente será igual al último observado, ŷ_(t+H) = y_t— es sorprendentemente difícil de batir, y su versión estacional —ŷ_(t+H) = y_(t+H−s) con s el periodo— aún más. Una red que no supere claramente a ese piso no ha aprendido dinámica: ha aprendido a copiar. Por eso el error se reporta con métricas escaladas frente a esa referencia, del tipo MASE = MAE_modelo / MAE_ingenuo, cuyo valor 1 marca exactamente el punto en que el modelo deja de aportar.

La pregunta que deberías poder responder al terminar: ¿El modelo supera persistencia en períodos de cambio?

Qué se mide y con qué se decide

La clase reporta mae, rmse, mape, r2. De todas ellas, la que decide qué modelo se conserva es rmse, y se mide siempre sobre validation: es la única forma de que test siga siendo una estimación honesta de lo que pasará con datos nuevos.

📓 Los tres cuadernos

La clase se puede recorrer en Jupyter y trae tres cuadernos con papeles distintos. Los tres siguen el mismo camino —descargar el dataset real, auditar la partición, entrenar, sellar el experimento y evaluar test una vez—; lo que cambia es qué te toca escribir a ti:

Cuaderno Qué trae Cuándo usarlo
📓 notebook.ipynb El recorrido de referencia: 25 celdas (9 de código) con todo el código escrito y ejecutable, intercalado con las explicaciones. No trae ejercicios. Para leer y ejecutar de principio a fin.
✏️ notebook_student.ipynb El mismo recorrido más 5 ejercicios evaluables (40 celdas en total). Las celdas de ejercicio están marcadas con # YOUR CODE HERE y debajo de cada una hay una comprobación. Para practicar.
✅ notebook_solution.ipynb Los mismos ejercicios resueltos, marcados con # SOLUCIÓN DE REFERENCIA. Cada solución se ejecuta en la integración continua, así que se sabe que pasa. Para contrastar después de intentarlo.

Qué se practica en los ejercicios

Cinco de ellos cubren el contrato experimental común: auditar la partición, decidir con validation, compararse con la línea base, sellar antes de abrir test y dejar el plan por escrito. Se resuelven con Python estándar —sin descargar el dataset ni entrenar—, así que se corrigen en segundos y sin GPU, y cada uno está parametrizado con los valores de este laboratorio: su métrica de selección, su línea base y su experimento propio.

Cómo abrirlos

Los cuadernos necesitan el extra notebooks, que instala Jupyter junto con el paquete:

pip install -e ".[dev,notebooks]"
jupyter lab labs/05_lstm_time_series/notebook.ipynb

También se abren desde VS Code —con la extensión de Jupyter— haciendo doble clic en el archivo, o desde la interfaz clásica con jupyter notebook. El primer arranque descarga el dataset real desde su proveedor, así que la primera ejecución tarda más y requiere conexión.

Si prefieres ejecutar sin abrir un cuaderno, train.py hace exactamente lo mismo desde la terminal, y la sección de comandos de arriba explica cada opción.

🖥️ Los comandos, explicados

Todo el laboratorio se maneja con una sola herramienta de terminal, neural-labs, que se instala junto con el paquete (pip install -e ".[dev,notebooks]"). Cada subcomando hace una cosa del protocolo, y por eso se pueden ejecutar por separado: preparar datos, auditar la partición, entrenar, repetir con varias semillas.

La forma general es siempre la misma:

neural-labs <subcomando> --lab <identificador> [opciones]
Opción Valor por defecto Valores Qué hace y cuándo cambiarla
--lab 05_lstm_time_series obligatorio Qué laboratorio se ejecuta. Solo acepta los identificadores del catálogo.
--quick desactivado — Usa una fracción real del dataset y pocas épocas. Sirve para comprobar la instalación, no para concluir nada sobre el modelo.
--split-seed N 42 entero Semilla que decide qué ejemplo cae en qué partición. Se mantiene fija al comparar modelos.
--training-seed N 42 entero Semilla de la inicialización de pesos y del barajado de lotes. Es la que se varía para medir cuánta diferencia es simple azar.
--config baseline baseline · improved Cuál de las dos configuraciones del laboratorio se usa.
--device auto auto · cpu · cuda · mps Dónde entrenar. auto elige GPU si está disponible y cae a CPU si no.
--training-seeds A B C 41 42 43 enteros Solo en benchmark: la lista de semillas de entrenamiento que se repiten.
--output-dir runs ruta Dónde se escribe el directorio de la ejecución.

El script del laboratorio

labs/05_lstm_time_series/train.py no es un programa distinto: fija el --lab y delega en la misma herramienta, de modo que estas dos líneas hacen exactamente lo mismo.

python labs/05_lstm_time_series/train.py --quick
neural-labs train --lab 05_lstm_time_series --quick

Lo mismo desde Python

Si prefieres trabajar en un cuaderno o llamar al laboratorio desde tu propio código, la misma ejecución se lanza así. La función devuelve un objeto con el directorio de la ejecución, las métricas y el historial ya cargados:

from neural_labs.experiments import run_lab

resultado = run_lab(
    "05_lstm_time_series",
    quick=True,          # False para la ejecución completa
    config_name="baseline",
    split_seed=42,       # fija la partición
    training_seed=43,    # varía la inicialización
)

print(resultado.run_dir)   # dónde quedaron los archivos
print(resultado.metrics)   # el diccionario de métricas finales

Y para preparar el dataset sin entrenar —útil para inspeccionarlo antes—:

from neural_labs.datasets import prepare_dataset

datos = prepare_dataset("05_lstm_time_series", quick=True, seed=42)
print(datos.summary)       # tamaño de cada partición y metadatos de la fuente

🪜 Laboratorio guiado

Cada paso dice qué ocurre por dentro, por qué se hace en ese orden y cómo comprobar que salió bien. El orden no es una convención de estilo: es el que ejecuta el código, y alterarlo invalida el resultado.

Paso 1 — Traer el dataset real y partirlo

Qué ocurre. Descarga seoul_bike desde su proveedor y construye las tres particiones —train, validation y test— con la semilla de partición que le pases.

Por qué. La partición se fija antes de entrenar y su semilla (--split-seed) es independiente de la del entrenamiento (--training-seed). Si ambas fueran la misma, no podrías distinguir si un cambio en el resultado viene de haber repartido los datos de otro modo o de haber inicializado los pesos de otro modo.

neural-labs dataset --lab 05_lstm_time_series --quick --split-seed 42

Cómo sabes que salió bien. El comando termina sin error y deja el dataset en caché. Si no hay red, falla: no se rellena con datos inventados (data/dataset.yaml declara fallback_to_generated_data: false).

Paso 2 — Comprobar que las particiones no se tocan

Qué ocurre. Recorre los identificadores de las tres particiones y verifica que ninguno aparece en dos de ellas.

Por qué. Una sola fila compartida entre train y test basta para que la métrica final quede inflada. Es el error más caro del oficio porque no produce ningún síntoma visible: el modelo simplemente «parece» mejor de lo que es.

neural-labs audit --lab 05_lstm_time_series --quick --split-seed 42

Cómo sabes que salió bien. La auditoría reporta cero solapamientos. Si reporta alguno, no sigas: el resto del laboratorio no significaría nada.

Paso 3 — Mirar los datos antes de modelarlos

Qué ocurre. Genera el informe de calidad (valores faltantes, balance de clases, rangos) y el de deriva entre particiones.

Por qué. Un desbalance fuerte o una diferencia de distribución entre train y test cambia qué métrica tiene sentido leer. Descubrirlo después de entrenar obliga a repetirlo todo.

neural-labs quality --lab 05_lstm_time_series --quick --split-seed 42

Cómo sabes que salió bien. Obtienes data_quality.json y drift_report.json; ábrelos antes de decidir la configuración.

Paso 4 — Estudiar la teoría del laboratorio

Qué ocurre. Leer theory.md: la idea central, el desarrollo matemático, los riesgos de interpretación y la bibliografía de la que sale todo eso.

Por qué. Sin esto, el entrenamiento es una caja que devuelve números. La teoría es lo que te permite decidir qué mirar y reconocer cuándo un resultado es sospechoso.

Cómo sabes que salió bien. Puedes responder, con tus palabras, qué calcula el modelo y por qué esa arquitectura encaja con la tarea regression.

Paso 5 — Entrenar y seleccionar con validation

Qué ocurre. El entrenamiento recorre las épocas midiendo en validation después de cada una, y conserva el checkpoint con el mejor valor de rmse.

Por qué. El conjunto de validación existe para tomar decisiones —arquitectura, hiperparámetros, cuándo parar—. Si esas decisiones se tomaran mirando test, test dejaría de ser una estimación de lo que pasará con datos nuevos y pasaría a ser parte del entrenamiento.

python labs/05_lstm_time_series/train.py --quick
# o, con control explícito de las dos semillas:
neural-labs train --lab 05_lstm_time_series --config baseline --split-seed 42 --training-seed 43

Cómo sabes que salió bien. En runs/05_lstm_time_series/<ejecución>/ aparecen history.csv y best_model.pt; la métrica de validación mejora respecto de la primera época.

Paso 6 — Compararte con la línea base

Qué ocurre. El repositorio entrena por su cuenta Persistencia, media móvil y Ridge y guarda su resultado, primero sobre validation y —solo al final— sobre test.

Por qué. Una métrica sola no dice si el modelo aporta algo. Puede que un método mucho más simple llegue igual de lejos, y entonces la complejidad añadida no está justificada. Esta comparación es la que convierte un número en un argumento.

Cómo sabes que salió bien. Comparas metrics.json con baseline_metrics.json. Si tu modelo no supera la línea base, el resultado del laboratorio es exactamente ese, y hay que reportarlo.

Paso 7 — El sellado: experiment.lock.json

Qué ocurre. Antes de tocar test, el código escribe un archivo que fija el laboratorio, las dos semillas, la configuración, la métrica de selección, el checkpoint elegido y el hash del dataset.

Por qué. Es la frontera del experimento. A partir de ahí, cualquier ajuste que hagas mirando test queda a la vista: el sello dice qué habías decidido antes de ver el resultado final. Sin ese archivo, nadie —incluido tú dentro de un mes— puede distinguir una predicción de una racionalización.

Cómo sabes que salió bien. El archivo existe y su contenido coincide con lo que creías haber ejecutado.

Paso 8 — Evaluar test una sola vez y medir la incertidumbre

Qué ocurre. Con el checkpoint congelado se evalúa test, se calculan intervalos de confianza por bootstrap y se desglosan las métricas por subgrupo.

Por qué. Un número puntual esconde cuánto podría moverse. Los intervalos dicen si la diferencia con la línea base es real o cabe dentro del ruido; el desglose por subgrupo revela si el promedio está tapando un grupo donde el modelo funciona mucho peor.

Cómo sabes que salió bien. Tienes metrics.json, confidence_intervals.json y subgroup_metrics.json, y puedes decir la magnitud de la mejora y su incertidumbre.

Paso 9 — Repetir con varias semillas de entrenamiento

Qué ocurre. Se repite el entrenamiento manteniendo fija la partición y cambiando solo la semilla de entrenamiento.

Por qué. Dos ejecuciones idénticas salvo por la inicialización pueden diferir bastante. Si no mides esa dispersión, corres el riesgo de celebrar una mejora que era una semilla afortunada.

neural-labs benchmark --lab 05_lstm_time_series --quick --split-seed 42 --training-seeds 41 42 43

Cómo sabes que salió bien. Obtienes media y dispersión entre semillas, no un único número.

Paso 10 — Documentar y cerrar

Qué ocurre. Cada ejecución deja model_card.md y report.md; el plan de experimentos vive en experiments.md y la rúbrica en assessment.md.

Por qué. Un resultado sin su contexto —qué datos, qué decisiones, qué límites— no es reutilizable. La model card es lo que permite que otra persona sepa cuándo no debería usar tu modelo.

Cómo sabes que salió bien. Completaste la tabla multi-semilla de experiments.md y respondiste las preguntas de assessment.md.

🔍 Cómo leer lo que produce la ejecución

Cada ejecución escribe su propio directorio con nombre único, de modo que dos corridas nunca se pisan. Esto es lo que encontrarás dentro:

Archivo Qué contiene y qué mirar
config.yaml · environment.json La configuración exacta y el entorno (versiones, dispositivo) de la ejecución.
dataset_manifest.json · dataset_card.md Procedencia, licencia, hash y tamaño de cada partición.
data_quality.json · drift_report.json Calidad de los datos y diferencias de distribución entre particiones.
baseline_validation_metrics.json La línea base medida en validation, antes de entrenar.
history.csv · history.png Pérdida y métricas época a época: aquí se ve si el entrenamiento converge o sobreajusta.
experiment.lock.json El sello del experimento, escrito antes de tocar test.
metrics.json El resultado final en test, más tiempo, dispositivo y número de parámetros.
baseline_metrics.json La línea base en test, calculada después de tu evaluación final.
best_model.pt · last_model.pt El checkpoint elegido por validación y el último, para poder compararlos.
confidence_intervals.json Intervalos por bootstrap: cuánto podría moverse cada métrica.
subgroup_metrics.json El mismo resultado desglosado por subgrupo, para ver qué esconde el promedio.
predictions.csv Predicción por ejemplo, para analizar los errores uno a uno.
model_spec.json · inference_contract.json Qué entrada espera el modelo y qué devuelve: lo que necesita quien lo despliegue.
model_card.md · report.md La ficha del modelo y el informe legible de la ejecución.

⚠️ Dónde suele perderse la gente

Riesgos al interpretar los resultados

8.760 observaciones reales de arriendo de bicicletas y clima en Seúl.

El dataset refleja su proceso de recolección y no representa automáticamente otros períodos, países o poblaciones. Una asociación predictiva no demuestra causalidad.

✅ Antes de darlo por terminado

La clase está aprobada cuando se cumplen estos criterios:

Y cuando tienes estos entregables:

El plan experimental con la tabla que hay que completar está en experiments.md, y las preguntas con su rúbrica, en assessment.md. Ambos documentos se abren desde la barra de navegación de arriba.

Para ir más lejos

📚 Fuentes

La teoría de arriba no es original de este repositorio: se apoya en la literatura de referencia del área y en los papers originales de cada arquitectura. Estas son las obras concretas, y lo que aporta cada una:

Las referencias apuntan a las obras; no se reproduce su contenido, la redacción es original.

Los archivos de este laboratorio

Todo lo que necesitas está en esta carpeta. Cada enlace abre el archivo directamente:

Archivo Qué es
📄 README.md Esta guía.
🧠 theory.md La teoría completa con su bibliografía; es la fuente del apartado teórico de arriba.
🔬 experiments.md El plan experimental y la tabla multi-semilla que hay que completar.
📝 assessment.md Las preguntas de evaluación y la rúbrica con la que se corrigen.
🧑‍🏫 instructor-guide.md La apertura, los tiempos y las intervenciones sugeridas para facilitar esta clase.
📓 notebook.ipynb El recorrido completo con todo el código escrito y ejecutable.
✏️ notebook_student.ipynb El mismo recorrido con las celdas de ejercicio vacías.
✅ notebook_solution.ipynb Los ejercicios resueltos, para contrastar.
🖥️ train.py El mismo entrenamiento desde la terminal, sin abrir un cuaderno.
🎛️ configs/baseline.yaml Épocas, lote, tasa de aprendizaje y qué recorta --quick.
🎚️ configs/improved.yaml La configuración ampliada que se compara contra la base.
🗄️ data/dataset.yaml Fuente, licencia, política de partición y límites del dataset.
🧾 lesson.yaml Nivel, prerrequisitos, resultados de aprendizaje y criterios.
🖥️ index.html Esta misma clase como página autocontenida, para leerla sin conexión.

Y fuera de la carpeta, tres referencias que esta guía usa: el catálogo configs/labs.yaml —de donde salen el objetivo, la línea base y las métricas—, el código src/neural_labs/experiments.py —que define el orden de los pasos y los archivos que escribe cada ejecución— y docs/experiment-protocol.md, con la regla general del protocolo.

Los datasets se descargan de su proveedor original y conservan su licencia; este repositorio no los redistribuye ni sustituye una descarga fallida por datos generados.

🔬 Experimentos

Plan de experimentos — LSTM para series temporales

Qué significa «experimentar» aquí

Entrenar un modelo y mirar el número que sale no es un experimento: es una observación. Un experimento empieza por una afirmación que podría resultar falsa, sigue fijando todo lo que no se está poniendo a prueba, y termina midiendo si la afirmación se sostiene cuando se repite.

La diferencia importa porque el entrenamiento de una red tiene azar por dentro: la inicialización de los pesos y el orden en que se barajan los lotes cambian el resultado aunque no cambies nada más. Si comparas una sola corrida contra otra sola corrida, no sabes si la diferencia viene de tu idea o de la semilla. Por eso todo lo que sigue está organizado para separar la señal (el efecto de lo que cambiaste) del ruido (la variabilidad propia del entrenamiento).

La hipótesis de este laboratorio

Pronosticar demanda horaria respetando el orden temporal.

Formulada como algo que se puede refutar: el modelo de este laboratorio supera a Persistencia, media móvil y Ridge en rmse, y la diferencia es mayor que la dispersión entre semillas.

Qué la haría falsa —y esto también es un resultado que hay que reportar—:

El experimento propio de esta clase

Además de la comparación con la línea base, aquí interesa una pregunta específica: Comparar ventanas, variables y horizonte. Es la comparación que da sentido al tema de este laboratorio; la de la línea base solo dice si el modelo sirve, mientras que esta dice qué parte del diseño es la que aporta.

Qué se varía y qué se mantiene fijo

Un experimento es interpretable cuando cambia una cosa a la vez. Esta tabla dice qué papel juega cada elemento y, sobre todo, por qué:

Elemento En este experimento Por qué
Partición de los datos (--split-seed) Fija en 42 Si cambiara entre corridas, no podrías saber si la diferencia viene de tu modelo o de que le tocaron datos distintos.
Semilla de entrenamiento (--training-seed) Varía: 41, 42, 43 Es exactamente el ruido que quieres medir. Sin varias semillas no tienes con qué comparar la mejora.
Configuración (--config) Varía: baseline y improved Es la intervención bajo estudio: lo único que estás poniendo a prueba.
Dataset y preprocesamiento Fijos Ajustar la normalización o el vocabulario con otros datos cambiaría el problema, no el modelo.
Presupuesto de épocas y criterio de parada Fijos dentro de cada configuración Dar más épocas a una variante que a otra es comparar dos cosas distintas.
Hardware y versiones Registrados en environment.json No siempre se pueden fijar, pero sí dejar anotados: explican diferencias de tiempo y, a veces, de resultado.
El conjunto test Intacto hasta el final Se abre una sola vez, después de que rmse sobre validation haya elegido al ganador.

Las dos configuraciones que vas a comparar

El laboratorio trae dos configuraciones ya escritas. Estos son los parámetros en los que difieren —el resto es idéntico, que es justamente lo que hace legible la comparación—:

Parámetro baseline.yaml improved.yaml Qué controla
Épocas 20 50 Cuántas pasadas completas sobre train.
Tasa de aprendizaje 0.001 0.0005 Cuánto se mueve cada peso en la dirección del gradiente.
Paciencia 5 8 Épocas sin mejorar en validation antes de detener el entrenamiento.
Precisión mixta no sí Usar float16 donde se puede: acelera en GPU, no cambia el protocolo.
Procesos de carga 0 2 Procesos que preparan los lotes en paralelo.

Elegir entre ellas es una decisión de validation. Si improved gana en validación, se queda; si no, la configuración base es la respuesta y hay que decirlo así.

Cómo ejecutar la serie

El comando benchmark hace exactamente esto: repite el entrenamiento manteniendo la partición fija y cambiando solo la semilla de entrenamiento.

neural-labs benchmark --lab 05_lstm_time_series \
  --config baseline --split-seed 42 --training-seeds 41 42 43

neural-labs benchmark --lab 05_lstm_time_series \
  --config improved --split-seed 42 --training-seeds 41 42 43

Por dentro, benchmark no hace magia: llama a run_lab una vez por semilla con la misma partición y resume los resultados. Desde Python es literalmente eso:

from neural_labs.experiments import run_lab
from neural_labs.benchmarking import summarize_benchmark

registros = []
for semilla in (41, 42, 43):
    resultado = run_lab(
        "05_lstm_time_series",
        config_name="baseline",
        split_seed=42,          # la partición NO cambia
        training_seed=semilla,  # solo cambia la inicialización
    )
    registros.append({"training_seed": semilla, "metrics": resultado.metrics})

print(summarize_benchmark(registros))   # media y dispersión entre semillas

Empieza con --quick para comprobar que la serie corre entera; los números que se reportan salen de la ejecución completa.

La tabla que debes completar

Variante Semilla Métrica en validation Métrica en test Tiempo Parámetros Observación
baseline 41
baseline 42
baseline 43
improved 41
improved 42
improved 43

De dónde sale cada columna, para que no haya que adivinarlo:

Cómo decidir con esos números

  1. Compara medias, pero decide con la dispersión. Calcula media y desviación entre las tres semillas de cada variante. Una mejora de 0,3 puntos entre variantes cuya dispersión interna es de 1,2 puntos no es una mejora: es ruido con buena suerte.
  2. Si los rangos se solapan, dilo. «No se observó una diferencia distinguible del ruido con tres semillas» es una conclusión legítima y mucho más útil que un número inventado de confianza.
  3. Decide con validation. La columna de test sirve para reportar el resultado final una vez, no para elegir la variante ganadora.
  4. El costo forma parte del resultado. Si improved gana por poco y cuesta el triple de tiempo, la conclusión honesta menciona ambas cosas.
  5. Vuelve a la línea base. La comparación contra Persistencia, media móvil y Ridge es la que dice si todo el aparato de la red neuronal estaba justificado para este problema.

Qué debe decir tu conclusión

Una conclusión completa contiene cinco cosas, y se puede escribir en un párrafo:

Errores de diseño que invalidan el experimento

📝 Evaluación

Evaluación — LSTM para series temporales

Cómo se evalúa esta clase

No se evalúa el número final. Un modelo con una métrica alta obtenida mirando test, o sin compararse con nada, vale menos que uno modesto cuyo resultado se puede auditar. Lo que se califica es el proceso: si las particiones están limpias, si la decisión se tomó donde debía, si la conclusión distingue lo que se midió de lo que se supone.

Evidencias que debes entregar

Evidencia Dónde vive Por qué se pide
Dataset preparado y auditado salida de neural-labs audit Es la única prueba de que el resultado no está contaminado por una fuga entre particiones.
Notebook ejecutado sin celdas omitidas notebook.ipynb Una celda saltada suele ser justo la que rompía el argumento.
Comparación contra Persistencia, media móvil y Ridge metrics.json y baseline_metrics.json Sin línea base, una métrica no dice si el modelo aporta algo.
Al menos tres semillas de entrenamiento, o la justificación de por qué no salida de benchmark Una sola corrida no permite separar mejora de azar.
Análisis de errores y limitaciones tu reporte Saber dónde falla vale más que saber cuánto acierta.
Model card actualizada model_card.md Es lo que permite a otra persona saber cuándo no debería usar tu modelo.

Las preguntas, y qué se busca en tu respuesta

No se corrige la longitud de la respuesta, sino si demuestra comprensión. Debajo de cada pregunta está lo que una buena respuesta debería contener.

1. ¿Qué decide recordar, olvidar y revelar una LSTM?

Qué se busca: Comienza con la predicción que hiciste al abrir la clase y contrástala con una gráfica, una medida o una observación concreta de tu ejecución.

2. Explica con tus palabras: Puertas input, forget y output de una LSTM.

Qué se busca: Una buena respuesta conecta cuatro cosas —cómo se representa la entrada, qué calcula el modelo, qué mide la función de pérdida y cómo se actualizan los pesos— en vez de repetir la definición del libro. Si puedes explicarlo sin la fórmula delante, lo entendiste.

3. ¿Qué información del dataset solo puede usarse durante el entrenamiento?

Qué se busca: Se espera que nombres casos concretos: las estadísticas de normalización, el vocabulario, la selección de variables, los umbrales. Todo eso se ajusta solo con train; calcularlo sobre el conjunto completo es una fuga silenciosa que infla el resultado sin dar ningún aviso.

4. ¿Por qué Persistencia, media móvil y Ridge es una comparación razonable para este problema?

Qué se busca: Una buena respuesta explica qué captura la línea base y qué no, y por qué superarla —o no superarla— es informativo aquí. Si la línea base ya resuelve el problema, la conclusión correcta es que la red no estaba justificada.

5. ¿El modelo supera persistencia en períodos de cambio?

Qué se busca: Esta es la pregunta propia del tema. Responde con evidencia de tu ejecución —predicciones, matriz de confusión, curvas, artefactos del directorio de la corrida—, no con una impresión general.

6. ¿Qué aprendiste al realizar esta práctica: Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.?

Qué se busca: No basta con relatar los pasos. Explica qué cambió, por qué cambió y qué resultado te haría rechazar tu interpretación inicial.

7. Refuta con evidencia esta idea frecuente: «Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.»

Qué se busca: Se busca una refutación situada en esta materia, apoyada en el mecanismo estudiado y en los resultados obtenidos, no una negación genérica.

8. ¿Qué te dice rmse que no te dirían las otras métricas?

Qué se busca: Cada métrica pondera distinto los errores. Se espera que expliques por qué esa es la que decide aquí y en qué situación sería una mala elección.

9. ¿Qué cambiarías antes de usar este modelo fuera del laboratorio?

Qué se busca: Aquí se evalúa el criterio, no la técnica: licencias y condiciones de uso de seoul_bike, representatividad de la población, calibración de las probabilidades, vigilancia de la deriva, desempeño por subgrupo y supervisión humana. Un «funcionaría bien» sin condiciones se corrige como respuesta incompleta.

La rúbrica, explicada

Criterio Insuficiente Adecuado Excelente Peso
Integridad de los datos mezcla particiones o no puede demostrar que no lo hizo las tres particiones están separadas y auditadas además documenta hashes, política de partición y justifica la estrategia elegida 20 %
Implementación no ejecuta o produce resultados irreproducibles entrena y evalúa siguiendo el protocolo código claro y reutilizable, con las decisiones explicadas 20 %
Diseño experimental un solo resultado aislado comparación controlada contra la línea base varias semillas, dispersión reportada y variables controladas explícitas 20 %
Análisis repite las métricas sin interpretarlas interpreta los errores y su distribución identifica sesgos, límites y costo, y distingue evidencia de suposición 25 %
Comunicación incompleta o sin contexto reporte entendible y model card presente conclusiones verificables por un tercero a partir de los artefactos 15 %

La diferencia entre adecuado y excelente casi nunca está en la métrica: está en si el trabajo permite que otra persona llegue a la misma conclusión con los artefactos que dejaste. Un resultado peor, bien medido y bien explicado, se califica por encima de uno mejor que no se puede auditar.

La aprobación exige al menos 70 % y cero errores críticos de fuga de datos. La fuga es eliminatoria por sí sola porque invalida todas las demás cifras del trabajo, por buenas que parezcan.

Autoevaluación antes de entregar

🧑‍🏫 Guía docente

Guía docente — Clase 06: LSTM para series temporales

Módulo 2: Arquitecturas · Esta guía acompaña a quien facilita la clase; no es un guion que deba leerse literalmente.

La conversación que abre la clase

La demanda de bicicletas combina ciclos diarios, clima y tendencias. Las compuertas permiten conservar unas señales y descartar otras.

Plantee primero esta pregunta y permita que el grupo formule una predicción antes de mostrar código:

¿Qué decide recordar, olvidar y revelar una LSTM?

Qué debe quedar comprendido

Secuencia sugerida

Momento Duración Acción docente Evidencia del estudiante
Activación 10 min Presentar el caso inicial y recoger predicciones. Explica qué espera observar y por qué.
Construcción 25 min Conectar intuición, representación y matemática. Dibuja o relata el mecanismo con sus propias palabras.
Demostración 25 min Recorrer el mapa visual y ejecutar el ejemplo mínimo. Interpreta cada transición sin limitarse a describir la figura.
Investigación 35 min Guiar la práctica propia de esta clase. Contrasta su predicción con una medida o gráfica.
Cierre 15 min Volver a la pregunta esencial y discutir límites. Entrega una conclusión breve con evidencia y una duda abierta.

Práctica propia de esta materia

Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.

Las tres decisiones de una celda LSTM

La figura es un punto de entrada. Pida al estudiante que explique qué cambia entre los tres pasos y qué resultado observable invalidaría su explicación.

Dificultad conceptual que conviene provocar

Idea engañosa: Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.

No la corrija inmediatamente. Solicite un ejemplo o contraejemplo, ejecute una comparación y recién entonces reconstruya la explicación con el grupo.

Preguntas para acompañar sin resolver

Cierre verificable

La clase termina cuando el estudiante puede responder la pregunta esencial, interpretar su visualización y señalar al menos una limitación. Una métrica aislada no reemplaza ninguna de esas tres evidencias.