LSTM para series temporales
Antes de tocar el código
La demanda de bicicletas combina ciclos diarios, clima y tendencias. Las compuertas permiten conservar unas señales y descartar otras.
Pregunta esencial: ¿Qué decide recordar, olvidar y revelar una LSTM?
Haz una predicción antes de ejecutar el notebook. Al final volverás a ella y tendrás que decir qué evidencia la confirmó, la corrigió o la dejó abierta.
Mapa de esta clase: Las tres decisiones de una celda LSTM. La figura no es decorativa; úsala para explicar el mecanismo con tus propias palabras.
🎯 Qué vas a aprender y construir
Pronosticar demanda horaria respetando el orden temporal.
Práctica propia de esta clase: Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.
Es la clase 06 de 31 del programa y pertenece a 🔵 el módulo 2, Arquitecturas según la forma del dato. Llegas desde RNN para texto y lo que hagas aquí lo da por supuesto Autoencoder para fraude.
Trabajarás con el dataset seoul_bike (UCI, licencia: CC BY 4.0), y tendrás que superar la línea base Persistencia, media móvil y Ridge, decidiendo con la métrica rmse medida sobre validation. Nivel intermedio, unas 6 horas de dedicación.
Lo que conviene traer resuelto de las clases anteriores: PyTorch básico, particiones train/validation/test, métricas de evaluación.
Al terminar deberías ser capaz de:
- Pronosticar demanda horaria respetando el orden temporal.
- Preparar y auditar el dataset real seoul_bike sin fuga de datos.
- Entrenar y evaluar memoria recurrente para pronóstico temporal.
- Comparar contra la línea base: Persistencia, media móvil y Ridge.
- Interpretar intervalos de confianza, errores y limitaciones.
Una idea que conviene desmontar
Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.
🧠 Comprender antes de entrenar
Esta sección es la explicación completa del tema. No hace falta abrir otro archivo para entender lo que viene después: aquí está la idea, la matemática que la sostiene y sus límites. (El mismo texto vive en theory.md, que es la fuente desde la que se genera esta guía, junto con la bibliografía del final.)
De qué trata
Este laboratorio estudia memoria recurrente para pronóstico temporal usando seoul_bike, un dataset público real procedente de UCI.
Este laboratorio ataca directamente la limitación descubierta con las RNN simples: su incapacidad para retener información a lo largo de muchos pasos por el desvanecimiento del gradiente. La LSTM (Long Short-Term Memory) introduce un canal de memoria protegido —el estado de celda cₜ— y un sistema de puertas que deciden, de forma aprendida, qué información conservar, qué olvidar y qué exponer en cada instante. El resultado es una memoria capaz de sostener patrones a largo plazo (ciclos diarios y semanales de demanda) sin que el gradiente se disipe.
El problema es un pronóstico de series temporales genuino: predecir la demanda horaria de bicicletas compartidas en Seúl a partir de su historia reciente y variables climáticas, sobre 8.760 observaciones reales. A diferencia de la clasificación, aquí el orden temporal es sagrado: la partición no puede mezclar futuro con pasado, y las líneas base (persistencia, media móvil, Ridge) son duras de batir. La pregunta crítica —si el modelo supera a la persistencia en períodos de cambio— pone el foco donde un pronosticador realmente demuestra su valor.
La matemática, paso a paso
La LSTM mantiene dos estados que viajan en el tiempo: el estado oculto hₜ (la salida en cada paso) y el estado de celda cₜ (la memoria a largo plazo). En cada instante, tres puertas —vectores con valores en (0, 1) producidos por sigmoides σ— regulan el flujo de información. Con la concatenación de la entrada xₜ y el estado previo hₜ₋₁:
Puerta de olvido: fₜ = σ(W_f·[hₜ₋₁, xₜ] + b_f)
Puerta de entrada: iₜ = σ(W_i·[hₜ₋₁, xₜ] + b_i)
Candidato de memoria: c̃ₜ = tanh(W_c·[hₜ₋₁, xₜ] + b_c)
Puerta de salida: oₜ = σ(W_o·[hₜ₋₁, xₜ] + b_o)
La actualización del estado de celda es el corazón del mecanismo y combina las puertas mediante el producto elemento a elemento ⊙:
cₜ = fₜ ⊙ cₜ₋₁ + iₜ ⊙ c̃ₜ
hₜ = oₜ ⊙ tanh(cₜ)
La lectura es intuitiva: la puerta de olvido fₜ decide qué fracción de la memoria vieja cₜ₋₁ se conserva (fₜ ≈ 1 recuerda, fₜ ≈ 0 borra); la puerta de entrada iₜ decide cuánto del nuevo candidato c̃ₜ se escribe; y la de salida oₜ decide qué parte de la memoria se expone como estado oculto. Cuando la red aprende fₜ ≈ 1, el estado de celda actúa como una cinta transportadora por la que la información —y el gradiente— fluye a través de muchos pasos casi sin atenuarse. Esa suma cₜ = fₜ ⊙ cₜ₋₁ + … es precisamente lo que evita el producto de jacobianos que desvanecía el gradiente en la RNN simple: la ruta aditiva mantiene ∂cₜ/∂cₜ₋₁ ≈ fₜ en lugar de un factor que se contrae exponencialmente.
Una alternativa más ligera es la GRU (Cho et al. 2014), que fusiona las puertas de olvido y entrada en una sola puerta de actualización y prescinde del estado de celda separado, con menos parámetros y rendimiento a menudo comparable. Para el pronóstico, la salida h_T (o la de cada paso) pasa por una capa densa que produce el valor real predicho, y el entrenamiento minimiza un error de regresión como el MSE, L = (1/N) Σᵢ (ŷᵢ − yᵢ)². La evaluación reporta MAE, RMSE, MAPE y R², siempre comparando contra las líneas base clásicas de series temporales.
La formulación debe conectarse con cuatro elementos: representación de entrada, función del modelo, función de pérdida y regla de actualización. El notebook muestra las dimensiones de los tensores y conserva la misma implementación que el script de terminal.
Por qué las puertas resuelven el desvanecimiento
La clase 05 dejó el diagnóstico: el gradiente de una RNN simple se multiplica por W_hᵀ·diag(σ′) en cada paso, y ese producto se apaga exponencialmente. La LSTM no lo mitiga, cambia la operación, y ahí está toda su ventaja.
Derivando la actualización del estado de celda cₜ = fₜ ⊙ cₜ₋₁ + iₜ ⊙ c̃ₜ respecto del estado anterior:
∂cₜ/∂cₜ₋₁ = fₜ (elemento a elemento),
de modo que el gradiente que atraviesa k pasos por la vía de la celda se multiplica por Π fₜ, un producto de escalares entre 0 y 1, y no por un producto de matrices con activaciones saturantes. La diferencia es cualitativa: cuando la puerta de olvido se mantiene cerca de 1 —el modelo ha decidido conservar esa memoria—, el factor es cerca de 1 y el gradiente atraviesa cientos de pasos casi intacto. Ese camino se conoce como carrusel de error constante, y es lo que permite aprender dependencias largas.
Obsérvese la estructura: la actualización es aditiva, cₜ = (algo)·cₜ₋₁ + (algo), mientras que en la RNN simple era completamente multiplicativa, hₜ = tanh(W·hₜ₋₁ + …). Es la misma idea que reaparece en las conexiones residuales de la clase 04 y en los atajos de la 07: dejar un camino donde la señal se suma en vez de transformarse es lo que mantiene vivo el gradiente. Y aún así la LSTM no es inmune —si las puertas de olvido se cierran, la memoria y su gradiente se pierden—: la diferencia es que ahora eso es una decisión aprendida y no una fatalidad de la arquitectura.
De ahí una recomendación práctica bien establecida: inicializar el sesgo de la puerta de olvido en un valor positivo (típicamente 1). Con b_f = 1, la sigmoide arranca en σ(1) ≈ 0,73, así que la red empieza conservando memoria por defecto y aprende luego a olvidar. Con b_f = 0 arranca en 0,5 y el gradiente ya se reduce a la mitad por paso desde la primera época, justo cuando aún no ha aprendido nada que valga la pena conservar.
El costo de las puertas es lineal en parámetros. Con entrada de dimensión d y estado oculto h, cada una de las cuatro transformaciones consume (d + h)·h pesos más h sesgos, de modo que
|θ|_LSTM = 4 · ( (d + h)·h + h ),
cuatro veces una RNN simple del mismo tamaño. La GRU fusiona la celda con el estado oculto y usa tres puertas en vez de cuatro, así que cuesta 3·((d + h)·h + h): en torno a un 25 % menos, con rendimiento comparable en muchas tareas. Comparar ambas con el mismo presupuesto de parámetros —y no con la misma h— es la forma honesta de decidir entre ellas.
Qué hace que una serie temporal no sea un dataset normal
La particularidad de este laboratorio no está en la arquitectura sino en el protocolo, y es donde se cometen los errores más caros.
El dato original es una única serie continua, no un conjunto de ejemplos independientes. Para entrenar se construyen ejemplos con una ventana deslizante: cada entrada es el tramo (x_(t−L+1), …, x_t) de longitud L y el objetivo es el valor en t + H, donde H es el horizonte de pronóstico. Elegir L y H no es cosmético: L acota cuánto pasado puede ver el modelo —si la serie tiene estacionalidad diaria de 24 horas, una ventana de 12 no puede capturarla— y H define un problema distinto, porque pronosticar la hora siguiente y pronosticar dentro de una semana no son la misma tarea ni admiten la misma comparación.
La partición no puede ser aleatoria. Repartir ventanas al azar entre train, validation y test coloca en el entrenamiento momentos posteriores a los que hay que predecir en la evaluación: el modelo aprende del futuro. Es una fuga de datos que no produce ningún síntoma —de hecho produce métricas excelentes— y por eso es tan peligrosa. La partición correcta es cronológica: un corte temporal, todo lo anterior a entrenamiento y lo posterior a evaluación, respetando el orden.
Hay un detalle más fino que se escapa incluso partiendo por fecha. Como las ventanas se solapan, una ventana de train que termine justo antes del corte puede tener su objetivo después del corte, dentro del periodo de validación. La solución estándar es dejar un hueco (embargo) de al menos H pasos entre particiones. Sin él, el solape filtra exactamente la información que se quería aislar.
El escalado arrastra el mismo principio: la media y la desviación se calculan solo con el tramo de entrenamiento. Estandarizar con las estadísticas de la serie completa introduce en el preprocesamiento información sobre el nivel y la variabilidad del futuro, que es justo lo que el modelo debería tener que inferir.
Y la línea base debe ser honesta. En series temporales, el modelo ingenuo —predecir que el valor siguiente será igual al último observado, ŷ_(t+H) = y_t— es sorprendentemente difícil de batir, y su versión estacional —ŷ_(t+H) = y_(t+H−s) con s el periodo— aún más. Una red que no supere claramente a ese piso no ha aprendido dinámica: ha aprendido a copiar. Por eso el error se reporta con métricas escaladas frente a esa referencia, del tipo MASE = MAE_modelo / MAE_ingenuo, cuyo valor 1 marca exactamente el punto en que el modelo deja de aportar.
La pregunta que deberías poder responder al terminar: ¿El modelo supera persistencia en períodos de cambio?
Qué se mide y con qué se decide
La clase reporta mae, rmse, mape, r2. De todas ellas, la que decide qué modelo se conserva es rmse, y se mide siempre sobre validation: es la única forma de que test siga siendo una estimación honesta de lo que pasará con datos nuevos.
📓 Los tres cuadernos
La clase se puede recorrer en Jupyter y trae tres cuadernos con papeles distintos. Los tres siguen el mismo camino —descargar el dataset real, auditar la partición, entrenar, sellar el experimento y evaluar test una vez—; lo que cambia es qué te toca escribir a ti:
| Cuaderno | Qué trae | Cuándo usarlo |
|---|---|---|
📓 notebook.ipynb |
El recorrido de referencia: 25 celdas (9 de código) con todo el código escrito y ejecutable, intercalado con las explicaciones. No trae ejercicios. | Para leer y ejecutar de principio a fin. |
✏️ notebook_student.ipynb |
El mismo recorrido más 5 ejercicios evaluables (40 celdas en total). Las celdas de ejercicio están marcadas con # YOUR CODE HERE y debajo de cada una hay una comprobación. |
Para practicar. |
✅ notebook_solution.ipynb |
Los mismos ejercicios resueltos, marcados con # SOLUCIÓN DE REFERENCIA. Cada solución se ejecuta en la integración continua, así que se sabe que pasa. |
Para contrastar después de intentarlo. |
Qué se practica en los ejercicios
Cinco de ellos cubren el contrato experimental común: auditar la partición, decidir con validation, compararse con la línea base, sellar antes de abrir test y dejar el plan por escrito. Se resuelven con Python estándar —sin descargar el dataset ni entrenar—, así que se corrigen en segundos y sin GPU, y cada uno está parametrizado con los valores de este laboratorio: su métrica de selección, su línea base y su experimento propio.
Cómo abrirlos
Los cuadernos necesitan el extra notebooks, que instala Jupyter junto con el paquete:
pip install -e ".[dev,notebooks]"
jupyter lab labs/05_lstm_time_series/notebook.ipynb
También se abren desde VS Code —con la extensión de Jupyter— haciendo doble clic en el archivo, o desde la interfaz clásica con jupyter notebook. El primer arranque descarga el dataset real desde su proveedor, así que la primera ejecución tarda más y requiere conexión.
Si prefieres ejecutar sin abrir un cuaderno, train.py hace exactamente lo mismo desde la terminal, y la sección de comandos de arriba explica cada opción.
🖥️ Los comandos, explicados
Todo el laboratorio se maneja con una sola herramienta de terminal, neural-labs, que se instala junto con el paquete (pip install -e ".[dev,notebooks]"). Cada subcomando hace una cosa del protocolo, y por eso se pueden ejecutar por separado: preparar datos, auditar la partición, entrenar, repetir con varias semillas.
La forma general es siempre la misma:
neural-labs <subcomando> --lab <identificador> [opciones]
| Opción | Valor por defecto | Valores | Qué hace y cuándo cambiarla |
|---|---|---|---|
--lab |
05_lstm_time_series |
obligatorio | Qué laboratorio se ejecuta. Solo acepta los identificadores del catálogo. |
--quick |
desactivado | — | Usa una fracción real del dataset y pocas épocas. Sirve para comprobar la instalación, no para concluir nada sobre el modelo. |
--split-seed N |
42 |
entero | Semilla que decide qué ejemplo cae en qué partición. Se mantiene fija al comparar modelos. |
--training-seed N |
42 |
entero | Semilla de la inicialización de pesos y del barajado de lotes. Es la que se varía para medir cuánta diferencia es simple azar. |
--config |
baseline |
baseline · improved |
Cuál de las dos configuraciones del laboratorio se usa. |
--device |
auto |
auto · cpu · cuda · mps |
Dónde entrenar. auto elige GPU si está disponible y cae a CPU si no. |
--training-seeds A B C |
41 42 43 |
enteros | Solo en benchmark: la lista de semillas de entrenamiento que se repiten. |
--output-dir |
runs |
ruta | Dónde se escribe el directorio de la ejecución. |
El script del laboratorio
labs/05_lstm_time_series/train.py no es un programa distinto: fija el --lab y delega en la misma herramienta, de modo que estas dos líneas hacen exactamente lo mismo.
python labs/05_lstm_time_series/train.py --quick
neural-labs train --lab 05_lstm_time_series --quick
Lo mismo desde Python
Si prefieres trabajar en un cuaderno o llamar al laboratorio desde tu propio código, la misma ejecución se lanza así. La función devuelve un objeto con el directorio de la ejecución, las métricas y el historial ya cargados:
from neural_labs.experiments import run_lab
resultado = run_lab(
"05_lstm_time_series",
quick=True, # False para la ejecución completa
config_name="baseline",
split_seed=42, # fija la partición
training_seed=43, # varía la inicialización
)
print(resultado.run_dir) # dónde quedaron los archivos
print(resultado.metrics) # el diccionario de métricas finales
Y para preparar el dataset sin entrenar —útil para inspeccionarlo antes—:
from neural_labs.datasets import prepare_dataset
datos = prepare_dataset("05_lstm_time_series", quick=True, seed=42)
print(datos.summary) # tamaño de cada partición y metadatos de la fuente
🪜 Laboratorio guiado
Cada paso dice qué ocurre por dentro, por qué se hace en ese orden y cómo comprobar que salió bien. El orden no es una convención de estilo: es el que ejecuta el código, y alterarlo invalida el resultado.
Paso 1 — Traer el dataset real y partirlo
Qué ocurre. Descarga seoul_bike desde su proveedor y construye las tres particiones —train, validation y test— con la semilla de partición que le pases.
Por qué. La partición se fija antes de entrenar y su semilla (--split-seed) es independiente de la del entrenamiento (--training-seed). Si ambas fueran la misma, no podrías distinguir si un cambio en el resultado viene de haber repartido los datos de otro modo o de haber inicializado los pesos de otro modo.
neural-labs dataset --lab 05_lstm_time_series --quick --split-seed 42
Cómo sabes que salió bien. El comando termina sin error y deja el dataset en caché. Si no hay red, falla: no se rellena con datos inventados (data/dataset.yaml declara fallback_to_generated_data: false).
Paso 2 — Comprobar que las particiones no se tocan
Qué ocurre. Recorre los identificadores de las tres particiones y verifica que ninguno aparece en dos de ellas.
Por qué. Una sola fila compartida entre train y test basta para que la métrica final quede inflada. Es el error más caro del oficio porque no produce ningún síntoma visible: el modelo simplemente «parece» mejor de lo que es.
neural-labs audit --lab 05_lstm_time_series --quick --split-seed 42
Cómo sabes que salió bien. La auditoría reporta cero solapamientos. Si reporta alguno, no sigas: el resto del laboratorio no significaría nada.
Paso 3 — Mirar los datos antes de modelarlos
Qué ocurre. Genera el informe de calidad (valores faltantes, balance de clases, rangos) y el de deriva entre particiones.
Por qué. Un desbalance fuerte o una diferencia de distribución entre train y test cambia qué métrica tiene sentido leer. Descubrirlo después de entrenar obliga a repetirlo todo.
neural-labs quality --lab 05_lstm_time_series --quick --split-seed 42
Cómo sabes que salió bien. Obtienes data_quality.json y drift_report.json; ábrelos antes de decidir la configuración.
Paso 4 — Estudiar la teoría del laboratorio
Qué ocurre. Leer theory.md: la idea central, el desarrollo matemático, los riesgos de interpretación y la bibliografía de la que sale todo eso.
Por qué. Sin esto, el entrenamiento es una caja que devuelve números. La teoría es lo que te permite decidir qué mirar y reconocer cuándo un resultado es sospechoso.
Cómo sabes que salió bien. Puedes responder, con tus palabras, qué calcula el modelo y por qué esa arquitectura encaja con la tarea regression.
Paso 5 — Entrenar y seleccionar con validation
Qué ocurre. El entrenamiento recorre las épocas midiendo en validation después de cada una, y conserva el checkpoint con el mejor valor de rmse.
Por qué. El conjunto de validación existe para tomar decisiones —arquitectura, hiperparámetros, cuándo parar—. Si esas decisiones se tomaran mirando test, test dejaría de ser una estimación de lo que pasará con datos nuevos y pasaría a ser parte del entrenamiento.
python labs/05_lstm_time_series/train.py --quick
# o, con control explícito de las dos semillas:
neural-labs train --lab 05_lstm_time_series --config baseline --split-seed 42 --training-seed 43
Cómo sabes que salió bien. En runs/05_lstm_time_series/<ejecución>/ aparecen history.csv y best_model.pt; la métrica de validación mejora respecto de la primera época.
Paso 6 — Compararte con la línea base
Qué ocurre. El repositorio entrena por su cuenta Persistencia, media móvil y Ridge y guarda su resultado, primero sobre validation y —solo al final— sobre test.
Por qué. Una métrica sola no dice si el modelo aporta algo. Puede que un método mucho más simple llegue igual de lejos, y entonces la complejidad añadida no está justificada. Esta comparación es la que convierte un número en un argumento.
Cómo sabes que salió bien. Comparas metrics.json con baseline_metrics.json. Si tu modelo no supera la línea base, el resultado del laboratorio es exactamente ese, y hay que reportarlo.
Paso 7 — El sellado: experiment.lock.json
Qué ocurre. Antes de tocar test, el código escribe un archivo que fija el laboratorio, las dos semillas, la configuración, la métrica de selección, el checkpoint elegido y el hash del dataset.
Por qué. Es la frontera del experimento. A partir de ahí, cualquier ajuste que hagas mirando test queda a la vista: el sello dice qué habías decidido antes de ver el resultado final. Sin ese archivo, nadie —incluido tú dentro de un mes— puede distinguir una predicción de una racionalización.
Cómo sabes que salió bien. El archivo existe y su contenido coincide con lo que creías haber ejecutado.
Paso 8 — Evaluar test una sola vez y medir la incertidumbre
Qué ocurre. Con el checkpoint congelado se evalúa test, se calculan intervalos de confianza por bootstrap y se desglosan las métricas por subgrupo.
Por qué. Un número puntual esconde cuánto podría moverse. Los intervalos dicen si la diferencia con la línea base es real o cabe dentro del ruido; el desglose por subgrupo revela si el promedio está tapando un grupo donde el modelo funciona mucho peor.
Cómo sabes que salió bien. Tienes metrics.json, confidence_intervals.json y subgroup_metrics.json, y puedes decir la magnitud de la mejora y su incertidumbre.
Paso 9 — Repetir con varias semillas de entrenamiento
Qué ocurre. Se repite el entrenamiento manteniendo fija la partición y cambiando solo la semilla de entrenamiento.
Por qué. Dos ejecuciones idénticas salvo por la inicialización pueden diferir bastante. Si no mides esa dispersión, corres el riesgo de celebrar una mejora que era una semilla afortunada.
neural-labs benchmark --lab 05_lstm_time_series --quick --split-seed 42 --training-seeds 41 42 43
Cómo sabes que salió bien. Obtienes media y dispersión entre semillas, no un único número.
Paso 10 — Documentar y cerrar
Qué ocurre. Cada ejecución deja model_card.md y report.md; el plan de experimentos vive en experiments.md y la rúbrica en assessment.md.
Por qué. Un resultado sin su contexto —qué datos, qué decisiones, qué límites— no es reutilizable. La model card es lo que permite que otra persona sepa cuándo no debería usar tu modelo.
Cómo sabes que salió bien. Completaste la tabla multi-semilla de experiments.md y respondiste las preguntas de assessment.md.
🔍 Cómo leer lo que produce la ejecución
Cada ejecución escribe su propio directorio con nombre único, de modo que dos corridas nunca se pisan. Esto es lo que encontrarás dentro:
| Archivo | Qué contiene y qué mirar |
|---|---|
config.yaml · environment.json |
La configuración exacta y el entorno (versiones, dispositivo) de la ejecución. |
dataset_manifest.json · dataset_card.md |
Procedencia, licencia, hash y tamaño de cada partición. |
data_quality.json · drift_report.json |
Calidad de los datos y diferencias de distribución entre particiones. |
baseline_validation_metrics.json |
La línea base medida en validation, antes de entrenar. |
history.csv · history.png |
Pérdida y métricas época a época: aquí se ve si el entrenamiento converge o sobreajusta. |
experiment.lock.json |
El sello del experimento, escrito antes de tocar test. |
metrics.json |
El resultado final en test, más tiempo, dispositivo y número de parámetros. |
baseline_metrics.json |
La línea base en test, calculada después de tu evaluación final. |
best_model.pt · last_model.pt |
El checkpoint elegido por validación y el último, para poder compararlos. |
confidence_intervals.json |
Intervalos por bootstrap: cuánto podría moverse cada métrica. |
subgroup_metrics.json |
El mismo resultado desglosado por subgrupo, para ver qué esconde el promedio. |
predictions.csv |
Predicción por ejemplo, para analizar los errores uno a uno. |
model_spec.json · inference_contract.json |
Qué entrada espera el modelo y qué devuelve: lo que necesita quien lo despliegue. |
model_card.md · report.md |
La ficha del modelo y el informe legible de la ejecución. |
⚠️ Dónde suele perderse la gente
--quickno es una versión pequeña del resultado, es una prueba de que todo corre. En esta ruta recorta a 1024 ejemplos de entrenamiento · 256 de validación · 256 de test · 2 épocas. Sirve para comprobar la instalación y la descarga; cualquier conclusión sobre el modelo exige la ejecución completa.- Cambiar algo después de ver
testinvalida la comparación. Si al mirar el resultado final se te ocurre una mejora, la ruta correcta es volver avalidation, decidir allí, y sellar de nuevo. - Las dos semillas no son intercambiables.
--split-seedcambia qué datos caen en cada partición;--training-seedcambia cómo se inicializa y baraja el entrenamiento. Para comparar modelos se fija la primera y se varía la segunda. - No hay
confusion_matrix.png, y no es un error. Es una tarea de regresión: no existen clases que confundir. - Límite declarado de este dataset. 8.760 observaciones reales de arriendo de bicicletas y clima en Seúl.
Riesgos al interpretar los resultados
8.760 observaciones reales de arriendo de bicicletas y clima en Seúl.
El dataset refleja su proceso de recolección y no representa automáticamente otros períodos, países o poblaciones. Una asociación predictiva no demuestra causalidad.
✅ Antes de darlo por terminado
La clase está aprobada cuando se cumplen estos criterios:
- [ ] cero solapamiento entre train, validation y test
- [ ] selección basada únicamente en validation
- [ ] métricas finales acompañadas por incertidumbre
- [ ] conclusiones que distinguen evidencia de suposición
Y cuando tienes estos entregables:
- [ ] notebook ejecutado
- [ ] reporte experimental
- [ ] model card
- [ ] comparación con línea base
- [ ] respuesta a preguntas críticas
El plan experimental con la tabla que hay que completar está en experiments.md, y las preguntas con su rúbrica, en assessment.md. Ambos documentos se abren desde la barra de navegación de arriba.
Para ir más lejos
- Cambia una decisión experimental y justifícala con el resultado en
validation, no con la intuición. - Analiza los errores por clase o por segmento: casi siempre se concentran en un subconjunto reconocible.
- Compara costo, precisión y latencia; el mejor modelo no siempre es el que gana por décimas.
- Documenta sesgos, limitaciones y usos para los que no recomendarías este modelo.
📚 Fuentes
La teoría de arriba no es original de este repositorio: se apoya en la literatura de referencia del área y en los papers originales de cada arquitectura. Estas son las obras concretas, y lo que aporta cada una:
Las referencias apuntan a las obras; no se reproduce su contenido, la redacción es original.
- Goodfellow, Bengio & Courville — Deep Learning (MIT Press 2016), cap. 10 — redes con puertas (LSTM/GRU) y dependencias de largo plazo.
- Hyndman & Athanasopoulos — Forecasting: Principles and Practice (3.ª ed., OTexts) — metodología de pronóstico, líneas base y evaluación de series temporales.
- Géron — Hands-On Machine Learning (3.ª ed., O'Reilly 2022), cap. 15 — procesamiento de secuencias y pronóstico con RNN/LSTM.
- Hochreiter & Schmidhuber (1997), Long Short-Term Memory, Neural Computation — celda LSTM original y solución al gradiente que se desvanece.
- Cho et al. (2014), Learning Phrase Representations using RNN Encoder-Decoder (GRU), EMNLP — unidad recurrente con puertas simplificada.
- Fuente del dataset: https://archive.ics.uci.edu/dataset/560/seoul+bike+sharing+demand — Seoul Bike Sharing Demand (UCI Machine Learning Repository, CC BY 4.0); procedencia, versión y SHA-256 en el registro de fuentes, entrada
uci-seoul-bike-sharing-demand— esta clase la usa para pronosticar demanda horaria de bicicletas respetando el orden cronológico y sin filtrar el futuro al pasado. - Consulte
docs/experiment-protocol.md,docs/reproducibility.mdydocs/ethics-and-licenses.md.
Los archivos de este laboratorio
Todo lo que necesitas está en esta carpeta. Cada enlace abre el archivo directamente:
| Archivo | Qué es |
|---|---|
📄 README.md |
Esta guía. |
🧠 theory.md |
La teoría completa con su bibliografía; es la fuente del apartado teórico de arriba. |
🔬 experiments.md |
El plan experimental y la tabla multi-semilla que hay que completar. |
📝 assessment.md |
Las preguntas de evaluación y la rúbrica con la que se corrigen. |
🧑🏫 instructor-guide.md |
La apertura, los tiempos y las intervenciones sugeridas para facilitar esta clase. |
📓 notebook.ipynb |
El recorrido completo con todo el código escrito y ejecutable. |
✏️ notebook_student.ipynb |
El mismo recorrido con las celdas de ejercicio vacías. |
✅ notebook_solution.ipynb |
Los ejercicios resueltos, para contrastar. |
🖥️ train.py |
El mismo entrenamiento desde la terminal, sin abrir un cuaderno. |
🎛️ configs/baseline.yaml |
Épocas, lote, tasa de aprendizaje y qué recorta --quick. |
🎚️ configs/improved.yaml |
La configuración ampliada que se compara contra la base. |
🗄️ data/dataset.yaml |
Fuente, licencia, política de partición y límites del dataset. |
🧾 lesson.yaml |
Nivel, prerrequisitos, resultados de aprendizaje y criterios. |
🖥️ index.html |
Esta misma clase como página autocontenida, para leerla sin conexión. |
Y fuera de la carpeta, tres referencias que esta guía usa: el catálogo configs/labs.yaml —de donde salen el objetivo, la línea base y las métricas—, el código src/neural_labs/experiments.py —que define el orden de los pasos y los archivos que escribe cada ejecución— y docs/experiment-protocol.md, con la regla general del protocolo.
Los datasets se descargan de su proveedor original y conservan su licencia; este repositorio no los redistribuye ni sustituye una descarga fallida por datos generados.
🔬 Experimentos
Plan de experimentos — LSTM para series temporales
Qué significa «experimentar» aquí
Entrenar un modelo y mirar el número que sale no es un experimento: es una observación. Un experimento empieza por una afirmación que podría resultar falsa, sigue fijando todo lo que no se está poniendo a prueba, y termina midiendo si la afirmación se sostiene cuando se repite.
La diferencia importa porque el entrenamiento de una red tiene azar por dentro: la inicialización de los pesos y el orden en que se barajan los lotes cambian el resultado aunque no cambies nada más. Si comparas una sola corrida contra otra sola corrida, no sabes si la diferencia viene de tu idea o de la semilla. Por eso todo lo que sigue está organizado para separar la señal (el efecto de lo que cambiaste) del ruido (la variabilidad propia del entrenamiento).
La hipótesis de este laboratorio
Pronosticar demanda horaria respetando el orden temporal.
Formulada como algo que se puede refutar: el modelo de este laboratorio supera a Persistencia, media móvil y Ridge en rmse, y la diferencia es mayor que la dispersión entre semillas.
Qué la haría falsa —y esto también es un resultado que hay que reportar—:
- El modelo no supera a Persistencia, media móvil y Ridge.
- Lo supera, pero por menos de lo que varía el propio modelo al cambiar la semilla de entrenamiento.
- Lo supera solo con una semilla concreta y no con las demás.
- Lo supera a costa de un tiempo o un tamaño que el problema no justifica.
El experimento propio de esta clase
Además de la comparación con la línea base, aquí interesa una pregunta específica: Comparar ventanas, variables y horizonte. Es la comparación que da sentido al tema de este laboratorio; la de la línea base solo dice si el modelo sirve, mientras que esta dice qué parte del diseño es la que aporta.
Qué se varía y qué se mantiene fijo
Un experimento es interpretable cuando cambia una cosa a la vez. Esta tabla dice qué papel juega cada elemento y, sobre todo, por qué:
| Elemento | En este experimento | Por qué |
|---|---|---|
Partición de los datos (--split-seed) |
Fija en 42 | Si cambiara entre corridas, no podrías saber si la diferencia viene de tu modelo o de que le tocaron datos distintos. |
Semilla de entrenamiento (--training-seed) |
Varía: 41, 42, 43 | Es exactamente el ruido que quieres medir. Sin varias semillas no tienes con qué comparar la mejora. |
Configuración (--config) |
Varía: baseline y improved |
Es la intervención bajo estudio: lo único que estás poniendo a prueba. |
| Dataset y preprocesamiento | Fijos | Ajustar la normalización o el vocabulario con otros datos cambiaría el problema, no el modelo. |
| Presupuesto de épocas y criterio de parada | Fijos dentro de cada configuración | Dar más épocas a una variante que a otra es comparar dos cosas distintas. |
| Hardware y versiones | Registrados en environment.json |
No siempre se pueden fijar, pero sí dejar anotados: explican diferencias de tiempo y, a veces, de resultado. |
El conjunto test |
Intacto hasta el final | Se abre una sola vez, después de que rmse sobre validation haya elegido al ganador. |
Las dos configuraciones que vas a comparar
El laboratorio trae dos configuraciones ya escritas. Estos son los parámetros en los que difieren —el resto es idéntico, que es justamente lo que hace legible la comparación—:
| Parámetro | baseline.yaml |
improved.yaml |
Qué controla |
|---|---|---|---|
| Épocas | 20 |
50 |
Cuántas pasadas completas sobre train. |
| Tasa de aprendizaje | 0.001 |
0.0005 |
Cuánto se mueve cada peso en la dirección del gradiente. |
| Paciencia | 5 |
8 |
Épocas sin mejorar en validation antes de detener el entrenamiento. |
| Precisión mixta | no | sí | Usar float16 donde se puede: acelera en GPU, no cambia el protocolo. |
| Procesos de carga | 0 |
2 |
Procesos que preparan los lotes en paralelo. |
Elegir entre ellas es una decisión de validation. Si improved gana en validación, se queda; si no, la configuración base es la respuesta y hay que decirlo así.
Cómo ejecutar la serie
El comando benchmark hace exactamente esto: repite el entrenamiento manteniendo la partición fija y cambiando solo la semilla de entrenamiento.
neural-labs benchmark --lab 05_lstm_time_series \
--config baseline --split-seed 42 --training-seeds 41 42 43
neural-labs benchmark --lab 05_lstm_time_series \
--config improved --split-seed 42 --training-seeds 41 42 43
Por dentro, benchmark no hace magia: llama a run_lab una vez por semilla con la misma partición y resume los resultados. Desde Python es literalmente eso:
from neural_labs.experiments import run_lab
from neural_labs.benchmarking import summarize_benchmark
registros = []
for semilla in (41, 42, 43):
resultado = run_lab(
"05_lstm_time_series",
config_name="baseline",
split_seed=42, # la partición NO cambia
training_seed=semilla, # solo cambia la inicialización
)
registros.append({"training_seed": semilla, "metrics": resultado.metrics})
print(summarize_benchmark(registros)) # media y dispersión entre semillas
Empieza con --quick para comprobar que la serie corre entera; los números que se reportan salen de la ejecución completa.
La tabla que debes completar
| Variante | Semilla | Métrica en validation |
Métrica en test |
Tiempo | Parámetros | Observación |
|---|---|---|---|---|---|---|
| baseline | 41 | |||||
| baseline | 42 | |||||
| baseline | 43 | |||||
| improved | 41 | |||||
| improved | 42 | |||||
| improved | 43 |
De dónde sale cada columna, para que no haya que adivinarlo:
- Métrica en
validation: el mejor valor dermsedurante el entrenamiento; está enhistory.csvy resumido enmetrics.json. - Métrica en
test: el valor final, enmetrics.json, ya con el modelo congelado. - Tiempo:
wall_time_secondsdemetrics.json. - Parámetros:
parametersdemetrics.json; es la medida honesta del tamaño del modelo. - Observación: lo que viste y los números no dicen —una curva que se dispara, una clase que concentra los errores, una corrida que no convergió—.
Cómo decidir con esos números
- Compara medias, pero decide con la dispersión. Calcula media y desviación entre las tres semillas de cada variante. Una mejora de 0,3 puntos entre variantes cuya dispersión interna es de 1,2 puntos no es una mejora: es ruido con buena suerte.
- Si los rangos se solapan, dilo. «No se observó una diferencia distinguible del ruido con tres semillas» es una conclusión legítima y mucho más útil que un número inventado de confianza.
- Decide con
validation. La columna detestsirve para reportar el resultado final una vez, no para elegir la variante ganadora. - El costo forma parte del resultado. Si
improvedgana por poco y cuesta el triple de tiempo, la conclusión honesta menciona ambas cosas. - Vuelve a la línea base. La comparación contra Persistencia, media móvil y Ridge es la que dice si todo el aparato de la red neuronal estaba justificado para este problema.
Qué debe decir tu conclusión
Una conclusión completa contiene cinco cosas, y se puede escribir en un párrafo:
- Magnitud: cuánto mejoró, en qué métrica y sobre qué conjunto.
- Incertidumbre: cuánto varió entre semillas, y si la mejora sobrevive a esa variación.
- Costo: tiempo, memoria o tamaño adicional que hubo que pagar.
- Errores: dónde falla el modelo, no solo cuánto acierta.
- Condiciones: en qué circunstancias no esperarías que este resultado se repitiera.
Errores de diseño que invalidan el experimento
- Cambiar dos cosas a la vez. Si tocas la arquitectura y la tasa de aprendizaje en la misma corrida, el resultado no atribuye el efecto a ninguna de las dos.
- Comparar con particiones distintas. Es el error más frecuente y el más difícil de detectar después: parece una mejora del modelo y es un reparto distinto de los datos.
- Quedarse con la mejor semilla. Elegir la corrida más favorable y reportar solo esa es seleccionar el ruido. Se reportan todas.
- Ajustar mirando
test. En cuanto una decisión se toma con el resultado detest, ese conjunto deja de estimar el rendimiento con datos nuevos. - No registrar el entorno. Sin versiones ni hardware, una diferencia de tiempo o de resultado se vuelve inexplicable meses después.
📝 Evaluación
Evaluación — LSTM para series temporales
Cómo se evalúa esta clase
No se evalúa el número final. Un modelo con una métrica alta obtenida mirando test, o sin compararse con nada, vale menos que uno modesto cuyo resultado se puede auditar. Lo que se califica es el proceso: si las particiones están limpias, si la decisión se tomó donde debía, si la conclusión distingue lo que se midió de lo que se supone.
Evidencias que debes entregar
| Evidencia | Dónde vive | Por qué se pide |
|---|---|---|
| Dataset preparado y auditado | salida de neural-labs audit |
Es la única prueba de que el resultado no está contaminado por una fuga entre particiones. |
| Notebook ejecutado sin celdas omitidas | notebook.ipynb |
Una celda saltada suele ser justo la que rompía el argumento. |
| Comparación contra Persistencia, media móvil y Ridge | metrics.json y baseline_metrics.json |
Sin línea base, una métrica no dice si el modelo aporta algo. |
| Al menos tres semillas de entrenamiento, o la justificación de por qué no | salida de benchmark |
Una sola corrida no permite separar mejora de azar. |
| Análisis de errores y limitaciones | tu reporte | Saber dónde falla vale más que saber cuánto acierta. |
| Model card actualizada | model_card.md |
Es lo que permite a otra persona saber cuándo no debería usar tu modelo. |
Las preguntas, y qué se busca en tu respuesta
No se corrige la longitud de la respuesta, sino si demuestra comprensión. Debajo de cada pregunta está lo que una buena respuesta debería contener.
1. ¿Qué decide recordar, olvidar y revelar una LSTM?
Qué se busca: Comienza con la predicción que hiciste al abrir la clase y contrástala con una gráfica, una medida o una observación concreta de tu ejecución.
2. Explica con tus palabras: Puertas input, forget y output de una LSTM.
Qué se busca: Una buena respuesta conecta cuatro cosas —cómo se representa la entrada, qué calcula el modelo, qué mide la función de pérdida y cómo se actualizan los pesos— en vez de repetir la definición del libro. Si puedes explicarlo sin la fórmula delante, lo entendiste.
3. ¿Qué información del dataset solo puede usarse durante el entrenamiento?
Qué se busca: Se espera que nombres casos concretos: las estadísticas de normalización, el vocabulario, la selección de variables, los umbrales. Todo eso se ajusta solo con train; calcularlo sobre el conjunto completo es una fuga silenciosa que infla el resultado sin dar ningún aviso.
4. ¿Por qué Persistencia, media móvil y Ridge es una comparación razonable para este problema?
Qué se busca: Una buena respuesta explica qué captura la línea base y qué no, y por qué superarla —o no superarla— es informativo aquí. Si la línea base ya resuelve el problema, la conclusión correcta es que la red no estaba justificada.
5. ¿El modelo supera persistencia en períodos de cambio?
Qué se busca: Esta es la pregunta propia del tema. Responde con evidencia de tu ejecución —predicciones, matriz de confusión, curvas, artefactos del directorio de la corrida—, no con una impresión general.
6. ¿Qué aprendiste al realizar esta práctica: Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.?
Qué se busca: No basta con relatar los pasos. Explica qué cambió, por qué cambió y qué resultado te haría rechazar tu interpretación inicial.
7. Refuta con evidencia esta idea frecuente: «Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.»
Qué se busca: Se busca una refutación situada en esta materia, apoyada en el mecanismo estudiado y en los resultados obtenidos, no una negación genérica.
8. ¿Qué te dice rmse que no te dirían las otras métricas?
Qué se busca: Cada métrica pondera distinto los errores. Se espera que expliques por qué esa es la que decide aquí y en qué situación sería una mala elección.
9. ¿Qué cambiarías antes de usar este modelo fuera del laboratorio?
Qué se busca: Aquí se evalúa el criterio, no la técnica: licencias y condiciones de uso de seoul_bike, representatividad de la población, calibración de las probabilidades, vigilancia de la deriva, desempeño por subgrupo y supervisión humana. Un «funcionaría bien» sin condiciones se corrige como respuesta incompleta.
La rúbrica, explicada
| Criterio | Insuficiente | Adecuado | Excelente | Peso |
|---|---|---|---|---|
| Integridad de los datos | mezcla particiones o no puede demostrar que no lo hizo | las tres particiones están separadas y auditadas | además documenta hashes, política de partición y justifica la estrategia elegida | 20 % |
| Implementación | no ejecuta o produce resultados irreproducibles | entrena y evalúa siguiendo el protocolo | código claro y reutilizable, con las decisiones explicadas | 20 % |
| Diseño experimental | un solo resultado aislado | comparación controlada contra la línea base | varias semillas, dispersión reportada y variables controladas explícitas | 20 % |
| Análisis | repite las métricas sin interpretarlas | interpreta los errores y su distribución | identifica sesgos, límites y costo, y distingue evidencia de suposición | 25 % |
| Comunicación | incompleta o sin contexto | reporte entendible y model card presente | conclusiones verificables por un tercero a partir de los artefactos | 15 % |
La diferencia entre adecuado y excelente casi nunca está en la métrica: está en si el trabajo permite que otra persona llegue a la misma conclusión con los artefactos que dejaste. Un resultado peor, bien medido y bien explicado, se califica por encima de uno mejor que no se puede auditar.
La aprobación exige al menos 70 % y cero errores críticos de fuga de datos. La fuga es eliminatoria por sí sola porque invalida todas las demás cifras del trabajo, por buenas que parezcan.
Autoevaluación antes de entregar
- [ ] Puedo explicar la idea central de la clase a alguien que no la cursó, sin leer el código.
- [ ] Sé qué decisión tomé en cada paso y con qué evidencia la tomé.
- [ ] Miré
testuna sola vez, después de que existieraexperiment.lock.json. - [ ] Mi conclusión dice magnitud, incertidumbre, costo, errores y condiciones.
-
[ ] Puedo señalar al menos una limitación real de mi resultado.
-
[ ] cero solapamiento entre train, validation y test
- [ ] selección basada únicamente en validation
- [ ] métricas finales acompañadas por incertidumbre
- [ ] conclusiones que distinguen evidencia de suposición
🧑🏫 Guía docente
Guía docente — Clase 06: LSTM para series temporales
Módulo 2: Arquitecturas · Esta guía acompaña a quien facilita la clase; no es un guion que deba leerse literalmente.
La conversación que abre la clase
La demanda de bicicletas combina ciclos diarios, clima y tendencias. Las compuertas permiten conservar unas señales y descartar otras.
Plantee primero esta pregunta y permita que el grupo formule una predicción antes de mostrar código:
¿Qué decide recordar, olvidar y revelar una LSTM?
Qué debe quedar comprendido
- Pronosticar demanda horaria respetando el orden temporal.
- Preparar y auditar el dataset real seoul_bike sin fuga de datos.
- Entrenar y evaluar memoria recurrente para pronóstico temporal.
- Comparar contra la línea base: Persistencia, media móvil y Ridge.
- Interpretar intervalos de confianza, errores y limitaciones.
Secuencia sugerida
| Momento | Duración | Acción docente | Evidencia del estudiante |
|---|---|---|---|
| Activación | 10 min | Presentar el caso inicial y recoger predicciones. | Explica qué espera observar y por qué. |
| Construcción | 25 min | Conectar intuición, representación y matemática. | Dibuja o relata el mecanismo con sus propias palabras. |
| Demostración | 25 min | Recorrer el mapa visual y ejecutar el ejemplo mínimo. | Interpreta cada transición sin limitarse a describir la figura. |
| Investigación | 35 min | Guiar la práctica propia de esta clase. | Contrasta su predicción con una medida o gráfica. |
| Cierre | 15 min | Volver a la pregunta esencial y discutir límites. | Entrega una conclusión breve con evidencia y una duda abierta. |
Práctica propia de esta materia
Construir ventanas cronológicas, inspeccionar compuertas y comparar el pronóstico con persistencia y media móvil.
La figura es un punto de entrada. Pida al estudiante que explique qué cambia entre los tres pasos y qué resultado observable invalidaría su explicación.
Dificultad conceptual que conviene provocar
Idea engañosa: Barajar una serie temporal antes de partirla produce una evaluación optimista porque permite que el futuro informe al pasado.
No la corrija inmediatamente. Solicite un ejemplo o contraejemplo, ejecute una comparación y recién entonces reconstruya la explicación con el grupo.
Preguntas para acompañar sin resolver
- ¿Qué observación concreta respalda esa afirmación?
- ¿Qué variable está cambiando y cuáles permanecen controladas?
- ¿La gráfica muestra el mecanismo o solamente una correlación?
- ¿En qué caso dejaría de ser válida esta conclusión?
Cierre verificable
La clase termina cuando el estudiante puede responder la pregunta esencial, interpretar su visualización y señalar al menos una limitación. Una métrica aislada no reemplaza ninguna de esas tres evidencias.