Fine-tuning eficiente de transformer

Antes de tocar el código

LoRA modifica una fracción pequeña de los parámetros y plantea una pregunta medible: cuánto rendimiento se conserva por cada recurso ahorrado.

Pregunta esencial: ¿Cuánta adaptación necesita un transformer para una tarea nueva?

Haz una predicción antes de ejecutar el notebook. Al final volverás a ella y tendrás que decir qué evidencia la confirmó, la corrigió o la dejó abierta.

Mapa de esta clase: Adaptar poco sin aprender poco. La figura no es decorativa; úsala para explicar el mecanismo con tus propias palabras.

🎯 Qué vas a aprender y construir

Comparar fine-tuning completo y LoRA sin tocar test durante selección.

Práctica propia de esta clase: Comparar fine-tuning completo y LoRA con igual partición y reportar parámetros, memoria, latencia y macro-F1.

Es la clase 26 de 31 del programa y pertenece a 🔬 el módulo 7, Especializaciones avanzadas. Llegas desde Proyecto final: churn de telecomunicaciones y lo que hagas aquí lo da por supuesto Segmentación semántica con U-Net.

Trabajarás con el dataset ag_news (Hugging Face Datasets, licencia: Consultar ficha AG News), y tendrás que superar la línea base TF-IDF + regresión logística, decidiendo con la métrica accuracy medida sobre validation. Nivel avanzado, unas 8 horas de dedicación.

Qué recibe el modelo como entrada: texto en inglés.

Lo que conviene traer resuelto de las clases anteriores: PyTorch, NLP, Transformers.

Al terminar deberías ser capaz de:

• Comparar fine-tuning completo y LoRA sin tocar test durante selección.
• Interpretar accuracy, macro_f1
• Aplicar sellado de test y reproducibilidad

Una idea que conviene desmontar

Entrenar menos parámetros no garantiza menor latencia de inferencia; el ahorro principal puede estar solo en entrenamiento y almacenamiento.

🧠 Comprender antes de entrenar

Esta sección es la explicación completa del tema. No hace falta abrir otro archivo para entender lo que viene después: aquí está la idea, la matemática que la sostiene y sus límites. (El mismo texto vive en theory.md, que es la fuente desde la que se genera esta guía, junto con la bibliografía del final.)

De qué trata

Hasta aquí el recorrido entrenaba modelos desde cero. Este laboratorio invierte el punto de partida: se toma un modelo que ya sabe leer —preentrenado sobre miles de millones de palabras— y se pregunta cuánto hay que moverlo para que resuelva una tarea concreta. Clasificar titulares en cuatro categorías no requiere volver a aprender qué es un sustantivo ni cómo se relacionan las palabras de una frase: eso ya está en los pesos. Requiere, como mucho, reorientar esa competencia.

La pregunta que organiza el laboratorio es cuánto del modelo hay que tocar. El fine-tuning completo mueve los 67 millones de parámetros de DistilBERT; funciona, pero obliga a almacenar una copia entera del modelo por cada tarea, y en modelos grandes el costo de memoria del optimizador multiplica el problema. La alternativa parte de una observación empírica: la diferencia entre los pesos preentrenados y los ajustados tiene rango efectivo bajo, es decir, cabe en muchas menos dimensiones de las que ocupa. Si eso es cierto, se puede congelar el modelo y aprender solo esa corrección de rango pequeño.

Ese es el contraste que se mide aquí: fine-tuning completo frente a LoRA, comparando no solo la calidad sino el número de parámetros entrenables y la latencia. Y por debajo de ambos, una línea base de TF-IDF con regresión logística, que representa el texto por frecuencias de palabras sin orden ni contexto. Si la línea base queda cerca, la conclusión honesta es que la tarea no necesitaba un transformer; si queda lejos, la distancia mide exactamente cuánto aporta la comprensión lingüística preentrenada.

La matemática, paso a paso

Un transformer procesa el texto tras convertirlo en tokens subword (WordPiece en el caso de DistilBERT). Cada token se representa por un vector de embedding al que se le suma una codificación posicional, formando una matriz X ∈ ℝ^(n×d), donde n es la longitud de secuencia y d la dimensión oculta. El corazón del modelo es la autoatención: a partir de X se proyectan consultas, claves y valores mediante matrices aprendidas, Q = X·W_Q, K = X·W_K, V = X·W_V, y se calcula

Attention(Q, K, V) = softmax( (Q·Kᵀ) / √d_k ) · V.

La división por √d_k evita que los productos escalares crezcan con la dimensión y saturen el softmax; la matriz softmax(Q·Kᵀ/√d_k) es la que se visualiza como "mapa de atención", pues cada fila indica cuánto pesa cada token del contexto al construir la representación de un token dado. Con varias cabezas (multi-head) el modelo atiende simultáneamente a distintos subespacios de relación.

El preentrenamiento (BERT) optimiza un objetivo de modelado de lenguaje enmascarado: se ocultan tokens aleatorios y la red minimiza la entropía cruzada al predecirlos, ℒ = −Σᵢ log p(xᵢ | x_contexto). Así el modelo aprende representaciones lingüísticas generales antes de ver la tarea final. DistilBERT es una versión destilada: un modelo "estudiante" más pequeño se entrena para imitar al "profesor" BERT, combinando la pérdida supervisada con un término de destilación sobre las distribuciones suaves del profesor (softmax con temperatura), conservando ~97% del rendimiento con ~40% menos parámetros.

En el fine-tuning completo se añade una capa de clasificación sobre el embedding del token especial [CLS] y se actualizan todos los pesos θ del modelo mediante descenso de gradiente sobre la entropía cruzada de la tarea, θ ← θ − α·∇_θ ℒ. Es potente pero costoso: hay que almacenar y actualizar decenas de millones de parámetros por tarea. La adaptación eficiente LoRA parte de la observación de que la actualización necesaria ΔW tiene rango efectivo bajo. En lugar de modificar la matriz preentrenada W₀ ∈ ℝ^(d×k), LoRA la congela y aprende una corrección factorizada de rango r pequeño:

W = W₀ + ΔW = W₀ + (α/r)·B·A, con B ∈ ℝ^(d×r), A ∈ ℝ^(r×k), r ≪ min(d, k).

Solo se entrenan A y B (más el factor de escala α/r), reduciendo los parámetros entrenables en órdenes de magnitud sin añadir latencia en inferencia (las matrices pueden fusionarse en W). Esta es la esencia del parameter-efficient transfer learning, emparentada con los adapters de Houlsby et al., que insertan pequeños módulos entrenables entre capas congeladas. La línea base TF-IDF + regresión logística sirve de contraste: representa el texto por frecuencias de término ponderadas, sin capturar orden ni contexto, y ayuda a medir cuánto aporta realmente la atención preentrenada.

La cuenta de parámetros, que es el argumento entero

Conviene hacer la aritmética, porque es donde se ve la magnitud del ahorro. Adaptar una matriz W₀ ∈ ℝ^(d×k) por la vía completa exige entrenar sus d·k pesos. Por la vía LoRA se entrenan las dos matrices factorizadas: r·d entradas en B más r·k en A, es decir

parámetros_LoRA = r·(d + k), frente a parámetros_completo = d·k.

La razón entre ambas es r·(d + k) / (d·k), que para una matriz cuadrada d = k se simplifica a 2r/d. Con la dimensión oculta de DistilBERT, d = 768, y un rango r = 8, esa fracción es 16/768 ≈ 2,1 %: se entrena una cincuentava parte de lo que se entrenaría adaptando esa matriz por completo. El ahorro real es aún mayor, porque LoRA suele aplicarse solo a las proyecciones de atención (W_Q y W_V) y deja intactas las capas densas intermedias.

El factor de escala α/r no es decorativo: mantiene la magnitud de la actualización aproximadamente constante cuando se cambia r, de modo que el rango se pueda variar sin tener que reajustar la tasa de aprendizaje. Y A se inicializa con ruido pequeño mientras B se inicializa en cero, así que al empezar ΔW = B·A = 0 y el modelo arranca siendo exactamente el preentrenado: el ajuste parte de donde quedó el preentrenamiento, no de una perturbación aleatoria.

En inferencia no hay penalización porque W₀ + (α/r)·B·A se puede calcular una vez y guardarse como una sola matriz. Esa es la diferencia práctica con los adapters, que añaden módulos en serie y por tanto suman latencia en cada paso.

El bloque completo, más allá de la atención

La atención no actúa sola. Cada bloque del transformer la envuelve en dos operaciones que son las que permiten apilar capas sin que el entrenamiento se degrade: una conexión residual y una normalización de capa. El bloque calcula

h = LayerNorm( x + MHA(x) ), y = LayerNorm( h + FFN(h) ),

donde MHA es la atención multi-cabeza y FFN una red densa de dos capas aplicada posición a posición, FFN(h) = W₂ · GELU(W₁·h + b₁) + b₂, típicamente con dimensión interna 4d. La suma residual crea un camino directo por el que el gradiente llega a las capas iniciales sin atenuarse; la normalización de capa estandariza cada vector de activación sobre su propia dimensión —a diferencia de la normalización por lotes, que promedia sobre el lote— y por eso funciona con secuencias de longitud variable y lotes pequeños.

Conviene notar dónde vive el costo: la atención tiene complejidad O(n²·d) en la longitud de secuencia n, porque construye la matriz Q·Kᵀ de n×n. Duplicar la longitud máxima de los titulares cuadruplica ese término. La FFN, en cambio, es O(n·d²). Para secuencias cortas como las de este laboratorio domina la segunda; en documentos largos, la primera.

La cabeza de clasificación se conecta al vector del token especial [CLS], que por construcción atiende a toda la secuencia y actúa como resumen agregado. Sobre él se aplica una capa lineal a las C clases y un softmax, y se optimiza la entropía cruzada ℒ = −Σ_c y_c · log ŷ_c. Una consecuencia práctica: como esa capa es la única inicializada al azar mientras el resto viene preentrenado, se suele usar una tasa de aprendizaje pequeña (del orden de 2·10⁻⁵ a 5·10⁻⁵) para todo el modelo, evitando que los primeros gradientes —grandes, porque la cabeza no sabe nada— destruyan las representaciones aprendidas. Ese fenómeno se conoce como olvido catastrófico, y es la razón de que un fine-tuning con la tasa de un entrenamiento desde cero suela empeorar el resultado en vez de mejorarlo.

Qué hereda DistilBERT de la destilación

El modelo de partida no es BERT sino su versión destilada, y eso también es matemática explícita. La destilación de Hinton, Vinyals y Dean entrena al estudiante para reproducir las distribuciones suaves del profesor, no solo la etiqueta correcta. Con logits z, la distribución suavizada por temperatura T es

p_i^(T) = exp(z_i / T) / Σ_j exp(z_j / T),

y la pérdida combina el término supervisado habitual con la divergencia respecto del profesor:

ℒ = (1 − λ)·ℒ_CE(y, p^(1)_estudiante) + λ·T²·KL( p^(T)_profesor ‖ p^(T)_estudiante ).

Una temperatura T > 1 aplana las distribuciones y revela información que la etiqueta dura esconde —qué clases confunde el profesor, y cuánto—; ese conocimiento sobre las proporciones de error es lo que permite al estudiante aprender más rápido que entrenando solo con etiquetas. El factor T² compensa que los gradientes del término suavizado escalan como 1/T². DistilBERT aplica esta receta sobre las 12 capas de BERT para quedarse con 6, conservando alrededor del 97 % del rendimiento con un 40 % menos de parámetros, y es la razón de que este laboratorio pueda entrenarse sin GPU dedicada.

Qué conviene graficar

Distribución de longitud, matriz de confusión, atención y comparación LoRA/full. Los mapas de atención revelan qué tokens influyen en la clasificación; la comparación LoRA vs. fine-tuning completo contrasta accuracy y macro_f1 frente al número de parámetros entrenables y la latencia, para juzgar el coste-beneficio de cada estrategia.

Qué se mide y con qué se decide

La clase reporta accuracy, macro_f1, latency_ms, trainable_parameters. De todas ellas, la que decide qué modelo se conserva es accuracy, y se mide siempre sobre validation: es la única forma de que test siga siendo una estimación honesta de lo que pasará con datos nuevos.

📓 Los tres cuadernos

La clase se puede recorrer en Jupyter y trae tres cuadernos con papeles distintos. Los tres siguen el mismo camino —descargar el dataset real, auditar la partición, entrenar, sellar el experimento y evaluar test una vez—; lo que cambia es qué te toca escribir a ti:

Qué se practica en los ejercicios

Cinco de ellos cubren el contrato experimental común: auditar la partición, decidir con validation, compararse con la línea base, sellar antes de abrir test y dejar el plan por escrito. Se resuelven con Python estándar —sin descargar el dataset ni entrenar—, así que se corrigen en segundos y sin GPU, y cada uno está parametrizado con los valores de este laboratorio: su métrica de selección, su línea base y su experimento propio.

Cómo abrirlos

Los cuadernos necesitan el extra notebooks, que instala Jupyter junto con el paquete:

pip install -e ".[dev,notebooks]"
jupyter lab advanced_labs/25_transformer_finetuning/notebook.ipynb

También se abren desde VS Code —con la extensión de Jupyter— haciendo doble clic en el archivo, o desde la interfaz clásica con jupyter notebook. El primer arranque descarga el dataset real desde su proveedor, así que la primera ejecución tarda más y requiere conexión.

Si prefieres ejecutar sin abrir un cuaderno, train.py hace exactamente lo mismo desde la terminal, y la sección de comandos de arriba explica cada opción.

🖥️ Los comandos, explicados

Todo el laboratorio se maneja con una sola herramienta de terminal, neural-labs, que se instala junto con el paquete (pip install -e ".[dev,notebooks]"). Cada subcomando hace una cosa del protocolo, y por eso se pueden ejecutar por separado: preparar datos, auditar la partición, entrenar, repetir con varias semillas.

La forma general es siempre la misma:

neural-labs <subcomando> --track <identificador> [opciones]

Lo mismo desde Python

from neural_labs.advanced.training import train_advanced

resultado = train_advanced(
    "25_transformer_finetuning",
    quick=True,
    split_seed=42,
    training_seed=43,
)

print(resultado["run_dir"])
print(resultado["metrics"])

🪜 Laboratorio guiado

Cada paso dice qué ocurre por dentro, por qué se hace en ese orden y cómo comprobar que salió bien. El orden no es una convención de estilo: es el que ejecuta el código, y alterarlo invalida el resultado.

Paso 1 — Estudiar la teoría antes de ejecutar nada

Qué ocurre. Leer theory.md, que desarrolla Tokenización subword, atención preentrenada, fine-tuning completo y adaptación eficiente LoRA. y cita las obras y papers de los que procede.

Por qué. Estas rutas usan arquitecturas donde un error de comprensión no se manifiesta como un fallo, sino como un número plausible pero equivocado.

Cómo sabes que salió bien. Puedes explicar qué mide accuracy y por qué es la métrica de selección aquí.

Paso 2 — Ejecutar la versión rápida

Qué ocurre. Descarga el dataset y los pesos preentrenados desde su proveedor, entrena una versión reducida y escribe la ejecución en runs-advanced/.

Por qué. Antes de gastar horas de cómputo conviene comprobar que la descarga, el entorno y la ruta completa funcionan de extremo a extremo.

neural-labs train-advanced --track 25_transformer_finetuning --quick --lora

Cómo sabes que salió bien. Termina sin error y deja metrics.json, history.json y best_model.pt en el directorio de la ejecución.

Paso 3 — Entrenar en serio y seleccionar con validation

Qué ocurre. Se entrena el modelo completo conservando el checkpoint con el mejor valor de accuracy en validación, y se sella el experimento antes de evaluar test.

Por qué. Igual que en las clases centrales: validation decide, test solo confirma, y el sello deja por escrito qué se había decidido antes de mirar.

neural-labs train-advanced --track 25_transformer_finetuning --split-seed 42 --training-seed 43 --lora

Cómo sabes que salió bien. Existe experiment.lock.json y metrics.json incluye tanto el valor de validación como el de test.

Paso 4 — Repetir con otra semilla de entrenamiento

Qué ocurre. Se repite el entrenamiento con la misma partición y distinta semilla de entrenamiento.

Por qué. Estas arquitecturas —adversariales, contrastivas, de difusión— son especialmente sensibles a la inicialización: una sola ejecución no permite distinguir una mejora de una casualidad.

neural-labs train-advanced --track 25_transformer_finetuning --split-seed 42 --training-seed 44 --lora

Cómo sabes que salió bien. Puedes reportar el rango entre ejecuciones, no un único número.

Paso 5 — Documentar los límites

Qué ocurre. Registrar el resultado junto con la limitación declarada de la ruta y responder assessment.md.

Por qué. En generación y aprendizaje autosupervisado las métricas son aproximaciones: sin declarar qué NO demuestran, invitan a conclusiones que los números no sostienen.

Cómo sabes que salió bien. Tu reporte dice qué mejoró, cuánto costó y en qué condiciones no esperarías el mismo resultado.

🔍 Cómo leer lo que produce la ejecución

Cada ejecución escribe su propio directorio con nombre único, de modo que dos corridas nunca se pisan. Esto es lo que encontrarás dentro:

⚠️ Dónde suele perderse la gente

• Cambiar algo después de ver test invalida la comparación. Si al mirar el resultado final se te ocurre una mejora, la ruta correcta es volver a validation, decidir allí, y sellar de nuevo.
• Las dos semillas no son intercambiables. --split-seed cambia qué datos caen en cada partición; --training-seed cambia cómo se inicializa y baraja el entrenamiento. Para comparar modelos se fija la primera y se varía la segunda.
• Límite declarado de este dataset. El corpus contiene titulares históricos y sesgos editoriales; no representa todo el lenguaje contemporáneo.

Riesgos al interpretar los resultados

El corpus contiene titulares históricos y sesgos editoriales; no representa todo el lenguaje contemporáneo. Además, un mapa de atención alto no implica causalidad ni "explicación" fiable de la decisión: la atención es una entre varias señales internas del modelo y debe interpretarse con cautela.

✅ Antes de darlo por terminado

La clase está aprobada cuando se cumplen estos criterios:

• [ ] responde la pregunta esencial con evidencia de la ejecución
• [ ] interpreta la visualización propia de la clase
• [ ] distingue resultados observados de supuestos

Y cuando tienes estos entregables:

• [ ] notebook ejecutado
• [ ] reporte experimental
• [ ] model card

El plan experimental con la tabla que hay que completar está en experiments.md, y las preguntas con su rúbrica, en assessment.md. Ambos documentos se abren desde la barra de navegación de arriba.

Para ir más lejos

• Cambia una decisión experimental y justifícala con el resultado en validation, no con la intuición.
• Analiza los errores por clase o por segmento: casi siempre se concentran en un subconjunto reconocible.
• Compara costo, precisión y latencia; el mejor modelo no siempre es el que gana por décimas.
• Documenta sesgos, limitaciones y usos para los que no recomendarías este modelo.

📚 Fuentes

La teoría de arriba no es original de este repositorio: se apoya en la literatura de referencia del área y en los papers originales de cada arquitectura. Estas son las obras concretas, y lo que aporta cada una:

Las referencias apuntan a las obras; no se reproduce su contenido, la redacción es original.

• Vaswani et al. (2017), Attention Is All You Need, NeurIPS — define la autoatención escalada, el bloque residual con normalización de capa y la FFN posición a posición.
• Devlin et al. (2019), BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding, NAACL — introduce el preentrenamiento bidireccional con modelado de lenguaje enmascarado.
• Hinton, Vinyals & Dean (2015), Distilling the Knowledge in a Neural Network, NeurIPS Deep Learning Workshop — la destilación con temperatura de la que parte DistilBERT.
• Sanh et al. (2019), DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter — destilación que reduce tamaño y latencia conservando casi todo el rendimiento.
• Houlsby et al. (2019), Parameter-Efficient Transfer Learning for NLP, ICML — módulos adapter entrenables entre capas congeladas.
• Hu et al. (2022), LoRA: Low-Rank Adaptation of Large Language Models, ICLR — adaptación de bajo rango que congela los pesos base y aprende una corrección B·A.
• Géron — Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow (3.ª ed., O'Reilly 2022), cap. 16 — tratamiento didáctico de atención y transformers para NLP.
• Fuente del dataset: https://huggingface.co/datasets/fancyzhx/ag_news — AG News Topic Classification Dataset (Distribuido por Hugging Face Datasets, La ficha de Hugging Face declara unknown); procedencia, versión y SHA-256 en el registro de fuentes, entrada ag-news — esta clase la usa para contrastar fine-tuning completo, LoRA y una línea base TF-IDF en la clasificación de titulares reales.

Los archivos de este laboratorio

Todo lo que necesitas está en esta carpeta. Cada enlace abre el archivo directamente:

Y fuera de la carpeta, tres referencias que esta guía usa: el catálogo configs/advanced_tracks.yaml —de donde salen el objetivo, la línea base y las métricas—, el código src/neural_labs/advanced/training.py —que define el orden de los pasos y los archivos que escribe cada ejecución— y docs/experiment-protocol.md, con la regla general del protocolo.

Los datasets se descargan de su proveedor original y conservan su licencia; este repositorio no los redistribuye ni sustituye una descarga fallida por datos generados.

🔬 Experimentos

Plan de experimentos — Fine-tuning eficiente de transformer

Qué significa «experimentar» aquí

Entrenar un modelo y mirar el número que sale no es un experimento: es una observación. Un experimento empieza por una afirmación que podría resultar falsa, sigue fijando todo lo que no se está poniendo a prueba, y termina midiendo si la afirmación se sostiene cuando se repite.

La diferencia importa porque el entrenamiento de una red tiene azar por dentro: la inicialización de los pesos y el orden en que se barajan los lotes cambian el resultado aunque no cambies nada más. Si comparas una sola corrida contra otra sola corrida, no sabes si la diferencia viene de tu idea o de la semilla. Por eso todo lo que sigue está organizado para separar la señal (el efecto de lo que cambiaste) del ruido (la variabilidad propia del entrenamiento).

La hipótesis de este laboratorio

Comparar fine-tuning completo y LoRA sin tocar test durante selección.

Formulada como algo que se puede refutar: el modelo de este laboratorio supera a TF-IDF + regresión logística en accuracy, y la diferencia es mayor que la dispersión entre semillas.

Qué la haría falsa —y esto también es un resultado que hay que reportar—:

• El modelo no supera a TF-IDF + regresión logística.
• Lo supera, pero por menos de lo que varía el propio modelo al cambiar la semilla de entrenamiento.
• Lo supera solo con una semilla concreta y no con las demás.
• Lo supera a costa de un tiempo o un tamaño que el problema no justifica.

El experimento propio de esta clase

Además de la comparación con la línea base, aquí interesa una pregunta específica: Comparar fine-tuning completo con LoRA manteniendo la partición y la semilla de entrenamiento. Es la comparación que da sentido al tema de este laboratorio; la de la línea base solo dice si el modelo sirve, mientras que esta dice qué parte del diseño es la que aporta.

Qué se varía y qué se mantiene fijo

Un experimento es interpretable cuando cambia una cosa a la vez. Esta tabla dice qué papel juega cada elemento y, sobre todo, por qué:

Cómo ejecutar la serie

En las especializaciones no hay comando de repetición automática: se lanza el entrenamiento una vez por semilla, manteniendo fija la partición.

neural-labs train-advanced --track 25_transformer_finetuning --split-seed 42 --training-seed 41
neural-labs train-advanced --track 25_transformer_finetuning --split-seed 42 --training-seed 42
neural-labs train-advanced --track 25_transformer_finetuning --split-seed 42 --training-seed 43

Cada corrida escribe su propio directorio en runs-advanced/, con metrics.json e history.json.

La tabla que debes completar

De dónde sale cada columna, para que no haya que adivinarlo:

• Métrica en validation: el mejor valor de accuracy durante el entrenamiento; está en history.csv y resumido en metrics.json.
• Métrica en test: el valor final, en metrics.json, ya con el modelo congelado.
• Tiempo: wall_time_seconds de metrics.json.
• Parámetros: parameters de metrics.json; es la medida honesta del tamaño del modelo.
• Observación: lo que viste y los números no dicen —una curva que se dispara, una clase que concentra los errores, una corrida que no convergió—.

Cómo decidir con esos números

1. Compara medias, pero decide con la dispersión. Calcula media y desviación entre las tres semillas de cada variante. Una mejora de 0,3 puntos entre variantes cuya dispersión interna es de 1,2 puntos no es una mejora: es ruido con buena suerte.
2. Si los rangos se solapan, dilo. «No se observó una diferencia distinguible del ruido con tres semillas» es una conclusión legítima y mucho más útil que un número inventado de confianza.
3. Decide con validation. La columna de test sirve para reportar el resultado final una vez, no para elegir la variante ganadora.
4. El costo forma parte del resultado. Si improved gana por poco y cuesta el triple de tiempo, la conclusión honesta menciona ambas cosas.
5. Vuelve a la línea base. La comparación contra TF-IDF + regresión logística es la que dice si todo el aparato de la red neuronal estaba justificado para este problema.

Qué debe decir tu conclusión

Una conclusión completa contiene cinco cosas, y se puede escribir en un párrafo:

• Magnitud: cuánto mejoró, en qué métrica y sobre qué conjunto.
• Incertidumbre: cuánto varió entre semillas, y si la mejora sobrevive a esa variación.
• Costo: tiempo, memoria o tamaño adicional que hubo que pagar.
• Errores: dónde falla el modelo, no solo cuánto acierta.
• Condiciones: en qué circunstancias no esperarías que este resultado se repitiera.

Errores de diseño que invalidan el experimento

• Cambiar dos cosas a la vez. Si tocas la arquitectura y la tasa de aprendizaje en la misma corrida, el resultado no atribuye el efecto a ninguna de las dos.
• Comparar con particiones distintas. Es el error más frecuente y el más difícil de detectar después: parece una mejora del modelo y es un reparto distinto de los datos.
• Quedarse con la mejor semilla. Elegir la corrida más favorable y reportar solo esa es seleccionar el ruido. Se reportan todas.
• Ajustar mirando test. En cuanto una decisión se toma con el resultado de test, ese conjunto deja de estimar el rendimiento con datos nuevos.
• No registrar el entorno. Sin versiones ni hardware, una diferencia de tiempo o de resultado se vuelve inexplicable meses después.

📝 Evaluación

Evaluación — Fine-tuning eficiente de transformer

Cómo se evalúa esta clase

No se evalúa el número final. Un modelo con una métrica alta obtenida mirando test, o sin compararse con nada, vale menos que uno modesto cuyo resultado se puede auditar. Lo que se califica es el proceso: si las particiones están limpias, si la decisión se tomó donde debía, si la conclusión distingue lo que se midió de lo que se supone.

Evidencias que debes entregar

Las preguntas, y qué se busca en tu respuesta

No se corrige la longitud de la respuesta, sino si demuestra comprensión. Debajo de cada pregunta está lo que una buena respuesta debería contener.

1. ¿Cuánta adaptación necesita un transformer para una tarea nueva?

Qué se busca: Comienza con la predicción que hiciste al abrir la clase y contrástala con una gráfica, una medida o una observación concreta de tu ejecución.

2. Explica con tus palabras: Tokenización subword, atención preentrenada, fine-tuning completo y adaptación eficiente LoRA.

Qué se busca: Una buena respuesta conecta cuatro cosas —cómo se representa la entrada, qué calcula el modelo, qué mide la función de pérdida y cómo se actualizan los pesos— en vez de repetir la definición del libro. Si puedes explicarlo sin la fórmula delante, lo entendiste.

3. ¿Qué información del dataset solo puede usarse durante el entrenamiento?

Qué se busca: Se espera que nombres casos concretos: las estadísticas de normalización, el vocabulario, la selección de variables, los umbrales. Todo eso se ajusta solo con train; calcularlo sobre el conjunto completo es una fuga silenciosa que infla el resultado sin dar ningún aviso.

4. ¿Por qué TF-IDF + regresión logística es una comparación razonable para este problema?

Qué se busca: Una buena respuesta explica qué captura la línea base y qué no, y por qué superarla —o no superarla— es informativo aquí. Si la línea base ya resuelve el problema, la conclusión correcta es que la red no estaba justificada.

5. ¿Qué aprendiste al realizar esta práctica: Comparar fine-tuning completo y LoRA con igual partición y reportar parámetros, memoria, latencia y macro-F1.?

Qué se busca: No basta con relatar los pasos. Explica qué cambió, por qué cambió y qué resultado te haría rechazar tu interpretación inicial.

6. Refuta con evidencia esta idea frecuente: «Entrenar menos parámetros no garantiza menor latencia de inferencia; el ahorro principal puede estar solo en entrenamiento y almacenamiento.»

Qué se busca: Se busca una refutación situada en esta materia, apoyada en el mecanismo estudiado y en los resultados obtenidos, no una negación genérica.

7. ¿Qué te dice accuracy que no te dirían las otras métricas?

Qué se busca: Cada métrica pondera distinto los errores. Se espera que expliques por qué esa es la que decide aquí y en qué situación sería una mala elección.

8. ¿Qué cambiarías antes de usar este modelo fuera del laboratorio?

Qué se busca: Aquí se evalúa el criterio, no la técnica: licencias y condiciones de uso de ag_news, representatividad de la población, calibración de las probabilidades, vigilancia de la deriva, desempeño por subgrupo y supervisión humana. Un «funcionaría bien» sin condiciones se corrige como respuesta incompleta.

La rúbrica, explicada

La diferencia entre adecuado y excelente casi nunca está en la métrica: está en si el trabajo permite que otra persona llegue a la misma conclusión con los artefactos que dejaste. Un resultado peor, bien medido y bien explicado, se califica por encima de uno mejor que no se puede auditar.

La aprobación exige al menos 70 % y cero errores críticos de fuga de datos. La fuga es eliminatoria por sí sola porque invalida todas las demás cifras del trabajo, por buenas que parezcan.

Autoevaluación antes de entregar

• [ ] Puedo explicar la idea central de la clase a alguien que no la cursó, sin leer el código.
• [ ] Sé qué decisión tomé en cada paso y con qué evidencia la tomé.
• [ ] Miré test una sola vez, después de que existiera experiment.lock.json.
• [ ] Mi conclusión dice magnitud, incertidumbre, costo, errores y condiciones.

• [ ] Puedo señalar al menos una limitación real de mi resultado.

• [ ] responde la pregunta esencial con evidencia de la ejecución

• [ ] interpreta la visualización propia de la clase
• [ ] distingue resultados observados de supuestos

🧑‍🏫 Guía docente

Guía docente — Clase 26: Fine-tuning eficiente de transformer

Módulo 7: Especializaciones avanzadas · Esta guía acompaña a quien facilita la clase; no es un guion que deba leerse literalmente.

La conversación que abre la clase

LoRA modifica una fracción pequeña de los parámetros y plantea una pregunta medible: cuánto rendimiento se conserva por cada recurso ahorrado.

Plantee primero esta pregunta y permita que el grupo formule una predicción antes de mostrar código:

¿Cuánta adaptación necesita un transformer para una tarea nueva?

Qué debe quedar comprendido

• Comparar fine-tuning completo y LoRA sin tocar test durante selección.
• Interpretar accuracy, macro_f1
• Aplicar sellado de test y reproducibilidad

Secuencia sugerida

Práctica propia de esta materia

Comparar fine-tuning completo y LoRA con igual partición y reportar parámetros, memoria, latencia y macro-F1.

La figura es un punto de entrada. Pida al estudiante que explique qué cambia entre los tres pasos y qué resultado observable invalidaría su explicación.

Dificultad conceptual que conviene provocar

Idea engañosa: Entrenar menos parámetros no garantiza menor latencia de inferencia; el ahorro principal puede estar solo en entrenamiento y almacenamiento.

No la corrija inmediatamente. Solicite un ejemplo o contraejemplo, ejecute una comparación y recién entonces reconstruya la explicación con el grupo.

Preguntas para acompañar sin resolver

• ¿Qué observación concreta respalda esa afirmación?
• ¿Qué variable está cambiando y cuáles permanecen controladas?
• ¿La gráfica muestra el mecanismo o solamente una correlación?
• ¿En qué caso dejaría de ser válida esta conclusión?

Cierre verificable

La clase termina cuando el estudiante puede responder la pregunta esencial, interpretar su visualización y señalar al menos una limitación. Una métrica aislada no reemplaza ninguna de esas tres evidencias.