181 — IA para ciencia, clima y salud responsable

← Clase anterior · Índice de la parte · Clase siguiente →

Parte: 14 — Frontera, investigación y proyectos integradores
Nivel: frontera · Horas estimadas: 6
Laboratorio: evaluation · Estado: EXECUTABLE_CORE

🎯 Propósito

Comprender ia para ciencia, clima y salud responsable dentro de la evolución de la inteligencia artificial, implementar un experimento mínimo verificable y distinguir qué parte constituye evidencia frente a una afirmación todavía no comprobada.

📚 Resultados de aprendizaje

Al finalizar podrás:

1. Explicar ia para ciencia, clima y salud responsable usando los conceptos science, climate, health, validation.
2. Ejecutar el laboratorio con una semilla explícita y revisar su contrato JSON.
3. Identificar al menos un supuesto, una limitación y un riesgo de aplicación.
4. Comparar el enfoque con la etapa anterior de la ruta de aprendizaje.
5. Producir una evidencia reproducible y una conclusión que no exceda los datos.

🧩 Conceptos centrales

science, climate, health, validation

🗺️ Ubicación en el mapa de la IA

Aquí la IA deja de ser producto y vuelve a ser instrumento científico. Tres casos marcan la diferencia entre promesa y resultado: AlphaFold 2 (2021) resolvió con precisión experimental un problema abierto de 50 años, la predicción de estructura de proteínas; GraphCast (2023) superó al modelo determinista operativo del ECMWF en la mayoría de variables meteorológicas a 10 días, en un minuto de cómputo; y la IA clínica acumula, en cambio, una larga lista de modelos publicados que nunca sirvieron a un paciente. Esta clase hereda de aprendizaje profundo, GNN y transformers (partes 4-6) y de la evaluación rigurosa (parte 13): lo que distingue los tres casos no es la arquitectura sino el régimen de validación.

📖 Fundamentos

🧬 AlphaFold: por qué funcionó

El problema: dada una secuencia de aminoácidos, predecir la estructura 3D de la proteína. Ingredientes del salto (Jumper et al., 2021, DOI 10.1038/s41586-021-03819-2):

• Señal evolutiva: los alineamientos múltiples de secuencias (MSA) contienen co-evolución — residuos que mutan juntos suelen estar en contacto espacial. Es información física escondida en bases de datos públicas.
• Sesgo inductivo geométrico: el módulo Evoformer razona sobre pares de residuos y el módulo de estructura predice rotaciones/traslaciones respetando la equivarianza (la física no cambia si giras la molécula).
• Benchmark ciego: CASP evalúa contra estructuras experimentales aún no publicadas. AlphaFold 2 alcanzó GDT_TS mediano ~92 en CASP14 (≈ precisión experimental). Ningún resultado autoevaluado habría tenido ese valor probatorio.
• Incertidumbre calibrada: pLDDT por residuo indica dónde confiar. Un biólogo usa las regiones con pLDDT alto y descarta las bajas.

🌍 GraphCast y el clima

Los modelos numéricos (NWP) resuelven ecuaciones diferenciales de la atmósfera en supercomputadores. GraphCast (Lam et al., 2023, Science) entrena una GNN sobre 40 años de reanálisis ERA5 para predecir el estado siguiente (paso de 6 h) y se itera autorregresivamente hasta 10 días. Resultado: mejor que HRES del ECMWF en la mayoría de variables/plazos, con inferencia en ~1 minuto en una TPU frente a horas en supercomputador. Matices que la divulgación suele omitir:

• Aprende de ERA5, que a su vez es producto de la asimilación de datos del modelo físico: la IA no reemplaza la observación ni la asimilación, se apoya en ellas.
• Es predicción meteorológica (días), no proyección climática (décadas bajo escenarios de emisiones): son problemas distintos; extrapolar fuera de la distribución de entrenamiento es exactamente lo que un modelo aprendido no garantiza.
• Los eventos extremos son la cola escasa del dataset: donde más importa acertar es donde menos ejemplos hay.

🏥 Salud: por qué se atasca

La revisión sistemática de Wynants et al. (BMJ 2020) sobre modelos COVID-19 evaluó más de 200 modelos publicados y concluyó que casi todos tenían alto riesgo de sesgo y ninguno era recomendable para uso clínico. Causas recurrentes:

1. Fuga de datos / atajos:  el modelo aprende el marcador del hospital o el tipo de
   equipo en la radiografía, no la patología (Zech et al. 2018).
2. Sin validación externa:  entrenar y validar en la misma población; el rendimiento
   cae al cambiar de hospital (distribution shift).
3. Métrica equivocada:  AUC alto con prevalencia baja → precisión inútil (misma
   falacia de tasa base de la clase 179).
4. Sin efecto en desenlaces:  clasificar bien ≠ mejorar la salud del paciente; hace
   falta ensayo prospectivo del sistema sociotécnico completo, no del modelo.
5. Sesgo distribucional:  peor rendimiento en subgrupos poco representados;
   la métrica agregada lo oculta.

Marcos como TRIPOD+AI (reporte de modelos predictivos) y SPIRIT/CONSORT-AI (ensayos clínicos con IA) existen porque la comunidad médica ya recorrió este ciclo.

🔬 El patrón común

Los tres dominios comparten el criterio que separa ciencia de demo: evaluación ciega, prospectiva y externa, incertidumbre reportada, y un desenlace que le importe a alguien fuera del paper.

🧮 Ejemplo trabajado

Un modelo de cribado detecta una condición con prevalencia 1 % en la población cribada. Sensibilidad 95 %, especificidad 90 % ("AUC 0.96" en el paper). Sobre 10,000 personas:

Enfermos: 100      Sanos: 9,900
Verdaderos positivos = 0.95 × 100   =    95
Falsos positivos     = 0.10 × 9,900 =   990
Falsos negativos     =                    5

VPP = 95 / (95 + 990) = 95/1,085 ≈ 8.8 %
VPN = 8,910 / (8,910 + 5) ≈ 99.94 %

De cada 100 personas con resultado positivo, ~9 tienen la condición y ~91 pasan por pruebas confirmatorias, costo y ansiedad. El modelo puede ser útil (el VPN altísimo sirve para descartar) pero la decisión clínica depende del costo relativo de los dos errores y de si existe una prueba confirmatoria barata — nada de eso está en el AUC. Si además el 990 se concentra en un subgrupo demográfico, el daño no es uniforme aunque la métrica agregada no cambie.

📊 Propiedades y comparación

flowchart TD
    H[Hipótesis científica] --> D["Datos: ¿qué señal física<br/>o biológica contienen?"]
    D --> M["Modelo con sesgo inductivo<br/>adecuado al dominio"]
    M --> V{"Validación"}
    V -->|Interna, misma población| X["⚠️ Evidencia débil:<br/>riesgo de fuga y shift"]
    V -->|Externa + ciega + prospectiva| S["Evidencia fuerte"]
    S --> U["Incertidumbre calibrada<br/>(pLDDT, intervalos, subgrupos)"]
    U --> O{"¿Mejora un desenlace real?"}
    O -->|No| X
    O -->|Sí| A["Adopción con supervisión<br/>y monitoreo continuo"]

⚠️ Errores conceptuales frecuentes

1. "AlphaFold resolvió la biología estructural." Resolvió la predicción de estructura estática monomérica con precisión útil; dinámica conformacional, complejos y efecto de mutaciones puntuales siguen siendo problemas abiertos.
2. "Los modelos de IA reemplazan al modelo numérico del clima." GraphCast se entrena sobre ERA5, producto de la asimilación de datos del sistema físico: coexisten y se necesitan.
3. "Predecir el tiempo a 10 días valida proyecciones climáticas a 2100." Son problemas distintos; el segundo exige extrapolar a estados no vistos, justo donde un modelo aprendido no ofrece garantías.
4. "AUC 0.96 significa que sirve en la clínica." Con prevalencia 1 %, el VPP puede ser ~9 % (ejemplo trabajado): la utilidad depende de prevalencia, costos asimétricos y prueba confirmatoria.
5. "Validar en otro conjunto del mismo hospital es validación externa." No lo es: la fuga por marcadores de equipo y protocolo sobrevive a esa partición; hace falta otra institución y, mejor, otro periodo temporal.

🚀 Del aprendizaje a la operación

Para pasar de este núcleo a un uso real en ciencia, clima o salud faltan: validación externa multi-sitio y prospectiva, reporte según TRIPOD+AI o CONSORT-AI, evaluación desagregada por subgrupos con la métrica que importa clínicamente (VPP/VPN, no solo AUC), monitoreo de drift tras el despliegue (los protocolos y equipos cambian), y gobernanza: en salud y clima el modelo informa a un profesional responsable, que es quien decide — la trazabilidad de esa decisión es parte del sistema, no un extra.

🧪 Laboratorio

python lab.py

El laboratorio llama a ai_evolution.labs.run_lab("evaluation"). Esta decisión evita 183 implementaciones divergentes: cada clase tiene un entrypoint propio, pero los motores didácticos se prueban como una biblioteca común.

🔍 Evidencia esperada

• tipo de laboratorio y semilla;
• entradas o decisiones observables;
• resultado estructurado;
• lista evidence con hechos que pueden inspeccionarse;
• lista limitations que impide presentar la demo como producción.

📓 Notebooks

• 📓 notebook.ipynb: recorrido guiado con la materia resumida.
• ✍️ notebook_student.ipynb: ejercicios para resolver.
• ✅ notebook_solution.ipynb: solución de referencia explicada.

📝 Evaluación

Consulta assessment.md para preguntas y criterio de aceptación.

⚠️ Errores comunes

❓ Preguntas frecuentes

¿Debo usar una API comercial?
No. El núcleo funciona localmente. Las extensiones LIVE se documentan por separado.

¿El laboratorio representa una implementación industrial?
No por sí solo. Enseña el contrato y el patrón; producción exige integración, seguridad, observabilidad, pruebas y operación.

¿Dónde profundizo?
Revisa las especializaciones enlazadas en el README raíz y la ruta siguiente.

🔗 Referencias

• Jumper, J. et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature 596. DOI 10.1038/s41586-021-03819-2 — uso: fuente primaria del mecanismo estudiado
• Lam, R. et al. (2023). Learning skillful medium-range global weather forecasting (GraphCast). Science 382(6677). DOI 10.1126/science.adi2336 — uso: fuente primaria del mecanismo estudiado
• Wynants, L. et al. (2020). Prediction models for diagnosis and prognosis of covid-19: systematic review and critical appraisal. BMJ 369:m1328. DOI 10.1136/bmj.m1328 — uso: fuente primaria del mecanismo estudiado
• Zech, J. R. et al. (2018). Variable generalization performance of a deep learning model to detect pneumonia in chest radiographs. PLOS Medicine 15(11). DOI 10.1371/journal.pmed.1002683 — uso: fuente primaria del mecanismo estudiado
• Collins, G. S. et al. (2024). TRIPOD+AI statement: updated guidance for reporting clinical prediction models. BMJ 385:e078378. DOI 10.1136/bmj-2023-078378 — uso: fuente primaria del mecanismo estudiado

📜 Papers que fundamentan esta clase

Bloque generado por python scripts/link_papers_to_classes.py. La fuente es papers/catalog/papers.json.

Cada ficha explica el problema anterior, la matemática mínima, los límites y los errores de atribución más frecuentes. Para leerlas con método: cómo leer un paper de IA · anexos matemáticos.

📚 Bibliografía de apoyo

Bloque generado por python scripts/link_sources_to_classes.py. Cada obra lleva su localizador verificado en sources/bibliography.json.

Los papers dicen de dónde salió el mecanismo. Estas obras lo desarrollan con el espacio que una clase no tiene: teoría completa, demostraciones y ejercicios.

⬅️ Clase anterior

180 — IA para educación y aprendizaje adaptativo

➡️ Siguiente clase

182 — Cómo vigilar la frontera sin perseguir modas

📝 Evaluación completa

❓ Preguntas

1. Define ia para ciencia, clima y salud responsable sin usar una marca o framework como definición.
2. Explica la relación entre science, climate, health, validation.
3. Ejecuta lab.py dos veces con la misma semilla. ¿Qué debe conservarse?
4. Identifica una afirmación permitida y una afirmación exagerada sobre el resultado.
5. Propón una prueba negativa o un caso límite.

🏆 Reto verificable

Amplía el resultado del laboratorio con una clave student_extension que incluya:

• el supuesto que estás probando;
• una medición o comprobación;
• la conclusión;
• una limitación.

✅ Criterio de aceptación

• [ ] lab.py termina con código 0.
• [ ] El resultado contiene kind, seed, evidence y limitations.
• [ ] La extensión no modifica el comportamiento de otras clases.
• [ ] La interpretación referencia datos impresos por el laboratorio.
• [ ] Se declara al menos un riesgo o condición de no uso.