129 — Crítica, revisión y debate controlado

← Clase anterior · Índice de la parte · Clase siguiente →

Parte: 10 — Sistemas multiagente e interoperabilidad
Nivel: experto · Horas estimadas: 6
Laboratorio: multiagent · Estado: EXECUTABLE_CORE

🎯 Propósito

Comprender crítica, revisión y debate controlado dentro de la evolución de la inteligencia artificial, implementar un experimento mínimo verificable y distinguir qué parte constituye evidencia frente a una afirmación todavía no comprobada.

📚 Resultados de aprendizaje

Al finalizar podrás:

1. Explicar crítica, revisión y debate controlado usando los conceptos critic, reviewer, debate, convergence.
2. Ejecutar el laboratorio con una semilla explícita y revisar su contrato JSON.
3. Identificar al menos un supuesto, una limitación y un riesgo de aplicación.
4. Comparar el enfoque con la etapa anterior de la ruta de aprendizaje.
5. Producir una evidencia reproducible y una conclusión que no exceda los datos.

🧩 Conceptos centrales

critic, reviewer, debate, convergence

🗺️ Ubicación en el mapa de la IA

Hasta aquí los agentes cooperaban dividiendo trabajo; en esta clase cooperan contradiciéndose. Los patrones generador-crítico y debate multiagente atacan el punto débil de los LLM — errores plausibles que el propio modelo no detecta — usando una segunda pasada adversarial. Es la versión operativa de la auto-verificación estudiada en la Parte 6 (reflexión, self-consistency) y el antecedente de los sistemas de supervisión escalable que se investigan para alineamiento.

📖 Fundamentos

🧑‍⚖️ Generador-crítico (reviewer)

Dos roles con incentivos distintos: el generador produce una solución; el crítico la examina con una rúbrica explícita y produce un veredicto estructurado (aprobar / revisar, hallazgos, severidad). Si hay revisión, el generador itera con el feedback. El bucle termina por aprobación o por presupuesto (max_rounds).

Claves de diseño: el crítico debe tener rúbrica (sin ella degenera en "se ve bien"); contexto limpio (evaluar la solución, no la conversación que la produjo); y conviene que sea un modelo o prompt distinto — un modelo revisando su propia salida hereda sus mismos puntos ciegos (sesgo de auto-consistencia).

🗣️ Debate multiagente (Du et al., arXiv:2305.14325)

Protocolo del paper Improving Factuality and Reasoning in Language Models through Multiagent Debate:

1. n agentes responden la misma pregunta de forma independiente
2. durante r rondas: cada agente lee las respuestas de los demás
   y produce una respuesta revisada (puede mantener o cambiar la suya)
3. respuesta final: consenso o voto mayoritario

Resultados reportados: mejora la exactitud aritmética, de razonamiento y la factualidad frente a un agente único y frente a self-consistency con el mismo número de muestras; los agentes convergen con las rondas. Limitaciones honestas: coste n × r llamadas; la convergencia no garantiza corrección (pueden converger al mismo error, especialmente si comparten modelo y sesgos); y con contextos largos los agentes tienden a la conformidad — el paper usa prompts que fomentan mantener el desacuerdo ("stubborn") para evitar el colapso prematuro.

🗳️ Votación y agregación

Para respuestas discretas, voto mayoritario: con n votantes independientes cada uno con probabilidad p > 0.5 de acertar, la probabilidad de que la mayoría acierte crece con n (teorema del jurado de Condorcet). La letra pequeña es la palabra independientes: k réplicas del mismo modelo con el mismo prompt están correlacionadas; el voto reduce varianza (errores aleatorios) pero no sesgo (errores sistemáticos). Variantes: voto ponderado por confianza calibrada, y juez LLM (un árbitro lee el debate y decide — reintroduce un punto único de fallo con sus propios sesgos).

🧮 Ejemplo trabajado

Pregunta con respuesta discreta y 3 debatientes (p = 0.7 de acierto individual, independencia asumida):

P(mayoría acierta) = P(3 aciertan) + P(exactamente 2 aciertan)
  = 0.7³ + 3 × 0.7² × 0.3
  = 0.343 + 3 × 0.49 × 0.3
  = 0.343 + 0.441 = 0.784

Con n = 5: 0.7⁵ + 5·0.7⁴·0.3 + 10·0.7³·0.3² = 0.16807 + 0.36015 + 0.3087 ≈ 0.837. Ganancia de 3 → 5 votantes: +5.3 puntos, pagando 2 llamadas más (y el efecto marginal decrece). Ahora la letra pequeña: si los 3 debatientes comparten un sesgo (p. ej. el mismo error aritmético típico del modelo base), sus errores no son independientes y la fórmula sobreestima. Caso extremo: correlación total → P(mayoría) = p = 0.7; todo el coste extra compró nada. Por eso Du et al. combinan votación con rondas de debate: leer argumentos ajenos puede corregir el error sistemático, cosa que el voto puro no hace.

📊 Propiedades y comparación

flowchart TD
    Q[Pregunta] --> A1[Agente 1: respuesta r1] & A2[Agente 2: respuesta r2] & A3[Agente 3: respuesta r3]
    A1 & A2 & A3 --> X[Ronda de debate:
cada agente lee las demás
y revisa la suya]
    X --> C{¿Consenso o
max_rounds?}
    C -- no --> X
    C -- sí --> V[Voto mayoritario /
juez]
    V --> F[Respuesta final + registro
de disensos]

⚠️ Errores conceptuales frecuentes

1. "El debate garantiza la verdad." Los agentes pueden converger al mismo error si comparten modelo y sesgos; la convergencia mide acuerdo, no corrección.
2. Aplicar Condorcet a votantes correlacionados. Réplicas del mismo modelo no son independientes; la mejora real es menor que la fórmula y puede ser nula.
3. Crítico sin rúbrica. "Revisa esto" produce aprobaciones vacías o quisquillosidad aleatoria; el crítico necesita criterios y formato de veredicto.
4. Confundir reducción de varianza con reducción de sesgo. El voto elimina errores aleatorios; los sistemáticos requieren argumentos cruzados, herramientas o evidencia externa.
5. Rondas ilimitadas. Sin max_rounds el coste crece y los agentes tienden a la conformidad; el corte por presupuesto con registro del disenso es parte del protocolo.

🚀 Del aprendizaje a la operación

Para usar crítica/debate en serio faltan: medir en tu tarea si el uplift justifica n·r llamadas (en muchas tareas un agente con herramientas gana al debate sin ellas); diversidad real de los debatientes (modelos o prompts distintos) para des-correlacionar errores; límites anti-conformidad y registro de disensos como señal de incertidumbre; y un canal de verificación externa (tests, retrieval) — el debate opina, la evidencia decide.

🧪 Laboratorio

python lab.py

El laboratorio llama a ai_evolution.labs.run_lab("multiagent"). Esta decisión evita 183 implementaciones divergentes: cada clase tiene un entrypoint propio, pero los motores didácticos se prueban como una biblioteca común.

🔍 Evidencia esperada

• tipo de laboratorio y semilla;
• entradas o decisiones observables;
• resultado estructurado;
• lista evidence con hechos que pueden inspeccionarse;
• lista limitations que impide presentar la demo como producción.

📓 Notebooks

• 📓 notebook.ipynb: recorrido guiado con la materia resumida.
• ✍️ notebook_student.ipynb: ejercicios para resolver.
• ✅ notebook_solution.ipynb: solución de referencia explicada.

📝 Evaluación

Consulta assessment.md para preguntas y criterio de aceptación.

⚠️ Errores comunes

❓ Preguntas frecuentes

¿Debo usar una API comercial?
No. El núcleo funciona localmente. Las extensiones LIVE se documentan por separado.

¿El laboratorio representa una implementación industrial?
No por sí solo. Enseña el contrato y el patrón; producción exige integración, seguridad, observabilidad, pruebas y operación.

¿Dónde profundizo?
Revisa las especializaciones enlazadas en el README raíz y la ruta siguiente.

🔗 Referencias

• Du et al., Improving Factuality and Reasoning in Language Models through Multiagent Debate (arXiv:2305.14325): el protocolo de debate y sus resultados.
• Wang et al., Self-Consistency Improves Chain of Thought Reasoning in Language Models (arXiv:2203.11171): votación sobre k muestras, el baseline del debate.
• Anthropic — Building effective agents (2024): el workflow evaluator-optimizer (generador-crítico).
• Wu et al., AutoGen (arXiv:2308.08155): patrones de conversación con roles críticos programables.
• Irving et al., AI safety via debate (arXiv:1805.00899): el debate como mecanismo de supervisión escalable.

📜 Papers que fundamentan esta clase

Bloque generado por python scripts/link_papers_to_classes.py. La fuente es papers/catalog/papers.json.

Cada ficha explica el problema anterior, la matemática mínima, los límites y los errores de atribución más frecuentes. Para leerlas con método: cómo leer un paper de IA · anexos matemáticos.

📚 Bibliografía de apoyo

Bloque generado por python scripts/link_sources_to_classes.py. Cada obra lleva su localizador verificado en sources/bibliography.json.

Los papers dicen de dónde salió el mecanismo. Estas obras lo desarrollan con el espacio que una clase no tiene: teoría completa, demostraciones y ejercicios.

⬅️ Clase anterior

128 — Paralelismo, fan-out y map-reduce

➡️ Siguiente clase

130 — Blackboard y memoria compartida

📝 Evaluación completa

❓ Preguntas

1. Define crítica, revisión y debate controlado sin usar una marca o framework como definición.
2. Explica la relación entre critic, reviewer, debate, convergence.
3. Ejecuta lab.py dos veces con la misma semilla. ¿Qué debe conservarse?
4. Identifica una afirmación permitida y una afirmación exagerada sobre el resultado.
5. Propón una prueba negativa o un caso límite.

🏆 Reto verificable

Amplía el resultado del laboratorio con una clave student_extension que incluya:

• el supuesto que estás probando;
• una medición o comprobación;
• la conclusión;
• una limitación.

✅ Criterio de aceptación

• [ ] lab.py termina con código 0.
• [ ] El resultado contiene kind, seed, evidence y limitations.
• [ ] La extensión no modifica el comportamiento de otras clases.
• [ ] La interpretación referencia datos impresos por el laboratorio.
• [ ] Se declara al menos un riesgo o condición de no uso.