004 — Agentes racionales, entornos y medidas de desempeño

← Clase anterior · Índice de la parte · Clase siguiente →

Parte: 00 — Fundamentos, historia y método científico
Nivel: fundamentos · Horas estimadas: 4
Laboratorio: agent · Estado: EXECUTABLE_CORE

🎯 Propósito

Comprender agentes racionales, entornos y medidas de desempeño dentro de la evolución de la inteligencia artificial, implementar un experimento mínimo verificable y distinguir qué parte constituye evidencia frente a una afirmación todavía no comprobada.

📚 Resultados de aprendizaje

Al finalizar podrás:

1. Explicar agentes racionales, entornos y medidas de desempeño usando los conceptos PEAS, racionalidad, entorno, desempeño.
2. Ejecutar el laboratorio con una semilla explícita y revisar su contrato JSON.
3. Identificar al menos un supuesto, una limitación y un riesgo de aplicación.
4. Comparar el enfoque con la etapa anterior de la ruta de aprendizaje.
5. Producir una evidencia reproducible y una conclusión que no exceda los datos.

🧩 Conceptos centrales

PEAS, racionalidad, entorno, desempeño

🗺️ Ubicación en el mapa de la IA

El marco de agentes racionales (AIMA, cap. 2) es el lenguaje unificador de la IA moderna: permite describir con el mismo vocabulario un termostato, un buscador de rutas, un jugador de ajedrez y un modelo de lenguaje con herramientas. Sustituye la pregunta filosófica "¿piensa?" por la pregunta de ingeniería "¿maximiza su medida de desempeño en su entorno?". Todo el resto del programa — búsqueda, aprendizaje, RL, agentes con LLM — son formas de construir la función del agente.

📖 Fundamentos

🤖 Agente, percepción y función del agente

Un agente es cualquier entidad que percibe su entorno mediante sensores y actúa sobre él mediante actuadores. Formalmente:

secuencia de percepciones:  p₁, p₂, ..., pₜ
función del agente:         f: P* → A   (de historiales de percepción a acciones)
programa del agente:        implementación concreta y finita de f

La distinción función/programa importa: la función es la especificación matemática (potencialmente una tabla infinita); el programa es el código que la aproxima con memoria y cómputo finitos.

🎯 Racionalidad y medida de desempeño

Un agente racional elige, para cada secuencia de percepciones, la acción que maximiza el valor esperado de la medida de desempeño, dado el conocimiento previo y las percepciones hasta el momento. Cuatro precisiones críticas:

1. Racional ≠ omnisciente: la racionalidad maximiza el resultado esperado con la información disponible; no exige conocer el resultado real.
2. Racional ≠ perfecto: un agente racional puede obtener malos resultados por mala suerte; se juzga la decisión, no el desenlace.
3. La medida de desempeño debe evaluar estados del entorno, no estados del agente ("cuánta suciedad aspiró" es hackeable aspirando y tirando la misma suciedad; "qué tan limpio está el suelo por hora" no).
4. La racionalidad incluye recopilar información y aprender: ignorar percepciones disponibles es irracional.

📋 Especificación PEAS

Antes de diseñar un agente se especifica su entorno de tareas con PEAS:

• Performance (medida de desempeño): qué se maximiza.
• Environment (entorno): dónde opera.
• Actuators (actuadores): con qué actúa.
• Sensors (sensores): qué percibe.

🌍 Dimensiones del entorno

Las propiedades del entorno determinan qué arquitectura de agente es viable:

El caso más difícil (parcialmente observable, multiagente, estocástico, secuencial, dinámico, continuo, desconocido) es, por ejemplo, conducir en tráfico real.

🏗️ Taxonomía de programas de agente

1. Reflejo simple: reglas condición→acción sobre la percepción actual. Solo funciona con observabilidad total.
2. Reflejo con estado (basado en modelo): mantiene un estado interno actualizado con un modelo de transición del mundo; tolera observabilidad parcial.
3. Basado en metas: delibera — busca secuencias de acciones que alcanzan una meta explícita (conecta con búsqueda, parte 01).
4. Basado en utilidad: compara estados por cuán deseables son (función de utilidad), maneja metas en conflicto y riesgo mediante utilidad esperada.
5. Que aprende: cualquiera de los anteriores más un elemento de aprendizaje, un crítico y un generador de problemas (exploración). Es la arquitectura general del ML moderno.

🧮 Ejemplo trabajado

Especificación PEAS de un agente aspirador en el mundo de dos casillas (A, B) de AIMA:

• P: +1 por casilla limpia por paso de tiempo, durante 1000 pasos; −1 por movimiento.
• E: dos casillas; la suciedad puede reaparecer con probabilidad 0.1 por paso.
• A: Izquierda, Derecha, Aspirar, NoOp.
• S: posición actual y si la casilla actual está sucia — observabilidad parcial (no ve la otra casilla).

Traza de un agente reflejo con estado, empezando en A, ambas sucias:

Nótese la decisión en t=4: un reflejo simple sin estado oscilaría entre casillas pagando −1 por viaje; el estado interno permite quedarse quieto hasta que la probabilidad de suciedad acumulada justifique el costo del viaje. La racionalidad depende de la medida P: si el movimiento no costara nada, patrullar sería óptimo.

📊 Propiedades y comparación

flowchart TD
    subgraph Agente
        S1["Sensores"] --> E1["Estado interno<br/>(¿cómo es el mundo ahora?)"]
        E1 --> D{"Selección de acción"}
        M["Modelo de transición<br/>(¿qué causan mis acciones?)"] --> E1
        U["Medida de desempeño /<br/>utilidad"] --> D
        D --> A1["Actuadores"]
        C["Crítico + aprendizaje<br/>(ajusta modelo y política)"] -.-> M
        C -.-> D
    end
    W(("Entorno")) --> S1
    A1 --> W
    W --> C

⚠️ Errores conceptuales frecuentes

1. "Racional significa que siempre gana." La racionalidad se define sobre el valor esperado con la información disponible; un resultado malo no implica una decisión irracional (ni viceversa).
2. "La medida de desempeño es un detalle." Es la especificación completa del objetivo: medidas mal diseñadas producen agentes que optimizan literalmente lo que se midió (aspirar y volcar la suciedad para volver a aspirarla).
3. "Más deliberación siempre es mejor." En entornos dinámicos, deliberar tiene costo de oportunidad; un reflejo rápido puede ser más racional que un plan óptimo tardío.
4. "Los agentes con LLM son otra cosa." Encajan en el marco: percepciones (contexto, resultados de herramientas), acciones (llamadas a herramientas, texto), medida de desempeño (criterio de éxito de la tarea). El marco expone justamente lo que les falta: medidas de desempeño explícitas y verificables.
5. "Entorno determinista = agente trivial." El ajedrez es determinista y totalmente observable, y aun así intratable por fuerza bruta: el tamaño del espacio de estados es una dificultad independiente.

🚀 Del aprendizaje a la operación

Llevar un agente a operación exige: escribir la especificación PEAS como documento revisable antes de codificar; validar la medida de desempeño contra el fenómeno de Goodhart (¿qué comportamiento absurdo la maximizaría?); clasificar el entorno real en las siete dimensiones para dimensionar sensores y frecuencia de decisión; y definir qué hace el agente cuando sus percepciones salen del dominio previsto (fallback a humano, modo seguro). El laboratorio de esta clase ejercita solo el primer eslabón: agente, entorno y medida en versión mínima.

🧪 Laboratorio

python lab.py

El laboratorio llama a ai_evolution.labs.run_lab("agent"). Esta decisión evita 183 implementaciones divergentes: cada clase tiene un entrypoint propio, pero los motores didácticos se prueban como una biblioteca común.

🔍 Evidencia esperada

• tipo de laboratorio y semilla;
• entradas o decisiones observables;
• resultado estructurado;
• lista evidence con hechos que pueden inspeccionarse;
• lista limitations que impide presentar la demo como producción.

📓 Notebooks

• 📓 notebook.ipynb: recorrido guiado con la materia resumida.
• ✍️ notebook_student.ipynb: ejercicios para resolver.
• ✅ notebook_solution.ipynb: solución de referencia explicada.

📝 Evaluación

Consulta assessment.md para preguntas y criterio de aceptación.

⚠️ Errores comunes

❓ Preguntas frecuentes

¿Debo usar una API comercial?
No. El núcleo funciona localmente. Las extensiones LIVE se documentan por separado.

¿El laboratorio representa una implementación industrial?
No por sí solo. Enseña el contrato y el patrón; producción exige integración, seguridad, observabilidad, pruebas y operación.

¿Dónde profundizo?
Revisa las especializaciones enlazadas en el README raíz y la ruta siguiente.

🔗 Referencias

• Russell, S. & Norvig, P. Artificial Intelligence: A Modern Approach, 4.ª ed., cap. 2 — uso: desarrollo extendido del tema
• Turing, A. M. (1950). Computing Machinery and Intelligence (criterio conductual precursor) — uso: fuente primaria del mecanismo estudiado
• Sutton, R. & Barto, A. Reinforcement Learning: An Introduction, 2.ª ed., cap. 1 (agente-entorno-recompensa) — uso: desarrollo extendido del tema
• Nilsson, N. (2010). The Quest for Artificial Intelligence (PDF oficial) — uso: referencia consultada en su fuente original

📜 Papers que fundamentan esta clase

Bloque generado por python scripts/link_papers_to_classes.py. La fuente es papers/catalog/papers.json.

Cada ficha explica el problema anterior, la matemática mínima, los límites y los errores de atribución más frecuentes. Para leerlas con método: cómo leer un paper de IA · anexos matemáticos.

📚 Bibliografía de apoyo

Bloque generado por python scripts/link_sources_to_classes.py. Cada obra lleva su localizador verificado en sources/bibliography.json.

Los papers dicen de dónde salió el mecanismo. Estas obras lo desarrollan con el espacio que una clase no tiene: teoría completa, demostraciones y ejercicios.

⬅️ Clase anterior

003 — Inviernos, resurgimientos y ciclos de expectativas

➡️ Siguiente clase

005 — Vectores, matrices y geometría para IA

📝 Evaluación completa

❓ Preguntas

1. Define agentes racionales, entornos y medidas de desempeño sin usar una marca o framework como definición.
2. Explica la relación entre PEAS, racionalidad, entorno, desempeño.
3. Ejecuta lab.py dos veces con la misma semilla. ¿Qué debe conservarse?
4. Identifica una afirmación permitida y una afirmación exagerada sobre el resultado.
5. Propón una prueba negativa o un caso límite.

🏆 Reto verificable

Amplía el resultado del laboratorio con una clave student_extension que incluya:

• el supuesto que estás probando;
• una medición o comprobación;
• la conclusión;
• una limitación.

✅ Criterio de aceptación

• [ ] lab.py termina con código 0.
• [ ] El resultado contiene kind, seed, evidence y limitations.
• [ ] La extensión no modifica el comportamiento de otras clases.
• [ ] La interpretación referencia datos impresos por el laboratorio.
• [ ] Se declara al menos un riesgo o condición de no uso.