P72 — Neuro-simbólico

Ruta simbólica · La percepción estima y los símbolos restringen. Una hoja de ruta abierta, no un método cerrado: se lee con fecha.

Nivel: L5 · Motor: neurosimbolico · Notebook: P72_neurosimbolico.ipynb · Anexo: probabilidad y verosimilitud

⚠️ Aviso

Esta ficha es de frontera: el artículo es un manifiesto y una agenda de investigación, no un método con resultados comparables. Lo estable son las preguntas; lo inestable, los sistemas concretos de cada temporada. Última revisión: 2026-08-17.

1. Identificación

2. Problema anterior

Las dos tradiciones tienen exactamente el punto ciego de la otra.

Las redes profundas aprenden de datos ruidosos y generalizan, pero no razonan con reglas, no respetan restricciones duras que nadie les ha enseñado con ejemplos, y no pueden explicar por qué concluyeron lo que concluyeron.

Los sistemas simbólicos —los de esta ruta entera— razonan, respetan restricciones y explican cada paso, pero necesitan que alguien escriba el conocimiento a mano y se rompen ante la entrada ruidosa que constituye el mundo real.

Elegir uno de los dos ha sido la historia del campo. La pregunta es si hay que elegir.

3. Propuesta

No un método: una agenda. El artículo ordena los requisitos que debería cumplir un sistema que integre ambas tradiciones y revisa qué líneas los abordan:

• representación: cómo conviven vectores densos y estructuras simbólicas;
• aprendizaje: cómo se aprende de datos sin perder las restricciones declaradas;
• razonamiento: cómo se aplican reglas sobre representaciones aprendidas;
• explicación: cómo se justifica una conclusión en términos que una persona pueda auditar.

Y una tesis de fondo: la integración no es una media entre dos sistemas, sino una división del trabajo — la percepción estima y los símbolos restringen.

4. Intuición sin fórmulas

Un radiólogo con un protocolo. La vista entrenada detecta la anomalía; el protocolo dice que ciertas combinaciones son imposibles y que ciertos hallazgos obligan a una prueba adicional.

El protocolo no ve nada. La vista no conoce el protocolo. El sistema es la composición, y su valor depende de que el protocolo sea correcto.

Dónde deja de funcionar la analogía: el radiólogo puede ignorar el protocolo cuando ve algo que no encaja. Un filtro simbólico duro no puede: si la regla es falsa, la conclusión correcta queda descartada sin recurso. Por eso las reglas tienen que ser auditables.

5. Matemática mínima

No hay formalismo único: eso es parte de lo que el artículo señala como problema abierto. La miniatura usa la integración más simple posible —filtrar el espacio de salida— para exhibir la asimetría que importa:

percepción  → distribución sobre etiquetas
restricción → elimina las etiquetas incompatibles con el contexto
decisión    → argmax sobre lo que queda

Con la regla escena(salón) ∧ etiqueta(x, coche) → ⊥:

Ahí está todo. El conocimiento simbólico correcto corrige errores que la red comete con confianza —0,55 y 0,48 en los dos casos del salón—. El conocimiento simbólico incorrecto no degrada un poco: destruye.

💡 Consejo

Puente matemático. Esta sección da por sabido lo siguiente. Si algo no te suena, léelo primero: está explicado una sola vez, en un solo sitio, y sirve para todas las fichas.

6. Arquitectura o flujo

flowchart LR
    X["entrada"] --> N["red<br/>percepción"]
    N --> D["distribución<br/>sobre etiquetas"]
    K["conocimiento<br/>declarado"] --> R["restricciones"]
    D --> F["filtrar lo<br/>incompatible"]
    R --> F
    F --> S["decisión + traza<br/>de qué regla intervino"]
    style R fill:#1a3a2a,stroke:#3fb950,color:#f0f6fc

7. Qué observar en el paper original

• Que es un manifiesto: no hay tabla de resultados que reproducir ni benchmark que superar. Leerlo esperando eso lleva a descartarlo injustamente.
• La taxonomía de integraciones que revisa, desde el acoplamiento débil —dos sistemas que se pasan resultados— hasta la incorporación de restricciones dentro de la función de pérdida.
• La insistencia en la explicación como requisito, no como añadido. Es la herencia directa de MYCIN.
• La conexión con la composicionalidad y la generalización sistemática, que es el argumento técnico más fuerte a favor de la hibridación.

8. Evidencia y resultados

El artículo revisa literatura y propone una agenda. No presenta experimentos propios ni comparaciones cuantitativas.

Como todo texto de frontera, su valor está en las preguntas que ordena, y su fecha importa: los sistemas concretos que cita envejecen rápido, la estructura del problema no.

La miniatura de este eje no reproduce ningún sistema del artículo. Construye el caso mínimo —una distribución y una restricción— para que se vea con números la asimetría entre el beneficio de una regla correcta y el coste de una incorrecta.

9. Impacto

• Dio nombre y estructura a una comunidad que estaba dispersa, con conferencia propia y una agenda compartida.
• Su vocabulario —la «tercera ola»— se usa hoy para situar trabajos que combinan modelos de lenguaje con verificadores, motores de reglas o solucionadores.
• El patrón que describe está en producción sin llamarse así: un modelo genera y un verificador externo comprueba. SWE-bench evalúa exactamente eso, y el uso de herramientas de Toolformer en adelante es la misma división del trabajo.
• Para el programa cierra la ruta simbólica con la pregunta correcta: no cuál de las dos tradiciones ganó, sino cómo se combinan y qué se paga.

10. Limitaciones

1. No es un método. No se puede implementar «lo que dice el artículo»: hay que elegir una de las líneas que revisa.
2. No hay evaluación comparativa. Sin benchmarks compartidos, es difícil saber qué enfoque de integración funciona mejor y en qué.
3. El conocimiento simbólico sigue siendo caro de obtener, que es exactamente el cuello de botella que hundió a los sistemas expertos.
4. Una restricción incorrecta destruye. La miniatura lo cuantifica: 2 de 2 a 0 de 2. El enfoque exige garantías sobre el conocimiento declarado.
5. Es texto de frontera y envejece. Debe releerse con fecha, y el propio programa lo trata como nodo revisable.

11. Errores comunes

12. Relación con trabajos anteriores

• P69 Factores de certeza (1975) — la explicabilidad como requisito de aceptación, que este artículo recupera.
• P58 Símbolos y búsqueda (1976) — la hipótesis simbólica que el aprendizaje profundo puso en cuestión.
• Garcez, Broda y Gabbay (2002) — Neural-Symbolic Learning Systems: la línea previa de los mismos autores.

13. Relación con trabajos posteriores

• Manhaeve et al. (2018) — DeepProbLog: lógica probabilística diferenciable, una de las integraciones concretas que el artículo revisa. arXiv:1805.10872
• P14 Toolformer (2023) — el modelo aprende a delegar en sistemas externos: la división del trabajo, aprendida.
• P29 Árbol de pensamientos (2023) — búsqueda simbólica sobre generación neuronal.
• P51 SWE-bench (2023) — verificación externa y ejecutable de lo que un modelo produce.

14. Notebook asociado

P72_neurosimbolico.ipynb

Qué implementa: el filtrado de una distribución de percepción por una restricción de contexto, en dos escenas: una donde la regla vale y otra donde no, con la ganancia y el coste medidos.

Qué NO implementa: no hay ninguna red, ni entrenamiento, ni imágenes, ni integración en la pérdida o en la arquitectura, que es donde está la dificultad real del enfoque.

ai-evolution paper-lab P72 --seed 7

15. Actividades Bloom

16. Autoevaluación

1. ¿Qué punto ciego tiene cada tradición?
2. ¿Qué tipo de texto es este artículo?
3. ¿En qué consiste la división del trabajo que propone?
4. ¿Qué pasa cuando la restricción simbólica es correcta?
5. ¿Y cuando es falsa?
6. ¿Cuál sigue siendo el cuello de botella del enfoque?
7. ¿Dónde está este patrón en producción hoy?

17. Respuestas esperadas

1. Las redes aprenden de datos ruidosos pero no razonan con reglas ni explican. Los sistemas simbólicos razonan y explican pero necesitan el conocimiento escrito a mano y se rompen con entrada ruidosa.
2. Un manifiesto y una hoja de ruta. No contiene experimentos, resultados ni comparaciones: ordena requisitos y revisa líneas de trabajo.
3. La percepción estima —devuelve una distribución sobre posibilidades— y los símbolos restringen —eliminan lo incompatible con el conocimiento declarado—. No es un promedio entre dos opiniones.
4. Corrige errores que la red comete con confianza. En la miniatura, la escena del salón pasa de 2 de 4 a 4 de 4 sin reentrenar nada.
5. Descarta la conclusión correcta sin recurso. En el garaje, la misma regla lleva el resultado de 2 de 2 a 0 de 2. Por eso las reglas deben estar declaradas y ser auditables.
6. Obtener y mantener el conocimiento simbólico: el mismo cuello de botella que hundió a los sistemas expertos en los ochenta.
7. En cualquier arquitectura donde un modelo genera y un verificador externo comprueba: ejecución de tests, comprobadores de tipos, solucionadores, validación de esquemas.

18. Fuentes primarias

• Garcez, A. d'A. y Lamb, L. C. (2020). Neurosymbolic AI: The 3rd Wave. arXiv:2012.05876 · publicado en Artificial Intelligence Review (2023) · consultado 2026-08-17.
• Manhaeve, R. et al. (2018). DeepProbLog: Neural Probabilistic Logic Programming. arXiv:1805.10872 · consultado 2026-08-17.
• Marcus, G. (2020). The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence. arXiv:2002.06177 · consultado 2026-08-17.

⬅️ Anterior: P71 Ontologías · 📇 Índice · 📝 Evaluación · 🏫 Clase 024 · Proyecto: asistente neuro-simbólico explicable · ➡️ Siguiente: P73 k-medias