P120 — Redes convolucionales de grafo

Ruta de percepción · Seis nodos etiquetados de ciento veinte. Los rasgos no bastan, pero cada nodo tiene vecinos, y eso convierte seis etiquetas en información global.

Nivel: L2 · Motor: gcn · Notebook: P120_gcn.ipynb · Anexo: álgebra y geometría

1. Identificación

2. Problema anterior

Muchos datos importantes son grafos: redes de citas, redes sociales, moléculas, grafos de dependencias. Y en casi todos, etiquetar es caro: se tienen unas decenas de nodos anotados sobre miles.

Las soluciones previas se repartían en dos extremos. Los métodos espectrales eran costosos y dependían de la descomposición del grafo completo, lo que impedía generalizar. Los métodos basados en rasgos ignoraban la estructura, y con pocas etiquetas eso deja al clasificador sin nada.

Nadie estaba usando la información más obvia: quién es vecino de quién.

3. Propuesta

Una aproximación de primer orden de la convolución espectral que se reduce a algo que cabe en una línea: promediar los rasgos de cada nodo con los de sus vecinos, normalizado por el grado, y pasar el resultado por una transformación lineal y una no linealidad.

H' = σ( D^(-1/2) ·  · D^(-1/2) · H · W )      con  = A + I

La matriz de adyacencia lleva la identidad sumada para que cada nodo se incluya a sí mismo. Apilar k capas equivale a mirar a k saltos de distancia. Y el artículo es explícito en que dos o tres capas bastan.

4. Intuición sin fórmulas

Un pueblo donde quieres saber a qué se dedica cada familia y solo tienes seis respuestas. Pero sabes quién se junta con quién.

Preguntando a los vecinos de cada casa y promediando lo que dicen, las seis respuestas se propagan: al segundo salto ya cubres el pueblo entero.

Dónde deja de funcionar la analogía: si sigues propagando indefinidamente, todo el pueblo acaba dando la misma respuesta promedio y dejas de distinguir barrios. Ese es el sobre-suavizado, y es exactamente lo que ocurre al apilar capas.

5. Matemática mínima

Una capa:  H' = σ( D^(-1/2) · Â · D^(-1/2) · H · W )

    Â = A + I     ← el nodo se incluye a sí mismo
    D             ← matriz diagonal de grados, para normalizar

k capas = información a k saltos

La miniatura usa 120 nodos en 3 comunidades y solo 6 etiquetados (5 %):

Con 20 capas queda peor que no propagar y cerca del azar (0,333). La causa se ve en la separación entre comunidades, que se hunde de 0,75 a 0,005: un colapso de 150×.

Ese colapso solo hace daño porque el motor incluye un suelo de precisión de ±0,02, como tendría cualquier sistema real. Sin él, un clasificador ideal resolvería diferencias arbitrariamente pequeñas y el sobre-suavizado no se vería.

💡 Consejo

Puente matemático. Esta sección da por sabido lo siguiente. Si algo no te suena, léelo primero: está explicado una sola vez, en un solo sitio, y sirve para todas las fichas.

6. Arquitectura o flujo

flowchart TD
    G["grafo + rasgos por nodo"] --> L1["capa 1:<br/>promediar con vecinos"]
    L1 --> L2["capa 2:<br/>vecinos de vecinos"]
    L2 --> C["clasificar"]
    L2 -.->|"apilar más"| L9["capa k grande"]
    L9 --> S["sobre-suavizado:<br/>todos los nodos iguales"]
    style C fill:#1a3a2a,stroke:#3fb950,color:#f0f6fc
    style S fill:#3a1a1a,stroke:#f85149,color:#f0f6fc

7. Qué observar en el paper original

• La derivación desde la convolución espectral hasta la regla de una línea. El valor del artículo está tanto en el resultado como en mostrar que se puede simplificar tanto.
• El truco de la renormalización —sumar la identidad a la adyacencia— y por qué sin él los valores propios se desbordan al apilar capas.
• Que el modelo se entrena de extremo a extremo con las pocas etiquetas disponibles, sin ninguna regularización explícita basada en el grafo. La estructura entra por la arquitectura.
• Los resultados en Cora, Citeseer y Pubmed, que se convirtieron en el banco de pruebas estándar del área durante años — con los problemas que eso acabó teniendo.

8. Evidencia y resultados

Experimentos en redes de citas y en un grafo de conocimiento, con márgenes claros sobre los métodos previos y un coste de entrenamiento mucho menor.

La evidencia es sólida para la época, pero los conjuntos son pequeños y con una división fija que trabajos posteriores demostraron que sobreestimaba las diferencias entre métodos.

La miniatura no entrena pesos: propaga y clasifica por centroide. Sirve para exhibir el mecanismo y el sobre-suavizado, no para reproducir las cifras del artículo.

9. Impacto

• Es el artículo que popularizó las redes neuronales de grafo y las convirtió en un área con congresos propios.
• Su regla de propagación es el punto de partida de casi todo lo que vino después: GraphSAGE, GAT, paso de mensajes como marco general.
• Se aplica hoy en recomendación, descubrimiento de fármacos, detección de fraude y análisis de dependencias de software.
• Y dejó un problema abierto que sigue vivo: por qué no se pueden apilar capas, que es la pregunta que separa a las redes de grafo de las convolucionales profundas.

10. Limitaciones

1. Supone homofilia: que los vecinos tienden a compartir clase. En grafos heterófilos, propagar empeora el resultado.
2. No se pueden apilar capas. Más de tres y el sobre-suavizado destruye la señal, como muestra la miniatura.
3. Es transductivo en su formulación original: necesita el grafo completo al entrenar, y no aplica directamente a nodos nuevos.
4. Escala mal: la normalización exige conocer los grados de todo el grafo, lo que complica el entrenamiento por lotes.
5. Los bancos de prueba clásicos eran demasiado pequeños y su división fija exageraba las diferencias entre métodos. Buena parte de las mejoras publicadas sobre ellos no se sostuvo.

11. Errores comunes

12. Relación con trabajos anteriores

• P02 Retropropagación (1986) — el entrenamiento de extremo a extremo que hace viable aprender los pesos de cada capa.
• P04 AlexNet (2012) — la convolución sobre rejillas regulares, que es el caso particular que aquí se generaliza.
• P53 PCA (1901) — la intuición de que la estructura de los datos vive en un espacio de menor dimensión.

13. Relación con trabajos posteriores

• P124 GAT (2018) — pesar a cada vecino en vez de promediarlos por igual.
• Gilmer et al. (2017) — paso de mensajes como marco que unifica el área. arXiv:1704.01212
• Li et al. (2018) — el análisis formal de por qué apilar capas de GCN destruye la señal. arXiv:1801.07606

14. Notebook asociado

P120_gcn.ipynb

Qué implementa: la exactitud con solo el 5 % de nodos etiquetados en función del número de capas de propagación, y la distancia entre los centros de las comunidades, que es lo que mide el sobre-suavizado.

Qué NO implementa: no hay pesos entrenados: se propaga y se clasifica por centroide. Y el grafo tiene comunidades muy limpias; en grafos reales la homofilia es mucho más débil.

ai-evolution paper-lab P120 --seed 7

15. Actividades Bloom

16. Autoevaluación

1. ¿Qué hace una capa de GCN?
2. ¿Por qué se suma la identidad a la adyacencia?
3. ¿Cuántas capas conviene apilar?
4. ¿Qué es el sobre-suavizado?
5. ¿Qué supuesto sobre el grafo hace falta para que propagar ayude?
6. ¿Por qué el sobre-suavizado no se ve sin un suelo de precisión?
7. ¿Qué significa que el modelo sea transductivo?

17. Respuestas esperadas

1. Promediar los rasgos de cada nodo con los de sus vecinos, normalizado por el grado, y aplicar una transformación lineal y una no linealidad.
2. Para que cada nodo se incluya a sí mismo en el promedio. Sin eso, un nodo perdería su propia información en cada capa.
3. Dos o tres. El propio artículo lo dice, y la miniatura lo confirma: el óptimo está en 3 y a partir de ahí empeora.
4. El colapso de todas las representaciones hacia el mismo punto al propagar repetidamente. En la miniatura, la separación entre comunidades cae de 0,75 a 0,005.
5. Homofilia: que los vecinos tiendan a compartir clase. En grafos heterófilos, propagar empeora el resultado.
6. Porque colapsar la escala no cambia el orden relativo de los nodos, y un clasificador ideal resolvería diferencias arbitrariamente pequeñas. Ningún sistema real lo hace.
7. Que necesita el grafo completo al entrenar, porque la normalización depende de los grados. No se aplica directamente a nodos que no se vieron.

18. Fuentes primarias

• Kipf, T. N. y Welling, M. (2017). Semi-Supervised Classification with Graph Convolutional Networks. ICLR 2017. arxiv.org/abs/1609.02907 · consultado 2026-08-18.
• Gilmer, J. et al. (2017). Neural Message Passing for Quantum Chemistry. arXiv:1704.01212 · consultado 2026-08-18.
• Li, Q., Han, Z. y Wu, X. (2018). Deeper Insights into Graph Convolutional Networks for Semi-Supervised Learning. arXiv:1801.07606 · consultado 2026-08-18.

⬅️ Anterior: P119 WaveNet · 📇 Índice · 📝 Evaluación · 🏫 Clase 056 · Graph Neural Networks · ➡️ Siguiente: P121 MobileNets