Inicio · Parte 17 — Frontera matemática para IA e investigación
con probabilidad ≥ 1−δ, error ≤ ε
n ≈ (1/ε)·(VC + log(1/δ))
crece como 1/ε y como log(1/δ)El marco PAC —probablemente aproximadamente correcto— formaliza qué significa aprender. No se exige acertar siempre ni exactamente: se exige que, con probabilidad al menos 1−δ, el error de la hipótesis elegida sea a lo sumo ε. Dos parámetros, dos formas de fallar admitidas.
La complejidad muestral es el número de ejemplos necesarios para garantizar eso, y su forma revela una asimetría muy útil. Crece como 1/ε: reducir el error a la mitad duplica los datos necesarios. Pero crece solo como log(1/δ): pasar de un 95 % a un 99,9 % de confianza cuesta muy poco. Precisión es cara, confianza es barata.
La dependencia de la complejidad de la clase es lineal en la dimensión VC. Con ε = 0,1 y δ = 0,05, una clase de VC 10 necesita 261 ejemplos y una de VC 100 necesita 2 331. Diez veces más capacidad, diez veces más datos: la relación es directa y da una intuición correcta sobre el coste de la complejidad.
Hay que ser explícito sobre su alcance. Las cotas son válidas y muy holgadas: aplicadas a una red moderna piden más ejemplos que átomos hay en el universo observable. Su valor es cualitativo —cómo escalan las cosas— no cuantitativo. Interpretarlas como predicción del error real es un error de lectura, y decirlo evita presentar la teoría como algo que no es.
Muestras necesarias para distintos ε y complejidades.
δ = 0,05 (confianza del 95 %)
con ε = 0,1:
clase de 1 000 hipótesis: 100 ejemplos
VC = 10: 261 ejemplos
VC = 100: 2 331 ejemplos
Escalado:
ε a la mitad → datos × 2
δ a la décima → datos + log(10), casi nada
VC × 10 → datos × 10 aproximadamente
Precisión es cara; confianza es barata.
Aplicado a una red con 10⁹ parámetros, la cota
pediría un número de ejemplos absurdo. La teoría
es correcta; la cota, inservible en la práctica.PAC: cuántas muestras hacen falta para (ε, δ).
python classes/part-17-frontera-matematica-para-ia-e-investigacion/358-pac-learning/lab.py
compmath run 358definiciondeltamuestras_necesariasel_coste_crece_como_1/εel_coste_crece_como_log(1/δ)dependencia_de_la_complejidades_una_cota_del_peor_casolimite_practicoreferencia{
"definicion": "con probabilidad ≥ 1-δ, el error del hipótesis elegido es ≤ ε",
"delta": 0.05,
"muestras_necesarias": {
"ε=0.1": {
"clase_de_1000_hipotesis": 100,
"VC=10": 261,
"VC=100": 2333
},
"ε=0.05": {
"clase_de_1000_hipotesis": 199,
"VC=10": 660,
"VC=100": 6052
},
"ε=0.01": {
"clase_de_1000_hipotesis": 991,
"VC=10": 4905,
"VC=100": 46352
}
},
"el_coste_crece_como_1/ε": true,
"el_coste_crece_como_log(1/δ)": "aumentar la confianza es barato",
"dependencia_de_la_complejidad": "lineal en VC"
}Fundamentos teóricos del aprendizaje, dimensionamiento conceptual de conjuntos de datos, comparación de familias de modelos y análisis de aprendibilidad.
Score matching fundamenta los modelos de difusión; el transporte óptimo aparece en flow matching; la teoría estadística del aprendizaje explica el scaling.
10.1145/1968.1972 verificado en Crossref (2026-08-19).9781139950619 verificado en International ISBN Agency (2026-08-19).