🧮 Computational Mathematics

Inicio · Parte 10 — Estadística e inferencia

217 — Inferencia bayesiana

universitario-avanzado clase 17 de 20 4 horas demostración bayesian_inference

El intervalo creíble sí admite la lectura probabilística que el de confianza no admite.

Fórmulas

p(θ | datos) ∝ p(datos | θ)·p(θ)
Beta(a,b) + k éxitos en n ⟹ Beta(a+k, b+n−k)
intervalo creíble al 95 %: región con masa posterior 0,95

Desarrollo

La inferencia bayesiana trata el parámetro como una variable aleatoria y devuelve su distribución completa dada la evidencia. No un punto con una barra de error, sino una función que asigna plausibilidad a cada valor posible. De ella se leen la media, la moda, la desviación y cualquier intervalo que interese.

Esa diferencia de objeto produce una diferencia de interpretación. El intervalo creíble al 95 % contiene el parámetro con probabilidad 0,95 según la posterior, y esa es exactamente la frase que no se podía decir del intervalo de confianza en la clase 205. La lectura intuitiva que todo el mundo quiere hacer es correcta aquí, y solo aquí.

La conjugación hace el cálculo trivial en casos favorables. Con prior Beta y verosimilitud binomial, la posterior es Beta con parámetros actualizados: sumar los éxitos a a y los fracasos a b. Un prior Beta(1,1) es uniforme y representa ignorancia previa; con él, la media posterior es (k+1)/(n+2), la regla de sucesión de Laplace.

Lo que el enfoque exige a cambio es declarar el prior. Esa exigencia se presenta a veces como debilidad, pero es transparencia: todo análisis incorpora supuestos, y el bayesiano obliga a escribirlos. La crítica seria no es filosófica sino computacional: fuera de los casos conjugados la posterior no tiene forma cerrada y hay que recurrir a MCMC o a inferencia variacional, que es adonde llega la parte 17.

Ejemplo trabajado

Prior uniforme y evidencia creciente sobre un parámetro real de 0,62.

parámetro real = 0,62      prior = Beta(1,1) = uniforme

   n    posterior        media     desv.
   0    Beta(1,1)       0,5000    0,2887
  10    Beta(7,5)       0,5833    0,1370
  50    Beta(32,20)     0,6154    0,0669
 200    Beta(125,77)    0,6188    0,0340
1000    Beta(621,381)   0,6198    0,0153

La media se acerca al valor real y la desviación cae como 1/√n.

Intervalo creíble al 95 % con n = 1000:
  aproximadamente (0,590 , 0,650)

Lectura legítima:
  "hay un 95 % de probabilidad de que θ esté ahí"
Esa frase sería incorrecta para un intervalo de confianza.

Qué calcula el laboratorio

Actualización bayesiana conjugada Beta-Binomial.

python classes/part-10-estadistica-e-inferencia/217-inferencia-bayesiana/lab.py
compmath run 217

Salidas del laboratorio (6)

Muestra de la ejecución real

{
  "parametro_real": 0.62,
  "prior": "Beta(1,1) = uniforme",
  "historial": [
    {
      "n": 0,
      "posterior": "Beta(1,1)",
      "media": 0.5,
      "sd": 0.288675
    },
    {
      "n": 10,
      "posterior": "Beta(8,4)",
      "media": 0.666667,
      "sd": 0.130744
    },
    {
      "n": 50,
      "posterior": "Beta(33,19)",
      "media": 0.634615,
      "sd": 0.066144
    },
    {
      "n": 150,
      "posterior": "Beta(94,58)",
      "media": 0.618421,
      "sd": 0.039273
    },
    {
      "n": 300,
      "posterior": "Beta(195,107)",
      "media": 0.645695,
      "sd": 0.027478
    }
  ],
  "la_incertidumbre_se_reduce": true,
  "conjugacion": "prior Beta + verosimilitud Binomial = posterior Beta",
  "credible_vs_confianza": "el intervalo creíble sí es una probabilidad del parámetro"
}

Errores comunes

Dónde se usa

Tests A/B bayesianos, bandidos multibrazo, cuantificación de incertidumbre en modelos y estimación con datos escasos.

Idea rectora de la parte

Un intervalo de confianza describe el procedimiento, no una probabilidad del parámetro.

Error a evitar

Confundir significancia estadística con relevancia práctica.

Conexión con IA

Evaluar un modelo es inferencia estadística: métricas con intervalo, comparaciones múltiples corregidas y detección de leakage.

Bibliografía de la clase

Archivos de la clase