🧮 Computational Mathematics

Inicio · Parte 09 — Probabilidad y procesos aleatorios

200 — Capstone: simulador probabilístico y bayesiano

universitario clase 20 de 20 4 horas demostración capstone_probabilistic_simulator

Con suficientes datos, el prior se diluye y bayesiano y frecuentista convergen.

Fórmulas

posterior ∝ verosimilitud × prior
Beta(a,b) + k éxitos en n ⟹ Beta(a+k, b+n−k)
media posterior = (a+k) / (a+b+n)

Desarrollo

El capstone reúne toda la parte en un simulador: se fija un parámetro real desconocido para el observador, se generan datos, y se estima ese parámetro de dos maneras —contando frecuencias y actualizando una creencia con Bayes— para ver cómo se comportan a medida que llegan observaciones.

El prior Beta(2,2) expresa una creencia previa suave centrada en 0,5. Es conjugado de la binomial, lo que significa que el posterior pertenece a la misma familia y la actualización se reduce a sumar: Beta(a+k, b+n−k). Esa comodidad algebraica es la razón histórica de que los priores conjugados dominaran antes de que MCMC hiciera viable cualquier prior.

Lo que el experimento muestra es la dilución del prior. Con pocas observaciones la media posterior está tirada hacia 0,5 por la creencia previa; con cientos de datos se pega a la frecuencia observada, y las dos estimaciones se vuelven indistinguibles. El prior importa cuando hay poca evidencia, que es precisamente cuando hace falta que importe.

La diferencia de fondo entre ambos enfoques no es numérica sino de interpretación. El frecuentista da un punto y un intervalo con garantías de cobertura a largo plazo; el bayesiano da una distribución completa sobre el parámetro, de la que se leen media, incertidumbre e intervalo creíble. Esa distribución es lo que la parte 10 formaliza y lo que hace del enfoque bayesiano el lenguaje natural de la cuantificación de incertidumbre.

Ejemplo trabajado

Parámetro real 0,35, prior Beta(2,2), evidencia creciente.

  n obs   éxitos   media posterior   desv. posterior
      0        0        0,5000           0,2236
     10        3        0,3571           0,1247
     50        16       0,3333           0,0645
    200        58       0,2941           0,0313
  1 000      265        0,2669           0,0140

estimación frecuentista final (265/1000) = 0,2650
estimación bayesiana final                = 0,2696

diferencia = 0,0046  →  el prior ya casi no pesa

peso del prior:  a+b = 4 observaciones equivalentes
  frente a n = 10   pesa un 29 %
  frente a n = 1000 pesa un 0,4 %

Qué calcula el laboratorio

Capstone: simulador probabilístico con actualización bayesiana.

python classes/part-09-probabilidad-y-procesos-aleatorios/200-capstone-simulador-probabilistico-y-bayesiano/lab.py
compmath run 200

Salidas del laboratorio (8)

Muestra de la ejecución real

{
  "parametro_real": 0.35,
  "prior": "Beta(2,2)",
  "actualizacion": [
    {
      "observaciones": 0,
      "exitos": 0,
      "media_posterior": 0.5,
      "desviacion_posterior": 0.223607,
      "IC_95%_aprox": [
        0.061731,
        0.938269
      ]
    },
    {
      "observaciones": 10,
      "exitos": 0,
      "media_posterior": 0.142857,
      "desviacion_posterior": 0.090351,
      "IC_95%_aprox": [
        -0.03423,
        0.319945
      ]
    },
    {
      "observaciones": 50,
      "exitos": 10,
      "media_posterior": 0.222222,
      "desviacion_posterior": 0.056058,
      "IC_95%_aprox": [
        0.112348,
        0.332097
      ]
    },
    {
      "observaciones": 200,
      "exitos": 53,
      "media_posterior": 0.269608,
      "desviacion_posterior": 0.030993,
      "IC_95%_aprox": [
        0.208861,
        0.330355
      ]
    }
  ],
  "estimacion_frecuentista": 0.265,
  "estimacion_bayesiana_final": 0.269608,
  "el_prior_se_diluye_con_datos": true
}

Errores comunes

Dónde se usa

Tests A/B bayesianos, bandidos multibrazo con Thompson sampling, calibración de modelos y estimación de tasas con pocos datos.

Idea rectora de la parte

Una cadena de Markov ergódica olvida su estado inicial.

Error a evitar

Ignorar la probabilidad base al interpretar un test positivo.

Conexión con IA

Un modelo de lenguaje es una distribución condicional sobre el siguiente token; la difusión es un proceso estocástico con reverso aprendido.

Bibliografía de la clase

Archivos de la clase