🧮 Computational Mathematics

Inicio · Parte 09 — Probabilidad y procesos aleatorios

191 — Covarianza y correlación

universitario clase 11 de 20 4 horas demostración covariance_correlation

La covarianza depende de las unidades; la correlación no, pero solo ve lo lineal.

Fórmulas

Cov(X,Y) = E[(X − μₓ)(Y − μᵧ)]
ρ = Cov(X,Y) / (σₓ·σᵧ),   −1 ≤ ρ ≤ 1
Var(X+Y) = Var(X) + Var(Y) + 2·Cov(X,Y)

Desarrollo

La covarianza mide si dos variables se desvían de su media en el mismo sentido. Positiva significa que suelen subir juntas; negativa, que una sube cuando la otra baja; cero, que no hay tendencia lineal conjunta. Su defecto es que su magnitud depende de las escalas: medir en milímetros en vez de metros multiplica la covarianza por mil sin que la relación haya cambiado.

La correlación de Pearson arregla eso dividiendo por las desviaciones estándar. El resultado es adimensional y está acotado en [−1, 1], con los extremos alcanzados solo si la relación es exactamente lineal. Esa acotación es la desigualdad de Cauchy-Schwarz aplicada a variables centradas, y conecta con el ángulo entre vectores de la parte 05: la correlación es el coseno del ángulo entre los datos centrados.

La limitación crítica es que la correlación solo detecta relaciones lineales. Si Y = X² con X simétrica alrededor de cero, la correlación es exactamente 0 y la dependencia es total. Correlación cero no implica independencia; la implicación solo va en un sentido, y solo bajo normalidad conjunta se convierte en equivalencia.

La fórmula de la varianza de una suma muestra por qué la covarianza importa en la práctica: diversificar una cartera, promediar predictores en un ensemble o combinar estimadores reduce la varianza solo en la medida en que las covarianzas sean bajas. Modelos muy correlacionados no se ayudan al promediarse.

Ejemplo trabajado

Invariancia de escala: multiplicar una variable por mil.

x = 1, 2, 3, 4, 5 ...        y correlacionada con x
z = 1000·y                   misma relación, otras unidades

Cov(x, y) =    4,925
Cov(x, z) = 4 925,0          × 1000, como la escala

corr(x, y) = 0,998830
corr(x, z) = 0,998830        idéntica                     ✓

Dependencia no lineal invisible:
  x = −2, −1, 0, 1, 2      y = x² = 4, 1, 0, 1, 4
  corr(x, y) = 0    y sin embargo y está determinada por x

Qué calcula el laboratorio

Covarianza depende de la escala; la correlación no.

python classes/part-09-probabilidad-y-procesos-aleatorios/191-covarianza-y-correlacion/lab.py
compmath run 191

Salidas del laboratorio (7)

Muestra de la ejecución real

{
  "cov(x,y)": 4.925,
  "cov(x,z)_escala_x1000": 4925.0,
  "corr(x,y)": 0.99882965,
  "corr(x,z)": 0.99882965,
  "la_correlacion_es_invariante_a_escala": true,
  "rango_de_la_correlacion": "[-1, 1]"
}

Errores comunes

Dónde se usa

Matrices de covarianza en PCA, selección de características, diversificación de carteras y diseño de ensembles con predictores poco correlacionados.

Idea rectora de la parte

P(A|B) y P(B|A) no son intercambiables: confundirlas es la falacia del fiscal.

Error a evitar

Ignorar la probabilidad base al interpretar un test positivo.

Conexión con IA

Un modelo de lenguaje es una distribución condicional sobre el siguiente token; la difusión es un proceso estocástico con reverso aprendido.

Bibliografía de la clase

Archivos de la clase