🧮 Computational Mathematics

Inicio · Parte 05 — Álgebra lineal I: vectores y matrices

109 — Matrices y operaciones básicas

intermedio clase 9 de 20 4 horas demostración matrix_basics

Suma, escala y transpuesta operan elemento a elemento; la traza suma la diagonal.

Fórmulas

(A + B)ᵢⱼ = Aᵢⱼ + Bᵢⱼ
(Aᵀ)ᵀ = A
tr(A) = Σ Aᵢᵢ = suma de los autovalores

Desarrollo

Las operaciones básicas con matrices son las que se esperan: suma y escala elemento a elemento, ambas definidas solo entre matrices del mismo shape. El producto matricial es la excepción: no es elemento a elemento, y por eso la clase 111 lo trata aparte.

La traza —la suma de la diagonal— parece una definición arbitraria y tiene propiedades notables: es lineal, es invariante bajo transposición y cumple tr(AB) = tr(BA) aunque AB ≠ BA. Esa última propiedad la hace invariante bajo cambio de base, y de ahí que la traza sea igual a la suma de los autovalores (clase 125).

En machine learning la traza aparece con frecuencia en formas cuadráticas y en el cálculo de gradientes matriciales: ∂tr(AᵀB)/∂A = B. También es la que define la norma de Frobenius, ‖A‖_F = √tr(AᵀA), que es la norma euclídea de la matriz vista como un vector largo.

La transposición cumple (Aᵀ)ᵀ = A y, lo más útil, (AB)ᵀ = BᵀAᵀ con el orden invertido. Ese cambio de orden es la causa de la mitad de los errores al derivar expresiones matriciales, y conviene comprobarlo numéricamente una vez para fijarlo.

Ejemplo trabajado

Operaciones básicas con matrices 2×2.

A = [[1,2],[3,4]]      B = [[0,1],[−1,2]]

A + B = [[1,3],[2,6]]
3A    = [[3,6],[9,12]]

Aᵀ    = [[1,3],[2,4]]
(Aᵀ)ᵀ = A                            ✓

traza(A) = 1 + 4 = 5

Qué calcula el laboratorio

Suma, escala y transpuesta de matrices.

python classes/part-05-algebra-lineal-i-vectores-y-matrices/109-matrices-y-operaciones-basicas/lab.py
compmath run 109

Salidas del laboratorio (7)

Muestra de la ejecución real

{
  "A": [
    [
      1.0,
      2.0
    ],
    [
      3.0,
      4.0
    ]
  ],
  "B": [
    [
      0.0,
      1.0
    ],
    [
      -1.0,
      2.0
    ]
  ],
  "A+B": [
    [
      1.0,
      3.0
    ],
    [
      2.0,
      6.0
    ]
  ],
  "3A": [
    [
      3.0,
      6.0
    ],
    [
      9.0,
      12.0
    ]
  ],
  "Aᵀ": [
    [
      1.0,
      3.0
    ],
    [
      2.0,
      4.0
    ]
  ],
  "(Aᵀ)ᵀ=A": true
}

Errores comunes

Dónde se usa

Norma de Frobenius, cálculo de gradientes matriciales, invariantes bajo cambio de base y regularización de matrices de pesos.

Idea rectora de la parte

La proyección ortogonal es la mejor aproximación en norma euclídea.

Error a evitar

Aplicar producto punto a vectores de escalas incomparables.

Conexión con IA

Cada capa densa es un producto matriz-vector. Los embeddings viven en subespacios y la similitud entre ellos es producto punto normalizado.

Bibliografía de la clase

Archivos de la clase