🧮 Computational Mathematics

Inicio · Parte 05 — Álgebra lineal I: vectores y matrices

106 — Combinaciones lineales

intermedio clase 6 de 20 4 horas demostración linear_combinations

Una combinación lineal es la operación fundamental del álgebra lineal, y una capa densa es exactamente eso.

Fórmulas

Σ αᵢvᵢ = α₁v₁ + ... + αₖvₖ
capa densa: y = Wx + b

Desarrollo

Una combinación lineal suma vectores multiplicados por escalares. Toda la estructura del álgebra lineal se construye sobre esta única operación: independencia, span, base, dimensión, transformación lineal y rango se definen en términos de combinaciones lineales.

Con la base canónica la combinación es trivial —los coeficientes son las propias coordenadas— y por eso las coordenadas de un vector son sus coeficientes en esa base. Con otra base, los coeficientes cambian aunque el vector sea el mismo, que es exactamente el contenido de la clase 121.

La conexión con machine learning es directa y merece enunciarse sin rodeos: una capa densa calcula combinaciones lineales. Cada neurona de salida toma los pesos de una fila de W como coeficientes y combina las entradas. y = Wx + b es un conjunto de combinaciones lineales más un desplazamiento.

El sesgo b es lo que impide que la capa sea estrictamente lineal: una transformación lineal manda el cero al cero, y sumar b lo mueve. Técnicamente Wx + b es una transformación afín, no lineal, y esa distinción es la misma que la clase 073 resolvió con coordenadas homogéneas.

Ejemplo trabajado

Combinación lineal en la base canónica.

e₁ = (1,0,0)   e₂ = (0,1,0)   e₃ = (0,0,1)
coeficientes: 2, −3, 5

2·e₁ + (−3)·e₂ + 5·e₃ = (2, −3, 5)

Los coeficientes SON las coordenadas       ✓
(esto solo ocurre en la base canónica)

Capa densa equivalente:
  y = Wx + b   con W de shape (salidas, entradas)
  cada fila de W son los coeficientes de una combinación

Qué calcula el laboratorio

Toda combinación lineal de la base canónica reconstruye el vector.

python classes/part-05-algebra-lineal-i-vectores-y-matrices/106-combinaciones-lineales/lab.py
compmath run 106

Salidas del laboratorio (6)

Muestra de la ejecución real

{
  "base_canonica": [
    [
      1.0,
      0.0,
      0.0
    ],
    [
      0.0,
      1.0,
      0.0
    ],
    [
      0.0,
      0.0,
      1.0
    ]
  ],
  "coeficientes": [
    2.0,
    -3.0,
    5.0
  ],
  "combinacion": [
    2.0,
    -3.0,
    5.0
  ],
  "coincide_con_los_coeficientes": true,
  "una_capa_densa_es_una_combinacion_lineal": true,
  "mas_sesgo": "y = Wx + b"
}

Errores comunes

Dónde se usa

Capas densas, mezclas de modelos, interpolación, representación en bases y superposición de señales.

Idea rectora de la parte

Una matriz es una función lineal escrita en una base concreta.

Error a evitar

Aplicar producto punto a vectores de escalas incomparables.

Conexión con IA

Cada capa densa es un producto matriz-vector. Los embeddings viven en subespacios y la similitud entre ellos es producto punto normalizado.

Bibliografía de la clase

Archivos de la clase

← 105 Vectores unitarios 107 Independencia y dependencia lineal →