Vamos a iniciar la parte de métodos numéricos que trata de resolver problemas relacionados con el álgebra lineal.

Dichos problemas se engloban en dos grandes grupos:

• Resolución de sistemas de ecuaciones.
• Cálculo de valores y vectores propios.

En muchos algoritmos de machine learning y de big data, aparecen sistemas de ecuaciones lineales de gran tamaño que hay que resolver o valores y vectores propios de matrices que hay que hallar.

Por tanto, los métodos que vamos a ver son clave para entender bien los algoritmos de machine learning y big data relacionados con problemas de álgebra lineal numérica.

En este primer capítulo vamos a introducir todos los conceptos y las propiedades que nos harán falta para entender y practicar los algoritmos numéricos relacionados con el álgebra lineal numérica.

Una matriz \(\mathbf{A}\) en \(\mathbb{R}^n\) o en \(\mathbb{C}^n\) se puede entender como un vector de \(m\cdot n\) componentes organizado en \(m\) filas y \(n\) columnas: \[ \mathbf{A}=\begin{bmatrix}a_{11}&a_{12}&\ldots&a_{1n} \\a_{21}&a_{22}&\ldots&a_{2n} \\\vdots&\vdots&\ddots&\vdots \\a_{m1}&a_{m2}&\ldots&a_{mn} \\\end{bmatrix}, \] donde los valores \(a_{ij}\), \(i=1,2,\ldots,m\) y \(j=1,2,\ldots,n\) son los valores de la matriz que, como hemos indicado, pueden ser reales o complejos, dependiendo del problema en cuestión.

Las matrices con el mismo número de filas que de columnas se denominan matrices cuadradas y son del tipo \(n\times n\), donde \(n\) será el número de filas o de columnas.

En el ejemplo anterior la matriz \(\mathbf{A}_2\) es una matriz cuadrada \(3\times 3\).

Definición. Al espacio vectorial de las matrices reales de \(m\) filas y \(n\) columnas se le conoce por \({\cal M}_{m\times n}(\mathbb{R})\).

Al espacio vectorial de las matrices complejas de \(m\) filas y \(n\) columnas se le conoce por \({\cal M}_{m\times n}(\mathbb{C})\).

Definición de matriz identidad. Recordemos que la matriz identidad \(\mathbf{I}_n\) de orden \(n\) es la matriz cuadrada \(n\times n\) que tiene \(1\)’s en la diagonal y ceros en caso contrario:

\[ \mathbf{I}_n=\begin{bmatrix}1&0&\ldots&0 \\0&1&\ldots&0 \\\vdots&\vdots&\ddots&\vdots \\0&0&\ldots&1 \\\end{bmatrix}. \]

Definición de matriz traspuesta. Sea \(\mathbf{A}\in {\cal M}_{m\times n}(\mathbb{K})\) una matriz \(m\times n\). Entonces la matriz traspuesta de \(\mathbf{A}\), indicada por \(\mathbf{A}^\top\) es la matriz \(\mathbf{A}\) en la que hemos intercambiado filas por columnas, es decir, si \(\mathbf{A}=\begin{bmatrix}a_{11}&a_{12}&\ldots&a_{1n} \\a_{21}&a_{22}&\ldots&a_{2n} \\\vdots&\vdots&\ddots&\vdots \\a_{m1}&a_{m2}&\ldots&a_{mn} \\\end{bmatrix}\), entonces:

\(\mathbf{A}^\top = \begin{bmatrix}a_{11}&a_{21}&\ldots&a_{m1} \\a_{12}&a_{22}&\ldots&a_{m2} \\\vdots&\vdots&\ddots&\vdots \\a_{1n}&a_{2n}&\ldots&a_{mn} \\\end{bmatrix}.\)

Definición de matriz inversa. Sea \(\mathbf{A}\in {\cal M}_{n\times n}(\mathbb{K})\) una matriz cuadrada \(n\times n\) donde suponemos que su determinante es diferente de \(0\), \(\mathrm{det}(A)\neq 0\). Entonces la matriz inversa de \(\mathbf{A}\), indicada por \(\mathbf{A}^{-1}\) es la matriz que verifica: \[ \mathbf{A}\cdot \mathbf{A}^{-1}=\mathbf{A}^{-1}\cdot \mathbf{A}=\mathbf{I}_n, \] es decir el producto de la matriz por su inversa da la matriz identidad.

Existen los siguientes tipos de matrices cuadradas:

• La matriz \(\mathbf{A}\) es singular si \(\mathrm{det}(A)=0\).
• La matriz \(\mathbf{A}\) es regular si \(\mathrm{det}(A)\neq 0\). En este caso, existe la inversa de \(\mathbf{A}\), \(\mathbf{A}^{-1}\).
• La matriz \(\mathbf{A}\) es simétrica si \(\mathbf{A}^\top =\mathbf{A}\).
• La matriz \(\mathbf{A}\) es ortogonal si \(\mathbf{A}^{-1}=\mathbf{A}^\top\).
• La matriz \(\mathbf{A}\), \(n\times n\), es definida positiva si para cualquier \(\mathbf{x}\in\mathbb{R}^n\), \(\mathbf{x}^\top\mathbf{A}\mathbf{x} >0\).

• La matriz \(\mathbf{A}=(a_{ij})_{i,j=1,\ldots,n}\) es diagonal dominante si \[ |a_{ii}| > \sum_{j=1,j\neq i}^n |a_{ij}|, \] para \(i=1,2,\ldots,n\), es decir, que el valor absoluto de los elementos de la diagonal supera a la suma en valor absoluto de todos los demás valores de la fila.
• La matriz \(\mathbf{A}\) es \((p,q)\) banda si \(a_{ij}=0\), para \(i\geq j+q\) o \(j\geq i+p\), es decir, dado \(a_{ii}\) un elemento de la diagonal, todos los valores \(a_{i,i+q}=a_{i,i+q+1}=\cdots =a_{i,n}=0\) y \(a_{i+p,i}=a_{i+p+1,i}=\cdots =a_{n,i}=0\):

\[\begin{bmatrix}a_{11}&\ldots&a_{1q}&0&0&\ldots&0 \\\vdots&a_{22}&\ldots&a_{2,1+q}&0&\ldots&0 \\\vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\vdots \\a_{p1}&\vdots&\vdots&\ddots&\vdots&\vdots&\vdots \\0&a_{p+1,2}&\vdots&\vdots&\vdots&\vdots&\vdots \\0&\ldots&\ldots&\ldots&\ldots&\ldots&\ldots \\0&\ldots&\ldots&\ldots&\ldots&\ldots&a_{nn} \\\end{bmatrix}\]

Dentro de las matrices \((p,q)\) banda, tenemos las siguientes:

• La matriz \(\mathbf{A}\) es diagonal si \(p=q=1\):

\[\begin{bmatrix}a_{11}&0&\ldots&0 \\0&a_{22}&\ldots&0 \\\vdots&\vdots&\ddots&\vdots \\0&\ldots&0&a_{nn} \\\end{bmatrix}.\]

• La matriz \(\mathbf{A}\) es tridiagonal si \(p=q=2\):

\[\begin{bmatrix}a_{11}&a_{12}&0&0&\ldots&0 \\a_{21}&a_{22}&a_{23}&0&\ldots&0 \\0&a_{32}&a_{33}&a_{34}&\ldots&0 \\\vdots&\vdots&\vdots&\ddots&\vdots&\vdots \\0&\ldots&0&a_{n-1,n-2}&a_{n-1,n-1}&a_{n-1,n} \\0&\ldots&\ldots&0&a_{n,n-1}&a_{nn} \\\end{bmatrix},\] es decir, para cada fila \(i\)-ésima, sólo tres valores como máximo son distintos de \(0\): \(a_{i,i-1},a_{i,i}\) y \(a_{i,i+1}\).

• La matriz \(\mathbf{A}\) es pentadiagonal si \(p=q=3\), es decir, para cada fila \(i\)-ésima, sólo cinco valores como máximo son distintos de \(0\): \(a_{i,i-2},a_{i,i-1},a_{i,i},a_{i,i+1}\) y \(a_{i,i+2}\).

• La matriz \(\mathbf{A}\) es triangular superior si \(p=1, q=n\):

\[\begin{bmatrix}a_{11}&a_{12}&\ldots&a_{1n} \\0&a_{22}&\ldots&a_{2n} \\\vdots&\vdots&\ddots&\vdots \\0&\ldots&0&a_{nn} \\\end{bmatrix},\] es decir todos los elementos por “debajo de la diagonal” son nulos.

• La matriz \(\mathbf{A}\) es triangular inferior si \(p=n, q=1\):

\[\begin{bmatrix}a_{11}&0&\ldots&0 \\a_{21}&a_{22}&\ldots&0 \\\vdots&\vdots&\ddots&\vdots \\a_{n1}&\ldots&a_{n,n-1}&a_{nn} \\\end{bmatrix},\] es decir todos los elementos por “encima de la diagonal” son nulos.

• La matriz \(\mathbf{A}\) es Hessenberg superior si \(p=2, q=n\):

\[\begin{bmatrix}a_{11}&a_{12}&a_{13}&a_{14}&\ldots&a_{1n} \\a_{21}&a_{22}&a_{23}&a_{24}&\ldots&a_{2n} \\0&a_{32}&a_{33}&a_{34}&\ldots&a_{3n} \\\vdots&\vdots&\vdots&\ddots&\vdots&\vdots \\0&\ldots&0&a_{n-1,n-2}&a_{n-1,n-1}&a_{n-1,n} \\0&\ldots&\ldots&0&a_{n,n-1}&a_{nn} \\\end{bmatrix},\] es decir, fijada una columna \(j\), todos los elementos de la forma \(a_{kj}\) valen \(0\) para \(k=j+2,\ldots,n\).

• La matriz \(\mathbf{A}\) es Hessenberg inferior si \(p=n, q=2\):

\[\begin{bmatrix}a_{11}&a_{12}&0&0&\ldots&0 \\a_{21}&a_{22}&a_{23}&0&\ldots&0 \\a_{31}&a_{32}&a_{33}&a_{34}&\ldots&0 \\\vdots&\vdots&\vdots&\ddots&\vdots&\vdots \\a_{n-1,1}&\ldots&\ldots&a_{n-1,n-2}&a_{n-1,n-1}&a_{n-1,n} \\a_{n1}&\ldots&\ldots&\ldots&a_{n,n-1}&a_{nn} \\\end{bmatrix},\] es decir, fijada una fila \(i\), todos los elementos de la forma \(a_{ik}\) valen \(0\) para \(k=i+2,\ldots,n\).

Definición. Dadas dos matrices cuadradas \(\mathbf{A}\) y \(\mathbf{B}\), \(n\times n\), se dice que son semejantes si existe una matriz invertible \(\mathbf{C}\), \(n\times n\), tal que \(\mathbf{B}=\mathbf{C}^{-1}\cdot \mathbf{A}\cdot\mathbf{C}\).

Definición. Una matriz cuadrada \(\mathbf{A}\) es diagonalizable si es semejante a una matriz diagonal, es decir, existe una matriz invertible \(\mathbf{C}\) y una matriz diagonal \(\mathbf{D}\) tal que \(\mathbf{D}=\mathbf{C}^{-1}\cdot \mathbf{A}\cdot\mathbf{C}\).

Observación. En álgebra lineal, cuando dos matrices \(\mathbf{A}\) y \(\mathbf{B}\) son semejantes, se dice que son matrices correspondientes a un endomorfismo en \(\mathbb{R}^n\) en bases diferentes. La matriz \(\mathbf{C}\) se denomina matriz de cambio de base.

También, en el ámbito de álgebra lineal, cuando una matriz \(\mathbf{A}\) es diagonalizable, los elementos de la matriz diagonal \(\mathbf{D}\) se denominan valores propios y las columnas de la matriz \(\mathbf{C}\) de cambio de base se denominan vectores propios.

• La traspuesta de la suma es la suma de traspuestas: \(\mathbf{(A+B)}^\top =\mathbf{A}^\top +\mathbf{B}^\top\), para cualquier par de matrices \(\mathbf{A},\mathbf{B}\in {\cal M}_{m,n}\).
• La traspuesta del producto es el producto inverso de traspuestas: \(\mathbf{(A\cdot B)}^\top = \mathbf{B}^\top\cdot\mathbf{A}^\top\), para cualquier par de matrices \(\mathbf{A}\in {\cal M}_{m,n},\ \mathbf{B}\in {\cal M}_{n,k}\).
• El determinante de una matriz traspuesta coincide con el determinante de la matriz: \(\mathrm{det}(\mathbf{A}^\top)=\mathrm{det}(\mathbf{A})\), para cualquier matriz cuadrada \(\mathbf{A}\in {\cal M}_{n,n}\).
• El determinante del producto es el producto de determinantes: \(\mathrm{det}(\mathbf{A\cdot B})=\mathrm{det}(\mathbf{A})\cdot\mathrm{det}(\mathbf{B})\), para cualquier par de matrices cuadradas \(\mathbf{A},\ \mathbf{B}\in {\cal M}_{n,n}\).

• Una matriz simétrica \(\mathbf{A}=\mathbf{A}^\top\) es semejante a una matriz diagonal donde la matriz de cambio de base se puede elegir ortogonal. Es decir, existe una matriz \(\mathbf{C}\) ortogonal tal que \(\mathbf{C}^\top\cdot\mathbf{A}\cdot\mathbf{C}=\mathbf{D}\) donde \(\mathbf{D}\) es una matriz diagonal:

\[\mathbf{D}=\begin{bmatrix}\lambda_{1}&0&\ldots&0 \\0&\lambda_{2}&\ldots&0 \\\vdots&\vdots&\ddots&\vdots \\0&\ldots&0&\lambda_{n} \\\end{bmatrix}.\]

• Criterio de Sylvester: una matriz simétrica es definida positiva si, y sólo si, tiene todos los determinantes principales positivos. El determinante principal \(i\)-ésimo de una matriz se calcula hallando el determinante de la submatriz formada por las \(i\) primeras filas y las \(i\) primeras columnas.

Definición de valor y vector propio de una matriz. Dada una matriz cuadrada \(\mathbf{A}\), \(n\times n\), diremos que \(\mathbf{v}\neq 0\) es un vector propio de valor propio \(\lambda\) de la matriz \(\mathbf{A}\) si \(\mathbf{A}\cdot \mathbf{v}=\lambda\mathbf{v}\).

Es decir, el “efecto” que tiene la matriz \(\mathbf{A}\) sobre el vector \(\mathbf{v}\) es alargándolo o reduciéndolo un factor \(\lambda\).

Hallar los valores y vectores propios es fundamental para estudiar el comportamiento de una matriz \(\mathbf{A}\) y tiene multitud de aplicaciones en machine learning y big data.

Para hallar los valores propios de una matriz \(\mathbf{A}\), hemos de hallar los ceros de la denominada ecuación característica de \(\mathbf{A}\): \[ p_A(\lambda)=\mathrm{det}(\mathbf{A}-\lambda\cdot\mathbf{I}_n)=0. \] La función \(p_A(\lambda)\) es un polinomio de grado \(n\) en \(\lambda\). Por tanto, hallar valores propios es equivalente a hallar ceros del polinomio característico \(p_A(\lambda)\).

Una vez hallado un valor propio \(\lambda_1\) de la matriz \(A\), para hallar los vectores propios \(\mathbf{v}_1\) de valor propio \(\lambda_1\), hemos de resolver la ecuación: \[ \mathbf{A}\cdot\mathbf{v}_1 =\lambda_1\mathbf{v}_1,\ \Rightarrow (\mathbf{A}-\lambda_1\mathbf{I}_n)\cdot\mathbf{v}_1=\mathbf{0}. \] La ecuación anterior es lineal, homogénea e indeterminada, es decir, tiene muchas soluciones.

• Dada una matriz cuadrada \(\mathbf{A}\in {\cal M}_{n,n}\), los valores propios de \(\mathbf{A}\) y de su traspuesta \(\mathbf{A}^\top\) son los mismos.

• Dado un valor propio \(\lambda\) de la matriz \(\mathbf{A}\) o \(\mathbf{A}^\top\), los vectores propios \(\mathbf{v}^{(d)}_{\lambda}\) de \(\mathbf{A}\) de valor propio \(\lambda\) se denominan vectores propios por la derecha de \(\mathbf{A}\) y los vectores propios \(\mathbf{v}^{(i)}_{\lambda}\) de \(\mathbf{A}^\top\) de valor propio \(\lambda\) se denominan vectores propios por la izquierda de \(\mathbf{A}\). Entonces \(\mathbf{v}^{(d)}_{\lambda}\) es ortogonal a \(\mathbf{v}^{(i)}_{\mu}\) si los valores propios \(\lambda\) y \(\mu\) de la matriz \(\mathbf{A}\) son diferentes: \(\lambda\neq \mu\).

• Una matriz \(\mathbf{A}\) es regular si, y sólo si, todos sus valores propios son diferentes de cero. En este caso, si \(\mathbf{v}\) es un vector propio de \(\mathbf{A}\) de valor propio \(\lambda\), entonces \(\mathbf{v}\) es un vector propio de \(\mathbf{A}^{-1}\) de valor propio \(\frac{1}{\lambda}\).

• Teorema de Gerschgorin: los valores propios de una matriz \(\mathbf{A}=(a_{ij})_{i,j=1,\ldots,n}\in {\cal M}_{n,n}\) están localizados en el plano complejo \(\mathbb{C}\) en la unión \(\displaystyle {\cal F}=\cup_{i=1}^n F_i\) de los discos: \[ F_i=\left\{\lambda\ |\ |\lambda -a_{ii}|\leq\sum_{j\neq i}|a_{ij}|\right\}, \] y también en la unión \(\displaystyle {\cal C}=\cup_{j=1}^n C_j\) de los discos: \[ C_j=\left\{\lambda\ |\ |\lambda -a_{jj}|\leq\sum_{i\neq j}|a_{ij}|\right\}. \]

• Dos matrices semejantes \(\mathbf{A}, \mathbf{B}\in {\cal M}_{n,n}\) tienen los mismos valores propios. Sea \(\mathbf{C}\) la matriz de cambio de base, es decir, \(\mathbf{B}=\mathbf{C}^{-1}\cdot\mathbf{A}\cdot\mathbf{C}\). Entonces si \(\mathbf{v}\) es un vector propio de valor propio \(\lambda\) de la matriz \(\mathbf{A}\), entonces \(\mathbf{C}^{-1}\mathbf{v}\) es un vector propio de la matriz \(\mathbf{B}\) del mismo valor propio \(\lambda\) de la matriz \(\mathbf{B}\).

• Sea \(\mathbf{A}\) una matriz escrita en bloques de la forma siguiente: \[ \mathbf{A}=\begin{bmatrix} \mathbf{A}_{11}&\mathbf{A}_{12}\\ \mathbf{0} & \mathbf{A}_{22} \end{bmatrix}, \] donde las submatrices \(\mathbf{A}_{11}\) y \(\mathbf{A}_{22}\) son cuadradas. Entonces el conjunto de valores propios de la matriz \(\mathbf{A}\) es la unión de los valores propios de las submatrices \(\mathbf{A}_{11}\) y \(\mathbf{A}_{22}\).

• Sea \(\mathbf{A}\) una matriz \(n\times n\), \(\mathbf{A}\in {\cal M}_{n,n}\) y sea \(p(x)\) un polinomio no nulo. Entonces, \(\mathbf{v}\) es un vector propio de valor propio \(\lambda\) de la matriz \(\mathbf{A}\) si, y sólo si, \(\mathbf{v}\) es un vector propio de valor propio \(p(\lambda)\) de la matriz \(p(\mathbf{A})\).

• Sean \(\lambda_1,\lambda_2,\ldots,\lambda_n\) los valores propios de una matriz \(\mathbf{A}\in {\cal M}_{n,n}\), repetidos según su multiplicidad. Entonces: \[ \mathrm{tr}(\mathbf{A}):=\sum_{i=1}^n a_{ii}=\sum_{i=1}^n \lambda_i,\quad \mathrm{det}(\mathbf{A})=\prod_{i=1}^n \lambda_i. \]

• Sea \(\mathbf{A}\in {\cal M}_{n,n}\) una matriz diagonalizable con matriz de cambio de base \(\mathbf{C}\), es decir, \(\mathbf{C}^{-1}\cdot\mathbf{A}\cdot\mathbf{C}=\mathbf{D}\), con \(\mathbf{D}\) matriz diagonal. Entonces los elementos diagonales de \(\mathbf{D}\) son los valores propios de la matriz \(\mathbf{A}\) y las columnas de la matriz \(\mathbf{C}\) forman una base de vectores propios por la derecha de la matriz \(\mathbf{A}\) y las filas de \(\mathbf{C}^{-1}\) forman una base de vectores propios por la izquierda de la matriz \(\mathbf{A}\).

• Dada una matriz \(\mathbf{A}\in {\cal M}_{n,n}\) y dados \(\mathbf{v}_1\) y \(\mathbf{v}_2\) vectores propios de valores propios \(\lambda_1\) y \(\lambda_2\), respectivamente, con \(\lambda_1\neq \lambda_2\). Entonces \(\mathbf{v}_1\) y \(\mathbf{v}_2\) son linealmente independientes.

• Una consecuencia de la propiedad anterior es que si una matriz \(\mathbf{A}\in {\cal M}_{n,n}\) tiene \(n\) valores propios diferentes, entonces es diagonalizable.

• Una matriz simétrica \(\mathbf{A}=\mathbf{A}^\top \in {\cal M}_{n,n}\) es diagonalizable y los valores diagonales de la matriz diagonal \(\mathbf{D}\) son los valores propios de la matriz \(\mathbf{A}\). Además, sabemos que la matriz de cambio de base \(\mathbf{C}^\top\) se puede elegir ortogonal (\(\mathbf{C}^\top =\mathbf{C}^{-1}\)), es decir \(\mathbf{C}^\top\cdot\mathbf{A}\cdot\mathbf{C}=\mathbf{D}\). Las columnas de dicha matriz forma la base de vectores propios de la matriz \(\mathbf{A}\).

• Si una matriz \(\mathbf{A}\) es simétrica y definida positiva, sus valores propios reales son positivos.

Dado un espacio vectorial \(E\) sobre \(\mathbb{R}\) o sobre \(\mathbb{C}\) que, para fijar ideas podemos suponer que \(E=\mathbb{R}^n\) o \(E=\mathbb{C}^n\), donde \(n\) sería la dimensión de \(E\), una norma sobre \(E\) es una aplicación: \[ \begin{align*} \|\ \|:E & \longrightarrow \mathbb{R}^+\\ \mathbf{x} & \longrightarrow \|\mathbf{x}\| \end{align*} \] que cumple las propiedades siguientes:

• \(\|\mathbf{x}\|=0\), si, y sólo si, \(\mathbf{x}=\mathbf{0}\).
• \(\|\lambda\mathbf{x}\|=|\lambda|\cdot\|\mathbf{x}\|\), para cualquier \(\lambda\in \mathbb{K}\), (donde \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\)) y para todo valor \(\mathbf{x}\in E\).
• \(\|\mathbf{x}+\mathbf{y}\|\leq \|\mathbf{x}\|+\|\mathbf{y}\|\), para cualquier \(\mathbf{x},\mathbf{y}\in E\). (desigualdad triangular)

Intuitivamente, una normal vectorial asocia a cada vector o elemento del espacio vectorial \(E\), una cantidad positiva intentando medir alguna cantidad del vector.

Existen tres normas muy usadas:

• Norma \(p\)-ésima: \[\|\mathbf{x}\|_p=\|(x_1,x_2,\ldots,x_n)\|_p=\left(\sum_{i=1}^n |x_i|^p\right)^{\frac{1}{p}},\] con \(p\geq 1\). Dentro de éstas está la más usada para \(p=2\) denominada norma euclídea: \[ \|\mathbf{x}\|_2=\|(x_1,x_2,\ldots,x_n)\|_2=\sqrt{\left(\sum_{i=1}^n |x_i|^2\right)}. \] Geométricamente, la norma euclídea nos da la longitud de un vector \(\mathbf{x}\) en los espacios vectoriales \(\mathbb{R}^2\) o \(\mathbb{R}^3\).

• La norma 1 que sería la norma \(p\)-ésima para \(p=1\): \[ \|\mathbf{x}\|_1=\|(x_1,x_2,\ldots,x_n)\|_1=\sum_{i=1}^n |x_i|. \]

• La norma infinito: \[ \|\mathbf{x}\|_\infty=\|(x_1,x_2,\ldots,x_n)\|_\infty=\max_{i=1,2,\ldots,n} |x_i|. \]

Consideremos ahora el espacio vectorial de las matrices cuadradas de \(n\times n\), es decir, de \(n\) filas y \(n\) columnas, \({\cal M}_{n,n}\). Una norma matricial sobre dicho espacio es una aplicación: \[ \begin{align*} \|\ \|:{\cal M}_{n,n} & \longrightarrow \mathbb{R}^+\\ \mathbf{A} & \longrightarrow \|\mathbf{A}\| \end{align*} \] que cumple las propiedades siguientes:

• \(\|\mathbf{A}\|=0\), si, y sólo si, \(\mathbf{A}=\mathbf{0}\).
• \(\|\lambda\mathbf{A}\|=|\lambda|\cdot\|\mathbf{A}\|\), para cualquier \(\lambda\in \mathbb{K}\), (donde \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\)) y para todo valor \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{R})\).
• \(\|\mathbf{A}+\mathbf{B}\|\leq \|\mathbf{A}\|+\|\mathbf{B}\|\), para cualquier para de matrices \(\mathbf{A},\mathbf{B}\in {\cal M}_{n,n}(\mathbb{R})\). (desigualdad triangular)
• \(\|\mathbf{A}\cdot\mathbf{B}\|\leq \|\mathbf{A}\|\cdot\|\mathbf{B}\|\), para cualquier para de matrices \(\mathbf{A},\mathbf{B}\in {\cal M}_{n,n}(\mathbb{R})\).

Una norma matricial sobre el espacio vectorial de las matrices \({\cal M}_{n,n}(\mathbb{R})\) se podría interpretar como una norma vectorial sobre el espacio vectorial \(\mathbb{K}^{n^2}\) pero con una propiedad adicional, la cuarta, que tiene en cuenta la estructura de la matriz en filas y columnas.

Dada una norma vectorial sobre \(\mathbb{R}^n\) (fijaremos ideas en \(\mathbb{K}=\mathbb{R}\) pero hemos de pensar que \(\mathbb{K}\) puede ser \(\mathbb{C}\)), se puede definir la norma matricial subordinada a la vectorial de la forma siguiente:

Dada una matriz \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{R})\), definimos \[ \|\mathbf{A}\|=\max_{\mathbf{x}\neq \mathbf{0}}\frac{\|\mathbf{A}\mathbf{x}\|}{\|\mathbf{x}\|}=\max_{\|\mathbf{z}\|=1}\|\mathbf{A}\mathbf{z}\|. \] La última igualdad se deduce teniendo en cuenta que para todo vector \(\mathbf{x}\in\mathbb{R}^n\), con \(\mathbf{x}\neq \mathbf{0}\), el vector \(\frac{\mathbf{x}}{\|\mathbf{x}\|}\) tiene norma \(1\): \(\left\|\frac{\mathbf{x}}{\|\mathbf{x}\|}\right\|=1.\) Entonces, haciendo \(\mathbf{z}=\frac{\mathbf{x}}{\|\mathbf{x}\|}\): \[ \|\mathbf{A}\|=\max_{\mathbf{x}\neq \mathbf{0}}\frac{\|\mathbf{A}\mathbf{x}\|}{\|\mathbf{x}\|}=\max_{\mathbf{x}\neq \mathbf{0}}\mathbf{\|}{A}\left(\frac{\mathbf{x}}{\|\mathbf{x}\|}\right) \|=\max_{\|\mathbf{z}\|=1}\|\mathbf{A}\mathbf{z}\|. \]

Proposición.

Dada una norma vectorial, la norma matricial subordinada a dicha norma vectorial es una norma matricial, es decir, cumple las \(4\) condiciones de norma matricial.

Vamos a ver cómo se calcula la norma euclídea de una matriz \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\).

Primero necesitamos una definición previa:

Definición de radio espectral de una matriz.

Sea \(\mathbf{B}\in {\cal M}_{n,n}(\mathbb{K})\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\), una matriz cuadrada de \(n\) filas y \(n\) columnas. El radio espectral \(\rho(\mathbf{B})\) de la matriz \(\mathbf{B}\) es el máximo en valor absoluto (caso real) o en módulo (caso complejo) de sus valores propios: \[ \rho(\mathbf{B})=\max_{i=1,2,\ldots,n}|\lambda_i|, \] donde \(\lambda_1,\lambda_2,\ldots,\lambda_n\) son los valores propios repetidos según su multiplicidad de la matriz \(\mathbf{B}\).

Proposición.

Sea \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\), una matriz cuadrada de \(n\) filas y \(n\) columnas. La norma euclídea de la matriz \(\mathbf{A}\) es la raíz cuadrada del radio espectral de la matriz \(\mathbf{A}^\top\mathbf{A}\): \(\|\mathbf{A}\|_2=\sqrt{\rho(\mathbf{A}^\top\mathbf{A})}.\)

Antes de realizar la demostración, necesitamos dos lemas y una observación:

Lema: expresión de \(\|\mathbf{x}\|_2\). Sea \(\mathbf{x}\in \mathbf{K}^n\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\). Entonces, la norma euclídea de \(\mathbf{x}\) puede calcularse de la forma siguiente: \[ \|\mathbf{x}\|_2^2 =\mathbf{x}^\top\cdot\mathbf{x}=(x_1,x_2,\ldots,x_n)\cdot \begin{bmatrix}x_{1} \\x_2 \\\vdots \\x_n \\\end{bmatrix}=x_1^2+\cdots +x_n^2 =\sum_{i=1}^n x_i^2. \]

Es decir: \[ \|x\|_2 = \sqrt{\mathbf{x}^\top\cdot\mathbf{x}}=\sqrt{\sum_{i=1}^n x_i^2}. \]

La demostración del lema anterior es muy sencilla por lo que la dejamos como ejercicio ya que basta aplicar la definición de norma euclídea de un vector \(\mathbf{x}\in\mathbb{K}^n\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\).

Lema: relación de la ortogonalidad con la norma euclídea.

Sea \(\mathbf{C}\in {\cal M}_{n,n}(\mathbb{K})\), con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\) una matriz ortogonal (\(\mathbf{C}^\top =\mathbf{C}^{-1}\)). Entonces para cualquier vector \(\mathbf{x}\in\mathbb{K}^n\), \[ \|\mathbf{C}\mathbf{x}\|_2 =\|\mathbf{x}\|_2. \]

Observación.

Como la matriz \(\mathbf{A}^\top\mathbf{A}\) es simétrica todos sus valores propios serán reales. Además sabemos que existe una matriz \(\mathbf{C}\) ortogonal tal que \(\mathbf{C}^\top\cdot\mathbf{A}^\top\mathbf{A}\cdot\mathbf{C}=\mathbf{D}\), donde \(\mathbf{D}\) es la matriz diagonal de los valores propios de la matriz \(\mathbf{A}^\top\mathbf{A}\).

Entonces si \(D=\begin{bmatrix}d_{11}&0&\ldots&0 \\0&d_{22}&\ldots&0 \\\vdots&\vdots&\ddots&\vdots \\0&\ldots&0&d_{nn} \\\end{bmatrix},\) usando la proposición anterior, \[\|\mathbf{A}\|_2=\max_{i=1,\ldots,n}\sqrt{|d_{ii}|}.\]

Observación (continuación). Además, la matriz \(\mathbf{A}^\top\mathbf{A}\) es definida positiva ya que para todo valor \(\mathbf{x}\in\mathbb{K}^n\) y usando el primer lema, \[ \mathbf{x}^\top\mathbf{A}^\top\mathbf{A}\mathbf{x}=(\mathbf{A}\mathbf{x})^\top\mathbf{A}\mathbf{x}=\|\mathbf{A}\mathbf{x}\|_2^2 \geq 0. \] Deducimos por tanto, que los valores propios de la matriz \(\mathbf{A}^\top\mathbf{A}\), \(d_{ii}\), \(i=1,\ldots,n\) son todos positivos, \(d_{ii}\geq 0\).

Seguidamente, procedemos a la demostración de la proposición:

Proposición.

Sea \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\) con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\), una matriz cuadrada de \(n\) filas y \(n\) columnas:

\(\mathbf{A}=\begin{bmatrix}a_{11}&a_{12}&\ldots&a_{1n} \\a_{21}&a_{22}&\ldots&a_{2n} \\\vdots&\vdots&\ddots&\vdots \\a_{n1}&a_{n2}&\ldots&a_{nn} \\\end{bmatrix}.\) Entonces: \(\displaystyle\|\mathbf{A}\|_1 =\max_{j=1,\ldots,n}\sum_{i=1}^n |a_{ij}|.\)

Es decir, la norma \(1\) de una matriz \(\mathbf{A}\) es el máximo de la sumas de las columnas en valor absoluto.

Proposición.

Sea \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\) con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\), una matriz cuadrada de \(n\) filas y \(n\) columnas: \(\mathbf{A}=\begin{bmatrix}a_{11}&a_{12}&\ldots&a_{1n} \\a_{21}&a_{22}&\ldots&a_{2n} \\\vdots&\vdots&\ddots&\vdots \\a_{n1}&a_{n2}&\ldots&a_{nn} \\\end{bmatrix}.\) Entonces: \(\displaystyle\|\mathbf{A}\|_\infty =\max_{i=1,\ldots,n}\sum_{j=1}^n |a_{ij}|.\)

Es decir, la norma infinito de una matriz \(\mathbf{A}\) es el máximo de la sumas de las filas en valor absoluto.

• Sea una matriz \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\) con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\). Entonces el radio espectral de \(\mathbf{A}\) es menor que cualquier norma matricial: \[\rho(\mathbf{A})\leq \|\mathbf{A}\|.\]

• Desigualdad contraria. Dada una matriz \(\mathbf{A}\in {\cal M}_{n,n}(\mathbb{K})\) con \(\mathbb{K}=\mathbb{R}\) o \(\mathbb{K}=\mathbb{C}\). Entonces, para cualquier valor \(\epsilon >0\), existe una normal matricial tal que la norma de la matriz es menor que el radio espectral de dicha matriz más \(\epsilon\): \[\|\mathbf{A}\|\leq \rho(\mathbf{A})+\epsilon .\]