Inversa unei matrici si Parametrizarea prin -1

La inceput o sa introducem un truc care ne ajuta sa citim solutiile lui x dintr-un sistem omogen de ecuatii liniare Ax = 0, unde A ∈ R^kxn , x ∈ Rⁿ . Acest truc se numeste Parametrizarea prin -1( The Minus-1 Trick ). 

Pentru a incepe o sa presupunem ca A este redusa la forma echelon pe randuri fara niciun rand care sa contina doar 0.

$$ A = \begin{bmatrix} 0 & \cdots & 0 & \mathbf{1} & * & \cdots & * & 0 & * & \cdots & * & 0 & * & \cdots & * \\ \vdots & & \vdots & 0 & 0 & \cdots & 0 & \mathbf{1} & * & \cdots & * & \vdots & \vdots & & \vdots \\ \vdots & & \vdots & \vdots & \vdots & & \vdots & 0 & & & \vdots & \vdots & \vdots & & \vdots \\ \vdots & & \vdots & \vdots & \vdots & & \vdots & \vdots & & & \vdots & 0 & \vdots & & \vdots \\ 0 & \cdots & 0 & 0 & 0 & \cdots & 0 & 0 & \cdots & 0 & 0 & \mathbf{1} & * & \cdots & * \end{bmatrix} $$

unde * poate fi un numar real arbitrar, cu restrictiile ca prima intrare nenula pe fiecare linie trebuie sa fie 1 si toate celelalte intrari din coloana corespunzatoare trebuie sa fie 0. Coloanele j₁, ... , j_k sunt vectorii unitari standard e₁, ... , e_k din R^k. Extindem aceasta matrice la o matrice A' de dimensiune n x n adaugand n-k linii de forma:

$$ \begin{bmatrix} 0 & \cdots & 0 & -1 & 0 & \cdots & 0 \end{bmatrix} $$

astfel incat diagonala matricei extinse A' sa contina fie 1 sau -1. Apoi, coloanele lui A' care contin pe -1 ca pivoti sunt solutii ale sistemului omogen de ecuatii Ax = 0. Pentru a fi mai precisi, aceste coloane formeaza o baza spatiului de solutii al lui Ax = 0, pe care il vom numi mai tarziu nucleul (kernel) sau spatiul nul.

Exemplu:

Sa luam matricea A care este deja in forma echelon pe randuri:

$$ A = \begin{bmatrix} 1 & 3 & 0 & 0 & 3 \\ 0 & 0 & 1 & 0 & 9 \\ 0 & 0 & 0 & 1 & -4 \end{bmatrix} . $$

Acum extindem aceasta matrice la o matrice 5 x 5 adaugand linii (de care am vorbit putin mai sus) in locurile unde lipsesc pivotii de pe diagonala si obtinem:

$$ A' = \begin{bmatrix} 1 & 3 & 0 & 0 & 3 \\ \color{blue}{0} & \color{blue}{-1} & \color{blue}{0} & \color{blue}{0} & \color{blue}{0} \\ 0 & 0 & 1 & 0 & 9 \\ 0 & 0 & 0 & 1 & -4 \\ \color{blue}{0} & \color{blue}{0} & \color{blue}{0} & \color{blue}{0} & \color{blue}{-1} \end{bmatrix} $$

Din aceasta forma, putem citi imediat solutiile lui Ax = 0 luand coloanele lui A' care contin -1 pe diagonala:

$$ \left\{ \mathbf{x} \in \mathbb{R}^5 : \mathbf{x} = \lambda_1 \begin{bmatrix} 3 \\ -1 \\ 0 \\ 0 \\ 0 \end{bmatrix} + \lambda_2 \begin{bmatrix} 3 \\ 0 \\ 9 \\ -4 \\ -1 \end{bmatrix}, \lambda_1, \lambda_2 \in \mathbb{R} \right\} $$

Acum haideti sa vedem cum putem calcula inversa unei matrici. Pentru a calcula inversa A^-1 a lui A ∈ R^nxn, trebuie sa gasim o matrice X care sa satisfaca AX = I_n. Apoi, X = A^-1. Putem scrie acest lucru ca un set de ecuatii liniare simultane AX = I_n, unde rezolvam pentru X = [x₁ | ... | x_n]. Folosim notatia matriceala extinsa pentru o reprezentare compacta a acestui set de sisteme de ecuatii liniare si obtinem

$$ [A | I_n] \quad \leadsto \quad \cdots \quad \leadsto \quad [I_n | A^{-1}]. $$

Aceasta inseamna ca daca aducem sistemul de ecuatii extins in forma esalon redusa pe linii, putem citi inversa pe partea dreapta a sistemului de ecuatii. Prin urmare, determinarea inversei unei matrice este echivalenta cu rezolvarea de sisteme de ecuatii liniare.

Exemplu:
Pentru a determina inversa matricei:

$$ A = \begin{bmatrix} 1 & 0 & 2 & 0 \\ 1 & 1 & 0 & 0 \\ 1 & 2 & 0 & 1 \\ 1 & 1 & 1 & 1 \end{bmatrix} $$

scriem jos matricea extinsa

$$ \begin{bmatrix} 1 & 0 & 2 & 0 & | & 1 & 0 & 0 & 0 \\ 1 & 1 & 0 & 0 & | & 0 & 1 & 0 & 0 \\ 1 & 2 & 0 & 1 & | & 0 & 0 & 1 & 0 \\ 1 & 1 & 1 & 1 & | & 0 & 0 & 0 & 1 \end{bmatrix} $$

si folosim eliminarea Gaussiana pentru a o aduce in forma esalon redusa pe linii

$$ \begin{bmatrix} 1 & 0 & 0 & 0 & | & -1 & 2 & -2 & 2 \\ 0 & 1 & 0 & 0 & | & 1 & -1 & 2 & -2 \\ 0 & 0 & 1 & 0 & | & 1 & -1 & 1 & -1 \\ 0 & 0 & 0 & 1 & | & -1 & 0 & -1 & 2 \end{bmatrix}, $$

astfel incat inversa dorita este data ca partea sa dreapta:

$$ A^{-1} = \begin{bmatrix} -1 & 2 & -2 & 2 \\ 1 & -1 & 2 & -2 \\ 1 & -1 & 1 & -1 \\ -1 & 0 & -1 & 2 \end{bmatrix}. $$

Putem verifica faptul ca este intr-adevar inversa efectuand inmultirea AA^-1 si observand ca recuperam I₄.

Algoritmi pentru a rezolva sisteme de ecuatii liniare.

In cele ce urmeaza, discutam pe scurt abordari pentru rezolvarea unui sistem de ecuatii liniare de forma Ax = b. Facem presupunerea ca o solutie exista. In cazul in care nu exista nicio solutie, trebuie sa recurgem la solutii aproximative, pe care nu le acoperim acum. O modalitate de a rezolva problema aproximativa este utilizarea abordarii regresiei liniare, pe care o discutam in detaliu in lectiile urmatoare.

In cazuri speciale, putem fi in masura sa determinam inversa A^-1, astfel incat solutia lui Ax = b sa fie data ca x = A^-1b. Totusi, acest lucru este posibil numai daca A este o matrice patratica si inversabila, ceea ce adesea nu este cazul. Altfel, sub presupuneri moderate (adica, A trebuie sa aiba coloane liniar independente) putem folosi transformarea:

$$ A\mathbf{x} = \mathbf{b} \iff A^{\mathsf{T}}A\mathbf{x} = A^{\mathsf{T}}\mathbf{b} \iff \mathbf{x} = (A^{\mathsf{T}}A)^{-1}A^{\mathsf{T}}\mathbf{b} $$

si folosim pseudo-inversa Moore-Penrose (A^TA)^-1A^T pentru a determina solutia care rezolva Ax = b, care corespunde, de asemenea, solutiei de norma minima a metodei celor mai mici patrate (least-squares). Un dezavantaj al acestei abordari este ca necesita multe calcule pentru produsul matrice-matrice si pentru calculul inversei lui A^TA. Mai mult, din motive de precizie numerica, in general nu este recomandat sa se calculeze inversa sau pseudo-inversa. In cele ce urmeaza, prin urmare, discutam pe scurt abordari alternative pentru rezolvarea sistemelor de ecuatii liniare.