[선형대수] 역행렬과 전치행렬

역행렬

모든 행렬이 역행렬을 가지는 것은 아니다. 그렇다면 언제 역행렬이 존재하는 걸까?

* 역행렬의 조건

역행렬이 있기 위해선 det(A)가 0이 아니어야 한다. 
-det(A)=  $\prod d_i$(가우스 소거법 이후의 대각 성분)이 0이 아닐때 역행렬이 존재
즉, 앞서 설명했던 가우스 소거법으로 부터 나온 pivots 성분들 중 하나라도 0이 존재하면 역행렬이 존재하지 않는다.

 

* A의 역행렬이 존재한다면?

-만약 A의 역행렬이 존재하면 unique(유일)하다
-$AX=b$라는 식에 A의 역행렬을 곱해서 $A^{-1}Ax= A^{-1}B$로 $x$를 찾을 수 있다.
-$Ax=0$일때, $A^{-1}$이 존재하지 않아야 $x$가 영 벡터가 아닌 의미 있는 값을 가진다. 역행렬이 존재하면 $x=0$이 되는데, 이는 의미있는 값이 아니기 때문이다. 역행렬이 존재하지 않으면, x는 무수히 많은 점(=선) 혹은 면의 형태를 가진다.

 

* 역행렬의 곱셈

역행렬을 곱해주면 순서는 반대가 된다.
$(AB)^{-1} = B^{-1}A^{-1}$

* 역행렬의 정의

여기서 ad-bc인 분모 부분이 det이며, det가 0이 되면 역행렬이 존재하지 않는다.

* Diagonal Matrix(대각 행렬)의 역행렬

간단하게 행렬을 역수로 취해주면 된다.
만약, 대각 성분이 1,3,4라면 역행렬의 대각 성분은 1/1, 1/3, 1/4로 이뤄져 있다.

 

 

Gauss-jordan method(가우스 조던법)

가우스 조던법으로 A의 역행렬을 구할 수 있다. 
$AA^{-1}= I$인 행렬 A가 있을 때, 가우스 소거법으로 $A=LU$로 분해할 수 있다.
이를 $L^{-1}$을 분배해주면, $L^{-1}AA^{-1} = L^{-1}I$가 되고, $L^{-1}A= U$이므로 $UA^{-1}= L^{-1}$이 된다.
그 결과 $A^{-1}= U^{-1}L^{-1}$로 역행렬을 구할 수 있다.

쉽게 말해, $AA^-1=I$를 이용해 왼쪽 항을 $I$로 만들면 오른쪽은 $A^-1$만 남긴다.

아래의 예시를 보자.

https://ahracho.github.io/posts/math_stat/linear_algebra/2018-06-29-4_inverse_transpose/

먼저 가우스 소거법으로 $A=UL^{-1}$모양을 만든다.

그 후, A의 역행렬을 구하기 위해서($A^{-1}= U^{-1}L^{-1}$) $U^{-1}$을 구해 곱하면 된다.

 

가우스 조던법과 달리 $U^{-1}$를 구하는 방법은 아래행에서 위쪽으로 올라간다. 대각성분이 1인 대각행렬을 만들며 U의 역행렬을 계산한다. 그 결과 마지막 행렬의 오른쪽 행렬이 A의 역행렬이다.

 

 

Transpose(전치)

전치는 행렬의 행열을 서로 바꾸는 것이다.

전치의 여러 특징을 살펴보자

- $(A+B)^{T} = A^{T}+B^T$
- $(A+B)^{-1} \neq A^{-1} + B^{-1}$
- $(AB)^{T} = B^{T}A^{T}$(역행렬도 성립)

 

 

Symmetric matrix(대칭행렬)

대칭행렬은 전치한 행렬이 원래의 행렬과 같은 행렬이다($A^{T}=A$). 다른말로 표현하면 $a_{ij}=a_{ji}$라고 설명할 수 있다.

만약 A가 대칭행렬이고, 역행렬이 존재한다면 $A^{-1}$역시 대칭행렬이다.

가우스 소거법에서 A가 대칭행렬이면, $A= LDU = U^{T}DL^{T}$를 만족한다. (D는 대칭행렬이기 때문에 전치할 의미가 없음, D: pivot으로 대각행렬을 만듦)

따라서,  $A=  U^{T}DL^{T}= LDL^{T} = U^{T}DU$이므로 U나 L중 하나만 알면 쉽게 계산할 수 있다.

 

 

Correlation matrix(상관계수 행렬)

A의 상관계수 행렬을 구하면, A라는 행렬이 방향벡터들에 대해서 얼만큼 가지고 있는지(내적)를 알 수 있다. 즉, 벡터공간들이 어떻게 구성되어있는지 유추할 수 있다.

 

상관계수 행렬은 다음과 같이 구할 수 있다.

$R= A^{T}A => R^{T}= R$

A의 전치와 A로 이뤄져있기 때문에 R은 대칭행렬이다.

 

R의 성분은 ($A^{T}$의 열벡터) * (A의 열벡터)의 내적이다. 따라서, 이 내적은 벡터들의 projection을 의미하고, 한 성분이 다른성분을 얼만큼 포함하고 있는지, 얼마나 상관성이 있는지에 대해서 알 수 있다.

 

만약 상관계수가 없다면 R의 모든 성분은 0이 될것이다.