[선형대수] 벡터의 직교성과 직선투영

직교성(orthogonality)

벡터가 수직이라는 뜻은 linearly independent basis하다는 뜻이며, linear combination의 계산이 쉽다.

 

- $x^t y=0$

증명) 아래와 같은 벡터가 있을 때 피타고라스의 정리로 증명할 수 있다.

https://www.slideshare.net/ahra-cho/09-109960717

$x^T y=0$ 이면 $\theta= 90$
$x^T y<0$ 이면 $\theta> 90$
$x^T y>0$ 이면 $\theta< 90$

90도 보다 큰 경우, x가 y의 선상에 내려오지 않고 반대로 투영되기 때문

 

 

* 선형 독립의 직교성 증명

linearly independent한 non zero $v_1, v_2,...,v_n$이 있을 때 $c_1 v_1 + ... + c_n v_n= 0$을 만족하기 위해선 오로직 $c_1 = .. =c_n = 0$임을 증명하라. ($v_i^Tv_j=0, ||v_i||<>0$)
아무 벡터 $v_i^T$를 잡아 분배해주면 $v_i^{T}(c_1v_1+ ...c_nv_n)=0$가 성립하고, $v_i^Tv_j=0$ 이기 때문에, $c_i||v_i||^2=0$ 만 남는다.  따라서 $c_i=0$

 

 

C를 구하는 법

벡터 $a_1, a_2, ...a_n$이 있을 때 $X$를 a벡터들로 span 하면 $X= \Sigma c_ia_i$로 표현할 수 있고, 위의 공식을 이용하면 $v_i^Tx= c_i||v_i||^2$이다. 이 공식을 이용해서 C를 구할 수 있다.

orthonormal 
여기서, $||v_i||=1$ 즉, 벡터의 길이가 1 이면 orthonormal 이라고 한다. (직교하면서 벡터의 길이가 1)
orthonormal일때 $v_i^Tx= c_i$는 다음과 같이 해석할 수 있다.
- $c_i$라는 계수가 $X,v_i$를 내적한다.
- x라는 벡터는 $v_i$라는 성분이 $c_i$만큼 있다.

만약 직교하지 않는다면, $X= \Sigma c_ia_i$에서 가우스소거법을 이용해서 C를 구해야 함.
직교되어 있다면 엄청 편해진다!

 

orthogonal subspaces

https://ekdud7667.tistory.com/33?category=887593](https://ekdud7667.tistory.com/33?category=887593

[선형대수] 벡터공간의 차원과 4가지 부벡터공간

앞선 게시글에서 row sapce와 null space, column space와 left null space가 서로 행, 열을 보완하며 수직이라고 언급했다.
그 이유에 대해서 설명하겠다.
* X= null space, Y= left null space일 때
A의 row vector와 null space가 곱해져서 0이 나오고, 반대로 A의 전치행렬인 column vector와 left null space가 곱해져서 0이 나온다.

왼쪽: row-null, 오른쪽: column- left null space

 

orthogonal complement subspace

직교면서 각 벡터의 차원을 더했을 때 n이 되는 경우

$v \in V, w\in W$이고 $V,W \in R^n$일 때(v,w는 벡터 V,W는 벡터 space)
$Dim(v) + Dim(w) =n$을 만족하면 orthogonal complement subspace라고 한다.

예를 들어 위와 같은 3차원 공간이 있다고 하자.
벡터 n과, 파란선 벡터 v가 존재하면 $Dim(n) + Dim(v) =2 <>3$이기 때문에 orthogonal complement subspace하지 않고, orthogonal subspace이다.
하지만, 파란면을 w라고 표현하면 $Dim(n) + Dim(v) =3$이기 때문에 orthogonal complement subspace가 성립된다.

그렇다면, orthogonal complement subspace는 무슨 의미가 있을까?
위의 그림을 보면 벡터 n에 대해 직교하는 벡터는 무수히 많다.
하지만, 벡터 n에 직교하는 면은 오로지 하나이다.

만약, 2차원 공간상이라면 벡터 n과 v는 orthogonal complement subspace를 만족할 것이다.
orthogonal complement subspace라고 해서 모든 공간을 span 하는 건 아니다.

 

 

 

내적과 cosine

https://www.slideshare.net/ahra-cho/09-109960717

$P= \frac{a^Tb}{a^Ta}a = \frac{aa^T}{a^Ta}b$ 이다.
따라서 P를 구하는 방법은 2가지로 풀 수 있다.
1. $P= \frac{a^Tb}{a^Ta}a$
예시) $a=\begin{bmatrix}1\\ 1\\ 1\end{bmatrix},b= \begin{bmatrix}1\\ 2\\ 3\end{bmatrix}$

$\hat{x}= \frac{6}{3} =2$이고,  $\hat{x}a= P =  \begin{bmatrix}2\\ 2\\ 2\end{bmatrix}$

2. $P=\frac{aa^T}{a^Ta}b =pb$ ,$(p=\frac{aa^T}{a^Ta})$

$\frac{1}{3}\begin{bmatrix}
1 &  1&1 \\ 
 1& 1 & 1\\ 
 1&1  & 1
\end{bmatrix} * \begin{bmatrix}1\\ 2\\ 3\end{bmatrix} = \begin{bmatrix}2\\ 2\\ 2\end{bmatrix}$

 

 투영의 특징$(p)$ 이용

$P^T=\frac{aa^T}{a^Ta}=P$
$P^2= \frac{aa^Taa^T}{(a^Ta)(a^Ta)}= \frac{aa^T}{a^Ta}=P$

즉, 투영을 2번해도 똑같음

 

 

- 예시) cosine 투영

이전 게시글 참고

https://ekdud7667.tistory.com/34?category=887593

[선형대수] 선형변환과 행렬

cosine line에 투영하면 $\begin{bmatrix}  
cos^2& cos*sin\\  
cos*sin& sin^2  
\end{bmatrix}$라는 공식이 나온다.

이는 벡터 v에 한 점을 (cos, sin)으로 잡고 $P$를 구하면 위와 같은 공식이 나온다.

 

$P= \frac{\begin{bmatrix}
cos\\ 
sin
\end{bmatrix}\begin{bmatrix}
 cos&sin 
\end{bmatrix}}{cos^2 + sin^2 =1}$이므로 위와 같은 공식이 나옴.

 

 

 

 

참고

https://www.slideshare.net/ahra-cho/09-109960717

https://www.youtube.com/watch?v=jqn6WdIi74Y&list=PLSN_PltQeOyjDGSghAf92VhdMBeaLZWR3&index=10