전체 글 (67) 썸네일형 리스트형 [선형대수] 벡터공간의 차원과 4가지 부벡터공간 부벡터공간 행렬에는 4가지 부벡터 공간(subspace)이 있다. - Column Space$(C(A))$ - Null Space$(N(A))$ - Row Space$(C(A^T))$ - Left Null Space$(N(A^T))$ subspace들은 서로 dimension을 보완한다. 1. Column space - Left null space: 행 dimension 보완 2. Row space - Null Space: 열 dimension을 보완 예를 들어, 3*2행렬이 있다고 생각해보자. 1번 같은 경우 Column space가 1차원 + Left null space 2차원 => 3차원으로 서로 보완한다. 2번도 동일하게 1 + 1차원 => 2차원으로 서로 보완한다. 따라서 다음과 같이 정의할 수.. 3-2. 고급 선형대수: 좌표와 변환 선형대수의 내용이 워낙 많아 5개로 나눠서 설명하겠다. 3.2장인 좌표와 변환 내용이다. 벡터의 선형 독립과 랭크 개념, 기저 벡터 등에 대해서 알아보도록 하자. 선형 종속과 선형 독립 선형 종속과 독립은 언제 쓰일까? 예를 들어, 3차원의 공간이 있다고 하자. 이때 선형 독립인 벡터 3가지만 있으면 모든 공간상의 벡터를 표현할 수 있다. 반대로, 2개의 종속 벡터와 1개의 독립 벡터가 있으면 모든 3차원 벡터를 설명할 수 없다. 따라서 N차원에 속한 벡터들을 표현하기 위해선 선형 독립인 벡터들이 N개 필요하다. 극단적이게, 선형 종속인 벡터를 위의 그래프처럼 평행 벡터라고 하자. 이런 경우 2개의 벡터로는 2차원을 모두 표현할 수 없다. $\begin{bmatrix}1\\ 1\\ 0\end{bmatri.. Bias-Variance, underfitting-overfitting trade off 이 게시글은 팀블로그에서 참고했다. Bias- Variance 2. 편향-분산 트레이드 오프 (Bias-Variance trade off) 안녕하십니까 허브솔트입니다. 지난 시간에는 앙상블의 알고리즘들에 대해 알아보았는데요, 오늘은 편향 분산 트레이드 오프에 대해 공부해 볼께요! 편향 분산 트레이드 오프는 비단 앙상블에만 적용되는 것이 아.. data-matzip.tistory.com 딥러닝 머신러닝에서 underfitting과 overfitting의 트레이드 오프는 최종 성능에 중요한 역할을 한다. 이를 이해하기 위해선 Bias-Variance의 트레이드 오프 관계를 알아야 한다. 그럼 우선 Bias- variance를 알아보고 underfitting과 overfitting을 알아보자. 편향-분산 - .. [CB Filtering] 2. 키워드 수집 Content based Filtering은 팀블로그에서 참고했다. Content based Filtering [CB Filtering] 1. 개요 Content-based Filtering vs Collaborative Filtering Content-based Filtering - 유저가 과거에 좋아했던 것과 컨텐츠가 유사한 아이템 추천 Collaborative Filtering - Rating을 기반으로 유저와 비슷한 성향을.. data-matzip.tistory.com 위의 그림이 저번에도 게시했던 CF알고리즘의 개요이다. 여기서 빨간 부분인, content를 어떻게 수집할지에 대한 '키워드 수집' 내용을 다루겠다. 키워드 수집을 할 때 대부분 TF-IDF를 활용한 vector space mode.. [선형대수] 벡터의 선형독립과 기저벡터 AX=b에서, null space를 구하는 법 1. [A|b] 행렬에서 가우스 소거법을 이용해 [R|d]로 변환한다. $\begin{bmatrix} 1& 3 &3 &2 \\ 2& 6 & 9& 7\\ -1& -3 & 3 &4 \end{bmatrix} \begin{bmatrix} u\\ v\\ w\\ z \end{bmatrix}= \begin{bmatrix} b_1\\ b_2\\ b_3\\ \end{bmatrix}$ => $\begin{bmatrix} 1& 3 &3 &2 \\ 0& 0 & 3& 3\\ 0& 0 & 0 &0 \end{bmatrix} \begin{bmatrix} u\\ v\\ w\\ z \end{bmatrix}= \begin{bmatrix} b_1\\ b_2-2b_1\\ b_3-2b_2+5b_1.. [선형대수] 영벡터공간과 해집합 whole space & span Ax= b, $A_{nxn}$에서 A의 역행렬이 존재한 다는 뜻은 항상 b벡터가 C(A)에 포함된다는 것이다. 즉, 역행렬이 존재하면 n차원인 벡터를 모두 표현할 수 있고, 이를 whole space라고 한다. 예를 들어, $\begin{bmatrix} 1 & -2& 1\\ 2& 1 & 1\\ 0& 0 &0 \end{bmatrix}$ 메트릭스는 3차원이지만, 어떤 linear combination을 해도 z좌표는 0이므로 2차원까지만 표현이 가능하다. whole space를 linear combination으로 대표하는 것을 span이라고 한다. Null space of A (N(A)) Null space는 Ax=0을 만족하는 x의 집합이다. Null space도 spa.. [선형대수] 벡터공간과 열벡터 이 전까지 배웠던 내용들은 '미지수의 수= 방정식의 수'인 경우였다. 이제부터는 '미지수의 수> 방정식의 수'에 대해서 살펴보자. - 기존 '미지수의 수= 방정식의 수' 가우스 소거법이나 역행렬로 x값을 구하면 unique한 값이 나오거나 해가 없었다. - '미지수의 수> 방정식의 수' 하지만, 이 경우에는 무한한 답이 존재하거나, 해가 없다. 예를 들어, $\begin{cases} & 2u+v+w= 5 \\ & 4u-6v = -2 \end{cases}$라는 방정식이 존재한다면, 3차원 공간에서 2개의 식만 존재할 것이다. 결국 해는 2개의 식이 겹치는 선인 무한한 점(해)가 생긴다. Vector space vector space: 기저 벡터로 생성 가능한 공간이며 원점을 지난다. space: 덧셈, 스.. [선형대수] 역행렬과 전치행렬 역행렬 모든 행렬이 역행렬을 가지는 것은 아니다. 그렇다면 언제 역행렬이 존재하는 걸까? * 역행렬의 조건 역행렬이 있기 위해선 det(A)가 0이 아니어야 한다. -det(A)= $\prod d_i$(가우스 소거법 이후의 대각 성분)이 0이 아닐때 역행렬이 존재 즉, 앞서 설명했던 가우스 소거법으로 부터 나온 pivots 성분들 중 하나라도 0이 존재하면 역행렬이 존재하지 않는다. * A의 역행렬이 존재한다면? -만약 A의 역행렬이 존재하면 unique(유일)하다 -$AX=b$라는 식에 A의 역행렬을 곱해서 $A^{-1}Ax= A^{-1}B$로 $x$를 찾을 수 있다. -$Ax=0$일때, $A^{-1}$이 존재하지 않아야 $x$가 영 벡터가 아닌 의미 있는 값을 가진다. 역행렬이 존재하면 $x=0$이 .. 이전 1 ··· 4 5 6 7 8 9 다음
