[선형대수학] Least Squares Problem - Orthogonal Projection

출처 : www.boostcourse.org/ai251

 

기하학적으로 보면 이해하기 그나마 수월하겠지만...

글과 수식으로 보면 이해하기 어렵다.

 

 

정사영(Orthogonal Projection)

Orthogonal and Orthonormal Sets

 

Orthogonal Sets : 모든 벡터의 관계가 수직이다. 당연히 선형 독립.

Orthonormal Sets : Orthogonal Sets 의 모든 백터의 방향은 유지하고 크기만 1.

Orthonormal Basis : 서로 수직인 기저벡터로만 구성된 sets

 

 

딥러닝에서 정사영의 의미

선형독립이지만 벡터끼리 유사도가 높은, 기하학적으로 평행에 가까운 벡터를 학습 시키는 것 보다,

벡터들을 정사영 형태로 변형하여 학습해야 서로에게 영향을 주지 않고 학습 할 수 있다.

 

Orthogonal Sets 을 만드는 방법. (실습 추가 예정)

Gram-Schmidt Orthogonalization

QR Factorization

 

 

 

---