출처 : www.boostcourse.org/ai251
기하학적으로 보면 이해하기 그나마 수월하겠지만...
글과 수식으로 보면 이해하기 어렵다.
정사영(Orthogonal Projection)
Orthogonal and Orthonormal Sets
Orthogonal Sets : 모든 벡터의 관계가 수직이다. 당연히 선형 독립.
Orthonormal Sets : Orthogonal Sets 의 모든 백터의 방향은 유지하고 크기만 1.
Orthonormal Basis : 서로 수직인 기저벡터로만 구성된 sets
딥러닝에서 정사영의 의미
선형독립이지만 벡터끼리 유사도가 높은, 기하학적으로 평행에 가까운 벡터를 학습 시키는 것 보다,
벡터들을 정사영 형태로 변형하여 학습해야 서로에게 영향을 주지 않고 학습 할 수 있다.
Orthogonal Sets 을 만드는 방법. (실습 추가 예정)
Gram-Schmidt Orthogonalization
QR Factorization
'개발 > 수학' 카테고리의 다른 글
[선형대수학] Eigenvectors and Eigenvalues 고유벡터와 고유값 (0) | 2023.10.06 |
---|---|
[선형대수학] Least Squares - 실습 (0) | 2023.10.06 |
[선형대수학] Least squares - Normal Equation 정규방정식 (1) | 2023.10.04 |
[선형대수학] Least squares 최소자승법 (1) | 2023.10.04 |
[선형대수학] python code 예시 (0) | 2023.10.03 |