For Engineering

인프런 - 선형대수학 Linear equation 예시 : Ax = b A system of linear equations = 선형방정식의 시스템(선형시스템, 선형함수) Linear - 선형 equation - 방정식 solution set - 해의 집합 equivalent - 동치. 두 방정식이 동일한 solution set을 가는 경우. inconsistent - 해가 없다. 해가 무한이 많다.(기하학적으로 그래프가 겹치는 경우) consistent - 해가 있다. coefficient - x의 계수(=A) coefficient matrix - 계수로만 표현된 행렬 augmented matrix - (증강행렬)계수행렬에 b를 추가한 행렬(계산의 편의성 증가) scaling - 행에 크기를 곱하는 행위..

출처 : www.boostcourse.org/ai251 𝜆 : 람다. 고유값.Eigenvalues. 그럼 어떻게 Eigenvalues 를 찾아? det A (판별식)이 0일때 역행렬이 없다. 정사각행렬일때 역행렬이 있다 없다 판단을 하지 직사각행렬에서는 역행렬 유무를 언급하지 않는다. 정사각행렬에서 판별식이 존재(0이 아닐 때)와 선형 독립은 동치이다. (𝐴−𝜆𝐼) 𝐱=𝟎 det(𝐴−𝜆𝐼) = 0 (𝐴−𝜆𝐼) 𝐱=𝟎 𝐴𝐱= 𝜆𝐱 즉 𝐴와 𝜆만 다르므로 특성방정식은 Span 안에 있고 계수만 다를뿐이다.

출처 : www.boostcourse.org/ai251 𝐴𝐱 = 𝟎 null space : metrix A 를 0으로 만드는 x벡터 x는 subpace이다. 그럼 A의 엘레멘탈 x의 곱이 0이다.(캡처 참고) 그렇다면 기하학적으로 직교이다.(Orthogonal Complement (여집합)) 직교이므로 선형독립이다. Fundamental Subspaces Given by 𝐴

출처 : www.boostcourse.org/ai251 Eigenvectors and Eigenvalues 고유벡터와 고유값 Eigenvectors 행렬과 벡터의 곱. 계산 과정을 줄여준다. 공식 증명. 그리고 당연히 x는 0 벡터가 아닐 때 이다.

출처 : www.boostcourse.org/ai251 실습 파일 : https://www.boostcourse.org/downloadFile/fileDownload?attachmentId=1854435&autoClose=true 모르겠다... 다시 돌아올때 이해해 보자

출처 : www.boostcourse.org/ai251 기하학적으로 보면 이해하기 그나마 수월하겠지만... 글과 수식으로 보면 이해하기 어렵다. 정사영(Orthogonal Projection) Orthogonal and Orthonormal Sets Orthogonal Sets : 모든 벡터의 관계가 수직이다. 당연히 선형 독립. Orthonormal Sets : Orthogonal Sets 의 모든 백터의 방향은 유지하고 크기만 1. Orthonormal Basis : 서로 수직인 기저벡터로만 구성된 sets 딥러닝에서 정사영의 의미 선형독립이지만 벡터끼리 유사도가 높은, 기하학적으로 평행에 가까운 벡터를 학습 시키는 것 보다, 벡터들을 정사영 형태로 변형하여 학습해야 서로에게 영향을 주지 않고 학습 ..

출처 : www.boostcourse.org/ai251 역행렬이 존재한다면 아래와 같이 정리 할 수 있다. 행렬의 미분 개념이 있지만 (fg)' = f'g + fg' 를 통해 천천히 진행하자. 역행렬이 존재하지 않을 경우 해가 무수히 많거나 없다. 명확한 증명은 어렵지만 기하학적(직관적)으로 이해할 수 있다. 어느 한 점에서 어느 평면에 수선의 발을 내릴 수 없는 경우가 있을까? 가장 가까운 점은 있을 것이다. 이렇게 직관적으로 항상 해가 존재한다. 역행렬의 존재 유무 매트릭스가 선형독립이면 역행렬이 존재한다. 매트릭스가 선형의존이면 역행렬이 없다. 그런데 현실적으로 변수보다 데이터가 많고, 데이터가 많으면 많을 수록 선형의존 확률이 낮아진다. 그래서 대부분의 경우 역행렬이 없는 경우가 없다....

출처 : www.boostcourse.org/ai251 Over-determined Linear Systems (#equations ≫ #variables) 방정식(백터의 차원) > 변수(특징 feature) --> 그래야 구체적인 해를 구할 수 있다. 선형독립의 경우 방정식 개수 >= 변수 개수 일때 해를 구할 수 있다. 반대일 경우 해가 많아진다... Inner Product 내적 벡터의 원소끼리 곱하여 합. a) 𝐮∙𝐯=𝐯∙𝐮 교환법칙 b) (𝐮+𝐯)∙𝐰=𝐮∙𝐰+𝐯∙𝐰 분배법칙 c) (𝑐𝐮)∙𝐯=𝑐(𝐮∙𝐯)=𝐮∙(𝑐𝐯) 상수배 d) 𝐮∙𝐮 ≥ 𝟎, and 𝐮∙𝐮 = 𝟎 if and only if 𝐮 = 𝟎 Vector Norm 길이. 크기. 피타고라스 정리로 계산. 내적과의 관계도 있다. 𝐮 = [..

출처 : www.boostcourse.org/ai222 Vector Matrix Matrix addition Matrix Product # Vector u = [2, 2] v = [2, 3] z = [3, 5] result = [sum(t) in zip(u, v, z)] print(result) # Scalar-Vector product u = [1, 2, 3] v = [4, 5, 6] alpha = 2 result = [for z in zip(u, v)] print(result) # Matrix addition matrix_a = [[3, 6], [4, 5]] matrix_a = [[5, 8], [3, 7]] result = [[sum(row) for row in zip(*t)] for t in zip..