개발/수학

[선형대수] 선형방정식과 선형시스템

jykim23 2024. 3. 5. 20:25

학습 자료 : www.boostcourse.org/ai251

 

Scalar, Vector, and Matrix

스칼라 - 일반 숫자

Vector(백터) - 열백터를 기본으로 한다. 행백터는 열백터의 transpose 된 형태이다.

Set - 순서가 없는 리스트

Matrix(행렬) - two-dimensional array of numbers

 

Matrix Notations

square matrix - 정방행렬. rows == columns

rectangular matrix - 직사각형 행렬

transpose of matrix - 행/열 변환   2x3 -> 3x2

 

 

Vector/Matrix Additions and Multiplications

element-wise addition

A + B = B + A

 

scalar multiple of vector/matrix

A = [1, 2]

3 * A = [3, 6]

 

matrix-matrix multiplication

고딩때 배웠던 행렬 곱셈

A * B != B * A

 

 

Linear equation - 선형 방정식

𝑎1𝑥1+𝑎2𝑥2+⋯+𝑎𝑛𝑥𝑛 = 𝑏,

𝑥1 𝑥2 --> variables (변수, 가중치) -> 구해야 할 값

𝑎1 𝑎2 --> coefficients (계수) -> 알려진 값

𝑏 -> 상수

𝐚𝑇 : 𝐚의 transpose 

𝐚𝑇 𝐱 = 𝑏

𝑎  = [ 𝑎1

        𝑎2

        𝑎3

        ... ]

𝑥  = [ 𝑥1

        𝑥2

        𝑥3

        ... ]

 

 

Linear system: set of equations - 선형 연립방정식(방정식의 집합)

60𝑥1+5.5𝑥2+1 ∙ 𝑥3= 66

65𝑥1+5.0𝑥2+0 ∙ 𝑥3= 74

55𝑥1+6.0𝑥2+1 ∙ 𝑥3= 78

 

연립 방정식을 아래와 같이 표현할 수 있다.

Ax = b 

a1t x = 66

a2t x = 75

a3t x = 78

 

[60 5.5 1] 𝑥1 = 66

[65 5.0 0] 𝑥2 = 74

[55 6.0 1] 𝑥3 = 78

 

Identity matrix - 항등행렬

[ 1 0 0 

   0 1 0

   0 0 1]

 

∀𝐱 ∈ ℝ𝑛 ,

𝐼𝑛𝐱 = 𝐱

 

Inverse matrix - 역행렬(Square Matrix: 정방행렬)

정사각행렬만 해당된다. 직사각행렬은 존재할 수도 존재하지 않을 수도 있다.

𝐴 −1𝐴 = 𝐴𝐴 −1 = 𝐼𝑛.

 

고딩때 배웠던 역행렬. 고차원의 역행렬은 연립방정식을 통하든 알고리즘을 사용해서 찾고 증명할 수 있다.

𝐴 = [𝑎 𝑏

       𝑐 𝑑]

𝐴^-1 = 1/(𝑎𝑑 − 𝑏𝑐)[ 𝑑 - 𝑏

                                  -𝑐  𝑑]

Solving Linear System via Inverse Matrix

𝐴𝐱 = 𝐛

𝐴 −1𝐴𝐱 = 𝐴 −1𝐛

𝐼𝑛𝐱 = 𝐴 −1𝐛

𝐱 = 𝐴 −1 𝐛

예시

 

Non-Invertible Matrix 𝐴 for 𝐴𝐱 = 𝐛

determinant (판별식) : det 𝐴. (이차원의 경우 𝑎𝑑 − 𝑏𝑐. 역행렬 공식의 분모)

역행렬이 존재 할 경우( det 𝐴 != 0): 𝐱 = 𝐴 −1𝐛. 근이 하나만 존재한다

역행렬이 존재 하지 않을 경우 ( det 𝐴 == 0) : 근이 없거나 무한히 많다.

 

Does a Matrix Have an Inverse Matrix?

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-18-properties-of-determinants/

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-19-determinant-formulas-and-cofactors/

 

Rectangular Matrix 𝐴 in 𝐴𝐱 =𝐛

 

Recall 𝑚 = #equations(행) and 𝑛 = #variables(열)

under-determined system : 𝑚 < 𝑛: 해가 무수히 많다.

over-determined system : 𝑚 > 𝑛: 해가 없다.

 

 

Uniqueness of Solution for 𝐴𝐱 = 𝐛 

span : 백터들이 존재하는 공간.

백터를 다른 백터로 표현할 수 있다. v1 + v2 = v3