개발/수학 19

[선형대수] 전사함수와 일대일함수: ONTO and ONE-TO-ONE

출처 : www.boostcourse.org/ai251 # 선형변환(사상)의 설명이다. 전사함수 ONTO ONTO : 전사 = 전체에 사형(mapping)을 시켰다. 전체가 이미지, 함수의 값이다. 모든 공의역(codomain)이 정의역(domain)에게 최소 하나 이상의(at least) 화살을 맞아야 한다. 공의역(domain) == 치역(range) 딥러닝에서 의미 공의역 == span 2차원 -> 3차원 ONTO일 수 없다. 3차원 -> 2차원 항상 ONTO이진 않다. 디코더 역할(내용 보완 필요) 인코딩 된 2차원 벡터를 다시 3차원으로 복원하는 디코딩 과정을 생각하자. 이미지의 픽셀 전체(3차원) == 공의역(Domain) 학습된 선형변형의 의한 치역이 생성됨. (치역 == 공의역) 2차원으로..

개발/수학 2024.03.25

[선형대수] 선형변환 Linear Transformation (with Neural Networks)

출처 : www.boostcourse.org/ai251 Transformation Domain : 정의역. x가 될수 있는 수의 집합.(백터라고 생각) Co-domain : 공의역. y가 될수 있는 수의 집합.(백터라고 생각) Image : 함수의 상. 함수의 output. x에 의한 y의 값 Range : 치역. Image의 집합. 실제 y의 값 집합 그 외 함수의 특징 : x는 모두 사용되어야 하고 하나의 x에 대한 결과는 하나의 y이다. 등등 Linear Transformation(or mapping) 선형 변환(or 사상) (행렬이 아닌 선형이라고 표현하는 이유) 선형변환 𝑇 의 조건 : 𝑇(𝑐𝐮 + 𝑑𝐯) = 𝑐𝑇(𝐮) + 𝑑𝑇(𝐯) for all 𝐮, 𝐯 in the domain of 𝑇 an..

개발/수학 2024.03.24

[선형대수] 부분공간(Subspace)의 기저(Basis)와 차원(Dimension) 그리고 행렬의 계수(Rank)

출처 : www.boostcourse.org/ai251 Span and Subspace subset : 부분집합 subspace : 부분공간 = 부분집합 + 선형 결합 아래에 닫혀있다.(:= span) 닫혀있다(closed under) '곱셈에 닫혀있다' : 집합의 원소를 뽑아 곱셈을 하였을 때 결과값이 집합에 있다. '선형결합에 닫혀있다' : 선형결합을 해도 기존 벡터에 포함되어 있다.(:= span) Basis of a Subspace Basis : 기저 벡터 조건1 : Fully spans the given subspace H (Span에 포함되어 있다) 조건2 : Linearly independent (선형 독립) where 𝐻 = Span {𝐯1, 𝐯2, 𝐯3}, Span {𝐯1, 𝐯2} for..

개발/수학 2024.03.24

[선형대수] 선형결합, 선형독립과 선형종속

Linear Independence (Practical) Definition 방정식의 해가 없거나 하나 이상인가? 백터로 span이 확장되는가 기존 span에 포함되는가? 백터를 기존의 백터로 표현이 안되는가 가능한가? (선형 결합(linear combination)으로 표현이 되는가?) linearly independence : 선형 독립 - 해가 하나 이상 존재한다. linearly dependence : 선형 의존 - 해가 없다. (Formal) Definition trivial solution(하찮은 해) : 해가 0인 경우. (𝐴𝐱 = 𝐛) 상수 𝐛 가 0으로 이루어진 영백터인 경우. linearly independence : trivial solution 만 존재 할 경우 linearly de..

개발/수학 2024.03.07

[선형대수] 선형방정식과 선형시스템

학습 자료 : www.boostcourse.org/ai251 Scalar, Vector, and Matrix 스칼라 - 일반 숫자 Vector(백터) - 열백터를 기본으로 한다. 행백터는 열백터의 transpose 된 형태이다. Set - 순서가 없는 리스트 Matrix(행렬) - two-dimensional array of numbers Matrix Notations square matrix - 정방행렬. rows == columns rectangular matrix - 직사각형 행렬 transpose of matrix - 행/열 변환 2x3 -> 3x2 Vector/Matrix Additions and Multiplications element-wise addition A + B = B + A sca..

개발/수학 2024.03.05

[선형대수학] Determinants 행렬식

출처 : 인프런 선형대수 행렬식 := 행렬의 역행렬 존재를(=해의 존재) 판별하는 식 3.1 Introduction to Determinants Invertible : 행렬식이 0 이 아닌경우 역행렬이 존재한다. invertible matrix : echelon form의 모든 row에 pivot이 존재해야한다. echelon form의 각 pivot이 0이 아니면 invertible을 증명 할 수 있다. 요약 : cofactoer로 행렬식을 구하면 비효율적이다. 3.2 Properties of Determinants 작성중.

개발/수학 2023.10.25

[선형대수학] 대각화 Diagonalization

출처 : http://www.boostcourse.org/ai251 학습목표 : 이번 강의에서는 고유값 분해와 밀접한 관련을 가지는 대각화의 개념에 대해 배워보겠습니다. 이는 나중에 배울 특이값 분해(SVD: Singular Value Decomposition)와도 밀접한 관련이 있으니 숙지하고 넘어가시길 바랍니다. Diagonalization A in Rnxn(square matrix. 정사각행렬) D = V^-1 A V => VD = AV 위 조건을 만족하면 A는 대각화가 가능한 행렬이다. A is diagonal matrix. D = 대각선에만 값이 있는 매트릭스 V, V^-1이 존재하면 diagonal matrix 를 만들 수 있다. 이 과정을 통해 만들어진 D를 A의 Diagonalization..

개발/수학 2023.10.18

[Bayes Theorem] 베이즈 정리 연습

ChatGPT가 설명하는 베이시스 정리와 그 용어 설명... Prior (사전 확률): Prior는 사건 또는 가설에 대한 믿음의 초기 분포를 나타냅니다. 사전 확률은 어떤 사건 또는 가설이 발생할 가능성을 이전 정보 또는 경험을 기반으로 나타내는 것입니다. Prior는 아직 어떤 새로운 관측 데이터를 고려하기 전에 알고 있던 것으로, 이전 지식이나 주관적 믿음을 반영합니다. Likelihood (우도): Likelihood는 주어진 가설 또는 사건 하에서 관측된 데이터가 발생할 확률을 나타냅니다. 이것은 데이터와 모델 또는 가설 사이의 관련성을 정량화합니다. Likelihood는 가설이 어떻게 데이터를 생성하는지에 대한 정보를 제공합니다. Posterior (사후 확률): Posterior는 주어진 관..

개발/수학 2023.10.17

[선형대수학] Matrix Algebra

출처 : 인프런 선형대수학 2.1 Matrix Operations 고딩때 배운 행렬의 연산. commute : 뒤집혀도 같다. 2.2 Transpose of a Matrix (AB)T = BT * AT Inverse of a Matrix s^-1 Invertible Matrix A(n * n) = CA = I and AC = I nonsngular matrix : invertible singular matrix : not invertible 2차 매트릭스의 경우 ad-bc != 0 -> invertible det A = ad - bc unique solution을 가지는 경우 Ax = b -> x = bA^(-1) (A^-1)^-1 = A (AB)^-1 = B^-1 A^-1 (AT)^-1 = (A^-1)..

개발/수학 2023.10.15