이차형식(Quadratic Forms) 안에 (1/2A + 1/2A^T) 행렬은 sysmetric matrix다. gram matrix 고윳값(Eigenvalues)와 고유벡터(Eigenvectors) 고윳값 고유벡터의 성질들 고윳값, 고유벡터와 대칭행렬 행렬 미분(Matrix Calculas) 적용 예제들 최소제곱법(Least Squares) 고윳값과 최적화문제(Eigenvalues as Optimization) AutoEncoder와 Principal Components Analysis(PCA)
영벡터(영행렬) np.zeros(dim) 일벡터(일행렬) np.ones(dim) 대각행렬(diagonal matrix) Main diagonal을 제외한 성분이 0인 행렬 np.diag(main_diagonal) 항등행렬(identity matrix) np.eye(dim, dtype) 행렬곱(dot product) np.dot or @ a = np.array([[1, 4], [2, 3]]) b = np.array([[7, 9], [0, 6]]) print(a.dot(b)) print(a @ b) 트레이스(trace) main diagonal의 합 np.trace() arr = np.array([[1,2,3], [4,5,6], [7, 8, 9]]) print(arr.trace()) print(np.eye(..
함수란? 함수는 두 집합 간의 맵핑룰(mapping rule)이다. 입력이 정의되는 집합을 D(domain)이라 한다. 출력이 정의되는 집합 C을 codomatin(공역)이라 하며, codomain 중 실제 함수의 출력이 나오는 부분집합은 range(치역)이라 한다. 함수 f는 아래 그림 D의 각 원소 x가 C의 한 원소 y(=f(x))에 대응되는 매핑룰(mapping rule)이다. domain과 codomain을 강조하여 다음과 같이 적기도 한다. 선형함수(linearfunction) 만일 함수 f가 아래 두가지 조건을 만족하면 함수 f를 선형 함수(linear function)이라고 한다.(c는 임의의 스칼라) 변환(Transformation) 함수의 입력이 n-벡터이고 출력이 m-벡터인 함수 T인..
좌표계 :: 좌표값 = 행렬 :: 벡터 - 좌표계 변환(Change of Basis) A(좌표계) x(좌표값) = b(좌표값) A(좌표계) x(좌표값) = I(표준 좌표계)b(좌표값) 좌표계(Coordinate System) 다음과 같이 2-벡터 v가 주어지면 이 벡터는 xy평면상에서 원점 (0,0)으로부터 (a,b)에서 끝나는 벡터를 의미한다. 만일 두 벡터 v_1과 v_2를 이용해 새롭게 좌표계를 만든다면 v의 좌표값은? => 어떤 벡터 v에 도달하기 까지 v_1벡터와 v_2 벡터를 몇번 사용하여 도착했는지 해석해보면 된다. 좌표값은 항상 좌표계를 수반한다. 그렇다면 Ax = b를 다음과 같이 해석할 수 있다. (우항): 표준좌표계(standard coordinate system)에서 어떤 벡터의 좌..
행렬 표기법과 관련 용어 행렬(matrix)은 직사각형 구조에 숫자들을 담아 놓은 구조이다. 각 숫자들은 행렬의 요소(entry)라 부른다. 행벡터(row vector)와 열벡터(column vector)로 구성되있다. 스칼라 = [4] 와 같이 1x1행렬. 주요 표기법 행렬 A의 각 요소 (i, j)-요소는 행렬 A를 간략히 표기할 때는 행렬 A의 크기가 중요할 경우는 전치행렬(Transpose Matrix) m x n 행렬 A에 대한 transpose matrix(전치행렬) $A^{T}$는 A의 행을 열로, A의 열을 행으로 가지는 n x m 행렬이다. 벡터 표기법 벡터는 볼드체 소문자로 표기한다. 벡터라고 하면 일반적으로 열벡터(column vector)를 말한다. n-벡터는 n개의 스칼라(scal..
행렬분해(matrix decomposition)의 의미 행렬을 행렬분해 한 상태로 가지고 있으면 여러모로 계산이 편리한 경우가 많다. LU분해(LU decomposition) QR분해(QR decomposition) 특이값 분해(SVD, Singular Value Decomposition) LU분해 주어진 행렬을 아래의 형태처럼 분할하는 방법이다. L: lower triangular matrix(하삼각 행렬) U: upper triangular matrix(상삼각 행렬) LU분해를 하게 되면 Ax = b 의 계산을 다음과 같이 수행할 수 있다. LU분해의 의미 LU분해는 가우스 소거법의 forward elimination을 행렬로 코드화 한 것이다. L: 행렬 A를 전방소거하는데 쓰인 replacemen..
Solutions of a Linear System 해가 하나인 경우(unique solution) 해가 없는 경우(no solution) 0 * x = 6 해가 여러개인 경우(infinitely many solutions) 0 * x = 0 ax = b에서 a = 0이면 특이하다. ax = b의 해가 곧장 나오지 않는다. 왜? a의 역수(inverse)가 존재하지 않는 경우, a가 특이(singular)하다고 한다. 해가 있으면 선형시스템이 consistent하다고 한다. 해가 없으면 선형시스템이 inconsistent하다고 한다. Gauss elimination(가우스 소거법) Forward elimination(전방소거법) : 주어진 선형시스템을 아래로 갈수록 더 단순한 형태의 선형방정식을 가지도록..
가우스 소거법(Gauss 소거법) 선형대수(linear algebra)의 목표는 어떤 연립일차방정식, 즉, linear system(선형시스템) 문제라도 정형적인 방법으로 표현하고 해결하는 방법을 배우는 것이다. $Ax = b$ linear란 선의 형태라는 뜻. 평면이거나 왜곡되지 않은 공간. 올곧은 공간(?) 아래와 같은 식이 있을때, 이 방정식들을 각각 선형방정식(linear equation)이라고 한다. 또 여기서 각각의 미지수 x,y,z를 unknown, 혹인 variable이라고 한다. 위 처럼 3개의 linear equation과 3개의 unknown으로 구성된 연립일차방정식을 3 x 3 linear system이라고 한다. 비선형이란 말은 곡선이라 생각하면됨. 미지수의 승수가 1로만 구성 되..
