선형대수학의 기본 정리(Fundamental Theorem of Linear Algebra)
오늘은 선형대수학의 꽃이라고 할 수 있는 선형대수학의 기본 정리(Fundamental Theorem of Linear Algebra)에 대해 알아보고자 한다. 이 정리는 행렬의 네 가지 부분 공간(row space, column space, null space, left null space) 사이의 관계를 명확하게 밝혀주는 중요한 정리다. 특히, 부분 공간 사이의 직교성(orthogonality)에 주목하여 설명하고자 한다. 직교성은 두 벡터가 서로 수직임을 의미하며, 부분 공간 사이의 직교성은 선형 변환과 관련된 다양한 문제를 해결하는 데 중요한 역할을 한다.
1. 직교 여공간(Orthogonal Complement)
본격적으로 들어가기 전에, 직교 여공간(orthogonal complement)의 개념을 짚고 넘어가겠다. 벡터 공간 의 부분 공간 에 대해, 에 속하는 모든 벡터와 직교하는 벡터들의 집합을 의 직교 여공간이라고 하며, 로 표기한다.
쉽게 말해, 어떤 부분 공간에 수직인 모든 벡터들을 모아놓은 공간이라고 생각하면 된다.
직교 여공간을 구하는 방법
- 행렬 의 영공간(null space)을 이용:
- 의 행공간(row space)의 직교 여공간은 의 영공간과 같다.
즉, 이다. - 의 열공간(column space)의 직교 여공간은 의 영공간과 같다.
즉, 다.
- 의 행공간(row space)의 직교 여공간은 의 영공간과 같다.
- Gram-Schmidt 과정: 주어진 부분 공간의 기저 벡터들을 Gram-Schmidt 과정을 통해 직교화하고, 이를 이용하여 직교 여공간의 기저를 찾는다.(자세한건 다음에)
2. 선형대수학의 기본 정리 (Fundamental Theorem of Linear Algebra)
이제 선형대수학의 기본 정리를 살펴보자. 행렬 에 대해 다음과 같은 관계가 성립한다.
Null(A) = Col(A^T)^\perp = range(A^T)^\perp
Null(A^T) = Col(A)^\perp = range(A)^\perp
이 정리는 행렬의 네 가지 부분 공간 사이의 관계를 보여준다. 즉, 행렬 의 영공간은 의 전치 행렬의 열공간(행공간)의 직교 여공간과 같고, 의 좌측 영공간은 의 열공간의 직교 여공간과 같다.
예제
다음 행렬 에 대해 선형대수학의 기본 정리를 확인해보면 다음과 같다.
A = |1 0 2 3|
|0 1 4 5|
|0 0 0 0|
Null(A): 및 을 만족하는 해의 집합이다. 따라서 의 기저는 이다.
Col(A^T): 의 행 벡터들로 생성되는 공간이다. 따라서 의 기저는 이다.
Null(A^T): 의 영공간은 x_3에 대하여 정의되므로, 기저는 {(0,0,1)}이다.
Col(A): 의 열 벡터들로 생성되는 공간이다. 의 기저는 다.
이제 의 기저 벡터들과 의 기저 벡터들이 서로 직교하는지 확인하면 된다. 마찬가지로, 의 영벡터와 의 기저 벡터들이 서로 직교하는지 확인하면 된다.
내적으로 확인해보면, 내적한 값이 모두 0이 나오므로 직교 관계가 성립한다.
3. 정사영(Projection)
내적 공간에서 정사영(projection)은 한 벡터를 특정 부분 공간 위로 수직으로 투영하는 것을 의미한다. 즉, 벡터 를 부분 공간 위로 정사영한 벡터 는 다음과 같이 정의된다.
proj_W u = ((u, v1)/(v1, v1))v1 + ((u, v2)/(v2, v2))v2 + ... + ((u, vr)/(vr, vr))vr
여기서 은 의 정규직교 기저다.
마무리하며
이번 포스팅에서는 선형대수학의 기본 정리와 직교 여공간, 정사영에 대해 알아보았다. 특히, 행렬의 네 가지 부분 공간 사이의 관계와 정사영 공식은 선형대수학의 핵심 개념이므로 꼭 기억해둬야겠다.
추천글 : 수포자, 수학이 막연한 분들을 위한 수학 완벽정리(feat. 수학 잘하는 법)(https://hyeonb.blogspot.com/2023/02/essential%20Math.html)
[선형대수학] Inner product space
