[선형대수학] QR분해

 

QR 분해 (QR Decomposition)

오늘은 선형대수학에서 중요한 QR 분해(QR Decomposition)에 대해 알아보려 한다. QR 분해는 행렬을 직교 행렬(orthogonal matrix)과 상삼각 행렬(upper triangular matrix)의 곱으로 표현하는 방법이다. 이는 행렬 연산을 단순화하고, 선형 시스템 해결, 고유값 문제, 최소 자승 문제 등 다양한 응용 분야에서 활용될 수 있다.

1. 그람-슈미트 직교화 과정 (Gram-Schmidt Orthogonalization Process)

QR 분해를 이해하기 위해서는 먼저 그람-슈미트 직교화 과정(Gram-Schmidt Orthogonalization Process)에 대해 알아야 한다. 이 과정은 주어진 벡터 집합을 정규직교(orthonormal) 벡터 집합으로 변환하는 방법이다. 즉, 벡터들을 서로 수직이면서 길이가 1인 벡터들로 만들어주는 것이다.

그람-슈미트 직교화 과정 공식 유도

{v_1​,v_2​,...,v_n​}을 벡터 공간 V의 기저라고 가정해보자. 이를 정규직교 기저 {u_1​,u_2​,...,u_n​}으로 변환하는 과정은 다음과 같다.

​

이 과정을 반복하면 모든 벡터를 정규직교 벡터로 만들 수 있다.

2. QR 분해 (QR Decomposition)

이제 QR 분해를 살펴보자. m×n 행렬 A의 열벡터들을 {a_1​,a_2​,...,a_n​}이라고 할 때, QR 분해는 다음과 같이 표현된다.

A = QR

여기서 Q는 m×n 직교 행렬이고, R은 n×n 상삼각 행렬이다.

즉 QR 분해는 행렬 A의 열벡터들을 그람-슈미트 직교화 과정을 통해 얻은 정규직교 벡터들로 이루어진 행렬 Q와, 직교화 과정에서 얻은 계수들을 담고 있는 상삼각 행렬 R의 곱으로 표현하는 것이라 할 수 있다.

예제

이제 다음 행렬 A를 QR 분해하는 예제를 통해 알아보자.

A = |1 0 0|
    |1 1 0|
    |1 1 1|

1. 그람-슈미트 직교화: A의 열벡터들(v_1, v_2, v_3)을 그람-슈미트 과정을 통해 정규직교 벡터들로 변환한다. 
   

   
   여기서 u_n을 크기에 대해 나누면 정규직교 벡터를 구할 수 있다.

2. Q, R 구성: 정규직교 벡터들을 열벡터로 갖는 행렬 Q와, Q^TA = R임을 이용해 상삼각 행렬 R을 구성한다.

   

3. 직교 행렬 (Orthogonal Matrices)

직교 행렬(orthogonal matrix)은 행렬 Q의 전치 행렬 Q^T가 Q의 역행렬 Q^−1과 같은 행렬이다. 즉, 다음을 만족한다.

Q^TQ = QQ^T = I

직교 행렬은 다음과 같은 특징을 갖다.

• 행렬식의 값은 1 또는 -1이다.
• 모든 열벡터들은 정규직교 벡터이다.
• 직교 행렬은 회전 변환이나 반사 변환을 나타낸다.

마무리

이번 포스팅에서는 그람-슈미트 직교화 과정과 QR 분해에 대해 알아보았다. 특히, QR 분해는 행렬 연산을 단순화하고 다양한 문제를 해결하는 데 유용하게 활용될 수 있었다. 다음 포스팅에서는 QR 분해를 이용한 최소 자승 문제 해결에 대해 알아보겠다.

추천글 : 수포자, 수학이 막연한 분들을 위한 수학 완벽정리(feat. 수학 잘하는 법)(https://hyeonb.blogspot.com/2023/02/essential%20Math.html)
[선형대수학] Inner product space
(https://hyeonb.blogspot.com/2024/05/asdf.html)