Python (NumPy)에서의 QR 분해

Python의 NumPy 라이브러리를 사용하여 QR 분해를 수행하는 방법을 자세히 다룬다. NumPy는 과학 계산용으로 널리 사용되는 라이브러리로, QR 분해를 효율적으로 계산할 수 있는 다양한 기능을 제공한다. 이 절에서는 NumPy를 사용한 QR 분해의 기본적인 개념, 구현 방법, 그리고 이를 실제로 적용하는 사례를 단계별로 설명한다.

NumPy에서의 QR 분해 개요

NumPy는 QR 분해를 위한 함수 numpy.linalg.qr을 제공한다. 이 함수는 행렬을 입력받아 직교 행렬 $\mathbf{Q}$ 와 상삼각 행렬 $\mathbf{R}$ 로 분해한다. QR 분해는 주어진 행렬 $\mathbf{A}$ 를 다음과 같이 표현하는 것이다:

$\mathbf{A} = \mathbf{Q} \mathbf{R}$

여기서 $\mathbf{Q}$ 는 직교 행렬이고, $\mathbf{R}$ 은 상삼각 행렬이다.

numpy.linalg.qr 함수의 사용법

numpy.linalg.qr 함수는 다음과 같은 기본 구문을 갖는다:

Q, R = numpy.linalg.qr(A, mode='reduced')

파라미터 설명

A: QR 분해를 할 대상이 되는 $m \times n$ 크기의 행렬이다.
mode: QR 분해의 형태를 결정하는 인자로, reduced, complete, r, raw 중 하나를 선택할 수 있다.
reduced: $m \times n$ 크기의 $\mathbf{Q}$ 와 $n \times n$ 크기의 $\mathbf{R}$ 을 반환한다.
complete: $m \times m$ 크기의 $\mathbf{Q}$ 와 $m \times n$ 크기의 $\mathbf{R}$ 을 반환한다.
r: 행렬 $\mathbf{R}$ 만 반환한다.
raw: $\mathbf{Q}$ 와 $\mathbf{R}$ 의 데이터 형식과 크기를 사용자 정의 형식으로 반환한다.

예제 코드

간단한 예제를 통해 numpy.linalg.qr 함수의 사용법을 살펴보겠다.

import numpy as np

A = np.array([[1, 2, 4],
              [3, 8, 14],
              [2, 6, 13]])

Q, R = np.linalg.qr(A)

print("Q 행렬:")
print(Q)
print("R 행렬:")
print(R)

이 코드에서 주어진 행렬 $\mathbf{A}$ 를 QR 분해하여 $\mathbf{Q}$ 와 $\mathbf{R}$ 을 구하고, 각각의 행렬을 출력한다.

출력 결과

위 코드의 출력 결과는 다음과 같다:

Q 행렬:
[[-0.26726124  0.87287156  0.40824829]
 [-0.80178373 -0.21821789 -0.55634864]
 [-0.53452248 -0.43643578  0.72374686]]

R 행렬:
[[-3.74165739 -9.63068014 -17.55235739]
 [ 0.          1.09108945  1.96293868]
 [ 0.          0.          0.40824829]]

이 결과에서 $\mathbf{Q}$ 는 직교 행렬이고, $\mathbf{R}$ 은 상삼각 행렬로 출력된다. 두 행렬을 곱하면 원래의 행렬 $\mathbf{A}$ 를 얻을 수 있다.

QR 분해의 검증

QR 분해의 결과를 검증하기 위해 다음과 같은 과정을 수행할 수 있다.

원래 행렬 재구성

QR 분해로 얻은 $\mathbf{Q}$ 와 $\mathbf{R}$ 을 곱하여 원래의 행렬 $\mathbf{A}$ 와 비교한다.

A_reconstructed = np.dot(Q, R)
print("재구성된 행렬 A:")
print(A_reconstructed)

이 코드는 QR 분해로 얻은 $\mathbf{Q}$ 와 $\mathbf{R}$ 을 사용하여 원래의 행렬 $\mathbf{A}$ 를 재구성한다. 재구성된 행렬이 원래 행렬과 일치하는지 확인할 수 있다.

직교성 확인

$\mathbf{Q}$ 행렬의 직교성을 확인하기 위해 $\mathbf{Q}$ 와 $\mathbf{Q}^\top$ 의 곱이 단위 행렬인지 확인할 수 있다.

identity_matrix = np.dot(Q.T, Q)
print("Q^T * Q:")
print(identity_matrix)

이 결과가 단위 행렬에 가까울수록 $\mathbf{Q}$ 가 직교 행렬임을 의미한다.

QR 분해의 다양한 모드

numpy.linalg.qr 함수의 mode 인자는 QR 분해의 결과로 얻을 행렬들의 크기와 형태를 결정한다. 앞서 간단히 언급한 reduced와 complete 모드를 포함하여 각 모드가 반환하는 값들을 자세히 살펴보겠다.

Reduced 모드

설명: reduced 모드는 기본 모드로, $\mathbf{Q}$ 가 $m \times n$ 크기를 가지며, $\mathbf{R}$ 는 $n \times n$ 크기를 가진다. 이 모드는 입력 행렬의 기본적인 QR 분해를 수행한다.
사용 사례: 이 모드는 행렬 $\mathbf{A}$ 의 열의 수가 행의 수보다 작거나 같을 때, 즉 $n \leq m$ 일 때 유용하다. 이 경우, $\mathbf{Q}$ 의 열은 정규 직교 벡터로 구성된다.

Complete 모드

설명: complete 모드는 QR 분해에서 $\mathbf{Q}$ 를 $m \times m$ 크기의 완전한 직교 행렬로 확장하여 반환한다. 이 경우 $\mathbf{R}$ 는 $m \times n$ 크기의 행렬로 반환된다.
사용 사례: 완전한 직교 행렬 $\mathbf{Q}$ 가 필요한 경우에 사용된다. 이 모드는 $m > n$ 인 경우, 즉 입력 행렬의 행의 수가 열의 수보다 클 때 유용하다.

R 모드

설명: r 모드는 상삼각 행렬 $\mathbf{R}$ 만을 반환한다. 이 모드는 QR 분해의 결과로 직교 행렬 $\mathbf{Q}$ 가 필요하지 않은 경우 사용된다.
사용 사례: 상삼각 행렬 $\mathbf{R}$ 만으로 충분한 계산을 수행할 때 유용하다. 예를 들어, 최소 제곱 문제에서 사용될 수 있다.

Raw 모드

설명: raw 모드는 QR 분해의 결과를 사용자 정의 형식으로 반환한다. 이 모드는 $\mathbf{Q}$ 와 $\mathbf{R}$ 를 구성하는 요소를 직접 접근하거나 수정할 필요가 있을 때 사용된다.
사용 사례: 행렬 분해 과정에서 더 세밀한 제어가 필요할 때 사용된다.

QR 분해의 응용

NumPy의 QR 분해 기능은 다양한 응용 분야에서 활용될 수 있다. 특히, 선형 대수에서 자주 사용되는 몇 가지 응용 사례를 살펴보겠다.

최소 제곱 문제

QR 분해는 선형 회귀 분석과 같은 최소 제곱 문제를 해결하는 데 유용하게 사용된다. 주어진 행렬 $\mathbf{A}$ 와 벡터 $\mathbf{b}$ 가 있을 때, 최소 제곱 해를 구하기 위해 $\mathbf{A}$ 를 QR 분해하여 다음과 같이 계산할 수 있다.

$\mathbf{A} = \mathbf{Q} \mathbf{R}$ 로 QR 분해한다.
행렬 방정식 $\mathbf{A} \mathbf{x} = \mathbf{b}$ 를 $\mathbf{Q} \mathbf{R} \mathbf{x} = \mathbf{b}$ 로 대체한다.
양변에 $\mathbf{Q}^\top$ 를 곱하여 $\mathbf{R} \mathbf{x} = \mathbf{Q}^\top \mathbf{b}$ 를 얻는다.
상삼각 행렬 $\mathbf{R}$ 을 이용하여 역행렬 계산이나 후방 대입(back-substitution) 방법으로 해 $\mathbf{x}$ 를 구한다.

이 과정을 통해 최소 제곱 문제의 해를 효율적으로 구할 수 있다.

예제: 최소 제곱 문제 해결

아래는 QR 분해를 사용하여 최소 제곱 문제를 해결하는 예제이다.

import numpy as np

A = np.array([[1, 1], [1, 2], [1, 3]])
b = np.array([1, 2, 2])

Q, R = np.linalg.qr(A)

x = np.linalg.solve(R, np.dot(Q.T, b))

print("최소 제곱 해 x:")
print(x)

이 코드는 주어진 행렬 $\mathbf{A}$ 와 벡터 $\mathbf{b}$ 에 대해 최소 제곱 해 $\mathbf{x}$ 를 계산한다.

수치적 안정성과 QR 분해

QR 분해는 수치적 안정성이 높은 알고리즘으로 알려져 있다. 이는 특히 선형 방정식의 해를 구할 때나 행렬의 고유값을 계산할 때 중요한 성질이다.

수치적 안정성: QR 분해는 계산 과정에서 오차가 크게 증폭되지 않는 특성을 가지며, 이는 특히 행렬의 조건 수가 클 때 중요하다.
수치적 안정성을 높이는 방법: QR 분해에서 수치적 안정성을 유지하기 위해서는 가능한 한 행렬 $\mathbf{Q}$ 를 정규화하고, $\mathbf{R}$ 의 대각 요소가 0에 가깝지 않도록 주의해야 한다.

QR 분해의 이러한 특성은 대규모 행렬이나 매우 작은 값 또는 큰 값을 포함하는 행렬의 계산에서 유리한다.

Python에서 QR 분해의 활용 팁

Python과 NumPy를 사용하여 QR 분해를 수행할 때 고려해야 할 몇 가지 팁을 소개한다.

메모리 관리: 대규모 행렬의 QR 분해는 상당한 메모리를 요구할 수 있으므로, 필요하지 않은 경우에는 reduced 모드를 사용하는 것이 좋다.
효율적인 계산: 최소 제곱 문제와 같은 특정 문제에서 r 모드를 사용하여 상삼각 행렬 $\mathbf{R}$ 만을 반환받는 것이 더 효율적일 수 있다.
병렬 처리: NumPy는 내부적으로 벡터화된 연산을 사용하여 병렬 처리 성능을 향상시키므로, 성능이 중요한 경우에는 최신 버전의 NumPy를 사용하는 것이 좋다.

이러한 팁들을 통해 QR 분해를 효과적으로 활용할 수 있으며, 보다 복잡한 문제에도 적용할 수 있다.