직교 행렬(Q)의 정의와 성질 - 소프트웨어 융합

직교 행렬의 정의

직교 행렬( $\mathbf{Q}$ )은 수학적으로 중요한 성질을 가지는 행렬로, 다음과 같은 조건을 만족하는 정사각 행렬을 의미한다:

$\mathbf{Q}^T \mathbf{Q} = \mathbf{Q} \mathbf{Q}^T = \mathbf{I}$

여기서 $\mathbf{Q}^T$ 는 $\mathbf{Q}$ 의 전치 행렬(transpose matrix)을, $\mathbf{I}$ 는 단위 행렬(identity matrix)을 나타낸다. 직교 행렬은 이 조건에 의해 그 열벡터들 또는 행벡터들이 서로 직교하고, 모든 벡터의 길이가 1로 정규화(normed)되어 있음을 의미한다.

직교 행렬의 성질

직교 행렬은 여러 중요한 성질을 가지고 있다. 다음은 그 중 일부를 정리한 것이다.

1. 벡터의 길이 보존

직교 행렬 $\mathbf{Q}$ 는 벡터의 길이를 보존한다. 즉, 임의의 벡터 $\mathbf{x}$ 에 대해 $\mathbf{Q}\mathbf{x}$ 의 길이는 $\mathbf{x}$ 의 길이와 동일한다. 이는 다음과 같이 수식으로 표현될 수 있다:

$\|\mathbf{Q}\mathbf{x}\| = \|\mathbf{x}\|$

이 성질은 직교 행렬이 벡터의 크기를 변형시키지 않고 회전 또는 반사만 수행함을 의미한다.

2. 직교 행렬의 행렬식

직교 행렬 $\mathbf{Q}$ 의 행렬식( $\text{det}(\mathbf{Q})$ )은 항상 $-1$ 또는 $+1$ 이다. 이는 $\mathbf{Q}$ 가 회전 행렬인 경우 $+1$ , 반사 행렬인 경우 $-1$ 을 갖는다:

$\text{det}(\mathbf{Q}) = \pm 1$

3. 역행렬이 전치 행렬과 같음

직교 행렬 $\mathbf{Q}$ 의 또 다른 중요한 성질은 $\mathbf{Q}$ 의 역행렬( $\mathbf{Q}^{-1}$ )이 전치 행렬( $\mathbf{Q}^T$ )과 같다는 것이다:

$\mathbf{Q}^{-1} = \mathbf{Q}^T$

이 성질은 계산의 복잡성을 줄여주며, QR 분해에서의 활용도를 높인다.

4. 직교성 유지

두 직교 행렬 $\mathbf{Q}_1$ 과 $\mathbf{Q}_2$ 의 곱은 다시 직교 행렬이 된다. 이는 다음과 같이 표현할 수 있다:

$\mathbf{Q}_1 \mathbf{Q}_2 = \mathbf{Q}_3$

여기서 $\mathbf{Q}_3$ 또한 직교 행렬이다. 이 성질은 직교 행렬의 조합이 여전히 직교성을 유지함을 의미한다.

5. 내적의 보존

직교 행렬 $\mathbf{Q}$ 는 두 벡터의 내적(inner product)을 보존한다. 즉, 두 벡터 $\mathbf{a}$ 와 $\mathbf{b}$ 에 대해 $\mathbf{Q}\mathbf{a}$ 와 $\mathbf{Q}\mathbf{b}$ 의 내적은 원래 벡터들의 내적과 동일한다:

$\mathbf{a} \cdot \mathbf{b} = (\mathbf{Q}\mathbf{a}) \cdot (\mathbf{Q}\mathbf{b})$

이 성질은 직교 행렬이 벡터 간의 관계를 보존한다는 중요한 의미를 갖는다.

6. 유니터리 행렬과의 관계

직교 행렬은 실수 행렬(real matrix)일 때 정의되지만, 복소수 행렬(complex matrix)로 확장되면 유니터리 행렬(unitary matrix)로 일반화된다. 유니터리 행렬 $\mathbf{U}$ 는 다음과 같은 조건을 만족한다:

$\mathbf{U}^H \mathbf{U} = \mathbf{U} \mathbf{U}^H = \mathbf{I}$

여기서 $\mathbf{U}^H$ 는 $\mathbf{U}$ 의 에르미트 전치 행렬(Hermitian transpose, 복소수 행렬의 전치 후 켤레를 취한 행렬)을 의미한다. 실수 행렬의 경우 $\mathbf{U}^H$ 는 $\mathbf{Q}^T$ 와 같으므로, 유니터리 행렬은 실수 행렬의 경우 직교 행렬과 동일한 개념이다.

7. 대칭 직교 행렬

직교 행렬 중에서도 대칭 행렬(symmetric matrix)이면서 직교성을 만족하는 경우를 생각해 볼 수 있다. 대칭 직교 행렬은 다음과 같은 추가적인 성질을 가진다:

$\mathbf{Q} = \mathbf{Q}^T$

이 경우, $\mathbf{Q}$ 는 자기 자신의 역행렬이 된다:

$\mathbf{Q}^2 = \mathbf{I}$

대칭 직교 행렬은 주로 반사(reflection) 변환을 나타낼 때 사용된다.

8. 특이값 분해와의 관계

직교 행렬은 특이값 분해(SVD, Singular Value Decomposition)와 밀접한 관계가 있다. 특이값 분해는 임의의 행렬 $\mathbf{A}$ 를 다음과 같이 분해하는 것을 의미한다:

$\mathbf{A} = \mathbf{U} \mathbf{\Sigma} \mathbf{V}^T$

여기서 $\mathbf{U}$ 와 $\mathbf{V}$ 는 각각 직교 행렬이고, $\mathbf{\Sigma}$ 는 대각 행렬이다. 따라서, 특이값 분해에서 얻어지는 $\mathbf{U}$ 와 $\mathbf{V}$ 는 직교 행렬의 성질을 갖게 된다.

9. QR 분해에서의 Q 행렬

QR 분해에서 $\mathbf{Q}$ 행렬은 주어진 행렬 $\mathbf{A}$ 의 열벡터들을 직교화하여 얻어지는 행렬이다. QR 분해는 다음과 같이 표현된다:

$\mathbf{A} = \mathbf{Q} \mathbf{R}$

이때, $\mathbf{Q}$ 는 직교 행렬이고, $\mathbf{R}$ 은 상삼각 행렬이다. QR 분해에서 $\mathbf{Q}$ 행렬은 특히 수치 선형 대수학에서 중요한 역할을 하며, 여러 알고리즘에서 핵심적인 요소로 사용된다.