6.55 슈어 분해와 정규 행렬

1. 도입

슈어 분해는 임의의 정방 행렬을 유니터리 변환을 통해 상삼각 형태로 변환하는 보편적인 분해 정리이다. 모든 정방 행렬에 대해 존재하며 고유값이 대각 원소로 직접 드러나기 때문에, 고유값 계산 알고리즘의 이론적 토대를 이룬다. 정규 행렬은 슈어 분해가 대각 행렬로 환원되는 특수한 부류로, 유니터리 대각화가 가능한 행렬의 정확한 특성화를 제공한다. 로봇 제어 시스템의 안정성 분석, 모달 분해, 리아푸노프 방정식 해법 등에서 슈어 분해는 실용적인 핵심 도구로 사용된다.

2. 슈어 분해의 정의

복소 정방 행렬 $A \in \mathbb{C}^{n \times n}$ 에 대하여, 다음을 만족하는 유니터리 행렬 $U$ 와 상삼각 행렬 $T$ 가 존재한다.

$A = U T U^{*}$

여기서 $U^{*}$ 는 $U$ 의 켤레 전치이며, $T$ 의 대각 원소는 $A$ 의 고유값들이다. 이러한 표현을 $A$ 의 슈어 분해(Schur decomposition)라 하며, 행렬 $T$ 를 $A$ 의 슈어 형식이라 한다.

3. 슈어 정리

정리(슈어 정리): 임의의 행렬 $A \in \mathbb{C}^{n \times n}$ 에 대하여, 유니터리 행렬 $U$ 와 상삼각 행렬 $T$ 가 존재하여 $A = U T U^{*}$ 를 만족한다. 또한 $T$ 의 대각 원소는 $A$ 의 고유값과 일치하며, 고유값의 순서는 임의로 지정할 수 있다.

이 정리의 핵심은 임의의 정방 행렬이 유니터리 변환만으로 상삼각화될 수 있다는 점이다. 이는 모든 행렬이 대각화될 수 있다는 주장보다 약하지만 보편성을 가지며, 비대각화 가능 행렬에도 적용된다.

증명의 개요: 수학적 귀납법으로 증명한다. $n = 1$ 일 때는 자명하다. $n \ge 2$ 의 경우, $A$ 의 한 고유값 $\lambda_1$ 과 그에 해당하는 단위 고유벡터 $\mathbf{v}_1$ 을 선택한다. $\mathbf{v}_1$ 을 첫 열로 갖는 유니터리 행렬 $U_1$ 을 구성하면 다음과 같이 표현된다.

$U_1^{*} A U_1 = \begin{pmatrix} \lambda_1 & \mathbf{w}^{*} \\ \mathbf{0} & A_1 \end{pmatrix}$

여기서 $A_1 \in \mathbb{C}^{(n-1) \times (n-1)}$ 이다. 귀납 가정에 의해 $A_1 = U_2 T_2 U_2^{*}$ 의 슈어 분해가 존재하며, 이를 결합하면 $A$ 의 전체 슈어 분해가 얻어진다.

4. 실수 슈어 분해

실수 행렬에 대해서는 복소수 연산을 회피하기 위해 실수 슈어 분해(real Schur decomposition)가 사용된다.

정리: 실수 정방 행렬 $A \in \mathbb{R}^{n \times n}$ 에 대하여, 직교 행렬 $Q$ 와 블록 상삼각 행렬 $T$ 가 존재하여 $A = Q T Q^{\top}$ 를 만족한다. 여기서 $T$ 의 대각 블록은 $1 \times 1$ 또는 $2 \times 2$ 형태이다. $1 \times 1$ 블록은 $A$ 의 실수 고유값을 나타내며, $2 \times 2$ 블록은 켤레 복소 고유값 쌍을 나타낸다.

이 형태를 실수 슈어 형식이라 하며, 실수 산술만 사용하여 모든 실수 행렬을 표준화할 수 있다는 점에서 실용적으로 중요하다.

5. 슈어 분해와 고유값 분해의 관계

슈어 분해와 고유값 분해는 모두 행렬의 고유 구조를 드러내지만, 다음과 같은 차이가 있다. 고유값 분해 $A = X \Lambda X^{-1}$ 는 $A$ 가 대각화 가능할 때만 존재하며 $X$ 는 일반적으로 직교가 아니다. 반면 슈어 분해 $A = U T U^{*}$ 는 항상 존재하고 $U$ 는 항상 유니터리이다. 슈어 분해는 비록 $T$ 가 대각이 아니더라도 직교 변환의 수치적 안정성을 보장하므로 수치 계산에서 선호된다.

6. 정규 행렬의 정의

행렬 $A \in \mathbb{C}^{n \times n}$ 가 다음을 만족할 때, $A$ 를 정규(normal) 행렬이라 한다.

$A A^{*} = A^{*} A$

즉 $A$ 와 그 켤레 전치 $A^{*}$ 가 가환일 때 $A$ 는 정규 행렬이다. 정규 행렬의 부류에는 에르미트 행렬( $A^{*} = A$ ), 반에르미트 행렬( $A^{*} = -A$ ), 유니터리 행렬( $A^{*} A = I$ ), 그리고 실수 영역의 대칭 행렬, 반대칭 행렬, 직교 행렬이 포함된다.

7. 정규 행렬의 특성화 정리

정규 행렬은 유니터리 대각화 가능성과 정확히 일치한다.

정리(스펙트럼 정리, 정규 행렬): 행렬 $A \in \mathbb{C}^{n \times n}$ 에 대하여 다음 조건들은 동치이다.

$A$ 는 정규 행렬이다.
$A$ 는 유니터리 대각화 가능하다. 즉 유니터리 행렬 $U$ 와 대각 행렬 $D$ 가 존재하여 $A = U D U^{*}$ 를 만족한다.
$A$ 의 슈어 형식 $T$ 는 대각 행렬이다.
$\mathbb{C}^n$ 에는 $A$ 의 고유벡터로 구성된 정규 직교 기저가 존재한다.

이 정리는 정규 행렬이 슈어 분해의 가장 단순한 형태인 대각 분해로 환원되는 정확한 조건임을 보여준다.

8. 정규 행렬의 주요 부류

정규 행렬은 켤레 전치와의 관계에 따라 여러 중요한 부류로 분류된다.

행렬 부류	정의	고유값의 위치
에르미트	$A^{*} = A$	실수축
반에르미트	$A^{*} = -A$	순허수축
유니터리	$A^{*} A = I$	단위원
대칭(실수)	$A^{\top} = A$	실수축
반대칭(실수)	$A^{\top} = -A$	순허수축
직교(실수)	$A^{\top} A = I$	단위원

각 부류에서 고유값의 위치는 정규 행렬이라는 공통 성질로부터 도출되는 직접적인 결과이다.

9. 정규 행렬의 성질

정규 행렬은 다음과 같은 중요한 성질을 만족한다.

서로 다른 고유값에 해당하는 고유벡터들은 서로 직교한다.
$A$ 와 $A^{*}$ 는 동일한 고유벡터를 가지며, 대응하는 고유값은 켤레 관계이다.
$A$ 의 스펙트럼 노름은 가장 큰 고유값의 절댓값과 같다.
$A$ 의 프로베니우스 노름은 고유값의 절댓값 제곱의 합의 제곱근이다.
정규 행렬은 자신의 고유 사영 행렬들의 가중합으로 표현된다.

특히 다섯 번째 성질을 스펙트럼 분해라 하며, 다음과 같이 표현된다.

$A = \sum_{i=1}^{k} \lambda_i P_i$

여기서 $\lambda_i$ 는 서로 다른 고유값이며, $P_i$ 는 대응하는 고유 공간 위로의 직교 사영 행렬이다.

10. 슈어 분해의 계산

슈어 분해는 직접적인 폐형식 공식이 존재하지 않으며, 반복 알고리즘을 통해 계산된다. 표준적인 방법은 다음 두 단계로 구성된다.

하우스홀더 변환을 통해 $A$ 를 헤센베르크 형식 $H$ 로 변환한다. 헤센베르크 행렬은 첫 번째 부대각선 아래의 모든 원소가 $0$ 인 형태이다.
암묵적 이중 시프트를 사용하는 QR 알고리즘을 헤센베르크 행렬에 반복 적용하여 슈어 형식으로 수렴시킨다.

이 알고리즘의 수렴은 매우 빠르며, 일반적으로 $O(n^3)$ 의 연산으로 슈어 분해를 산출한다. 모든 단계에서 직교 변환만 사용하므로 수치적으로 매우 안정적이다.

11. 슈어 분해의 응용

11.1 행렬 함수 계산

행렬 함수 $f(A)$ 의 계산은 슈어 분해를 통해 효율적으로 수행된다. $A = U T U^{*}$ 일 때 다음이 성립한다.

$f(A) = U f(T) U^{*}$

상삼각 행렬에 대한 $f(T)$ 의 계산은 파를렛 점화식을 사용하여 효율적으로 수행되며, 이는 행렬 지수 함수 $e^{A}$ , 행렬 로그 함수, 행렬 제곱근 등의 계산에 활용된다.

11.2 리아푸노프 방정식

연속 시간 리아푸노프 방정식 $A^{\top} P + PA = -Q$ 의 해는 슈어 분해를 통해 효율적으로 계산된다. 바틀스-스튜어트 알고리즘은 $A$ 를 슈어 형식으로 변환한 후 변환된 좌표에서 후방 대입과 유사한 절차로 해를 구한다. 이 방법은 $O(n^3)$ 의 연산으로 안정적인 해를 제공한다.

11.3 실베스터 방정식

실베스터 방정식 $AX + XB = C$ 의 해도 마찬가지로 $A$ 와 $B$ 의 슈어 분해를 통해 해결된다. 두 행렬을 슈어 형식으로 변환한 후 블록별 후방 대입을 적용하여 해를 산출한다.

12. 로봇공학에서의 응용

12.1 선형 시스템의 안정성 분석

로봇 제어 시스템의 선형화 모델 $\dot{\mathbf{x}} = A\mathbf{x}$ 의 안정성은 $A$ 의 고유값이 모두 음의 실수부를 갖는지에 의해 결정된다. 슈어 분해는 $A$ 의 모든 고유값을 수치적으로 안정하게 산출하며, 실수 슈어 형식을 사용하면 복소 연산 없이 안정성 판정이 가능하다. 이는 폐루프 제어기의 설계와 검증에서 표준적으로 사용되는 도구이다.

12.2 모드 형식과 균형 실현

선형 시스템 식별 및 모델 축소에서는 시스템 행렬의 균형 실현이 필요하며, 이는 슈어 분해와 밀접하게 연결되어 있다. 모달 분해를 통해 시스템을 모드별로 분리하면 각 모드의 동역학적 특성을 독립적으로 분석할 수 있다. 특히 가요성 매니퓰레이터의 진동 모드 분석에서 슈어 분해는 핵심적인 도구이다.

12.3 리아푸노프 함수 기반 안정성 증명

비선형 로봇 제어기의 안정성 증명에서 리아푸노프 방정식 $A^{\top} P + PA = -Q$ 의 양정치 해 $P$ 를 구해야 하는 경우가 자주 발생한다. 슈어 분해 기반 바틀스-스튜어트 알고리즘은 이러한 해를 효율적이고 안정적으로 산출하며, 적응 제어와 강인 제어 설계의 핵심 도구로 활용된다.

12.4 회전 행렬의 정규성 활용

회전 행렬은 직교 행렬이므로 정규 행렬이며, 따라서 유니터리 대각화가 가능하다. 회전 행렬의 고유값은 단위원 위에 위치하며, 이 성질은 회전 보간, 회전 평균화, 그리고 자세 추정 알고리즘에서 활용된다. 특히 단위 사원수와 회전 행렬 사이의 변환에서 정규 행렬의 스펙트럼 성질이 핵심적인 역할을 한다.

12.5 칼만 필터의 안정성

연속 시간 칼만-부시 필터의 오차 동역학은 리카티 방정식의 해에 의해 결정되며, 그 안정성 분석은 슈어 분해를 통해 수행된다. 이산 시간 필터의 경우에도 시스템 행렬의 고유 구조를 슈어 분해로 분석하여 발산 가능성을 사전에 진단할 수 있다.

12.6 비례 적분 미분 제어기 설계

다입출력(MIMO) 로봇 시스템에 대한 PID 제어기 설계에서는 폐루프 시스템 행렬의 고유값 배치가 핵심이다. 슈어 분해는 폐루프 행렬의 고유값을 직접적으로 산출하여 원하는 응답 특성을 달성하기 위한 이득 조정에 활용된다.

12.7 마르코프 의사 결정 과정의 정상 분포

로봇 작업 계획에서 사용되는 마르코프 결정 과정의 전이 행렬은 일반적으로 정규 행렬이 아니지만, 슈어 분해를 통해 정상 분포와 수렴 속도를 분석할 수 있다. 이는 확률적 환경에서의 로봇 행동 계획과 정책 평가에 활용된다.

참고문헌

Golub, G. H., & Van Loan, C. F. (2013). Matrix Computations (4th ed.). Johns Hopkins University Press.
Horn, R. A., & Johnson, C. R. (2013). Matrix Analysis (2nd ed.). Cambridge University Press.
Trefethen, L. N., & Bau, D. (1997). Numerical Linear Algebra. SIAM.
Higham, N. J. (2008). Functions of Matrices: Theory and Computation. SIAM.
Stewart, G. W. (2001). Matrix Algorithms, Volume II: Eigensystems. SIAM.
Khalil, H. K. (2002). Nonlinear Systems (3rd ed.). Prentice Hall.

Version: 1.0