30.32 복소 고유값의 기하학적 의미: 회전과 스케일링의 결합
1. 복소 고유값의 극좌표 표현
복소 고유값 \lambda = \alpha + i\beta (\beta \neq 0)는 극좌표(polar form)로
\lambda = r e^{i\theta}
와 같이 표현된다. 여기서
r = \lvert \lambda \rvert = \sqrt{\alpha^2 + \beta^2}, \quad \theta = \arg(\lambda) = \arctan\frac{\beta}{\alpha}
이다. r은 복소수의 **크기(modulus)**이고, \theta는 **편각(argument)**이다.
이 극좌표 표현은 복소 고유값의 기하학적 의미를 직접적으로 드러낸다: r은 스케일링(배율)을, \theta는 회전 각도를 결정한다.
2. 2 \times 2 실수 행렬에서의 기하학
복소 켤레 고유값 \lambda = \alpha + i\beta, \bar{\lambda} = \alpha - i\beta를 갖는 2 \times 2 실수 행렬의 작용을 분석한다.
2.1 표준 형태
복소 켤레 고유값 \alpha \pm i\beta에 대응하는 2 \times 2 실수 블록은
C = \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}
이다. 이 행렬을 극좌표로 분해하면
C = r \begin{pmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{pmatrix}
여기서 r = \sqrt{\alpha^2 + \beta^2}이고 \theta = \arctan(\beta/\alpha)이다.
따라서 C의 작용은 다음 두 기하학적 조작의 합성이다:
회전(Rotation). \begin{pmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{pmatrix}는 원점을 중심으로 \theta 라디안만큼의 시계 방향 회전이다 (반시계 방향 규약에서는 -\theta 회전).
스케일링(Scaling). 인수 r에 의한 균일한 확대/축소이다. r > 1이면 확대, r < 1이면 축소, r = 1이면 크기 보존이다.
2.2 기하학적 해석
평면 \mathbb{R}^2 위의 벡터 x에 C를 적용하면:
- x가 원점을 중심으로 \theta만큼 회전한다.
- 회전된 벡터의 길이가 r배로 스케일링된다.
원점에서의 거리 \lVert x \rVert은 r \lVert x \rVert로 변한다. 이 두 조작은 나선형(spiral) 변환을 구성한다. C를 반복 적용하면 (C^k x) 벡터는 원점 주위를 나선형으로 회전하며:
- r > 1: 나선형으로 발산 (바깥으로 벌어지는 나선)
- r < 1: 나선형으로 원점에 수렴 (안쪽으로 감기는 나선)
- r = 1: 원 위를 등속 회전 (타원이 아닌 원)
3. 반복 적용의 기하학: C^k의 분석
C^k를 계산하면
C^k = r^k \begin{pmatrix} \cos k\theta & \sin k\theta \\ -\sin k\theta & \cos k\theta \end{pmatrix}
이다. 이는 드무아브르 정리(De Moivre’s theorem) \lambda^k = r^k e^{ik\theta}의 행렬 버전이다. k번째 반복에서:
- 회전 각도: k\theta
- 스케일링 계수: r^k
따라서 초기 벡터 x_0 = \begin{pmatrix} x_1 \\ x_2 \end{pmatrix}에 대하여
C^k x_0 = r^k \begin{pmatrix} x_1 \cos k\theta + x_2 \sin k\theta \\ -x_1 \sin k\theta + x_2 \cos k\theta \end{pmatrix}
x_0를 극좌표 x_0 = \rho_0 (\cos\phi_0, \sin\phi_0)^T로 표현하면
C^k x_0 = \rho_0 r^k \begin{pmatrix} \cos(k\theta - \phi_0) \\ -\sin(k\theta - \phi_0) \end{pmatrix}
(부호 규약에 따라 약간 변동). 궤적은 극좌표에서 **대수 나선(logarithmic spiral)**을 형성한다.
4. 일반 행렬에서의 복소 고유값 블록
n \times n 실수 행렬 A가 복소 켤레 고유값 쌍 \alpha_j \pm i\beta_j (j = 1, \ldots, s)과 실수 고유값 \lambda_1, \ldots, \lambda_r을 가질 때 (r + 2s = n), 실수 정준 형태에서 A의 작용은 다음과 같이 분해된다:
- 실수 고유값 \lambda_j에 대응하는 1차원 고유 공간에서는 방향 보존/반전 스케일링 (\lambda_j > 0이면 보존, \lambda_j < 0이면 반전).
- 복소 켤레 쌍 \alpha_j \pm i\beta_j에 대응하는 2차원 불변 부분 공간에서는 회전-스케일링(rotation-scaling).
전체 변환은 이러한 독립적인 1차원 및 2차원 작용의 직합(direct sum)이다.
5. 연속 동역학계의 위상 초상(Phase Portrait)
미분방정식 \dot{x} = Ax (x \in \mathbb{R}^2)에서 A의 고유값이 \alpha \pm i\beta일 때, 위상 초상은 다음과 같이 분류된다:
| 조건 | \alpha | r = e^{\alpha t} | 위상 초상 유형 | 안정성 |
|---|---|---|---|---|
| 감쇠 진동 | \alpha < 0 | r < 1 (t > 0) | 안정 초점 (stable focus/spiral) | 점근 안정 |
| 등폭 진동 | \alpha = 0 | r = 1 | 중심 (center) | 안정 (비점근) |
| 증폭 진동 | \alpha > 0 | r > 1 (t > 0) | 불안정 초점 (unstable focus/spiral) | 불안정 |
해 x(t)는 e^{\alpha t}의 진폭 변조를 가진 주기 2\pi/\beta의 진동이다. 궤적은 원점 주위의 나선이다.
6. 이산 동역학계의 궤적
차분 방정식 x_{k+1} = Ax_k (x \in \mathbb{R}^2)에서 A의 고유값이 \lambda = re^{i\theta}일 때:
- r < 1: 원점으로 나선형 수렴. k 증가에 따라 r^k \to 0.
- r = 1: 원점 주위 등속 회전. \theta/(2\pi)가 유리수이면 주기적 궤도, 무리수이면 준주기적(quasi-periodic) 궤도.
- r > 1: 원점으로부터 나선형 발산. r^k \to \infty.
\theta는 한 단계에서의 회전 각도이다. 예를 들어, \theta = \pi/3이면 6단계 후에 k\theta = 2\pi로 한 바퀴 회전이 완성되므로, 궤적은 대략 정육각형 형태를 추적한다.
7. 수치 예시
7.1 예시 1: 순수 회전 (r = 1)
A = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix}
\lambda = \pm i이므로 r = 1, \theta = \pi/2이다. A는 90° 반시계 방향 회전이다.
x_0 = (1, 0)^T에 대하여: x_1 = (0, 1)^T, x_2 = (-1, 0)^T, x_3 = (0, -1)^T, x_4 = (1, 0)^T = x_0. 주기 4의 순환 궤도이다.
7.2 예시 2: 수축 나선 (r < 1)
A = \begin{pmatrix} 0.8 & -0.6 \\ 0.6 & 0.8 \end{pmatrix}
\lambda = 0.8 \pm 0.6i이므로 r = \sqrt{0.64 + 0.36} = 1이다. 이 경우 r = 1이므로 사실상 순수 회전이다.
반면,
B = 0.9 \cdot A = \begin{pmatrix} 0.72 & -0.54 \\ 0.54 & 0.72 \end{pmatrix}
의 고유값은 0.72 \pm 0.54i이고 r = 0.9 < 1, \theta = \arctan(0.54/0.72) = \arctan(0.75) \approx 36.87°이다.
B^k x_0의 궤적은 매 단계마다 36.87°씩 회전하면서 크기가 0.9^k로 감소하는 수축 나선을 그린다. 10단계 후 크기는 0.9^{10} \approx 0.349로 약 65% 감소한다.
7.3 예시 3: 팽창 나선 (r > 1)
A = \begin{pmatrix} 1 & -2 \\ 1 & 1 \end{pmatrix}
\lambda = 1 \pm i\sqrt{1} = 1 \pm i이므로 r = \sqrt{2} \approx 1.414, \theta = \pi/4 = 45°이다.
궤적은 매 단계 45° 회전하며 크기가 \sqrt{2}배씩 증가하는 팽창 나선이다. 10단계 후 크기는 (\sqrt{2})^{10} = 32배로 증폭된다.
8. 복소 고유값과 실수 고유값의 기하학적 대비
| 속성 | 실수 고유값 \lambda \in \mathbb{R} | 복소 고유값 \lambda = re^{i\theta} |
|---|---|---|
| 불변 부분 공간의 차원 | 1 (직선) | 2 (평면) |
| 기하학적 작용 | 방향 스케일링 | 회전 + 스케일링 |
| 궤적 형태 (이산) | 직선 위의 점열 | 나선 |
| 궤적 형태 (연속) | 직선 궤적 | 나선 궤적 |
| 안정성 기준 (이산) | \lvert \lambda \rvert < 1 | r = \lvert \lambda \rvert < 1 |
| 안정성 기준 (연속) | \lambda < 0 | \alpha = \operatorname{Re}(\lambda) < 0 |
| 주기성 | 없음 (\lambda > 0) 또는 부호 교대 (\lambda < 0) | 주기 2\pi/\theta (이산) 또는 2\pi/\beta (연속) |
9. 회전-스케일링의 행렬 분해
2 \times 2 블록 C = \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}를 다양하게 분해할 수 있다.
스케일링-회전 분해:
C = r \cdot R(\theta) = \sqrt{\alpha^2 + \beta^2} \begin{pmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{pmatrix}
지수 행렬 표현:
C = e^{S}, \quad S = \begin{pmatrix} \ln r & \theta \\ -\theta & \ln r \end{pmatrix} = (\ln r) I + \theta J
여기서 J = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix}이다. J^2 = -I이므로 J는 허수 단위 i의 행렬 대응물이다.
복소수와의 동형 사상:
복소수 z = \alpha + i\beta에 대응하는 행렬 \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}의 사상은 복소수 체 \mathbb{C}에서 2 \times 2 실수 행렬의 부분 대수(subalgebra)로의 **환 동형 사상(ring isomorphism)**이다. 이 대응에서:
- 복소수의 덧셈 \leftrightarrow 행렬의 덧셈
- 복소수의 곱셈 \leftrightarrow 행렬의 곱셈
- 켤레 \bar{z} \leftrightarrow 전치 C^T
- 절댓값 \lvert z \rvert \leftrightarrow \sqrt{\det(C)}
이 동형 사상은 복소 고유값의 기하학이 복소수의 곱셈 기하학(회전 + 스케일링)과 본질적으로 동일함을 대수적으로 확립한다.
10. 딥러닝에서의 기하학적 의의
특징 공간의 회전적 변환. 비대칭 가중치 행렬에 의한 선형 변환이 복소 고유값을 가지면, 특징 공간의 일부 차원에서 회전적 성분이 나타난다. 이는 입력 특징의 위상(phase) 정보를 보존하거나 변환하는 데 기여할 수 있다.
순환 신경망의 장기 의존성. RNN에서 야코비안 행렬의 고유값이 r \approx 1인 복소수이면, 은닉 상태가 진동하면서 장기간 정보를 유지할 수 있다. r < 1이면 진동이 감쇠하여 장기 의존성이 소실되고, r > 1이면 진동이 증폭되어 그래디언트가 폭발한다. 유니터리 RNN(Unitary RNN) 등의 아키텍처는 r = 1을 유지하여 장기 의존성 문제를 해결하고자 한다.