30.31 복소 고유값(Complex Eigenvalue)의 발생 조건과 해석

1. 복소 고유값의 발생 원리

n \times n 실수 행렬 A \in M_{n \times n}(\mathbb{R})의 고유값은 특성 다항식 p_A(\lambda) = \det(A - \lambda I)의 근이다. p_A(\lambda)는 n차 실수 계수 다항식이므로, 대수학의 기본 정리에 의하여 복소수 범위에서 n개의 근(중복 포함)을 갖는다. 이 근 중 일부 또는 전부가 복소수일 수 있다.

실수 계수 다항식의 복소근은 항상 **켤레 쌍(conjugate pair)**으로 나타난다. 즉, \lambda = \alpha + i\beta (\beta \neq 0)이 근이면 \bar{\lambda} = \alpha - i\beta도 반드시 근이다. 이는 p_A(\bar{\lambda}) = \overline{p_A(\lambda)} = 0으로부터 따른다.

따라서 실수 행렬의 복소 고유값은 항상 복소 켤레 쌍으로 발생하며, 홀수 차원의 실수 행렬은 반드시 적어도 하나의 실수 고유값을 갖는다.

2. 복소 고유값의 발생 조건

2.1 필요조건: 비대칭성

정리. 실수 대칭 행렬(A = A^T)의 모든 고유값은 실수이다.

이 정리의 대우로서, 복소 고유값이 존재하려면 A가 비대칭이어야 한다 (A \neq A^T). 비대칭 조건은 필요조건이나 충분조건은 아니다: 비대칭 실수 행렬이라도 모든 고유값이 실수일 수 있다.

2.2 2 \times 2 행렬의 경우

2 \times 2 실수 행렬 A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}의 특성 다항식은

p_A(\lambda) = \lambda^2 - (a + d)\lambda + (ad - bc) = \lambda^2 - \operatorname{tr}(A)\lambda + \det(A)

판별식(discriminant)은

\Delta = \operatorname{tr}(A)^2 - 4\det(A) = (a + d)^2 - 4(ad - bc) = (a - d)^2 + 4bc

• \Delta > 0: 두 개의 상이한 실수 고유값
• \Delta = 0: 하나의 중복 실수 고유값
• \Delta < 0: 복소 켤레 고유값 쌍

\Delta < 0이 되려면 (a - d)^2 + 4bc < 0, 즉 bc < 0이고 \lvert bc \rvert > \frac{(a-d)^2}{4}이어야 한다. bc < 0은 b와 c의 부호가 반대임을 뜻하며, 이는 행렬의 비대칭 부분이 충분히 강함을 반영한다.

2.3 반대칭 행렬(Skew-Symmetric Matrix)

정의. A^T = -A를 만족하는 행렬을 **반대칭 행렬(skew-symmetric matrix)**이라 한다.

정리. 실수 반대칭 행렬의 모든 고유값은 순허수(purely imaginary) 또는 0이다.

증명. Av = \lambda v (v \neq 0)에서, 대칭 행렬의 증명과 유사하게

v^* A v = \lambda v^* v

A^T = -A이므로 A^* = -A (실수 행렬)이고

v^* A v = (v^* A v)^* = v^* A^* v = -v^* A v

따라서 v^* A v = -v^* A v이므로 v^* A v = 0이다. 한편 v^* A v = \lambda v^* v이고 v^* v > 0이므로 \lambda = 0이다. 이 논증에서는 실수 고유벡터만 고려하였으나, 복소 고유벡터에 대하여는

v^* A v = \lambda \lVert v \rVert^2, \quad \overline{v^* A v} = v^* A^* v = -v^* A v

이므로 v^* A v는 순허수이다. 따라서 \lambda = v^* A v / \lVert v \rVert^2은 순허수이다. \blacksquare

예를 들어, A = \begin{pmatrix} 0 & -\omega \\ \omega & 0 \end{pmatrix}의 고유값은 \lambda = \pm i\omega이다.

3. 복소 고유값과 대응하는 고유벡터

실수 행렬 A의 복소 고유값 \lambda = \alpha + i\beta에 대응하는 고유벡터 v도 일반적으로 복소 벡터이다. \bar{\lambda} = \alpha - i\beta에 대응하는 고유벡터는 \bar{v}이다.

v = u + iw (u, w \in \mathbb{R}^n)로 분해하면

A(u + iw) = (\alpha + i\beta)(u + iw)

실수부와 허수부를 분리하면

Au = \alpha u - \beta w

Aw = \beta u + \alpha w

이를 행렬 형태로 쓰면

A \begin{pmatrix} u & w \end{pmatrix} = \begin{pmatrix} u & w \end{pmatrix} \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}

따라서 실수 벡터 u와 w가 이루는 2차원 부분 공간은 A에 의하여 불변이며, 이 부분 공간 위에서 A의 작용은 2 \times 2 행렬 \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}로 표현된다.

4. 실수 정준 형태(Real Canonical Form)

복소 고유값을 갖는 실수 행렬은 복소수 범위에서만 대각화 가능하나, 실수 범위에서는 **실수 정준 형태(real canonical form)**로 변환된다.

A의 실수 고유값을 \lambda_1, \ldots, \lambda_r, 복소 켤레 고유값 쌍을 \alpha_1 \pm i\beta_1, \ldots, \alpha_s \pm i\beta_s (r + 2s = n)이라 하면, 적절한 가역 실수 행렬 P에 의하여

P^{-1} A P = \begin{pmatrix} \lambda_1 & & & & \\ & \ddots & & & \\ & & \lambda_r & & \\ & & & C_1 & \\ & & & & \ddots \\ & & & & & C_s \end{pmatrix}

여기서 각 2 \times 2 블록은

C_j = \begin{pmatrix} \alpha_j & \beta_j \\ -\beta_j & \alpha_j \end{pmatrix}

이다. 이 형태를 **실수 슈르 형태(real Schur form)**의 대각 블록 구조라 한다.

5. 2 \times 2 복소 고유값 블록의 해석

2 \times 2 블록 C = \begin{pmatrix} \alpha & \beta \\ -\beta & \alpha \end{pmatrix}는 다음과 같이 분해된다:

C = \alpha I + \beta J, \quad J = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix}

여기서 J는 90° 회전 행렬이다. C를 극좌표 형태로 표현하면

C = r \begin{pmatrix} \cos \theta & \sin \theta \\ -\sin \theta & \cos \theta \end{pmatrix}

여기서 r = \sqrt{\alpha^2 + \beta^2} = \lvert \lambda \rvert이고 \theta = \arctan(\beta / \alpha) = \arg(\lambda)이다.

따라서 C의 작용은 **\theta만큼의 회전(rotation)**과 **r배의 스케일링(scaling)**의 합성이다. 이 해석은 복소 고유값의 기하학적 의미를 명확히 한다.

6. 선형 동역학계에서의 복소 고유값

상미분방정식 \dot{x} = Ax (x \in \mathbb{R}^n)에서 복소 고유값 \lambda = \alpha \pm i\beta에 대응하는 해는 다음의 형태를 갖는다:

x(t) = e^{\alpha t} (c_1 \cos \beta t + c_2 \sin \beta t) u + e^{\alpha t} (c_1 \sin \beta t - c_2 \cos \beta t) w

여기서 u, w는 고유벡터의 실수부와 허수부이다. 이 해는 다음의 성분으로 분해된다:

• 진동(oscillation): \cos \beta t와 \sin \beta t에 의한 주기적 진동. 진동 주파수는 \beta / (2\pi)이고 주기는 2\pi / \beta이다.
• 감쇠 또는 증폭: e^{\alpha t}에 의한 진폭의 지수적 변화. \alpha < 0이면 감쇠 진동(damped oscillation), \alpha > 0이면 증폭 진동(growing oscillation), \alpha = 0이면 등폭 진동(undamped oscillation)이다.

따라서 복소 고유값의 실수부 \alpha는 안정성을, 허수부 \beta는 진동 주파수를 결정한다.

7. 이산 동역학계에서의 복소 고유값

이산 동역학계 x_{k+1} = Ax_k에서 복소 고유값 \lambda = r e^{i\theta} (r = \lvert \lambda \rvert)에 대응하는 해는

x_k = r^k (\cos k\theta, \sin k\theta, \ldots)

형태의 성분을 갖는다. r < 1이면 원점으로 나선형 수렴, r > 1이면 나선형 발산, r = 1이면 원 위를 회전한다.

8. 복소 고유값의 발생 판별

8.1 판별식을 이용한 방법

2 \times 2 행렬에서는 판별식 \Delta = \operatorname{tr}(A)^2 - 4\det(A)의 부호로 즉시 판별한다.

일반적인 n \times n 행렬에서는 특성 다항식의 판별식(discriminant)이 음수인지를 확인하나, n \geq 5인 경우 일반적인 공식이 존재하지 않으므로 수치적 방법에 의존한다.

8.2 실수 고유값만을 보장하는 충분조건

다음 조건 중 하나를 만족하면 모든 고유값이 실수임이 보장된다:

9. 수치 예시

9.1 예시 1: 회전 행렬

A = \begin{pmatrix} \cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{pmatrix}, \quad \theta = \frac{\pi}{4}

\operatorname{tr}(A) = 2\cos\theta = \sqrt{2}, \det(A) = 1이다.

\Delta = 2 - 4 = -2 < 0이므로 복소 고유값을 갖는다.

\lambda = \cos\theta \pm i\sin\theta = e^{\pm i\pi/4} = \frac{\sqrt{2}}{2} \pm i\frac{\sqrt{2}}{2}

이 행렬은 \pi/4 라디안(45°)의 회전을 수행하며, 고유값의 절댓값은 \lvert \lambda \rvert = 1이고 편각은 \pm \pi/4이다. 스케일링 없는 순수 회전이다.

9.2 예시 2: 감쇠 진동

A = \begin{pmatrix} -0.1 & 2 \\ -2 & -0.1 \end{pmatrix}

\operatorname{tr}(A) = -0.2, \det(A) = 0.01 + 4 = 4.01이다.

\Delta = 0.04 - 16.04 = -16 < 0이므로 복소 고유값을 갖는다.

\lambda = -0.1 \pm 2i이다. \lvert \lambda \rvert = \sqrt{0.01 + 4} \approx 2.0025, \alpha = -0.1 < 0이므로 연속 동역학계에서 감쇠 진동에 해당한다.

9.3 예시 3: 3 \times 3 행렬

A = \begin{pmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 3 \end{pmatrix}

p_A(\lambda) = -(\lambda^3 - 3\lambda^2 + \lambda - 3) = -(\lambda - 3)(\lambda^2 + 1)이다.

\lambda_1 = 3 (실수), \lambda_{2,3} = \pm i (순허수 켤레 쌍)이다. 좌상단 2 \times 2 블록은 반대칭 행렬이므로 순허수 고유값을 생성하고, (3, 3) 성분은 독립적인 실수 고유값이다.

10. 딥러닝에서의 복소 고유값

순환 신경망의 야코비안. 순환 신경망(RNN)의 상태 전이에 관여하는 야코비안 행렬은 일반적으로 비대칭이며, 복소 고유값을 가질 수 있다. 복소 고유값의 실수부는 그래디언트의 폭발/소실과, 허수부는 은닉 상태의 진동적 거동과 관련된다.

동적 시스템으로서의 신경망. 잔차 네트워크(ResNet)를 연속 동역학계 \dot{x} = f(x)의 이산화로 해석하는 신경 ODE(Neural ODE) 관점에서, 야코비안 \frac{\partial f}{\partial x}의 복소 고유값은 특징 공간(feature space)에서의 나선형 궤적을 유도하며, 이는 복잡한 비선형 변환의 표현 능력과 관련된다.