29.30 수반 연산자(Adjoint Operator)의 정의와 성질

1. 수반 연산자의 정의

$V$ 와 $W$ 를 유한 차원 내적 공간이라 하고, $T : V \to W$ 를 선형 변환이라 하자. $T$ 의 수반 연산자(adjoint operator) $T^* : W \to V$ 는 다음의 조건을 만족하는 유일한 선형 변환이다.

$\langle T(x), y \rangle_W = \langle x, T^*(y) \rangle_V, \quad \forall x \in V, \; \forall y \in W$

여기서 $\langle \cdot, \cdot \rangle_V$ 와 $\langle \cdot, \cdot \rangle_W$ 는 각각 $V$ 와 $W$ 의 내적이다.

2. 수반 연산자의 존재와 유일성

정리. 유한 차원 내적 공간 사이의 선형 변환 $T : V \to W$ 에 대하여, 수반 연산자 $T^*$ 가 유일하게 존재한다.

증명. 각 $y \in W$ 를 고정하면, $\varphi_y : V \to \mathbb{F}$ 를

$\varphi_y(x) = \langle T(x), y \rangle_W$

로 정의하라. $T$ 의 선형성과 내적의 첫 번째 변수에 대한 선형성으로부터 $\varphi_y$ 는 $V$ 위의 선형 범함수이다.

리스 표현 정리에 의하여, $\varphi_y(x) = \langle x, u_y \rangle_V$ 를 만족하는 유일한 $u_y \in V$ 가 존재한다. $T^*(y) = u_y$ 로 정의하면

$\langle T(x), y \rangle_W = \varphi_y(x) = \langle x, T^*(y) \rangle_V$

$T^*$ 의 선형성은 내적의 선형성으로부터 도출된다. 유일성은 $\langle x, T^*(y) \rangle_V$ 가 모든 $x$ 에 대하여 결정되면 $T^*(y)$ 가 유일하게 결정됨으로부터 따른다. $\blacksquare$

3. 행렬 표현에서의 수반 연산자

3.1 실수 내적 공간

$V = \mathbb{R}^n$ , $W = \mathbb{R}^m$ 이고 표준 내적을 사용하는 경우, $T$ 의 행렬 표현이 $A \in M_{m \times n}(\mathbb{R})$ 이면

$\langle Ax, y \rangle = (Ax)^T y = x^T A^T y = \langle x, A^T y \rangle$

따라서 **실수 내적 공간에서 수반 연산자의 행렬 표현은 전치 행렬 $A^T$ **이다.

3.2 복소 내적 공간

$V = \mathbb{C}^n$ , $W = \mathbb{C}^m$ 이고 표준 내적 $\langle x, y \rangle = x^* y$ ( $x^* = \bar{x}^T$ 는 에르미트 전치)을 사용하는 경우

$\langle Ax, y \rangle = (Ax)^* y = x^* A^* y = \langle x, A^* y \rangle$

따라서 **복소 내적 공간에서 수반 연산자의 행렬 표현은 에르미트 전치(conjugate transpose) $A^* = \bar{A}^T$ **이다.

4. 수반 연산자의 대수적 성질

다음의 성질들이 성립한다. 모든 선형 변환과 스칼라에 대하여:

(1) $(T^*)^* = T$ (이중 수반은 자기 자신)

증명. $\langle T^*(y), x \rangle = \overline{\langle x, T^*(y) \rangle} = \overline{\langle T(x), y \rangle} = \langle y, T(x) \rangle$ 이므로 $(T^*)^* = T$ . $\blacksquare$

(2) $(S + T)^* = S^* + T^*$

(3) $(\alpha T)^* = \bar{\alpha} T^*$ (실수 체에서는 $(\alpha T)^* = \alpha T^*$ )

(4) $(ST)^* = T^* S^*$ (합성의 수반은 수반의 역순 합성)

증명. $\langle ST(x), y \rangle = \langle T(x), S^*(y) \rangle = \langle x, T^*S^*(y) \rangle$ 이므로 $(ST)^* = T^*S^*$ . $\blacksquare$

행렬의 관점에서 (4)는 $(AB)^T = B^T A^T$ 또는 $(AB)^* = B^* A^*$ 에 대응한다.

(5) $T$ 가 가역이면 $(T^{-1})^* = (T^*)^{-1}$

5. 핵과 상에 대한 관계

수반 연산자는 원래 연산자의 핵과 상 사이에 깊은 관계를 형성한다.

5.1 기본 부분 공간 정리

정리. $T : V \to W$ 가 선형 변환이면

$\ker(T^*) = (\text{Im}(T))^\perp$

$\text{Im}(T^*) = (\ker(T))^\perp$

여기서 $S^\perp = \{x \mid \langle x, s \rangle = 0, \; \forall s \in S\}$ 는 $S$ 의 직교 여공간(orthogonal complement)이다.

증명 ( $\ker(T^*) = (\text{Im}(T))^\perp$ ).

$y \in \ker(T^*)$ 이면 $T^*(y) = 0$ 이므로, 모든 $x \in V$ 에 대하여

$\langle T(x), y \rangle = \langle x, T^*(y) \rangle = \langle x, 0 \rangle = 0$

이는 $y \perp T(x)$ ( $\forall x$ ), 즉 $y \in (\text{Im}(T))^\perp$ 을 의미한다. 역방향도 동일한 논법으로 성립한다. $\blacksquare$

행렬의 관점에서 이 정리는 다음을 의미한다.

$\ker(A^T) = (\text{Col}(A))^\perp$ : $A^T$ 의 영 공간은 $A$ 의 열 공간의 직교 여공간 (좌영 공간)
$\text{Col}(A^T) = (\ker(A))^\perp$ : $A^T$ 의 열 공간(= $A$ 의 행 공간)은 $A$ 의 영 공간의 직교 여공간

이 네 가지 부분 공간( $\text{Col}(A)$ , $\ker(A)$ , $\text{Col}(A^T)$ , $\ker(A^T)$ )의 관계는 선형대수학의 **기본 정리(fundamental theorem)**를 구성한다.

6. 정규 연산자(Normal Operator)

정의. 선형 변환 $T : V \to V$ 가 **정규(normal)**하다 함은 $T$ 가 자신의 수반과 교환하는 것이다.

$T^* T = T T^*$

정규 연산자는 다음의 중요한 부류를 포함한다.

부류	조건	행렬 표현 (실수)	행렬 표현 (복소)
자기 수반(self-adjoint)	$T^* = T$	$A = A^T$ (대칭)	$A = A^*$ (에르미트)
반자기 수반(skew-adjoint)	$T^* = -T$	$A = -A^T$ (반대칭)	$A = -A^*$ (반에르미트)
직교/유니터리	$T^* T = I$	$A^T A = I$	$A^* A = I$

정리 (스펙트럼 정리). 유한 차원 내적 공간에서 $T$ 가 정규이면 $T$ 는 정규 직교 기저에 대하여 대각화 가능하다. 이는 정규 직교 고유벡터로 이루어진 기저가 존재함을 의미한다.

7. 구체적 예시

7.1 예시 1: 사영 변환의 수반

직교 사영 $P : \mathbb{R}^n \to \mathbb{R}^n$ 이 부분 공간 $W$ 로의 사영이면 $P^* = P$ 이다. 즉, 직교 사영은 자기 수반이다.

증명. $P$ 의 행렬이 대칭( $P = P^T$ )이고 $P^2 = P$ 이므로 $P^T = P$ , 즉 $P^* = P$ . $\blacksquare$

7.2 예시 2: 미분 연산자의 수반

$V = P_n(\mathbb{R})$ 위의 내적을 $\langle p, q \rangle = \int_0^1 p(t)q(t) \, dt$ 로 정의하면, 미분 연산자 $D(p) = p'$ 의 수반 $D^*$ 는 부분적분에 의해 결정된다.

$\langle Dp, q \rangle = \int_0^1 p'(t)q(t) \, dt = [p(t)q(t)]_0^1 - \int_0^1 p(t)q'(t) \, dt$

경계 조건에 따라 수반 연산자의 형태가 결정된다.

8. 수반 연산자의 이론적 의의

수반 연산자는 선형대수학에서 내적 구조와 선형 변환의 상호작용을 기술하는 핵심 개념이다. 자기 수반 연산자의 스펙트럼 정리, 특이값 분해( $A = U\Sigma V^T$ 에서 $U$ , $V$ 는 $AA^T$ , $A^TA$ 의 고유벡터), 최소제곱법( $A^TAx = A^Tb$ 에서 $A^T$ 의 등장) 등은 모두 수반 연산자의 성질에 기반한다.

딥러닝에서 역전파(backpropagation) 알고리즘은 순전파에서 사용된 가중치 행렬 $W$ 의 전치 $W^T$ 를 사용하여 기울기를 역방향으로 전파한다. 이는 수학적으로 순전파 선형 변환의 수반 연산자를 통한 기울기 전파에 해당하며, 수반 연산자의 개념이 신경망 학습의 수학적 구조에 본질적으로 내재되어 있음을 보여준다.