29.20 선형 변환의 역변환(Inverse Transformation)과 역행렬의 존재 조건

1. 역변환의 정의

$T : V \to W$ 가 선형 변환일 때, 역변환(inverse transformation) $T^{-1} : W \to V$ 란 다음을 만족하는 함수이다.

$T^{-1} \circ T = \text{id}_V, \quad T \circ T^{-1} = \text{id}_W$

여기서 $\text{id}_V$ 와 $\text{id}_W$ 는 각각 $V$ 와 $W$ 위의 항등 변환이다. 역변환이 존재하면 $T$ 를 가역(invertible) 또는 **동형 사상(isomorphism)**이라 한다.

2. 역변환의 존재를 위한 필요충분조건

2.1 전단사 조건

정리. 선형 변환 $T : V \to W$ 가 가역일 필요충분조건은 $T$ 가 전단사(bijective), 즉 단사(injective)이고 전사(surjective)인 것이다.

증명.

( $\Rightarrow$ ) $T$ 가 가역이면 역함수 $T^{-1}$ 이 존재한다.

단사성: $T(x_1) = T(x_2)$ 이면 양변에 $T^{-1}$ 을 적용하여 $x_1 = T^{-1}(T(x_1)) = T^{-1}(T(x_2)) = x_2$ .
전사성: 임의의 $w \in W$ 에 대하여 $v = T^{-1}(w)$ 로 두면 $T(v) = T(T^{-1}(w)) = w$ .

( $\Leftarrow$ ) $T$ 가 전단사이면 각 $w \in W$ 에 대하여 $T(v) = w$ 를 만족하는 $v \in V$ 가 유일하게 존재한다. $T^{-1}(w) = v$ 로 정의하면 이것이 역함수이다. $\blacksquare$

2.2 핵과 상에 의한 판별

선형 변환의 전단사성은 핵과 상을 통해 판별할 수 있다.

단사 $\Leftrightarrow$ $\ker(T) = \{0\}$ : $T$ 가 단사일 필요충분조건은 영 공간이 자명한 것이다.
전사 $\Leftrightarrow$ $\text{Im}(T) = W$ : $T$ 가 전사일 필요충분조건은 상이 전체 공역과 같은 것이다.

따라서 $T$ 가 가역일 필요충분조건은 $\ker(T) = \{0\}$ 이고 $\text{Im}(T) = W$ 인 것이다.

2.3 동일 차원에서의 단순화

$\dim(V) = \dim(W) = n$ 인 유한 차원의 경우, 차원 정리(rank-nullity theorem)에 의하여

$\dim(\ker(T)) + \dim(\text{Im}(T)) = n$

이므로 단사성과 전사성이 동치가 된다.

정리. $\dim(V) = \dim(W) = n$ 일 때, 다음은 모두 동치이다.

(i) $T$ 는 가역이다.
(ii) $T$ 는 단사이다.
(iii) $T$ 는 전사이다.
(iv) $\ker(T) = \{0\}$
(v) $\text{Im}(T) = W$
(vi) $\text{rank}(T) = n$

3. 역변환의 선형성

정리. $T : V \to W$ 가 가역 선형 변환이면, 역변환 $T^{-1} : W \to V$ 도 선형 변환이다.

증명. 임의의 $w_1, w_2 \in W$ 와 $\alpha \in \mathbb{F}$ 에 대하여, $T^{-1}(w_1) = v_1$ , $T^{-1}(w_2) = v_2$ 로 두면 $T(v_1) = w_1$ , $T(v_2) = w_2$ 이다.

가법성:

$T(v_1 + v_2) = T(v_1) + T(v_2) = w_1 + w_2$

이므로 $T^{-1}(w_1 + w_2) = v_1 + v_2 = T^{-1}(w_1) + T^{-1}(w_2)$ .

동차성:

$T(\alpha v_1) = \alpha T(v_1) = \alpha w_1$

이므로 $T^{-1}(\alpha w_1) = \alpha v_1 = \alpha T^{-1}(w_1)$ . $\blacksquare$

4. 역행렬의 정의와 존재 조건

4.1 역행렬의 정의

$n \times n$ 행렬 $A$ 의 역행렬(inverse matrix) $A^{-1}$ 은 다음을 만족하는 $n \times n$ 행렬이다.

$A^{-1}A = I_n, \quad AA^{-1} = I_n$

역행렬이 존재하면 $A$ 를 가역 행렬(invertible matrix) 또는 **정칙 행렬(nonsingular matrix)**이라 한다.

4.2 역행렬 존재의 동치 조건

$n \times n$ 행렬 $A$ 에 대하여 다음은 모두 동치이다.

번호	조건
(i)	$A$ 는 가역이다
(ii)	$\det(A) \neq 0$
(iii)	$\text{rank}(A) = n$
(iv)	$A$ 의 열벡터들이 일차독립이다
(v)	$A$ 의 행벡터들이 일차독립이다
(vi)	$Ax = 0$ 의 해가 $x = 0$ 뿐이다 (즉, $\ker(A) = \{0\}$ )
(vii)	임의의 $b \in \mathbb{R}^n$ 에 대하여 $Ax = b$ 가 유일한 해를 갖는다
(viii)	$A$ 의 기약 행 사다리꼴(reduced row echelon form)이 $I_n$ 이다
(ix)	$A$ 의 모든 고유값이 $0$ 이 아니다
(x)	$A$ 는 유한 개의 기본 행렬(elementary matrix)의 곱으로 표현된다

4.3 핵심 동치 관계의 증명

(i) $\Leftrightarrow$ (ii): $A$ 가 가역이면 $\det(A^{-1}A) = \det(I_n) = 1$ 이므로 $\det(A^{-1})\det(A) = 1$ , 따라서 $\det(A) \neq 0$ 이다. 역으로 $\det(A) \neq 0$ 이면, 수반 행렬(adjugate matrix) $\text{adj}(A)$ 에 대하여

$A^{-1} = \frac{1}{\det(A)} \text{adj}(A)$

가 역행렬을 명시적으로 정의한다.

(i) $\Leftrightarrow$ (vi): $A$ 가 가역이고 $Ax = 0$ 이면 $x = A^{-1}(Ax) = A^{-1}0 = 0$ 이다. 역으로 $\ker(A) = \{0\}$ 이면 $\text{rank}(A) = n$ 이므로 $A$ 에 의한 선형 변환이 전단사이고, 따라서 가역이다.

5. 역행렬의 계산 방법

5.1 방법 1: 수반 행렬에 의한 공식

$A^{-1} = \frac{1}{\det(A)} \text{adj}(A)$

여기서 $\text{adj}(A)$ 의 $(i,j)$ 성분은 $A$ 의 $(j,i)$ 여인수(cofactor) $C_{ji}$ 이다. 이 공식은 이론적으로 명확하나, 계산 복잡도가 $O(n!)$ 수준이므로 $n$ 이 큰 경우 실용적이지 않다.

5.2 방법 2: 가우스-조르단 소거법

첨가 행렬 $(A \mid I_n)$ 에 행 축소를 적용하여

$(A \mid I_n) \xrightarrow{\text{행 축소}} (I_n \mid A^{-1})$

를 얻는다. 좌측이 $I_n$ 으로 환원되면 $A$ 는 가역이고 우측이 $A^{-1}$ 이다. 좌측이 $I_n$ 으로 환원되지 않으면 $A$ 는 비가역(singular)이다. 계산 복잡도는 $O(n^3)$ 이다.

5.3 방법 3: $2 \times 2$ 행렬의 역행렬 공식

$A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$ 이고 $\det(A) = ad - bc \neq 0$ 이면

$A^{-1} = \frac{1}{ad - bc}\begin{pmatrix} d & -b \\ -c & a \end{pmatrix}$

6. 역행렬의 성질

가역 행렬 $A$ , $B$ 에 대하여 다음의 성질이 성립한다.

(1) $(A^{-1})^{-1} = A$

(2) $(AB)^{-1} = B^{-1}A^{-1}$ (곱의 역행렬은 각 역행렬의 역순 곱)

증명: $(B^{-1}A^{-1})(AB) = B^{-1}(A^{-1}A)B = B^{-1}IB = B^{-1}B = I$ . $\blacksquare$

(3) $(A^T)^{-1} = (A^{-1})^T$

증명: $A^T(A^{-1})^T = (A^{-1}A)^T = I^T = I$ . $\blacksquare$

(4) $(\alpha A)^{-1} = \frac{1}{\alpha} A^{-1}$ ( $\alpha \neq 0$ )

(5) $\det(A^{-1}) = \frac{1}{\det(A)}$

7. 선형 변환의 가역성과 역행렬의 대응

선형 변환 $T : \mathbb{R}^n \to \mathbb{R}^n$ 의 행렬 표현이 $A$ 일 때, $T$ 가 가역일 필요충분조건은 $A$ 가 가역인 것이다. 이 경우 역변환 $T^{-1}$ 의 행렬 표현은 $A^{-1}$ 이다.

$[T^{-1}] = [T]^{-1} = A^{-1}$

이 대응은 합성과 행렬 곱의 대응으로부터 즉시 도출된다. $T^{-1} \circ T = \text{id}$ 이면 $[T^{-1}][T] = I$ 이므로 $[T^{-1}] = [T]^{-1}$ 이다.

8. 비정방 행렬의 경우

$T : \mathbb{R}^n \to \mathbb{R}^m$ ( $m \neq n$ )에 대응하는 $m \times n$ 행렬 $A$ 는 정방 행렬이 아니므로 (양측) 역행렬이 존재하지 않는다. 그러나 편측 역행렬(one-sided inverse)이 존재할 수 있다.

좌역행렬(left inverse): $\text{rank}(A) = n$ ( $m \geq n$ , 단사)이면 $A^L A = I_n$ 을 만족하는 $n \times m$ 행렬 $A^L$ 이 존재한다. 구체적으로

$A^L = (A^T A)^{-1} A^T$

이며, 이는 $A^T A$ 가 가역일 때(즉, $A$ 의 열이 일차독립일 때) 정의된다.

우역행렬(right inverse): $\text{rank}(A) = m$ ( $n \geq m$ , 전사)이면 $A A^R = I_m$ 을 만족하는 $n \times m$ 행렬 $A^R$ 이 존재한다. 구체적으로

$A^R = A^T(AA^T)^{-1}$

이다.

9. 역변환의 기하학적 해석

역변환 $T^{-1}$ 는 $T$ 에 의한 변형을 정확히 되돌리는 변환이다. 기하학적으로:

$T$ 가 각도 $\theta$ 의 회전이면 $T^{-1}$ 은 각도 $-\theta$ 의 회전이다.
$T$ 가 인수 $k$ 의 스케일링이면 $T^{-1}$ 은 인수 $1/k$ 의 스케일링이다.
$T$ 가 특정 축에 대한 반사이면 $T^{-1} = T$ 이다(자기 역원, involution).

역변환이 존재하지 않는 경우, 즉 $T$ 가 비가역인 경우는 정보의 비가역적 소실이 발생한 것이다. $\ker(T) \neq \{0\}$ 이면 서로 다른 입력이 동일한 출력으로 사상되므로, 출력으로부터 원래의 입력을 유일하게 복원할 수 없다.