6.21 행렬식의 성질과 연산 규칙

1. 행렬식 성질의 체계적 정리

행렬식은 다중 선형성과 교대성을 핵심 공리로 가지는 함수이며, 그로부터 풍부한 대수적 성질이 유도된다. 이러한 성질들은 행렬식의 직접 계산을 단순화할 뿐 아니라, 선형대수학의 여러 정리를 증명하는 데 본질적 도구로 사용된다. 본 절에서는 행렬식의 주요 성질과 연산 규칙을 체계적으로 정리하고, 그 증명의 핵심 아이디어와 응용을 함께 다룬다.

2. 기본 성질

2.1 다중 선형성

성질 6.21.1. 행렬식은 각 열(또는 각 행)에 대해 선형이다.

$\det([\mathbf{a}_1, \ldots, c\mathbf{u} + d\mathbf{v}, \ldots, \mathbf{a}_n]) = c \det([\mathbf{a}_1, \ldots, \mathbf{u}, \ldots, \mathbf{a}_n]) + d \det([\mathbf{a}_1, \ldots, \mathbf{v}, \ldots, \mathbf{a}_n])$

이 성질은 행렬식의 정의 자체로부터 직접 따라 나오며, 한 번에 한 열(또는 행)에 대해서만 성립한다. 전체 행렬에 대한 선형성과는 다르며, 일반적으로 $\det(A + B) \neq \det(A) + \det(B)$ 이다.

교대성

성질 6.21.2. 두 열(또는 두 행)이 같은 행렬의 행렬식은 0이다. 동치적으로, 두 열(또는 두 행)을 교환하면 행렬식의 부호가 바뀐다.

$\det([\ldots, \mathbf{a}_i, \ldots, \mathbf{a}_j, \ldots]) = -\det([\ldots, \mathbf{a}_j, \ldots, \mathbf{a}_i, \ldots])$

2.2 영행 또는 영열의 존재

성질 6.21.3. 행렬에 영행 또는 영열이 존재하면 그 행렬식은 0이다.

증명. 다중 선형성에 의해 영행은 어떤 행의 0배로 볼 수 있으므로, 행렬식이 그 행에 대해 0이 곱해진 결과로 0이 된다. $\square$

2.3 선형 종속과 행렬식

성질 6.21.4. 행렬의 열(또는 행)들이 선형 종속이면 행렬식은 0이다.

증명. 한 열이 다른 열들의 선형 결합이라면, 다중 선형성과 교대성에 의해 그 결합의 각 항이 두 같은 열을 포함하게 되어 모두 0이 된다. $\square$

이 성질의 역도 성립한다: 행렬식이 0이면 열들은 선형 종속이다. 따라서 행렬식이 0인 것과 행렬이 특이(가역이 아님)한 것은 동치이다.

2.4 항등 행렬과 영행렬

$\det(I_n) = 1, \quad \det(O_n) = 0$

행 연산과 행렬식

가우스 소거법의 세 가지 기본 행 연산 각각에 대한 행렬식의 변화는 다음과 같이 정리된다.

행 연산	행렬식 변화
두 행 교환	부호 반전: $\det(A') = -\det(A)$
한 행에 $k$ 곱함	$k$ 배: $\det(A') = k \det(A)$
한 행에 다른 행의 배수 더함	불변: $\det(A') = \det(A)$

세 번째 성질이 특히 중요하다. 이 성질을 이용하면 행렬을 상삼각 행렬로 환원한 뒤 대각 성분의 곱으로 행렬식을 계산할 수 있으며, 이는 가우스 소거법에 기반한 $O(n^3)$ 알고리즘의 기초가 된다.

가우스 소거법에 의한 행렬식 계산

행렬 $A$ 를 가우스 소거법으로 상삼각 행렬 $U$ 로 환원하는 과정에서, 행 교환의 횟수를 $s$ 라 하면

$\det(A) = (-1)^s \prod_{i=1}^{n} u_{ii}$

이다. 이 방법은 큰 행렬의 행렬식을 효율적으로 계산하는 표준 절차이다.

3. 곱셈 성질

3.1 곱의 행렬식

정리 6.21.1. 동일 크기의 정방 행렬 $A, B$ 에 대하여

$\det(AB) = \det(A) \cdot \det(B)$

이 성질은 행렬식이 부피 변화율이라는 기하학적 의미로부터 직관적으로 이해된다. 두 변환을 합성하면 부피 변화율은 각 변환의 부피 변화율의 곱이다.

증명은 $A$ 가 가역인 경우와 특이인 경우를 나누어 진행한다. $A$ 가 특이이면 $AB$ 도 특이이므로 양변이 모두 0이며, $A$ 가 가역이면 행 환원과 곱셈 성질을 이용한다.

거듭제곱

$\det(A^k) = (\det(A))^k$

이는 곱의 성질을 반복 적용한 결과이다.

3.2 역행렬의 행렬식

가역 행렬 $A$ 에 대하여 $\det(A) \det(A^{-1}) = \det(I) = 1$ 이므로

$\det(A^{-1}) = \frac{1}{\det(A)}$

전치와 행렬식

성질 6.21.5.

$\det(A^\top) = \det(A)$

이 성질로 인해 행렬식의 모든 행 관련 성질은 그대로 열에도 적용된다. 즉, 여인수 전개를 행이나 열 어느 쪽에 대해 수행해도 동일한 결과를 얻으며, 가우스 소거법을 행 환원이나 열 환원 어느 쪽으로 진행해도 같은 행렬식을 얻는다.

4. 스칼라 곱과 행렬식

$n \times n$ 행렬 $A$ 와 스칼라 $k$ 에 대하여

$\det(kA) = k^n \det(A)$

이는 각 행이 $k$ 배가 되므로 다중 선형성에 의해 $k$ 가 $n$ 번 곱해지는 것을 반영한다. 기하학적으로는 $n$ 차원 부피가 각 축 방향으로 $k$ 배 확대되어 전체적으로 $k^n$ 배가 됨을 의미한다.

특수 행렬의 행렬식

대각 행렬

$\det(\text{diag}(d_1, d_2, \ldots, d_n)) = \prod_{i=1}^{n} d_i$

4.1 삼각 행렬

상삼각 또는 하삼각 행렬의 행렬식은 대각 성분의 곱과 같다.

$\det(L) = \prod_{i=1}^{n} l_{ii}$

블록 삼각 행렬

블록 삼각 형태의 행렬에 대해

$\det \begin{bmatrix} A & B \\ 0 & D \end{bmatrix} = \det(A) \cdot \det(D)$

이 성립한다. 이는 슈어 보수 분해와 결합되어 일반 블록 행렬의 행렬식 계산에 사용된다.

4.2 일반 2 $\times$ 2 블록 행렬

$A$ 가 가역이라 하면

$\det \begin{bmatrix} A & B \\ C & D \end{bmatrix} = \det(A) \cdot \det(D - C A^{-1} B)$

$D$ 가 가역이라 하면

$\det \begin{bmatrix} A & B \\ C & D \end{bmatrix} = \det(D) \cdot \det(A - B D^{-1} C)$

이 두 표현은 슈어 보수의 정의와 직접 연결된다.

4.3 직교 행렬

직교 행렬 $Q$ 에 대하여 $Q^\top Q = I$ 이므로 $\det(Q)^2 = 1$ , 즉 $\det(Q) = \pm 1$ 이다. 진정 직교 행렬(회전 행렬)은 $\det(Q) = +1$ 을 만족한다.

4.4 반대칭 행렬

홀수 차수의 반대칭 행렬의 행렬식은 0이다. $A^\top = -A$ 로부터 $\det(A) = \det(A^\top) = \det(-A) = (-1)^n \det(A)$ 이며, $n$ 이 홀수이면 $\det(A) = -\det(A)$ 로부터 $\det(A) = 0$ 이다.

짝수 차수의 반대칭 행렬의 행렬식은 일반적으로 0이 아니며, 파피안(Pfaffian)의 제곱으로 표현된다.

5. 행렬식과 고유값

정리 6.21.2. 정방 행렬 $A$ 의 행렬식은 (대수적 중복도를 고려한) 모든 고유값의 곱과 같다.

$\det(A) = \prod_{i=1}^{n} \lambda_i$

이는 특성 다항식 $p(\lambda) = \det(\lambda I - A) = \prod_i (\lambda - \lambda_i)$ 에 $\lambda = 0$ 을 대입하면 $p(0) = (-1)^n \prod_i \lambda_i$ 이고 $p(0) = \det(-A) = (-1)^n \det(A)$ 이므로 두 표현이 일치한다.

마찬가지로 대각합과 고유값의 관계는 다음과 같다.

$\text{tr}(A) = \sum_{i=1}^{n} \lambda_i$

6. 행렬식의 미분: 자코비 공식

매개변수 $t$ 에 의존하는 가역 행렬 $A(t)$ 에 대하여

$\frac{d}{dt} \det(A(t)) = \det(A(t)) \cdot \text{tr}\left( A(t)^{-1} \frac{dA(t)}{dt} \right)$

이 성립한다. 이는 행렬 지수 함수, 동역학 시스템, 흐름의 부피 변화율 분석에 활용된다.

특히 $A(0) = I$ 인 경우 $\frac{d}{dt} \det(A(t)) \big|_{t=0} = \text{tr}\left( \frac{dA(t)}{dt} \big|_{t=0} \right)$ 로 단순화된다.

실베스터 항등식과 행렬식 부등식

카우치-비네 공식

$m \times n$ 행렬 $A$ 와 $n \times m$ 행렬 $B$ ( $m \leq n$ )에 대하여

$\det(AB) = \sum_{S} \det(A_S) \det(B_S)$

여기서 합은 $\{1, \ldots, n\}$ 의 모든 $m$ 원소 부분집합 $S$ 에 대해 취하고, $A_S$ 는 $A$ 의 $S$ 에 해당하는 열로 이루어진 $m \times m$ 부분 행렬, $B_S$ 는 $B$ 의 $S$ 에 해당하는 행으로 이루어진 $m \times m$ 부분 행렬이다.

이 공식은 가조작성 지표 $\det(JJ^\top)$ 의 분해, 그래스만 다양체에서의 좌표 표현, 통계학의 우도 함수 분석 등에 사용된다.

6.1 아다마르 부등식

양정치 행렬 $A$ 에 대하여

$\det(A) \leq \prod_{i=1}^{n} a_{ii}$

이며, 등호는 $A$ 가 대각 행렬일 때에만 성립한다. 일반적인 행렬에 대해서는

$|\det(A)| \leq \prod_{j=1}^{n} \|\mathbf{a}_j\|$

여기서 $\mathbf{a}_j$ 는 $A$ 의 $j$ 번째 열이다.

7. 로봇공학에서의 응용

7.1 자코비안 행렬식의 부호 변화와 특이점 분류

로봇 매니퓰레이터의 자코비안 행렬식 $\det(J(\mathbf{q}))$ 의 부호 변화는 로봇이 특이 형상을 통과함을 의미한다. 작업 공간을 부호 영역으로 분할하면 각 영역 내에서 일관된 분기(branch)의 역기구학 해를 정의할 수 있다.

7.2 운동 방정식의 가역성 보장

라그랑주 동역학의 운동 방정식 $M(\mathbf{q}) \ddot{\mathbf{q}} = \boldsymbol{\tau} - \mathbf{h}(\mathbf{q}, \dot{\mathbf{q}})$ 에서 관성 행렬 $M$ 이 양정치이므로 $\det(M) > 0$ 이며, 이는 가속도 $\ddot{\mathbf{q}}$ 가 항상 유일하게 결정됨을 보장한다. 동역학의 해석적 가역성은 시뮬레이션과 모델 기반 제어의 핵심 전제이다.

7.3 회전 행렬의 정규화 검증

수치 계산 과정에서 누적 오차로 인해 회전 행렬이 더 이상 직교 또는 행렬식 1을 만족하지 않을 수 있다. 이 경우 $\det(R)$ 의 값을 모니터링하여 정규화 시점을 결정하며, $\det(R)$ 이 1에서 충분히 벗어나면 그람-슈미트 직교화 또는 SVD 기반 재정규화를 수행한다.

7.4 카메라 자세 분해

본질 행렬 $E = [\mathbf{t}]_\times R$ 로부터 카메라 자세를 복원할 때, 분해 결과로 얻은 회전 행렬 후보 중 $\det = +1$ 을 만족하는 것을 선택해야 한다. $\det = -1$ 인 경우는 회전이 아니라 반사를 포함하므로 물리적으로 유효하지 않다.

7.5 자코비 공식의 동역학 응용

리아푸노프 안정성 해석에서 시스템의 흐름이 보존하는 부피의 시간 변화율은 자코비 공식으로 분석된다. 보존계의 경우 흐름이 부피를 보존하므로 발산 함수가 0이 되며, 이는 행렬식의 시간 미분이 0임과 동치이다.

7.6 뷰 변환의 적합성 검증

다시점 기하학에서 추정된 호모그래피 또는 카메라 행렬의 유효성은 행렬식의 부호와 크기를 통해 검증된다. 음의 행렬식이나 0에 가까운 행렬식은 가설의 기각이나 재추정을 의미한다.

참고문헌

Strang, G. (2023). Introduction to Linear Algebra (6th ed.). Wellesley-Cambridge Press.
Axler, S. (2024). Linear Algebra Done Right (4th ed.). Springer.
Horn, R. A., & Johnson, C. R. (2012). Matrix Analysis (2nd ed.). Cambridge University Press.
Hartley, R., & Zisserman, A. (2004). Multiple View Geometry in Computer Vision (2nd ed.). Cambridge University Press.

Version: 1.0