6.19 행렬식의 정의와 기하학적 의미

1. 행렬식의 개념

행렬식(determinant)은 정방 행렬에 대해 정의되는 스칼라 값으로, 행렬이 표현하는 선형 변환의 부피 변화율, 가역성, 방향 보존 여부를 동시에 함축하는 강력한 불변량이다. 행렬식은 단순한 계산 절차로 정의될 수도 있지만, 그 본질을 이해하기 위해서는 다중 선형 형식과 부피의 개념으로부터 출발하는 것이 자연스럽다. 본 절에서는 행렬식의 형식적 정의, 기하학적 해석, 그리고 로봇공학에서의 응용을 체계적으로 정리한다.

2. 행렬식의 공리적 정의

정의 6.19.1 (행렬식, 공리적 형태). $n \times n$ 행렬에 대한 함수 $\det: \mathbb{R}^{n \times n} \to \mathbb{R}$ 이 다음의 세 가지 공리를 만족할 때, 그것을 행렬식이라 한다.

(D1) 다중 선형성 (열에 대한 선형성): 각 열에 대해 선형이다. 즉, $A$ 의 $j$ 번째 열을 $\mathbf{a}_j = c\mathbf{u} + d\mathbf{v}$ 로 분해할 때

$\det([\mathbf{a}_1, \ldots, c\mathbf{u} + d\mathbf{v}, \ldots, \mathbf{a}_n]) = c \cdot \det([\mathbf{a}_1, \ldots, \mathbf{u}, \ldots, \mathbf{a}_n]) + d \cdot \det([\mathbf{a}_1, \ldots, \mathbf{v}, \ldots, \mathbf{a}_n])$

(D2) 교대성 (반대칭성): 두 열이 같으면 행렬식은 0이다. 동치적으로, 두 열을 교환하면 행렬식의 부호가 바뀐다.

(D3) 정규화: 항등 행렬의 행렬식은 1이다. $\det(I_n) = 1$ .

정리 6.19.1. 위 세 공리를 만족하는 함수 $\det$ 는 유일하게 존재한다.

이 공리적 정의는 행렬식의 기하학적 의미를 직접적으로 드러낸다. 다중 선형성은 부피가 각 변 벡터에 대해 선형으로 변함을 의미하고, 교대성은 부피가 두 같은 변을 가질 때 0이 됨을 의미하며, 정규화는 단위 정육면체의 부피가 1임을 명시한다.

행렬식의 명시적 정의

라이프니츠 공식

$n \times n$ 행렬 $A = [a_{ij}]$ 의 행렬식은 다음과 같이 명시적으로 표현된다.

$\det(A) = \sum_{\sigma \in S_n} \text{sgn}(\sigma) \prod_{i=1}^{n} a_{i, \sigma(i)}$

여기서 $S_n$ 은 $\{1, 2, \ldots, n\}$ 의 모든 순열의 집합이고, $\text{sgn}(\sigma)$ 는 순열 $\sigma$ 의 부호(짝치환은 $+1$ , 홀치환은 $-1$ )이다. 이 합은 $n!$ 개의 항을 포함하므로, 직접 계산은 $n$ 이 큰 경우 비현실적이다.

2.1 $\times$ 2 및 3 $\times$ 3 행렬식

2 $\times$ 2 행렬의 경우:

$\det \begin{bmatrix} a & b \\ c & d \end{bmatrix} = ad - bc$

3 $\times$ 3 행렬의 경우 사뤼스 규칙(rule of Sarrus)으로 표현된다.

$\det \begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{bmatrix} = a_{11}(a_{22}a_{33} - a_{23}a_{32}) - a_{12}(a_{21}a_{33} - a_{23}a_{31}) + a_{13}(a_{21}a_{32} - a_{22}a_{31})$

3. 행렬식의 기하학적 의미

3.1 평행육면체의 부호 부피

$n$ 개의 벡터 $\mathbf{a}_1, \mathbf{a}_2, \ldots, \mathbf{a}_n \in \mathbb{R}^n$ 이 만드는 $n$ 차원 평행육면체(parallelepiped)의 부피는 이 벡터들을 열로 가지는 행렬의 행렬식의 절댓값과 같다.

$\text{Vol}(P) = |\det([\mathbf{a}_1, \mathbf{a}_2, \ldots, \mathbf{a}_n])|$

행렬식의 부호는 벡터들의 방향(orientation)을 나타낸다. $\det > 0$ 인 경우 벡터들은 표준 기저와 같은 방향을, $\det < 0$ 인 경우 반대 방향(거울상)을 이룬다.

2차원에서의 평행사변형 면적

2차원에서 두 벡터 $\mathbf{a}_1 = (a, c)^\top$ 과 $\mathbf{a}_2 = (b, d)^\top$ 이 만드는 평행사변형의 부호 면적은

$\det \begin{bmatrix} a & b \\ c & d \end{bmatrix} = ad - bc$

이다. 이 값은 두 벡터의 외적의 $z$ 성분과 같다.

3.2 차원에서의 평행육면체 부피

3차원에서 세 벡터 $\mathbf{a}, \mathbf{b}, \mathbf{c}$ 가 만드는 평행육면체의 부호 부피는 삼중적(scalar triple product)과 같다.

$\det([\mathbf{a}, \mathbf{b}, \mathbf{c}]) = \mathbf{a} \cdot (\mathbf{b} \times \mathbf{c})$

이는 행렬식의 기하학적 의미를 가장 직관적으로 보여 주는 표현이다.

행렬식과 선형 변환

선형 변환 $T_A: \mathbb{R}^n \to \mathbb{R}^n$ 이 행렬 $A$ 로 표현될 때, $A$ 의 행렬식은 변환에 의한 부피 확대율을 나타낸다.

$\text{Vol}(T_A(S)) = |\det(A)| \cdot \text{Vol}(S)$

여기서 $S$ 는 임의의 가측 영역이다. 이 등식은 다중 적분의 변수 변환 공식과 야코비안 행렬식의 의미를 직접 설명한다.

행렬식의 부호는 변환이 방향을 보존하는지 뒤집는지를 나타낸다.

$\det(A) > 0$ : 방향 보존
$\det(A) < 0$ : 방향 반전 (반사 포함)
$\det(A) = 0$ : 변환이 부피를 0으로 압축 (특이 변환)

4. 행렬식의 기본 성질

4.1 가역성과 행렬식

정리 6.19.2. 정방 행렬 $A$ 가 가역일 필요 충분 조건은 $\det(A) \neq 0$ 이다.

이는 행렬식이 0인 변환은 어떤 영역을 0 부피로 압축하므로, 그 변환을 되돌리는 일대일 대응이 존재할 수 없음을 의미한다.

4.2 행렬식과 기본 행 연산

행렬식은 가우스 소거법의 기본 행 연산에 대해 다음과 같이 변화한다.

두 행의 교환: 행렬식의 부호가 바뀐다.
한 행에 스칼라 $k$ 를 곱함: 행렬식이 $k$ 배가 된다.
한 행에 다른 행의 배수를 더함: 행렬식은 변하지 않는다.

이 성질을 이용하면 $A$ 를 상삼각 행렬로 변환한 뒤 대각 성분의 곱으로 행렬식을 계산할 수 있으며, 그 복잡도는 $O(n^3)$ 이다.

4.3 곱셈 성질

정리 6.19.3. 동일 크기의 정방 행렬 $A, B$ 에 대하여

$\det(AB) = \det(A) \cdot \det(B)$

이 성질은 두 변환의 합성에 의한 부피 변화율이 각 변환의 부피 변화율의 곱이라는 기하학적 사실의 대수적 표현이다.

전치 불변성

$\det(A^\top) = \det(A)$

이로부터 행렬식의 모든 행 관련 성질은 그대로 열에도 적용된다.

4.4 역행렬과의 관계

$A$ 가 가역일 때

$\det(A^{-1}) = \frac{1}{\det(A)}$

스칼라 곱

$\det(kA) = k^n \det(A)$

이는 $n$ 차원 부피가 각 차원에 대해 $k$ 배 확대될 때 전체 부피가 $k^n$ 배 변함을 반영한다.

4.5 삼각 행렬의 행렬식

상삼각 또는 하삼각 행렬의 행렬식은 대각 성분의 곱과 같다.

$\det \begin{bmatrix} l_{11} & & & \\ * & l_{22} & & \\ \vdots & \vdots & \ddots & \\ * & * & \cdots & l_{nn} \end{bmatrix} = \prod_{i=1}^{n} l_{ii}$

행렬식과 고유값

정방 행렬 $A$ 의 행렬식은 고유값의 곱과 같다.

$\det(A) = \prod_{i=1}^{n} \lambda_i$

여기서 $\lambda_i$ 는 $A$ 의 (대수적 중복도를 고려한) 모든 고유값이다. 이는 행렬을 대각화 가능한 경우뿐 아니라 일반적인 경우에도 성립한다.

5. 행렬식의 미분

행렬식 함수의 미분에 관한 다음의 자코비 공식(Jacobi’s formula)은 동역학과 안정성 해석에 자주 활용된다.

$\frac{d}{dt} \det(A(t)) = \det(A(t)) \cdot \text{tr}\left( A(t)^{-1} \frac{dA(t)}{dt} \right)$

로봇공학에서의 응용

자코비안 행렬식과 특이점

매니퓰레이터의 자코비안 $J(\mathbf{q})$ 가 정방 행렬일 때 (즉, 작업 공간 자유도와 관절 자유도가 같을 때), 자코비안 행렬식 $\det(J(\mathbf{q}))$ 가 0이 되는 형상을 운동학적 특이점(kinematic singularity)이라 한다. 특이점에서는 말단 장치가 특정 방향으로 운동할 수 없으며, 자코비안의 역행렬이 존재하지 않으므로 분해 속도 제어가 실패한다.

여유 자유도가 없는 6자유도 로봇의 경우 $\det(J)$ 의 부호 변화는 로봇이 특이 형상을 통과함을 의미하며, 이를 통해 작업 공간을 여러 포즈 영역으로 분할할 수 있다.

가조작성 지표

자코비안이 정방이 아닌 일반 매니퓰레이터의 가조작성(manipulability) 지표는 다음과 같이 정의된다.

$w(\mathbf{q}) = \sqrt{\det(J(\mathbf{q}) J(\mathbf{q})^\top)}$

이 값은 작업 공간에서 말단 장치가 단위 관절 속도로 도달 가능한 속도 영역의 부피를 측정한다. $w = 0$ 은 특이점을 의미한다.

5.1 회전 행렬의 행렬식

회전 행렬 $R \in SO(3)$ 은 직교 행렬이며 $\det(R) = +1$ 을 만족한다. 일반적인 직교 행렬은 $\det = \pm 1$ 이지만, 진정한 회전(reflection을 포함하지 않음)은 양의 행렬식을 가진다. 이 조건은 회전 행렬을 단순한 직교 행렬과 구별하는 핵심 성질이다.

5.2 동차 변환 행렬의 행렬식

3차원 강체의 동차 변환 행렬

$T = \begin{bmatrix} R & \mathbf{p} \\ \mathbf{0}^\top & 1 \end{bmatrix}$

의 행렬식은 블록 삼각 구조에 의해 $\det(T) = \det(R) \cdot 1 = 1$ 이다. 이는 강체 변환이 부피와 방향을 모두 보존함을 보여 준다.

관성 행렬의 행렬식

로봇의 관성 행렬 $M(\mathbf{q})$ 는 양정치이므로 $\det(M(\mathbf{q})) > 0$ 이다. 이 사실은 동역학 방정식 $M(\mathbf{q}) \ddot{\mathbf{q}} = \boldsymbol{\tau} - \mathbf{h}(\mathbf{q}, \dot{\mathbf{q}})$ 가 $\ddot{\mathbf{q}}$ 에 대해 항상 유일하게 풀린다는 결과를 보장한다.

적분의 변수 변환

다중 적분에서 좌표 변환의 자코비안 행렬식은 부피 요소의 변환을 나타낸다.

$\int_{T(D)} f(\mathbf{x}) \, d\mathbf{x} = \int_D f(T(\mathbf{u})) \, |\det(J_T(\mathbf{u}))| \, d\mathbf{u}$

이 공식은 작업 공간 적분, 관성 모멘트 계산, 가시 영역 측정 등에 사용된다.

5.3 강체의 운동량과 안정성

리아푸노프 안정성 해석에서 후보 함수의 헤세 행렬의 행렬식 부호는 안정점의 종류(안정 평형, 불안정 평형, 안장점)를 판정하는 데 사용된다.

참고문헌

Strang, G. (2023). Introduction to Linear Algebra (6th ed.). Wellesley-Cambridge Press.
Axler, S. (2024). Linear Algebra Done Right (4th ed.). Springer.
Horn, R. A., & Johnson, C. R. (2012). Matrix Analysis (2nd ed.). Cambridge University Press.
Yoshikawa, T. (1985). Manipulability of Robotic Mechanisms. International Journal of Robotics Research, 4(2), 3-9.

Version: 1.0