9.17 회전 행렬의 행렬식 조건 (\det = 1)
1. 직교 행렬의 행렬식 제약
직교 행렬 \mathbf{R}은 \mathbf{R}^T\mathbf{R} = \mathbf{I}를 만족한다. 행렬식의 곱셈 성질과 전치 불변성을 적용하면
\det(\mathbf{R}^T\mathbf{R}) = \det(\mathbf{R}^T)\det(\mathbf{R}) = \det(\mathbf{R})^2 = \det(\mathbf{I}) = 1
이므로 \det(\mathbf{R}) = \pm 1이 성립한다. 따라서 직교 행렬의 행렬식은 오직 두 값 +1 또는 -1만을 가진다.
2. 두 가지 직교 변환의 구분
\det(\mathbf{R}) = \pm 1에 따라 직교 변환은 두 범주로 분류된다.
| \det(\mathbf{R}) | 변환의 종류 | 오리엔테이션 |
|---|---|---|
| +1 | 고유 회전(proper rotation) | 보존 |
| -1 | 비고유 회전(improper rotation), 반사 포함 | 반전 |
고유 회전은 강체의 회전 운동에 대응하며, 연속적으로 항등 변환으로 연결될 수 있다. 반면 비고유 회전은 반사(reflection) 성분을 포함하며, 우수 좌표계를 좌수 좌표계로 뒤집는다. 연속적인 경로로 항등 변환에 연결될 수 없다.
3. 회전 행렬의 정의
로봇 공학과 물리학의 표준 관례에서 회전 행렬은 다음 두 조건을 모두 만족하는 실수 행렬로 정의된다.
\mathbf{R}^T\mathbf{R} = \mathbf{I} \quad \text{및} \quad \det(\mathbf{R}) = +1
이 두 조건을 합쳐 **특수 직교 조건(special orthogonality)**이라 한다. 이 조건을 만족하는 n \times n 행렬의 집합이 특수 직교군 SO(n)을 형성한다. 3차원 회전 행렬의 집합은 SO(3)이다.
4. \det = +1의 기하학적 의미
4.1 부피 보존
행렬식 \det(\mathbf{R})의 절댓값은 행렬 변환에 의한 부피 확대 비율이다. 직교성에 의해 \lvert\det(\mathbf{R})\rvert = 1이므로 부피는 보존된다. 양의 행렬식 \det(\mathbf{R}) = +1은 부피가 보존될 뿐 아니라 부호를 포함한 방향성도 보존됨을 의미한다.
4.2 오리엔테이션 보존
우수 기저 \{\hat{\mathbf{e}}_1, \hat{\mathbf{e}}_2, \hat{\mathbf{e}}_3\}은 (\hat{\mathbf{e}}_1 \times \hat{\mathbf{e}}_2) \cdot \hat{\mathbf{e}}_3 = +1을 만족한다. 회전된 기저 \{\mathbf{R}\hat{\mathbf{e}}_1, \mathbf{R}\hat{\mathbf{e}}_2, \mathbf{R}\hat{\mathbf{e}}_3\}에 대해
(\mathbf{R}\hat{\mathbf{e}}_1 \times \mathbf{R}\hat{\mathbf{e}}_2) \cdot \mathbf{R}\hat{\mathbf{e}}_3 = \det(\mathbf{R})
이므로 \det(\mathbf{R}) = +1일 때에만 우수 기저가 우수 기저로 사상된다. 이는 물리적 강체 회전이 좌수/우수 구분을 바꾸지 않는다는 자연스러운 요구와 일치한다.
4.3 외적의 보존
\det(\mathbf{R}) = +1이면 회전 행렬은 외적을 보존한다.
(\mathbf{R}\mathbf{u}) \times (\mathbf{R}\mathbf{v}) = \mathbf{R}(\mathbf{u} \times \mathbf{v})
이는 회전된 좌표계에서도 외적 연산의 일관성이 유지됨을 의미하며, 각속도와 모멘트의 회전 변환이 정합적으로 이루어지는 근거이다. \det(\mathbf{R}) = -1인 비고유 변환에서는 외적에 부호가 반전되어 이 성질이 성립하지 않는다.
5. 유도: 고유값과 행렬식
SO(3)의 회전 행렬의 고유값은 \{1, e^{i\phi}, e^{-i\phi}\}로 구성된다. 이는 다음으로부터 유도된다.
- 직교 행렬의 고유값의 절댓값은 1이다.
- 실수 행렬의 고유값은 복소 켤레쌍 또는 실수이다.
- 3차원에서 고유값이 모두 복소수일 수는 없다(차수 불일치).
- 따라서 적어도 하나의 실수 고유값 \lambda \in \{+1, -1\}이 존재한다.
고유값의 곱이 \det(\mathbf{R}) = \lambda \cdot e^{i\phi} \cdot e^{-i\phi} = \lambda이므로 \det(\mathbf{R}) = +1이면 \lambda = +1이 존재한다. 이에 대응하는 고유 벡터가 회전축(rotation axis)이며, 이 사실이 오일러의 회전 정리의 본질이다.
6. 연속성과 연결성
O(3)은 두 개의 분리된 연결 성분으로 구성된다.
- \det = +1 성분: SO(3)
- \det = -1 성분: 반사를 포함하는 비고유 변환
SO(3)은 연결된 매니폴드이며 항등 행렬을 포함한다. 한 회전 행렬에서 다른 회전 행렬로 연속적으로 이동하는 경로가 SO(3) 내에 존재하지만, \det = -1의 성분으로 건너뛰는 연속 경로는 존재하지 않는다. 행렬식은 연속 함수이므로 연속 경로 상에서 부호가 급격히 +1에서 -1로 바뀔 수 없다.
7. 행렬식 조건의 수치적 유지
부동 소수점 계산으로 인해 회전 행렬의 행렬식이 정확히 +1에서 벗어날 수 있다. SVD 기반 투영을 사용하는 경우 \mathbf{R}^* = \mathbf{U}\mathbf{V}^T를 그대로 사용하면 반사로 투영될 수 있으므로 다음의 보정이 필요하다.
\mathbf{R}^* = \mathbf{U}\mathrm{diag}(1, 1, \det(\mathbf{U}\mathbf{V}^T))\mathbf{V}^T
이 보정은 \det(\mathbf{R}^*) = +1을 보장하면서도 프로베니우스 노름 의미의 최근접 회전 행렬을 산출한다.
8. 회전 합성에 대한 닫힘
두 회전 행렬의 곱은 다시 회전 행렬이다. 직교성과 \det(\mathbf{R}_1\mathbf{R}_2) = \det(\mathbf{R}_1)\det(\mathbf{R}_2) = 1 \cdot 1 = 1에 의해 \mathbf{R}_1\mathbf{R}_2 \in SO(3)이 성립한다. 역원 또한 \det(\mathbf{R}^{-1}) = \det(\mathbf{R})^{-1} = 1을 만족하므로 SO(3)은 군 연산에 대해 닫혀 있다.
9. 로봇 공학에서의 의의
행렬식 조건 \det(\mathbf{R}) = +1은 로봇의 자세가 물리적 강체 회전에 해당함을 보증한다. 추정된 회전 행렬이 반사 성분을 포함하면 센서 좌표계가 거울상으로 뒤집히거나, 기구학 계산 결과가 비물리적 형태를 나타내는 오류가 발생한다. 따라서 절대 자세 추정, 손-눈 캘리브레이션, 점군 정합 등에서 회전 행렬의 추정은 반드시 SO(3) 제약을 고려해야 하며, 단순 최소 제곱 해가 반사를 포함할 경우 보정이 필수적이다.
10. 참고 문헌
- Siciliano, B., Sciavicco, L., Villani, L., & Oriolo, G. (2009). Robotics: Modelling, Planning and Control. Springer.
- Craig, J. J. (2018). Introduction to Robotics: Mechanics and Control (4th ed.). Pearson.
- Murray, R. M., Li, Z., & Sastry, S. S. (1994). A Mathematical Introduction to Robotic Manipulation. CRC Press.
- Umeyama, S. (1991). “Least-Squares Estimation of Transformation Parameters Between Two Point Patterns.” IEEE Transactions on Pattern Analysis and Machine Intelligence, 13(4), 376–380.
- Horn, R. A., & Johnson, C. R. (2013). Matrix Analysis (2nd ed.). Cambridge University Press.
version: 1.0