9.18 특수 직교군 $SO(3)$ 의 정의와 구조

1. 집합으로서의 정의

특수 직교군(special orthogonal group) $SO(3)$ 은 3차원 유클리드 공간의 회전 변환을 나타내는 실수 행렬의 집합이다.

$SO(3) = \{\mathbf{R} \in \mathbb{R}^{3 \times 3} \mid \mathbf{R}^T\mathbf{R} = \mathbf{I}, \; \det(\mathbf{R}) = +1\}$

두 조건 중 $\mathbf{R}^T\mathbf{R} = \mathbf{I}$ 는 $\mathbf{R}$ 이 직교 행렬임을, $\det(\mathbf{R}) = +1$ 은 고유 회전(proper rotation)임을 나타낸다.

2. 군 구조

$SO(3)$ 은 행렬 곱 연산에 관해 군(group)을 이룬다. 군의 네 가지 공리를 차례로 확인한다.

2.1 닫힘(Closure)

$\mathbf{R}_1, \mathbf{R}_2 \in SO(3)$ 이면 $\mathbf{R}_1\mathbf{R}_2 \in SO(3)$ .

$(\mathbf{R}_1\mathbf{R}_2)^T(\mathbf{R}_1\mathbf{R}_2) = \mathbf{R}_2^T\mathbf{R}_1^T\mathbf{R}_1\mathbf{R}_2 = \mathbf{I}$

$\det(\mathbf{R}_1\mathbf{R}_2) = \det(\mathbf{R}_1)\det(\mathbf{R}_2) = 1$

2.2 결합 법칙(Associativity)

행렬 곱의 결합 법칙 $(\mathbf{R}_1\mathbf{R}_2)\mathbf{R}_3 = \mathbf{R}_1(\mathbf{R}_2\mathbf{R}_3)$ 에 의해 자연스럽게 성립한다.

2.3 항등원(Identity)

단위 행렬 $\mathbf{I}_3$ 는 $\mathbf{I}^T\mathbf{I} = \mathbf{I}$ 와 $\det(\mathbf{I}) = 1$ 을 만족하므로 $\mathbf{I} \in SO(3)$ 이다. 모든 $\mathbf{R} \in SO(3)$ 에 대해 $\mathbf{I}\mathbf{R} = \mathbf{R}\mathbf{I} = \mathbf{R}$ 이다.

2.4 역원(Inverse)

$\mathbf{R} \in SO(3)$ 에 대해 $\mathbf{R}^{-1} = \mathbf{R}^T$ 이다. 전치 역시 직교성과 $\det = +1$ 을 만족하므로 $\mathbf{R}^T \in SO(3)$ 이다.

3. 비가환성

$SO(3)$ 은 가환군이 아니다. 일반적으로

$\mathbf{R}_1\mathbf{R}_2 \neq \mathbf{R}_2\mathbf{R}_1$

이며, 이는 3차원 회전의 본질적 성질이다. 반면 2차원 회전군 $SO(2)$ 는 가환군이다.

4. 매니폴드 구조

$SO(3)$ 은 단순한 집합이 아니라 미분 가능한 매니폴드(manifold)이다. $\mathbb{R}^{3 \times 3}$ 의 9차원 공간에 속한 부분집합이며, 직교성 제약( $\mathbf{R}^T\mathbf{R} = \mathbf{I}$ )이 6개의 독립 등식을 부과하므로 매니폴드의 차원은 $9 - 6 = 3$ 이다.

$\dim(SO(3)) = 3$

이는 3차원 공간의 회전이 세 자유도를 가지는 사실과 일치하며, 오일러 각, 축-각도 표현, 지수 좌표 등 세 매개변수를 사용하는 표현들이 $SO(3)$ 을 국소적으로 매개화하는 이유이다.

5. 위상 구조

5.1 연결성

$SO(3)$ 은 연결(connected) 매니폴드이다. 즉, 임의의 두 회전 행렬 사이에 $SO(3)$ 내에서의 연속 경로가 존재한다. 대조적으로 $O(3)$ 은 $\det = +1$ 성분과 $\det = -1$ 성분으로 분리되어 연결되지 않는다.

5.2 컴팩트성

$SO(3)$ 은 컴팩트(compact) 매니폴드이다. 모든 원소가 유계이며(각 원소의 절댓값이 1 이하), 정규 직교 조건이 닫힌 집합을 정의하므로 유계이고 닫힌 집합이다.

5.3 이중 피복(Double Cover)

$SO(3)$ 은 단순 연결(simply connected)이 아니다. 이는 $SO(3)$ 내의 어떤 폐곡선은 연속적으로 점으로 수축될 수 없음을 의미한다. 이 위상적 성질은 쿼터니언이 $SO(3)$ 을 이중 피복한다는 사실과 직접적으로 연결된다. 단위 쿼터니언군 $\mathrm{Sp}(1)$ 은 $SO(3)$ 의 보편 피복이며, $\mathbf{q}$ 와 $-\mathbf{q}$ 가 동일한 회전에 대응한다.

6. 리 군 구조

$SO(3)$ 은 군 연산과 역원 연산이 매니폴드 구조와 매끄럽게 어울리는 **리 군(Lie group)**이다. 리 군은 미분 가능한 매니폴드이면서 동시에 군 연산이 $C^\infty$ 사상인 구조이다.

6.1 대응하는 리 대수

$SO(3)$ 의 단위 원소에서의 접공간(tangent space at identity)이 리 대수(Lie algebra) $\mathfrak{so}(3)$ 을 이룬다.

$\mathfrak{so}(3) = \{\boldsymbol{\Omega} \in \mathbb{R}^{3 \times 3} \mid \boldsymbol{\Omega}^T = -\boldsymbol{\Omega}\}$

즉, $\mathfrak{so}(3)$ 은 $3 \times 3$ 반대칭 행렬의 집합이다. 반대칭 행렬은 독립 성분이 3개이므로 $\mathfrak{so}(3)$ 의 차원도 3이다.

6.2 지수 사상

리 대수와 리 군은 행렬 지수(matrix exponential)에 의해 연결된다.

$\exp: \mathfrak{so}(3) \to SO(3), \quad \boldsymbol{\Omega} \mapsto \exp(\boldsymbol{\Omega})$

이 사상은 전사(surjective)이며 반대칭 행렬의 지수를 회전 행렬로 변환한다. 각속도 벡터 $\boldsymbol{\omega}$ 에 대응하는 반대칭 행렬 $[\boldsymbol{\omega}]_\times$ 의 지수 $\exp(\phi[\hat{\mathbf{u}}]_\times)$ 는 축 $\hat{\mathbf{u}}$ 주위의 $\phi$ 각 회전을 산출한다.

6.3 브라켓 연산

$\mathfrak{so}(3)$ 의 리 브라켓은 행렬 교환자로 정의된다.

$[\boldsymbol{\Omega}_1, \boldsymbol{\Omega}_2] = \boldsymbol{\Omega}_1\boldsymbol{\Omega}_2 - \boldsymbol{\Omega}_2\boldsymbol{\Omega}_1$

반대칭 행렬 표현 $[\boldsymbol{\omega}]_\times$ 에 대해 이 교환자는 3차원 외적과 대응한다.

$[[\boldsymbol{\omega}_1]_\times, [\boldsymbol{\omega}_2]_\times] = [\boldsymbol{\omega}_1 \times \boldsymbol{\omega}_2]_\times$

이는 무한소 회전의 비가환성이 외적 구조와 동일함을 나타낸다.

7. $SO(3)$ 상의 거리

$SO(3)$ 은 매니폴드 구조를 활용한 여러 가지 거리(metric)를 정의한다.

7.1 프로베니우스 거리

$d_F(\mathbf{R}_1, \mathbf{R}_2) = \lVert \mathbf{R}_1 - \mathbf{R}_2 \rVert_F$

유클리드 공간의 관점에서 자연스러운 거리이지만, 매니폴드의 측지선(geodesic) 거리와는 다르다.

7.2 측지 거리

$d_G(\mathbf{R}_1, \mathbf{R}_2) = \lVert \log(\mathbf{R}_1^T\mathbf{R}_2) \rVert = \phi$

여기서 $\phi$ 는 $\mathbf{R}_1$ 에서 $\mathbf{R}_2$ 로의 상대 회전의 축-각도 표현의 각도이다. 이 거리는 $SO(3)$ 상의 실제 회전 크기를 측정한다.

8. 로봇 공학에서의 의의

$SO(3)$ 의 매니폴드 구조는 로봇 자세 추정과 최적화에 본질적 영향을 준다.

필터링: 확장 칼만 필터 등에서 자세를 단순히 벡터로 다루면 매니폴드 제약이 훼손되므로, 오차 상태 칼만 필터(ESKF)와 같이 접공간에서 오차를 다루는 방식이 필요하다.
최적화: SLAM과 번들 조정에서 $SO(3)$ 매개화는 리 대수의 지수 좌표를 통해 이루어지며, 매개화의 선택에 따라 수렴성과 수치적 안정성이 달라진다.
궤적 생성: 회전의 보간은 $SO(3)$ 상의 측지선 또는 그 근사로 이루어지며, 이는 SLERP의 이론적 기반이다.

9. 참고 문헌

Murray, R. M., Li, Z., & Sastry, S. S. (1994). A Mathematical Introduction to Robotic Manipulation. CRC Press.
Barfoot, T. D. (2017). State Estimation for Robotics. Cambridge University Press.
Hall, B. C. (2015). Lie Groups, Lie Algebras, and Representations (2nd ed.). Springer.
Gallier, J., & Quaintance, J. (2020). Differential Geometry and Lie Groups. Springer.
Sola, J., Deray, J., & Atchuthan, D. (2018). “A Micro Lie Theory for State Estimation in Robotics.” arXiv:1812.01537.

version: 1.0

9.18 특수 직교군 SO(3)의 정의와 구조