3차원 유클리드 공간에서의 강체(rigid body) 운동은 물리학, 공학, 컴퓨터 과학 등 광범위한 분야에서 근본적인 연구 대상이다. 강체의 운동은 그 질량 중심의 병진(translation) 운동과 질량 중심을 기준으로 한 회전(rotation) 운동으로 분해될 수 있다.1 이 중 회전 운동은 객체의 방향(orientation)과 자세(attitude)를 기술하며, 이는 로봇 팔의 끝점 제어, 인공위성의 자세 제어, 컴퓨터 그래픽스에서의 가상 카메라 시점 조작 등 수많은 실제 문제의 핵심을 이룬다.1 따라서 3차원 공간에서의 회전을 정밀하고 일관되게 기술하는 수학적 체계를 확립하는 것은 매우 중요하다.
회전 변환은 원점을 고정시키면서 공간 내 모든 벡터의 길이와 벡터 간의 상대적 각도를 보존하는 변환이다. 즉, 객체의 형태나 크기를 변화시키지 않고 오직 방향만을 바꾸는 등거리 변환(isometry)의 한 종류이다. 이러한 회전 변환들의 집합은 단순한 모음이 아니라, 연속적인 회전의 적용(합성)이나 회전의 취소(역변환)와 같은 연산에 대해 닫혀 있는 대수적 구조를 형성한다. 이 구조를 체계적으로 이해하고 활용하기 위해 도입된 수학적 개념이 바로 ‘군(group)’이며, 3차원 회전 변환의 군이 본 보고서의 주제인 특수 직교군 $SO(3)$이다.4
특수 직교군 $SO(3)$는 대수적 정의와 기하학적 정의라는 두 가지 상호보완적인 관점에서 이해할 수 있다.
대수적으로, $SO(3)$는 특정 조건을 만족하는 $3 \times 3$ 실수 행렬 $R$들의 집합으로 정의된다. 이 행렬들은 선형 변환으로서 벡터에 작용하며, 그 조건은 다음과 같다.4
직교성 (Orthogonality): 행렬 $R$은 자신의 전치 행렬 $R^T$가 역행렬 $R^{-1}$과 같다. 즉, $R^T R = R R^T = I$를 만족한다. 여기서 $I$는 $3 \times 3$ 항등 행렬이다. 이 조건은 변환 $R$이 임의의 두 벡터 $u, v$에 대해 내적을 보존함($(Ru) \cdot (Rv) = u \cdot v$)을 보장하며, 결과적으로 벡터의 길이($\lVert Ru \rVert = \lVert u \rVert$)와 벡터 사이의 각도를 보존함을 의미한다. 직교성을 만족하는 행렬들의 집합을 직교군 $O(3)$라고 한다.
특수 조건 (Special Condition): 행렬 $R$의 행렬식(determinant) 값이 $+1$이다. 즉, $\det(R) = 1$이다. 직교 조건으로부터 $(\det(R))^2 = 1$이 유도되므로, $\det(R)$는 $\pm 1$의 값을 가질 수 있다.4
$\det(R) = +1$ 조건은 변환이 좌표계의 방향성(orientation), 예를 들어 오른손 좌표계를 오른손 좌표계로 유지함을 의미한다. 이러한 변환을 고유 회전(proper rotation)이라 한다. 반면, $\det(R) = -1$인 경우는 회전과 함께 반사(reflection)가 포함된 부적절 회전(improper rotation)에 해당하며, 이는 $O(3)$에는 속하지만 $SO(3)$에는 속하지 않는다.4
이 두 조건을 종합하여 $SO(3)$를 수학적으로 다음과 같이 표현할 수 있다. \(SO(3) = \{ R \in M_{3}(\mathbb{R}) \mid R^T R = I, \det(R) = 1 \}\) 여기서 $M_{3}(\mathbb{R})$은 원소가 실수인 모든 $3 \times 3$ 행렬의 집합을 나타낸다.
기하학적으로, $SO(3)$는 3차원 유클리드 공간 $\mathbb{R}^3$에서 원점을 고정시키는 모든 회전 변환의 집합으로 정의된다.4 각 회전은 회전의 중심이 되는 축(axis)과 그 축을 중심으로 회전하는 각도(angle)에 의해 결정된다.
$SO(3)$의 모든 원소는 이러한 기하학적 회전과 일대일로 대응된다. 이 관점은 $SO(3)$가 강체의 방향을 나타내는 가장 자연스럽고 직관적인 수학적 구조임을 명확히 보여준다.
본 보고서는 $SO(3)$에 대한 다각적이고 심층적인 분석을 제공하는 것을 목표로 한다. 이를 위해 먼저 II장에서는 $SO(3)$가 만족하는 군(group)의 공리를 살펴보고, 회전의 순서가 중요함을 의미하는 비가환성(non-commutativity)의 기하학적 의미를 탐구한다. III장에서는 $SO(3)$의 원소, 즉 3차원 회전을 표현하는 다양한 매개변수화 방법들-회전 행렬, 오일러 각, 축-각 표현, 단위 쿼터니언-을 소개하고, 각 방법의 장단점과 상호 관계를 비교 분석한다. 특히 오일러 각의 고질적인 문제인 짐벌 락(gimbal lock) 현상을 심도 있게 다룬다.
IV장에서는 $SO(3)$를 단순한 군이 아닌, 미분 기하학의 언어로 기술되는 리 군(Lie group)으로 확장하여 이해한다. 이와 함께, $SO(3)$의 ‘무한소 회전’에 해당하는 리 대수(Lie algebra) $\mathfrak{so}(3)$가 반대칭 행렬로 구성되는 이유를 밝히고, 이 둘을 연결하는 지수 사상(exponential map)과 로드리게스 회전 공식의 관계를 규명한다. V장에서는 $SO(3)$ 공간의 위상수학적 특성을 탐구한다. $SO(3)$가 단순 연결 공간이 아니라는 사실과 이것이 실수 사영 공간 $\mathbb{RP}^3$와의 관계, 그리고 양자역학의 스핀 현상과 연결되는 보편 덮개 공간 $SU(2)$의 개념을 소개한다.
VI장에서는 이러한 이론적 논의가 어떻게 실제 문제 해결에 적용되는지를 로보틱스, 컴퓨터 그래픽스, 항공우주공학 분야의 구체적인 사례를 통해 보인다. 마지막으로 VII장에서는 앞선 논의들을 종합하여 $SO(3)$에 대한 통합적 관점을 제시하고, 이 근본적인 수학적 구조가 지닌 의의와 중요성을 재확인하며 보고서를 마무리한다.
$SO(3)$는 단순히 회전 행렬의 집합이 아니라, 행렬 곱셈이라는 연산에 대해 군(group)의 구조를 이룬다. 군 구조는 추상적인 수학적 틀을 넘어, 물리적 회전 현상이 갖는 본질적인 속성을 완벽하게 포착한다. 이 장에서는 $SO(3)$가 군의 네 가지 공리를 어떻게 만족하는지 보이고, 3차원 회전의 중요한 특성인 비가환성에 대해 논한다.
$SO(3)$가 행렬 곱셈 연산에 대해 군을 형성하기 위해서는 닫힘, 결합법칙, 항등원, 역원의 네 가지 공리를 만족해야 한다.
닫힘 (Closure): 임의의 두 원소 $R_1, R_2 \in SO(3)$에 대해, 그들의 곱 $R_{12} = R_1 R_2$ 또한 $SO(3)$에 속해야 한다. 이는 두 가지 조건을 통해 확인할 수 있다.
직교성: $(R_1 R_2)^T (R_1 R_2) = R_2^T R_1^T R_1 R_2 = R_2^T I R_2 = R_2^T R_2 = I$. 따라서 $R_1 R_2$는 직교 행렬이다.
특수 조건: $\det(R_1 R_2) = \det(R_1) \det(R_2) = (1)(1) = 1$. 따라서 $R_1 R_2$의 행렬식은 1이다.
두 조건이 모두 만족되므로, $R_1 R_2 \in SO(3)$이다. 이는 기하학적으로 두 번의 연속적인 회전은 결국 또 다른 하나의 단일 회전과 같다는 물리적 직관과 일치한다.4
결합법칙 (Associativity): 임의의 세 원소 $R_1, R_2, R_3 \in SO(3)$에 대해, $(R_1 R_2) R_3 = R_1 (R_2 R_3)$가 성립해야 한다. 이는 행렬 곱셈 연산이 본질적으로 결합법칙을 만족하기 때문에 자명하게 성립한다. 기하학적으로 이는 회전을 순차적으로 적용할 때, 연산을 묶는 방식이 최종 결과에 영향을 주지 않음을 의미한다.
항등원 (Identity Element): 군 내에 모든 원소 $R$에 대해 $RI = IR = R$을 만족하는 항등원 $I$가 존재해야 한다. $SO(3)$에서 항등원은 $3 \times 3$ 항등 행렬 $I$이다. \(I = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix}\) 항등 행렬은 $I^T I = I$이고 $\det(I) = 1$이므로 $I \in SO(3)$이다. 기하학적으로 항등원은 ‘아무런 회전도 하지 않는’ 상태에 해당한다.4
역원 (Inverse Element): 군 내의 모든 원소 $R$에 대해, $R R^{-1} = R^{-1} R = I$를 만족하는 역원 $R^{-1}$이 존재해야 한다. $SO(3)$의 정의에 따라 모든 원소 $R$은 $R^T R = I$를 만족하므로, 그 역원은 전치 행렬 $R^{-1} = R^T$이다. 역원 $R^T$ 또한 $SO(3)$에 속하는지 확인해야 한다.
직교성: $(R^T)^T (R^T) = R R^T = I$. 따라서 $R^T$는 직교 행렬이다.
특수 조건: $\det(R^T) = \det(R) = 1$. 따라서 $R^T$의 행렬식은 1이다.
따라서 모든 $R \in SO(3)$에 대해 그 역원 $R^T$가 $SO(3)$ 내에 존재한다. 이는 모든 회전 변환은 정확히 그 반대 방향으로 회전함으로써 원래 상태로 되돌릴 수 있다는 물리적 사실을 반영한다.8
이처럼 $SO(3)$는 군의 네 가지 공리를 모두 만족하므로, 행렬 곱셈에 대해 군을 이룬다.
군의 중요한 특성 중 하나는 연산의 교환법칙 성립 여부이다. 만약 군 내의 모든 원소 $A, B$에 대해 $AB = BA$가 성립하면 그 군을 아벨 군(abelian group) 또는 가환군(commutative group)이라 하고, 그렇지 않으면 비아벨 군(non-abelian group) 또는 비가환군(non-commutative group)이라 한다.
$SO(3)$는 대표적인 비아벨 군이다. 즉, 일반적으로 $R_1 R_2 \neq R_2 R_1$이다.4 이는 3차원 공간에서 회전의 순서가 최종 결과에 지대한 영향을 미친다는 것을 의미한다. 2차원 평면에서의 회전 군
$SO(2)$가 가환군인 것과 대조적이다. 평면 위에서는 어떤 순서로 회전을 하든 최종 방향은 동일하지만, 3차원 공간에서는 그렇지 않다.
이 비가환성을 구체적인 예시를 통해 확인할 수 있다. $x$축을 중심으로 $90^\circ$($\pi/2$ 라디안) 회전하는 행렬 $R_x(\pi/2)$와 $y$축을 중심으로 $90^\circ$ 회전하는 행렬 $R_y(\pi/2)$를 생각해보자. \(R_x(\pi/2) = \begin{pmatrix} 1 & 0 & 0 \\ 0 & \cos(\pi/2) & -\sin(\pi/2) \\ 0 & \sin(\pi/2) & \cos(\pi/2) \end{pmatrix} = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & 1 & 0 \end{pmatrix} \\) \(R_y(\pi/2) = \begin{pmatrix} \cos(\pi/2) & 0 & \sin(\pi/2) \\ 0 & 1 & 0 \\ -\sin(\pi/2) & 0 & \cos(\pi/2) \end{pmatrix} = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ -1 & 0 & 0 \end{pmatrix}\) 이제 두 회전을 서로 다른 순서로 합성해 보자.
사례 1: $x$축 회전 후 $y$축 회전 \(R_y(\pi/2) R_x(\pi/2) = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ -1 & 0 & 0 \end{pmatrix} \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & 1 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & -1 \\ -1 & 0 & 0 \end{pmatrix}\) 사례 2: $y$축 회전 후 $x$축 회전 \(R_x(\pi/2) R_y(\pi/2) = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & 1 & 0 \end{pmatrix} \begin{pmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ -1 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{pmatrix}\) 결과적으로 $R_y(\pi/2) R_x(\pi/2) \neq R_x(\pi/2) R_y(\pi/2)$임을 명확히 확인할 수 있다. 이처럼 $SO(3)$의 비가환성은 3차원 공간의 회전이 경로 의존적(path-dependent)이라는 본질적인 기하학적 특성을 대수적으로 표현한 것이다. 이러한 성질은 로봇의 운동 계획이나 항공기의 자세 제어 등에서 회전 순서를 신중하게 고려해야 하는 이유를 설명해 준다. $SO(3)$의 군 구조는 이처럼 회전의 ‘문법’을 정의하며, 이 문법을 이해하는 것은 3차원 공간에서의 동역학을 이해하는 첫걸음이 된다.
$SO(3)$의 원소, 즉 3차원 회전은 하나의 추상적인 개념이지만, 이를 계산하고 응용하기 위해서는 구체적인 숫자의 집합으로 표현해야 한다. 이를 회전의 매개변수화(parameterization)라고 한다. 3차원 회전은 3개의 자유도(degrees of freedom)를 가지므로, 원칙적으로 3개의 숫자로 표현할 수 있어야 한다. 그러나 실제로는 다양한 표현법이 존재하며, 각기 다른 장단점을 가진다. 완벽한 표현법은 존재하지 않으며, 특정 응용 분야의 요구사항에 따라 최적의 표현법을 선택하는 것은 공학적 결정의 핵심이다.2 이는 ‘직관성’, ‘간결성’, ‘특이점 부재’, ‘연산 효율성’이라는 상충하는 목표 사이의 근본적인 트레이드오프를 반영한다.
$SO(3)$의 정의 그 자체인 $3 \times 3$ 특수 직교 행렬은 회전을 표현하는 가장 기본적인 방법이다.
오일러 각은 3차원 회전을 세 번의 연속적인 기본 축 회전으로 분해하여 표현하는 방법이다. 이는 인간에게 가장 직관적인 표현법 중 하나이다.
오일러의 회전 정리에 따르면, 원점을 고정하는 임의의 3차원 강체 회전은 하나의 고정된 축 주위의 단일 회전으로 표현될 수 있다.20 축-각 표현은 이 정리를 직접적으로 매개변수화한 것이다.
정의: 회전은 하나의 단위 벡터 $\mathbf{n} = (n_x, n_y, n_z)^T$ (회전 축)과 하나의 스칼라 값 $\theta$ (회전 각도)의 쌍 $(\mathbf{n}, \theta)$로 기술된다.20 이 표현은 4개의 숫자를 사용하지만,
$\lVert \mathbf{n} \rVert = 1$이라는 제약 조건 때문에 3개의 자유도를 가진다. 때로는 이 둘을 결합하여 회전 벡터(rotation vector) 또는 오일러 벡터(Euler vector) $\boldsymbol{\omega} = \theta \mathbf{n}$라는 3차원 벡터로 표현하기도 한다. 이 경우 벡터의 방향이 회전 축을, 벡터의 크기가 회전 각도를 나타낸다.20
장점:
단점:
쿼터니언은 윌리엄 로언 해밀턴에 의해 발견된, 복소수를 4차원으로 확장한 수 체계이다. 이 중 크기가 1인 단위 쿼터니언은 3차원 회전을 표현하는 데 매우 강력하고 효율적인 도구임이 밝혀졌다.
정의: 쿼터니언 $q$는 하나의 스칼라(실수) 부분 $w$와 세 개의 벡터(허수) 부분 $(x, y, z)$로 구성된 4차원 수이다: $q = w + x\mathbf{i} + y\mathbf{j} + z\mathbf{k}$. 여기서 $\mathbf{i}, \mathbf{j}, \mathbf{k}$는 $\mathbf{i}^2 = \mathbf{j}^2 = \mathbf{k}^2 = \mathbf{ijk} = -1$ 관계를 만족하는 허수 단위이다. 단위 쿼터니언은 그 놈(norm)이 1인 쿼터니언, 즉 $w^2 + x^2 + y^2 + z^2 = 1$을 만족하는 쿼터니언이다.24
회전과의 관계: 축-각 표현 $(\mathbf{n}, \theta)$는 단위 쿼터니언 $q$로 다음과 같이 인코딩될 수 있다 24: \(q = \left( \cos\frac{\theta}{2}, \sin\frac{\theta}{2}\mathbf{n} \right) = \cos\frac{\theta}{2} + \left( n_x \sin\frac{\theta}{2} \right)\mathbf{i} + \left( n_y \sin\frac{\theta}{2} \right)\mathbf{j} + \left( n_z \sin\frac{\theta}{2} \right)\mathbf{k}\) 벡터 $v$를 이 쿼터니언으로 회전시킨 결과 $v’$는 쿼터니언 곱셈을 통해 $p’ = qpq^{-1}$로 계산된다. 여기서 $p$와 $p’$는 벡터 $v$와 $v’$에 해당하는 순수 쿼터니언(스칼라 부분이 0인 쿼터니언, 즉 $p=(0, v)$)이다.24
장점:
단점:
각 표현법의 특성을 종합적으로 비교하면 다음과 같다. 이 표는 특정 응용에 가장 적합한 표현법을 선택하기 위한 실용적인 지침을 제공한다. 예를 들어, 사용자 인터페이스와 같이 직관성이 중요한 경우 오일러 각이 선호될 수 있지만, 로봇 제어나 비행 시뮬레이션과 같이 안정성과 정밀도가 최우선인 경우 쿼터니언이나 회전 행렬이 필수적이다.
표 1: 3차원 회전 표현법 비교
| 특성 (Property) | 회전 행렬 (Rotation Matrix) | 오일러 각 (Euler Angles) | 축-각 (Axis-Angle) | 단위 쿼터니언 (Unit Quaternion) |
|---|---|---|---|---|
| 매개변수 수 | 9 | 3 | 4 (또는 3) | 4 |
| 자유도 | 3 | 3 | 3 | 3 |
| 메모리 | 높음 (중복성) | 낮음 (최소) | 중간 | 낮음 |
| 회전 합성 | 행렬 곱 (간단, 연산량 많음) | 복잡한 삼각함수 공식 | 매우 복잡함 | 쿼터니언 곱 (효율적) |
| 보간 | 어려움 (직교성 유지 문제) | 간단한 선형 보간은 경로 왜곡 | 어려움 | 구면 선형 보간(SLERP)으로 최적 경로 |
| 특이점 | 없음 | 짐벌 락 (치명적 단점) | $\theta=0$일 때 축 정의 불가 | 없음 |
| 표현의 유일성 | 유일함 | 비유일 (다양한 각도 조합 가능) | 비유일 ($(\mathbf{n}, \theta) \equiv (-\mathbf{n}, -\theta)$ 등) | 비유일 ($q \equiv -q$) |
| 직관성 | 낮음 | 높음 | 높음 | 매우 낮음 |
참고 자료: 9
$SO(3)$를 더 깊이 이해하기 위해서는 단순한 대수적 군 구조를 넘어, 미분기하학의 관점에서 접근해야 한다. 이 관점에서 $SO(3)$는 ‘리 군(Lie group)’이라는 특별한 구조를 가지며, 이는 ‘리 대수(Lie algebra)’라는 선형 공간과 밀접하게 연관된다. 이 관계는 정적인 ‘상태(state)’와 동적인 ‘변화(change)’ 사이의 근본적인 이중성을 수학적으로 형식화한다. $SO(3)$가 객체의 가능한 모든 정적인 방향들의 공간이라면, 그에 대응하는 리 대수 $\mathfrak{so}(3)$는 그 방향들이 순간적으로 어떻게 변할 수 있는지에 대한 동적인 속도(각속도)의 공간이다.
$SO(3)$는 군 구조를 가질 뿐만 아니라, 기하학적으로 매끄러운 공간인 ‘미분 가능 다양체(differentiable manifold)’의 구조도 함께 가진다. 다양체란 국소적으로 유클리드 공간과 위상동형인 공간을 의미한다. 즉, $SO(3)$ 공간의 어떤 회전 행렬을 선택하더라도 그 주변의 ‘작은 동네’는 3차원 유클리드 공간($\mathbb{R}^3$)의 일부처럼 보인다는 것이다.
더 나아가, $SO(3)$에서는 군 연산(행렬 곱셈과 역행렬 계산)이 매끄러운(smooth) 함수로 주어진다. 이처럼 군 구조와 미분 가능 다양체 구조가 서로 잘 호환되는 대상을 리 군(Lie group)이라고 한다.6
$SO(3)$는 3차원의 콤팩트(compact)하고 연결된(connected) 리 군의 대표적인 예이다.4
모든 리 군에는 그 군의 항등원에서의 접공간(tangent space)으로 정의되는 ‘리 대수’가 대응된다. 이는 군의 국소적인, 즉 ‘무한소(infinitesimal)’ 구조를 선형적으로 근사한 것이다.
정의: $SO(3)$의 리 대수, $\mathfrak{so}(3)$는 $SO(3)$의 항등원 $I$에서의 접공간 $T_I SO(3)$으로 정의된다. 기하학적으로 이는 ‘무한소 회전’ 또는 ‘각속도’ 벡터들의 공간으로 해석될 수 있다.3
기저와 생성자 (Basis and Generators): 위 행렬 형태에서 알 수 있듯이, $\mathfrak{so}(3)$는 3개의 독립적인 매개변수 $a, b, c$로 결정되므로 3차원 벡터 공간이다. 이 공간의 표준 기저(standard basis)는 다음과 같이 선택할 수 있으며, 이들을 리 군의 생성자(generators)라고 부른다.7 \(L_x = \begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & 1 & 0 \end{pmatrix}, \quad L_y = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ -1 & 0 & 0 \end{pmatrix}, \quad L_z = \begin{pmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}\) 이 생성자들은 각각 $x, y, z$축에 대한 무한소 회전을 나타낸다. 임의의 반대칭 행렬은 이들의 선형 결합 $\omega_x L_x + \omega_y L_y + \omega_z L_z$로 표현될 수 있으며, 여기서 벡터 $\boldsymbol{\omega} = (\omega_x, \omega_y, \omega_z)^T$는 각속도 벡터에 해당한다.
리 괄호와 교환 관계 (Lie Bracket and Commutation Relations): 리 대수에는 리 괄호(Lie bracket)라는 특별한 이항 연산이 정의되어 있다. 행렬 리 대수에서 리 괄호는 행렬의 교환자(commutator)로 정의된다: $ = AB - BA$.$\mathfrak{so}(3)$의 생성자들은 다음과 같은 중요한 교환 관계를 만족한다.7 \([L_x, L_y] = L_z, \quad [L_y, L_z] = L_x, \quad [L_z, L_x] = L_y\) 이 관계는 $\mathfrak{so}(3)$의 대수적 구조를 완전히 결정한다.
리 군과 리 대수를 연결하는 가장 중요한 다리는 지수 사상(exponential map)이다. 이는 리 대수의 선형적이고 다루기 쉬운 구조를 리 군의 비선형적이고 복잡한 구조로 변환하는 역할을 한다.
정의: 지수 사상 $\exp: \mathfrak{so}(3) \to SO(3)$는 행렬 지수 함수로 정의된다.31 \(\exp(A) = \sum_{n=0}^{\infty} \frac{A^n}{n!} = I + A + \frac{A^2}{2!} + \frac{A^3}{3!} + \dots\) $\mathfrak{so}(3)$의 임의의 원소(반대칭 행렬) $A$에 대해, $\exp(A)$는 항상 $SO(3)$의 원소(특수 직교 행렬)가 됨이 증명될 수 있다.
기하학적 의미: 지수 사상은 ‘일정한 각속도로 일정 시간 동안 회전하면 어떤 최종 방향에 도달하는가?’라는 질문에 대한 답을 제공한다. 리 대수의 원소 $A \in \mathfrak{so}(3)$를 일정한 각속도로 해석할 때, $R(t) = \exp(tA)$는 $t=0$에서 항등원 $I$를 출발하여, ‘방향’ $A$로(즉, $A$가 나타내는 축 주위로) 일정한 속도로 움직이는 $SO(3)$ 내의 경로를 생성한다. 이러한 경로는 1-매개변수 부분군(one-parameter subgroup)을 형성한다.7
로드리게스 회전 공식과의 관계: $\mathfrak{so}(3)$의 경우, 위에서 정의된 무한급수인 지수 사상은 놀랍게도 닫힌 형태(closed-form)의 해를 가진다. 이 해가 바로 로드리게스 회전 공식(Rodrigues’ rotation formula)이다.
임의의 $A \in \mathfrak{so}(3)$는 각속도 벡터 $\boldsymbol{\omega} = \theta \mathbf{n}$ (여기서 $\lVert \mathbf{n} \rVert = 1$)에 대응하는 반대칭 행렬 $\hat{\boldsymbol{\omega}}$로 쓸 수 있다. 즉, 임의의 벡터 $v$에 대해 $\hat{\boldsymbol{\omega}}v = \boldsymbol{\omega} \times v$이다. 이 행렬을 $\theta K$라고 표기하자 (여기서 $K$는 단위 벡터 $\mathbf{n}$에 대한 반대칭 행렬). 이 때, $K$는 $K^3 = -K$라는 특별한 성질을 가진다. 이 성질을 이용하여 지수 함수의 테일러 전개를 정리하면 다음과 같은 간결한 공식을 얻는다.35 \(R = \exp(\theta K) = I + (\sin\theta)K + (1-\cos\theta)K^2\) 이 공식은 리 대수 원소(축-각 벡터 $\theta\mathbf{n}$에 대응하는 반대칭 행렬 $\theta K$)로부터 리 군 원소(회전 행렬 $R$)를 직접 계산하는 방법을 제공하며, 지수 사상의 구체적인 계산법이다.
로그 사상 (Logarithmic Map): 지수 사상은 국소적으로 역함수를 가지며, 이를 로그 사상(logarithmic map) $\log: SO(3) \to \mathfrak{so}(3)$이라고 한다. 로그 사상은 주어진 회전 행렬 $R$로부터 그에 해당하는 축-각 벡터(회전 벡터) $\boldsymbol{\omega}$를 추출하는 역할을 한다. 회전 행렬 $R$의 대각합(trace)으로부터 회전 각도 $\theta$를 구하고($\text{tr}(R) = 1 + 2\cos\theta$), 행렬의 반대칭 부분으로부터 회전 축 $\mathbf{n}$을 구할 수 있다. \(\boldsymbol{\omega} = \log(R)^\vee = \frac{\theta}{2\sin\theta} (R - R^T)^\vee\) 여기서 $\vee$ 기호(vee operator)는 반대칭 행렬을 3차원 벡터로 변환하는 연산을 의미한다. 단, 이 공식은 $\sin\theta = 0$, 즉 $\theta = 0$ 또는 $\theta = \pi$일 때 특이점을 가지므로, 이러한 경우에는 별도의 처리가 필요하다.35
이처럼 리 군/리 대수 체계는 $SO(3)$의 정적, 동적 특성을 통합적으로 다루는 강력한 수학적 언어를 제공하며, 이는 로봇 동역학 제어, 물리 시뮬레이션 등에서 자세와 각속도를 다루는 방식의 이론적 기반이 된다.
$SO(3)$ 공간의 기하학적 형태와 연결성에 대한 연구는 위상수학(topology)의 영역에 속한다. $SO(3)$의 위상수학적 특성은 단순히 수학적 호기심을 넘어, 3차원 공간의 회전에 대한 우리의 직관이 불완전함을 드러내고, 더 나아가 양자역학과 같은 물리 세계의 근본적인 성질과 깊이 연관되어 있음을 보여준다.
콤팩트성 (Compactness): 위상 공간이 콤팩트하다는 것은 그 공간 내의 모든 무한 수열이 수렴하는 부분수열을 가진다는 의미이다. $SO(3)$는 행렬 원소들이 유계(bounded)이고 닫힌(closed) 집합을 형성하므로, 하이네-보렐 정리에 의해 콤팩트 공간이다. 이는 회전들의 연속열이 발산하지 않고 항상 어떤 극한 회전으로 수렴함을 보장하며, 최적화 문제 등에서 해의 존재성을 보장하는 중요한 성질이다.
연결성 (Connectedness): 위상 공간이 경로 연결(path-connected)되어 있다는 것은 공간 내의 임의의 두 점을 잇는 연속적인 경로가 항상 존재함을 의미한다.39
$SO(3)$는 경로 연결 공간이다. 즉, 임의의 두 방향(회전) $R_1$과 $R_2$가 주어졌을 때, $R_1$에서 시작하여 $R_2$에서 끝나는 연속적인 회전 경로(예: $R_1$에서 $R_2$로 점진적으로 변하는 회전)를 항상 찾을 수 있다. 이는 항등원 $I$에서 임의의 회전 $R$로 가는 경로가 존재함을 의미하기도 한다.4
$SO(3)$의 가장 흥미롭고 심오한 위상수학적 특성은 ‘단순 연결(simply connected)’ 공간이 아니라는 점이다.
단순 연결의 정의: 어떤 공간이 단순 연결이라는 것은 그 공간이 경로 연결되어 있고, 공간 내의 모든 닫힌 경로(loop, 시작점과 끝점이 같은 경로)를 연속적으로 변형하여 하나의 점으로 축소시킬 수 있다는 의미이다.41 예를 들어, 구(
$S^2$)의 표면은 단순 연결 공간이지만, 구멍 뚫린 도넛(토러스, $T^2$)은 그렇지 않다.
$SO(3)$의 비-단순 연결성: $SO(3)$ 공간에는 점으로 축소시킬 수 없는 닫힌 경로가 존재한다. 이는 “한 바퀴 돌면 제자리”라는 우리의 일상적인 직관이 위상수학적으로는 참이 아님을 의미한다.4
“벨트 트릭” (Belt Trick / Plate Trick): 이 비-단순 연결성을 직관적으로 보여주는 유명한 물리적 시연이 “벨트 트릭” 또는 “접시 트릭”이다. 한쪽 끝이 고정된 벨트를 잡고 다른 쪽 끝을 한 바퀴($360^\circ$) 돌리면 벨트가 꼬인다. 이 꼬임은 벨트의 끝을 더 이상 회전시키지 않고서는 풀 수 없다. 이는 $360^\circ$ 회전에 해당하는 $SO(3)$ 내의 닫힌 경로가 점으로 축소될 수 없는, 즉 자명하지 않은(non-trivial) 루프임을 보여준다. 하지만 놀랍게도, 벨트의 끝을 같은 방향으로 한 바퀴 더 돌려 총 두 바퀴($720^\circ$)를 회전시키면, 벨트의 끝을 고정한 채로 꼬임을 완전히 풀 수 있다. 이는 $720^\circ$ 회전에 해당하는 $SO(3)$ 내의 닫힌 경로가 점으로 축소될 수 있는, 즉 자명한(trivial) 루프임을 시사한다.40
기본군 (Fundamental Group): 공간의 루프 구조를 대수적으로 포착하는 도구가 기본군(fundamental group) $\pi_1(X)$이다. 기본군의 원소는 공간 내의 닫힌 경로들의 호모토피 동치류(homotopy equivalence classes)에 해당한다. $SO(3)$의 기본군은 크기가 2인 순환군 $\mathbb{Z}_2$와 동형이다.4 \(\pi_1(SO(3)) \cong \mathbb{Z}_2 = \{0, 1\}\) 이는 $SO(3)$에 근본적으로 다른 두 종류의 루프가 존재함을 의미한다. 하나는 점으로 축소 가능한 루프(기본군의 항등원 ‘0’에 해당, 예: $720^\circ$ 회전)이고, 다른 하나는 축소 불가능한 루프(기본군의 비항등원 ‘1’에 해당, 예: $360^\circ$ 회전)이다. 축소 불가능한 루프를 두 번 연속으로 수행하면($360^\circ$ 회전 후 다시 $360^\circ$ 회전), 그 결과는 축소 가능한 루프가 된다($1+1=0 \pmod 2$).
$SO(3)$의 이러한 독특한 위상 구조는 3차원 실수 사영 공간($\mathbb{RP}^3$)이라는 기하학적 대상과 동일하다. 즉, $SO(3)$는 $\mathbb{RP}^3$와 위상동형(homeomorphic)이다.29
기하학적 설명: 이 관계는 축-각 표현을 통해 직관적으로 이해할 수 있다. 모든 회전은 회전 축(방향)과 회전 각도 $\theta \in [0, \pi]$로 표현할 수 있다. (각도가 $\pi$보다 크면 반대 축으로 $2\pi-\theta$만큼 회전하는 것으로 간주할 수 있다.) 이를 기하학적으로 시각화하기 위해, 반지름이 $\pi$인 3차원 공(solid ball, $B^3$)을 생각하자.4
공의 중심(원점)은 회전 각도가 0인 항등 회전에 대응된다.
공 내부의 한 점은, 원점에서 그 점까지의 방향을 회전 축으로, 원점에서의 거리를 회전 각도로 하는 회전에 대응된다.
공의 경계인 구면($S^2$) 위의 점들은 회전 각도가 $\pi$인 회전들에 해당한다. 그런데, 축 $\mathbf{n}$에 대해 $\pi$만큼 회전하는 것과 축 $-\mathbf{n}$에 대해 $\pi$만큼 회전하는 것은 정확히 동일한 회전이다. 따라서, 구면 위의 서로 마주보는 두 점(antipodal points)은 동일한 회전을 나타내므로, 이들을 동일시해야 한다.
이처럼 반지름 $\pi$인 공의 경계에서 대척점을 동일시하여 만든 공간이 바로 $\mathbb{RP}^3$의 한 모델이며, 이는 $SO(3)$의 위상 공간과 정확히 일치한다.4 “벨트 트릭”에서 축소 불가능한 루프는 이 공의 중심을 통과하여 북극에서 남극으로 가는 경로에 해당한다. 북극과 남극이 동일시되었으므로 이는 닫힌 경로이지만, 두 끝점이 항상 대척점 관계를 유지해야 하므로 점으로 축소될 수 없다.4
$SO(3)$의 비-단순 연결성은 더 깊은 구조, 즉 ‘덮개 공간(covering space)’의 존재를 암시한다.
$SU(2)$ 그룹: $SO(3)$와 밀접하게 관련된 리 군으로, 행렬식이 1인 $2 \times 2$ 유니터리 복소 행렬들의 군이다. \(SU(2) = \left\{ \begin{pmatrix} a & b \\ -\bar{b} & \bar{a} \end{pmatrix} \mid a, b \in \mathbb{C}, |a|^2 + |b|^2 = 1 \right\}\) $a=x_0+ix_1, b=x_2+ix_3$로 두면, $|a|^2+|b|^2=1$ 조건은 $x_0^2+x_1^2+x_2^2+x_3^2=1$과 같으므로, $SU(2)$는 4차원 공간의 단위 구면인 3-초구($S^3$)와 위상동형이다.4
$S^3$는 단순 연결 공간이다.
이중 덮개 (Double Cover): $SU(2)$에서 $SO(3)$로 가는 2-대-1 전사준동형사상(2-to-1 surjective homomorphism)이 존재한다. 이는 $SU(2)$의 두 개의 서로 다른 원소, 즉 $U$와 $-U$가 $SO(3)$의 단 하나의 동일한 회전 원소 $R$에 대응됨을 의미한다.4 이 관계 때문에
$SU(2)$를 $SO(3)$의 이중 덮개(double cover)라고 부른다. $SU(2)$는 단순 연결 공간이므로, $SO(3)$의 보편 덮개 공간(universal covering space)이기도 하다.
스피너 (Spinors)와 양자역학: 이 이중 덮개 구조는 물리적으로 심오한 의미를 가진다. 양자역학에서 입자의 상태는 파동함수로 기술되며, 회전에 따라 이 파동함수도 변환되어야 한다. 보손(boson, 예: 광자)과 같은 정수 스핀을 가진 입자들은 $SO(3)$의 표현에 따라 변환되므로, $360^\circ$ 회전하면 원래 상태로 돌아온다. 그러나 페르미온(fermion, 예: 전자)과 같은 반정수 스핀을 가진 입자들은 $SO(3)$가 아닌, 그 덮개 공간인 $SU(2)$의 표현에 따라 변환된다. 이러한 표현을 스피너(spinor) 표현이라고 한다. $SU(2)$가 $SO(3)$를 두 번 덮기 때문에, 스피너는 물리적 공간이 $360^\circ$ 회전할 때 파동함수에 $-1$의 위상 인자가 곱해지고, $720^\circ$ 회전해야만 비로소 원래의 파동함수로 돌아온다.4
결론적으로, $SO(3)$의 비-단순 연결성이라는 추상적인 위상수학적 사실은 거시 세계에서는 벨트 트릭과 같은 기묘한 현상으로, 미시 세계에서는 물질을 구성하는 기본 입자인 페르미온의 존재와 그 특성을 필연적으로 요구하는, 우리 우주의 근본적인 특징과 직접적으로 연결되어 있다. 우리가 물질 세계를 올바르게 기술하기 위해서는 직접 경험하는 $SO(3)$가 아닌, 그 이면에 숨겨진 보편 덮개 공간 $SU(2)$를 사용해야만 하는 것이다.
$SO(3)$에 대한 깊이 있는 수학적 이해는 다양한 과학 및 공학 분야의 실제 문제를 해결하는 데 필수적인 기반을 제공한다. 로보틱스, 컴퓨터 그래픽스, 항공우주공학 등 서로 다른 분야에서 마주치는 ‘방향’과 관련된 문제들은 본질적으로 $SO(3)$의 원소를 다루는 문제로 귀결된다. 이처럼 $SO(3)$는 이들 분야를 관통하는 공통의 수학적 언어 역할을 하며, 한 분야에서 개발된 해법이 다른 분야에 영감을 주거나 직접 적용되는 지식의 교차 전파를 가능하게 한다.
로봇 공학, 특히 로봇 팔과 같은 매니퓰레이터의 운동을 다루는 데 있어 $SO(3)$ 이론은 핵심적인 역할을 수행한다.
3차원 가상 세계를 다루는 컴퓨터 그래픽스에서 객체의 방향을 표현하고 조작하는 것은 가장 기본적인 작업 중 하나이다.
인공위성, 항공기, 우주선, 미사일 등 비행체의 자세를 정밀하게 결정하고 제어하는 것은 항공우주공학의 핵심 과제이며, 이는 $SO(3)$ 이론의 직접적인 응용 분야이다.
본 보고서는 3차원 특수 직교군 $SO(3)$를 대수적, 기하학적, 위상수학적 관점에서 다각적으로 분석하고, 그 이론이 실제 과학 및 공학 문제에 어떻게 적용되는지를 탐구하였다. 이를 통해 $SO(3)$가 단순히 회전 행렬의 집합을 넘어, 3차원 공간의 기하학적 대칭성을 기술하는 풍부하고 심오한 수학적 구조체임을 확인하였다.
$SO(3)$의 본질은 여러 층위에서 파악될 수 있다.
보고서 전반에 걸쳐 강조되었듯이, $SO(3)$에 대한 추상적인 이론적 특성은 실제 응용 분야의 성능, 안정성, 효율성에 직접적인 영향을 미친다.
이처럼 $SO(3)$ 연구는 가장 추상적인 수학 이론이 어떻게 가장 구체적인 물리적, 공학적 현실을 설명하고 제어하는 데 필수적인 도구가 되는지를 보여주는 강력한 증거이다.
$SO(3)$는 수백 년에 걸쳐 연구되어 온 고전적인 주제이지만, 그 중요성은 현대 과학 기술의 발전에 따라 오히려 더욱 커지고 있다. 특히 인공지능 및 머신러닝 분야에서 새로운 지평이 열리고 있다.
결론적으로, $SO(3)$는 3차원 공간에서의 회전이라는 보편적 현상을 기술하는 시대를 초월하는 근본적인 수학적 구조이다. 그 깊이 있는 이론은 로보틱스에서 양자역학에 이르기까지 우리 세계를 이해하는 데 핵심적인 통찰을 제공해왔으며, 앞으로 다가올 데이터 중심의 과학 기술 시대에서도 변함없이 핵심적인 역할을 수행할 것으로 전망된다.