11.2 리 군의 위상적 구조와 매끄러운 다양체

1. 위상적 구조의 의미

리 군은 단순히 군의 공리를 만족하는 집합이 아니라, 매끄러운 다양체의 위상적 구조를 함께 가진 대상이다. 이 위상적 구조는 리 군의 원소들 사이의 “가까움“과 “연속성“을 정의하며, 미적분학의 도구를 적용할 수 있게 한다. 위상적 구조와 매끄러운 다양체의 이해는 리 군 이론의 깊이 있는 학습을 위한 토대이며, 로봇공학에서 자세 다양체 위의 알고리즘을 설계하는 데 필수적이다.

2. 위상 공간의 기본 개념

2.1 위상 공간의 정의

집합 $X$ 위에 정의된 위상(topology)은 $X$ 의 부분 집합들의 집합 $\mathcal{T}$ 이며, 다음을 만족한다.

$\emptyset \in \mathcal{T}$ 이고 $X \in \mathcal{T}$ 이다.
$\mathcal{T}$ 의 원소들의 임의의 합집합이 $\mathcal{T}$ 에 속한다.
$\mathcal{T}$ 의 유한 개 원소의 교집합이 $\mathcal{T}$ 에 속한다.

$\mathcal{T}$ 의 원소를 열린 집합(open set)이라 한다. 위상 공간 $(X, \mathcal{T})$ 에서 점들 사이의 “가까움“이 열린 집합으로 정의된다.

2.2 연속 사상

두 위상 공간 사이의 사상 $f : X \to Y$ 가 모든 열린 집합 $U \subset Y$ 에 대해 $f^{-1}(U) \subset X$ 가 열린 집합이면, $f$ 는 연속이라 한다. 연속성은 위상적 개념이며, “가까움의 보존“을 의미한다.

2.3 동치 위상 공간(homeomorphism)

두 위상 공간 사이에 일대일이고 위로의 연속 사상 $f$ 가 존재하고, 그 역 $f^{-1}$ 도 연속이면, 두 공간은 위상적으로 동치(homeomorphic)이다. 위상적으로 동치인 공간들은 같은 위상적 구조를 가진다.

3. 매끄러운 다양체의 정의

3.1 차트와 좌표계

다양체 $M$ 의 차트(chart)는 $M$ 의 열린 부분 집합 $U$ 에서 유클리드 공간 $\mathbb{R}^n$ 의 열린 부분 집합으로의 동치 위상 사상 $\varphi : U \to \varphi(U) \subset \mathbb{R}^n$ 이다. 이 사상은 국소적 좌표계를 정의하며, 차트의 점은 $\mathbb{R}^n$ 의 좌표로 표현된다.

3.2 아틀라스

다양체의 아틀라스(atlas)는 모든 점이 적어도 하나의 차트에 의해 다루어지는 차트들의 모임이다.

$\mathcal{A} = \{(U_\alpha, \varphi_\alpha)\}_{\alpha \in A}$

여기서 $\bigcup_\alpha U_\alpha = M$ 이다.

3.3 매끄러운 전이 사상

두 차트의 정의역이 겹치는 영역에서 두 좌표계 사이의 전이 사상이 정의된다.

$\varphi_\beta \circ \varphi_\alpha^{-1} : \varphi_\alpha(U_\alpha \cap U_\beta) \to \varphi_\beta(U_\alpha \cap U_\beta)$

이 전이 사상이 모두 매끄러운(즉, 모든 차수의 미분이 존재하는) 함수이면, 아틀라스를 매끄러운 아틀라스라 한다.

3.4 매끄러운 다양체

매끄러운 아틀라스를 가진 위상 공간을 매끄러운 다양체라 한다. 매끄러움은 미분과 적분의 도구를 적용할 수 있게 한다.

3.5 매끄러운 다양체의 차원

다양체의 차원은 차트가 사상하는 유클리드 공간의 차원이며, 모든 차트에서 같다.

4. 매끄러운 사상

4.1 매끄러운 사상의 정의

두 매끄러운 다양체 $M$ 과 $N$ 사이의 사상 $f : M \to N$ 이 다음을 만족하면 매끄러운 사상이라 한다. 임의의 차트 $(U, \varphi)$ 가 $M$ 위에 있고 $(V, \psi)$ 가 $N$ 위에 있으며 $f(U) \subset V$ 일 때, 좌표 표현 $\psi \circ f \circ \varphi^{-1} : \varphi(U) \to \psi(V)$ 가 매끄러운 함수이다.

이 정의는 매끄러움을 차트의 선택에 무관하게 정의한다.

4.2 미분 동형사상

두 다양체 사이의 일대일이고 위로의 매끄러운 사상이 매끄러운 역을 가질 때, 두 다양체는 미분 동형(diffeomorphic)이라 한다. 미분 동형 다양체는 매끄러운 구조 면에서 같다.

5. 접선 공간

5.1 접선 벡터의 직관

다양체 $M$ 의 점 $p$ 에서의 접선 벡터는 $p$ 를 지나는 매끄러운 곡선의 그 점에서의 속도 벡터로 직관적으로 이해할 수 있다. 형식적으로는 매끄러운 함수에 작용하는 미분 연산자로 정의된다.

5.2 접선 공간

점 $p$ 에서의 접선 벡터들의 집합은 선형 공간을 이루며, 이를 점 $p$ 에서의 접선 공간 $T_pM$ 이라 한다. 접선 공간의 차원은 다양체의 차원과 같다.

5.3 접선 다발

다양체의 모든 점에서의 접선 공간의 합집합을 접선 다발(tangent bundle)이라 한다.

$TM = \bigsqcup_{p \in M} T_pM$

접선 다발 자체도 매끄러운 다양체이며, 차원은 $2\dim(M)$ 이다.

6. 리 군의 매끄러운 다양체 구조

6.1 리 군은 매끄러운 다양체

정의에 의해 리 군은 매끄러운 다양체이다. 이는 리 군 위에 미적분학을 적용할 수 있게 한다. 매끄러운 함수, 매끄러운 곡선, 접선 공간, 미분 등의 모든 개념이 정의된다.

6.2 군 연산의 매끄러움

리 군의 정의는 군 연산이 매끄러운 사상이어야 함을 요구한다. 즉, 곱셈 사상

$m : G \times G \to G, \quad m(g, h) = g \cdot h$

과 역원 사상

$i : G \to G, \quad i(g) = g^{-1}$

이 모두 매끄러운 함수이다.

이 매끄러움이 다양체 구조와 군 구조를 양립시킨다.

7. 항등원에서의 접선 공간

7.1 특별한 의미

리 군의 항등원 $e$ 에서의 접선 공간 $T_eG$ 는 특별한 의미를 가진다. 리 군의 좌측 곱이나 우측 곱을 사용하여 한 점의 접선 공간을 다른 점으로 평행 이동할 수 있으며, 항등원에서의 접선 공간이 모든 점의 접선 공간을 표현한다.

7.2 리 대수와의 관계

항등원에서의 접선 공간 $T_eG$ 가 리 군의 리 대수 $\mathfrak{g}$ 이다.

$\mathfrak{g} = T_eG$

리 대수는 선형 공간이며, 추가로 리 괄호라는 이항 연산을 가진다.

8. 좌측 불변 벡터장

8.1 정의

리 군의 매끄러운 벡터장(접선 벡터를 매 점에 할당하는 매끄러운 사상)이 좌측 곱에 의해 불변일 때, 좌측 불변 벡터장이라 한다. 즉, 모든 $g, h \in G$ 에 대해

$(L_g)_*X_h = X_{g \cdot h}$

여기서 $(L_g)_*$ 는 좌측 곱의 미분이다.

8.2 리 대수와의 일대일 대응

좌측 불변 벡터장은 항등원에서의 접선 벡터에 의해 완전히 결정된다. 즉, 좌측 불변 벡터장과 $\mathfrak{g}$ 사이에 일대일 대응이 존재한다. 이로 인해 리 대수를 좌측 불변 벡터장의 집합으로 정의하기도 한다.

9. 우측 불변 벡터장

마찬가지로 우측 곱에 의해 불변인 우측 불변 벡터장도 정의된다. 리 군이 비가환이면 좌측 불변 벡터장과 우측 불변 벡터장이 일반적으로 다르며, 이로부터 좌측 야코비안과 우측 야코비안의 구분이 발생한다.

10. 리 군의 위상적 성질

10.1 연결성

리 군이 위상적으로 연결되어 있으면 연결 리 군이라 한다. 연결되지 않은 리 군의 경우 항등 성분이 정규 부분 군이 된다.

10.2 콤팩트성

리 군이 콤팩트하면 콤팩트 리 군이라 한다. 콤팩트 리 군은 다양한 좋은 성질을 가지며, 표현론에서 중요한 역할을 한다.

10.3 단순 연결성

리 군이 연결되어 있고 모든 닫힌 곡선이 한 점으로 수축할 수 있으면 단순 연결이라 한다. 비단순 연결 리 군은 단순 연결 덮개를 가진다.

11. 주요 리 군의 위상적 구조

11.1 $SO(2)$

$SO(2)$ 는 1차원 리 군이며, 위상적으로 원 $S^1$ 과 동치이다. 연결되어 있고 콤팩트하며, 단순 연결되지 않는다(기본 군은 $\mathbb{Z}$ ).

11.2 $SO(3)$

$SO(3)$ 은 3차원 리 군이며, 위상적으로 실 사영 공간 $\mathbb{RP}^3$ 과 동치이다. 연결되어 있고 콤팩트하지만, 단순 연결되지 않는다(기본 군은 $\mathbb{Z}_2$ ).

11.3 $SU(2)$

$SU(2)$ 는 3차원 리 군이며, 위상적으로 3차원 구 $S^3$ 와 동치이다. 연결되어 있고 콤팩트하며, 단순 연결되어 있다. $SU(2)$ 는 $SO(3)$ 의 보편 덮개이다.

11.4 $SE(3)$

$SE(3)$ 은 6차원 리 군이며, 위상적으로 $SO(3) \times \mathbb{R}^3$ 과 동치이다. 연결되어 있지만 콤팩트하지 않으며(병진 부분), 단순 연결되지 않는다.

11.5 $\mathbb{R}^n$

$\mathbb{R}^n$ 은 $n$ 차원 리 군이며, 위상적으로 자기 자신과 동치이다. 연결되어 있고 단순 연결이지만, 콤팩트하지 않는다.

12. 회전군의 위상적 비자명성

12.1 $SO(3)$ 의 위상

3차원 회전군 $SO(3)$ 의 위상은 직관에 반하는 흥미로운 성질을 가진다. 다음의 사실이 있다.

모든 회전은 어떤 축 주위의 회전으로 표현할 수 있다(오일러의 회전 정리).
회전 각도가 $\pi$ 를 넘으면 반대 축 주위의 작은 회전으로 표현할 수 있다.
따라서 회전 공간은 반지름 $\pi$ 인 닫힌 공의 표면에서 대각 점들이 동일시된 공간이다.

이로부터 $SO(3)$ 이 실 사영 공간 $\mathbb{RP}^3$ 과 동치임이 확인된다.

12.2 단순 연결성의 결여

$SO(3)$ 의 비단순 연결성은 다음과 같이 직관적으로 이해할 수 있다. $2\pi$ 회전은 항등 회전과 같지만, $2\pi$ 회전의 경로는 항등 회전의 상수 경로로 연속적으로 변형될 수 없다. 그러나 $4\pi$ 회전의 경로는 항등 회전의 상수 경로로 변형될 수 있다(디랙의 가위 묘기).

이로 인해 $SO(3)$ 의 기본 군은 $\mathbb{Z}_2$ 이다.

12.3 이중 덮개와 쿼터니언

$SO(3)$ 의 단순 연결 덮개는 $SU(2)$ 이며, 이는 단위 쿼터니언 군과 동형이다. 즉, 단위 쿼터니언이 회전을 이중으로 표현하는 것은 위상적 사실에서 비롯된다.

13. 강체 변환군의 위상적 구조

13.1 $SE(3)$ 의 위상

$SE(3)$ 은 회전과 병진의 결합이며, 위상적으로 $SO(3)$ 과 $\mathbb{R}^3$ 의 곱이다. 다만 군 구조는 단순한 곱 군이 아니라 반곱(semi-direct product)이다.

$SE(3) \cong SO(3) \ltimes \mathbb{R}^3$

13.2 비콤팩트성

$SE(3)$ 은 콤팩트하지 않다. 이는 병진 부분 $\mathbb{R}^3$ 이 무한대로 확장되기 때문이다. 비콤팩트성은 알고리즘 설계 시 고려할 사항을 제공한다.

14. 다양체 위의 측도와 적분

14.1 하르 측도

리 군에는 좌측 불변 측도(또는 우측 불변 측도)가 존재한다. 이를 하르 측도(Haar measure)라 한다. 콤팩트 리 군에서는 좌측과 우측 하르 측도가 일치하며, 정규화될 수 있다.

하르 측도는 리 군 위에서의 적분을 정의하며, 표현론과 통계적 추정에 사용된다.

14.2 회전군 위의 적분

$SO(3)$ 에는 정규화된 하르 측도가 존재하며, 회전 분포를 다룰 때 사용된다. 균일 분포의 회전을 생성하는 데에도 활용된다.

15. 리 군의 매개변수화

15.1 국소 매개변수화

차트는 리 군의 국소 매개변수화이다. 한 차트가 리 군의 일부를 유클리드 공간의 좌표로 표현한다.

15.2 전역 매개변수화의 한계

연결되지 않거나 단순 연결되지 않은 리 군은 단일 매개변수화로 모든 원소를 매끄럽게 표현할 수 없다. 이는 위상적 제약이며, 자세 표현의 특이점 문제와 직접 관련된다.

15.3 자세 표현의 특이점

오일러 각, 로드리게스 매개변수 등 3 매개변수 표현은 $SO(3)$ 의 매끄러운 전역 매개변수화가 아니다. 이로 인해 짐벌 락이나 발산 등의 특이점이 발생한다. 4 매개변수 표현(쿼터니언)은 $S^3$ 위의 매개변수화이며, 매끄럽지만 이중 포복의 대가가 있다.

16. 매끄러운 곡선

16.1 정의

매끄러운 다양체 위의 매끄러운 곡선은 매끄러운 사상 $\gamma : I \to M$ 이며, 여기서 $I$ 는 실수 직선의 구간이다. 곡선의 매 점에서 접선 벡터가 정의된다.

16.2 매개 변수 부분 군

리 군 위의 매끄러운 곡선 중 $\gamma(0) = e$ 이고 $\gamma(s+t) = \gamma(s) \cdot \gamma(t)$ 를 만족하는 곡선을 1매개 변수 부분 군(one-parameter subgroup)이라 한다. 1매개 변수 부분 군은 리 대수의 한 원소에 의해 결정되며, 지수 사상으로 생성된다.

17. 응용에서의 위상적 고려

17.1 자세 추정의 다양체 처리

자세 추정 알고리즘에서 자세는 $SO(3)$ 또는 $S^3$ 위의 점이며, 추정값이 다양체 위에 머물러야 한다. 이를 위해 다양체 위의 적절한 갱신 규칙이 사용된다.

17.2 운동 계획의 측지선

운동 계획에서 다양체 위의 측지선이 자연스러운 경로이다. $SO(3)$ 위의 측지선이 SLERP 보간이다.

17.3 학습 기반 방법

학습 기반 방법에서 회전이나 자세를 출력할 때 다양체 구조를 고려해야 한다. 단순한 유클리드 출력은 다양체를 벗어날 수 있다.

18. 위상적 구조의 학습 가치

리 군의 위상적 구조를 이해하는 것은 다음과 같은 이점을 제공한다.

자세 표현의 한계와 가능성을 명확히 이해할 수 있다.
알고리즘이 다양체 구조를 어떻게 이용하는지 알 수 있다.
새로운 알고리즘 설계 시 위상적 제약을 고려할 수 있다.
학술 문헌의 깊이 있는 이해가 가능하다.

19. 참고 문헌

Hall, B. C. (2015). Lie Groups, Lie Algebras, and Representations: An Elementary Introduction (2nd ed.). Springer.
Lee, J. M. (2012). Introduction to Smooth Manifolds (2nd ed.). Springer.
Warner, F. W. (1983). Foundations of Differentiable Manifolds and Lie Groups. Springer.
Stillwell, J. (2008). Naive Lie Theory. Springer.
Munkres, J. R. (2000). Topology (2nd ed.). Prentice Hall.

version: 1.0