9.67 카일리 변환(Cayley Transform)과 회전 행렬

9.67 카일리 변환(Cayley Transform)과 회전 행렬

1. 카일리 변환의 개념

카일리 변환(Cayley transform)은 19세기 영국의 수학자 아서 카일리(Arthur Cayley)가 도입한 행렬 변환이다. 이 변환은 반대칭 행렬을 직교 행렬로 매핑하며, SO(3)의 매개화에 사용된다. 카일리 변환은 행렬 지수 사상의 대안으로서, 더 단순한 대수적 형태를 가지면서도 회전을 효과적으로 표현한다.

2. 카일리 변환의 정의

2.1 일반 형태

카일리 변환은 임의의 반대칭 행렬 \mathbf{A} (\mathbf{A}^T = -\mathbf{A})에 대해 다음과 같이 정의된다.

\mathbf{R} = (\mathbf{I} - \mathbf{A})^{-1}(\mathbf{I} + \mathbf{A}) = (\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}

두 형태가 동일한 결과를 산출하며, 이는 (\mathbf{I} - \mathbf{A})와 (\mathbf{I} + \mathbf{A})가 가환하기 때문이다.

2.2 역 카일리 변환

카일리 변환의 역은 다음과 같다.

\mathbf{A} = (\mathbf{R} - \mathbf{I})(\mathbf{R} + \mathbf{I})^{-1} = (\mathbf{R} + \mathbf{I})^{-1}(\mathbf{R} - \mathbf{I})

이는 직교 행렬 \mathbf{R}로부터 반대칭 행렬을 추출하는 사상이다.

3. 카일리 변환의 결과가 직교 행렬임

카일리 변환의 결과가 직교 행렬임을 다음과 같이 확인할 수 있다.

\mathbf{R}^T\mathbf{R} = [(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}]^T(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}

\mathbf{A}^T = -\mathbf{A}를 사용하면

= (\mathbf{I} - \mathbf{A})^{-T}(\mathbf{I} + \mathbf{A})^T(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}

= (\mathbf{I} + \mathbf{A})^{-1}(\mathbf{I} - \mathbf{A})(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}

(\mathbf{I} - \mathbf{A})(\mathbf{I} + \mathbf{A}) = \mathbf{I} - \mathbf{A}^2 = (\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})이므로

= (\mathbf{I} + \mathbf{A})^{-1}(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1} = \mathbf{I}

따라서 \mathbf{R}이 직교 행렬이다.

4. 행렬식이 양인 경우

카일리 변환의 결과가 행렬식이 양(\det(\mathbf{R}) = +1)임을 확인하려면 다음을 사용한다. \mathbf{A}가 0인 경우 \mathbf{R} = \mathbf{I}이고 \det(\mathbf{R}) = 1이다. \mathbf{A}가 연속적으로 변할 때 \det(\mathbf{R})이 연속적으로 변하므로, 항상 \det(\mathbf{R}) = +1이 유지된다(연속성 논증).

따라서 카일리 변환은 반대칭 행렬을 SO(3)로 매핑한다.

5. 차원에서의 명시적 형태

3차원의 경우 반대칭 행렬은 3개의 매개변수로 표현된다.

\mathbf{A} = [\mathbf{g}]_\times = \begin{bmatrix}0 & -g_3 & g_2 \\ g_3 & 0 & -g_1 \\ -g_2 & g_1 & 0\end{bmatrix}

여기서 \mathbf{g} = (g_1, g_2, g_3)^T는 깁스 벡터(Gibbs vector) 또는 고전적 로드리게스 파라미터(CRP)이다. 카일리 변환을 직접 계산하면

\mathbf{R} = \frac{1}{1 + \lVert \mathbf{g} \rVert^2}\left[(1 - \lVert \mathbf{g} \rVert^2)\mathbf{I} + 2\mathbf{g}\mathbf{g}^T + 2[\mathbf{g}]_\times\right]

이 된다. 이것이 깁스 벡터로부터 회전 행렬을 산출하는 닫힌 형태이다.

6. 카일리 변환과 깁스 벡터의 관계

카일리 변환을 통해 회전 행렬과 일대일 대응되는 매개변수가 깁스 벡터이다. 깁스 벡터는 다음과 같이 회전 축과 회전 각으로 표현된다.

\mathbf{g} = \tan(\phi/2)\hat{\mathbf{u}}

이는 9.65에서 다룬 고전적 로드리게스 파라미터(CRP)와 동일하다.

6.1 회전 각의 회복

깁스 벡터의 크기로부터 회전 각을 회복할 수 있다.

\phi = 2\arctan(\lVert \mathbf{g} \rVert)

6.2 회전 축의 회복

깁스 벡터의 방향이 회전 축이다.

\hat{\mathbf{u}} = \mathbf{g}/\lVert \mathbf{g} \rVert

7. 카일리 변환의 특이점

7.1 \phi = \pi에서의 발산

카일리 변환은 \phi = \pi(180도 회전)에서 발산한다. 이는 \tan(\pi/2) = \infty이기 때문이다. 따라서 깁스 벡터는 180도 회전을 표현할 수 없다.

7.2 (\mathbf{R} + \mathbf{I})의 가역성

역 카일리 변환에서 (\mathbf{R} + \mathbf{I})가 가역이어야 한다. \phi = \pi일 때 \mathbf{R} + \mathbf{I}의 한 고유값이 0이 되어 비가역이 된다. 이는 카일리 변환의 본질적 특이점이다.

8. 카일리 변환의 응용

8.1 SO(3)의 국소 매개화

\phi < \pi의 영역에서 카일리 변환은 SO(3)의 매끄러운 매개화를 제공한다. 행렬 지수 사상보다 단순한 대수적 형태(분수 형태)를 가지므로, 일부 응용에서 더 효율적이다.

8.2 비선형 최적화

깁스 벡터가 자유 매개변수이므로, 작은 회전을 포함하는 최적화 문제에 사용된다. 단, 큰 회전이 발생할 수 있는 경우 MRP나 다른 매개화가 더 적절하다.

8.3 회전 그룹 평균화

여러 회전의 평균을 구할 때 깁스 벡터에서 평균을 취한 후 카일리 변환을 적용하는 방법이 있다. 단, 이는 정확한 회전 평균이 아니라 근사이다.

8.4 강체 등록

ICP(Iterative Closest Point) 알고리즘의 일부 변형에서 카일리 변환이 사용된다.

9. 카일리 변환과 행렬 지수의 비교

특성카일리 변환행렬 지수
정의(\mathbf{I} + \mathbf{A})(\mathbf{I} - \mathbf{A})^{-1}\sum_k \mathbf{A}^k/k!
닫힌 형태분수식로드리게스 공식
매개변수깁스 벡터 (\tan(\phi/2)\hat{\mathbf{u}})회전 벡터 (\phi\hat{\mathbf{u}})
특이점\phi = \pi\phi 무관 (지수는 항상 정의됨)
합성복잡BCH 공식
계산 비용행렬 역 1회삼각 함수

행렬 지수가 더 일반적이고 특이점이 없지만, 카일리 변환은 일부 대수적 처리에서 더 단순한 형태를 가진다.

10. 카일리 변환의 일반화

10.1 고차원 카일리 변환

카일리 변환은 임의의 차원에서 정의되며, n차원 반대칭 행렬을 SO(n)의 원소로 매핑한다. 4차원, 5차원 등에서도 적용 가능하다.

10.2 듀얼 카일리 변환

SE(3)의 일반화된 카일리 변환은 듀얼 수(dual number)와 결합하여 정의될 수 있다. 이는 강체 변환의 매개화에 사용된다.

10.3 분수 선형 변환과의 관계

카일리 변환은 사영 기하학의 분수 선형 변환(Möbius transformation)과 같은 형태이다. 두 영역에서 카일리 변환은 비슷한 성질(원을 직선으로, 직선을 원으로 매핑 등)을 보인다.

11. 카일리 변환의 역사적 의의

아서 카일리는 1846년의 논문에서 카일리 변환을 도입하였다. 원래 동기는 직교 행렬을 더 단순한 대수적 형태로 표현하는 것이었다. 19세기의 회전 표현 연구에서 카일리 변환과 깁스 벡터가 중요한 역할을 했으며, 20세기 이후 행렬 지수와 쿼터니언이 주류가 되면서 카일리 변환의 중요성이 상대적으로 감소했다. 그러나 카일리 변환은 여전히 일부 응용 분야에서 사용되며, 행렬 지수의 대안으로 가치를 인정받는다.

12. 카일리 변환의 한계

12.1 도 회전의 표현 불가

카일리 변환은 \phi = \pi에서 발산하므로, 정확한 180도 회전을 표현할 수 없다. 이는 실제 응용에서 심각한 제한이 된다.

12.2 큰 회전에서의 수치 문제

\phi가 \pi에 가까울 때 깁스 벡터의 크기가 매우 커지고, 카일리 변환의 분모가 작아져 수치 오차가 커진다.

12.3 합성의 복잡성

깁스 벡터의 합성은 단순한 벡터 합이 아니라 다음의 복잡한 식을 따른다.

\mathbf{g}_{\text{합성}} = \frac{\mathbf{g}_1 + \mathbf{g}_2 + \mathbf{g}_1 \times \mathbf{g}_2}{1 - \mathbf{g}_1^T\mathbf{g}_2}

이는 회전 행렬 곱이나 쿼터니언 곱보다 복잡하다.

13. 카일리 변환과 다른 표현법의 비교

표현법닫힌 형태특이점계산 복잡도
카일리 변환 (CRP)분수식\phi = \pi중간
MRP분수식\phi = 2\pi중간
회전 행렬직접없음중
쿼터니언곱\pm 이중성낮음
회전 벡터행렬 지수\phi = \pi 표면높음 (삼각 함수)

14. 참고 문헌

  • Cayley, A. (1846). “Sur quelques propriétés des déterminants gauches.” Journal für die reine und angewandte Mathematik, 32, 119–123.
  • Shuster, M. D. (1993). “A Survey of Attitude Representations.” Journal of the Astronautical Sciences, 41(4), 439–517.
  • Weiss, H., Frommer, A., & Stoll, M. (2009). “On Solutions and Conditioning of the Cayley Transform Equation.” SIAM Journal on Matrix Analysis and Applications, 30(2), 727–744.
  • Selig, J. M. (2005). Geometric Fundamentals of Robotics (2nd ed.). Springer.
  • Schaub, H., & Junkins, J. L. (2014). Analytical Mechanics of Space Systems (3rd ed.). AIAA.

version: 1.0