6.62 기저 변환과 닮음 변환

1. 도입

선형 변환의 행렬 표현은 정의역과 공역의 기저에 따라 달라지지만, 그 표현이 기술하는 사상 자체는 좌표계의 선택과 무관한 본질적 객체이다. 한 기저에서의 좌표 표현을 다른 기저에서의 좌표 표현으로 옮기는 절차가 기저 변환(change of basis)이며, 같은 선형 변환의 두 행렬 표현을 연결하는 결과가 닮음 변환(similarity transformation)이다. 이 두 개념은 좌표 의존적 표현과 좌표 독립적 의미 사이의 다리를 제공하며, 고유값 이론, 대각화, 좌표계 변환, 그리고 로봇공학의 기구학적 표현 변환에 이르기까지 광범위하게 활용된다. 이 절에서는 기저 변환 행렬의 정의와 성질, 좌표 변환과 행렬 표현의 변환, 닮음 변환의 정의와 불변량, 그리고 로봇공학에서의 응용을 다룬다.

2. 기저 변환 행렬의 정의

벡터 공간 $V$ 의 두 기저 $\mathcal{B} = \{\mathbf{b}_1, \mathbf{b}_2, \ldots, \mathbf{b}_n\}$ 과 $\mathcal{B}' = \{\mathbf{b}_1', \mathbf{b}_2', \ldots, \mathbf{b}_n'\}$ 이 주어졌다고 하자. 새 기저 $\mathcal{B}'$ 의 각 벡터를 옛 기저 $\mathcal{B}$ 로 표현하면

$\mathbf{b}_j' = \sum_{i=1}^{n} p_{ij} \mathbf{b}_i, \qquad j = 1, 2, \ldots, n$

이고, 계수 $p_{ij}$ 를 모은 행렬

$P = [\,[\mathbf{b}_1']_{\mathcal{B}} \;\; [\mathbf{b}_2']_{\mathcal{B}} \;\; \cdots \;\; [\mathbf{b}_n']_{\mathcal{B}}\,] \in \mathbb{R}^{n \times n}$

을 $\mathcal{B}'$ 에서 $\mathcal{B}$ 로의 기저 변환 행렬(change of basis matrix)이라 한다. 이 행렬의 $j$ 번째 열은 새 기저 벡터 $\mathbf{b}_j'$ 의 옛 기저 $\mathcal{B}$ 에 대한 좌표 벡터이다.

3. 기저 변환 행렬의 가역성

정리. 기저 변환 행렬 $P$ 는 항상 가역이다.

증명 개요. $\mathcal{B}'$ 의 벡터들은 일차 독립이므로 그 좌표 벡터들 또한 일차 독립이다. 따라서 $P$ 의 열들은 일차 독립이고, $P$ 는 만랭크 정사각 행렬이므로 가역이다. $\blacksquare$

또한 역행렬 $P^{-1}$ 은 $\mathcal{B}$ 에서 $\mathcal{B}'$ 로의 기저 변환 행렬이다. 이는 두 기저 사이의 변환이 양방향성을 가짐을 보여 준다.

4. 좌표 벡터의 변환

같은 벡터를 두 기저에서 표현한 좌표 사이에는 다음의 관계가 성립한다.

정리. 임의의 $\mathbf{x} \in V$ 에 대하여

$[\mathbf{x}]_{\mathcal{B}} = P \, [\mathbf{x}]_{\mathcal{B}'}$

이 성립한다. 동치적으로

$[\mathbf{x}]_{\mathcal{B}'} = P^{-1} [\mathbf{x}]_{\mathcal{B}}$

이다.

증명. $[\mathbf{x}]_{\mathcal{B}'} = (c_1', c_2', \ldots, c_n')^\top$ 이라 하면 $\mathbf{x} = \sum_j c_j' \mathbf{b}_j'$ 이다. 각 $\mathbf{b}_j' = \sum_i p_{ij} \mathbf{b}_i$ 를 대입하면

$\mathbf{x} = \sum_{j} c_j' \sum_{i} p_{ij} \mathbf{b}_i = \sum_{i} \left( \sum_{j} p_{ij} c_j' \right) \mathbf{b}_i$

이고, $\mathcal{B}$ 에 대한 $\mathbf{x}$ 의 좌표는 $[\mathbf{x}]_{\mathcal{B},i} = \sum_j p_{ij} c_j' = (P [\mathbf{x}]_{\mathcal{B}'})_i$ 이다. $\blacksquare$

이 결과는 흥미로운 점을 시사한다. 새 기저 벡터를 옛 기저로 표현하는 행렬 $P$ 는 좌표를 새 기저에서 옛 기저로 옮기는 사상으로 작용하며, 그 방향은 기저 자체의 변환 방향과 반대이다. 이러한 반대 변환의 성질은 좌표가 기저에 대해 반변(contravariant)이라는 사실의 표현이다.

5. 선형 변환의 행렬 표현 변환

같은 선형 변환의 두 행렬 표현이 어떻게 연결되는지를 다음의 정리가 기술한다.

정리. $T : V \to V$ 가 선형 변환이고 $\mathcal{B}$ , $\mathcal{B}'$ 가 $V$ 의 두 기저라 하자. $P$ 를 $\mathcal{B}'$ 에서 $\mathcal{B}$ 로의 기저 변환 행렬이라 하면

$[T]_{\mathcal{B}'} = P^{-1} [T]_{\mathcal{B}} P$

가 성립한다.

증명. 임의의 $\mathbf{x} \in V$ 에 대하여

$[T(\mathbf{x})]_{\mathcal{B}'} = P^{-1} [T(\mathbf{x})]_{\mathcal{B}} = P^{-1} [T]_{\mathcal{B}} [\mathbf{x}]_{\mathcal{B}} = P^{-1} [T]_{\mathcal{B}} P [\mathbf{x}]_{\mathcal{B}'}$

이 성립한다. 한편 정의에 의하여 $[T(\mathbf{x})]_{\mathcal{B}'} = [T]_{\mathcal{B}'} [\mathbf{x}]_{\mathcal{B}'}$ 이므로 임의의 좌표 벡터에 대한 작용이 일치하며, 따라서 $[T]_{\mathcal{B}'} = P^{-1} [T]_{\mathcal{B}} P$ 이다. $\blacksquare$

이 등식은 닮음 변환의 정의 그 자체이며, 동일한 선형 변환의 모든 행렬 표현이 닮음 동치류를 형성함을 보여 준다.

6. 일반적 경우의 변환

정의역과 공역이 다른 경우, 표현 행렬의 변환은 두 개의 기저 변환 행렬을 동시에 사용하여 기술된다. $T : V \to W$ 이고 $V$ , $W$ 각각에서 두 기저 쌍 $(\mathcal{B}, \mathcal{B}')$ , $(\mathcal{C}, \mathcal{C}')$ 가 주어졌다고 하자. $P = [I_V]_{\mathcal{B} \leftarrow \mathcal{B}'}$ , $Q = [I_W]_{\mathcal{C} \leftarrow \mathcal{C}'}$ 라 하면

$[T]_{\mathcal{C}' \leftarrow \mathcal{B}'} = Q^{-1} [T]_{\mathcal{C} \leftarrow \mathcal{B}} P$

가 성립한다. 이 변환은 일반적으로 닮음 변환이 아니라 동치 변환(equivalence transformation)이라 불리며, 정사각 행렬의 닮음 관계를 직사각 행렬로 일반화한 것이다.

7. 닮음 변환의 정의

정의. 두 정사각 행렬 $A, B \in \mathbb{R}^{n \times n}$ 가 닮음이라는 것은 어떤 가역 행렬 $P$ 가 존재하여

$B = P^{-1} A P$

가 성립하는 것을 말하며, 이를 $A \sim B$ 로 표기한다. 닮음 관계는 동치 관계이다. 즉, 다음의 세 가지 성질을 가진다.

반사성: $A \sim A$ (단위 행렬을 $P$ 로 잡는다).
대칭성: $A \sim B$ 이면 $B \sim A$ ( $P$ 대신 $P^{-1}$ 을 사용한다).
추이성: $A \sim B$ 이고 $B \sim C$ 이면 $A \sim C$ .

닮음은 정사각 행렬을 동치류로 분할하며, 각 동치류 안의 모든 행렬은 본질적으로 같은 선형 변환을 서로 다른 기저로 표현한 것이다.

8. 닮음 변환의 불변량

같은 선형 변환의 표현으로서, 닮음 행렬들은 좌표계 선택과 무관한 다음의 양들을 공유한다.

행렬식: $\det(P^{-1} A P) = \det(P^{-1}) \det(A) \det(P) = \det(A)$
트레이스: $\mathrm{tr}(P^{-1} A P) = \mathrm{tr}(A P P^{-1}) = \mathrm{tr}(A)$
특성 다항식: $\det(\lambda I - P^{-1} A P) = \det(P^{-1}(\lambda I - A) P) = \det(\lambda I - A)$
고유값: 특성 다항식이 같으므로 고유값이 같다(중복도 포함).
랭크: $\mathrm{rank}(P^{-1} A P) = \mathrm{rank}(A)$
최소 다항식: 최소 다항식 또한 닮음 불변량이다.
조르단 표준형: 닮음 행렬들은 같은 조르단 표준형을 공유한다(블록 순서를 제외하면 유일).

이 불변량들은 모두 행렬이 표현하는 선형 변환의 본질적 성질이며, 좌표계 선택과 독립적이다. 한편 행렬의 개별 성분, 대각합과 행렬식을 제외한 일반적인 행렬 성분은 닮음 불변량이 아니다.

9. 닮음 불변이 아닌 양

다음 양들은 닮음 불변량이 아니다.

개별 성분: 일반적으로 $A \sim B$ 여도 $A_{ij} \neq B_{ij}$ 이다.
대칭성: 대칭 행렬과 닮음인 행렬이 반드시 대칭이 되지는 않는다(직교 닮음의 경우는 예외).
노름: 일반적으로 $\|A\| \neq \|P^{-1} A P\|$ 이다(직교 닮음의 경우는 예외).
영 공간 자체와 열 공간 자체: 부분 공간으로서는 다르지만, 차원은 보존된다.

이러한 차이는 닮음 변환이 좌표를 바꾸는 연산이지 사상의 본질을 바꾸는 연산이 아님을 다시 한 번 강조한다.

10. 직교 닮음

특별한 경우로서, 기저 변환 행렬 $P$ 가 직교 행렬, 즉 $P^\top = P^{-1}$ 인 경우의 닮음 변환을 직교 닮음(orthogonal similarity)이라 한다. 이 경우 변환은

$B = P^\top A P$

의 형태를 가지며, 다음의 추가 성질을 가진다.

대칭성 보존: $A$ 가 대칭이면 $B$ 도 대칭이다.
노름 보존: $\|A\|_2 = \|B\|_2$ , $\|A\|_F = \|B\|_F$ .
양정치성 보존: $A$ 가 양정치이면 $B$ 도 양정치이다.

이러한 성질은 직교 닮음이 정규 직교 기저 사이의 변환에 해당하기 때문이며, 스펙트럼 정리와 주축 정리의 토대가 된다.

11. 대각화와 닮음

선형 변환이 대각화 가능하다는 것은 적절한 기저를 선택하면 그 행렬 표현이 대각 행렬이 되는 것을 의미한다. 즉, 어떤 가역 행렬 $P$ 에 대하여

$P^{-1} A P = D$

가 성립하며, 여기서 $D$ 는 대각 행렬이고 $P$ 의 열은 $A$ 의 고유 벡터로 구성된다. 이는 행렬을 가장 단순한 형태로 표현하기 위해 기저를 선택하는 가장 친숙한 예시이다.

12. 일반화된 표준형

대각화가 불가능한 일반적 정사각 행렬에 대해서도 적절한 닮음 변환을 통하여 표준형을 얻을 수 있다. 대표적 예로 조르단 표준형은 임의의 복소 정사각 행렬이 조르단 블록의 직합 형태와 닮음임을 보장한다. 실수 행렬의 경우 실수 조르단 표준형이 도입되며, 이는 회전 부분 공간을 보존한 형태이다.

13. 추상 벡터 공간의 사례

기저 변환과 닮음의 개념은 추상 벡터 공간의 선형 변환에도 동일하게 적용된다.

다항식 공간의 미분 작용소: 단항식 기저와 다른 다항식 기저(예: 르장드르 다항식, 체비셰프 다항식) 사이의 기저 변환을 통하여 미분 작용소의 행렬 표현이 변환된다.
푸리에 기저: 함수 공간의 표준 기저와 푸리에 기저 사이의 변환은 시간 영역과 주파수 영역의 좌표 변환에 해당한다.
고유 함수 기저: 미분 방정식의 해 공간에서 고유 함수 기저를 선택하면 작용소가 대각화되며, 이는 변수 분리법의 본질이다.

14. 로봇공학에서의 응용

14.1 좌표계 사이의 변환

로봇 시스템에서는 세계 좌표계, 베이스 좌표계, 관절 좌표계, 말단 효과기 좌표계, 카메라 좌표계 등 다수의 좌표계가 사용된다. 한 좌표계에서 다른 좌표계로 좌표를 변환하는 행렬은 본질적으로 기저 변환 행렬이며, 회전 행렬과 동차 변환 행렬이 그 표현이다.

14.2 관성 텐서의 좌표 변환

강체의 관성 텐서 $I$ 는 본질적으로 좌표 독립적인 객체이지만, 그 행렬 표현은 좌표계에 따라 다르다. 좌표계가 회전 행렬 $R$ 로 회전한 경우, 새 좌표계에서의 관성 행렬은

$I' = R^\top I R$

이며, 이는 직교 닮음의 형태이다. 주축 정리는 적절한 회전 행렬을 선택하면 관성 행렬을 대각 행렬로 만들 수 있음을 보장하며, 이때 대각 성분이 주관성 모멘트이고 회전 행렬의 열이 주축 방향이다.

14.3 자코비안의 좌표계 의존성

매니퓰레이터의 자코비안은 작업 좌표계의 선택에 의존한다. 작업 좌표계가 변경되면 자코비안의 행렬 표현은 그에 따라 닮음 또는 일반 동치 변환의 형태로 변환된다. 이 변환을 명시적으로 다루는 것은 작업 좌표계 변경 시의 제어 알고리즘 설계에 본질적이다.

14.4 모드 좌표 변환

진동 분석에서 물리 좌표와 모드 좌표 사이의 변환은 기저 변환의 한 예이다. 모드 행렬 $\Phi$ 를 사용하여

$\mathbf{u} = \Phi \boldsymbol{\eta}$

로 변환하면, 질량 행렬과 강성 행렬은 동시에 대각화되며 운동 방정식이 분리된다. 이는 모드 해석의 수학적 토대이다.

14.5 상태 공간 변환

선형 제어 이론에서 상태 변수의 선택은 임의의 선형 변환을 통하여 변경될 수 있다. 새 상태 $\mathbf{z} = T\mathbf{x}$ 로 변환하면, 시스템 행렬은 닮음 변환을 거쳐 $T A T^{-1}$ 이 되며, 이를 통하여 가제어 표준형, 가관측 표준형, 모달 표준형 등 다양한 표준형이 도출된다. 이러한 표준형은 제어기와 추정기 설계의 분석에 활용된다.

14.6 카메라 좌표계와 영상 좌표계

컴퓨터 시각에서 세계 좌표, 카메라 좌표, 영상 좌표 사이의 변환은 일련의 좌표 변환으로 기술되며, 각 단계의 변환 행렬은 외부 매개 변수와 내부 매개 변수를 포함한다. 각 좌표계 변환은 본질적으로 기저 변환의 응용이다.

참고문헌

Strang, G. (2023). Introduction to Linear Algebra (6th ed.). Wellesley-Cambridge Press.
Axler, S. (2024). Linear Algebra Done Right (4th ed.). Springer.
Meyer, C. D. (2023). Matrix Analysis and Applied Linear Algebra (2nd ed.). SIAM.
Hoffman, K., & Kunze, R. (1971). Linear Algebra (2nd ed.). Prentice-Hall.
Horn, R. A., & Johnson, C. R. (2012). Matrix Analysis (2nd ed.). Cambridge University Press.
Siciliano, B., Sciavicco, L., Villani, L., & Oriolo, G. (2010). Robotics: Modelling, Planning and Control. Springer.
Murray, R. M., Li, Z., & Sastry, S. S. (1994). A Mathematical Introduction to Robotic Manipulation. CRC Press.

Version: 1.0