6.28 해의 존재성과 유일성 판정

1. 해의 가능성에 관한 질문

연립 일차 방정식 $A\mathbf{x} = \mathbf{b}$ 가 주어졌을 때 가장 근본적인 두 가지 질문은 다음과 같다.

존재성(existence): 해가 존재하는가?
유일성(uniqueness): 해가 존재한다면 그것은 유일한가, 아니면 여러 개인가?

이 두 질문에 대한 체계적인 답은 행렬의 랭크와 차원의 개념을 통해 단일한 정리로 통합되어 있다. 본 절에서는 해의 존재성과 유일성을 판정하는 정리들과 그 기하학적 해석, 그리고 로봇공학에서의 활용을 다룬다.

2. 해의 세 가지 가능성

선형 시스템 $A\mathbf{x} = \mathbf{b}$ 의 해는 다음 세 가지 중 정확히 하나의 가능성을 가진다.

가능성 1 (불일치): 해가 전혀 존재하지 않는다. 시스템이 모순을 포함한다.

가능성 2 (유일 해): 정확히 하나의 해가 존재한다.

가능성 3 (무한 해): 무한히 많은 해가 존재한다. 해 공간이 양의 차원을 가진다.

선형 시스템에서는 “정확히 두 개의 해” 또는 “정확히 세 개의 해“와 같은 가능성이 존재하지 않는다. 두 개 이상의 서로 다른 해가 존재하면 자동으로 무한히 많은 해가 존재하게 된다.

증명. $\mathbf{x}_1$ 과 $\mathbf{x}_2$ 가 두 개의 서로 다른 해라 하자. 즉 $A\mathbf{x}_1 = \mathbf{b}$ 이고 $A\mathbf{x}_2 = \mathbf{b}$ 이며 $\mathbf{x}_1 \neq \mathbf{x}_2$ 이다. 임의의 $t \in \mathbb{R}$ 에 대해 $\mathbf{x}_t = (1-t)\mathbf{x}_1 + t \mathbf{x}_2$ 를 정의하면 $A\mathbf{x}_t = (1-t) A \mathbf{x}_1 + t A \mathbf{x}_2 = (1-t) \mathbf{b} + t \mathbf{b} = \mathbf{b}$ 이다. 따라서 $\mathbf{x}_t$ 도 해이며, $t$ 의 모든 값에 대해 다른 해가 얻어진다. $\square$

3. 루셰-카펠리 정리

해의 존재성과 유일성을 판정하는 가장 핵심적인 정리는 다음과 같다.

정리 6.28.1 (루셰-카펠리 정리, Rouché-Capelli theorem). $m \times n$ 행렬 $A$ 에 대한 시스템 $A\mathbf{x} = \mathbf{b}$ 의 해의 가능성은 다음과 같이 판정된다.

(존재성 판정) 시스템이 해를 가질 필요 충분 조건은

$\text{rank}(A) = \text{rank}([A \mid \mathbf{b}])$

이다. 여기서 $[A \mid \mathbf{b}]$ 는 확장 행렬이다.

(유일성 판정) 해가 존재할 때, 해가 유일할 필요 충분 조건은

$\text{rank}(A) = n$

이다. 여기서 $n$ 은 미지수의 수이다.

(해의 차원) 해가 존재하고 $\text{rank}(A) = r < n$ 이면, 해 집합은 $n - r$ 차원의 아핀 부분 공간이며 자유 변수의 수는 $n - r$ 이다.

이 정리는 모든 가능성을 통합적으로 설명하며, 가우스 소거법으로 RREF를 계산함으로써 직접 검증할 수 있다.

4. 사다리꼴 형태로부터의 판정

확장 행렬 $[A \mid \mathbf{b}]$ 를 RREF로 변환한 후 다음의 기준을 적용한다.

기준 1 (불일치 검출): RREF에서 $[0, 0, \ldots, 0 \mid c]$ 형태의 행 ( $c \neq 0$ )이 존재하면 시스템은 불일치이다. 이는 $0 = c \neq 0$ 이라는 모순을 의미한다.

기준 2 (유일 해 검출): 불일치 행이 없고, 모든 미지수에 대응하는 열이 피벗 열이면 시스템은 유일 해를 가진다.

기준 3 (무한 해 검출): 불일치 행이 없고, 적어도 하나의 미지수가 자유 변수에 대응하면 시스템은 무한히 많은 해를 가진다.

5. 정방 시스템의 특수 판정

$A$ 가 $n \times n$ 정방 행렬인 경우, 가역 행렬 정리에 의해 다음 조건들이 동치이다.

정리 6.28.2 (정방 시스템). 정방 행렬 $A$ 에 대한 시스템 $A\mathbf{x} = \mathbf{b}$ 에 대하여, 다음 조건은 동치이다.

$A$ 는 가역이다.
$\det(A) \neq 0$ 이다.
$\text{rank}(A) = n$ 이다.
$\text{Null}(A) = \{\mathbf{0}\}$ 이다.
시스템 $A\mathbf{x} = \mathbf{b}$ 가 임의의 $\mathbf{b}$ 에 대해 유일 해를 가진다.
동차 시스템 $A\mathbf{x} = \mathbf{0}$ 이 자명한 해만을 가진다.
$A$ 의 열들은 $\mathbb{R}^n$ 의 기저를 이룬다.

이 정리는 정방 시스템에서 존재성과 유일성이 본질적으로 같은 조건으로 환원됨을 보여 준다. 즉, 정방 시스템은 $\det(A) \neq 0$ 이면 임의의 우변에 대해 유일 해를 가지고, $\det(A) = 0$ 이면 우변에 따라 해가 없거나 무한히 많다.

6. 동차 시스템의 특수 분석

동차 시스템 $A\mathbf{x} = \mathbf{0}$ 은 항상 자명한 해 $\mathbf{x} = \mathbf{0}$ 을 가지므로 존재성 문제는 발생하지 않는다. 핵심 질문은 비자명한 해의 존재이다.

정리 6.28.3 (동차 시스템). $m \times n$ 행렬 $A$ 에 대한 동차 시스템 $A\mathbf{x} = \mathbf{0}$ 에 대하여:

자명한 해만 존재할 필요 충분 조건은 $\text{rank}(A) = n$ 이다.
비자명한 해가 존재할 필요 충분 조건은 $\text{rank}(A) < n$ 이다.

특히, 미지수의 수가 방정식의 수보다 많은 경우 ( $n > m$ ) 항상 비자명한 해가 존재한다. 왜냐하면 $\text{rank}(A) \leq m < n$ 이기 때문이다.

이 결과는 부족 결정 동차 시스템이 항상 비자명한 해를 가짐을 의미하며, 영 공간의 비자명성과 동치이다.

7. 기하학적 해석

7.1 열 공간 해석

$A\mathbf{x} = \mathbf{b}$ 가 해를 가질 필요 충분 조건은 $\mathbf{b} \in \text{Col}(A)$ , 즉 $\mathbf{b}$ 가 $A$ 의 열들의 선형 결합으로 표현 가능하다는 것이다. 이는 루셰-카펠리 정리의 기하학적 표현이다.

$\text{rank}(A) = \text{rank}([A \mid \mathbf{b}])$ 는 $\mathbf{b}$ 를 추가해도 열 공간의 차원이 변하지 않음을 의미하며, 이는 곧 $\mathbf{b}$ 가 이미 열 공간에 속함을 의미한다.

7.2 영 공간과 해 집합의 차원

해 집합의 차원은 $A$ 의 영 공간 $\text{Null}(A)$ 의 차원과 같다 (해가 존재하는 경우). 이는 차원 정리

$\text{rank}(A) + \dim(\text{Null}(A)) = n$

으로부터 직접 유도된다. 즉 $\dim(\text{Null}(A)) = n - r$ 이며, 해가 존재할 때 해 집합은 한 특수해를 중심으로 한 $n - r$ 차원 평행 부분 공간이다.

열 공간과 행 공간의 관계

$A^\top$ 의 열 공간과 $A$ 의 행 공간은 같으며, $A$ 의 영 공간과 $A^\top$ 의 영 공간은 각각 $A$ 의 행 공간과 열 공간의 직교 보수 공간이다.

$\text{Col}(A)^\perp = \text{Null}(A^\top)$

이 직교 분해는 최소 제곱 문제의 기하학적 해석에 본질적이다.

8. 시스템 분류 요약

분류	조건	해의 가능성
정방, 가역	$m = n$ , $\det(A) \neq 0$	임의 $\mathbf{b}$ 에 대해 유일 해
정방, 특이	$m = n$ , $\det(A) = 0$	$\mathbf{b}$ 에 따라 해 없거나 무한
과결정, 풀랭크	$m > n$ , $\text{rank}(A) = n$	$\mathbf{b}$ 에 따라 해 없거나 유일
과결정, 부족 랭크	$m > n$ , $\text{rank}(A) < n$	$\mathbf{b}$ 에 따라 해 없거나 무한
부족 결정, 풀랭크	$m < n$ , $\text{rank}(A) = m$	임의 $\mathbf{b}$ 에 대해 무한 해
부족 결정, 부족 랭크	$m < n$ , $\text{rank}(A) < m$	$\mathbf{b}$ 에 따라 해 없거나 무한

9. 수치적 판정의 한계

이론적으로는 랭크가 명확히 정의되지만, 부동 소수점 연산 환경에서는 다음의 어려움이 발생한다.

반올림 오차: 0이어야 할 성분이 매우 작은 비0 값으로 계산될 수 있다.
임계값 의존성: 0과 비0의 구분이 사용자가 정의한 임계값에 의존한다.
병조건성: 조건수가 큰 행렬에서는 작은 입력 변화가 랭크 판정에 큰 영향을 미친다.

이러한 문제로 인해 실용적인 랭크 결정에는 SVD를 사용하여 특이값의 크기를 분석하는 것이 표준적이다. 작은 특이값을 0으로 간주하는 임계값을 정의하고, 그보다 큰 특이값의 수를 수치적 랭크로 정한다.

10. 과결정 시스템과 최소 제곱 해

해가 존재하지 않는 과결정 시스템에 대해서는 정확한 해 대신 잔차의 노름을 최소화하는 최소 제곱 해(least squares solution)가 정의된다.

$\mathbf{x}^* = \arg\min_{\mathbf{x}} \|A\mathbf{x} - \mathbf{b}\|^2$

$\text{rank}(A) = n$ 인 경우 이 최소 제곱 해는 유일하며, 정규 방정식

$A^\top A \mathbf{x}^* = A^\top \mathbf{b}$

의 해로 표현된다. 부족 랭크인 경우에는 최소 제곱 해가 무한히 많으며, 이 중 노름이 최소인 해가 의사 역행렬 $A^+$ 를 통해 정의된다.

11. 부족 결정 시스템과 최소 노름 해

해가 무한히 많은 부족 결정 시스템에 대해서는 모든 해 중에서 노름이 최소인 해(minimum-norm solution)가 자연스럽게 선택된다.

$\mathbf{x}^* = \arg\min_{\mathbf{x}} \|\mathbf{x}\|^2 \quad \text{subject to } A\mathbf{x} = \mathbf{b}$

$\text{rank}(A) = m$ 인 경우 최소 노름 해는

$\mathbf{x}^* = A^\top (A A^\top)^{-1} \mathbf{b}$

로 표현되며, 이는 의사 역행렬 $A^+ = A^\top (A A^\top)^{-1}$ 을 사용한 표현이다.

12. 로봇공학에서의 응용

12.1 역기구학 해의 가능성

매니퓰레이터의 역기구학 시스템 $J(\mathbf{q}) \Delta \mathbf{q} = \Delta \mathbf{x}$ 에서 해의 가능성은 $J$ 의 랭크에 따라 다음과 같이 분류된다.

자코비안이 풀랭크: 작업 공간 명령에 대해 유일한 관절 갱신이 결정된다.
자코비안이 부족 랭크 (특이점): 명령에 따라 해가 없거나 (도달 불가능한 방향) 무한히 많다 (영 공간 자유도).

12.2 여유 자유도 로봇의 해 공간

여유 자유도 로봇의 자코비안은 일반적으로 부족 결정이며, 해 공간이 영 공간 차원만큼의 자유도를 가진다. 이 자유도는 부차 목표 최적화에 활용된다.

12.3 강체 정합과 과결정성

수많은 점 대응으로부터 강체 변환을 추정하는 문제는 일반적으로 과결정 시스템이며, 정확한 해는 측정 잡음으로 인해 존재하지 않는다. 최소 제곱 또는 직교 프로크루스테스(orthogonal Procrustes) 방법을 통해 최적 해를 결정한다.

12.4 칼만 필터의 관측 가능성

선형 시스템의 관측 가능성 행렬의 랭크 부족은 일부 상태가 측정으로부터 결정되지 않음을 의미한다. 이 경우 상태 추정 문제는 무한히 많은 해를 가지며, 추가적인 사전 정보 없이는 유일한 추정이 불가능하다.

12.5 SLAM의 게이지 자유도

그래프 SLAM에서는 절대 좌표계의 선택에 대한 게이지 자유도가 존재하므로, 정보 행렬이 항상 부족 랭크이다. 이는 첫 번째 자세를 고정하거나 사전 분포를 추가함으로써 해결된다.

12.6 캘리브레이션의 해 분석

손-눈 캘리브레이션, 카메라 캘리브레이션 등에서 측정 데이터의 부족 또는 운동의 단조성은 시스템이 특정 매개변수에 대해 부족 결정이 되게 만든다. 이는 시스템 행렬의 랭크 분석을 통해 사전에 검출되어야 한다.

12.7 모델 예측 제어의 가능성 분석

모델 예측 제어의 등호 제약 조건이 모순되거나 (해 없음) 상태 차원과 제약 차원이 일치하지 않는 (부족 결정) 경우, 문제의 해의 가능성을 사전에 분석하여 적절한 완화 또는 정규화를 적용한다.

참고문헌

Strang, G. (2023). Introduction to Linear Algebra (6th ed.). Wellesley-Cambridge Press.
Axler, S. (2024). Linear Algebra Done Right (4th ed.). Springer.
Golub, G. H., & Van Loan, C. F. (2013). Matrix Computations (4th ed.). Johns Hopkins University Press.
Boyd, S., & Vandenberghe, L. (2018). Introduction to Applied Linear Algebra. Cambridge University Press.

Version: 1.0