고차 비선형 시스템에서의 문제점

1. 비선형 시스템에서의 확장 칼만 필터 적용의 한계

확장 칼만 필터(EKF)는 본질적으로 비선형 시스템을 선형화하여 상태를 추정하는 필터이다. 이 과정에서 야코비 행렬을 사용하여 선형화를 하지만, 고차 비선형 시스템에서는 다음과 같은 여러 문제점이 발생한다.

고차 비선형 시스템에서의 상태 모델은 다음과 같이 표현할 수 있다.

$\mathbf{x}_{k+1} = f(\mathbf{x}_k, \mathbf{u}_k) + \mathbf{w}_k$

$\mathbf{z}_k = h(\mathbf{x}_k) + \mathbf{v}_k$

여기서: - $\mathbf{x}_k$ 는 시간 $k$ 에서의 상태 벡터 - $\mathbf{u}_k$ 는 입력 벡터 - $\mathbf{w}_k$ 는 시스템 노이즈 - $\mathbf{z}_k$ 는 측정 벡터 - $\mathbf{v}_k$ 는 측정 잡음

확장 칼만 필터는 이 비선형 시스템을 선형화하는 방식으로 작동하며, 이를 위해 테일러 급수를 사용하여 함수 $f$ 와 $h$ 를 1차 근사한다. 이때, 야코비 행렬은 선형화에 사용된다.

하지만 고차 비선형 시스템의 경우, 이러한 1차 선형화가 적절하지 않은 경우가 많다. 고차 비선형성은 시스템 모델 $f(\mathbf{x}_k, \mathbf{u}_k)$ 및 측정 모델 $h(\mathbf{x}_k)$ 에서 더 복잡한 동작을 나타내며, 이는 야코비에 의해 설명되지 않는 정보 손실을 초래한다.

2. 1차 근사에 따른 오차

확장 칼만 필터에서 사용하는 테일러 급수의 1차 근사는 비선형성의 전체적인 특성을 반영하지 못하는 경우가 많다. 특히 고차 비선형성이 존재할 때, 야코비 행렬만을 기반으로 한 선형화는 시스템의 동작을 제대로 반영하지 못한다. 예를 들어, 다음과 같은 시스템에서:

$\mathbf{x}_{k+1} = \mathbf{x}_k^3 + \mathbf{u}_k$

이 시스템은 $\mathbf{x}_k^3$ 와 같은 고차 비선형 항을 포함하고 있으며, 이 항은 1차 야코비에 의해 선형화될 때 심각한 오차를 초래할 수 있다. 테일러 급수에서 2차 이상의 항들을 무시하는 것이 문제의 근본적인 원인이다.

야코비 행렬 $\mathbf{F}_k$ 는 다음과 같이 정의된다:

$\mathbf{F}_k = \frac{\partial f(\mathbf{x}_k, \mathbf{u}_k)}{\partial \mathbf{x}_k} \bigg|_{\mathbf{x}=\hat{\mathbf{x}}_k}$

하지만, 고차 비선형 시스템에서는 이 1차 미분만으로는 상태 변화를 정확히 추정할 수 없다. 이러한 근사 오차는 시스템의 상태 추정에 큰 영향을 미치며, 이로 인해 다음과 같은 문제점이 발생한다.

3. 근사 오차로 인한 상태 추정 불안정성

고차 비선형 시스템에서 확장 칼만 필터가 1차 근사만을 사용할 경우, 그 결과는 상태 추정 불안정성으로 이어질 수 있다. 근사 오차는 시간이 지남에 따라 누적되며, 이는 필터가 잘못된 상태 값을 지속적으로 업데이트하게 만든다. 특히, 다음과 같은 상황에서 근사 오차는 더욱 문제가 된다.

큰 상태 변화: 상태 벡터 $\mathbf{x}_k$ 가 큰 변화를 겪을 때, 1차 근사는 이 변화를 정확히 반영하지 못한다. 이는 잘못된 예측 단계로 이어지고, 시스템의 오차 공분산 행렬이 부정확하게 갱신될 수 있다.
비선형성이 극단적으로 커질 때: 시스템이 매우 비선형적인 동작을 보이는 경우, 야코비 행렬로는 충분한 정보를 제공할 수 없다. 이로 인해 필터는 상태 변화를 정확하게 반영하지 못하고, 필터의 성능이 크게 저하된다.

이러한 상태 추정 불안정성은 다음과 같은 방식으로 나타난다.

오차 공분산의 왜곡

확장 칼만 필터에서 오차 공분산 행렬 $\mathbf{P}_k$ 는 시스템 상태 불확실성을 나타낸다. 이 행렬은 예측 및 업데이트 단계에서 각각 다음과 같이 갱신된다.

예측 단계:

$\mathbf{P}_{k+1|k} = \mathbf{F}_k \mathbf{P}_{k|k} \mathbf{F}_k^T + \mathbf{Q}_k$

업데이트 단계:

$\mathbf{P}_{k+1|k+1} = (\mathbf{I} - \mathbf{K}_{k+1} \mathbf{H}_{k+1}) \mathbf{P}_{k+1|k}$

여기서: - $\mathbf{F}_k$ 는 상태 전이 함수의 야코비 - $\mathbf{Q}_k$ 는 시스템 노이즈 공분산 행렬 - $\mathbf{K}_{k+1}$ 는 칼만 이득 - $\mathbf{H}_{k+1}$ 는 측정 함수의 야코비

고차 비선형 시스템에서는 이 과정에서 $\mathbf{F}_k$ 와 $\mathbf{H}_{k+1}$ 의 정확성이 떨어지므로, 오차 공분산 행렬 $\mathbf{P}_k$ 가 왜곡될 가능성이 크다. 이는 상태 추정의 신뢰성에 심각한 영향을 미치며, 필터가 점점 더 부정확한 상태를 추정하게 된다.

상태 불확실성의 과대/과소 추정

고차 비선형성으로 인해 발생한 상태 추정의 오차는 상태 불확실성의 과대 추정 또는 과소 추정으로 이어질 수 있다. 과대 추정은 필터가 지나치게 보수적으로 작동하여 시스템의 상태를 정확히 반영하지 못하게 만들고, 과소 추정은 필터가 시스템 상태에 대해 지나치게 확신하게 되어 잘못된 결정을 내릴 가능성을 높인다.

예제: 비선형 항으로 인한 오차 증폭

다음과 같은 시스템을 고려해 보자:

$\mathbf{x}_{k+1} = \mathbf{x}_k^2 + \sin(\mathbf{u}_k)$

이 시스템에서 $\mathbf{x}_k^2$ 와 같은 비선형 항은 칼만 필터가 선형화 과정에서 다룰 수 없는 부분을 포함하고 있다. 1차 야코비으로는 이 항을 제대로 설명할 수 없으므로, 필터의 상태 추정이 시간이 지남에 따라 심각한 오차를 나타낼 수 있다.

야코비 행렬 $\mathbf{F}_k$ 는 다음과 같이 계산된다:

$\mathbf{F}_k = 2\mathbf{x}_k$

그러나 이 계산은 $\mathbf{x}_k^2$ 의 전체적인 비선형 특성을 반영하지 못하므로, 필터는 이 시스템을 정확하게 모델링하지 못한다. 그 결과, 상태 추정 과정에서 오차가 시간이 지남에 따라 증폭될 수 있다.

4. 시스템 노이즈에 대한 민감도 증가

고차 비선형 시스템에서 확장 칼만 필터는 시스템 노이즈에 대해 더 민감하게 반응할 수 있다. 이는 근사화 과정에서 발생하는 오차와 더불어 시스템 노이즈의 영향이 필터 성능에 더 크게 작용하기 때문이다. 시스템 노이즈 $\mathbf{w}_k$ 가 존재하는 경우, 다음과 같이 표현된다.

$\mathbf{x}_{k+1} = f(\mathbf{x}_k, \mathbf{u}_k) + \mathbf{w}_k$

고차 비선형 시스템에서 $\mathbf{w}_k$ 가 미세한 수준이라 하더라도, 필터는 이러한 잡음에 민감하게 반응할 수 있으며, 상태 추정 과정에서의 작은 잡음도 큰 오차로 증폭될 가능성이 높다.

5. 야코비 행렬의 부정확성

확장 칼만 필터에서 야코비 행렬은 비선형 시스템의 선형화를 위해 사용된다. 고차 비선형 시스템에서 야코비 행렬은 단순히 시스템의 비선형성을 1차 미분으로 표현한 것에 불과한다. 하지만, 야코비 행렬의 부정확성은 다음과 같은 문제를 일으킨다.

비선형 모델의 오차 전파

야코비 행렬 $\mathbf{F}_k$ 와 $\mathbf{H}_k$ 는 각각 상태 전이 모델과 측정 모델의 1차 미분이다. 이들은 확장 칼만 필터에서 매우 중요한 역할을 하지만, 고차 비선형 시스템에서는 오차 전파가 더욱 복잡해지므로 야코비 행렬이 정확하게 비선형성을 반영하지 못할 수 있다.

예를 들어, 다음과 같은 비선형 시스템에서:

$\mathbf{x}_{k+1} = \cos(\mathbf{x}_k) + \mathbf{u}_k$

이 시스템의 야코비 행렬은 다음과 같이 계산된다.

$\mathbf{F}_k = -\sin(\mathbf{x}_k)$

비록 1차 미분인 야코비 행렬이 계산될 수 있지만, 고차 비선형성인 $\cos(\mathbf{x}_k)$ 와 관련된 오차는 이 계산에서 반영되지 않는다. 즉, 야코비 행렬 $\mathbf{F}_k$ 는 이 비선형 시스템에서 발생하는 상태 변화의 전체적인 특성을 설명하지 못하며, 오차 전파가 정확하지 않게 된다. 이는 필터 성능 저하의 주요 원인이 된다.

측정 모델의 야코비 부정확성

확장 칼만 필터는 측정 모델 역시 선형화한다. 측정 모델의 야코비 $\mathbf{H}_k$ 는 다음과 같이 정의된다.

$\mathbf{H}_k = \frac{\partial h(\mathbf{x}_k)}{\partial \mathbf{x}_k}$

하지만 측정 모델이 비선형적일 때, 1차 근사에 의한 $\mathbf{H}_k$ 는 시스템 상태와 측정 값 간의 비선형 관계를 제대로 설명하지 못할 수 있다. 예를 들어, 다음과 같은 측정 모델을 고려해 보자.

$\mathbf{z}_k = \log(\mathbf{x}_k)$

이 경우, 측정 모델의 야코비은 다음과 같이 계산된다.

$\mathbf{H}_k = \frac{1}{\mathbf{x}_k}$

하지만, $\log(\mathbf{x}_k)$ 와 같은 함수는 고차 비선형성을 포함하고 있으므로, 필터는 상태와 측정 간의 관계를 제대로 반영하지 못할 가능성이 크다. 이로 인해 필터는 측정 값의 불확실성을 과소평가하거나 과대평가하여, 상태 추정의 정확성이 떨어지게 된다.

6. 선형화된 시스템에서의 수렴성 문제

고차 비선형 시스템에서 확장 칼만 필터는 수렴성 문제를 겪을 수 있다. 시스템이 심각한 비선형성을 가질 경우, 필터는 수렴하지 않을 가능성이 높다. 이는 야코비 행렬이 선형화 과정에서 매우 부정확할 수 있으며, 시스템 상태와 측정 간의 관계가 비선형적일수록 필터는 실제 시스템 상태를 제대로 추정하지 못하게 된다.

확장 칼만 필터의 수렴성은 보통 상태 오차 공분산 행렬 $\mathbf{P}_k$ 와 칼만 이득 $\mathbf{K}_k$ 의 적절한 계산에 달려 있다. 하지만 고차 비선형성으로 인해 비선형 오차가 발생하면, 필터가 수렴하지 않거나 시간이 지남에 따라 필터의 성능이 저하될 수 있다.

수렴 문제의 예

다음과 같은 비선형 시스템을 고려해 봅시다:

$\mathbf{x}_{k+1} = \mathbf{x}_k^2 + \mathbf{u}_k$

이 시스템에서 $\mathbf{x}_k^2$ 와 같은 고차 비선형 항은 필터의 수렴성을 저해할 수 있다. 야코비 행렬을 사용한 선형화 과정에서 이 시스템의 상태 변화가 제대로 반영되지 않으면, 필터는 실제 상태에서 멀어지며 상태 추정의 불안정성이 증가한다.

이와 같은 문제는 시스템이 복잡해질수록 심화되며, 이는 필터의 수렴성 문제를 유발한다. 필터가 정확한 상태 추정을 할 수 없게 되면, 필터는 잘못된 상태를 계속 추정하게 되고, 이는 시간이 지남에 따라 더욱 큰 오차로 이어질 수 있다.