13.1 RTK(Real-Time Kinematic) GNSS 시스템의 수학적/물리적 기반 및 알고리즘 심층 분석

다양한 무인항공기(UAV) 및 자율 주행 로보틱스 시스템이 도입되는 현대의 가혹한 야외 구동 환경에서, 더이상 센티미터(cm) 단위의 정밀 측위는 선택이 아닌 생존과 미션 성공의 절대적 필수 요건이다. 이러한 초정밀 제어를 위해서는 PX4-Autopilot의 최상단 커맨더(Commander)와 EKF2 상태 추정기(Estimator)에 완벽에 가까운 3차원 위치 피드백을 한 치의 딜레이도 없이 지속적으로 공급해야만 한다. 이를 뒷받침하는 기술적 근간이 바로 두 개의 GNSS 수신기(베이스와 로버) 간의 반송파 위상(Carrier Phase) 관측치를 활용하여 공간상의 미지정수를 풀어내는 정밀 상대 측위 기술, 즉 RTK(Real-Time Kinematic) 시스템이다.

본 절에서는 RTK GNSS 시스템이 대체 어떠한 물리적 이론과 수학적 알고리즘 증명을 바탕으로 미터(m) 단위의 원시 오차를 수 밀리미터(mm) 수준으로 압축 탈색해 내는지 그 뼈대와 지배 공식을 학술적으로 심층 해부한다.

1. 기반 위성 측위와 근원적 오차 한계

일반적으로 고도 2만 km 상공의 위성에서 송출되는 전파 신호가 지상의 수신기 안테나에 도달하기까지는 진공 상태의 광속( $c$ ) 비행 시간 외에도 수많은 아날로그적 굴절과 통신망 지연을 필연적으로 겪는다. 기본적으로 상용 수신기가 주로 사용하는 C/A(Coarse/Acquisition) 모듈 기반의 의사거리(Pseudorange, $P$ ) 방정식은 수학적으로 다음과 같이 모델링할 수 있다.

$P = \rho + c(dt_u - dt_s) + d_{ion} + d_{trop} + \epsilon_P$

위 지배 공식에서 각 항이 의미하는 물리적 바는 다음과 같다.

$\rho$ : 위성과 수신기 간의 실제 순수 기하학적 3차원 직선거리
$c$ : 빛의 속력 상수
$dt_u, dt_s$ : 수신기(User) 및 위성(Satellite)의 내장 클록(Clock) 하드웨어 시계 오차 편향
$d_{ion}, d_{trop}$ : 대기권 통과 중 전리층(Ionosphere)의 자유 전자 밀도 및 대류권(Troposphere) 수증기 밀도로 인해 발생하는 통신 신호 지연 오차
$\epsilon_P$ : 주변 구조물에 의한 다중 경로 반사(Multipath) 및 수신기 내부 열잡음 등에서 기인하는 측정 노이즈

이 수식에 나타나듯, C/A 코드 자체의 긴 파장 칩레이트(약 300m)와 더불어 대기권 지연 노이즈 집합체가 무자비하게 결합하면, 아무리 훌륭한 확장 칼만 필터를 거친다 한들 2~5m 이상의 구조적 위치 모호성을 태생적으로 안고 갈 수밖에 없다.

2. 반송파 위상(Carrier Phase) 수학적 모델링의 도입

이러한 의사거리의 근원적 파장 밀도 한계를 돌파하기 위해, RTK 시스템은 디지털 정보를 싣고 오는 데이터 코드가 아니라, 정보를 실어 나르는 초당 15억 회 진동하는 라디오 반송파(Carrier Wave) 자체의 극도로 짧은 파장(예: L1 주파수의 경우 약 19.03cm) 사이클을 눈금자처럼 사용하여 기하학적 거리를 초정밀 측정해 낸다. 이 반송파 위상 측정치( $\Phi$ )의 지배 방정식은 아래와 같이 유도된다.

$\Phi = \rho + c(dt_u - dt_s) - d_{ion} + d_{trop} + \lambda N + \epsilon_\Phi$

여기서 기존 의사거리 공식과 치명적으로 다른 두 가지 수학적 특징이 수식 단에서 확연하게 나타난다.

전리층 지연 항의 부호 반전( $- d_{ion}$ ): 전리층의 플라즈마 분산 매질 특성상 신호의 그룹(Group) 속도를 띠는 코드는 공기 저항처럼 지연(Delay)되지만, 파동의 위상(Phase) 진전 속도는 오히려 광속보다 가속(Advance)되어 계측되는 위상학적 분산 특성이다.
위상 모호정수(Phase Ambiguity, $N$ ) 변수의 등장: 수신기 전원이 켜지고 최초로 위성 신호를 락킹(Locking/Tracking)할 때, 위성에서 수신기 안테나까지 이미 지나쳐 버린 반송파의 전체 누적 정수 파장 개수를 수신기는 공간 단절로 인해 절대 알지 못한다. 즉, 1파장 배수 길이( $\lambda N$ )만큼의 영구적인 거주 미지수(Unknown integer)가 관측 방정식 한가운데 필연적으로 더해진다.

RTK 연산 알고리즘의 모든 두뇌 뇌관은 바로 이 미지정수 $N$ 값을 수학적으로 정확하고 가장 빠르게, 소수점 쓰레기 값이 일절 배제된 완벽한 “정수(Integer)” 상태로 산출(Resolving)해 내는 것에 일격 집중된다.

3. 차분 측위(Differential Positioning) 이중 모델을 통한 공통 오차 상쇄

위상 모호정수를 역산하기 위한 가장 무식하고도 확실한 최전선 논리적 방어선은 불필요한 공통 잡음 항( $dt_{s}, d_{ion}, d_{trop}$ )들을 방정식 밖으로 완전히 증발시키는 것이다. 이를 달성하기 위해 RTK는 고정된 절대 위치가 이미 주입된 ’지상 베이스 스테이션’과 비행 중인 ‘로버’ 두 수신기를 매순간 동시에 활용하는 대행렬 이중 차분(Double Difference, $\nabla\Delta$ ) 모델을 구성한다.

단일 차분(Single Difference) 차감 단계: 1개의 동일 위성 신호를 지정된 베이스와 로버 수신기가 동시에 관측하여 수학적으로 방정식끼리 차감 산출한다. 두 수신기가 불과 수 킬로미터 이내로 인접해 있다는 기하학적 통계 전제 하에, 위성 측의 절대 궤도 오차, 위성 시계 오차( $dt_s$ ), 그리고 두 수신기를 관통하는 대기의 공간적 공통 노이즈(전리층/대류권 지연)가 한순간에 99% 완벽히 상쇄 증발된다.
이중 차분(Double Difference) 차감 단계: 두 대상 위성 각각에 대해 얻어진 방금 전의 단일 차분 값 행렬들을 다시 한번 서로 교차 차감한다. 이번에는 수신기들 자체가 제각기 뿜어내던 로컬 하드웨어 시계 오차( $dt_u$ )마저 수식에서 완벽히 소거 삭제된다.

수학적으로 이중 차분 방정식을 전면 통과하고 나면, 지저분한 모든 통신 잡음은 날아가고 수식 양변에는 오직 순수한 기준 기하학적 상대 벡터 거리, 파장 길이 $\lambda$ , 그리고 잔존하는 정수 조합 형태의 미지정수 $\nabla\Delta N$ 스칼라 파편만이 앙상하고 깨끗하게 남게 된다.

4. 모호정수 해결(Integer Ambiguity Resolution)과 LAMBDA 알고리즘의 지배

가우스 소거법 성격의 이중 차분을 통해 정화된 관측 방정식들을 확장 칼만 필터(EKF)의 상태 상태(State) 벡터 루프로 투입하여 연속 연산하면, 초기 미지정수 $N$ 은 남은 약간의 열잡음에 오염되어 소수점을 지닌 실수(Float) 형태의 해(Float Solution, 예: $N=2451.34$ )로 도출될 수밖에 없다. 이 실수 범위의 상태에서는 여전히 오차가 데시미터(dm) 단위로 흔들려 자율 비행 기체에 적용하기엔 매우 치명적으로 불안정하다.

이 부유하는 실수 해 벡터를 가장 확률적으로 타당한 강건한 정수 공간 배열(Integer Grid) 노드로 억지로 잡아당겨 고정(Fix)하는 잔혹한 수학적 처리 엔진이 펌웨어 내의 IAR(Integer Ambiguity Resolution) 알고리즘이다. 현대의 압도적 대다수의 RTK 칩셋 내부 DSP 연산 코어에서는 이 과정을 제압하기 위해 거의 예외 없이 세계적인 수학자 Teunissen이 창안한 LAMBDA(Least-squares AMBiguity Decorrelation Adjustment) 행렬 가속 변환 알고리즘을 사용한다.

상관성 분리(Decorrelation): 다변수 LAMBDA 엔진은 극도로 좁쌀처럼 길쭉하게 늘어진 다변량 실수 해 오차 타원체의 고도로 상관성 높은(Highly correlated) 공분산 행렬 구조를 수학적 조작(정수 보존 $Z$ -변환 행렬)을 통해 둥글고 대칭적인 구(Sphere) 형태로 무자비하게 비상관화(Decorrelation) 평탄화시킨다.
초고속 트리 탐색(Search Engine): 직교성이 극대화된 행렬 공간에서 가장 에러 확률 공간이 적은 정수 노드(Integer Node)를 초고속 트리 빔 탐색 공간(Search Space) 축소 기법으로 색출하여 끄집어낸다.
비율 통계 검정(Ratio Test): 1위로 도출된 최상위 확률의 베스트 정수 벡터 신뢰성을 혹독하게 검증하기 위해, 그 다음 예측된 2위 후보치와의 오차 제곱합 비율 모델(Ratio Test, 보수적인 일반 임계 지표는 3.0(300%) 초과)의 장벽을 당당히 통과하면 마침내 해당 모호정수 항들은 영구적인 단일 완벽한 정수(Fixed Integer) 집합으로 기계적으로 확정된다.

이렇게 미지정수 $N$ 이 오차 한 점 없는 완벽한 정수 값으로 무결성 확정(Fix)되는 찰나의 순간, 수학적 모델이 로버 수신기의 물리 공간 오차를 순식간에 수 센티미터 이하 단위 점으로 압축 붕괴시키며, PX4 시스템의 QGroundControl 콘솔 모니터 창에는 마침내 모든 엔지니어가 갈망하는 영광스러운 녹색의 RTK FIX (일명 3D RTK GPS 고정 상태) 아이콘이 점등하게 되는 것이다.