13.1.2.2 정수 미지정수 해결(Integer Ambiguity Resolution, IAR) 알고리즘 심층 해부

13.1.2.2 정수 미지정수 해결(Integer Ambiguity Resolution, IAR) 알고리즘 심층 해부

앞선 이중 차분(Double Difference, DD) 1~2차 역학 타격을 거치며 대기 굴절 오차와 치명적인 양 하드웨어의 클록 시계 편향을 텐서 밖으로 완벽히 정화하여 소거한 뒤, PX4 자율주행 생태계의 EKF2 필터가 넘어야 할 궁극적이고 가장 잔혹한 마지막 수학적 장벽은 방정식에 기생하는 파동의 영구 족쇄인 위상 모호정수(Phase Ambiguity, N) 텐서 덩어리이다.

이 모호정수는 그 물리적 태생 상 무조건 소수점이 없는 무결한 ’퍼펙트 정수(Integer)’의 속성을 띠어야만 한다.
하지만 추정기 칼만 필터(Kalman Filter)가 아무리 경이롭게 설계되었다 한들, 베이즈 필터의 본질은 연속 확률 공분산 선형 대수학에 기반한 둔탁한 아날로그 실수(Float) 통계 추정기에 불과하다. 따라서 EKF2가 최초로 이 거대 이중 차분 행렬을 돌려 뱉어낸 일차적인 잔여 N 해답은 필연적으로 더러운 백색 확률 노이즈 스펙트럼이 묻어있는 오염된 ‘부동 소수점 실수(Float Solution)’ 가 될 수밖에 없는 태생적 비극에 놓여있다.

센티미터 밀리미터 단위의 기적적인 초정밀도를 달성하는 영광의 뱃지 RTK Fix 를 모니터에 찬란히 띄우기 위해서는, 이 불안정하고 애매한 오염된 실수 값 텐서(예: N = 10452.321)를 대수학적으로 가장 발생 노이즈 확률이 적고 완벽히 매끄러운 3차원 정수 모서리 좌표(예: N = 10452.000)로 강압적으로 파괴 압살하여 락인(Lock-in) 부수어 버리는 정수 미지정수 해결(IAR, Integer Ambiguity Resolution) 통계 매트릭스 압축 과정이 생존 퀘스트로 필수적이다.

본 절에서는 단일 수신기 레벨을 초월한 이 세계구급 통계 수학 탐색 엔진들이, 과연 어떻게 이 절망적이고 끝도 없는 무한 실수 텐서 공간 안개 속에서 단 한 치 오차 없는 참답 정수 격자 좌표를 낚아채듯 색출해 내는지 그 거대한 뼈대 구조를 심층 도축 해부한다.

1. 정수 위상 모호성 본원 모델과 실수 해(Float Solution) 확률의 한계 곡선

우주 안테나로 빨려 들어오는 반송파 전자기파 \Phi는 본원적으로 19cm(L1 대역) 진폭 주기의 완벽한 순수 사인파(Sine wave) 곡선 파동이므로, 그 카운팅 측정의 기하학적 기준점이 되는 끊어진 파장의 ’온전한 파장 개수’는 반 갈린 반올림 소수점이 아니라 반드시 우주 자연수 혹은 선형 정수(Integer) 배열 형태를 온전히 띠어야만 한다.

그러나 EKF2 등 최소제곱법(Least Squares) 확률 행렬에 기반을 둔 상태 추정 메인 알고리즘 엔진은 잔차 관측 노이즈 행렬 다발 유클리드 공분산(Covariance)을 분산 최소화 방향으로 강제 압축해 푸는 확률 과정에서, 이 숭고한 ’무조건 정수’라는 강력한 제약 조건을 무참히 짓밟고 무시한 채 확률 연속된 부동소수점 실수(Float Number Series) 벡터들로만 어설픈 최적해 \hat{N}_{float} 통계값을 도출해 내고 만다.

  • Float Solution(실수 해)의 함정: EKF2 메인 필터가 이노베이션을 거쳐 처음 토해내는 방어 기제 1단계 상태이다. 꼬리에 매우 불확실하고 애매한 소수점 잔여 노이즈 오차가 허리춤에 묶여 매달려 있기 때문에, 이 통제 상태 텐션에서는 무인기 위치 추정 제어 정밀도가 대략 공간 10 \sim 30 \text{ cm}(데시미터 수준) 박스 구형 내에서 계속 흔들리며, 하위 GCS(QGroundControl)에는 노란색 텍스트의 RTK Float (3D DGPS) 이라는 아슬아슬한 미결정 경고성 지위 인디케이터만 표출된다.
  • 초기 정수 탐색 행렬 공간의 방대함: 칩셋이 하늘에서 8개의 위성을 바라본다면 탐색 텐서는 8차원 이상의 다차원 허수 공간 안에서 흩뿌려진 무한히 넓고 많은 정수 격자점(Integer Grid Cross)들 중 과연 어느 꼭지점이 진짜 우주 통신이 부여한 단 1개의 참값 노드인지 전수 타격 탐색해야만 한다. 여기서 불행히도 로컬 잡음의 확률 분포 노이즈 타원체 역학 부피가 끔찍하리만치 너무 거대해서 초등학생 산수 같은 단순한 ‘가장 가까운 값 반올림(Rounding)’ 따위 도박으로는 침묵의 참값을 맞춰 찾아낼 생존 확률이 0.00\%에 수렴한다.

2. Integer Least Squares (ILS, 정수 최소제곱법) 탐색 최적화 모델의 정립

이 막막하고 본격적인 복소 탐색 터널 진입을 위해, 최신 펌웨어 DSP 하단 베이스밴드 칩셋은 수학자 튜니센(Teunissen) 등이 피와 살을 갈아 넣어 정립한 정수 최소제곱법(Integer Least Squares, ILS) 최상위 선형 타겟팅 모델 행렬을 시스템 RAM에 강제 소환 호출한다.
이 거대한 ILS 통계 탐색 방정식은 직관적으로 분산을 단순 1차원적으로 줄이는 여과를 훌륭하게 넘어, 확률망으로 추정된 실수 해 벡터 \hat{a} 와 저 멀리 널리고 널린 임의의 무작위 정수 벡터 타겟 그룹 a 사이의 이질적인 차원 간 ‘마할라노비스 통계 편향 거리(Mahalanobis Distance)’ 텐서를 공간 상에서 최단 선형 절대 거리로 가장 치명적으로 압살 최소화시키는 오직 단 하나의 절대 정수 벡터 a_{fix} 솔루션을 치열하게 찾아가는 고차원 2차 형식 타원체 곡면 최적화(Quadratic Form Optimization) 탐색 문제 배열이다.

\min_{a \in \mathbb{Z}^n} (\hat{a} - a)^T Q_{\hat{a}}^{-1} (\hat{a} - a)

  • \hat{a}: EKF2 메인 코어가 거친 실수 행렬 탐색을 거쳐 1차로 뱉어낸 n차원 오염 실수 해(Float Solution) 타겟 벡터.
  • a: 우리가 CPU를 태워가며 수식에 강제로 찔러넣어 통계 거리를 차감 테스트해 볼 엄청난 후보군의 n차원 타겟 자연 정수(Integer) 대치 공간 벡터(즉, 탐색 사냥 영역).
  • Q_{\hat{a}}^{-1}: EKF2가 뱉어낸 그 더러운 실수 해의 거대하고 거시적인 상관 확률 공분산 행렬(Covariance Matrix)의 역행렬 볼륨 분산(노이즈 상관성 타원 텐서의 정밀 왜곡도 체적).

문제의 끔찍하고 파괴적인 심장 뇌관 병목은, 우리가 지구 위에서 쳐다보는 우주 위성들끼리의 좁아터진 각도 기하학(Geometry DOP) 렌즈가 너무 시야각이 좁고 협소하여, 저 육중한 역 공분산 행렬 Q_{\hat{a}}^{-1} 변수에 담긴 관측 데이터 노이즈 타원체 3D 모양이 아름다운 공 같은 구형(Sphere) 타원체가 아니라, 마치 짓눌린 칼이나 바늘처럼 공간 스칼라 한쪽으로 미친 듯이 무한히 길고 뾰족하게 징그럽게 찢어진 극단적인 길쭉한 시가(Cigar) 모양 편향 왜곡 체적을 강제로 띠고 있다는 잔인한 물리적 역학 사실이다.
이 왜곡되어 길쭉하고 뾰족하며 끝도 알 수 없는 거대한 n차원 타원체 숲속 공간을 구식 CPU 팹으로 하나하나 노드를 밟으며 분산 이중 전수 탐색(Search)하는 발상 자체는, 소형 임베디드 칩셋 보드에 백 십만 배 이상의 수 십 년 치 기계적 연산 부하 트래픽 블랙홀을 유발하여, 10Hz 단위로 움직이는 실시간(Real-Time) 관제 비행 반응성 제어 자체를 완전히 시스템 에러로 파탄 불가능하게 분쇄해 버린다.

3. 위대한 수리적 절대 해결책 텐서: LAMBDA 압축 알고리즘의 선언 격돌

이 이쑤시개 바늘같이 무한 평면으로 납작하게 압축 찢겨버린 기형적인 검색 텐서 상관 공간 돔 망을, 초라한 엣지 보드 CPU가 단 0.1초의 체류 딜레이 만에 눈을 감고 순식간에 풀어헤칠 수 있도록, 그 거대한 타원 볼륨을 기적적으로 아름답고 아주 작게 뭉친 둥근 완전 구면체 구조(Sphere) 형태로 쭈그러뜨려 주무르는 세계 최강 최고의 디코릴레이션(Decorrelation, 역상관/비상관 텐서 병합화) 공간 곡면 압축 수학 치환 엔진, 그것이 바로 그 대망의 LAMBDA (Least-squares AMBiguity Decorrelation Adjustment) 선형 역학 알고리즘이다.

현재 PX4 메인 스택 최정점에 올려진 역사 깊은 오픈소스 RTKLIB 파서 프레임워크뿐만 아니라, 전 세계 모든 수천 달러 상용 트림블/노바텔 RTK 수신기가 메인 코어의 자율 심장 루프처럼 영구 채택 융합하고 있는 이 파괴적이고 위대한 LAMBDA 정밀 알고리즘은, 저 노이즈가 떡칠 된 길쭉한 공분산 타원체를 Z-변환 정수 행렬 치환이라는 수리적 마법 요술봉을 관통 직행시켜 고강도로 둥글게 스칼라 편향 가공하고, 그 내부의 검색 트리 노드 바운더리를 수백만 배 크기로 무한 축소(Shrinking) 융합 압살시켜버림으로써, 수만 년이 걸릴 극악무도 방대한 8~12차원의 복소 행렬 공간 무한 정수 탐색망을, 고작 단 몇 백 번의 CPU 루프 순환 타격 탐색만으로 초고속 영구 사살 통계 증명 확정 지어버리는 위대한 공학적 전율을 달성한다.

자, 이제 이어지는 하위 절의 심연에서는 이 잔혹한 LAMBDA 엔진이 대체 수식 코어 구조 안에서 어떻게 Z-Z변환 공간 차원 이동과 강압적인 탐색 텐서 공간 축소(Volume Shrinking Boundary) 융합의 대수 파괴를 엮어 이루어내어, 마침내 PX4 텔레메트리 관제 모니터 보드 한가운데에 영광스럽고 초록색의 성스러운 찬란한 빛 3D RTK Fix (1~2cm 급 무결 절대 공간 제어 완료) 초정밀 생존 절대 신호를 통쾌히 최종 점등 인가시키고 폭발시키는지 그 잔혹하고 촘촘한 최저단 센싱 소스코드 레벨의 수학적 내부 파이프라인 전개도 톱니바퀴를 아주 징그럽고도 낱낱이 파헤쳐 분해 도축해 본다.