레이더 신호 검출 알고리즘 - 소프트웨어 융합

레이더 신호 검출 알고리즘은 레이더 시스템에서 가장 기본적이면서도 중요한 부분으로, 목표물의 존재 여부를 결정하는 역할을 한다. 이 과정은 잡음 배경에서 신호를 구별해내야 하므로 통계적 검출 이론과 신호처리 기술이 밀접하게 결합된다. 이 장에서는 레이더 신호 검출의 기본 개념과 여러 가지 검출 알고리즘에 대해 설명한다. 특히, 레이더 수신기의 출력에서 신호와 잡음을 구별하기 위한 여러 가지 기법과 수학적 배경을 다룬다.

레이더 신호 검출의 기본 개념

레이더 시스템은 목표물에서 반사된 신호를 수신하여 목표물의 존재를 확인한다. 이때 수신된 신호는 잡음이 포함된 형태로 들어오기 때문에 신호와 잡음을 구분하는 과정이 필요하다. 이를 레이더 신호 검출이라고 하며, 주로 통계적 방법을 이용하여 신호의 존재 여부를 결정한다.

신호 검출 문제는 기본적으로 두 가지 가설로 나눌 수 있다: - $\mathcal{H}_0$ : 신호가 존재하지 않는 경우 (잡음만 존재) - $\mathcal{H}_1$ : 신호가 존재하는 경우 (신호 + 잡음 존재)

이를 통해 레이더 신호 검출 문제는 다음과 같이 표현할 수 있다.

$\mathbf{y} = \begin{cases} \mathbf{n}, & \mathcal{H}_0 \\ \mathbf{s} + \mathbf{n}, & \mathcal{H}_1 \end{cases}$

여기서 $\mathbf{y}$ 는 수신 신호 벡터, $\mathbf{s}$ 는 신호 벡터, $\mathbf{n}$ 은 잡음 벡터이다. 검출 알고리즘은 이 두 가설 중 어느 것이 더 타당한지 판단한다.

Neyman-Pearson 기준

레이더 신호 검출의 중요한 기초 이론 중 하나는 Neyman-Pearson 기준이다. Neyman-Pearson 기준은 두 가설 간의 가설 검정에서 최대의 검출 확률을 유지하면서 오경보 확률을 일정 수준 이하로 제한하는 방법이다. 이 기준은 다음과 같은 비율 검정(Likelihood Ratio Test, LRT)으로 표현된다.

$\Lambda(\mathbf{y}) = \frac{p(\mathbf{y}|\mathcal{H}_1)}{p(\mathbf{y}|\mathcal{H}_0)} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $p(\mathbf{y}|\mathcal{H}_1)$ 은 $\mathcal{H}_1$ 가설 하에서의 확률 밀도 함수, $p(\mathbf{y}|\mathcal{H}_0)$ 은 $\mathcal{H}_0$ 가설 하에서의 확률 밀도 함수, $\eta$ 는 검출 임계값이다. Neyman-Pearson 기준은 특정한 오경보 확률 $P_{FA}$ 에 대해 최적의 검출 확률 $P_D$ 을 제공한다.

최우도 검출기 (Maximum Likelihood Detector)

최우도 검출기는 수신된 신호가 $\mathcal{H}_1$ 일 때와 $\mathcal{H}_0$ 일 때의 확률을 비교하여 가장 높은 확률을 가지는 가설을 선택한다. 이는 다음과 같은 최적화 문제로 정의된다.

$\hat{\mathcal{H}} = \underset{\mathcal{H}_i}{\arg \max} \; p(\mathbf{y}|\mathcal{H}_i), \; i = 0, 1$

최우도 검출기는 신호 모델이 정확하게 알려져 있을 때 최적의 성능을 제공한다. 그러나 실제 환경에서는 정확한 신호 모델을 알기 어려워, 이 방법이 항상 최적의 결과를 보장하지는 않는다.

잡음의 통계적 모델링

레이더 신호 검출에서 중요한 점은 잡음의 통계적 특성을 잘 이해하는 것이다. 일반적으로 잡음은 백색 가우시안 잡음(White Gaussian Noise, WGN)으로 모델링된다. 즉, 잡음 벡터 $\mathbf{n}$ 는 평균이 0이고, 분산이 $\sigma^2$ 인 가우시안 분포를 따른다:

$\mathbf{n} \sim \mathcal{N}(0, \sigma^2 \mathbf{I})$

여기서 $\mathbf{I}$ 는 단위 행렬이다. 이러한 가정 하에서 Neyman-Pearson 기준을 적용하면 다음과 같은 형태의 검출기를 얻을 수 있다:

$\Lambda(\mathbf{y}) = \frac{e^{-\frac{1}{2\sigma^2} \|\mathbf{y} - \mathbf{s}\|^2}}{e^{-\frac{1}{2\sigma^2} \|\mathbf{y}\|^2}} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $\|\cdot\|$ 는 유클리드 놈을 의미하며, 임계값 $\eta$ 에 따라 신호 검출이 이루어진다.

상관 검출기 (Matched Filter)

상관 검출기는 목표 신호의 형태를 알고 있는 경우, 최적의 검출 성능을 제공하는 기법이다. 이는 특정 신호가 들어올 때 신호와 가장 일치하는 형태의 필터를 사용하는 방법으로, 수신된 신호를 목표 신호와 상관 비교하여 신호의 존재 여부를 결정한다. 수식으로 표현하면, 수신된 신호 $\mathbf{y}$ 와 목표 신호 $\mathbf{s}$ 의 상관값을 계산하여 다음과 같이 결정한다:

$\mathbf{s}^T \mathbf{y} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $\mathbf{s}^T$ 는 신호 벡터 $\mathbf{s}$ 의 전치 행렬(transpose)을 의미한다. 이 방식은 목표 신호가 특정 패턴을 가지고 있고, 그 패턴을 정확히 알고 있을 때 특히 유용하다.

잡음이 백색 가우시안 잡음인 경우, 상관 검출기는 Neyman-Pearson 기준에 따라 최적의 검출 성능을 제공하는 것으로 증명된다. 또한, 상관 검출기는 수신된 신호의 잡음 분산에 비례하는 가중치를 부여함으로써, 잡음이 섞여 있더라도 신호를 효과적으로 검출할 수 있다.

CFAR (Constant False Alarm Rate) 검출기

실제 레이더 환경에서는 잡음의 분포가 백색 가우시안이 아닌 경우도 많으며, 잡음의 분포가 변동하는 경우가 종종 발생한다. 이 경우, 기존의 고정 임계값 기반 검출기는 성능이 저하될 수 있다. CFAR 검출기는 이러한 문제를 해결하기 위한 방법으로, 레이더 수신 신호의 현지 잡음 통계에 기반하여 임계값을 동적으로 설정한다.

CFAR 검출기의 기본 아이디어는 주변 환경의 잡음 레벨을 추정하고, 그에 맞추어 임계값을 설정하여 일정한 오경보 확률 $P_{FA}$ 을 유지하는 것이다. 일반적인 CFAR 기법으로는 다음과 같은 종류가 있다:

셀 평균 CFAR (Cell Averaging CFAR, CA-CFAR): 검출하고자 하는 신호 주변의 셀들로부터 잡음의 평균 레벨을 추정하고, 그 값을 기준으로 임계값을 설정한다.
순위 CFAR (Ordered Statistic CFAR, OS-CFAR): 주변 셀들의 값들을 순서대로 정렬하여 특정 위치에 있는 값을 임계값으로 사용하는 방식이다.
가장 가까운 이웃 CFAR (Greatest Of CFAR, GO-CFAR): 가장 강한 잡음 레벨에 맞추어 임계값을 설정하는 방식이다.

CA-CFAR의 수식은 다음과 같이 표현할 수 있다:

$T = \alpha \cdot \frac{1}{N} \sum_{i=1}^{N} Z_i$

여기서 $T$ 는 동적으로 설정된 임계값, $\alpha$ 는 미리 결정된 상수(확률에 의해 결정), $N$ 은 주변 셀의 수, $Z_i$ 는 주변 셀의 잡음 샘플이다. CFAR 기법은 동적으로 환경에 맞춰 적응하기 때문에 다양한 잡음 환경에서도 일정한 성능을 유지할 수 있는 장점이 있다.

에너지 검출기 (Energy Detector)

에너지 검출기는 수신된 신호의 총 에너지를 기반으로 신호의 존재 여부를 판단하는 간단한 검출 기법이다. 특정 신호 모양을 모르고, 신호가 특정 시간 동안 지속되는 경우에 유용하게 사용된다. 에너지 검출기의 기본 원리는 다음과 같다:

$\sum_{i=1}^{N} |y_i|^2 \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $|y_i|^2$ 는 수신된 신호 샘플 $y_i$ 의 에너지, $N$ 은 신호가 지속되는 샘플 수이다. 에너지 검출기는 간단하지만 특정 신호 패턴을 이용하지 않기 때문에 상대적으로 검출 성능이 떨어질 수 있다. 특히, 신호 대 잡음비(Signal-to-Noise Ratio, SNR)가 낮을 때 성능이 저하될 수 있으며, 신호와 잡음의 분포에 대한 가정이 중요하다.

베이지안 검출기

베이지안 검출기는 사전 확률(prior probability)과 손실 함수(loss function)을 사용하여 최적의 검출 규칙을 결정한다. 이는 각 가설에 대해 특정한 손실 비용이 부여되고, 이러한 비용을 최소화하는 방향으로 결정을 내리는 방식이다. 베이지안 검출기에서의 의사결정 규칙은 다음과 같이 정의된다:

$\hat{\mathcal{H}} = \underset{\mathcal{H}_i}{\arg \min} \; \left( C_{10} P(\mathcal{H}_1 | \mathbf{y}) + C_{01} P(\mathcal{H}_0 | \mathbf{y}) \right)$

여기서 $C_{10}$ 과 $C_{01}$ 은 각각 허위 경보(False Alarm)와 미검출(Miss Detection)에 대한 손실 비용이며, $P(\mathcal{H}_i | \mathbf{y})$ 는 베이즈 정리를 이용해 각 가설의 사후 확률을 구하여 적용한다. 베이지안 검출기는 다양한 상황에서 비용의 균형을 맞추는 데 유리하지만, 정확한 사전 확률과 손실 비용을 설정하기 어려운 경우가 많다.

GLRT (Generalized Likelihood Ratio Test)

GLRT(일반화된 우도 비 검정)는 신호가 정확히 알려져 있지 않거나, 신호의 특정 매개변수가 미지수일 때 사용하는 검출 기법이다. 이는 미지의 매개변수를 최대 우도 추정(Maximum Likelihood Estimation, MLE) 방식으로 추정한 후 Neyman-Pearson 검정의 형태로 검출을 수행한다. GLRT는 다음과 같이 표현된다:

$\Lambda(\mathbf{y}) = \frac{\max_{\theta \in \Theta_1} p(\mathbf{y}|\theta, \mathcal{H}_1)}{\max_{\theta \in \Theta_0} p(\mathbf{y}|\theta, \mathcal{H}_0)} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $\theta$ 는 미지의 신호 매개변수, $\Theta_1$ 및 $\Theta_0$ 는 각각 $\mathcal{H}_1$ 과 $\mathcal{H}_0$ 에 대해 가능한 매개변수의 범위를 나타낸다. GLRT는 매개변수가 알려져 있을 때의 최적 검출 성능에는 미치지 못할 수 있지만, 매개변수가 불확실한 환경에서도 사용할 수 있는 유연한 방법이다.

AMF (Adaptive Matched Filter)

AMF는 신호와 잡음의 통계적 특성이 변하는 환경에서 신호 검출을 수행하기 위해 설계된 검출 기법으로, 주로 적응형 신호 처리(Adaptive Signal Processing)와 관련이 있다. 레이더 수신기의 잡음 공분산 행렬이 미리 알려져 있지 않은 경우, 이를 추정하여 검출 성능을 극대화하는 방식이다. AMF는 수신된 신호 $\mathbf{y}$ 와 목표 신호 $\mathbf{s}$ 의 상관관계를 고려하면서 잡음 공분산 행렬 $\mathbf{R}$ 을 이용해 검출한다. AMF 검출기는 다음과 같이 표현할 수 있다:

$\Lambda(\mathbf{y}) = \frac{\mathbf{s}^T \mathbf{R}^{-1} \mathbf{y}}{\mathbf{s}^T \mathbf{R}^{-1} \mathbf{s}} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

여기서 $\mathbf{R}$ 은 잡음의 공분산 행렬을 나타내며, 이는 잡음의 통계적 특성을 반영한다. AMF는 복잡한 잡음 환경에서도 강력한 검출 성능을 제공한다.

K-LRT (Karhunen-Loève Likelihood Ratio Test)

K-LRT는 Karhunen-Loève 변환을 이용한 검출 기법으로, 주로 차원이 높은 신호 벡터를 낮은 차원으로 변환하여 검출 성능을 향상시키기 위해 사용된다. Karhunen-Loève 변환은 고차원 신호 벡터를 직교하는 기저 함수 집합으로 표현함으로써 차원을 줄이고, 정보량이 높은 주요 성분만을 이용해 검출을 수행할 수 있게 한다.

이를 통해 신호 벡터 $\mathbf{y}$ 는 주요 성분 벡터 $\mathbf{v}$ 로 변환되며, 검출은 다음과 같이 수행된다:

$\Lambda(\mathbf{v}) = \frac{p(\mathbf{v}|\mathcal{H}_1)}{p(\mathbf{v}|\mathcal{H}_0)} \underset{\mathcal{H}_0}{\overset{\mathcal{H}_1}{\gtrless}} \eta$

K-LRT는 주로 차원이 높은 레이더 데이터의 분석과 압축에서 사용되며, 검출기의 계산 효율성을 높이는 데 유리하다.

신경망 기반 검출기

최근 레이더 신호 검출에서는 딥러닝과 같은 신경망 기반 기법이 활발히 연구되고 있다. 이 방식은 레이더 수신 신호의 특징을 학습하여 복잡한 환경에서도 높은 성능을 제공할 수 있다. 신경망 기반 검출기는 수신된 신호를 입력 데이터로 사용하고, 신호의 존재 여부를 이진 분류 문제로 접근한다. 주로 사용하는 구조는 다음과 같다:

CNN (Convolutional Neural Network): 레이더 신호의 시간적 또는 공간적 패턴을 학습하는 데 적합하다. 주로 2차원 또는 3차원 입력을 사용하여 지역적 특징을 추출한다.
RNN (Recurrent Neural Network): 연속적인 신호 패턴을 다루는 데 적합하며, 시간 순서가 중요한 레이더 데이터 처리에 활용된다.
LSTM (Long Short-Term Memory): RNN의 단점을 보완한 구조로, 긴 시퀀스 데이터에서 중요한 특징을 학습하는 데 효과적이다.

신경망 기반 검출기는 학습 데이터에 따라 성능이 달라지므로, 충분한 학습 데이터가 필요하며, 기존 통계적 검출기와 비교하여 학습 및 추론 시간에 주의가 필요하다. 그러나 복잡한 환경에서도 높은 적응성과 강건성을 보이는 장점이 있다.