군사용 AI 자율 임무 드론의 현황과 전망 (2025-09-23)

1. 서론: 전장의 패러다임 전환, AI 드론의 부상

현대전은 인공지능(AI)과 자율 시스템의 등장으로 근본적인 변곡점을 맞이하고 있다. 특히 러시아-우크라이나 전쟁은 AI 기반 자율 임무 드론(이하 AI 드론)이 단순한 보조 자산을 넘어 전장의 승패를 좌우하는 핵심 요소, 즉 ’게임 체인저’임을 명백히 증명했다.1 AI 알고리즘을 활용한 정밀 표적 식별, 인간의 개입을 최소화한 자율 공격, 그리고 수십, 수백 대의 드론이 하나의 유기체처럼 움직이는 군집 공격(Swarm Attack)은 더 이상 공상 과학 영화 속 이야기가 아니다.2 이는 기존의 유인 플랫폼 중심의 전쟁 패러다임이 AI와 드론이 주도하는 ‘무인화 전쟁’ 시대로 급격히 전환되고 있음을 시사한다.2

이러한 변화의 중심에는 AI 기술이 있다. AI는 드론에 인간의 인지 능력을 뛰어넘는 상황 인식 및 의사결정 속도를 부여함으로써, 전장의 OODA 루프(관측-판단-결심-행동)를 혁신적으로 단축시킨다. 이는 곧 전술적 우위를 넘어 전략적 비대칭성을 창출하는 핵심 동력으로 작용하고 있다. 따라서 AI 드론 기술의 본질을 이해하고, 관련 군사 시장의 동향과 미래를 전망하며, 그에 따른 전략적 함의를 도출하는 것은 국가 안보와 국방 산업의 미래를 좌우할 중차대한 과제가 되었다.

본 보고서는 이러한 시대적 요구에 부응하여 AI 기반 자율 임무 드론의 기술적 본질을 심층적으로 분석하고, 글로벌 군사 시장의 규모와 성장 동력을 정량적으로 제시한다. 또한, 실제 전장에서의 다차원적 군사 임무 수행 사례와 기술 패권을 둘러싼 주요 국가 및 기업들의 경쟁 구도를 조망한다. 나아가 드론 스웜(Drone Swarm), 완전 자율성 등 미래 기술 동향을 예측하고, 이 기술이 야기하는 기술적 한계와 치명적 자율무기시스템(LAWS)을 둘러싼 윤리적, 규제적 쟁점까지 포괄적으로 다룬다. 이를 통해 미래 국방 정책 수립과 방위 산업 전략 발전에 필요한 핵심적인 통찰을 제공하는 것을 목표로 한다.

2. AI 자율 임무 드론의 기술적 본질

AI 자율 임무 드론의 혁신성은 단순히 원격으로 조종되는 무인항공기(Remotely Piloted Aircraft, RPA)의 개념을 넘어선다. 그 핵심은 인간의 지속적인 개입 없이도 AI 알고리즘을 통해 스스로 주변 환경을 인식하고, 상황을 판단하며, 부여된 임무를 완수하는 ’자율 지능’에 있다.1 이는 단순한 자동 비행이나 사전 프로그래밍된 경로 추종을 뛰어넘는, 동적인 전장 환경에 실시간으로 적응하는 자율적 의사결정 능력을 의미한다. 이러한 자율 지능은 몇 가지 핵심 구현 기술의 유기적인 결합을 통해 완성된다.

2.1 개념 정의: 단순 자동화를 넘어선 ‘자율 지능’

AI 군용 드론은 정교한 AI 알고리즘을 두뇌로 삼아, 고급 센서들로부터 수집되는 방대한 데이터를 실시간으로 처리하고 분석하여 자율적인 임무 수행을 가능하게 하는 무기체계이다.1 과거의 드론이 지상 통제소의 조종사와 분석가에게 전적으로 의존하는 ’하늘을 나는 센서’에 가까웠다면, AI 드론은 스스로 판단하고 행동하는 ’하늘을 나는 컴퓨터’이자 ’자율적 행위자’에 해당한다.

이러한 변화는 전술적 차원에서 중대한 함의를 가진다. 과거 드론 운용의 가장 큰 제약 중 하나는 데이터링크의 안정성이었다. 통신이 두절되거나 전파 방해 공격을 받으면 드론은 무력화되거나 통제 불능 상태에 빠지기 쉬웠다. 그러나 AI 드론은 통신 두절과 같은 극한 상황에서도 내장된 AI 알고리즘을 통해 임무를 지속할 수 있는 자율성을 확보한다. 이는 드론 자체, 즉 ‘엣지(Edge)’ 단에서 방대한 실시간 데이터를 처리하여 신속한 의사결정을 내리는 능력에서 비롯된다.1 중앙 서버나 인간 분석가의 판단을 기다리는 지연 시간을 제거함으로써, AI 드론은 인간의 인지적 한계를 초월하는 속도로 전장 상황에 대응할 수 있다. 이는 적의 대응 시간을 원천적으로 무력화하고 전장의 주도권을 확보하는 결정적인 요소로 작용한다.

2.2 핵심 구현 기술: 전장의 두뇌와 신경망

2.2.1 AI 기반 표적 식별 및 상황 인식

AI 드론의 ’눈’과 ‘두뇌’ 역할을 하는 것은 컴퓨터 비전 기술에 기반한 표적 식별 및 상황 인식 능력이다. 드론에는 전기광학(EO) 및 적외선(IR) 카메라, 라이다(LIDAR) 등 다양한 첨단 센서가 탑재되며, 이 센서들은 방대한 양의 시각 및 공간 데이터를 수집한다.1 정교한 AI 알고리즘은 이 데이터를 실시간으로 분석하여 전차, 장갑차, 병력 등 특정 군사 표적을 식별하고, 나아가 피아 식별이 어려운 혼란스러운 전장 환경 속에서도 아군과 적군을 정확하게 구별해낸다.1

특히 자동표적식별(Automatic Target Recognition, ATR) 기술은 AI 드론의 공격 및 방어 능력을 극대화하는 핵심 요소다. ATR 기술이 미사일 방어체계와 결합될 경우, 수많은 위협체 중에서 실제 위협이 되는 미사일이나 드론을 자동으로 선별하고 추적하여 요격 성공률을 기하급수적으로 높일 수 있다.6 이는 단순히 정찰 정보를 수집하는 수준을 넘어, 방어 시스템 전체의 효율성과 반응 속도를 혁신하는 역할을 수행한다.

2.2.2 자율 항법 및 경로 최적화

AI 기술은 드론의 ’자율항법역량(Autonomous Navigation)’에 혁신을 가져왔다.1 AI 드론은 GPS 신호가 교란되거나 차단되는 ’GPS 거부 환경’에서도 임무를 성공적으로 수행할 수 있는 능력을 갖추고 있다. 이는 레이더를 포함한 다양한 온보드 센서들의 정보를 융합(Sensor Fusion)하여 실시간으로 자신의 위치를 파악하고, 주변 지형, 기상 조건, 그리고 적의 방공망과 같은 잠재적 위협 요소를 종합적으로 분석하기 때문이다.1 AI 알고리즘은 이 모든 변수를 고려하여 생존 가능성이 가장 높고 임무 달성에 가장 효율적인 최적의 비행 경로를 자율적으로 설정하고 수정한다. 이는 드론의 생존성과 임무 성공률을 보장하는 가장 근간이 되는 기술이다.

2.2.3 군집 드론 지능(Swarm Intelligence)

군집 드론 지능은 AI 드론 기술의 정점으로, 단일 드론의 능력을 초월하여 다수의 드론이 마치 하나의 유기체처럼 상호 협력하며 복잡한 임무를 수행하는 기술을 의미한다.1 이는 중앙 집중식 통제 시스템에 의존하는 것이 아니라, 개별 드론들이 서로 통신하며 분산된 의사결정을 내리는 방식으로 작동한다.

이러한 군집 지능을 구현하기 위해 개미군집최적화(Ant Colony Optimization)나 입자군집최적화(Particle Swarm Optimization)와 같은 생체모방 알고리즘이 활용된다.1 예를 들어, 개미가 중앙의 지시 없이도 페로몬 흔적을 통해 가장 효율적인 길을 찾아내는 것처럼, 군집 드론들도 개별 드론이 수집한 정보를 공유하고 상호작용함으로써 정찰, 공격, 방어 임무를 가장 효율적으로 분담하고 실행한다.

군집 지능의 진정한 위력은 단순히 드론의 ’숫자’에 있는 것이 아니라, 시스템 전체의 ’회복탄력성(Resilience)’에 있다. 전통적인 군사 자산은 이지스함이나 F-35 전투기와 같이 소수의 고가치 표적에 집중되어 있어, 이들이 무력화될 경우 전력 손실이 막대하다. 반면, 군집 드론은 다수의 저가치 자산으로 구성된 분산 네트워크다. 일부 드론이 적의 공격으로 격추되거나 통신 두절로 이탈하더라도, 나머지 드론들이 실시간으로 상황을 재인식하고 알고리즘에 따라 임무를 재분배하여 목표를 완수할 수 있다. 이는 기존의 방공망이나 전자전 시스템이 대응하기 매우 어려운 새로운 형태의 위협이다. 방어자 입장에서는 단순히 개별 드론을 요격하는 것을 넘어, 전체 군집 시스템의 ’붕괴’를 유도해야 하는 엄청난 전술적 부담을 안게 된다.

3. 글로벌 군사 드론 시장 분석 및 전망

AI 기술의 발전과 지정학적 긴장 고조는 군용 드론 시장의 폭발적인 성장을 견인하고 있다. 전 세계 주요 국가들이 국방력 현대화의 핵심으로 무인 시스템을 주목하면서, 관련 시장은 향후 10년간 높은 성장률을 기록할 것으로 전망된다. 본 장에서는 정량적 데이터를 기반으로 시장의 현재와 미래를 조망하고, 성장을 이끄는 힘과 제약하는 요인을 심층 분석한다.

3.1 시장 규모 및 성장 예측: 폭발적 성장세

주요 글로벌 시장 조사 기관들은 군용 드론 시장이 향후 10년간 연평균 10%를 훌쩍 넘는 높은 성장률을 보일 것으로 일관되게 예측하고 있다. 각 기관의 분석 방법론에 따라 구체적인 수치에는 다소 차이가 있으나, 시장의 폭발적인 성장 추세에 대해서는 이견이 없다.

Fortune Business Insights는 2023년 141억 4천만 달러 규모였던 시장이 2032년에는 471억 6천만 달러에 달하며, 연평균성장률(CAGR) 13.15%를 기록할 것으로 전망했다.5 Global Market Insights 역시 2023년 146억 달러에서 출발하여 2032년 445억 달러 규모로 성장, CAGR 13.5%를 예측하며 유사한 견해를 보였다.2 Spherical Insights는 기준 연도를 2022년(123억 7천만 달러)으로 설정하고 2032년 382억 1천만 달러(CAGR 11.9%)에 이를 것으로 분석했다.9 이처럼 복수의 기관이 공통적으로 예측하는 두 자릿수 성장률은 군용 드론이 국방 산업에서 가장 역동적인 분야 중 하나임을 명확히 보여준다.

3.2 시장 성장의 핵심 동력

군용 드론 시장의 성장은 수요와 공급 양측의 복합적인 요인에 의해 강력하게 추동되고 있다.

3.2.1 수요 측면

• 지정학적 불안정 및 국방 예산 증액: 시장 성장의 가장 근본적인 동력은 전 세계적으로 고조되는 군사적 긴장과 이에 따른 각국의 국방비 지출 증가다.8 특히 아시아-태평양, 유럽, 중동 지역의 지정학적 불안은 무인 시스템을 포함한 군비 현대화 투자를 촉진하고 있다.8 스톡홀름 국제평화연구소(SIPRI)에 따르면, 2023년 전 세계 군사비 지출은 전년 대비 6.8% 증가하며 2009년 이후 최대 증가폭을 기록했는데, 이는 첨단 드론 기술에 대한 투자를 가속화하는 직접적인 배경이 되고 있다.2

• ISR 및 비대칭 전력 수요 증대: 현대전에서 정보 우위의 중요성이 그 어느 때보다 강조되면서, 정보·감시·정찰(ISR) 임무 수행을 위한 무인 시스템의 신뢰성과 수요가 급증하고 있다.8 또한, 드론은 F-35와 같은 고가의 유인 플랫폼에 비해 훨씬 적은 비용으로 높은 정밀 타격 및 정보 수집 능력을 발휘할 수 있어, 비대칭 전쟁과 대테러 작전에서 매우 효과적인 수단으로 각광받고 있다.4

3.2.2 공급 및 기술 측면

• AI 및 자율 기술 혁신: 인공지능, 머신러닝, 자율항법 등 관련 기술의 비약적인 발전은 군용 드론의 성능을 혁신적으로 향상시키며 새로운 군사적 수요를 창출하는 핵심 동력이다.5 AI 기반의 자율 시스템은 인간의 개입을 최소화하면서도 더 복잡하고 위험한 임무를 수행할 수 있게 하여 드론의 활용 범위를 획기적으로 넓히고 있다.8

• 낮은 진입 장벽과 시장 경쟁 심화: 상용 드론 기술의 발전과 부품의 보편화는 군용 드론 시장의 진입 장벽을 낮추는 효과를 가져왔다.5 이로 인해 전 세계적으로 수많은 신규 업체들이 시장에 진입하고 있으며, 이는 기존 대형 방산업체와의 경쟁을 촉진하고 기술 혁신과 가격 경쟁을 가속화하는 요인으로 작용한다. 시장이 더욱 세분화되고 경쟁이 치열해질수록 기술 발전 속도는 더욱 빨라질 것으로 예상된다.5

3.3 시장 성장의 장애 요인

폭발적인 성장세에도 불구하고, 군용 드론 시장은 몇 가지 중요한 기술적, 규제적 장애 요인에 직면해 있다.

3.3.1 기술적 및 운영적 문제

• 사이버 보안 취약성: 군용 드론은 정교한 네트워크 시스템에 의존하기 때문에 본질적으로 사이버 공격에 취약하다.5 적의 해킹을 통한 데이터 유출이나 조종권 탈취, GPS 신호 교란(Spoofing), 통신 전파 방해(Jamming) 등은 군사 작전의 성패를 좌우할 수 있는 치명적인 위협이다.8 특히, 중국산 드론의 데이터 유출 의혹으로 인해 미국 국방부가 사용을 금지한 사례는 이러한 사이버 보안 리스크가 현실적인 위협임을 보여준다.5

3.3.2 규제 및 정책적 문제

• 국제 기술 통제 체제: 미사일기술통제체제(MTCR)와 같은 국제적인 수출 통제 규제는 일정 수준 이상의 성능을 가진 무인항공기와 관련 기술의 국가 간 이전을 엄격히 제한한다.5 이는 고성능 군용 드론의 글로벌 시장 확대를 저해하는 중요한 요인으로 작용한다.

• 윤리적 논쟁 및 규제 불확실성: 인간의 개입 없이 생명을 앗아갈 수 있는 치명적 자율무기시스템(LAWS)에 대한 국제 사회의 윤리적 논쟁과 규제 마련의 지연은 기술 개발 및 도입의 불확실성을 증대시키는 요인이다.8 명확한 국제 규범이 부재한 상황에서 각국은 첨단 AI 드론의 개발과 실전 배치에 신중을 기할 수밖에 없으며, 이는 시장 성장의 잠재적 제약으로 작용한다.

이러한 시장 동인과 장애 요인들을 종합적으로 분석하면, 시장의 구조적 변화에 대한 더 깊은 이해가 가능하다. 지정학적 불안은 한편으로는 국방 예산 증액을 통해 시장의 ’수요’를 폭발적으로 증가시키는 가장 강력한 동력이지만, 다른 한편으로는 미-중 기술 패권 경쟁과 같은 갈등을 심화시켜 특정 국가의 부품이나 기술에 대한 제재를 유발하고, 이는 ’공급망 리스크’를 증대시키는 이중적 역할을 수행한다. 이는 역설적으로 각국이 외부 의존도를 줄이고 ’기술 자립’과 ’국내 제조’에 더욱 집중하게 만드는 강력한 촉매제가 되고 있으며 13, 결과적으로 시장의 리스크가 글로벌 공급망의 다변화와 기술 내재화를 촉진하는 구조적 변화를 이끌고 있다.

또한, 시장은 두 개의 다른 축으로 분화하며 발전하는 이중 구조화 현상을 보이고 있다. 하나는 미국의 글로벌 호크나 리퍼와 같이 고가의 첨단 기술이 집약된 ‘고가 정밀 시스템’ 시장이다.5 이 시장은 소수의 글로벌 방산 대기업이 주도한다. 다른 하나는 러시아-우크라이나 전쟁에서 그 효용성이 입증된 상용 드론 기반의 ‘저가 소모성 시스템’ 시장이다.2 이 시장은 진입 장벽이 낮고 혁신 속도가 매우 빠르다. 따라서 미래 군용 드론 시장은 이 두 시장이 공존하며 상호 보완하는 형태로 발전할 것이며, 각국은 소수의 고가치 자산으로 전략적 우위를 확보하는 동시에, 다수의 저가치 자산으로 전술적 유연성과 양적 우위를 추구하는 ‘하이브리드’ 전력 구조를 지향하게 될 것이다.

4. 전장 적용: AI 드론의 다차원적 군사 임무 수행

AI 드론은 현대 전장의 거의 모든 영역에 깊숙이 침투하여 임무 수행 방식을 근본적으로 바꾸고 있다. 과거 특정 목적에 한정되었던 드론의 역할은 이제 정보 수집부터 정밀 타격, 군수 지원, 전자전에 이르기까지 다차원적으로 확장되었다. 이는 개별 플랫폼의 성능 향상을 넘어, 전장 전체를 유기적으로 연결하는 네트워크 중심전(Network Centric Warfare)으로의 전환을 가속화하고 있다.

4.1 정보·감시·정찰(ISR): 전장의 신경망을 장악하다

AI 드론은 ISR 임무에서 가장 두드러진 활약을 보이고 있다. 유인 정찰기와 달리 피로를 느끼지 않으며, 장시간, 광범위한 지역에 걸쳐 24시간 지속적인 감시 능력을 제공한다.10 특히 험준한 산악 지형이나 복잡한 도심지 등 유인 자산의 접근이 제한되거나 위험 부담이 큰 지역에서도 효과적으로 임무를 수행할 수 있다.10

AI 기반 분석 시스템은 드론이 수집한 방대한 양의 영상 및 신호 정보를 실시간으로 처리하여 유의미한 정보를 추출하고, 이를 통해 지휘관의 전장 상황 인식(Situational Awareness) 능력을 극대화한다.16 이스라엘이 운용하는 ‘라벤더(Lavender)’ 시스템은 드론이 수집한 데이터를 활용해 적을 인식하는 대표적인 사례다.16 또한, AI 드론의 활용 범위는 전통적인 군사 영역을 넘어 사이버 위협 분석, 해양 환경 감시 등 비전통적 안보 위협 대응으로까지 확대되고 있다.17

4.2 정밀 타격 및 공격: 킬 체인(Kill Chain)의 혁신

AI 기술은 ’탐지-식별-결심-타격’으로 이어지는 킬 체인의 모든 단계를 혁신하고 있다. AI 알고리즘은 표적의 형태, 이동 패턴, 그리고 장비의 취약점까지 스스로 학습하고 식별하여, 인간의 개입을 최소화하면서도 외과수술과 같은 정밀 타격을 가능하게 한다.3 이는 공격의 정확성을 높일 뿐만 아니라, 의사결정 시간을 획기적으로 단축시켜 적에게 대응할 틈을 주지 않는다.

4.2.1 사례 연구 1: 우크라이나의 ‘거미줄 작전’

우크라이나 보안국(SBU)이 주도한 ’거미줄 작전’은 AI를 활용한 대규모 자율 공격의 효용성을 극명하게 보여준 사례다.3 SBU는 사전에 AI 머신러닝을 통해 러시아 폭격기의 고화질 사진을 학습시켜 형태와 취약점을 스스로 인지하도록 만든 자폭 드론 117대를 러시아 영내 깊숙이 침투시켰다. 이 드론들은 인간의 실시간 원격 조종 없이, 지정된 시간에 맞춰 스스로 러시아 공군기지로 이동하여 학습된 데이터를 기반으로 폭격기의 가장 취약한 부분을 식별하고 자폭 공격을 감행했다. 이 작전으로 러시아는 다수의 장거리 폭격기를 포함한 공군 전력의 약 20%를 손실하는 막대한 피해를 입었으며, 이는 AI 기반 자율 공격이 전장의 판도를 바꿀 수 있음을 입증했다.3

4.2.2 사례 연구 2: 이스라엘의 AI 시스템 ‘라벤더(Lavender)’

이스라엘의 ‘라벤더’ 시스템은 AI가 타겟팅 과정에 얼마나 깊이 개입할 수 있는지를 보여준다. 이 시스템은 위성사진, 통신 감청, 드론 정찰 영상 등 방대한 데이터를 종합적으로 분석하여 하마스 대원과 같은 잠재적 표적 리스트를 자동으로 생성한다.3 인간 지휘관은 AI가 제시한 표적과 공격 우선순위를 검토하고 최종 승인만 내리면, 드론이 정밀 타격을 실행하는 방식이다. 이는 AI가 단순히 수집된 정보를 분석하는 ‘인식 보조’ 단계를 넘어, 공격 대상을 직접 제안하는 ‘표적 생성’ 단계까지 진화했음을 의미한다. 이를 통해 이스라엘군은 타겟팅에 소요되는 시간과 인력을 획기적으로 단축하고 전쟁의 속도와 효율성을 극적으로 높일 수 있었다.3

이러한 사례들은 AI의 역할이 점차 심화되고 있음을 보여준다. 초기 군용 AI가 인간 분석가를 위해 영상에서 객체를 ’인식’하고 분류하는 보조적 역할에 머물렀다면(예: 미 국방부의 Project Maven 19), 이제는 데이터를 분석해 직접 타격할 ’표적을 생성’하고(라벤더), 나아가 그 공격을 ’자율적으로 실행’하는(거미줄 작전) 단계로 진화하고 있다. 이 과정에서 인간의 역할은 직접적인 ’실행자’에서 ’감독자’로, 궁극적으로는 AI의 결정을 최종적으로 승인하거나 거부하는 ’거부권자’로 변화하고 있다. 이는 ’의미 있는 인간 통제’라는 윤리적 딜레마를 현실의 문제로 부상시키는 중요한 변화다.

4.3 군수 및 물류 지원: 위험을 넘어서는 보급선

AI 드론은 최전선에서의 군수 및 물류 지원 방식에도 혁신을 가져오고 있다. 적의 공격에 상시 노출된 위험한 보급로나 고립된 격오지 부대에 군수품, 탄약, 의료품 등을 자율적으로 보급하는 임무를 수행함으로써 인명 피해를 최소화하고 보급의 안정성을 높인다.20 수송 드론은 30kg에 달하는 군수품을 싣고 공중에서 물자를 투하하거나, 안전한 지점에 착륙하여 하역하는 방식으로 임무를 수행할 수 있다.20

대한항공이 개발 중인 틸트로터(Tilt-rotor) 드론은 헬리콥터처럼 수직으로 이륙하여 비행기처럼 고속으로 비행하는 능력을 결합한 사례다.21 이러한 하이브리드 형태의 드론은 활주로가 없는 야전 환경에서도 신속하게 대량의 물자를 보급할 수 있어 군수 지원의 효율성과 유연성을 크게 향상시킬 것으로 기대된다. 이는 아마존의 ’프라임 에어’와 같은 상용 드론 배송 기술이 군사 분야로 성공적으로 확장 적용된 사례로 볼 수 있다.22

4.4 전자전 및 통신 중계: 보이지 않는 전쟁의 승부수

현대전에서 전자기 스펙트럼의 우위는 물리적 전투의 승패를 좌우할 만큼 중요하다. AI 드론은 이 ’보이지 않는 전쟁’에서도 핵심적인 역할을 수행한다. 적의 강력한 전파 방해(Jamming) 환경 속에서도 AI 알고리즘을 통해 이를 회피하고 자율적으로 비행하여 목표물을 타격할 수 있다.23 반대로, 드론 자체가 강력한 재머(Jammer)를 탑재하고 적진 깊숙이 침투하여 적의 통신망과 레이더 시스템을 교란하는 전자전(Electronic Warfare, EW) 플랫폼으로도 활용된다.19

우크라이나 전쟁에서 스타링크 위성 통신과 결합된 AI 시스템은 러시아군의 암호화되지 않은 통신을 감청하고, 통신이 집중되는 지점을 분석하여 야전 지휘소의 위치를 정확히 식별해내는 데 결정적인 역할을 했다.24 또한, 산악 지형이나 통신 인프라가 파괴된 지역에서 AI 드론은 아군 부대 간의 통신을 연결하는 ‘하늘의 통신 중계기’ 역할을 수행하여 작전의 연속성과 지휘통제의 안정성을 보장한다.25

이처럼 AI 드론이 ISR, 타격, 군수, 전자전 등 군사의 거의 모든 기능 영역에 적용되면서, 전장의 패러다임은 개별 ‘플랫폼’ 중심에서 ‘네트워크’ 중심으로 빠르게 전환되고 있다. 과거에는 전투기, 탱크, 함선 등 개별 플랫폼의 성능이 전쟁의 승패를 좌우했다면, 이제는 수많은 드론들이 각자의 기능(센서, 공격, 재머, 통신 중계 등)을 수행하며 하나의 거대한 ’전투 네트워크’를 형성한다. 이 네트워크 안에서 정보는 실시간으로 공유되고, 가장 효과적인 자산이 특정 임무에 동적으로 할당된다. 따라서 미래 전장의 승패는 개별 드론의 성능을 넘어, 이 모든 이기종(異機種) 자산을 얼마나 효율적으로 연결하고 통합 운용하는 ‘시스템의 시스템(System of Systems)’ 역량 7, 즉 ‘전투 클라우드(Combat Cloud)’ 26 구축 능력에 의해 결정될 것이다.

5. 경쟁 구도: 기술 패권을 향한 무한 경쟁

AI 드론 기술은 미래 국방력의 핵심으로 부상하며, 이를 둘러싼 국가 간, 기업 간의 기술 패권 경쟁이 그 어느 때보다 치열하게 전개되고 있다. 미국이 여전히 기술적 우위를 점하고 있는 가운데, 중국이 무서운 속도로 추격하고 있으며, 이스라엘은 실전 경험을 바탕으로 독자적인 기술 강국으로 자리매김했다. 유럽과 러시아 등 다른 국가들도 이 경쟁에 적극적으로 뛰어들고 있다.

5.1 국가별 개발 전략: 3대 강국과 추격자들

AI 드론 기술 개발은 크게 미국, 중국, 이스라엘의 3강 구도를 중심으로 전개되고 있다.27 각국은 자국의 강점과 안보 환경에 맞춰 차별화된 개발 전략을 추진하고 있다.

• 미국: 세계 최고의 기술 선도국으로서, 국방고등연구계획국(DARPA)과 같은 정부 기관 주도로 AI 자율비행, 유무인 복합전투체계(MUM-T), 군집 드론 등 핵심 원천 기술 개발을 이끌고 있다.18 미국은 General Atomics, Northrop Grumman과 같은 전통적인 방산 대기업뿐만 아니라, Kratos, Anduril과 같은 혁신적인 스타트업을 적극 활용하여 기술 생태계 전반의 경쟁력을 유지하려는 전략을 구사한다. 특히 MQ-20 어벤저 무인기에 AI 조종사를 적용한 실시간 공중전 시연 성공 18 등은 미국의 압도적인 기술력을 보여주는 사례다.

• 중국: 미국의 가장 강력한 경쟁자로, ‘군민융합’ 전략을 통해 DJI와 같은 세계적인 상용 드론 기업의 기술력을 군사용으로 빠르게 전환하고 있다.18 중국은 정부 주도하에 자율 작전, 전자전 대응, 그리고 특히 군집 드론 기술 개발에 막대한 자원을 투자하고 있다. 국영 방산기업인 중국북방공업그룹(NORINCO)이 개발한 Blowfish A3 군집 드론 시스템은 중국의 기술 수준이 상당한 궤도에 올랐음을 보여준다.18

• 이스라엘: 끊임없는 실전 경험을 기술 개발의 자양분으로 삼는 기술 강국이다. 특히 소형 정밀 타격 드론과 AI 기술 통합에 독보적인 강점을 보유하고 있다.18 Elbit Systems의 SkyStriker, IAI의 Harop과 같은 배회형 자폭 드론(Loitering Munition)은 AI 기반 표적 탐지 및 자율 비행 기술이 집약된 결과물로, 전 세계 자폭 드론 시장을 선도하고 있다.18

이들 3강 외에도 여러 국가들이 AI 드론 개발에 박차를 가하고 있다. 러시아는 우크라이나 전쟁을 통해 Kalashnikov사의 KUB-BLA와 같은 AI 자폭 드론의 실전 운용 경험을 축적하며 기술 고도화에 나서고 있다.18

유럽은 Airbus(독일/프랑스)와 Quantum Systems(독일)를 중심으로 군집 드론 기술을 공동 개발하고 있으며 1, 프랑스, 독일, 스페인이 참여하는 차세대 유무인 복합 전투체계인 FCAS(Future Combat Air System) 프로젝트를 통해 미래 공중전의 주도권을 확보하려 하고 있다.26

영국 역시 BAE Systems를 중심으로 AI 기반 표적 식별 기술을 개발 중이며, 최종 공격 결정은 인간이 내리는 ‘인간-기계 협업’ 모델을 집중적으로 테스트하고 있다.18

5.2 글로벌 방산업체 동향: 시장을 지배하는 거인들

군용 드론 시장은 소수의 글로벌 대형 방산업체들이 높은 점유율을 차지하고 있는 가운데, 혁신적인 기술로 무장한 신흥 기업들이 도전하는 양상을 보이고 있다. 이머젠 리서치(Emergen Research)의 조사에 따르면, 록히드 마틴, 레이시온, 노스롭 그루먼 등 미국의 방산 대기업들이 매출 규모 면에서 시장을 주도하고 있다.27

전통적인 강자인 노스롭 그루먼은 글로벌 호크와 같은 고고도 전략 정찰 자산 시장을, 제너럴 아토믹스는 리퍼와 프레데터를 앞세워 공격 드론 시장을 장악하고 있다.15 이들은 기존 플랫폼에 AI 조종사를 적용하는 등 기술 고도화를 통해 시장 지배력을 유지하려 한다.18

반면, Kratos와 Anduril과 같은 신흥 강자들은 새로운 개념으로 시장에 도전하고 있다. Kratos는 F-35와 같은 유인 전투기와 협력하여 임무를 수행하는 저비용 무인 전투기, 이른바 ‘충성스러운 윙맨(Loyal Wingman)’ 개념을 XQ-58A 발키리를 통해 구체화하며 새로운 시장을 개척하고 있다.15 실리콘밸리의 기술력을 바탕으로 설립된 Anduril은 하드웨어보다 AI 소프트웨어와 자율 시스템 통합에 초점을 맞춰, 기존 방산 시장의 패러다임을 바꾸는 ’파괴적 혁신가’로 주목받고 있다.15 이들 기업의 등장은 군용 드론 시장이 단순한 플랫폼 경쟁을 넘어 AI 기반의 소프트웨어와 시스템 통합 역량 경쟁으로 진화하고 있음을 보여준다.

6. 미래 전장과 기술적 특이점

AI 드론 기술은 현재의 수준을 넘어, 미래 전장의 양상을 예측하기 어려울 정도로 근본적으로 변화시킬 잠재력을 가지고 있다. 수천 개의 드론이 하나의 지능처럼 움직이는 드론 스웜, 인간의 개입 없이 스스로 임무를 수행하고 보급까지 받는 완전 자율 시스템 등은 더 이상 상상 속의 개념이 아니다. 그러나 이러한 기술적 특이점으로 나아가는 길에는 반드시 극복해야 할 명백한 기술적 한계와 취약점 또한 존재한다.

6.1 드론 스웜(Drone Swarm): 양(Quantity)이 질(Quality)을 압도하는 시대

드론 스웜 기술은 미래 전장의 가장 파괴적인 ’게임 체인저’로 꼽힌다. 이는 단순히 많은 수의 드론을 동시에 투입하는 것을 넘어, 수백, 수천 개의 AI 드론이 상호 통신하고 협력하며 하나의 분산된 지능 시스템처럼 작동하는 것을 의미한다.32 드론 스웜의 군사적 가치는 적의 방어 시스템을 질적으로 무력화하는 데 있다. 아무리 정교한 방공망이라도 수많은 표적이 동시다발적으로, 예측 불가능한 방식으로 접근할 경우 이를 모두 요격하는 것은 물리적으로 불가능하다. 이는 방어 시스템의 탐지, 추적, 요격 능력을 포화시켜 무력화시키는 새로운 공격 방식이다.7

이러한 개념을 현실화하기 위한 각국의 경쟁은 이미 시작되었다. 미국 국방부는 2025년 8월까지 수천 개의 저렴한 자율 드론을 실전 배치하는 것을 목표로 하는 ‘리플리케이터(Replicator)’ 프로그램을 추진하고 있다.35 과거 F/A-18 전투기에서 100여 개의 소형 드론을 투하하여 군집 비행에 성공했던 ‘퍼딕스(Perdix)’ 시스템은 드론 스웜의 가능성을 보여준 초기 사례다.35 중국 역시 10톤급 대형 무인기에서 소형 드론 스웜을 전개하는 ‘주톈(Jiu Tian)’ 모함 드론을 공개하며 이 분야의 기술력을 과시했다.35

드론 스웜의 가장 큰 전략적 함의는 ‘비용 강요(Cost-imposing)’ 전략의 극대화에 있다. 수백만 달러에 달하는 방공 미사일 한 발로 수천 달러에 불과한 소형 자폭 드론 한 대를 요격하는 것은 방어자에게 극심한 경제적 부담을 안겨준다.35 이러한 비대칭적 비용 교환이 반복되면 방어자는 경제적으로 지속 불가능한 상태에 이르게 된다. 이는 군사 전략과 국방 예산 배분의 패러다임을 근본적으로 바꾸는 변화를 예고한다. F-35 한 대를 구매할 예산으로 수만 대의 자율 공격 드론을 확보하는 것이 더 효과적일 수 있다는 질문은 더 이상 가설이 아니다. 미래 국방 포트폴리오는 소수의 고가치 ‘정예’ 자산과 대량의 저가 ‘소모성(Attritable)’ 자산이 혼합된 형태로 재편될 것이다.31

6.2 완전 자율성의 진화: 인간을 넘어서는 기계

AI 기술의 발전은 드론을 ‘완전 자율’ 시스템으로 진화시키고 있다. 이는 인간의 직접적인 통제나 개입 없이 드론이 스스로 임무의 전 과정을 수행하는 단계를 의미하며, 자율 공중급유와 자율적 의사결정 기술이 그 핵심이다.

• 자율 공중급유: 작전 반경과 체공 시간은 드론의 성능을 결정하는 핵심적인 제약 요소였다. 그러나 자율 공중급유 기술은 이 한계를 극복할 가능성을 열었다. 미 해군은 보잉이 개발한 MQ-25 스팅레이 무인 급유기를 이용해 F/A-18 전투기에 대한 완전 자율 공중급유에 성공했다.36 이 기술이 드론 간 급유로 확장되면, 이론적으로 드론은 기체의 수명이 다할 때까지 무한정 임무를 수행할 수 있게 된다. 이는 광대한 태평양과 같은 작전 환경에서 지속적인 감시 및 타격 능력을 유지하는 데 획기적인 변화를 가져올 것이다.37

• 자율적 의사결정: 미래의 AI 드론은 사전 입력된 임무 계획을 수동적으로 따르는 것을 넘어, 급변하는 전장 상황에 맞춰 스스로 임무 목표를 수정하고 교전 규칙을 판단하는 수준으로 발전할 것이다.33 예를 들어, 주 목표물이 파괴되었을 경우 차선책 목표물을 스스로 선정하여 공격하거나, 예상치 못한 민간인 피해 가능성이 발생하면 스스로 공격을 중단하는 등의 고차원적인 판단을 내리게 될 것이다. 이는 AI가 단순한 도구를 넘어 인간과 동등한 수준의 전술적 판단을 내리는 ‘완전 자율’ 단계로의 진입을 의미한다.

6.3 기술적 한계와 극복 과제

’완전 자율’로 나아가는 길은 순탄치 않다. 현재의 AI 기술은 명백한 기술적 한계와 근본적인 취약점을 내포하고 있으며, 이는 군사적 활용에 있어 치명적인 결과를 초래할 수 있다.

• AI의 근본적 취약성:

• 데이터 편향(Data Bias): AI는 학습한 데이터를 기반으로 판단한다. 만약 특정 인종이나 특정 유형의 차량만이 위협 대상으로 학습된 편향된 데이터를 사용했다면, AI는 실제 전장에서 민간인이나 비적대적 대상을 적으로 오인하여 공격하는 치명적인 오류를 범할 수 있다.38

• 적대적 공격(Adversarial Attacks): 이는 AI의 인식 시스템을 의도적으로 속이기 위해 설계된 공격이다. 인간의 눈에는 정상적으로 보이는 이미지에 미세한 노이즈를 추가하거나, 특정 패턴의 위장막을 씌우는 것만으로 AI가 탱크를 일반 승용차로 오인하게 만들 수 있다.38 이는 AI의 판단을 근본적으로 신뢰할 수 없게 만드는 심각한 보안 위협이다.

• 과적합(Overfitting)과 일반화 실패: AI 모델이 훈련 데이터에 지나치게 최적화되면, 실제 전장에서 마주치는 예측 불가능한 새로운 상황에 제대로 대응하지 못하는 ‘일반화 실패’ 문제가 발생한다.38 예를 들어, 맑은 날씨와 평지 지형에서만 훈련된 드론 AI는 폭설이나 안개가 낀 산악 지형에서는 표적 인식률이 급격히 저하될 수 있다.38

• 하드웨어 및 환경적 제약: AI의 성능은 센서의 정밀도와 수집된 데이터의 품질에 크게 좌우된다. 센서가 오작동하거나 악천후로 인해 노이즈가 많은 데이터가 입력되면 AI의 판단 역시 신뢰할 수 없게 된다.38 또한, 적의 GPS 교란이나 강력한 전파 방해 공격은 AI 드론의 항법 및 통신 시스템을 마비시켜 무력화시킬 수 있는 상시적인 위협이다.12

이러한 AI의 명백한 기술적 한계는 ’완전 자율 살상 무기’가 가까운 미래에 전장을 지배하기는 어려울 것임을 시사한다. AI가 내리는 판단은 그 과정과 이유를 인간이 완벽하게 이해하기 어려운 ‘블랙박스’ 문제를 가지고 있기 때문에 6, 예측 불가능하고 통제 불가능한 상황에 직면할 리스크가 상존한다. 이러한 리스크는 역설적으로 ‘인간-기계 협업(Human-Machine Teaming)’ 모델의 중요성을 부각시킨다. 군사 선진국들은 AI를 인간의 완전한 대체재가 아닌, 인간의 인지 능력을 보조하고 판단력을 증강시키는 협력적 파트너로 개발하는 데 집중하고 있다.18 따라서 미래 전장은 AI가 분석과 대안을 제시하고 인간이 최종적인 윤리적·전술적 결정을 내리는, 즉 ’의미 있는 인간 통제’가 유지되는 형태가 될 가능성이 높다. AI의 한계가 오히려 인간의 역할을 재정의하고 있는 것이다.

7. 전략적 고려사항: 규제, 윤리, 그리고 통제

AI 자율 임무 드론 기술의 발전은 전례 없는 군사적 효율성을 약속하는 동시에, 인류에게 심각한 법적, 윤리적 질문을 던지고 있다. 기계가 인간의 개입 없이 스스로 생명을 앗아가는 결정을 내릴 수 있는 ’치명적 자율무기시스템(Lethal Autonomous Weapon Systems, LAWS)’의 등장은 국제 사회에 ’판도라의 상자’를 열 것인지에 대한 근본적인 성찰을 요구하고 있다.

7.1 치명적 자율무기시스템(LAWS) 논쟁: 판도라의 상자를 열 것인가

LAWS는 인간의 직접적인 통제 없이 표적을 탐색, 식별, 결정하고 공격하는 일련의 과정을 자율적으로 수행하는 무기체계를 의미한다.40 이러한 무기체계의 개발 가능성이 현실화되면서, 2014년부터 유엔 특정재래식무기금지협약(CCW)을 중심으로 정부 전문가 그룹(GGE) 회의가 개최되어 국제적 규범 마련을 위한 논의가 진행되고 있다.40

이 논의는 크게 두 가지 입장으로 나뉜다. 국제적십자위원회(ICRC)와 다수의 비정부기구(NGO), 그리고 상당수 국가들은 LAWS가 인도주의에 반하고 예측 불가능한 위험을 초래할 수 있다며, 법적 구속력을 갖는 국제 조약을 통해 특정 유형의 LAWS를 선제적으로 금지하고 엄격하게 규제해야 한다고 주장한다.40 반면, 미국, 러시아, 이스라엘 등 일부 기술 선도국들은 LAWS가 오히려 민간인 피해를 줄이는 등 긍정적 측면이 있을 수 있으며, 현존하는 국제인도법(IHL)의 틀 안에서 충분히 규제가 가능하다는 입장을 취하며 새로운 규범 제정에 소극적인 태도를 보이고 있다.43

이러한 대립 구도는 CCW가 만장일치(Consensus) 방식으로 운영되기 때문에 실질적인 진전을 이루지 못하고 있다.42 그러나 최근 유엔 총회에서 LAWS 관련 결의안이 압도적인 지지로 채택되는 등 44, 규제를 위한 국제적 공감대와 모멘텀은 점차 강화되고 있는 추세다. 이 논쟁의 본질은 표면적으로는 인도주의적 우려에 관한 것이지만, 그 이면에는 AI 자율 무기 기술에서 앞서 나가는 국가들이 규제를 통해 자신들의 기술적 우위가 제약받는 것을 원치 않는 전략적 계산과, 기술적으로 뒤처진 국가들이 새로운 규범을 통해 예측 불가능한 신무기의 확산을 막으려는 안보적 이해관계가 충돌하는 ‘미래 전쟁의 주도권’ 다툼의 성격을 띠고 있다.

7.2 ’의미 있는 인간 통제(Meaningful Human Control)’의 딜레마

LAWS 논쟁의 핵심에는 ’의미 있는 인간 통제’라는 개념이 자리 잡고 있다.45 이는 단순히 인간이 마지막 순간에 공격 버튼을 누르는 행위를 넘어선다. 진정으로 ‘의미 있는’ 통제가 이루어지기 위해서는, 운용자가 해당 무기 시스템의 기능과 한계를 명확히 이해하고, 시스템이 운용될 전장 환경의 복잡성을 인지하며, 시스템의 작동이 예측 가능하고 신뢰할 수 있어야 한다. 또한, 작전의 전 과정에 걸쳐 시스템을 감독하고, 필요시 언제든지 개입하여 공격을 중단시키거나 비활성화할 수 있는 실질적인 능력을 보유해야 한다.45

그러나 AI 기술의 발전 속도가 인간의 인지 및 통제 능력을 초월하는 ’특이점’에 가까워질수록, 이러한 의미 있는 통제를 유지하는 것은 점점 더 어려워진다. 수백, 수천 개의 드론이 군집을 이루어 초인적인 속도로 자율적인 판단을 내리며 교전하는 상황에서, 과연 인간이 그 모든 과정을 실시간으로 이해하고 효과적으로 개입할 수 있을지에 대한 근본적인 의문이 제기된다.43 이는 기술 발전과 인간 통제 사이의 딜레마를 야기하며, LAWS 규제 논의에서 가장 해결하기 어려운 과제로 남아있다.

7.3 국제인도법(IHL) 적용의 난제

모든 무기체계는 전쟁 시 민간인과 전투에 참여하지 않는 인원을 보호하기 위해 제정된 국제인도법(IHL)의 규율을 받아야 한다. 그러나 LAWS는 IHL의 핵심 원칙들을 준수할 수 있는지에 대한 심각한 도전을 제기한다.40

• 구별의 원칙(Distinction): IHL은 공격이 전투원과 군사 목표물에만 한정되어야 하며, 민간인이나 민간 시설을 공격해서는 안 된다고 규정한다. 그러나 복잡하고 유동적인 전장 환경에서 AI가 항복하는 군인, 부상자, 또는 무기를 든 민간인과 실제 전투원을 항상 100% 정확하게 구별할 수 있을지에 대한 심각한 의문이 존재한다.44

• 비례의 원칙(Proportionality): 이 원칙은 공격으로 인해 예상되는 부수적인 민간인 피해가 기대되는 구체적이고 직접적인 군사적 이익에 비해 과도해서는 안 된다고 요구한다. 이는 매우 복잡하고 상황적인 판단을 필요로 하는데, 과연 AI가 인간의 생명 가치와 군사적 필요성 사이의 미묘한 균형을 상황에 맞게 판단할 수 있을지는 미지수다.44

• 사전주의 원칙(Precaution): 공격을 계획하고 실행하는 지휘관은 민간인 피해를 피하거나 최소화하기 위해 실행 가능한 모든 예방 조치를 취해야 할 의무가 있다. AI 시스템이 예상치 못한 상황 변화에 대응하여 공격을 중단하거나 변경하는 등, 인간 지휘관과 동등한 수준의 신중한 예방 조치를 취할 수 있는지에 대한 검증이 필요하다.44

이러한 법적 문제와 더불어, 기계가 자체적인 판단에 따라 인간의 생명을 박탈하는 결정을 내리는 것 자체가 인간의 존엄성에 근본적으로 반한다는 윤리적 반론 또한 강력하게 제기되고 있다.40 이는 LAWS가 단순히 기술적 효율성의 문제를 넘어, 인류가 지켜온 근본적인 가치와 규범에 대한 도전임을 시사한다.

8. 결론: 미래 국방 패러다임과 전략적 제언

본 보고서는 인공지능 기반 자율 임무 드론이 현대전의 패러다임을 근본적으로 바꾸는 ’게임 체인저’임을 다각적으로 분석했다. AI 드론은 정교한 알고리즘과 센서 기술을 바탕으로 자율적인 인식, 판단, 실행 능력을 갖추고 있으며, 이는 전장의 효율성과 속도를 비약적으로 향상시키고 있다. 글로벌 군용 드론 시장은 지정학적 불안과 기술 혁신에 힘입어 연평균 10% 이상의 폭발적인 성장세를 보일 것으로 전망된다. 실제 전장에서 AI 드론은 ISR, 정밀 타격, 군수 지원, 전자전 등 다차원적 임무를 수행하며 그 군사적 효용성을 입증했으며, 이는 미국, 중국, 이스라엘을 중심으로 한 치열한 기술 패권 경쟁을 촉발하고 있다. 미래에는 드론 스웜과 완전 자율 기술이 전장의 양상을 더욱 근본적으로 변화시킬 것이나, 동시에 AI의 기술적 한계와 LAWS를 둘러싼 심각한 윤리적·규제적 과제 또한 상존한다.

최종적으로, AI 드론은 미래 전장의 핵심 자산으로서 그 역할이 더욱 확대될 것이 분명하다. 기술 발전은 인간의 통제하에 운용되는 ‘인간-기계 협업’ 단계를 거쳐, 점진적으로 자율성이 높은 방향으로 진화할 것이다. 시장은 고가의 정밀 전략 시스템과 저가의 소모성 전술 시스템으로 이원화되어 상호 보완적으로 성장할 것으로 전망된다. 이러한 거대한 변화의 흐름 속에서 다음과 같은 전략적 대응이 요구된다.

• 국가 안보 차원의 제언:

1. 핵심 기술 자립 생태계 구축: AI 알고리즘, 고성능 반도체, 양질의 학습 데이터는 AI 드론 기술의 핵심 요소다. 국가적 차원에서 관련 분야에 대한 R&D 투자를 과감히 확대하고, 산·학·연·군이 유기적으로 협력하는 ‘기술 자립’ 생태계를 구축하여 핵심 기술 주권을 확보하는 것이 시급하다.

2. 국제 규범 형성 주도: LAWS 관련 국제 규범 논의는 더 이상 피할 수 없는 현실이다. 수동적인 관망자세에서 벗어나, CCW 등 국제 논의에 적극적으로 참여하여 우리의 국익과 안보적 입장을 반영하고, 예측 가능하며 안정적인 국제 안보 환경을 조성하는 데 기여해야 한다.

• 방위 산업 차원의 제언:

1. 소프트웨어 및 시스템 통합 역량 강화: 미래 드론 시장의 경쟁력은 단순히 우수한 하드웨어 플랫폼 제조 능력에만 있지 않다. AI 기반의 자율 임무 소프트웨어, 이기종 무인체계를 통합 운용하는 ‘시스템의 시스템’ 아키텍처, 그리고 ’전투 클라우드’와 같은 시스템 통합(System Integration) 역량 확보에 기업의 미래가 달려있다.

2. ‘소모성’ 드론 시장 대응: 우크라이나 전쟁에서 증명되었듯이, 저비용-고효율의 ‘소모성’ 드론 시장은 폭발적으로 성장할 잠재력을 가지고 있다. 기존의 고가-고성능 시스템 개발에만 집중할 것이 아니라, 시장의 변화에 맞춰 저비용으로 대량 생산이 가능한 소모성 드론 제품 라인업을 전략적으로 확충할 필요가 있다.

• 연구 개발 차원의 제언:

1. 신뢰성 및 설명가능성(XAI) 연구 집중: AI의 기술적 한계(데이터 편향, 적대적 공격 등)를 극복하고, AI의 판단을 신뢰할 수 있도록 만드는 ‘신뢰성(Reliability)’ 연구에 집중해야 한다. 또한, AI가 왜 그러한 판단을 내렸는지 인간이 이해할 수 있도록 설명하는 ‘설명가능 AI(Explainable AI)’ 기술 개발은 군사적 활용에 있어 필수적인 전제 조건이다.

2. ‘의미 있는 인간 통제’ 기술 구현: ’의미 있는 인간 통제’는 윤리적 구호에 그쳐서는 안 된다. 이를 기술적으로 구현하기 위해, 복잡한 전장 정보를 효과적으로 시각화하고, AI의 판단 과정을 직관적으로 이해시키며, 인간이 적시에 효과적으로 개입할 수 있도록 돕는 최적의 인간-기계 인터페이스(HMI) 및 시스템 설계 연구가 병행되어야 한다.

9. 참고 자료

1. PowerPoint 프레젠테이션 - 글로벌 ICT포털, https://www.globalict.kr/upload_file/kms/202410/18714236900164300.pdf
2. [국방 AI] ‘사람없는 전쟁터’… 드론·무인기로 그린 미래전, https://www.newstheai.com/news/articleView.html?idxno=8338
3. 드론 공격·요인 암살하는 AI 지휘관 [스페셜리포트] - Daum, https://v.daum.net/v/20250821210318665
4. AI 스타트업이 재창조한 미국 국방력…대한민국은 얼마나 준비됐나 - 시사저널, https://www.sisajournal.com/news/articleView.html?idxno=319479
5. 군용 드론 시장 규모, 성장, 점유율, 산업 보고서, 2032, https://www.fortunebusinessinsights.com/ko/military-drone-market-102181
6. 인공지능-핵무기 넥서스(AI-Nuclear Nexus)와 세계군사질서 전망 - EAI 동아시아연구원, https://www.eai.or.kr/new/ko/pub/view.asp?intSeq=22705&board=kor_special
7. [장병철 칼럼] 미래 전장의 판도를 바꿀 한국의 군집 드론 대응 신기술, https://bemil.chosun.com/nbrd/bbs/view.html?b_bbs_id=10158&branch=&pn=1&num=6773
8. 군용 드론 시장 규모, 점유율 및 성장 전망, 2032 - Global Market Insights, https://www.gminsights.com/ko/industry-analysis/military-drone-market
9. 세계 군용 드론 시장 규모, 점유율, 예측 2022년 - 2032년. - Spherical Insights, https://www.sphericalinsights.com/ko/reports/military-drone-market
10. 드론 대응 솔루션으로 특수 부대의 역량 강화 - Sentrycs, https://sentrycs.com/ko/the-counter-drone-blog/empowering-special-forces-with-counter-drone-solutions/
11. 전장을 바꾸는 AI 무기화와 사이버 안보 위협 | 정책과 이슈, https://www.nrc.re.kr/board.es?mid=a30200000000&bid=0044&act=view&list_no=178985&tag=&nPage=1&issue_cd=43
12. 유·무인복합체계를 위한 지능적 다계층 은닉 위장 기술 동향 - ETRI Electronics and Telecommunications Trends - 한국전자통신연구원, https://ettrends.etri.re.kr/ettrends/214/0905214004/030-042.%20%ED%99%8D%EA%B0%95%EC%9A%B4_214%ED%98%B8_%EC%B5%9C%EC%A2%85.pdf
13. 아시아 태평양 무인 시스템 시장 규모 및 점유율 분석 - 산업 연구 보고서, https://www.mordorintelligence.kr/industry-reports/asia-pacific-unmanned-systems-market
14. 글로벌 군용 드론 시장 규모, 점유율 및 분석 보고서 2032를 번역합니다., https://www.databridgemarketresearch.com/ko/reports/global-military-drones-market
15. Top 10 Military Drone Companies in the World (2025) - Hinaray, https://hinaray.com/top-10-military-drone-companies-in-the-world-2025/
16. 인공지능의 군사적 활용 - 정보통신정책연구원, https://www.kisdi.re.kr/report/fileDown.do?key=m2102058837181&arrMasterId=4334696&id=1816896
17. [심승배의 국방&디지털⑤] 디지털 전장 정보와 AI 증강 분석 - 지디넷코리아, https://zdnet.co.kr/view/?no=20240601184857
18. AI 무기체계 현황 및 시사점: AI 드론을 중심으로 - 국회예산정책처, https://www.nabo.go.kr/system/common/JSPservlet/download.jsp?fBid=68&fCode=33318391&fMime=application/pdf&flag=bluenet
19. Case Studies: Examples of AI implementation in real military operations - Remo Pulcini, https://www.artificialintelligencetoolsportal.com/a-i-military/case-studies-examples-of-ai-implementation-in-real-military-operations/
20. [2022 과학기술 강군] 육군 최초 군수품 보급 훈련에 드론 활용 - YouTube, https://www.youtube.com/watch?v=VVMlWw-pcEs
21. 대한항공, 드론 지원정책 힙입어 군수에서 민수로 사업영역 넓혀가 - 비즈니스포스트, https://www.businesspost.co.kr/BP?command=article_view&num=144034
22. 4차 산업시대 드론의 군사 분야 적용에 관한 연구 - Korea Science, https://koreascience.kr/article/JAKO202223540292392.pdf
23. 우크라이나 전쟁과 고려인>우크라이나 전쟁에서 데이터는 AI를 구동하는 연료 - 전남일보, https://m.jnilbo.com/74478736142
24. 우크라이나·러시아 전쟁 첨단 통신과 AI가 보여준 미래전 모습 - 월간 통상, https://tongsangnews.kr/webzine/202403/2024031380059.html
25. 정찰·미사일·전자戰 다 되게 한다”…군사드론도 모듈화’ 바람 - 한국경제, https://www.hankyung.com/article/202312225436i
26. Future Combat Air System FCAS | Airbus, https://www.airbus.com/en/products-services/defence/future-combat-air-system-fcas
27. 세계 군용드론 3대 강국과 10대 드론업체 - 테크42, https://www.tech42.co.kr/%EC%84%B8%EA%B3%84-%EA%B5%B0%EC%9A%A9%EB%93%9C%EB%A1%A0-3%EB%8C%80-%EA%B0%95%EA%B5%AD%EA%B3%BC-10%EB%8C%80-%EB%93%9C%EB%A1%A0%EC%97%85%EC%B2%B4/
28. France seeks ‘mutually acceptable’ accord on next-gen fighter progress - Defense News, https://www.defensenews.com/global/europe/2025/09/22/france-seeks-mutually-acceptable-accord-on-next-gen-fighter-progress/
29. Europe’s Direction in Military Drone Development: Projects, Cooperation, and Counter-Drone Systems - Orbital Today, https://orbitaltoday.com/2025/05/13/europes-direction-in-military-drone-development-projects-cooperation-and-counter-drone-systems/
30. Drones, AI and robotics challenge order of Top 100 defense firms, https://www.defensenews.com/industry/2025/09/02/drones-ai-and-robotics-challenge-order-of-top-100-defense-firms/
31. Top Military Drone Stocks 2025: Pure-Play Watchlist - Exoswan Insights, https://exoswan.com/military-drone-stocks
32. AI 드론 군집, 전쟁의 판도를 바꾼다 - 순천신문, https://www.scnews.kr/news/articleView.html?idxno=12350
33. The Future of the Battlefield - Office of the Director of National Intelligence - Global Trends, https://www.dni.gov/index.php/gt2040-home/gt2040-deeper-looks/future-of-the-battlefield
34. Technological Evolution on the Battlefield - CSIS, https://www.csis.org/analysis/chapter-9-technological-evolution-battlefield
35. Drone Wars: Developments in Drone Swarm Technology - Defense Security Monitor, https://dsm.forecastinternational.com/2025/01/21/drone-wars-developments-in-drone-swarm-technology/
36. 미 해군, 보잉 드론 이용해 전투기 공중 급유 성공 - 뉴스1, https://www.news1.kr/world/usa-canada/4332264
37. [미 공군 첫 자율 전투 드론 ‘YFQ-42A’ 시험 비행 성공] 단 1년 만에 제작…2026년 양산 여부 결정, http://m.ainet.link/22810
38. 인공지능의 오판단이 초래할 수 있는 군사 드론 오작동 위험: 미래 사이버 재난의 그림자, https://www.jaenung.net/tree/18397
39. [이슈] 한화에어로스페이스, AI 기반 무기체계 생태계 구축…플랫폼·소프트웨어 병행 추진, https://www.paxetv.com/news/articleView.html?idxno=240447
40. 자율살상무기체계의 논의 동향과 쟁점 - 외교안보연구소, https://www.ifans.go.kr/knda/com/fileupload/FileDownloadView.do;jsessionid=Xc7J2YlPyEWzZvDOL9PIj8ud.public11?storgeId=c61b04e5-0182-4c75-ad21-828ecacfb855&uploadId=9515182541283279&fileSn=1
41. Overview of the issue of Lethal Autonomous Weapons Systems (LAWS) at the United Nations for the WIMUN (WFUNA International Model, https://wfuna.org/wp-content/uploads/2023/10/GA1-LAWS-background-doc.pdf?ref=blog.denic.de
42. CCW Report - Reaching Critical Will, https://reachingcriticalwill.org/disarmament-fora/ccw/2025/laws/ccwreport/17475
43. 자율살상무기(LAWS)체계 규범 창설 논의의 쟁점과 시사점, https://www.ifans.go.kr/knda/com/fileupload/FileDownloadView.do;jsessionid=E3ntIy93PwYt7EJznYJfAnTM.public12?storgeId=c61b04e5-0182-4c75-ad21-828ecacfb855&uploadId=13495894932409891&fileSn=1
44. Lethal Autonomous Weapons Systems & International Law: Growing Momentum Towards a New International Treaty | ASIL, https://www.asil.org/insights/volume/29/issue/1
45. Meaningful Human Control of Autonomous Weapon Systems | FCAS Forum, https://www.fcas-forum.eu/publications/Meaningful-Human-Control-of-Autonomous-Weapon-Systems-Eklund.pdf
46. Group of Governmental Experts on Lethal Autonomous Weapons Systems (2023) | United Nations - UNODA Meetings Place, https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2023