396.58 자율 에이전트의 임무 수행 자율성 수준(Level of Autonomy)

1. 개요

자율 로봇 시스템의 자율성 수준(Level of Autonomy, LoA)은 로봇이 인간 운영자의 개입 없이 임무를 독립적으로 수행할 수 있는 정도를 정량적으로 나타내는 지표이다. 자율성 수준의 정의와 분류는 임무 관리 시스템의 설계, 인간-로봇 인터페이스의 구조, 그리고 안전 요구사항의 수립에 직접적인 영향을 미친다. 본 절에서는 자율성 수준의 이론적 기초, 주요 분류 체계, 수학적 정식화, 그리고 임무 관리 시스템에의 적용을 체계적으로 분석한다.

2. 자율성의 정의와 이론적 배경

2.1 자율성의 개념

자율성(autonomy)이란 시스템이 외부의 지시나 간섭 없이 자체적으로 인식, 판단, 행동의 순환을 수행하는 능력을 의미한다. Sheridan과 Verplank(1978)는 자율성을 “인간 운영자와 컴퓨터 제어 사이의 기능 배분(function allocation)“이라는 관점에서 정의하였으며, 이는 현대 자율 로봇 시스템의 자율성 수준 논의에 근본적인 토대를 제공하였다.

자율성은 단일 차원의 스칼라 값이 아닌 다차원적 속성으로 이해되어야 한다. Clough(2002)는 자율성을 구성하는 핵심 차원으로 다음을 제시하였다:

• 인식 자율성(Perceptual Autonomy): 환경 정보의 수집, 처리, 해석을 독립적으로 수행하는 능력
• 상황 인식 자율성(Situation Awareness Autonomy): 현재 상황을 이해하고 미래 상태를 예측하는 능력
• 의사결정 자율성(Decision-Making Autonomy): 목표 달성을 위한 행동 방안을 스스로 선택하는 능력
• 행동 자율성(Action Autonomy): 선택된 행동을 물리적으로 실행하는 능력
• 협동 자율성(Collaborative Autonomy): 다른 에이전트와 독립적으로 협력하는 능력

2.2 자율성의 수학적 정식화

자율성 수준을 형식적으로 정의하기 위해, 인간 운영자와 로봇 시스템 사이의 기능 배분을 정량적으로 모델링한다. 임무 수행 과정에서의 결정 공간(decision space) \mathcal{D}에 대해, 인간이 담당하는 결정 집합 \mathcal{D}_H와 로봇이 담당하는 결정 집합 \mathcal{D}_R을 정의할 때:

\mathcal{D} = \mathcal{D}_H \cup \mathcal{D}_R, \quad \mathcal{D}_H \cap \mathcal{D}_R = \mathcal{D}_{\text{shared}}

자율성 수준 \alpha는 다음과 같이 정의된다:

\alpha = \frac{|\mathcal{D}_R \setminus \mathcal{D}_{\text{shared}}|}{|\mathcal{D}|} \in [0, 1]

여기서 \alpha = 0은 완전 수동(full manual), \alpha = 1은 완전 자율(full autonomy)을 나타낸다. 그러나 이 단순 비율은 결정의 중요도와 복잡도를 반영하지 못하므로, 가중 자율성 지수(Weighted Autonomy Index)를 도입한다:

\alpha_w = \frac{\sum_{d_i \in \mathcal{D}_R} w_i \cdot c_i}{\sum_{d_i \in \mathcal{D}} w_i \cdot c_i}

여기서 w_i는 결정 d_i의 중요도 가중치, c_i는 복잡도 지수이다.

3. 주요 자율성 수준 분류 체계

3.1 Sheridan-Verplank 10단계 모델

Sheridan과 Verplank(1978)가 제안한 10단계 자율성 모델은 자율 시스템 연구의 기초를 형성하는 고전적 분류 체계이다.

3.2 ALFUS(Autonomous Levels for Unmanned Systems) 프레임워크

NIST(National Institute of Standards and Technology)가 개발한 ALFUS(Autonomous Levels for Unmanned Systems) 프레임워크는 무인 시스템의 자율성을 3차원적으로 평가하는 체계이다. ALFUS는 자율성을 다음의 세 축으로 분해한다:

임무 복잡도(Mission Complexity, MC): 수행 중인 임무의 난이도와 규모를 나타낸다. 단순 경유점 추적(waypoint tracking)부터 다중 에이전트 협동 임무까지의 스펙트럼을 포함한다.

환경 복잡도(Environmental Complexity, EC): 운용 환경의 동적 변화도와 불확실성을 나타낸다. 정적 실내 환경부터 적대적 야외 환경까지의 범위를 포함한다.

인간 독립성(Human Independence, HI): 인간 운영자로부터의 독립 정도를 나타낸다. 완전 원격 조종부터 완전 자율까지의 범위를 포함한다.

ALFUS 자율성 수준은 다음의 함수로 정의된다:

\text{LoA}_{\text{ALFUS}} = f(MC, EC, HI)

이 3차원 평가 공간에서의 특정 위치가 곧 해당 시스템의 자율성 수준을 나타낸다.

3.3 SAE 자율 주행 수준(SAE J3016)

SAE International이 정의한 SAE J3016 표준은 본래 자율 주행 차량을 위해 개발되었으나, 그 개념적 틀은 일반 로봇 시스템의 자율성 분류에도 광범위하게 적용된다.

3.4 자율 무인 항공기의 자율성 분류(ACL)

미 공군 연구소(AFRL)에서 개발한 Autonomous Control Level(ACL) 체계는 무인 항공 시스템의 자율성을 11단계(0~10)로 분류한다. 낮은 수준은 원격 조종(remote control)에, 높은 수준은 군집 자율 행동(swarm autonomy)에 대응한다.

4. 자율성 수준의 동적 조정

4.1 적응적 자율성(Adaptive Autonomy)

현대의 자율 로봇 시스템에서는 고정된 자율성 수준이 아닌, 상황에 따라 동적으로 자율성 수준을 조정하는 적응적 자율성(Adaptive Autonomy) 개념이 중요하게 다루어진다. 적응적 자율성은 다음의 요인에 의해 구동된다:

\alpha(t) = g(\mathbf{x}_{\text{env}}(t), \mathbf{x}_{\text{sys}}(t), \mathbf{x}_{\text{op}}(t), \mathbf{x}_{\text{mission}}(t))

여기서:

• \mathbf{x}_{\text{env}}(t): 환경 상태 벡터 (복잡도, 위험도, 불확실성)
• \mathbf{x}_{\text{sys}}(t): 시스템 상태 벡터 (센서 건전성, 에너지, 통신 품질)
• \mathbf{x}_{\text{op}}(t): 운영자 상태 벡터 (작업 부하, 가용성, 숙련도)
• \mathbf{x}_{\text{mission}}(t): 임무 상태 벡터 (위험도, 시간 제약, 중요도)

4.2 자율성 전환 트리거

자율성 수준의 동적 전환은 다양한 트리거(trigger)에 의해 개시된다. 주요 트리거는 다음과 같다:

상향 전환(Upward Transition): 자율성 수준 증가

• 운영자 업무 과부하(operator overload) 감지
• 통신 품질 저하로 인한 원격 제어 불가
• 고속 의사결정이 필요한 시간 제약 상황

하향 전환(Downward Transition): 자율성 수준 감소

• 윤리적 판단이 요구되는 상황
• 안전 임계 결정(safety-critical decision) 필요
• 임무 목표의 모호성 증가
• 시스템 자가 진단에 의한 신뢰도 저하 감지

4.3 슬라이딩 자율성(Sliding Autonomy)

Dorais 등(1999)이 제안한 슬라이딩 자율성(Sliding Autonomy)은 자율성 수준의 연속적 변화를 허용하는 프레임워크이다. 이 모델에서 자율성은 이산적 단계가 아닌 연속 스펙트럼 위의 점으로 표현되며, 상황의 변화에 따라 매끄러운 전환이 가능하다.

슬라이딩 자율성의 전환 역학(transition dynamics)은 다음과 같이 모델링된다:

\frac{d\alpha}{dt} = \eta \cdot (\alpha_{\text{target}} - \alpha(t))

여기서 \alpha_{\text{target}}은 현재 상황에서의 목표 자율성 수준이고, \eta > 0은 전환 속도 파라미터이다. 이 1차 역학은 급격한 자율성 변화를 방지하고, 인간 운영자의 상황 인식(situation awareness) 상실을 예방한다.

5. 자율성 수준과 임무 관리 시스템의 관계

5.1 자율성 수준별 임무 관리 아키텍처

자율성 수준에 따라 임무 관리 시스템의 아키텍처 구성이 달라진다. 낮은 자율성 수준에서는 임무 관리자가 주로 운영자의 명령을 해석하고 실행하는 번역기(translator) 역할을 수행하는 반면, 높은 자율성 수준에서는 임무 관리자가 스스로 목표를 설정하고 계획을 수립하며 실행을 감독하는 의사결정자(decision-maker) 역할을 수행한다.

5.2 자율성과 신뢰(Trust)의 상호작용

자율성 수준의 운용은 인간 운영자의 신뢰(trust)와 밀접하게 연관된다. Lee와 See(2004)의 연구에 따르면, 자율 시스템에 대한 인간의 신뢰는 시스템의 성능(performance), 과정(process), 목적(purpose)의 세 차원에서 형성된다.

과도한 신뢰(overtrust)는 자율 시스템의 오류를 간과하는 자동화 편향(automation bias)을 초래하고, 과소한 신뢰(undertrust)는 자율 기능의 활용을 기피하는 자동화 혐오(automation aversion)를 초래한다. 따라서 적절한 수준의 교정된 신뢰(calibrated trust)를 유지하는 것이 중요하며, 이를 위해 시스템은 자신의 능력과 불확실성을 투명하게 전달하는 설명 가능성(explainability)을 제공해야 한다.

6. 자율성 측정과 평가 지표

6.1 성능 기반 자율성 지표

자율성 수준의 객관적 평가를 위해 다음의 성능 기반 지표가 활용된다:

팬 아웃(Fan-Out): 한 명의 운영자가 동시에 효과적으로 관리할 수 있는 로봇의 수를 나타낸다:

FO = \frac{IT}{IT + WT}

여기서 IT는 로봇의 독립 동작 시간(Independent Task Time), WT는 운영자의 대기 시간(Wait Time)이다.

무시 허용 시간(Neglect Tolerance, NT): 운영자의 주의 없이도 로봇의 성능이 허용 수준 아래로 떨어지지 않는 최대 시간이다:

NT = \max\{t : P_{\text{robot}}(\tau) \geq P_{\text{threshold}}, \; \forall \tau \in [0, t]\}

여기서 P_{\text{robot}}(\tau)는 운영자 부재 시간 \tau에서의 로봇 성능이다.

상호작용 노력(Interaction Effort, IE): 운영자가 로봇을 제어하는 데 소요하는 시간과 인지적 부하의 합을 나타낸다.

7. 참고 문헌

• T. B. Sheridan and W. L. Verplank, “Human and Computer Control of Undersea Teleoperators,” MIT Man-Machine Systems Laboratory, Technical Report, 1978.
• B. T. Clough, “Metrics, Schmetrics! How the Heck Do You Determine a UAV’s Autonomy Anyway?,” Proceedings of the Performance Metrics for Intelligent Systems (PerMIS) Workshop, 2002.
• H. A. Yanco and J. L. Drury, “A Taxonomy for Human-Robot Interaction,” Proceedings of the AAAI Fall Symposium on Human-Robot Interaction, 2002.
• NIST, “Autonomy Levels for Unmanned Systems (ALFUS) Framework,” NIST Special Publication 1011-I-2.0, 2008.
• SAE International, “Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles,” SAE Standard J3016, 2021.
• J. D. Lee and K. A. See, “Trust in Automation: Designing for Appropriate Reliance,” Human Factors, vol. 46, no. 1, pp. 50–80, 2004.
• G. A. Dorais, R. P. Bonasso, D. Kortenkamp, B. Pell, and D. Schreckenghost, “Adjustable Autonomy for Human-Centered Autonomous Systems,” Proceedings of the IJCAI Workshop on Adjustable Autonomy Systems, 1999.
• M. L. Cummings, “Operator Interaction with Centralized Versus Decentralized UAV Architectures,” Handbook of Unmanned Aerial Vehicles, Springer, pp. 2535–2549, 2015.

version: 1.0