Responsibility Gap in Collective Decision Making

1. 부: 책임 규명의 새로운 지평

1.1 논문 서지 정보 및 연구 개요

2025년 5월 8일 arXiv에 제출되고, 제34차 국제인공지능합동학회(IJCAI-25)에 발표될 예정인 논문 “Responsibility Gap in Collective Decision Making“은 사우샘프턴 대학(University of Southampton)의 파벨 나우모프(Pavel Naumov)와 라파예트 대학(Lafayette College)의 지아 타오(Jia Tao)가 공동으로 저술한 연구이다.1 본 연구는 인공지능(AI)과 인간이 복잡하게 얽혀 결정을 내리는 현대 사회에서 점차 중요해지는 ’책임’의 문제를 정면으로 다룬다.

논문의 핵심은 집단 의사결정의 결과에 대해 어떤 단일 행위자(agent)도 개별적으로 책임을 지지 않는 상태, 즉 ’책임감 격차(responsibility gap)’를 정의하고 그 속성을 분석하는 데 있다.5 저자들은 이러한 책임의 공백을 최소화하는 것이 사회적으로 바람직한 의사결정 메커니즘의 필수 조건이라고 전제한다.1 이를 위해 ’선출된 독재(elected dictatorship)’라는 독창적인 개념을 도입하여, 완전한 정보가 주어진 환경에서는 책임감 격차가 존재하지 않는 메커니즘과 선출된 독재 메커니즘이 서로 필요충분조건 관계에 있음을 수학적으로 증명한다.5 이는 책임 소재의 명확성을 확보하기 위한 구조적 조건에 대한 근본적인 통찰을 제공한다.

1.2 문제의식: 인공지능 시대의 책임 소재 규명

자율주행차의 사고 판단, 의료 AI의 진단, 자동화된 금융 거래, 군사 로봇의 교전 결정에 이르기까지, AI 에이전트는 이제 인간 사회의 중대한 결정 과정에 깊숙이 관여하고 있다.6 이러한 결정들이 사회적으로 수용되기 위해서는 그 결과에 대해 누군가는 책임을 져야 한다는 당위성이 발생한다. 만약 부정적인 결과가 발생했음에도 불구하고 누구에게도 책임을 물을 수 없다면, 이는 시스템에 대한 신뢰 붕괴로 이어질 수 있다. 책임 소재가 불분명할 때, 관련자들은 서로를 비난하며 책임을 전가하는 ’비난의 순환(circle of blame)’에 빠지기 쉽다.10 따라서 개별적 책임을 보장하고 추적 가능성을 높이는 의사결정 메커니즘을 설계하는 것은 기술적 과제를 넘어 사회적, 윤리적 필수 요건이 되었다.

이러한 배경에서 본 논문은 책임감 격차라는 문제 현상을 정밀하게 분석하고, 격차가 없는 메커니즘이 어떤 구조적 특징을 가져야 하는지를 탐구한다. 이는 단순히 현상을 기술하는 것을 넘어, 책임 있는(responsible) 시스템 설계를 위한 근본 원리를 제시하려는 시도이다.

1.3 핵심 명제 제시: 책임과 독재의 딜레마

본 보고서는 Naumov와 Tao의 연구가 제시하는 핵심 명제, 즉 “책임감 격차의 부재는 ‘선출된 독재’ 구조와 동치“라는 다소 급진적으로 해석될 수 있는 주장을 심층적으로 분석한다. 이 명제는 표면적으로 책임성 확보와 탈중앙화된 협력 구조 사이에 근본적인 긴장 관계가 존재함을 암시한다. 명확한 개별 책임을 보장하기 위해서는, 결정 과정의 특정 지점에서 필연적으로 한 행위자에게 결과에 대한 전적인 통제권, 즉 독재적 권한이 부여되어야 한다는 것이다. 이는 단순한 기술적 정리를 넘어, 우리가 시스템을 설계할 때 책임, 권력, 효율성, 그리고 민주성이라는 가치들 사이에서 어떤 근본적인 트레이드오프(trade-off)에 직면하는지를 드러낸다. 따라서 이 연구의 결과를 분석하는 것은 AI 윤리, 법률, 거버넌스 설계에 있어 ’모호하지만 민주적인 책임’과 ‘명확하지만 독재적인 책임’ 사이의 어려운 선택에 대한 깊은 성찰을 요구한다.

2. 부: 책임의 공백: ’책임감 격차’와 ‘책임의 분산’

2.1 ‘책임감 격차(Responsibility Gap)’ 개념의 두 가지 의미

문헌에서 ‘책임감 격차’ 또는 ’책임의 공백(responsibility void)’이라는 용어는 서로 관련 있으나 구분되는 두 가지 방식으로 사용된다.6

첫째는 도덕적 행위 능력(moral agency)의 부재로 인해 발생하는 격차이다. 이는 본래 책임을 져야 할 위치에 있는 주체가 미성년자, 동물, 혹은 현재의 AI 시스템처럼 도덕적 판단과 책임을 질 능력이 결여된 경우를 지칭한다.1 이 경우 책임의 주체가 부재하여 격차가 발생한다.

둘째는 구조적 설계 결함으로 인해 발생하는 격차이다. 이는 본 논문의 핵심 분석 대상으로, 집단 의사결정 메커니즘의 설계 자체가 특정 결과에 대해 어떤 단일 행위자(인간이든 AI든)에게도 개별적인 책임을 귀속시킬 수 없도록 만들어진 상황을 의미한다.5 즉, 모든 참여자가 규칙에 따라 합리적으로 행동했음에도 불구하고, 시스템의 구조 때문에 누구도 ‘결과를 막을 수 있었던’ 유일한 행위자로 지목될 수 없는 것이다.

2.2 관련 개념 ’책임의 분산(Diffusion of Responsibility)’과의 비교

책임감 격차와 밀접하게 관련된 또 다른 중요한 개념은 ’책임의 분산’이다. 이 두 개념은 모두 개별 책임성을 확보하는 데 실패한 상태를 나타내지만, 그 양상은 정반대이다. 책임감 격차가 책임의 ‘진공’ 상태라면, 책임의 분산은 책임의 ‘과포화’ 상태라 할 수 있다.9

’책임의 분산’은 하나의 결과에 대해 너무 많은 행위자가 잠재적으로 책임을 지는 상황을 말한다.9 이는 언뜻 보면 책임 추궁의 대상이 많아져 긍정적으로 보일 수 있으나, 실제로는 ’방관자 효과(bystander effect)’나 ’비난의 순환(circle of blame)’과 같은 부정적인 사회 현상을 유발한다.9 각 개인이 ’다른 누군가가 하겠지’라고 생각하며 행동하지 않거나, 문제가 발생했을 때 서로에게 책임을 떠넘기기 때문이다.11

반면, ’책임감 격차’는 아무도 책임을 지지 않는 상황이다. 이는 시스템의 구조적 허점으로 인해 발생하며, 결과에 대한 책임 주체를 특정하는 것 자체가 불가능해진다. Naumov와 Tao의 연구는 이 두 문제를 모두 해결하는 구조적 해법으로서 ‘선출된 독재’ 개념을 제시한다. 이 구조는 결정 경로의 특정 지점에서 단 한 명의 ’독재자’에게 결과에 대한 전적인 통제권과 책임을 집중시킨다. 이로써 책임의 공백(gap)이 발생하지 않으며, 동시에 오직 한 명만이 책임을 지므로 책임의 분산(diffusion)도 방지된다. 이는 저자들이 단순히 책임감 격차라는 하나의 문제에 대한 해결책을 넘어, 책임성 확보라는 더 큰 목표를 위한 근본적인 메커니즘 설계를 모색했음을 보여준다.8

구분	책임감 격차 (Responsibility Gap)	책임의 분산 (Diffusion of Responsibility)
정의	어떤 단일 행위자도 결과에 대해 개별적으로 책임지지 않는 상황 5	여러 행위자가 결과에 대한 책임을 공유하여 개별 책임성이 모호해지는 상황 14
원인	의사결정 메커니즘의 구조적 설계 결함 5	다수의 참여로 인한 개인의 책임감 감소 12
책임 주체 수	0명	2명 이상 다수
대표 현상	책임의 공백, 책임 주체 부재	방관자 효과, 비난의 순환, 사회적 태만 9

2.3 책임의 철학적 토대: 반사실적 책임(Counterfactual Responsibility)

이 논문에서 ’책임’을 정의하는 철학적 기반은 해리 프랑크푸르트(Harry Frankfurt)가 제시한 ’대안적 가능성의 원칙(principle of alternative possibilities)’이다.5 이 원칙은 “어떤 사람이 자신이 한 일에 대해 도덕적 책임을 지는 것은, 그가 달리 행동할 수 있었을 경우에만 해당한다“고 명시한다.5 즉, 행위자에게 다른 선택지가 없었다면 그 결과에 대한 책임을 묻기 어렵다는 것이다.

Naumov와 Tao는 이 철학적 원칙을 보다 공학적이고 분석 가능한 형태로 재해석하여 ’반사실적 책임(counterfactual responsibility)’이라는 개념으로 구체화한다.7 여기서 ’달리 행동할 수 있었다’는 것은 “결과를 막을 수 있는 명확한 전략(a strategy to prevent the outcome)을 가지고 있었는가?“라는 질문으로 치환된다.5 이처럼 책임을 ’결과를 바꿀 수 있었던 통제력’으로 정의함으로써, 추상적인 도덕적 개념을 수학적 모델 안에서 정량적으로 분석하고 검증할 수 있는 대상으로 전환시킨다.

3. 부: 의사결정 메커니즘의 수학적 형식화

3.1 형식 모델: 유향 트리(Directed Tree) 구조

논문은 집단 의사결정 메커니즘을 수학적으로 엄밀하게 모델링하기 위해 유향 트리(directed tree) 구조를 사용한다. 의사결정 메커니즘은 하나의 튜플 $ (V, E, A, \Delta, \tau, \lambda) $로 정의된다.1

$ (V, E) $: 뿌리가 있는 유향 트리. $V$ 는 모든 노드(node)의 집합이며, 자식이 없는 ’잎 노드(leaf node)’의 집합 $L$ 과 자식이 있는 ’결정 노드(decision node)’의 집합 $D$ 로 구성된다. $E$ 는 노드 간의 관계를 나타내는 간선(edge)의 집합이다.
$A$ : ’행위자(agent)’들의 유한 집합이다.
$ \Delta_{v}^{a} $: 각 결정 노드 $v \in D$ 에서 각 행위자 $a \in A$ 가 선택할 수 있는 비어있지 않은 ’행동(action)’들의 집합이다.
$ \tau_v $: 각 결정 노드 $v \in D$ 에 대한 ’선택 함수(choice function)’이다. 이 함수는 모든 행위자의 행동 조합(action profile)을 입력받아 다음으로 전이할 자식 노드 하나를 출력한다. 즉, $ \tau_v: \prod_{a \in A} \Delta_{v}^{a} \rightarrow Ch_v $ 이다. 여기서 $Ch_v$ 는 $v$ 의 자식 노드 집합이다.
$ \lambda $: ’결과 함수(labelling function)’로, 각 잎 노드 $v \in L$ 를 ‘Yes’ 또는 ’No’라는 두 가지 최종 ‘결과(outcome)’ 중 하나에 대응시킨다.

이 모델은 여러 행위자가 각 단계에서 동시에 독립적으로 행동을 선택하고, 그 행동들의 조합이 시스템의 다음 상태를 결정하는 다단계 동시 진행(multi-step concurrent) 의사결정 과정을 형식적으로 표현한다.10

3.2 핵심 정의 및 표기법

이 트리 모델을 기반으로, 행위자의 행동이 결과에 미치는 영향을 분석하기 위한 몇 가지 핵심 개념이 정의된다.

행동 프로필(Action Profile) $ \delta $: 특정 결정 노드 $v$ 에서 모든 행위자 $ a \in A $가 취하는 행동들의 조합을 의미한다. $ \delta_a $는 이 프로필에서 행위자 $a$ 가 선택한 행동을 나타낸다.5
다음 노드 집합 $ Next_{d}^{a}(v) $: 결정 노드 $v$ 에서 행위자 $a$ 가 특정 행동 $d$ 를 선택했을 때, 다른 행위자들이 어떤 행동을 하든 관계없이 시스템이 전이될 수 있는 모든 가능한 자식 노드들의 집합을 의미한다.1 이는 다음과 같이 형식적으로 정의된다.

$Next_{d}^{a}(v) = \{\tau_v(\delta) \vert \delta_a = d\}$
이 정의는 한 행위자의 행동이 결과에 미치는 영향력을 분리하여 분석하는 데 핵심적인 역할을 한다. 만약 이 집합의 모든 원소가 동일한 결과를 가져온다면, 해당 행위자는 그 행동을 통해 결과를 통제할 수 있음을 의미한다.

3.3 의사결정 메커니즘의 수학적 기호

아래 표는 논문의 핵심적인 수학적 기호들을 정리하고, 7부에서 상세히 다룰 핵무기 발사 시나리오를 예시로 들어 각 기호의 의미를 구체화한 것이다.

기호 (Symbol)	설명 (Description)	예시 (Nuclear Scenario)
$V$	모든 노드의 집합 ( $D \cup L$ )	$\{u_1, u_2, v_1, v_2, v_3\}$
$D$	결정 노드(내부 노드)의 집합	$\{u_1, u_2\}$
$L$	잎 노드(결과 노드)의 집합	$\{v_1, v_2, v_3\}$
$A$	모든 행위자의 집합	${P, A, B}` (대통령, 장교 A, 장교 B)
$\Delta_v^a$	노드 $v$ 에서 행위자 $a$ 가 선택 가능한 행동 집합	$\Delta_{u_2}^A = \{\text{TurnKey, DontTurn}\}$
$\delta$	노드 $v$ 에서의 행동 프로필 (모든 행위자의 행동 조합)	$u_2$ 에서 $\delta = (\text{TurnKey}_A, \text{TurnKey}_B)$
$\tau_v(\delta)$	노드 $v$ 에서 행동 프로필 $\delta$ 에 따른 다음 노드	$\tau_{u_2}((\text{TurnKey}_A, \text{TurnKey}_B)) = v_3$
$\lambda(v)$	잎 노드 $v$ 에 할당된 결과 (`Yes` 또는 `No`)	$\lambda(v_3) = \text{Yes} `(Launch), $\lambda(v_2) = \text{No}` (No Launch)
$Next_d^a(v)$	$a$ 가 $d$ 를 선택 시 $v$ 에서 전이 가능한 노드 집합	$Next_{\text{TurnKey}}^A(u_2) = \{v_2, v_3\}$
$win_a(o)$	행위자 $a$ 가 결과 $o$ 를 보장할 수 있는 노드 집합	$win_P(\text{No}) = \{u_1, v_1, v_2\}$

4. 부: 반사실적 책임의 정량화

4.1 ’전략을 가짐’의 형식화: $win_a(o)$ 집합

반사실적 책임의 핵심인 ’결과를 막을 전략을 가졌는가’를 형식화하기 위해, 논문은 ‘행위자 $a$ 가 결과 $o$ 를 달성(보장)할 전략을 가진 모든 노드의 집합’, 즉 $win_a(o)$ 를 정의한다.5 이 집합은 역진 귀납법(backward induction)의 논리를 사용하여 재귀적으로 정의된다.1

정의 3 (Definition 3): 어떤 결과 $o \in \{\text{Yes, No}\}$ 와 행위자 $a \in A$ 에 대해, $win_a(o)$ 는 다음 두 조건을 만족하는 가장 작은 $V$ 의 부분집합이다.

기저 조건: 결과가 $o$ 인 모든 잎 노드는 $win_a(o)$ 에 포함된다. 즉, $ \lambda^{-1}(o) \subseteq win_a(o) $ 이다.
귀납 단계: 어떤 결정 노드 $v \in D$ 에서 행위자 $a$ 가 특정 행동 $d \in \Delta_v^a$ 를 취했을 때, 그로 인해 도달 가능한 모든 다음 노드 집합 $Next_d^a(v)$ 가 이미 $win_a(o)$ 에 포함된다면, 노드 $v$ 자체도 $win_a(o)$ 에 포함된다.

이 정의는 한 행위자가 다른 모든 행위자들의 행동과 무관하게 특정 결과를 ’강제’할 수 있는 능력을 수학적으로 정확하게 포착한다. 만약 어떤 노드 $v$ 가 $win_a(o)$ 에 속한다면, 이는 $v$ 시점에서 행위자 $a$ 에게 다른 행위자들이 어떻게 행동하든 상관없이 최종 결과를 $o$ 로 만들 수 있는 행동이 최소 하나 이상 존재함을 의미한다.

4.2 ’책임’의 최종 형식적 정의

$win_a(o)$ 집합을 바탕으로, 특정 결과에 대한 행위자의 책임을 최종적으로 정의할 수 있다.

정의 5 (Definition 5): 잎 노드 $v \in L$ 에서 행위자 $a \in A$ 가 책임이 있다는 것은, 루트(root)에서 잎 노드 $v$ 까지의 결정 경로 상에 있는 어떤 결정 노드 $u \in D$ 가 존재하여, $ u \in win_a(\overline{\lambda(v)}) $를 만족하는 것을 의미한다.1

이 정의를 풀어보면 다음과 같다: “최종 결과로 $\lambda(v)$ 가 발생했지만, 과거의 어떤 결정 시점 $u$ 에서 행위자 $a$ 는 그와 반대되는 결과인 $\overline{\lambda(v)}$ 를 (다른 사람들의 방해와 상관없이) 보장할 수 있는 힘(전략)을 가지고 있었다.” 이것이 바로 ’달리 행동할 수 있었다’는 프랑크푸르트의 원칙을 직접적으로 형식화한 것이다. 행위자는 자신이 막을 수 있었음에도 불구하고 발생한 결과에 대해 반사실적 책임을 지게 된다.

이러한 수학적 프레임워크는 단순히 이론적 정리를 증명하기 위한 도구를 넘어, 현실의 복잡한 집단 의사결정 시스템의 책임 구조를 분석하고 잠재적 ’책임감 격차’를 사전에 진단할 수 있는 강력한 ’계산 가능한 진단 도구(computable diagnostic tool)’로서의 가능성을 연다. 예를 들어, 기업 이사회의 의결 규칙이나 다중 에이전트 AI 시스템의 협력 프로토콜을 이 트리 모델로 형식화한 뒤, 각 행위자의 $win$ 집합을 계산하여 책임감 격차의 존재 여부를 알고리즘적으로 검증할 수 있다. 이는 “책임이란 무엇인가?“라는 철학적 논의를 “주어진 시스템은 책임감 격차를 가지고 있는가?“라는 검증 가능한(verifiable) 공학적 문제로 전환시키는 중요한 기여이며, 후속 연구에서 이 검증 문제의 계산 복잡도를 분석하는 연구로 이어진다.9

4.3 책임감 격차 없는 메커니즘 (Gap-free Mechanism)

책임의 정의가 명확해짐에 따라, 책임감 격차가 없는 이상적인 메커니즘을 다음과 같이 정의할 수 있다.

정의 6 (Definition 6): 어떤 메커니즘이 ’책임감 격차가 없다(gap-free)’는 것은, 그 메커니즘의 모든 잎 노드 $v \in L$ 에 대해, $v$ 에서 책임이 있는 행위자가 최소 한 명 이상 존재하는 것을 의미한다.1 즉, 어떤 결과가 발생하더라도 그 결과에 대해 최소 한 명의 책임자를 특정할 수 있는 메커니즘이다.

5. 부: 구조적 해법으로서의 ‘선출된 독재’

5.1 ’독재자(Dictator)’의 개념 정의

책임감 격차 문제를 해결하기 위한 핵심 개념으로, 저자들은 특정 노드에서 의사결정을 완전히 통제하는 ’독재자’를 정의한다.

정의 7 (Definition 7): 행위자 $a \in A$ 가 결정 노드 $v \in D$ 에서 ’독재자(dictator)’라는 것은, 그가 노드 $v$ 에서 ‘Yes’ 결과를 보장할 전략과 ‘No’ 결과를 보장할 전략을 동시에 가지고 있음을 의미한다.1 이를 $win$ 집합으로 표현하면 다음과 같다.
$v \in win_a(\text{Yes}) \land v \in win_a(\text{No})$
어떤 행위자가 한 노드에서 독재자라는 것은, 그 시점에서 다른 모든 행위자들의 행동이 최종 결과(Yes/No)에 아무런 영향을 미치지 못하며, 오직 독재자 $a$ 의 선택만이 결과를 결정한다는 것을 의미한다. 이는 해당 노드에서 의사결정 권력이 한 명의 행위자에게 완전히 집중된 상태를 나타낸다.

5.2 ‘선출된 독재(Elected Dictatorship)’ 메커니즘 정의

’독재자’의 개념을 확장하여, 저자들은 책임감 격차가 없는 메커니즘의 전체 구조를 특징짓는 ’선출된 독재’를 정의한다.

정의 8 (Definition 8): 어떤 메커니즘이 ’선출된 독재’라는 것은, 루트에서 모든 잎 노드로 가는 각각의 결정 경로(decision path) 상에, ’독재자’가 존재하는 노드가 최소 하나 이상 포함된 메커니즘을 의미한다.1

5.3 ’선출된’의 의미 분석

여기서 ’선출된(elected)’이라는 용어의 함의를 정확히 이해하는 것이 중요하다. 이는 시스템 전체를 지배하는 단일한 ’절대 독재자’가 존재한다는 의미가 아니다. 대신, ’선출된’이라는 표현은 다음과 같은 동적인 과정을 함축한다.

경로 의존성: 누가 독재자가 될지, 그리고 어느 지점에서 독재자가 될지는 의사결정 경로가 어떻게 진행되는지에 따라 달라진다. 즉, 행위자들이 이전 단계들에서 어떤 행동들을 선택했는지에 따라 특정 지점에서 특정 행위자가 독재자로서의 역할을 ‘부여받게’ 된다.
역할의 유동성: 한 경로에서는 행위자 A가 독재자일 수 있지만, 다른 경로에서는 행위자 B가 독재자일 수 있다. 심지어 같은 경로 내에서도 여러 명의 독재자가 순차적으로 등장할 수도 있다.

따라서 ’선출된 독재’는 집단적 선택의 결과로 특정 시점의 결정권이 한 명에게 위임되는 구조를 의미한다. 이는 마치 위원회에서 논의를 거쳐 특정 안건에 대한 최종 결정권을 한 명의 위원장에게 위임하는 과정과 유사하다. 이러한 구조는 모든 가능한 시나리오(경로)에서 책임 소재를 명확히 하기 위한 시스템적 장치로 기능한다.

6. 부: 핵심 정리와 이론적 기여

6.1 정리 1 (Theorem 1) 심층 분석

논문의 가장 핵심적인 결과는 완전 정보 환경에서 책임감 격차의 부재와 선출된 독재 구조 사이의 필연적 관계를 밝힌 정리 1이다.

명제 (Theorem 1): 완전 정보(perfect information)를 갖춘 의사결정 메커니즘이 책임감 격차가 없는 것(gap-free)은, 그것이 선출된 독재 메커니즘인 것과 필요충분조건(if and only if)이다.1

이 정리는 두 부분으로 나뉘어 이해할 수 있다.

(⇒) 책임감 격차가 없으면 선출된 독재이다: 만약 어떤 메커니즘에 책임감 격차가 없다면, 모든 가능한 결과(모든 잎 노드)에 대해 최소 한 명의 책임자가 존재해야 한다. 이는 곧, 시스템이 어떤 경로를 통해 어떤 결과에 도달하든, 그 경로 상의 누군가는 ‘달리 행동하여 결과를 막을 수 있었어야’ 함을 의미한다. 저자들은 이 조건이 충족되기 위해서는, 모든 경로에 필연적으로 양쪽 결과(Yes와 No)를 모두 단독으로 보장할 수 있는, 즉 ’독재자’의 역할을 하는 행위자가 최소 한 명 존재해야 함을 논리적으로 증명한다.
(⇐) 선출된 독재이면 책임감 격차가 없다: 이 방향의 증명은 더 직관적이다. 만약 어떤 메커니즘이 선출된 독재라면, 정의에 따라 모든 가능한 결정 경로에는 독재자가 존재하는 노드가 있다. 시스템이 어떤 경로를 통해 특정 결과 $\lambda(v)$ 에 도달했다면, 그 경로 상의 독재자는 정의상 반대 결과인 $\overline{\lambda(v)}$ 또한 만들어낼 수 있는 전략을 가지고 있었다. 따라서 그 독재자는 항상 결과 $\lambda(v)$ 에 대한 반사실적 책임을 지게 된다. 모든 경로에 책임자가 존재하므로, 책임감 격차는 원천적으로 발생하지 않는다.

6.2 불완전 정보(Imperfect Information) 환경에서의 결과

현실 세계는 정보가 불완전한 경우가 대부분이다. 논문은 이러한 불완전 정보 환경까지 분석을 확장한다. 이 경우, 책임감 격차와 독재 구조의 관계는 더 복잡한 양상을 띤다.

결론적으로, 불완전 정보 환경에서 책임감 격차가 없는 메커니즘의 집합은, ‘선출된 독재’ 개념에 ’지식(knowledge)’의 개념을 결합한 두 가지 변형된 독재 구조, 즉 ’선출된 인식론적 독재(elected epistemic dictatorships)’와 ’선출된 준-인식론적 독재(elected semi-epistemic dictatorships)’의 집합 사이에 엄격하게 위치(strictly positioned)한다.1 이는 정보가 불완전할 때는 단순히 ’결과를 바꿀 수 있는 힘’을 가졌다는 사실만으로는 책임을 묻기에 부족하며, ’자신이 그 힘을 가졌다는 것을 아는 것’이 책임의 중요한 요소가 됨을 시사한다.

6.3 이론적 기여

본 연구의 가장 큰 이론적 기여는 ’책임’이라는 추상적이고 철학적인 개념을 게임 이론과 논리학의 도구를 사용하여 수학적으로 엄밀하게 형식화하고, ’책임감 격차’라는 문제 현상을 ’선출된 독재’라는 특정 메커니즘의 구조적 속성과 직접적으로, 그리고 필요충분조건으로 연결했다는 점에 있다. 이는 책임에 대한 논의를 막연한 당위성의 차원에서 구체적인 시스템 설계의 원리로 끌어내렸으며, 책임 있는 시스템을 설계하고 검증하기 위한 강력한 이론적 토대를 제공한다.

7. 부: 사례 연구 - 핵무기 발사 시나리오(Two-Person Rule) 분석

7.1 시나리오 설정

논문은 이론적 모델의 타당성을 보이기 위해 미국의 핵미사일 발사 통제 시스템 중 하나인 ’2인 규칙(Two-Person Rule)’을 구체적인 사례로 분석한다.1

행위자: 대통령(P), 장교 A, 장교 B. 총 3명의 행위자가 있다.
의사결정 과정:

루트 노드 $u_1$ 에서 대통령(P)이 발사를 승인(Authorise)하거나 거부(Not Authorise)한다.
거부 시, 시스템은 잎 노드 $v_1$ 으로 이동하고 결과는 ’발사 안 함(No)’이 된다.
승인 시, 시스템은 결정 노드 $u_2$ 로 이동한다.
노드 $u_2$ 에서 두 장교(A, B)는 동시에 키를 돌리거나(TurnKey) 돌리지 않을(DontTurn) 수 있다.
두 장교가 모두 키를 돌리면, 시스템은 잎 노드 $v_3$ 으로 이동하고 결과는 ’발사함(Yes)’이 된다.
두 장교 중 한 명이라도 키를 돌리지 않으면, 시스템은 잎 노드 $v_2$ 로 이동하고 결과는 ’발사 안 함(No)’이 된다.

7.2 책임 소재 분석

이 메커니즘을 논문의 형식적 프레임워크에 따라 분석하면 각 결과에 대한 책임 소재가 명확해진다.

결과 $v_3$ (발사 성공): 이 경우, 대통령, 장교 A, 장교 B 세 명 모두에게 반사실적 책임이 있다.1
대통령: $u_1$ 에서 발사를 승인하지 않는 선택을 통해 결과를 막을 수 있었다.
장교 A: $u_2$ 에서 키를 돌리지 않는 선택을 통해 (장교 B의 행동과 무관하게) 단독으로 발사를 막을 수 있었다.
장교 B: 장교 A와 마찬가지로, 단독으로 발사를 막을 수 있었다.

이처럼 여러 행위자가 동시에 책임을 지는 상황은 ’책임의 분산’에 해당할 수 있다.

결과 $v_2$ (장교 불이행으로 발사 실패): 이 결과는 대통령이 발사를 승인했지만, 최소 한 명의 장교가 키를 돌리지 않아 발생했다. 이 ’발사 실패’라는 결과에 대해, ’왜 발사를 성공시키지 못했는가’라는 반대 관점의 책임을 물을 때 책임감 격차가 발생한다.1
어떤 행위자도 단독으로 ’발사 성공(Yes)’을 보장할 수 없었다. 대통령은 장교들의 행동을 강제할 수 없었고, 키를 돌린 장교가 있더라도 다른 장교가 협력하지 않으면 발사는 불가능했다.
즉, $win_a(\text{Yes})$ 집합에 속하는 행위자가 아무도 없으므로, ’발사 성공’을 이뤄내지 못한 것에 대한 책임자가 없는 ’책임감 격차’가 발생한다.
결과 $v_1$ (대통령 불승인으로 발사 실패): 이 경우 역시 ’발사 성공’을 기준으로 책임을 물을 때 격차가 발생한다.1
대통령은 $u_1$ 에서 발사를 승인하더라도, $u_2$ 에서 장교들이 협력하지 않을 수 있으므로 ’발사 성공’을 보장할 수 없다. 따라서 대통령은 ’발사 성공’을 달성할 전략이 없었다.
장교들은 대통령의 승인 없이는 행동할 기회조차 없었다.
결과적으로 이 경로에서도 ’발사 성공’을 이뤄내지 못한 것에 대한 책임자가 없는 책임감 격차가 발생한다.

7.3 사례의 함의

이 현실적인 사례는 동일한 메커니즘 내에서도 어떤 결과가 발생하느냐에 따라 책임 소재가 명확해지거나(발사 성공 시) 혹은 공백이 발생할 수 있음(발사 실패 시)을 명확히 보여준다. 또한, 이 ‘2인 규칙’ 메커니즘은 어떤 결정 경로의 어떤 노드에서도 ’독재자’가 존재하지 않는다. 예를 들어, $u_2$ 에서 장교 A는 ‘No’ 결과는 보장할 수 있지만 ‘Yes’ 결과는 보장할 수 없으므로 독재자가 아니다. 따라서 이 메커니즘은 ’선출된 독재’가 아니며, 정리 1에 따라 책임감 격차가 존재할 수밖에 없음을 실증적으로 뒷받침한다.

8. 부: 학술적 맥락과 선행 연구와의 차별점

8.1 주요 선행 연구

책임감 격차에 대한 연구는 Naumov와 Tao 이전에도 존재했으며, 주로 특정 의사결정 모델에 초점을 맞춰 진행되었다.

Braham and van Hees (2011): 이들은 ’담론적 딜레마(discursive dilemma)’와 같은 집단적 판단 형성 과정에서 책임감 격차 문제를 분석했다. 특히, 각기 다른 측면에 대해 다른 주체가 책임지는 ’책임의 파편화(fragmentation of responsibility)’라는 개념을 도입했으며, 책임감 격차와 파편화를 모두 피하는 유일한 방법은 독재 체제(dictatorship)임을 보였다.9
Duijf (2018, 2022), List (2021): 이들 역시 주로 투표나 담론적 딜레마와 같은 특정 환경에서 책임감 격차가 발생하는 조건과 그 특성을 분석하는 데 기여했다.1

8.2 본 연구의 차별점 및 기여

Naumov와 Tao의 연구는 이러한 선행 연구들의 토대 위에서 다음과 같은 중요한 차별점과 기여를 가진다.

일반성(Generality)의 확보: 선행 연구들이 주로 투표나 담론적 딜레마와 같은 특정 모델에 집중한 반면, 본 연구는 다단계에 걸쳐 여러 행위자가 동시에 행동하는 더 일반적인 의사결정 과정을 포괄하는 트리 기반 형식 모델을 제시했다.9 이로 인해 더 광범위한 현실 세계의 시나리오에 적용 가능한 이론적 틀을 마련했다.
새로운 개념 ’선출된 독재’의 도입: ’선출된 독재’라는 독창적이고 직관적인 개념을 통해, 책임감 격차가 없는 메커니즘이 가져야 할 근본적인 구조적 특징을 명확하게 규명했다. 이는 단순히 ’독재’라는 결과를 넘어서, 책임이 어떻게 동적으로 ’선출’되고 집중되는지를 설명하는 세련된 개념적 도구를 제공한다.
연구 방향의 확장: 책임 연구는 크게 세 가지 방향, 즉 (1) 책임 있는 메커니즘의 존재(existence) 조건 탐구, (2) 주어진 메커니즘의 책임 속성을 **검증(verification)**하는 절차 개발, (3) 책임 있는 메커니즘을 실제로 **설계(design)**하는 방법론 연구로 나눌 수 있다.9 본 연구는 이 중 첫 번째 방향인 ‘존재’ 문제에 대해 “책임감 격차가 없는 메커니즘은 선출된 독재의 형태로 존재한다“는 근본적인 답을 제시했다. 이는 향후 검증 및 설계 연구의 필수적인 이론적 토대가 된다.

9. 부: 비판적 평가와 향후 연구 방향

9.1 ‘선출된 독재’ 모델의 실용적 한계

논문의 이론적 명료함에도 불구하고, 그 결과를 현실에 적용하는 데에는 몇 가지 한계와 비판적 고찰이 필요하다.

현실 반영의 문제: 논문의 분석은 정보가 완전하거나 불완전하다는 이분법적 가정에 기반한다. 그러나 실제 세계의 의사결정 환경은 복잡한 정보 비대칭성, 소통의 오류, 오해, 그리고 행위자들의 비합리적 선택 등 모델이 포착하지 못하는 다양한 변수들로 가득 차 있다.16 이러한 요소들은 책임 소재를 판단하는 데 중요한 영향을 미칠 수 있다.
적용 가능성의 문제: 책임성 확보를 위해 ‘선출된 독재’ 구조를 현실의 조직이나 AI 시스템에 실제로 구현하는 것은 기술적으로나 사회적으로 큰 도전이다. 어떤 조건에서 누가 독재자가 될지를 사전에 명확히 설계하고 합의하는 과정은 매우 복잡하며, 권력 남용의 위험을 내포할 수 있다. 논문은 이러한 메커니즘의 실용적 적용 가능성에 대한 구체적인 논의가 부족하다는 한계를 지닌다.16

9.2 해결책의 윤리적/사회적 함의

가장 근본적인 비판은 ’책임성’이라는 중요한 가치를 확보하기 위해 ’독재’라는, 민주적 가치와 상충될 수 있는 구조를 용인하는 것이 과연 바람직한가에 대한 질문이다.16 이는 효율성과 안전성을 중시할 것인가, 아니면 민주성과 참여를 중시할 것인가 하는 가치 사이의 충돌을 야기한다. 예를 들어, 자율주행차의 긴급 상황 판단 알고리즘에서 책임 소재를 명확히 하기 위해 특정 센서나 모듈에 ‘독재적’ 결정권을 부여하는 설계는 안전성을 높일 수 있지만, 다양한 가치를 반영하는 다원적 판단의 가능성을 배제할 수 있다. 이러한 윤리적, 사회적 함의에 대한 깊이 있는 고찰이 향후 연구에서 반드시 필요하다.

9.3 ‘책임’ 개념 자체에 대한 비판적 고찰

본 논문의 강력하고 다소 극단적으로 보이는 결론(“책임감 격차를 없애려면 독재가 필요하다”)은 그들이 채택한 특정 철학적 전제, 즉 ’반사실적 책임’에 매우 강하게 의존한다. 이 정의의 한계를 인식하고 다른 관점을 도입하는 것이 중요하다.

논문의 모든 형식적 논증은 ’책임 = 결과를 단독으로 바꿀 수 있었던 반사실적 통제력’이라는 등식에서 출발한다.5 이 정의 하에서는, 결과를 단독으로 바꿀 힘이 없는 사람은 책임에서 자유로워진다. 집단 행동에서는 이런 사람이 다수일 수밖에 없으므로, 책임감 격차가 쉽게 발생하고, 이를 메우기 위해 누군가에게 독재적 권한을 부여해야 한다는 결론이 필연적으로 도출된다.

하지만 법률이나 윤리학에서는 ’기여 책임(contributory responsibility)’과 같이 다른 형태의 책임 개념도 중요하게 다룬다. 예를 들어, 10명이 힘을 합쳐야만 움직일 수 있는 돌을 밀어 사람을 다치게 했다면, 비록 누구도 혼자서는 돌을 움직일 수 없었더라도(반사실적 통제력 부재), 결과에 기여한 10명 모두에게 일정 부분 책임이 있다고 본다.

만약 이러한 ‘기여 책임’ 모델을 형식화하여 적용한다면, 책임감 격차의 정의 자체가 달라질 수 있다. 모든 참여자가 결과에 조금이라도 ’기여’했다면 모두에게 책임이 있다고 볼 수 있고, 그렇다면 격차는 원천적으로 발생하지 않을 수도 있다. 이 경우, 비독재적이면서도 책임감 격차가 없는 메커니즘의 설계 가능성이 열리게 된다.

결론적으로, Naumov와 Tao의 연구는 ’반사실적 책임’이라는 특정 관점의 논리적 귀결을 극한까지 탐구한 중요한 학술적 성과이다. 동시에, 이 연구의 결론을 현실에 적용할 때는 그 근본적인 철학적 가정의 타당성과 한계를 반드시 함께 고려해야 한다. 책임에 대한 다양한 정의를 탐구하고, 각각의 정의 하에서 책임감 격차가 없는 메커니즘이 어떤 구조를 갖게 되는지를 비교 분석하는 것은 이 분야의 가장 중요한 향후 연구 과제가 될 것이다.16

10. 참고 자료

Responsibility Gap in Collective Decision Making - IJCAI, https://www.ijcai.org/proceedings/2025/0513.pdf
[2505.06312] Responsibility Gap in Collective Decision Making - arXiv, https://arxiv.org/abs/2505.06312
BibTeX - IJCAI, https://www.ijcai.org/proceedings/2025/bibtex/513
Pavel Naumov - OpenReview, https://openreview.net/profile?id=~Pavel_Naumov1
Responsibility Gap in Collective Decision Making - ePrints Soton, https://eprints.soton.ac.uk/502173/1/2025-ijcai-nt.pdf
Responsibility Gap in Collective Decision Making - arXiv, https://arxiv.org/html/2505.06312v1
arXiv:2505.06312v1 [cs.GT] 8 May 2025, https://arxiv.org/pdf/2505.06312
Responsibility Gap in Collective Decision Making - ResearchGate, https://www.researchgate.net/publication/395684465_Responsibility_Gap_in_Collective_Decision_Making
Responsibility Gap and Diffusion in Sequential Decision-Making Mechanisms - Pavel Naumov, https://pavelnaumov.com/s/2025-arxiv-jn-responsibility.pdf
Responsibility Gap and Diffusion in Sequential Decision-Making Mechanisms - arXiv, https://arxiv.org/pdf/2507.02582
Pavel Naumov, https://pavelnaumov.com/
Shared Responsibility in Collective Decisions - PMC - PubMed Central, https://pmc.ncbi.nlm.nih.gov/articles/PMC6570616/
Shared responsibility in collective decisions - Crowd Cognition, https://crowdcognition.net/wp-content/uploads/2019/05/s41562-019-0596-4.pdf
(PDF) Diffusion of Responsibility in Collective Decision Making - ResearchGate, https://www.researchgate.net/publication/392530670_Diffusion_of_Responsibility_in_Collective_Decision_Making
Responsibility Gap and Diffusion in Sequential Decision-Making Mechanisms, https://www.researchgate.net/publication/393378739_Responsibility_Gap_and_Diffusion_in_Sequential_Decision-Making_Mechanisms
Responsibility Gap in Collective Decision Making - haebom, https://slashpage.com/haebom/y9e1xp2xy919wm7k35vz?lang=en&tl=en