5.22 루카스-펜로즈 논변: 인간 지성과 기계적 계산의 비교

1. 논변의 기원

1.1 루카스의 논변(1961)

영국 철학자 존 루카스(John Randolph Lucas, 1929–2020)는 1961년 “Minds, Machines, and Gödel“에서 괴델의 불완전성 정리에 기반하여 인간 마음이 기계(형식 체계 또는 튜링 기계)를 초월한다는 논변을 제시하였다.

1.2 펜로즈의 논변(1989, 1994)

물리학자 로저 펜로즈(Roger Penrose, 1931–)는 “The Emperor’s New Mind”(1989)와 “Shadows of the Mind”(1994)에서 루카스의 논변을 보다 정교하게 발전시켰다.

2. 논변의 구조

2.1 루카스-펜로즈 논변의 핵심

전제 1: 인간 수학자는 괴델 문장 $G_\mathcal{F}$ 가 참임을 인식할 수 있다(형식 체계 $\mathcal{F}$ 가 무모순하다면).

전제 2: 형식 체계 $\mathcal{F}$ 는 $G_\mathcal{F}$ 를 증명할 수 없다(괴델의 제1 불완전성 정리).

결론: 인간의 수학적 능력은 어떤 형식 체계(= 알고리즘 = 튜링 기계)에 의해서도 완전히 재현될 수 없다. 따라서 인간 마음은 기계를 초월한다.

2.2 펜로즈의 확장

펜로즈는 이 결론을 물리학적으로 확장하여, 인간 의식이 양자 중력(Quantum Gravity) 효과에 의한 비알고리즘적(Non-Algorithmic) 과정에 기반한다고 주장하였다. 구체적으로, 뉴런의 미세소관(Microtubule)에서 양자 역학적 결맞음(Quantum Coherence)이 비알고리즘적 계산을 수행하며, 이것이 의식과 수학적 직관의 기반이라는 오케스트라 객관적 환원(Orchestrated Objective Reduction, Orch OR) 이론을 마취과 의사 해머로프(Stuart Hameroff)와 공동으로 제안하였다.

3. 논변에 대한 비판

루카스-펜로즈 논변에 대해 다수의 반론이 제기되었다.

3.1 반론 1: 무모순성 가정의 문제

인간이 $G_\mathcal{F}$ 의 진리를 “인식“하려면, $\mathcal{F}$ 의 무모순성을 전제해야 한다. 그러나:

$\mathcal{F}$ 의 무모순성은 $\mathcal{F}$ 내에서 증명 불가능하다(제2 불완전성 정리).
인간이 $\mathcal{F}$ 의 무모순성을 어떻게 “알” 수 있는가? 만약 인간 자신의 추론 체계가 형식 체계 $\mathcal{H}$ 라면, $\mathcal{H}$ 의 무모순성을 증명하려면 $\mathcal{H}$ 보다 강력한 체계가 필요하다.
인간은 실제로 자신의 추론 체계가 무모순한지 확신할 수 있는가?

퍼트남(Hilary Putnam, 1995)은 이 점을 지적하며, 논변의 전제 1이 정당화되지 않는다고 주장하였다.

3.2 반론 2: 자기 인식의 불가능성

논변은 인간이 자신의 추론 체계를 완전히 인식하고 있다고 암묵적으로 가정한다. 그러나:

인간이 자신의 추론 체계가 어떤 형식 체계 $\mathcal{F}$ 와 동일한지를 알 수 없을 수 있다.
인간의 추론 체계가 형식 체계와 동일하더라도, 인간이 이를 알지 못하면 괴델 문장을 구성하는 것이 불가능하다.

벤아세라프(Paul Benacerraf, 1967)는 이 반론을 체계적으로 전개하였다.

3.3 반론 3: 인간 추론의 무모순성 의심

인간의 수학적 추론이 실제로 무모순하다는 보장이 없다:

역사적으로 수학자들이 잘못된 증명을 제시한 사례가 다수 존재한다.
인간의 추론 체계에 미묘한 모순이 내포되어 있을 가능성을 배제할 수 없다.
형식 체계가 무모순하지 않으면 모든 문장이 증명 가능하므로, 무모순하지 않은 인간 추론 체계는 $G$ 의 진리를 “증명“할 수 있다(물론 이는 무의미한 증명이다).

3.4 반론 4: 건전성 가정의 순환성

펜로즈의 논변은 다음의 순환적 구조를 갖는다(프랜젠, Torkel Franzén, 2005):

인간은 PA의 건전성(따라서 무모순성)을 인식할 수 있다.
이로부터 인간은 $G_{PA}$ 의 진리를 인식할 수 있다.
PA는 $G_{PA}$ 를 증명할 수 없다.
따라서 인간은 PA보다 강력하다.

그러나 PA + $G_{PA}$ 도 형식 체계이며, 인간이 이 체계의 건전성도 인식할 수 있다면, 새로운 괴델 문장 $G'$ 에 대해서도 동일한 논변이 반복된다. 이 반복은 인간의 추론 능력이 어떤 형식 체계에도 포착되지 않음을 보여야 하는데, 이는 인간의 추론 능력이 임의의 형식 체계의 무모순성을 인식할 수 있다는 매우 강한 가정을 요구한다. 이 가정 자체가 증명되지 않은 것이다.

3.5 반론 5: 기계도 메타수학적 추론 가능

형식 체계 $\mathcal{F}$ 가 $G_\mathcal{F}$ 를 증명할 수 없지만, $\mathcal{F}$ 보다 강력한 형식 체계 $\mathcal{F}' = \mathcal{F} + \text{Con}(\mathcal{F})$ 는 $G_\mathcal{F}$ 를 증명할 수 있다. 인간이 $G_\mathcal{F}$ 의 진리를 인식하는 과정도 $\mathcal{F}'$ 에서의 증명으로 모델링 가능하다. 따라서 인간의 괴델 문장 인식 능력이 반드시 기계적 능력을 초월함을 보여주지는 않는다.

4. 논변에 대한 학계의 평가

루카스-펜로즈 논변은 인공지능의 원리적 한계에 관한 중요한 철학적 논쟁을 촉발하였으나, 논변의 결론—인간 마음이 기계를 초월한다—을 수학적으로 엄밀하게 도출하는 것에 대해서는 학계의 합의가 형성되지 않았다.

대부분의 수리논리학자와 컴퓨터 과학자는 논변이 결정적이지 않다고 평가한다. 논변의 핵심 전제(인간의 무모순성, 인간의 자기 인식 능력)가 증명되지 않은 가정이며, 이 가정 없이는 결론이 도출되지 않기 때문이다.

5. 현대적 관점: 대규모 언어 모델과의 관련

현대 대규모 언어 모델(Large Language Model)은 수학적 추론을 수행하며, 일부 경우 괴델 문장과 불완전성 정리에 관한 설명을 생성할 수 있다. 이 능력이 “진정한 이해“인지 “패턴 매칭“인지는 중국어 방 논변과 루카스-펜로즈 논변이 교차하는 지점이다.

루카스-펜로즈 논변의 관점에서, 대규모 언어 모델이 “괴델 문장 $G$ 는 참이다“라고 출력하는 것이 진정한 “인식“인지, 아니면 훈련 데이터의 패턴 재현인지는 미해결 문제이다. 이 문제는 “이해“와 “시뮬레이션“의 구별이라는 인공지능 철학의 핵심 물음으로 귀결된다.

루카스-펜로즈 논변은 불완전성 정리의 인공지능에 대한 함의를 가장 극단적으로 해석한 논변이며, 이 논변에 대한 비판적 분석은 인간 지성과 기계적 계산의 관계에 관한 가장 깊은 철학적 탐구를 구성한다.