6.11 루카스-펜로즈 논변에 대한 반론과 재해석

1. 반론의 체계적 분류

루카스-펜로즈 논변에 대한 반론은 논변의 상이한 전제와 추론 단계를 공격하며, 크게 네 범주로 분류된다.

2. 제1범주: 무모순성 전제에 대한 반론

2.1 무모순��의 비자명성

논변의 핵심 전제�� “인간은 형식 체계 $\mathcal{F}$ 의 무모순성을 인식할 수 있다“가 정당화되지 않는다는 반론이다.

퍼트남(Putnam, 1960): 인간이 특정 형식 체계의 무모순성을 “인식“하는 과정 자체가 비형식적이며, 이 “인식“의 정당성이 보증되지 않는다. 인간의 무모순성 “인식“이 오류 가능(Fallible)하��면, 논변의 결론이 따르지 않는다.

��이틴(Chaitin, 2007): 체이틴의 $\Omega$ 수에 관한 결과는 “무모순성의 인식“이 정보 이론적으로 비자명한 과업임을 보여준다. 형식 체계의 무모순성을 확인하는 것은 그 체계에 의해 내포되는 정보량 이상의 정보를 요구한다.

2.2 무한 후퇴(Infinite Regress)

인간이 PA의 무모순성을 인식하여 $G_{\text{PA}}$ 의 진리를 인식하면, PA + Con(PA)의 무모순성도 인식해야 하고, 이는 다시 PA + Con(PA) + Con(PA + Con(PA))의 무모순성을 요구한다. 이 무한 후퇴에서 인간이 각 단계의 무모순성을 인식할 수 있다는 가정은 점점 더 강한 가정이 된다.

3. 제2범주: 자기 인식에 대한 반론

3.1 벤아세라프의 논변(1967)

벤아세라프(Benacerraf): 인간 수학자가 자기 자신의 추론 체계가 어떤 형식 체계 $\mathcal{F}$ 와 동일한지를 알 수 없다. $\mathcal{F}$ 의 정체를 알지 못하면 $G_\mathcal{F}$ 를 구성하는 것이 불가능하다.

루카스-펜로즈 ��변은 “임의의 형식 체계에 대해” 괴델 문장을 구성하는 것이 가능하다고 주장��지만, 이 “임��의“에는 인간 자신의 추론 체계도 포함된다. 인��이 자기 자신의 추론 체계를 형식 체계로 식별할 수 없다면, 논변의 핵심 단계가 수행 불가능하다.

3.2 제2 불완전성 정리에 의한 제약

제2 불완전성 정리에 의해, 인간의 추론 체계가 형식 체계 $\mathcal{F}_H$ 와 동등하다면, $\mathcal{F}_H$ 는 자기 자신의 무모순성을 증명할 수 없다. 인간이 $\mathcal{F}_H$ 의 무모순��을 “인식“한다면, 이 인식은 $\mathcal{F}_H$ 외부의 원리에 의존해야 한다. 그러�� 이 외부 원리도 형식 체계로 포착 가능하다면, 동일한 논변이 반복된다.

4. 제3범주: 인간 추론의 무모순성에 대한 반론

4.1 인간 추론의 오류 가능성

인간의 수학적 추론이 실제로 무모순한가? 역사적 증거:

켐프(Alfred Kempe)의 4색 정리 “증명”(1879): 11년간 올��른 것으로 수용되었으나 히우드(Percy Heawood)에 의해 오류가 발견(1890).
라쿠나리(Pierre Lecuture)의 페르마 ��측 증명 시도들: 다수의 잘못된 “증명“이 제출되었다.
전문 수학자들 사이에서도 미묘한 논리적 오류가 발생한다.

인간의 추론이 무모순하지 않��면(즉, 인간이 무모순하지 않은 “형식 체계“를 사용한다면), 무모순하지 않은 체계에서는 모든 문장이 “증명 가능“하므로 괴델의 정리가 적용되지 않는다. 이 경우 ��카스-펜로즈 논변의 전제가 무너진다.

4.2 샤피로(Stewart Shapiro, 1998)의 분석

샤피��는 인간의 추론 체계가 무모순하지만 인간이 이를 알 수 없는 경우, 무��순하고 인간이 이를 아는 경우, 무모순하지 않은 경우의 세 ��나리오를 분석하여, 어떤 경우에도 루카스-펜로즈 논변의 결론이 도출되지 않음을 보였다.

5. 제4범주: 논변의 논리적 구조에 대한 반론

5.1 프랜젠(Torkel Franzén, 2005)의 분석

프랜젠은 “Gödel’s Theorem: An Incomplete Guide to Its Use and Abuse“에서 루카스-펜로즈 논변의 논리적 구조를 정밀하게 분석하고, 다음의 결함을 지적하였다:

논변은 “인간은 ��의의 무모�� 형식 체계의 무모순성을 인식할 수 있다“는 매우 강한 가정을 암묵적으로 사용한다. 이 가정은 증명되지 않았으며, 많은 경우 거짓일 가능성이 높다.
“인식(See)“이라는 비형식적 개념과 “증명(Prove)“이라는 형식적 개념의 혼동이 논변에 내재되어 있다.
논변이 성공하려면 인간의 수학적 능력이 어떤 고정된 형식 체계에 의해 포착되지 않음을 보여야 하지만, 실제로 보여지는 것은 특정 형식 체계 $\mathcal{F}$ 에 대해 인간이 $G_\mathcal{F}$ 를 “인식“할 수 있다는 것뿐이다. 이는 인간의 능력이 $\mathcal{F}$ 보다 강하다는 것이지, 어떤 형식 체계보다 강하다는 것은 아니다.

6. 재해석의 시도

6.1 약화된 결론

논변의 전제를 수정하여 약화된 결론을 도출하는 재해석:

“만약 인간의 수학적 추론이 무모순한 형식 체계에 의해 포착되고, 인간이 이 체계를 알 수 있다면, 인간은 이 체계�� 무모순하다는 것을 증명할 수 없��.”

이 약화된 결론은 제2 불완전성 정리의 직접적 귀결이며, 인간과 기계의 차이가 아닌 공통적 한계를 진술한다.

6.2 상대적 능력의 비교

논변을 “인간 vs 기계“의 이분법이 아닌, 상이한 추론 체계 간의 상대적 능력 비교로 재해석:

인간 수학자가 형식 체계 $\mathcal{F}$ 에서 증명 불가능한 $G_\mathcal{F}$ 를 “인식“하는 것은, 인간이 $\mathcal{F}$ 보다 강한 체계 $\mathcal{F}'$ (예: $\mathcal{F}$ + Con( $\mathcal{F}$ ))에서 추론하는 것으로 모델링 가능하다. 기계도 $\mathcal{F}'$ 에서 추론하면 $G_\mathcal{F}$ 를 증명할 수 있다. 따라서 “인간 vs 기계“의 차이가 아니라 “약한 체계 vs 강한 체계“의 차이이다.

7. 현대적 평가

루카스-펜로즈 논변은 불완전성 정리의 인공지능에 대한 함의를 가장 극단적으로 해석한 시도이며, 풍부한 학술적 논쟁을 촉발하였다. 그러나 논변의 결론—인간 마음이 기계를 초월한다—은 학계에서 일반적으로 수용되지 않는다. 논변의 핵심 전제들이 증명되�� 않은 가정이며, 불완전성 정리로부터 인간-기계 구별의 결론을 연역적으로 도출하는 것에 논리적 간극이 존재하기 때문이다.

논변의 가치는 결론의 정확성이 아니라, 계산, 의식, 수학적 진리의 관계에 관한 가장 심층적인 ��학적 탐구를 촉발한 데 있다.