1.3 보편 기호학의 목표: 사고의 형식화와 기계적 추론

1. 사고의 형식화라는 근본 목표

보편 기호학(Characteristica Universalis)의 제1 목표는 사고의 형식화(Formalization of Thought)이다. 라이프니츠에게 형식화란 인간의 사유 내용과 사유 과정을 자연 언어의 모호성으로부터 분리하여, 명확하고 일의적(Univocal)인 기호 체계로 변환하는 것을 의미한다. 이 변환의 핵심은 사유의 내용(Content)과 형식(Form)의 분리이다.

라이프니츠는 사유의 오류가 두 가지 원천에서 발생한다고 진단하였다. 첫째, 사용하는 개념이 불명확하거나 모호한 경우이다. 둘째, 추론 과정에서 비형식적 도약(Informal Leap)이 개입하는 경우이다. 보편 기호학은 이 두 원천을 동시에 차단하도록 설계된다. 개념의 형식적 기호화는 첫째 원천을, 추론의 기계적 규칙화는 둘째 원천을 제거한다.

1.1 개념의 형식적 분석

사고의 형식화를 위해 라이프니츠는 모든 개념에 대한 형식적 분석(Formal Analysis)을 요구하였다. 이 분석은 다음의 단계를 따른다:

분해(Decomposition): 주어진 복합 개념을 더 단순한 구성 개념으로 분해한다.
환원(Reduction): 분해를 반복하여 더 이상 분해할 수 없는 원초적 개념(Notiones Primitivae)에 도달한다.
부호화(Encoding): 각 원초적 개념에 고유한 기호를 대응시킨다.
재구성(Reconstruction): 기호적 조합 규칙에 따라 원래의 복합 개념을 기호 표현으로 재구성한다.

이 절차를 통해 임의의 개념은 원초적 기호들의 정해진 조합으로 표현되며, 개념의 논리적 구조는 기호 표현의 구문적 구조에 명시적으로 드러난다. 라이프니츠는 이 과정을 맹인의 사유(Cogitatio Caeca), 즉 의미에 대한 직관적 파악 없이도 기호 조작만으로 올바른 결론에 도달하는 사유의 가능성을 확보하는 방법으로 간주하였다.

1.2 명제의 형식적 표현

개념의 형식화에 이어 명제(Proposition)의 형식화가 수행된다. 라이프니츠의 논리학에서 모든 명제는 주어-술어 형식(Subject-Predicate Form)으로 환원된다. 명제 “S는 P이다“는 술어 개념 P가 주어 개념 S에 포함되는 관계, 즉 개념 포함(Conceptual Containment)으로 분석된다.

수적 부호화 체계에서 이 관계는 산술적으로 표현된다. 주어 $S$ 에 대응하는 수 $\sigma(S)$ 가 술어 $P$ 에 대응하는 수 $\sigma(P)$ 의 배수이면, 명제 “ $S$ 는 $P$ 이다“는 참이다:

$\text{"S는 P이다"가 참} \iff \sigma(P) \mid \sigma(S)$

예를 들어, 원초적 개념 ’이성적’에 소수 2를, ’동물’에 소수 3을 대응시키면, ‘인간’ = ’이성적 동물’은 $2 \times 3 = 6$ 으로 부호화된다. 명제 “인간은 동물이다“의 진리는 $3 \mid 6$ 이라는 산술적 사실로 검증된다.

기계적 추론의 이상

보편 기호학의 제2 목표는 기계적 추론(Mechanical Reasoning)의 실현이다. 기계적 추론이란 추론 과정이 유한한 수의 명시적 규칙의 반복 적용으로 구성되며, 각 단계에서 규칙의 적용이 기호의 의미에 대한 이해 없이 기호의 형식적 구조만으로 결정되는 추론을 의미한다.

기계적 추론의 형식적 조건

라이프니츠가 구상한 기계적 추론이 성립하기 위한 조건은 다음과 같다:

유한성(Finiteness): 추론 규칙의 수가 유한해야 한다.
결정성(Determinacy): 각 추론 단계에서 적용할 규칙이 기호 표현의 형태에 의해 유일하게(또는 유한한 선택지 중에서) 결정되어야 한다.
구문적 성격(Syntactic Character): 규칙의 적용이 기호의 의미(Semantics)가 아닌 오직 기호의 형식(Syntax)에만 의존해야 한다.
건전성(Soundness): 규칙의 적용이 항상 참인 전제로부터 참인 결론을 산출해야 한다.

이 조건들은 현대 논리학에서 형식적 증명 체계(Formal Proof System)의 요건과 정확히 대응한다. 특히 구문적 성격이라는 조건은 추론의 기계화 가능성의 핵심이다. 추론이 순전히 구문적이라면, 의미를 이해하지 못하는 기계 장치에 의해서도 수행 가능하기 때문이다.

“Calculemus“의 의미

라이프니츠의 “계산해 봅시다(Calculemus!)“라는 선언은 이 기계적 추론의 이상을 응축한 표현이다. 이 선언의 함의는 다음과 같다:

모든 학문적 논쟁은 원리적으로 계산에 의해 해결 가능하다.
논쟁의 당사자는 각자의 주장을 보편 기호법으로 형식화한다.
추론 계산(Calculus Ratiocinator)의 기계적 적용에 의해 어떤 주장이 논리적으로 타당한지가 판정된다.
이 과정은 판정자의 주관적 판단, 수사적 능력, 권위에 의존하지 않는다.

이 구상은 논쟁 해결의 주관성을 제거하고, 진리 판별을 객관적·기계적 절차로 전환하려는 시도이다. 현대적 관점에서 이는 결정 절차(Decision Procedure) 또는 알고리즘적 판정(Algorithmic Decision)의 개념적 선구이다.

형식화와 기계적 추론의 통합 구조

사고의 형식화와 기계적 추론은 보편 기호학에서 불가분하게 결합된다. 형식화 없이는 기계적 추론이 불가능하고, 기계적 추론의 가능성이 형식화의 존재 이유를 부여한다. 이 두 목표의 통합 구조를 도식화하면 다음과 같다:

$\text{자연 언어 사유} \xrightarrow{\text{형식화}} \text{기호 표현} \xrightarrow{\text{기계적 규칙 적용}} \text{새로운 기호 표현} \xrightarrow{\text{해석}} \text{새로운 지식}$

이 구조에서 형식화는 자연 언어 사유를 기호 표현으로 변환하는 부호화(Encoding) 과정이고, 기계적 추론은 기호 표현에 대한 구문적 변환(Syntactic Transformation) 과정이며, 해석(Interpretation)은 결과적 기호 표현을 다시 의미 있는 지식으로 복원하는 복호화(Decoding) 과정이다.

이 삼단계 구조는 현대 형식 논리학의 표준적 방법론과 동일하다. 현대 논리학에서 논증의 타당성 검증은 (1) 자연 언어 논증을 형식 언어로 번역하고, (2) 형식적 추론 규칙을 적용하여 증명을 구성하며, (3) 형식적 결론을 자연 언어로 재해석하는 과정으로 수행된다.

2. 판정 문제(Entscheidungsproblem)와의 연관

라이프니츠의 기계적 추론 구상은 이후 힐베르트(David Hilbert)가 1928년에 명시적으로 정식화한 판정 문제(Entscheidungsproblem)로 발전한다. 판정 문제는 다음과 같이 정의된다: 임의의 수학적 명제가 주어졌을 때, 유한한 수의 기계적 단계를 통해 그 명제의 참·거짓을 판별할 수 있는 일반적 절차(Algorithm)가 존재하는가?

라이프니츠의 보편 기호학 구상은 이 물음에 대한 긍정적 답변을 암묵적으로 전제한다. 만약 모든 명제가 보편 기호법으로 표현 가능하고, 추론 계산의 기계적 적용으로 모든 참인 명제가 도출 가능하다면, 판정 문제는 원리적으로 해결 가능하다.

그러나 1936년 튜링(Alan Turing)과 처치(Alonzo Church)는 독립적으로 판정 문제가 일반적으로 해결 불가능함을 증명하였다. 이 결과는 라이프니츠의 구상이 갖는 근본적 한계를 수학적으로 확정하였다. 모든 참인 명제를 기계적으로 판별하는 보편적 절차는 존재하지 않는다. 이 부정적 결과는 역설적이게도 계산 가능성(Computability)이라는 개념 자체를 엄밀하게 정의하는 계기가 되었으며, 현대 컴퓨터 과학의 이론적 토대를 구축하는 데 기여하였다.

3. 형식화의 한계와 그 의의

라이프니츠의 사고 형식화 구상은 모든 사유가 형식화 가능하다는 강한 전제에 기반한다. 그러나 이후의 학문적 발전은 이 전제의 한계를 명확히 하였다.

괴델의 불완전성 정리(1931)는 충분히 강력한 형식 체계에서 체계 내에서 증명도 반증도 불가능한 참인 명제가 반드시 존재함을 증명하였다. 이는 형식적 기호 체계의 표현력에 내재적 한계가 있음을 보여준다. 타르스키의 정리(1936)는 형식 언어 내에서 자기 자신의 진리 개념을 정의할 수 없음을 증명하여, 형식화의 또 다른 한계를 확정하였다.

그럼에도 불구하고, 라이프니츠의 형식화 구상이 갖는 학문사적 의의는 지대하다. 이 구상은 사유를 형식적으로 포착하려는 최초의 체계적 시도로서, 이후 2세기에 걸친 형식 논리학의 발전 방향을 설정하였다. 또한 형식화의 한계를 정밀하게 규명한 결과들 자체가 형식적 방법론의 산물이라는 점에서, 라이프니츠의 프로그램은 그 한계의 발견을 포함하여 자기 자신의 가장 심원한 성과를 산출하였다고 평가할 수 있다.