1.16 프레게의 개념 표기법(Begriffsschrift)과 술어 논리의 탄생

1. 프레게의 학문적 목표

고틀로프 프레게(Gottlob Frege, 1848–1925)는 독일 예나(Jena) 대학교의 수학 교수로서, 수학의 논리적 기초를 확립하는 것을 평생의 학문적 목표로 삼았다. 프레게의 핵심 프로그램은 논리주의(Logicism)로 알려져 있으며, 산술의 모든 진리가 순수 논리적 원리로부터 도출 가능하다는 주장이다.

이 목표를 달성하기 위해 프레게는 자연 언어가 논리적 추론의 매체로 부적합함을 인식하였다. 자연 언어의 문법 구조는 논리적 구조를 불완전하고 오해의 소지가 있는 방식으로 반영하며, 동일한 논리적 형식이 상이한 문법 형식으로, 상이한 논리적 형식이 동일한 문법 형식으로 나타날 수 있다. 프레게는 이 문제를 해결하기 위해 순수하게 논리적 내용만을 투명하게 표현하는 형식 언어(Formal Language)의 구축에 착수하였다.

2. 개념 표기법(Begriffsschrift)의 출판

프레게는 1879년에 “Begriffsschrift, eine der arithmetischen nachgebildete Formelsprache des reinen Denkens(개념 표기법, 순수 사유의 산술 모사 공식 언어)“를 출판하였다. 이 저작은 현대 형식 논리학의 기원으로 평가되며, 논리학 역사상 가장 중요한 단일 저작으로 간주된다.

“Begriffsschrift“라는 용어는 “Begriff(개념)” + “Schrift(표기법, 문자 체계)“의 합성어로, “개념의 표기법” 또는 “개념 문자“를 의미한다. 프레게 자신은 이 체계를 라이프니츠의 보편 기호학(Characteristica Universalis) 구상의 부분적 실현으로 명시적으로 위치시켰다.

3. 개념 표기법의 핵심 혁신

개념 표기법이 기존의 논리 체계에 비해 가져온 근본적 혁신을 기술한다.

3.1 함수-논항 분석(Function-Argument Analysis)

프레게의 가장 혁명적 기여는 명제의 논리적 구조를 함수(Function)와 논항(Argument)의 관계로 분석한 것이다. 전통 논리학은 아리스토텔레스 이래 모든 명제를 주어-술어(Subject-Predicate) 형식으로 분석하였다. 프레게는 이 분석이 논리적으로 불충분함을 지적하고, 수학에서의 함수 개념을 논리학에 도입하였다.

프레게의 분석에서, “소크라테스는 필멸적이다“라는 명제는 함수 $\text{필멸적}(x)$ 에 논항 $\text{소크라테스}$ 를 대입한 것으로 분석된다: $\text{필멸적}(\text{소크라테스})$ . 여기서 $\text{필멸적}(x)$ 는 불포화(Unsaturated) 표현으로서, 변수 $x$ 에 적절한 대상이 대입되면 하나의 완전한 명제(진리값)를 산출한다.

이 분석의 핵심적 이점은 관계 명제(Relational Proposition)의 자연스러운 처리에 있다. “아테네는 스파르타보다 크다“라는 명제는 2-항 함수 $\text{크다}(x, y)$ 에 두 논항을 대입한 것으로 분석된다: $\text{크다}(\text{아테네}, \text{스파르타})$ . 전통 논리학의 주어-술어 분석으로는 이러한 관계 명제를 적절히 처리할 수 없었다.

현대적 용어로, 프레게의 함수는 술어(Predicate)에 해당하고, 논항은 개체 항(Individual Term)에 해당한다. $n$ -항 술어 $P(x_1, x_2, \ldots, x_n)$ 는 $n$ 개의 개체를 입력으로 받아 진리값을 출력하는 함수이다.

3.2 양화사(Quantifier)의 도입

프레게의 두 번째 핵심 혁신은 양화사의 형식적 도입이다. 양화사는 변수의 범위를 지정하는 논리적 장치로서, “모든(For All)“과 “어떤(There Exists)“이라는 두 가지 기본 형태를 갖는다.

전칭 양화사(Universal Quantifier): $\forall x$ 는 “모든 $x$ 에 대하여“를 의미한다. $\forall x \, P(x)$ 는 “모든 $x$ 가 성질 $P$ 를 가진다“는 명제를 나타낸다.

존재 양화사(Existential Quantifier): $\exists x$ 는 “어떤 $x$ 가 존재하여“를 의미한다. $\exists x \, P(x)$ 는 “성질 $P$ 를 가지는 $x$ 가 적어도 하나 존재한다“는 명제를 나타낸다.

프레게의 원래 표기법에서 전칭 양화사는 특수한 함몰(Concavity) 기호와 함께 변수 문자를 배치하는 2차원 도식으로 표현되었다. 존재 양화사는 전칭 양화사와 부정의 조합으로 정의되었다:

$\exists x \, P(x) \equiv \neg \forall x \, \neg P(x)$

이는 “성질 $P$ 를 가지는 $x$ 가 존재한다“는 것이 “모든 $x$ 가 성질 $P$ 를 가지지 않는 것은 아니다“와 동치라는 논리적 관계를 반영한다.

양화사의 도입은 논리학의 표현력을 명제 논리(Propositional Logic)에서 술어 논리(Predicate Logic)로 결정적으로 확장하였다. 명제 논리는 명제의 내부 구조를 분석할 수 없으나, 술어 논리는 명제를 술어와 개체 항으로 분해하고 양화사를 통해 변수에 대한 일반화를 표현할 수 있다.

다중 양화와 변수 바인딩

프레게의 체계에서 양화사는 중첩(Nesting)될 수 있으며, 이를 통해 복잡한 수학적 명제를 형식적으로 표현할 수 있다.

예를 들어, “모든 자연수에 대해 그보다 큰 자연수가 존재한다“는 다음과 같이 형식화된다:

$\forall x \, \exists y \, (y > x)$

여기서 $\exists y$ 는 $\forall x$ 의 범위(Scope) 내에 중첩되어 있으며, $y$ 의 존재는 $x$ 의 값에 의존할 수 있다. 양화사의 순서가 의미에 영향을 미치는 이 현상은 자연 언어의 모호성의 주된 원천이며, 프레게의 형식 언어는 양화사의 범위를 명시적으로 지정함으로써 이 모호성을 완전히 제거한다.

양화사에 의해 지배되는 변수를 속박 변수(Bound Variable)라 하고, 양화사에 의해 지배되지 않는 변수를 자유 변수(Free Variable)라 한다. 이 구별은 현대 논리학과 프로그래밍 언어 이론 모두에서 근본적 개념이다.

4. 개념 표기법의 형식적 체계

프레게의 개념 표기법은 엄격한 형식적 체계로 구성되어 있다.

4.1 기본 논리 연결사

프레게의 원래 체계에서 기본 논리 연결사는 조건문(Conditional, $\rightarrow$ )과 부정(Negation, $\neg$ ) 두 가지뿐이다. 다른 연결사는 이 두 연결사로 정의된다:

논리곱: $p \wedge q \equiv \neg(p \rightarrow \neg q)$
논리합: $p \vee q \equiv \neg p \rightarrow q$
쌍조건문: $p \leftrightarrow q \equiv (p \rightarrow q) \wedge (q \rightarrow p)$

4.2 공리 체계

프레게는 개념 표기법에서 6개의 공리를 제시하였다(현대적 표기로):

$a \rightarrow (b \rightarrow a)$
$(c \rightarrow (b \rightarrow a)) \rightarrow ((c \rightarrow b) \rightarrow (c \rightarrow a))$
$(d \rightarrow (b \rightarrow a)) \rightarrow (b \rightarrow (d \rightarrow a))$
$(b \rightarrow a) \rightarrow (\neg a \rightarrow \neg b)$
$\neg\neg a \rightarrow a$
$a \rightarrow \neg\neg a$

4.3 추론 규칙

프레게의 체계에서 명시적 추론 규칙은 전건 긍정(Modus Ponens)이다:

$\frac{A, \quad A \rightarrow B}{B}$

전제 $A$ 와 조건문 $A \rightarrow B$ 가 모두 증명되었을 때, 결론 $B$ 를 도출한다.

추가적으로 전칭 일반화(Universal Generalization) 규칙이 사용된다:

$\frac{\Phi(x)}{\forall x \, \Phi(x)}$

$\Phi(x)$ 가 $x$ 에 대한 어떤 가정도 없이 증명되었을 때, $\forall x \, \Phi(x)$ 를 도출한다.

5. 아리스토텔레스 논리학의 초월

프레게의 개념 표기법이 아리스토텔레스의 삼단논법 논리학을 초월하는 핵심적 지점은 다음과 같다.

첫째, 다항 술어의 처리: 아리스토텔레스의 논리학은 단항 술어(1-항 함수)만을 다룬다. “소크라테스는 필멸적이다“와 같은 형태의 명제만을 분석할 수 있다. 프레게의 체계는 $n$ -항 술어를 자유롭게 다루며, “3은 5보다 작다”( $\text{Less}(3, 5)$ )와 같은 관계 명제를 형식적으로 표현하고 추론한다.

둘째, 중첩 양화의 표현: “모든 $\epsilon > 0$ 에 대해, 어떤 $\delta > 0$ 이 존재하여…“와 같은 수학적 정의에 필수적인 중첩 양화 구조는 아리스토텔레스의 논리학으로 표현 불가능하다. 프레게의 양화사 체계는 이를 명시적이고 정밀하게 표현한다.

셋째, 수학적 귀납법과 재귀의 형식화: 프레게는 개념 표기법에서 수학적 귀납법(Mathematical Induction)과 조상 관계(Ancestral Relation)의 형식적 정의를 최초로 제시하였다. 관계 $R$ 의 조상 관계(Heritage Relation)를 순수 논리적 용어로 정의함으로써, 자연수의 연쇄 구조를 논리적으로 포착하였다.

6. 프레게의 표기법과 현대적 표기법

프레게는 독자적인 2차원 표기법을 사용하였다. 가로선은 내용선(Content Stroke)으로 판단의 내용을 나타내고, 세로선은 판단선(Judgement Stroke)으로 해당 내용이 참으로 주장됨을 나타낸다. 조건문은 세로 연결선으로, 부정은 짧은 수직선으로 표현되었다.

프레게의 2차원 표기법은 논리적 구조를 시각적으로 명확하게 드러내는 이점이 있었으나, 인쇄와 조판의 어려움으로 인해 널리 채택되지 못하였다. 이후 피아노(Giuseppe Peano)와 러셀(Bertrand Russell)이 개발한 1차원 선형 표기법이 표준으로 자리 잡았으며, 현대 논리학의 표준 표기법( $\forall$ , $\exists$ , $\rightarrow$ , $\wedge$ , $\vee$ , $\neg$ )은 이 전통을 따른다.

7. 개념 표기법의 학문사적 의의

프레게의 개념 표기법은 다음의 학문사적 의의를 갖는다.

첫째, 현대 술어 논리학(Predicate Logic)의 창시이다. 프레게 이전에는 명제의 내부 구조를 형식적으로 분석하고 양화사를 통해 일반화를 표현하는 논리 체계가 존재하지 않았다.

둘째, 형식 언어(Formal Language) 이론의 시초이다. 프레게의 개념 표기법은 엄밀하게 정의된 구문(Syntax)과 의미론(Semantics)을 갖는 최초의 형식 언어이며, 이후 모든 형식 언어—수학적 논리 언어, 프로그래밍 언어, 데이터베이스 질의 언어—의 원형이다.

셋째, 논리주의 프로그램의 방법론적 토대이다. 프레게의 후속 저작 “Grundgesetze der Arithmetik(산술의 기본 법칙)”(1893, 1903)은 개념 표기법의 형식적 체계 위에서 산술을 순수 논리로부터 도출하려는 시도이다. 이 시도는 러셀의 역리(Russell’s Paradox)에 의해 좌절되었으나, 형식적 방법론의 위력과 한계를 동시에 드러내는 역사적 사건으로 남아 있다.

프레게의 개념 표기법은 라이프니츠의 보편 기호학 구상이 수학적 논리의 영역에서 최초로 엄밀하게 실현된 체계이며, 현대 논리학, 수리철학, 컴퓨터 과학, 인공지능의 형식적 기반을 구축한 학문적 이정표이다.