1.6 논리학과 수학의 관계

1. 절의 학술적 목표

본 절의 학술적 목표는 논리학(logic)과 수학(mathematics)이 학문 분과로서 맺어 온 관계를 학술적으로 정립하는 것이다. 학습자는 본 절을 통하여 논리주의(logicism), 형식주의(formalism), 직관주의(intuitionism)로 대표되는 수학 기초론(foundations of mathematics)의 주요 입장을 표준적 학술 견해 수준에서 식별할 수 있어야 하며, 수리 논리학(mathematical logic)이라는 분과가 두 학문의 관계 속에서 어떻게 형성되었는가를 진술할 수 있어야 한다.

2. 두 학문의 학술적 근접성

논리학과 수학은 다음의 세 가지 특성을 공유한다는 점에서 학문적으로 가장 근접한 분과로 분류된다. 첫째, 두 학문은 모두 형식 과학(formal science)에 속하며, 경험적 자료의 수집이 아닌 정의와 추론에 의하여 명제의 진위를 확립한다. 둘째, 두 학문은 모두 형식 언어(formal language)와 기호 체계(symbolic notation)를 사용하여 정밀한 진술과 증명(proof)을 수행한다. 셋째, 두 학문은 모두 일관성(consistency)과 무모순성(non-contradiction)을 학문 내적 규범으로 삼는다.

이러한 근접성으로 인해 두 학문은 역사적으로 빈번히 교차하였으며, 19세기 후반 이후에는 양자의 결합 영역으로서 ‘수리 논리학(mathematical logic)’이라는 독자적 분과가 성립하였다.

3. 수리 논리학의 형성

19세기 후반의 형식 논리학적 전환은 두 학문의 관계를 근본적으로 변화시켰다. 조지 불(George Boole)의 『The Mathematical Analysis of Logic』(1847)과 『An Investigation of the Laws of Thought』(1854)는 명제 논리(propositional logic)를 대수적 구조로 표현함으로써 수학적 방법을 논리학에 적용하는 ‘대수 논리(algebraic logic)’의 전통을 열었다. 오거스터스 드 모르간(Augustus De Morgan)의 『Formal Logic』(1847), 찰스 샌더스 퍼스(Charles Sanders Peirce)의 일련의 논리 대수 논문, 에른스트 슈뢰더(Ernst Schröder)의 『Vorlesungen über die Algebra der Logik』(1890–1905) 또한 같은 흐름에 속한다.

다른 한편으로 고틀로프 프레게(Gottlob Frege)의 『Begriffsschrift』(1879)와 『Grundgesetze der Arithmetik』(1893–1903)는 양화사(quantifier)를 포함하는 술어 논리(predicate logic)를 정초하고, 이를 통해 산술의 개념과 정리를 논리학적 토대 위에서 정의·증명하려 시도하였다. 이러한 시도가 ‘논리주의(logicism)’라는 수학 기초론의 한 입장을 형성하게 된다. 주세페 페아노(Giuseppe Peano)의 『Arithmetices principia, nova methodo exposita』(1889)는 이와 평행한 흐름에서 산술의 공리화(axiomatization)를 시도하였다.

4. 수학 기초론의 세 입장

20세기 초 두 학문의 관계는 ‘수학 기초론’이라 불리는 일련의 학술적 논쟁 속에서 학문적으로 정식화되었다. 그 주요 입장은 다음과 같다.

4.1 논리주의(logicism)

논리주의는 수학의 모든 개념과 정리가 논리학으로 환원될 수 있다고 주장하는 입장이다. 프레게의 『Grundgesetze der Arithmetik』, 버트런드 러셀(Bertrand Russell)과 앨프리드 노스 화이트헤드(Alfred North Whitehead)의 『Principia Mathematica』(1910–1913)가 그 대표적 시도이다. 러셀이 1902년에 프레게에게 보낸 서신에서 보고된 ‘러셀 역설(Russell’s paradox)’은 프레게의 원래 체계가 일관성을 갖지 못함을 드러냈으며, 이는 논리주의 프로그램의 학술적 전개에 결정적 영향을 미쳤다.

4.2 형식주의(formalism)

형식주의는 수학을 의미가 부여되지 않은 기호 체계의 형식적 조작으로 이해하고, 그 정당화의 핵심을 체계의 일관성 증명에 두는 입장이다. 다비트 힐베르트(David Hilbert)는 「Über das Unendliche」(1926)와 『Grundlagen der Mathematik』(1934, 1939, 폴 베르나이스(Paul Bernays)와 공저)에서 이 입장을 대표하였다. 힐베르트의 ‘힐베르트 프로그램(Hilbert’s programme)’은 메타수학(metamathematics)을 통한 수학 체계의 일관성 증명을 목표로 하였다.

4.3 직관주의(intuitionism)

직관주의는 수학의 정당화를 인간의 구성적 직관에 두며, 비구성적 존재 증명과 배중률(law of excluded middle)의 무제한적 사용을 거부하는 입장이다. L. E. J. 브라우어르(L. E. J. Brouwer)의 박사학위 논문 「Over de grondslagen der wiskunde」(1907)와 후속 저작이 이 입장의 출발점을 이루며, 아렌트 헤이팅(Arend Heyting)의 「Die formalen Regeln der intuitionistischen Logik」(1930)는 직관주의 논리(intuitionistic logic)의 형식 체계를 정식화하였다.

5. 괴델의 결과와 그 학술적 영향

쿠르트 괴델(Kurt Gödel)의 「Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I」(1931)는 충분히 강한 형식 체계 안에서 그 체계의 일관성을 증명할 수 없으며, 또한 결정 불가능한(undecidable) 명제가 존재함을 형식적으로 증명하였다. 이 결과는 힐베르트 프로그램과 논리주의 프로그램의 원래 형태에 대해 결정적 학술적 제약을 부여하였으며, 두 학문 사이의 관계에 관한 이후의 모든 논의의 출발점이 되었다. 알프레트 타르스키(Alfred Tarski)의 「Der Wahrheitsbegriff in den formalisierten Sprachen」(1933, 1935)는 형식 언어에서의 진리 개념을 형식 의미론적으로 정식화함으로써 이 흐름을 보완하였다.

6. 현대 수리 논리학의 분과 구조

20세기 중반 이후 수리 논리학은 다음의 네 하위 분과로 표준화되었다.

이러한 분과 구조는 논리학과 수학 사이의 결합 영역이 더 이상 단순한 ‘기초론적 논쟁’의 무대가 아니라, 독자적 연구 주제와 방법론을 갖춘 자율적 학문 분과로 발전했음을 보여 준다.

7. 본 절의 결론적 정리

본 절은 다음과 같이 정리된다. 첫째, 논리학과 수학은 형식 과학으로서 학문적으로 가장 근접한 두 분과이며, 19세기 후반 이후 ‘수리 논리학’이라는 결합 분과를 통해 본격적으로 결합되었다. 둘째, 두 학문의 관계는 수학 기초론의 세 입장(논리주의, 형식주의, 직관주의)에서 학술적으로 정식화되었다. 셋째, 괴델의 결과는 두 학문 관계에 대한 원래의 환원주의적·정초주의적 기획에 결정적 제약을 부여하였다. 넷째, 현대 수리 논리학은 증명 이론, 모형 이론, 집합론, 재귀 이론의 네 분과로 구성된 자율적 학문 영역으로 발전하였다.

8. 출처

• Boole, G. (1847). The Mathematical Analysis of Logic. Cambridge: Macmillan, Barclay, & Macmillan.
• De Morgan, A. (1847). Formal Logic. London: Taylor & Walton.
• Boole, G. (1854). An Investigation of the Laws of Thought. London: Walton and Maberly.
• Frege, G. (1879). Begriffsschrift. Halle: Louis Nebert.
• Peano, G. (1889). Arithmetices principia, nova methodo exposita. Torino: Bocca.
• Schröder, E. (1890–1905). Vorlesungen über die Algebra der Logik (Vols. 1–3). Leipzig: Teubner.
• Frege, G. (1893–1903). Grundgesetze der Arithmetik (Vols. 1–2). Jena: Hermann Pohle.
• Brouwer, L. E. J. (1907). Over de grondslagen der wiskunde (Doctoral dissertation, Universiteit van Amsterdam).
• Whitehead, A. N., & Russell, B. (1910–1913). Principia Mathematica (Vols. 1–3). Cambridge: Cambridge University Press.
• Hilbert, D. (1926). Über das Unendliche. Mathematische Annalen, 95, 161–190.
• Heyting, A. (1930). Die formalen Regeln der intuitionistischen Logik. Sitzungsberichte der Preussischen Akademie der Wissenschaften, 42–56.
• Gödel, K. (1931). Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I. Monatshefte für Mathematik und Physik, 38, 173–198.
• Tarski, A. (1933, 1935). Der Wahrheitsbegriff in den formalisierten Sprachen. Studia Philosophica, 1, 261–405.
• Hilbert, D., & Bernays, P. (1934, 1939). Grundlagen der Mathematik (Vols. 1–2). Berlin: Springer.

9. 버전

• 문서 버전: 1.0
• 작성 기준일: 2026-04-15