Chapter 2. 계산주의 신경학의 태동과 심리철학적 배경

1. 계산주의의 출현

계산주의(Computationalism)는 인지 과정(Cognitive Process)을 계산(Computation)으로 이해하는 철학적·과학적 입장이다. 이 입장에 따르면, 사고, 지각, 기억, 추론 등의 정신적 과정은 본질적으로 정보의 처리(Information Processing), 즉 기호적 표상(Symbolic Representation)에 대한 규칙 기반 조작으로 환원 가능하다.

계산주의의 지적 뿌리는 두 방향에서 수렴한다. 첫째, 형식 논리학과 계산 이론의 발전은 “계산“의 엄밀한 수학적 정의를 제공하였다. 둘째, 신경과학(Neuroscience)의 발전은 뇌의 물리적 구조와 기능에 대한 과학적 이해를 심화하였다. 이 두 방향의 수렴이 계산주의 신경학(Computational Neuroscience)의 태동으로 이어졌다.

2. 기계론적 세계관의 역사적 배경

계산주의의 철학적 기반은 17세기 이후 발전한 기계론(Mechanism)에 있다. 데카르트(René Descartes)는 동물의 신체를 정교한 기계 장치(Automaton)로 해석하였으며, 인간의 신체도 정신(Mind)을 제외하면 기계적 원리로 설명 가능하다고 주장하였다. 라 메트리(Julien Offray de La Mettrie)는 “L’Homme Machine(인간 기계)”(1748)에서 데카르트의 이원론을 극복하고, 인간 정신을 포함한 모든 것이 기계적 원리로 설명 가능하다는 유물론적(Materialist) 입장을 제시하였다.

홉스(Thomas Hobbes)의 “추론은 계산이다(Reasoning is Computation)“라는 명제는 기계론을 정신 과정에 명시적으로 적용한 최초의 철학적 선언이며, 계산주의의 직접적 선행 관념이다.

3. 초기 신경과학의 발견

3.1 뉴런 독트린(Neuron Doctrine)

19세기 후반, 카할(Santiago Ramón y Cajal)은 골지 염색법(Golgi Staining)을 활용한 현미경 관찰을 통해 신경 조직이 개별적인 세포(뉴런, Neuron)로 구성되어 있음을 확립하였다. 이 뉴런 독트린(Neuron Doctrine)은 뇌가 이산적(Discrete) 단위의 네트워크로 구성된다는 이해를 제공하였으며, 이는 이후 신경망의 수학적 모델링의 생물학적 기반이 된다.

3.2 신경 신호의 전기적 본질

갈바니(Luigi Galvani)의 실험(1780년대)은 신경 신호의 전기적 본질을 최초로 시사하였으며, 이후 헬름홀츠(Hermann von Helmholtz)가 신경 전도 속도를 측정하고(1850년대), 호지킨(Alan Hodgkin)과 헉슬리(Andrew Huxley)가 활동 전위(Action Potential)의 이온 메커니즘을 수학적으로 모델링하였다(1952). 이러한 발견은 신경 신호를 정량적·수학적으로 기술할 수 있음을 입증하였다.

4. 심리철학적 배경

4.1 행동주의(Behaviorism)의 한계

20세기 전반을 지배한 행동주의(Behaviorism)는 왓슨(John B. Watson)과 스키너(B.F. Skinner)에 의해 주도되었으며, 관찰 가능한 행동만을 과학적 연구의 대상으로 삼고 내적 정신 과정의 연구를 거부하였다. 행동주의는 자극-반응(Stimulus-Response) 연합에 의해 행동을 설명하려 하였으나, 언어 습득, 계획적 행동, 문제 해결 등의 복잡한 인지 현상을 설명하는 데 한계를 드러내었다.

촘스키(Noam Chomsky)는 1959년 스키너의 “Verbal Behavior“에 대한 유명한 서평에서 행동주의적 언어 이론의 불충분성을 논증하였으며, 이는 인지 혁명(Cognitive Revolution)의 중요한 촉매가 되었다.

4.2 인지주의(Cognitivism)와 인지 혁명

1950-60년대에 일어난 인지 혁명은 내적 정신 과정을 과학적 연구의 정당한 대상으로 복원하였다. 인지주의는 마음을 정보 처리 체계(Information Processing System)로 모델링하며, 입력(지각)과 출력(행동) 사이의 내적 표상(Internal Representation)과 처리 과정을 연구한다.

밀러(George A. Miller)의 “The Magical Number Seven, Plus or Minus Two”(1956), 브루너(Jerome Bruner) 등의 “A Study of Thinking”(1956), 그리고 뉴웰과 사이먼의 논리 이론가(Logic Theorist, 1956)는 모두 1956년에 발표되었으며, 이 해는 인지 과학과 인공지능의 동시적 탄생을 상징한다.

4.3 마음의 계산 이론(Computational Theory of Mind)

계산주의의 철학적 정식화는 마음의 계산 이론(Computational Theory of Mind, CTM)이다. 퍼트남(Hilary Putnam)의 기능주의(Functionalism)와 포더(Jerry Fodor)의 사고의 언어 가설(Language of Thought Hypothesis)이 이 이론의 핵심 구성 요소이다.

기능주의는 정신 상태(Mental State)를 물리적 기질(Physical Substrate)이 아니라 기능적 역할(Functional Role)에 의해 정의한다. 동일한 기능적 관계를 실현하는 체계는 물리적 구성과 무관하게 동일한 정신 상태를 가질 수 있다. 이 원리는 실리콘 기반 컴퓨터에서도 적절한 프로그램이 실행되면 인지가 실현 가능하다는 강한 AI(Strong AI)의 철학적 기반이 된다.

포더의 사고의 언어 가설은 인지적 사고가 내적 표상 언어(Mental Language, “Mentalese”)의 기호에 대한 계산적 조작으로 이루어진다고 주장한다. 이 가설은 라이프니츠의 보편 기호학 구상과 구조적으로 유사하되, 기호 체계가 외적으로 설계되는 것이 아니라 인지 체계에 내재한다는 점에서 구별된다.

5. 맥컬록-피츠 모델(McCulloch-Pitts Model)

워런 맥컬록(Warren McCulloch)과 월터 피츠(Walter Pitts)는 1943년 “A Logical Calculus of the Ideas Immanent in Nervous Activity“에서 신경세포의 활동을 명제 논리의 연산으로 모델링한 최초의 수학적 신경 모델을 제시하였다. 이 모델에서 뉴런은 이진 상태(활성/비활성)를 가지며, 입력의 가중합(Weighted Sum)이 문턱값(Threshold)을 초과하면 활성화된다.

맥컬록-피츠 모델은 신경 네트워크가 논리 게이트(AND, OR, NOT)를 구현할 수 있으며, 따라서 원리적으로 임의의 불 함수를 계산할 수 있음을 보여주었다. 이 결과는 뇌의 계산 능력에 대한 최초의 수학적 분석이며, 연결주의(Connectionism)와 인공 신경망(Artificial Neural Network) 연구의 직접적 기원이다.

6. 계산주의의 의의와 한계

계산주의 신경학은 뇌를 정보 처리 장치로 이해하는 틀을 제공하여 인지 과학, 신경과학, 인공지능의 공통 이론적 기반을 구축하였다. 그러나 중국어 방(Chinese Room) 논증에서 설(John Searle)이 제기한 것처럼, 기호의 구문적 조작이 의미의 이해(Understanding)를 산출하는지에 대한 철학적 논쟁은 여전히 진행 중이다.

계산주의 신경학의 태동은 논리학, 수학, 신경과학, 심리학, 철학이 수렴하는 학제적 교차점에서 이루어졌으며, 이 수렴이 인공지능이라는 학문 분야의 지적 토대를 형성하였다.