2.21 기호주의와 연결주의의 초기 분화와 학파 대립
1. 두 패러다임의 기원
인공지능의 초기 역사에서 지능의 본질과 구현 방법에 관해 두 가지 근본적으로 상이한 접근법이 분화하였다. 기호주의(Symbolicism)와 연결주의(Connectionism)로 명명되는 이 두 패러다임은 지능의 기제(Mechanism)에 관한 상이한 가설에 기반하며, 이들 사이의 학파 대립은 인공지능 연구사의 핵심 축을 구성한다.
2. 기호주의(Symbolicism)
기호주의는 지능을 구조화된 기호적 표상(Structured Symbolic Representation)에 대한 규칙 기반 조작으로 이해하는 접근법이다. 기호주의의 핵심 가정은 물리적 기호 체계 가설(Physical Symbol System Hypothesis)이다.
2.1 지적 계보
기호주의의 지적 계보는 라이프니츠의 보편 기호학, 불의 논리 대수, 프레게의 술어 논리, 튜링의 계산 이론을 거쳐 형성되었다. 기호주의는 논리학과 수학의 형식적 전통을 직접 계승한다.
2.2 주요 인물과 성과
뉴웰과 사이먼은 기호주의의 대표적 학자이다. 논리 이론가(Logic Theorist, 1956), 범용 문제 해결기(General Problem Solver, GPS, 1959), 물리적 기호 체계 가설(1976)이 기호주의의 핵심적 성과이다.
매카시는 리스프(LISP, 1958) 프로그래밍 언어를 개발하여 기호적 인공지능의 표준 프로그래밍 도구를 제공하였으며, 상황 계산법(Situation Calculus)을 통해 지식 표현과 추론의 형식적 틀을 확립하였다.
2.3 기호주의의 방법론
기호주의에서 지능적 행동의 구현은 다음의 절차를 따른다:
- 문제 영역의 지식을 형식적 기호 구조(규칙, 사실, 관계)로 부호화한다.
- 추론 엔진(Inference Engine)이 지식 기반에 대해 형식적 추론 규칙을 적용한다.
- 추론 결과로 새로운 지식이 도출되거나 행동이 결정된다.
3. 연결주의(Connectionism)
연결주의는 지능을 다수의 단순한 처리 단위(Processing Unit)가 상호 연결된 네트워크에서 창발(Emergence)하는 분산적 처리(Distributed Processing)로 이해하는 접근법이다.
3.1 지적 계보
연결주의의 지적 계보는 카할의 뉴런 독트린, 맥컬록-피츠의 논리적 뉴런 모델, 헤브의 시냅스 가소성 이론을 거쳐 형성되었다. 연결주의는 신경과학과 생물학의 전통을 계승한다.
3.2 주요 인물과 성과
로젠블랫(Frank Rosenblatt)은 퍼셉트론(Perceptron, 1958)을 제안하여 학습 가능한 신경망 모델을 최초로 실증하였다. 위드로(Bernard Widrow)와 호프(Marcian Hoff)는 아달라인(ADALINE, 1960)과 LMS(Least Mean Squares) 학습 규칙을 개발하였다.
3.3 연결주의의 방법론
연결주의에서 지능적 행동의 구현은 다음의 절차를 따른다:
- 뉴런을 모방한 단위들의 네트워크를 구성한다.
- 네트워크에 데이터(입력-출력 쌍)를 제시한다.
- 학습 알고리즘에 의해 연결 가중치가 조정되어 네트워크가 원하는 입출력 관계를 학습한다.
- 학습된 네트워크가 새로운 입력에 대해 일반화(Generalization)된 출력을 생성한다.
4. 두 패러다임의 핵심적 차이
| 측면 | 기호주의 | 연결주의 |
|---|---|---|
| 표상 | 국부적, 명시적 기호 | 분산적, 암묵적 활성화 패턴 |
| 처리 | 순차적, 규칙 기반 | 병렬적, 가중합과 활성화 |
| 학습 | 규칙의 명시적 부호화 | 데이터로부터의 가중치 조정 |
| 강점 | 추론, 설명 가능성, 구조적 문제 | 패턴 인식, 잡음 내성, 일반화 |
| 약점 | 패턴 인식, 지식 획득 병목 | 추론, 설명 가능성, 구조적 문제 |
| 영감 원천 | 논리학, 수학 | 신경과학, 생물학 |
5. 퍼셉트론 논쟁과 연결주의의 침체
기호주의와 연결주의의 대립이 가장 첨예하게 표출된 사건은 민스키와 패퍼트(Seymour Papert)의 저서 “Perceptrons: An Introduction to Computational Geometry”(1969)의 출판이다. 이 저서에서 민스키와 패퍼트는 단층 퍼셉트론의 근본적 한계—선형 분리 불가능한 함수(예: XOR)를 학습할 수 없다는 것—을 수학적으로 엄밀하게 증명하였다.
이 결과의 학문적 영향은 증명 자체의 범위를 크게 초과하였다. “Perceptrons“의 출판은 신경망 연구에 대한 학술 공동체의 신뢰를 약화시키고 연구 지원을 감소시켜, 1970년대와 1980년대 초반의 신경망 연구 침체(Neural Network Winter)를 초래한 주요 요인으로 작용하였다.
다만, 이 침체는 다층 퍼셉트론(Multi-Layer Perceptron)이 단층 퍼셉트론의 한계를 극복할 수 있다는 사실이 이미 원리적으로 알려져 있었음에도 불구하고 발생하였으며, 효율적인 다층 네트워크 학습 알고리즘(역전파)의 부재가 실질적 장벽이었다.
6. 연결주의의 부활
1980년대 중반에 연결주의는 강력한 부활을 경험하였다. 핵심적 계기는 다음과 같다:
- 역전파 알고리즘(Backpropagation): 루멜하트(David Rumelhart), 힌턴(Geoffrey Hinton), 윌리엄스(Ronald Williams)가 1986년 “Learning Representations by Back-Propagating Errors“에서 다층 신경망의 효율적 학습 알고리즘을 발표하였다.
- PDP 그룹: 루멜하트와 맥클랜드(James McClelland)가 편집한 “Parallel Distributed Processing”(1986) 2권이 연결주의의 이론적·실험적 기반을 체계적으로 제시하였다.
- 홉필드 네트워크(Hopfield Network): 홉필드(John Hopfield)가 1982년 에너지 함수에 기반한 연합 기억(Associative Memory) 모델을 제안하여 물리학 공동체의 관심을 신경망으로 유도하였다.
- 볼츠만 기계(Boltzmann Machine): 힌턴과 세즈노우스키(Terrence Sejnowski)가 1983년 확률적 학습 알고리즘을 갖는 네트워크 모델을 제안하였다.
7. 학파 대립의 현대적 해소
기호주의와 연결주의의 대립은 현대에 이르러 점진적으로 해소되는 추세이다. 2010년대 이후 딥러닝의 성공으로 연결주의가 실용적 우위를 점하였으나, 동시에 연결주의의 한계—추론 능력, 설명 가능성, 소표본 학습—가 명확해지면서 두 패러다임의 통합을 추구하는 신경-기호 통합(Neuro-Symbolic Integration) 연구가 활발히 진행되고 있다.
기호주의와 연결주의의 초기 분화와 학파 대립은 인공지능 연구사의 핵심 동력이었으며, 이 두 전통의 긴장과 상호작용이 인공지능 이론과 기술의 발전을 견인하였다.