2.7 도널드 헤브의 시냅스 가소성 이론(Hebbian Learning)

1. 헤브의 학문적 배경

도널드 올딩 헤브(Donald Olding Hebb, 1904–1985)는 캐나다의 신경심리학자(Neuropsychologist)로서, 맥길(McGill) 대학교에서 학문 경력의 대부분을 보냈다. 헤브는 라슐리(Karl Lashley)의 지도 아래 뇌 손상과 행동의 관계를 연구하였으며, 이 경험은 학습과 기억의 신경학적 기반에 대한 그의 이론적 작업에 직접적 영향을 미쳤다.

2. “The Organization of Behavior” (1949)

헤브는 1949년에 출판한 저서 “The Organization of Behavior: A Neuropsychological Theory“에서 학습과 기억의 신경학적 메커니즘에 관한 포괄적 이론을 제시하였다. 이 저작의 핵심 기여는 시냅스 가소성(Synaptic Plasticity)의 원리를 명확하게 정식화한 것이다.

3. 헤브 규칙(Hebb’s Rule)

헤브의 시냅스 가소성 이론의 핵심은 다음의 명제로 요약된다:

“세포 A의 축삭이 세포 B를 흥분시키기에 충분히 가까이 있고, 반복적으로 또는 지속적으로 세포 B의 발화에 참여할 때, 두 세포 중 하나 또는 양쪽 모두에서 어떤 성장 과정이나 대사적 변화가 일어나서, B를 발화시키는 세포 중 하나로서 A의 효율이 증가한다.”

이 원리를 간결하게 요약하면: “함께 발화하는 뉴런은 함께 연결된다(Neurons that fire together, wire together).”

헤브 규칙은 연합 학습(Associative Learning)의 신경학적 메커니즘을 제안한 것이다. 시냅스 전 뉴런과 시냅스 후 뉴런이 동시에 활성화될 때, 두 뉴런을 연결하는 시냅스의 강도가 증가한다. 이 원리는 국소적(Local)이며—각 시냅스의 변화는 해당 시냅스에 연결된 두 뉴런의 활동에만 의존한다—, 이 국소성이 이론의 생물학적 타당성을 높인다.

4. 세포 조립체(Cell Assembly)

헤브는 시냅스 가소성의 결과로 형성되는 신경 구조로서 세포 조립체(Cell Assembly)의 개념을 제안하였다. 세포 조립체는 상호 강화된 시냅스 연결에 의해 결합된 뉴런 집단으로서, 외부 자극 없이도 자체적으로 활성화 패턴을 유지할 수 있는 기능적 단위이다.

특정 경험이나 대상에 반복적으로 노출되면, 해당 경험에 관여하는 뉴런들 사이의 시냅스가 헤브 규칙에 의해 강화되어 세포 조립체가 형성된다. 이후 조립체의 일부 뉴런이 활성화되면, 강화된 시냅스를 통해 나머지 뉴런도 연쇄적으로 활성화되어 전체 조립체가 재활성화된다. 이 과정이 기억의 인출(Memory Retrieval)에 대응한다.

5. 위상 열(Phase Sequence)

헤브는 세포 조립체의 순차적 활성화를 위상 열(Phase Sequence)이라 불렀다. 사고(Thought)는 세포 조립체들이 시간적 순서에 따라 연쇄적으로 활성화되는 과정이다. 조립체 A의 활성화가 조립체 B의 활성화를 유발하고, B가 C를 유발하는 연쇄가 사고의 흐름을 구성한다. 이 연쇄의 패턴은 경험에 의해 형성된 시냅스 연결 구조에 의해 결정된다.

6. 헤브 이론의 신경과학적 검증

헤브의 이론은 제안 당시 직접적인 실험적 증거 없이 이론적 추측으로 제시되었으나, 이후 신경과학의 발전에 의해 강력하게 뒷받침되었다.

6.1 장기 강화(Long-Term Potentiation, LTP)

블리스(Timothy Bliss)와 뢰모(Terje Lømo)는 1973년 토끼 해마(Hippocampus)에서 장기 강화(LTP) 현상을 발견하였다. 시냅스 전 뉴런을 고빈도로 자극하면 시냅스 전달 효율이 장기적으로(수 시간에서 수 주) 증가하는 현상이다. LTP의 유도 조건—시냅스 전 뉴런과 시냅스 후 뉴런의 동시 활성화—은 헤브 규칙의 신경생리학적 실현으로 해석된다.

NMDA 수용체(N-Methyl-D-Aspartate Receptor)는 LTP의 분자적 메커니즘에서 핵심적 역할을 한다. NMDA 수용체는 전압 의존적이면서 동시에 리간드 의존적인 이중 게이팅 특성을 가지며, 시냅스 전(글루타메이트 결합)과 시냅스 후(탈분극에 의한 마그네슘 차단 해제) 활동의 동시 발생을 검출하는 분자적 동시성 탐지기(Coincidence Detector)로 기능한다.

6.2 장기 억압(Long-Term Depression, LTD)

장기 억압은 시냅스 전달 효율의 장기적 감소 현상이다. 저빈도 자극이나 시냅스 전·후 활동의 시간적 비동기성에 의해 유도된다. LTD는 헤브 규칙의 역(Anti-Hebbian) 과정으로 해석되며, 시냅스 연결의 선택적 약화를 통한 신경 회로의 정교화에 기여한다.

6.3 스파이크 시간 의존적 가소성(STDP)

스파이크 시간 의존적 가소성(Spike-Timing-Dependent Plasticity, STDP)은 시냅스 전 뉴런과 시냅스 후 뉴런의 발화 시간 차이에 따라 시냅스 강도가 변화하는 현상이다. 시냅스 전 뉴런이 시냅스 후 뉴런보다 수 밀리초 먼저 발화하면 LTP가 유도되고, 시냅스 후 뉴런이 먼저 발화하면 LTD가 유도된다. STDP는 헤브 규칙을 시간적 정밀도에서 정교화한 것으로 해석된다.

7. 헤브 학습의 인공 신경망에 대한 영향

헤브의 시냅스 가소성 이론은 인공 신경망의 학습 규칙 설계에 직접적 영감을 제공하였다. 인공 신경망에서의 헤브 학습 규칙과 그 변형은 비지도 학습(Unsupervised Learning)의 기본적 메커니즘으로 사용된다. 또한, 역전파(Backpropagation) 알고리즘이 헤브 규칙의 직접적 구현은 아니지만, 시냅스 가중치를 경험에 기반하여 조정한다는 근본 원리는 헤브의 구상과 동일하다.

헤브의 이론은 뇌가 경험을 통해 자신의 구조를 변화시킨다는 원리를 최초로 명확하게 정식화한 것으로서, 학습하는 기계(Learning Machine)라는 개념의 신경학적 기반을 제공하였다.