2.16 폰 노이만 아키텍처와 저장 프로그램 개념의 신경학적 영감

1. 폰 노이만 아키텍처의 기원

폰 노이만 아키텍처(Von Neumann Architecture)는 현대 범용 디지털 컴퓨터의 기본 설계 원리를 정의하는 컴퓨터 구조이다. 이 아키텍처는 1945년 폰 노이만이 작성한 “First Draft of a Report on the EDVAC(EDVAC에 관한 보고서 초안)“에서 최초로 체계적으로 기술되었다.

EDVAC(Electronic Discrete Variable Automatic Computer)는 ENIAC의 후속기로 계획된 컴퓨터이며, 폰 노이만은 1944년부터 무어 스쿨(Moore School of Electrical Engineering)의 에커트(J. Presper Eckert)와 모클리(John Mauchly) 팀과 협력하여 이 프로젝트에 참여하였다.

2. 폰 노이만 아키텍처의 구성 요소

폰 노이만 아키텍처는 다음의 다섯 가지 핵심 구성 요소로 이루어진다.

2.1 중앙 처리 장치(Central Processing Unit, CPU)

CPU는 산술 논리 장치(Arithmetic Logic Unit, ALU)와 제어 장치(Control Unit, CU)로 구성된다. ALU는 산술 연산(덧셈, 뺄셈, 곱셈, 나눗셈)과 논리 연산(AND, OR, NOT)을 수행하며, CU는 메모리에서 명령어를 인출(Fetch)하고 해독(Decode)하여 실행(Execute)을 지시한다.

2.2 메모리(Memory)

메모리는 데이터와 프로그램(명령어)을 저장하는 장치이다. 폰 노이만 아키텍처의 핵심적 혁신은 데이터와 프로그램이 동일한 메모리 공간에 저장된다는 것이다. 이것이 저장 프로그램 개념(Stored-Program Concept)이다.

2.3 입력 장치(Input Device)

외부 세계로부터 데이터를 컴퓨터에 전달하는 장치이다.

2.4 출력 장치(Output Device)

컴퓨터의 처리 결과를 외부 세계로 전달하는 장치이다.

2.5 버스(Bus)

구성 요소 간 데이터와 제어 신호를 전달하는 통신 경로이다.

3. 저장 프로그램 개념(Stored-Program Concept)

저장 프로그램 개념은 폰 노이만 아키텍처의 가장 혁명적인 요소이다. ENIAC과 같은 초기 컴퓨터에서 프로그램은 물리적 배선(Wiring)이나 스위치 설정에 의해 구현되었으며, 프로그램을 변경하려면 물리적 재배선이 필요하였다. 저장 프로그램 개념에서는 프로그램(명령어의 순서열)이 데이터와 동일한 형태—이진 패턴—로 메모리에 저장된다.

이 개념의 핵심적 함의:

프로그램의 유연성: 프로그램을 변경하려면 메모리의 내용만 수정하면 된다. 물리적 재배선이 불필요하다.
프로그램의 자기 수정(Self-Modification): 프로그램이 데이터와 동일한 형태로 메모리에 존재하므로, 프로그램이 자기 자신을 데이터로 취급하여 수정할 수 있다.
범용성(Universality): 적절한 프로그램을 메모리에 로드함으로써 동일한 하드웨어가 임의의 계산 과제를 수행할 수 있다. 이는 범용 튜링 기계(Universal Turing Machine)의 물리적 구현이다.

4. 신경학적 영감

폰 노이만의 EDVAC 보고서에서 컴퓨터의 구성 요소를 기술할 때 신경학적 용어와 개념이 명시적으로 사용되었다는 점은 주목할 만하다. 폰 노이만은 맥컬록-피츠의 논리적 뉴런 모델(1943)을 알고 있었으며, 이 모델이 컴퓨터 설계에 영감을 제공하였다.

4.1 뉴런과 논리 게이트의 유비

폰 노이만은 EDVAC 보고서에서 컴퓨터의 기본 논리 소자를 “뉴런(Neuron)“이라는 용어로 지칭하였다. 맥컬록-피츠 모델에서 뉴런이 논리 연산(AND, OR, NOT)을 수행할 수 있음이 증명되었고, 이 뉴런의 네트워크가 범용 계산 장치를 구성할 수 있다는 결과는 디지털 컴퓨터의 논리적 설계에 직접적 이론적 기반을 제공하였다.

4.2 기억과 메모리의 유비

생물학적 뇌에서 기억(Memory)이 신경 회로의 시냅스 연결 패턴에 저장되듯이, 컴퓨터에서 데이터와 프로그램이 메모리 장치에 저장된다. 폰 노이만은 이 유비를 명시적으로 인식하고 있었으며, 컴퓨터의 메모리 체계를 설계할 때 생물학적 기억의 구조적 원리를 참조하였다.

4.3 순차적 처리와 신경 신호 전파

폰 노이만 아키텍처의 순차적 명령어 실행(Sequential Instruction Execution) 모델은 신경 회로에서 활동 전위가 축삭을 따라 순차적으로 전파되는 것과 구조적 유사성을 갖는다. 다만, 폰 노이만은 이후 생물학적 뇌가 대규모 병렬 처리(Massively Parallel Processing)를 수행한다는 점에서 순차적 컴퓨터와 근본적으로 다르다는 점을 인식하고 이를 분석하였다.

5. “The Computer and the Brain” (1958)

폰 노이만은 1957년 사망 직전까지 집필한 “The Computer and the Brain”(사후 1958년 출판)에서 디지털 컴퓨터와 생물학적 뇌의 체계적 비교를 수행하였다.

5.1 디지털 대 아날로그

폰 노이만은 뇌가 순수 디지털도 순수 아날로그도 아닌 혼합 체계(Mixed System)라고 분석하였다. 활동 전위의 전달은 디지털적(전부 아니면 전무)이지만, 시냅스 전달과 수상돌기에서의 신호 통합은 아날로그적(연속적 등급)이다.

5.2 속도 대 병렬성

폰 노이만은 개별 뉴런의 처리 속도(약 1밀리초)가 진공관이나 트랜지스터(약 1마이크로초 이하)에 비해 극도로 느리지만, 뇌가 약 $10^{10}$ 개의 뉴런을 동시에 활용하는 대규모 병렬 처리를 통해 이 속도 차이를 보상한다고 분석하였다.

5.3 정밀도 대 신뢰성

디지털 컴퓨터는 높은 수치적 정밀도를 가지지만 단일 구성 요소의 고장에 취약한 반면, 뇌는 낮은 수치적 정밀도를 가지지만 구성 요소의 손상에 대해 높은 내성(Fault Tolerance)을 보인다. 이 관찰은 이후 분산 표상(Distributed Representation)과 결함 내성(Graceful Degradation) 연구의 선구적 통찰이다.

6. 폰 노이만 병목(Von Neumann Bottleneck)

폰 노이만 아키텍처의 구조적 한계는 CPU와 메모리 사이의 단일 통신 경로(버스)에 의한 병목(Bottleneck)이다. 백커스(John Backus)가 1977년 ACM 튜링상 수상 강연에서 “폰 노이만 병목(Von Neumann Bottleneck)“이라 명명한 이 문제는 CPU의 처리 속도와 메모리 접근 속도 사이의 불균형으로 인해 시스템 전체의 성능이 메모리 대역폭에 의해 제한되는 현상이다.

이 병목은 생물학적 뇌의 대규모 병렬 처리와 대비되며, 신경형태공학적(Neuromorphic) 컴퓨팅과 비폰노이만 아키텍처(Non-Von Neumann Architecture) 연구의 동기를 제공한다. GPU(Graphics Processing Unit)에 의한 딥러닝 가속은 폰 노이만 아키텍처의 순차적 한계를 병렬 처리로 부분적으로 극복하는 현대적 해결책이다.

폰 노이만 아키텍처는 신경학적 영감에서 출발하여 현대 디지털 컴퓨팅의 표준 설계 원리를 확립한 이론적·공학적 성과이며, 그 한계에 대한 인식은 역으로 뇌에서 영감을 받은 새로운 계산 패러다임의 탐색을 촉진하고 있다.