6.5 굳게 닫힌 문이 열리다: AI 시대의 도래를 맞이할 채비

젠슨 황(Jensen Huang)이 조직의 피를 철철 흘리는 자해를 감수하며 세상 곳곳의 랩실에 뿌려놓은 CUDA(쿠다) 생태계는, 긴 겨울과 같은 빙하기를 지나며 묵묵히 씨앗을 발아시키고 있었다. 시장은 여전히 엔비디아(NVIDIA)를 조금 더 똘똘한 GPU 제조사로 인식하고 있었지만, 학계의 깊숙한 곳에서는 이 거대한 병렬(Parallel) 연산의 그물이 전혀 예상치 못한 거대한 괴물(Monster)의 봉인을 해제할 완벽한 마법진 역할을 하고 있었다.

이 6.5장에서는 인류 컴퓨터 공학 역사상 가장 폭력적이고 위대한 스파크(Spark)가 발생했던 역사적 순간을 밀착 조명한다. 수십 년 동안 컴퓨팅 권력을 쥔 학자들로부터 ’연산 부족’을 이유로 완벽한 이단(Heresy) 취급을 받으며 학계의 죽음의 계곡(Death Valley)에 묻혀있던 인공지능(AI)의 심층 신경망, 바로 ‘딥러닝(Deep Learning)’ 파벌이 어떻게 엔비디아의 쿠다를 만나 산소호흡기를 떼고 거대한 파괴수로 각성하게 되었는지를 선명하게 추적한다.

나아가 모든 현대 인공지능 제국의 찬란한 창세기이자 대폭발(Big Bang)이라 칭송받는 2012년 이미지넷 대회(ImageNet)의 반란군, 알렉스넷(AlexNet) 의 등장과 그 심장에 박혀있던 엔비디아 지포스(GeForce) GPU의 소름 돋는 활약상을 들여다보며, 모니터에서 총이나 쏘던 게임기 부품이 어떻게 세상의 질서를 완벽하게 뒤바꿀 21세기 AI의 위대한 두뇌(Brain)로 운명적인 대관식을 마치게 되는지 그 장엄한 서막을 마무리한다.

6.5.1 조용히 진행된 혁명: 학계의 딥러닝 연구와 CUDA의 조우

2000년대 후반, 컴퓨터 학계의 주류 무대에서 가장 차가운 멸시와 조롱을 받으며 죽은 자식 취급을 받던 마이너(Minor) 파벌은 바로 인공지능의 ‘심층 신경망(Deep Neural Network)’, 이른바 딥러닝(Deep Learning) 연구자들이었다.

제프리 힌튼(Geoffrey Hinton) 교수 등이 이끌던 이 이단적인 파벌의 논리는 단순했다. “컴퓨터에게 수백만 장의 사진을 겹겹이 쌓인 가짜 뇌 스냅스 층(Layer)에 집어넣어, 미친 듯한 단순 곱셈을 수십억 번 반복 학습(Training)시키면 스스로 고양이나 강아지를 구분할 수 있을 것이다.”
하지만 주류 수학계는 콧방귀를 뀌었다. 당시 최고의 인텔(Intel) CPU 수백 대를 묶어놓고 이 멍청한 신경망 곱셈 막노동을 시켰더니, 고양이 한 마리를 겨우 인식하는 데 수개월이 걸리는 기형적이고 비효율적인 참사가 일어났기 때문이다. “이론은 그럴싸하지만, 이 우주에는 그 무식한 병렬 곱셈을 빠른 시간 내에 감당해 낼 계산기계(Hardware)가 물리적으로 존재하지 않는다“며 딥러닝은 학계의 차가운 냉동 창고로 직행했다.

이 절망적인 동면의 순간, 연구소 한구석에서 딥러닝 파벌의 대학원생들이 지푸라기라도 잡는 심정으로 자신들의 신경망 코드를 집어넣어 본 곳이 있었다. 바로 젠슨 황(Jensen Huang)이 무식하게 적자를 보아가면서까지 전 세계 랩실에 공짜로 뿌려두었던 게임용 그래픽 카드 기반의 소프트웨어 플랫폼, CUDA(쿠다) 였다.

인공 신경망의 가중치(Weight)를 계산하는 방대한 미분과 행렬 곱셈 노가다는, 놀랍도록 기이하게도 화면 수백만 픽셀에 동시다발적으로 색을 칠하던 GPU 코어의 병렬 연산(Parallel Computing) 목적과 DNA 구조가 소름 돋게 완벽히 일치했다. CPU로 몇 달이 걸리며 학자들에게 피눈물을 쏟게 하던 딥러닝 인공지능 학습 코드가, 쿠다 플랫폼을 타고 엔비디아(NVIDIA) GPU 내부의 수백 개 싸구려 코어에 안착하자 불과 단 며칠, 몇 시간 만에 엄청난 쾌속으로 터져 나오기 시작했다. 세상 가장 조롱받던 이단적 소프트웨어와, 게임 부품이라 손가락질받던 반항적인 연산 칩의 가장 완벽하고 파괴적인 역사적 밀회(Secret Meeting)가 대학 지하 연구실에서 마침내 스파크를 튀기며 성사된 순간이었다.

6.5.2 운명을 바꾼 알렉스넷(AlexNet): GPU가 인공지능의 심장으로 지목되기까지

엔비디아(NVIDIA)의 쿠다(CUDA)라는 거대한 파이프라인(Pipeline)과 딥러닝(Deep Learning)이라는 괴물이 맞물려 돌아가며 지하 연구소에서 축적되던 분노의 화력은, 마침내 2012년 이미지넷(ImageNet) 경진대회에서 찬란한 대폭발(Big Bang)을 온 세계에 터뜨렸다.

수많은 세계 최고의 컴퓨터 비전(Computer Vision) 전문가들이 정교하게 인간의 논리로 짠 알고리즘(Algorithm)을 들고나와 고작 70% 언저리의 이미지 인식률에 머물며 아등바등하던 그 고상한 무대에, 제프리 힌튼(Geoffrey Hinton) 교수의 제자인 알렉스 크리제브스키(Alex Krizhevsky)가 만든 딥러닝 기반의 반란군 모델 ‘알렉스넷(AlexNet)’ 이 등장했다.

이 해커 같은 대학원생은 수려하고 깔끔한 연구 장비 대신, 구석진 방에서 게임용 엔비디아 지포스(GeForce) GTX 580 모델 단 2장을 컴퓨터에 욱여넣고 며칠 동안 무식한 병렬 학습(Parallel Training)을 미친 듯이 돌린 상태였다. 그리고 알렉스넷은 기존 학계 최고 수준의 석학 모델들을 완벽하게 짓밟아버리며 오차율을 단숨에 물리적으로 찢고 내려가는 초월적인 정확도를 뽐내며 압도적인 1등 왕관을 무력으로 찬탈해버렸다.

graph TD
    A[인공지능 빙하기<br>AI Winter] --> B["기존 CPU의 한계: 딥러닝의 방대한 훈련(막노동 계산)<br>감당 불가, 수개월 소요"]
    
    C[젠슨 황이 깔아놓은 생태계 도박<br>NVIDIA's CUDA Ecosystem] --> D[값싸고 막강한 병렬 처리 성능 제공<br>GeForce GPUs]
    
    B --> E{2012년 이미지넷 대폭발<br>ImageNet 2012 Big Bang}
    D --> E
    
    E --> F[AlexNet: 단 2장의 GTX 580로 구동<br>딥러닝 알고리즘의 압도적 우승]
    F --> G[전 세계 컴퓨터 공학계의 경악과 사상 전향<br>Global Paradigm Shift]
    G --> H[엔비디아 GPU, 인공지능의 영원무결한 '심장'으로 즉시 대관식<br>GPU becomes AI's Heart]
    
    style E fill:#f9f,stroke:#333,stroke-width:2px,color:#fff
    style H fill:#f55,stroke:#333,stroke-width:2px,color:#fff

대회가 끝난 직후, 전 세계 학계와 실리콘밸리(Silicon Valley) 빅테크들의 눈빛에는 끔찍한 공포와 탐욕의 열망이 번뜩였다. 그들은 그제야 딥러닝이라는 잠자던 거인을 깨운 절대적인 실체, 즉 단 2장의 볼품없는 장난감 게임 카드가 내뿜은 우주적인 쿠다 엔진의 폭력성을 완벽하게 깨닫게 된 것이다. 구글, 바이두, 아마존 할 것 없이 세상 모든 IT 기업들이 미친 듯이 현금을 싸 들고 엔비디아의 조잡한 그래픽 칩을 훔치듯 쓸어 담는 사상 초유의 쟁탈전이 발발했다.

그것은 모니터 속에 갇혀 살아야 했던 칩 조립 벤처 기업이 마침내 데스밸리(Death Valley)의 깊은 수렁을 건너, 향후 수천조 원의 인류 문명을 지배하게 될 위대한 인공지능 제국의 찬란하고도 파괴적인 왕좌(Throne) 위로 영원히 올라타며 신으로 등극하는, 가장 완벽한 대관식의 마무리 선언이었다.