8.1 엔터프라이즈 시장으로의 영토 확장

과거 기업의 전산실이나 거대 클라우드 데이터센터(Data Center)를 건설할 때, 모든 설계자들의 신앙이자 척추는 오직 인텔(Intel)이 찍어내는 중앙처리장치(CPU)였다. 얼마나 많은 인텔의 코어를 엮어내느냐가 곧 그 기업 엔터프라이즈(Enterprise) 서버의 절대적 전투력이었다. 하지만 모차르트와 같았던 그 똑똑한 단일 코어의 성능 발전, 즉 무어의 법칙(Moore’s Law)이 발열의 벽에 막혀 차갑게 식어가면서, 2010년대 중반에 이르러 세상의 모든 데이터센터는 미친 듯이 불어나는 빅데이터(Big Data)의 연산 체증을 감당하지 못하고 완벽한 심정지(Cardiac Arrest) 위기에 내몰렸다.

이 8.1장에서는 “모든 데이터센터 서버의 심장을 인텔에서 우리 엔비디아(NVIDIA)로 갈아 끼우라“는 젠슨 황(Jensen Huang)의 가장 무자비하고 파괴적인 영업 작전, 이른바 엔터프라이즈 영토 확장전을 다룬다.

화면의 프레임만 올려대던 이 게이밍 칩 회사가 어떻게 범용 컴퓨팅(General-Purpose Computing)의 사망 선고를 등에 업고 ‘가속 컴퓨팅(Accelerated Computing)’ 이라는 신흥 종교를 설파했는지 살펴본다. 그리고 수십 년간 엔터프라이즈 B2B 서버 시장에 범접할 수 없던 절대 군주로 군림하던 제국, 인텔의 왕관을 그들이 어떻게 서늘하게 쳐내고 마침내 데이터센터의 심장부 한강운데에 녹색의 제국 깃발을 꽂아 넣었는지 그 패권 교체의 폭력적 역사를 쫓아간다.

8.1.1 게이밍 하드웨어에서 데이터센터 인프라로의 패러다임 전환

알렉스넷(AlexNet)의 쇼크 직후, 젠슨 황(Jensen Huang)은 비로소 인텔(Intel)이 구축해 놓은 거대한 영토, ’엔터프라이즈 데이터센터(Enterprise Data Center)’의 철문을 완벽하게 부수고 들어갈 수 있는 궁극의 해머(Hammer)를 손에 쥐었음을 깨달았다. 과거 기업들은 월스트리트의 금융 분석이나 거칠고 가벼운 기상청 예측 용도로 엔비디아 기업용 그래픽 장비를 몇 장 사주긴 했지만, 그것은 전체 서버의 1~2%를 차지하는 보조 칩, 즉 변두리에 달린 비싼 액세서리에 불과했다.

하지만 딥러닝(Deep Learning) 시대가 개막하자 기업들의 뇌 구조 자체가 완전히 뒤집혔다. 사진 인식, 음성 번역, 추천 알고리즘과 같은 거대 인공지능 기반의 새로운 킬러 서비스 비즈니스를 구동하기 위해서는, 똑똑한 인텔 CPU 100대가 내는 속도보다 무식한 엔비디아 GPU 1대가 게워 내는 초병렬 처리(Super Parallel Processing) 속도가 수백 배 빠르고 전기세마저도 극단적으로 절약된다는 사실을 빅테크 서버 설계자들이 뼈저리게 인식해 버린 것이다.

“이제 우리의 진짜 고객은 지포스(GeForce)로 게임을 즐기는 10대가 아니다. 거대한 서버 랙(Rack)을 지어놓고 수조 원 단위의 인공지능 트래픽을 처리해야 하는 전 세계 기업들의 최고 기술 책임자(CTO)들이다.”
엔비디아(NVIDIA)는 주력 상품인 칩셋의 설계 레이아웃(Layout) 자체를, 점차 모니터 화면 출력(Display)을 위한 비디오 포트조차 과감히 없애버리고 오직 서버(Server) 메인보드에 이식될 막대한 연산 코어 덩어리, 즉 테슬라(Tesla) 와 A100, H100 같은 무자비한 ‘가속 연산기(Accelerator)’ 형태로 맹렬하게 피벗팅(Pivoting)시켰다. 컴퓨터 그래픽(CG) 하드웨어라는 좁디좁은 출신 성분의 감옥을 부수고, 인류 문명의 척추인 거대 사이버 정보 공장의 중심부로 완벽하게 신분의 계급을 갈아타며 전이(Transit)하는 가장 찬란한 패러다임 시스템의 대이동이었다.

8.1.2 무어의 법칙 한계 돌파: 범용 컴퓨팅의 종말과 가속 컴퓨팅의 부상

젠슨 황(Jensen Huang)이 기업 고객들을 설득하기 위해 단상에 올라 가장 먼저, 그리고 가장 무자비하게 터뜨린 언어의 총알은 바로 인텔(Intel)이 구축해 둔 절대 신앙, 무어의 법칙(Moore’s Law)에 대한 공식적인 사망 선고였다.

“과거 30년 동안 당신들의 데이터센터는 인텔 CPU를 사서 꽂기만 하면 매년 알아서 공짜 성능(Speed) 향상을 만끽했다. 하지만 이제 실리콘 웨이퍼의 물리적 회로는 발열에 타들어가고 있고, 똑똑한 직렬(Serial) 코어의 발전은 한계에 박혀 동력을 상실했다. 일반적인 범용 컴퓨팅(General-Purpose Computing)의 시대는 완벽하게 막을 내렸다.”

graph TD
    A[데이터센터 시대의 패러다임 교체<br>Data Center Paradigm Shift]
    
    A --> B[과거의 낡은 체제<br>범용 컴퓨팅 General-Purpose Computing]
    B --> C[Intel 중심의 CPU 아키텍처<br>무어의 법칙 둔화로 성능 병목]
    C --> D[빅데이터 & 딥러닝 연산 시 막대한 전력 소모 및 비효율]
    
    A --> E[현대 AI 시대의 새로운 제국<br>가속 컴퓨팅 Accelerated Computing]
    E --> F[NVIDIA 주도 GPU 특수 목적 병렬 처리<br>황의 법칙 Huang's Law]
    F --> G[동일 전력 대비 수십 배의 딥러닝 연산 압도적 달성]
    
    D -.->|권력 붕괴 및 대체| G
    
    style E fill:#f9f,stroke:#333,stroke-width:2px,color:#fff
    style G fill:#f55,stroke:#333,stroke-width:2px,color:#fff

대안은 너무나 명확하고도 징글징글한 독점의 속내를 띠고 있었다. “무식하고 반복적인 빅데이터 연산이나 딥러닝 학습 등 가장 무거운 워크로드(Workload) 작업은, 범용 CPU에게 맡겨 질식시키지 말고 수만 개의 병렬(Parallel) 코어를 가진 우리 엔비디아 GPU를 덧붙여 따로 연산시켜버려라.”

기존의 CPU가 모든 계산의 통수권자 역할을 하던 철학에서, 무거운 작업만 떼어내어 초고속 수학 엔진에 아웃소싱을 맡기는 방식. 이것이 혁명적으로 부상한 ‘가속 컴퓨팅(Accelerated Computing)’ 의 핵심 진리였다. 이 거친 영업 철학이 데이터센터 관리자들의 서버 전기세와 속도 고민을 수십 배로 완벽하게 치료해 내기 시작하자, 엔비디아 칩의 도입은 단순한 ’선택’이 아니라 기업 경쟁력 생존을 위한 필수 ’마약’으로 전 산업을 뒤덮으며 폭주하기 시작했다.

8.1.3 엔터프라이즈 서버 시장에서 인텔(Intel)과의 패권 교체

수십 년간 전 세계 기업 전산실(Enterprise Server Room)과 데이터센터의 문을 열면 빼곡히 꽂혀있는 절대 권력의 마크(Mark)는 항상 파란색 바탕의 ’Intel Inside’였다. 인텔은 칩을 꽂아줄 권한, 즉 설계 표준을 통제하며 서버 제조업체들을 완벽히 자신들의 영주 아래 하청농노처럼 부리며 황금 같은 영업 이익을 수확했다. 엔비디아(NVIDIA)가 감히 올려다볼 수도 없는 막강한 성역(Sanctity)이었다.

하지만 딥러닝 어플리케이션(Application)이 모든 B2B 소프트웨어 생태계를 집어삼키는 광속의 전환이 벌어지자, 이 거대했던 제국의 성벽에 거대한 균열이 비명 소리를 내며 발생하기 시작했다. 똑똑한 인텔 제온(Xeon) 칩 백 개를 박아 넣은 서버가 만들어 내는 AI 딥러닝 학습 효율이, 엔비디아의 A100 가속기(Accelerator) 몇 장 꽂아 놓은 시꺼먼 보드 하나에 완전히 학살당했기 때문이다. 기업의 CTO(최고 기술 책임자)들은 이제 서버 예산의 80% 이상을 오직 ’얼마나 많은 최고급 엔비디아 GPU’를 확보하는가에 미친 듯이 쏟아붓게 되었고, 과거 제국 인텔의 CPU를 발주하는 비용은 그저 “GPU가 연산을 잘 하도록 데이터를 넘겨주는 잡일꾼 보조칩” 구매 수준으로 극도로 하락, 전락해버렸다.

이 서늘하고도 잔인한 역전극(Reversal)은 단 몇 년 만에 벌어졌다. 젠슨 황(Jensen Huang) 휘하의 엔비디아는 과거 게임 부품 벤더(Vendor)의 거추장스러운 신분을 완벽히 버리고, 이제 글로벌 엔터프라이즈 서버 시장의 ‘단가표’ 설계 자체를 지배하고, 칩의 공급량을 하달하며 전 세계 빅테크들의 데이터센터 자본 증설을 입맛대로 통제하는 진정한 제왕으로의 권력 찬탈, 그 피투성이 패배자 인텔의 무덤을 가장 선명하게 밟고 일어났다.