8.3 컴퓨팅의 단위를 바꾸다: 칩에서 시스템으로

8.3 컴퓨팅의 단위를 바꾸다: 칩에서 시스템으로

“우리는 더 이상 하얀 박스 안에 숨겨져 들어가는 작은 칩 나부랭이나 팔고 있는 부품 회사가 아니다.”
젠슨 황(Jensen Huang)의 이 선언은 단지 허세가 섞인 레토릭(Rhetoric)이 아니었다. 하이퍼스케일러(Hyperscaler)들이 엔비디아(NVIDIA) 칩을 수만 개씩 사가며 데이터센터를 채우고 있을 때, 엔비디아는 이들에게 칩을 던져주는 수동적인 하청업체의 스탠스(Stance)에서 벗어나 가장 폭력적이고도 거대한 생태계의 사다리 위로 한 칸 더 올라서기를 갈망했다.

이 8.3장에서는 칩(Chip)이라는 아주 미세한 연산 단위의 판매를 넘어, 거대한 강철 랙(Rack) 전체, 즉 ‘시스템(System)’‘데이터센터(Data Center)’ 단위로 엔비디아의 비즈니스 바운더리(Boundary)가 폭발적으로 진화하는 웅장한 과정을 포착한다.

그들이 어떻게 자체적으로 현존하는 최고 성능의 칩, 메모리, 냉각장치, 그리고 자체 AI 알고리즘 최적화 소프트웨어까지 모조리 한 덩어리로 욱여넣은 세계 최초의 딥러닝(Deep Learning) 전용 슈퍼컴퓨터 ‘DGX 시스템’ 을 창조해 냈는지 살펴본다. 이를 통해 어떻게 전통적인 서버 제조업체(OEM/ODM)들을 자신들의 거대한 ’턴키(Turn-key) 생태계’의 조립 농노로 하달, 편입시키며 컴퓨팅 권력의 단위를 송두리째 뜯어고쳤는지 그 오만하고도 눈부신 하드웨어 독재의 진화 과정을 해부해 본다.

8.3.1 세계 최초의 딥러닝 슈퍼컴퓨터, ’DGX 시스템’의 탄생

2016년, 젠슨 황(Jensen Huang)은 실리콘밸리(Silicon Valley)의 무대 위로 양팔로조차 다 감싸기 힘든 거무튀튀하고 육중한 강철 상자 하나를 낑낑대며 들고 올라왔다. 그리고 그는 그 상자의 스위치를 켜며 전 세계 컴퓨터 공학계를 향해 도발적인 일갈을 던졌다.
“이 상자 하나면, 당신들이 수십억 원을 들여 1년 동안 돌려야 할 딥러닝(Deep Learning) 훈련을 단 며칠 만에 끝장낼 수 있다. 세계 최초의 AI 박스(AI in a Box), ‘DGX-1’ 의 탄생이다.”

이 거무스름한 DGX 상자는 엔비디아(NVIDIA)의 단순한 신제품 발표가 아니었다. 그것은 혁명이었다. 기존 대학이나 기업들은 딥러닝을 위해 파스칼(Pascal) GPU 단품을 몇 개 사서, 자신들의 구식 인텔(Intel) 메인보드에 이리저리 꽂아 보며 전선과 발열, 속도 저하와 싸우는 처절한 조립 노가다를 벌여야만 했다.
엔비디아는 이 끔찍한 병목을 깨버리기 위해 아예 자신들의 최상위 GPU 8장을 쑤셔 박고, 거대한 칩들 간의 통신 속도를 극대화하는 독자 회로(NVLink)와 딥러닝 전용 OS(운영체제)까지 통째로 탑재시킨 후, 플러그만 꽂으면 곧바로 무식한 인공지능 학습이 터져 나오는 ’완성형 슈퍼컴퓨터 완제품’을 만들어 세상에 내던진 것이다.

이 DGX 시스템의 첫 번째 구매자 중 하나는 다름 아닌 설립 초기의 오픈AI(OpenAI)였고, 당시 젠슨 황은 직접 일론 머스크(Elon Musk)에게 이 마법의 상자를 사인해서 배달하며 훗날 챗GPT(ChatGPT)라는 괴물이 탄생할 절대적인 물리적 요람을 제 손으로 세팅해 주는 소름 돋는 역사적 순간을 연출했다. DGX는 더 이상 무언가의 부품이 아닌, 인공지능 그 자체를 연산해 내는 완벽하고 독립적인 심장(Heart) 시스템으로 거듭난 엔비디아 하드웨어 제국의 웅장한 선포였다.

8.3.2 부품 공급업체에서 벗어난 ’데이터센터 단위’의 턴키(Turn-key) 비즈니스

DGX 시스템의 짜릿한 성공은 엔비디아(NVIDIA)의 뇌 구조에 완벽한 제국주의적 세계관을 이식시켰다. “고작 수만 달러짜리 GPU 칩 장사에 머물지 말자. 수억 달러가 오가는 클라우드 데이터센터(Data Center) 전체의 건설 현장, 그 설계도면 자체를 통째로 팔아버리자.”

이른바 ‘턴키(Turn-key) 비즈니스’ 로의 파괴적 진화였다. 10만 개의 칩이 들어가는 데이터센터를 지으려는 기업에게, 엔비디아는 예전처럼 단순히 “우리 칩이 빠르니 많이 사가라“고 구걸하지 않았다. 대신 젠슨 황(Jensen Huang)은 이렇게 윽박질렀다.
“당신들이 10만 개의 GPU를 사서 대충 이어 붙이면 발열과 통신 지연(Latency) 때문에 칩 성능의 절반도 뽑아먹지 못한 채 파산할 것이다. 대신, 우리가 직접 설계한 슈퍼컴퓨터 조립 블록(SuperPOD) 도면대로 랙(Rack)을 박고, 우리가 지정한 NVLink 케이블로 묶고, 우리 소프트웨어(CUDA)를 깔아라. 열쇠(Key)만 돌리면 즉시 세계 최고 백만 마력 단위의 ’인공지능 공장(AI Factory)’이 가동되도록 완벽한 세트 메뉴를 제공하겠다.”

이 오만하고도 완벽한 해결책 앞에, 사실상 돈은 많으나 인프라 최적화엔 무지했던 수백 개의 산업군(자동차, 제약, 금융 등) 대기업들은 미친 듯이 지갑을 열어젖히며 항복해 버렸다. 엔비디아는 이 한 번의 전략 시스템 교체로 칩 한두 개 팔던 회계 장부의 단위를 순식간에 수십, 수백억 달러 규모의 거대 인프라(Infrastructure) 매출 단위로 무자비하게 폭발시켜 버렸다. 단순히 총알(Chip)을 팔던 회사가, 총과 탱크, 그리고 완벽한 전쟁 요새(Fortress) 자체를 풀세트로 지어주는 무소불위의 군수산업체로 그 정체성을 완전히 탈바꿈한 것이다.

8.3.3 서버 제조업체(OEM/ODM)와의 협력 및 생태계 조율

엔비디아(NVIDIA)가 감히 하얀 철제 박스(Server) 전체를 자신들의 이름표(DGX)를 붙여 팔기 시작하자, 델(Dell), HP, 혹은 대만의 폭스콘(Foxconn), 콴타(Quanta) 같은 전통적인 거대 서버 조립 제조사(OEM/ODM)들은 처음엔 등골에 오싹한 공포를 느꼈다. 어제까지만 해도 부품을 납품하던 을(乙)이, 하루아침에 대놓고 완제품을 팔며 자신들의 황금알 서버 시장을 통째로 집어삼키는 시건방진 경쟁자(Competitor)로 돌변했기 때문이다.

하지만 젠슨 황(Jensen Huang)은 징그러울 정도로 영악한 정치가(Politician)였다. 그는 결코 서버 제조 생태계 전체를 적으로 돌리는 바보짓을 하지 않았다.
“우리의 DGX 완제품은 세상에 없던 ’퍼스트 펭귄(First Penguin)’이자 기술적 표준을 보여주기 위한 비싼 레퍼런스(Reference) 모델일 뿐이다. 우리는 이걸로 당신들의 밥그릇을 다 빼앗을 생각이 없다. 보라, 우리가 어떻게 GPU 8장을 묶어 설계했는지 그 ’정답지(HGX 베이스보드)’를 당신들에게 통째로 납품하겠다. 이제 당신들 공장에서 이 정답지를 뼈대 삼아, 델(Dell) 로고를 붙이고 레노버(Lenovo)의 깡통을 덮어씌워 세상에 마음껏 갖다 팔아라!”

graph TD
    A[엔비디아의 생태계 정치학<br>Ecosystem Politics]
    
    A --> B[NVIDIA DGX 완제품]
    B --> C[자체적 최고가 프리미엄 모델<br>선도 기술의 표준 제시]
    
    A --> D[NVIDIA HGX 보드 납품<br>핵심 설계도면 제공]
    D --> E((서버 제조업체 군단<br>Dell, HP, Supermicro, Foxconn))
    
    E --> F[각자의 철판과 브랜드 로고 부착<br>전 세계 보급 영업망 가동]
    F --> G[폭발적인 엔비디아 생태계 확장<br>전 세계 서버 점유율 싹쓸이]
    
    style E fill:#f9f,stroke:#333,stroke-width:2px,color:#fff
    style G fill:#f55,stroke:#333,stroke-width:2px,color:#fff

대만의 하청 공장장부터 미국 최고의 서버 벤더들까지, 그들은 엔비디아가 던져준 이 달콤한 황금빛 설계도(HGX)에 환호성을 지르며 완벽하게 백기 투항했다. 젠슨 황은 직접 서버 철판을 자르고 나사를 조이는 구질구질한 하청 노동은 남겨두면서도, 전 세계 서버 생태계가 뿜어내는 ’설계 표준 권력’과 ’마진의 절대다수’는 철저하게 자신들의 주머니로 빨아들이는 가장 완벽하고 자비 없는 지배 구조(Dictatorship)를 이 서버 동맹 위로 조각해 냈다.