짐 켈러 - 반도체 설계의 전설
2025-10-23, G25DR
1. 서론: 반도체 업계의 ‘해결사’
짐 켈러(Jim Keller)는 단순한 엔지니어가 아니다. 그는 업계의 판도를 바꾸는 ’아키텍트(Architect)’이자, 위기에 처한 기업을 구원하고 기술적 변곡점을 창출하는 ’해결사(Fixer)’다.1 그의 이름은 AMD, 애플, 테슬라와 같은 거대 기술 기업들의 역사에서 가장 결정적인 순간과 동의어로 사용된다.2 그는 자신이 몸담는 곳마다 기술적 난제를 해결하고, 경쟁 구도를 재편하며, 막대한 상업적 성공의 기반을 닦았다. 그의 경력은 한 명의 세계적인 아키텍트가 대규모 연구개발 예산이나 거대한 조직보다 더 가치 있는 전략적 자산이 될 수 있음을 증명한다. 이 때문에 업계는 그의 움직임을 단순한 개인의 이직이 아닌, 차세대 기술 혁신이 일어날 방향을 예측하는 중요한 지표로 간주한다.1
이 보고서는 짐 켈러의 화려한 기술적 성취를 연대기 순으로 추적하고, 그 이면에 숨겨진 그의 독창적인 설계 철학과 방법론을 심층적으로 분석한다. 나아가 현재 그가 이끄는 AI 반도체 스타트업 텐스토렌트(Tenstorrent)를 통해 AI 시대를 향한 그의 새로운 도전과 미래 비전을 조망하고자 한다.
2. 혁신의 연대기 - 주요 경력과 핵심 성과
짐 켈러의 경력은 현대 컴퓨터 아키텍처의 발전사와 궤를 같이한다. 그는 고성능 서버용 프로세서부터 모바일 혁명을 이끈 SoC, 그리고 자율주행차의 두뇌에 이르기까지, 컴퓨팅 패러다임이 전환되는 거의 모든 핵심 영역에 자신의 족적을 남겼다.
| 기간 | 회사 | 주요 직책 | 핵심 성과 및 개발 아키텍처 |
|---|---|---|---|
| 1982–1998 | Digital Equipment Corp. (DEC) | 엔지니어 | VAX 8800, Alpha 21164, Alpha 21264 |
| 1998–1999 | AMD | 수석 설계자 | Athlon (K7), K8 아키텍처 착수 |
| 2004–2008 | P.A. Semi | 엔지니어링 부사장 | PowerPC 기반 저전력 프로세서 |
| 2008–2012 | Apple | 수석 설계자 / VP | A4, A5 SoC |
| 2012–2015 | AMD | 수석 부사장 / 수석 코어 아키텍트 | Zen 마이크로아키텍처 |
| 2016–2018 | Tesla | 오토파일럿 하드웨어 VP | FSD Chip (Hardware 3.0) |
| 2018–2020 | Intel | 수석 부사장 | 실리콘 엔지니어링 총괄, 설계 방법론 개선 |
| 2020–현재 | Tenstorrent | CTO, 이후 CEO | RISC-V 기반 AI 가속기 (Grayskull, Wormhole, Blackhole) |
2.1 초석 다지기: DEC와 알파(Alpha) 아키텍처
짐 켈러의 엔지니어링 경력은 1982년 DEC(Digital Equipment Corporation)에서 시작되었다.4 그는 이곳에서 15년 이상 근무하며 VAX 8800, 그리고 당대 최고의 성능을 자랑하던 RISC(Reduced Instruction Set Computer) 아키텍처인 Alpha 21164 및 21264 프로세서 개발에 참여했다.5 DEC의 Alpha 프로세서는 복잡한 명령어 집합을 사용하는 CISC(Complex Instruction Set Computer) 방식의 x86 아키텍처와 달리, 단순하고 정형화된 명령어를 빠르게 처리하여 압도적인 성능을 구현했다. 이 시기에 켈러는 고성능, 고효율 프로세서 설계의 본질에 대한 깊은 이해를 쌓았다. 이는 훗날 그가 x86 아키텍처의 한계를 극복하기 위해 RISC의 핵심 사상을 접목한 AMD Zen 아키텍처를 설계하는 데 중요한 사상적 기반이 되었다.
2.2 AMD의 첫 번째 전성기: K8, x86-64, 그리고 하이퍼트랜스포트
1998년 AMD로 이직한 켈러는 인텔의 아성에 도전하는 핵심 프로젝트에 참여했다.5 그는 K7(애슬론) 아키텍처 개발에 기여했으며, 곧이어 AMD 역사상 가장 중요한 아키텍처 중 하나인 K8(애슬론 64)의 수석 설계자를 맡았다.7 K8 아키텍처는 세 가지 혁신적인 기술을 통해 CPU 시장의 판도를 바꿨다.
첫째, 세계 최초로 일반 소비자용 x86 호환 64비트 명령어 세트인 ‘AMD64’(또는 x86-64)를 도입했다.8 당시 인텔은 32비트의 4GB 메모리 한계를 극복하기 위해 기존 x86과 호환되지 않는 완전히 새로운 64비트 아키텍처 ’아이테니엄(Itanium)’을 추진하고 있었다. 이는 소프트웨어 개발자들이 모든 프로그램을 새로 컴파일하고 최적화해야 하는 엄청난 전환 비용을 요구하는 전략이었다. 반면 켈러의 팀은 기존 32비트 소프트웨어를 성능 저하 없이 그대로 실행하면서, 필요할 때 64비트 모드를 사용할 수 있는 ‘호환 가능한 확장’ 방식을 택했다.8 이는 기술적 순수성보다 생태계의 현실을 존중한 탁월한 전략이었다. 개발자들과 사용자들은 저항 없이 64비트 환경으로 전환할 수 있었고, 결국 거대한 x86 소프트웨어 생태계의 관성은 인텔이 아닌 AMD의 손을 들어주었다. 결국 인텔은 아이테니엄의 실패를 인정하고 AMD로부터 x86-64 라이선스를 취득해야 했다.8 이는 단순한 기술적 승리가 아니라, 기존 생태계의 힘을 역이용하여 경쟁자를 제압한 ‘생태계 유도(Ecosystem Judo)’ 전략의 완벽한 성공 사례였다.
둘째, 메모리 컨트롤러를 CPU 다이(die) 내부에 통합하는 혁신을 단행했다.8 이전까지 메모리 컨트롤러는 메인보드의 노스브릿지 칩셋에 위치하여 CPU와 메모리 간 통신에 병목 현상을 유발했다. 켈러의 팀은 이를 CPU에 내장함으로써 데이터 접근 지연 시간(latency)을 극적으로 줄이고 메모리 대역폭 문제를 해결했다.8 이 설계는 시스템 전체의 체감 성능을 크게 향상시켰으며, 약 5년 뒤 인텔이 ‘네할렘(Nehalem)’ 아키텍처에서 이 방식을 모방하면서 업계의 표준으로 자리 잡았다.8
셋째, 고속 직렬 인터커넥트 기술인 ’하이퍼트랜스포트(HyperTransport)’를 공동 개발했다.3 이는 CPU와 입출력 장치, 그리고 멀티프로세서 시스템에서 CPU 간 통신을 위한 고대역폭 통로를 제공하여 시스템 전체의 데이터 처리 효율을 높였다. 이 세 가지 혁신을 통해 K8 아키텍처는 AMD를 인텔과 대등하게 경쟁할 수 있는 기업으로 격상시켰고, 짐 켈러는 업계 최고의 아키텍트 중 한 명으로 명성을 굳혔다.
2.3 모바일 혁명의 서막: 애플과 A4/A5 커스텀 SoC
2008년, 켈러는 애플이 인수한 저전력 프로세서 설계 스타트업 P.A. Semi를 통해 애플에 합류했다.7 당시 애플은 아이폰의 성공을 바탕으로 모바일 시장의 패권을 장악하고 있었지만, 핵심 부품인 애플리케이션 프로세서(AP)는 삼성, 퀄컴 등 외부 업체에 의존하고 있었다. 스티브 잡스는 하드웨어와 소프트웨어의 완벽한 수직적 통합을 통해 최고의 사용자 경험을 제공하기 위해서는 자체적인 칩 설계 역량이 필수적이라고 판단했다.
켈러는 이 중대한 임무를 맡아 애플의 첫 자체 설계 시스템 온 칩(SoC)인 A4와 그 후속작인 A5의 개발을 이끌었다.5 A4는 2010년 출시된 아이패드 1세대와 아이폰 4에, A5는 아이패드 2와 아이폰 4S에 탑재되었다.10 이 칩들은 ARM의 Cortex-A8, A9 코어 설계를 기반으로 하되, 애플이 그래픽 처리 장치(GPU), 오디오, 비디오 처리 등 사용자 경험에 직접적인 영향을 미치는 주변 기능들을 독자적으로 최적화하고 통합한 ’맞춤형 반도체’였다.11
켈러의 작업은 프로세서를 단순한 범용 부품에서 제품을 정의하는 핵심 기능으로 격상시키는 전환을 이끌었다. 자체 설계 칩을 통해 애플은 기성 부품으로는 불가능했던 수준의 성능, 전력 효율, 그리고 기능 통합을 달성할 수 있었다.12 이는 iOS 운영체제의 부드러운 구동과 뛰어난 그래픽 성능을 보장하며 경쟁사들이 수년간 따라오기 힘든 강력한 경쟁 우위를 만들어냈다. A4와 A5의 성공은 애플이 모바일 산업에서 하드웨어와 소프트웨어 통합의 정점을 보여주는 계기가 되었으며, 이후 빅테크 기업들이 자체 칩 개발에 뛰어드는 거대한 흐름을 촉발했다. 켈러는 ‘CPU를 구매하는’ 시대에서 ‘시스템을 설계하는’ 시대로의 전환을 증명한 핵심 인물이었다.
2.4 AMD의 구원투수: 젠(Zen) 아키텍처의 탄생
애플에서의 성공 이후, 켈러는 2012년 친정인 AMD로 복귀했다.7 당시 AMD는 ‘불도저(Bulldozer)’ 마이크로아키텍처의 처참한 실패로 인해 인텔과의 경쟁에서 완전히 밀려나며 존폐의 위기에 처해 있었다. 불도저는 복잡한 모듈 구조로 인해 IPC(Instructions Per Clock, 클럭 당 명령어 처리 횟수) 성능이 기대에 크게 미치지 못했고, 전력 소모는 과도했다. AMD에는 구원투수가 절실했다.
켈러는 수석 부사장이자 수석 코어 아키텍트로서 백지상태에서 완전히 새로운 아키텍처를 설계하는 임무를 맡았다.7 그 결과물이 바로 ‘젠(Zen)’ 마이크로아키텍처다. 젠의 성공은 단순히 기술적 설계를 넘어선, 설계 ’방법론’의 혁명이었다. 켈러는 AMD에 도착했을 때 기술력 이전에 조직 문화와 목표 설정에 심각한 문제가 있음을 간파했다. 그는 “명확한 목표가 없었고”, 정치적인 이유로 팀들이 여러 지역에 비효율적으로 분산되어 있었다고 회상한다.13
그의 첫 과제는 조직을 재설계하는 것이었다. 그는 “조직, 목표, 역량, 신뢰“라는 네 가지 원칙을 세웠다.13 우선, “다시는 세계적인 수준의 CPU를 만들 수 없을 것“이라는 패배감에 젖어 있던 엔지니어들에게 “이전 세대 대비 IPC 40% 향상“이라는 구체적이고 야심 찬 목표를 제시했다. 이는 논쟁의 여지가 없는 단일 지표로 조직 전체의 역량을 집중시키는 역할을 했다. 그리고 흩어져 있던 팀들을 기능별로 재구성하고, 서로의 역량을 보완할 수 있는 엔지니어들을 짝지어주며 “작고 자율적인 팀“이 목표에만 집중할 수 있는 환경을 만들었다.13
이러한 조직적, 문화적 재건 위에서 젠 아키텍처는 탄생했다. 젠은 불도저의 복잡한 모듈 구조를 버리고, 고성능 코어 4개를 하나의 코어 컴플렉스(CCX)로 묶는 효율적인 구조를 채택했다. 또한, 인텔의 하이퍼스레딩과 유사한 SMT(Simultaneous Multithreading) 기술을 도입하여 코어 활용률을 극대화했다. 그 결과, 젠 아키텍처는 목표치를 훌쩍 뛰어넘어 이전 세대인 ‘파일드라이버’ 대비 52% 이상의 경이적인 IPC 향상을 달성했다.14
젠 아키텍처를 기반으로 2017년 출시된 ‘라이젠(Ryzen)’ 프로세서는 데스크톱 PC 시장에서, ‘에픽(EPYC)’ 프로세서는 서버 시장에서 인텔의 독주에 제동을 걸며 AMD를 화려하게 부활시켰다.2 젠의 성공은 켈러가 단순히 뛰어난 칩을 설계하는 것을 넘어, 무너진 조직을 재건하고 불가능해 보였던 목표를 달성하게 만드는 탁월한 리더임을 증명한 사건이었다.
2.5 자율주행 시대를 열다: 테슬라와 FSD 칩(Hardware 3.0)
젠 아키텍처의 설계를 마친 2015년, 켈러는 다음 도전을 위해 AMD를 떠나 2016년 테슬라에 합류했다.3 당시 테슬라는 ‘오토파일럿’ 기능을 구현하기 위해 엔비디아의 범용 GPU를 사용하고 있었다. 하지만 CEO 일론 머스크는 레벨 5 완전자율주행(FSD, Full Self-Driving)을 실현하기 위해서는 전력 소모와 비용, 그리고 성능이 자사의 신경망 알고리즘에 완벽하게 최적화된 맞춤형 AI 반도체가 필수적이라고 판단했다.
켈러는 오토파일럿 하드웨어 엔지니어링 부사장으로서 이 중대한 프로젝트를 이끌었다. 이는 기존 자동차 산업의 공급망 모델을 근본적으로 파괴하는 시도였다. 전통적으로 자동차 제조사들은 모빌아이(Mobileye)와 같은 전문 공급업체로부터 ADAS(첨단 운전자 보조 시스템) 솔루션을 ‘블랙박스’ 형태로 공급받아 차량에 통합하는 방식을 취해왔다.15 그러나 테슬라는 자동차의 ’두뇌’에 해당하는 핵심 기술을 직접 설계하기로 결정했다. 이는 테슬라를 ’기술을 사용하는 자동차 회사’에서 ’자동차를 만드는 기술 회사’로 변모시키는 전략적 전환이었다.
모두가 반신반의했지만, 켈러의 팀은 정확히 18개월 만에 테슬라의 첫 자체 FSD 칩(Hardware 3.0) 개발에 성공했다.16 이 칩은 초당 144조 번의 연산(144 TOPS)이 가능한 강력한 신경망 처리 장치(NPU) 두 개를 탑재했으며, 하나의 칩에 문제가 생겨도 다른 칩이 정상 작동을 보장하는 완전 이중화(redundancy) 설계를 통해 자율주행 시스템의 안전성을 극대화했다.15
FSD 칩의 내재화는 테슬라에게 비교 불가능한 경쟁 우위를 안겨주었다. 첫째, 자사의 소프트웨어에 완벽하게 최적화된 하드웨어를 통해 효율을 극대화할 수 있었다.1 둘째, 전 세계 수백만 대의 테슬라 차량에서 수집되는 실제 주행 데이터를 이용해 신경망 모델을 훈련시키고, 그 결과를 다시 자체 하드웨어에 최적화하여 배포하는 강력한 데이터 피드백 루프를 구축할 수 있었다.15 켈러가 설계한 FSD 칩은 이러한 선순환 구조를 가능하게 한 물리적 열쇠였으며, 테슬라가 자율주행 기술 경쟁에서 앞서 나가는 결정적 기반이 되었다.
2.6 거인의 도전: 인텔에서의 짧지만 강렬했던 2년
2018년, 켈러는 다시 한번 업계를 놀라게 하며 인텔에 수석 부사장으로 합류했다.3 그의 임무는 인텔의 모든 실리콘 엔지니어링을 총괄하며, 10nm 공정 전환 지연과 수년간 이어진 아키텍처 정체로 인해 흔들리던 ’반도체 제왕’의 위상을 되찾는 것이었다. 특히 그는 10년 이상 정체되어 있던 인텔의 낡은 설계 방법론을 현대화하는 과제를 안고 있었다.13
하지만 그의 도전은 2년 만인 2020년 6월 막을 내렸다. 그는 공식적으로 “개인적인 사유“를 들며 사임했지만 5, 업계에서는 그의 급진적인 개혁 스타일이 인텔의 거대하고 관료적인 조직 문화와 충돌했을 것이라는 분석이 지배적이었다. 후속 보도에 따르면, 그의 사임 배경에는 차세대 공정 개발 방향과 생산 외주(아웃소싱) 확대 문제를 둘러싼 경영진과의 심각한 의견 대립이 있었던 것으로 알려졌다.5 켈러는 인텔이 TSMC와 같은 외부 파운드리를 적극적으로 활용해야 한다고 주장했지만, 자체 생산을 고집하는 내부의 관성적 저항에 부딪혔다는 것이다.20
켈러의 인텔 재직 기간은 아무리 뛰어난 천재라도 뿌리 깊은 조직의 관성을 단기간에 바꾸는 것이 얼마나 어려운지를 보여주는 사례로 남았다. 그의 실패는 역설적으로 그가 AMD와 같이 더 작고 유연하며, 변화에 대한 절박함이 있던 조직에서 성공할 수 있었던 이유를 설명해준다. 그의 ’파괴적 혁신’은 거인의 느린 발걸음과 보조를 맞추기 어려웠다.
3. 파괴적 혁신의 설계도 - 짐 켈러의 설계 철학과 방법론
짐 켈러의 성공은 단순히 기술적 재능에만 기인하지 않는다. 그의 이면에는 복잡한 문제를 해결하고 혁신적인 제품을 만들어내는 일관된 철학과 방법론이 존재한다.
3.1 제1원칙 사고: 복잡성을 제거하는 기술
켈러의 문제 해결 방식은 ’제1원칙 사고(First-Principles Thinking)’에 기반한다. 그는 기존의 관행이나 복잡한 절차, 축적된 가정들을 의심하고, 문제의 가장 근본적인 진실에서부터 해결책을 재구성한다. 그는 “문제를 감상하는(admiring the problem)” 데 시간을 낭비하는 것을 극도로 경계하며, 단순하고 명확하며 실행 가능한 해결책을 찾는 데 집중한다.21
그의 이러한 철학은 인텔 재직 시절의 일화에서 명확히 드러난다. 당시 인텔의 복잡하고 방대한 칩 검증(validation) 프로세스에 대해 불만이 제기되자, 그는 이렇게 응수했다. “칩을 검증하는 방법은 이렇다. 해변으로 가라. 노트북을 열어라. 에뮬레이션으로 칩이 부팅되는 것을 확인하라. 그리고 팹(fab)으로 보내라! 남은 해는 해변에서 휴가를 즐겨라.”.21 이는 불필요한 절차와 관료주의를 걷어내고, ’칩이 제대로 작동하는가’라는 본질적인 목표에만 집중하라는 메시지였다.
그에게 ’단순함’은 지적 게으름이 아니라, 복잡성의 본질을 완벽하게 이해한 후에만 도달할 수 있는 극도의 지적 노력의 산물이다. 그는 복잡한 시스템의 모든 구성 요소를 파악한 뒤, 성능에 가장 큰 영향을 미치는 핵심 변수만을 남기고 나머지는 과감히 제거하는 방식으로 최적의 설계를 도출한다. 이는 기존 설계에 기능을 덧붙이는 점진적 개선(iteration)만으로는 결코 도달할 수 없는 근본적인 성능 향상과 효율성을 가능하게 하는 핵심 동력이다.22
3.2 조직이라는 컴퓨터: 소규모 자율팀의 효율성
켈러는 조직을 하나의 거대한 컴퓨터 아키텍처처럼 바라보는 독특한 관점을 가지고 있다. 그는 “사람들의 그룹을 기능 블록(functional blocks)으로 생각할 수 있으며, 각 그룹은 기대되는 행동을 출력한다“고 말한다.13 이 관점에서 볼 때, 조직의 비효율은 곧 시스템의 병목 현상과 같다.
컴퓨터 아키텍처에서 너무 많은 장치가 하나의 버스(bus)를 통해 통신하려고 하면 데이터 충돌과 지연이 발생하여 시스템 전체의 성능이 저하된다. 켈러는 인간 조직도 마찬가지라고 본다. 팀의 규모가 커질수록 구성원 간의 소통에 드는 비용, 즉 ’인간 통신 버스(Human Communication Bus)’의 부하가 기하급수적으로 증가하여 엔지니어들이 실제 문제 해결보다 소통과 조율, 정치에 더 많은 시간을 쏟게 된다고 진단한다.23
그의 해결책은 명확하다. 그는 100명이 넘는 조직은 비대해지기 시작하며, 20명 내외의 “작고 자율적인 팀“이 가장 효율적이라고 믿는다.13 각 팀에게는 명확하고 측정 가능한 목표가 주어지며, 목표 달성을 위한 방법론은 팀의 자율에 맡겨진다. 이는 마치 잘 설계된 칩렛(chiplet)처럼, 각 기능 블록이 독립적으로 작동하되 명확한 인터페이스를 통해 전체 시스템에 기여하는 구조와 같다. AMD에서 젠 아키텍처를 개발할 때, 그는 이러한 원칙에 따라 흩어져 있던 팀을 재구성하고 효율성을 극대화했다.13 그는 사람을 관리하는 것이 아니라, 조직 내 정보와 의사결정의 흐름을 설계하여 병목을 최소화하는 방식으로 팀을 이끈다.
3.3 개방과 혁신: 오픈소스 RISC-V에 대한 신념
켈러는 AI 시대의 혁신을 가속화하기 위해서는 기술이 소수 기업에 독점되어서는 안 되며, 모두에게 개방되어야 한다는 강력한 신념을 가지고 있다.24 이러한 철학은 그가 현재 이끄는 텐스토렌트가 x86이나 ARM이 아닌, 오픈소스 명령어 세트 아키텍처(ISA)인 ’RISC-V(리스크 파이브)’를 채택한 이유를 설명한다.
x86은 인텔과 AMD가, ARM은 Arm Ltd.가 소유권을 갖고 라이선스 사업을 통해 막대한 수익을 올리는 폐쇄적인 구조다. 반면 RISC-V는 특정 기업이 소유하지 않는 개방형 표준 기술로, 누구나 무료로 가져다 반도체를 설계하고 수정할 수 있다.24 켈러는 이러한 개방성이 수많은 개발자와 기업의 참여를 유도하여 혁신의 속도를 폭발적으로 증가시킬 것이라고 믿는다.26
기술적으로도 RISC-V는 AI 반도체에 적합한 장점을 가진다. 명령어 수가 x86이나 ARM에 비해 현저히 적어(47개), 더 단순하고 전력 효율이 높은 프로세서를 설계하는 데 유리하다.27 이는 발열 문제를 해결하고, 저비용으로 맞춤형 설계를 가능하게 하여 AI 반도체의 핵심 요구사항과 정확히 일치한다.27
켈러가 RISC-V를 선택한 것은 단순한 비용 절감 차원을 넘어선 전략적 행보다. 이는 반도체 산업의 권력을 소수의 아키텍처 독점 기업에서 다수의 설계 기업으로 분산시키려는 거대한 패러다임 전환 시도다. 그는 RISC-V를 통해 AI 반도체 시장이 과거 PC(x86)나 모바일(ARM) 시대처럼 하나의 아키텍처에 종속되는 것을 막고, 다양한 플레이어들이 자유롭게 경쟁하고 혁신하는 ‘민주화된’ 생태계를 구축하고자 한다.
4. 현재와 미래 - 텐스토렌트와 AI 반도체의 새로운 지평
2020년 인텔을 떠난 켈러는 캐나다의 AI 반도체 스타트업 텐스토렌트에 최고기술책임자(CTO)로 합류했으며, 2023년 1월부터는 최고경영자(CEO)를 맡아 회사를 이끌고 있다.5 텐스토렌트는 그의 경력 전체를 관통하는 철학이 집약된 새로운 도전의 장이다.
4.1 텐스토렌트의 비전: 엔비디아와 다른 길
켈러는 텐스토렌트가 엔비디아와 직접적인 제로섬 게임을 하지 않는다고 명확히 선을 긋는다.16 그의 목표는 엔비디아가 압도적인 지배력을 가진 고성능 GPU 시장을 뺏는 것이 아니라, 엔비디아가 제대로 충족시키지 못하는 ’다른 니즈를 가진 시장’을 공략하는 것이다.2 구체적으로, 그는 AI 칩의 비용과 전력 소모를 대폭 낮춰 더 많은 기업과 개발자들이 AI 기술을 활용할 수 있도록 하는 것을 목표로 삼고 있다.24
텐스토렌트의 전략은 엔비디아의 가장 강력한 경쟁 우위, 즉 ’쿠다(CUDA)’라는 독점적인 소프트웨어 생태계를 우회하는 ‘반(反) 쿠다 해자(Anti-CUDA Moat)’ 전략으로 분석할 수 있다. 엔비디아의 진정한 힘은 하드웨어 성능뿐만 아니라, 수많은 AI 개발자들이 의존하고 있는 CUDA 플랫폼에서 나온다. 이는 강력한 ‘공급자 종속(vendor lock-in)’ 효과를 만들어낸다.
켈러는 이에 맞서 하드웨어(RISC-V)와 소프트웨어 스택 모두를 완전히 오픈소스로 제공하는 전략을 택했다.29 이는 엔비디아의 독점 생태계에서 벗어나고 싶어 하는 고객들에게 ’자유와 맞춤화’라는 강력한 가치를 제공한다. 텐스토렌트는 단순히 더 저렴한 연산 성능(TFLOPS)을 파는 것이 아니라, 고객이 특정 공급업체에 종속되지 않고 자신만의 솔루션을 구축할 수 있도록 지원하는 ’독립의 조력자’로 자리매김하려 한다. 사업 모델 또한 자체 칩 판매와 더불어, AI 엔진과 RISC-V CPU 코어 기술을 IP(지적 재산) 형태로 라이선싱하는 이원화 전략을 통해 생태계 확장을 꾀하고 있다.16
4.2 핵심 기술 분석: AI 가속기 ‘그레이스컬’, ‘웜홀’, ‘블랙홀’
텐스토렌트의 AI 가속기는 ’텐식스(Tensix)’라는 독자적인 코어 아키텍처를 기반으로 한다. 각 텐식스 코어는 데이터 이동과 연산 제어를 담당하는 5개의 작은 RISC-V CPU(‘baby cores’), 1MB 이상의 고속 SRAM, 그리고 강력한 행렬 및 벡터 연산 엔진으로 구성된다.30 이 코어들을 격자 형태로 배열하여 대규모 병렬 연산을 효율적으로 처리한다.
이 아키텍처는 ‘그레이스컬(Grayskull)’, ‘웜홀(Wormhole)’, 그리고 차세대 ‘블랙홀(Blackhole)’ 등의 제품으로 상용화되었다.27 이들 제품은 프로그래밍과 확장이 용이하도록 설계되었으며, 완전한 오픈소스 소프트웨어 스택을 통해 개발자가 하드웨어의 모든 기능에 직접 접근하고 최적화할 수 있는 유연성을 제공한다.28
| 항목 | Grayskull e150 | Wormhole n150d | Wormhole n300d |
|---|---|---|---|
| 아키텍처 | 1세대 Tensix | 2세대 Tensix | 2세대 Tensix (듀얼 칩) |
| 텐식스 코어 수 | 96 | 72 | 128 (64 x 2) |
| AI 클럭 | 1 GHz | 1 GHz | 1 GHz |
| SRAM | 96 MB | 108 MB | 192 MB (96 MB x 2) |
| 메모리 | 16 GB LPDDR4 | 12 GB GDDR6 | 24 GB GDDR6 |
| 메모리 대역폭 | 136 GB/s | 288 GB/s | 576 GB/s |
| 연산 성능 (BLOCKFP8) | 166 TOPS | 148 TOPS | 262 TOPS |
| 총 보드 전력 (TBP) | 75 W | 160 W | 300 W |
주: 상기 사양은 공개된 자료를 기반으로 하며, 모델별 세부 구성에 따라 차이가 있을 수 있음. 29
표에서 볼 수 있듯이, 텐스토렌트의 제품은 단일 칩(n150d)에서 듀얼 칩(n300d)으로 확장 가능한 모듈형 설계를 특징으로 한다. 특히 전력 대비 성능 효율에 중점을 두고 있으며, 이는 데이터센터뿐만 아니라 차량, 엣지 디바이스 등 다양한 응용 분야를 염두에 둔 설계임을 시사한다.
4.3 전략적 동맹: 삼성, 현대차, LG와의 협력
켈러는 자신의 비전을 실현하기 위한 핵심 파트너로 한국의 대표 기업들을 선택했다. 텐스토렌트는 삼성전자, 현대차그룹, LG전자 등과 광범위하고 긴밀한 협력 관계를 구축했다.26
삼성전자는 세계 최고 수준의 파운드리 기술을 보유한 핵심 생산 파트너이자, 삼성 카탈리스트 펀드를 통해 1억 달러 규모의 투자를 주도한 전략적 투자자다.26 켈러는 삼성이 패키징, IP 제공 등 ’풀 서비스’를 제공할 수 있는 강력한 파트너라고 평가했다.26
현대차그룹은 미래 모빌리티의 핵심인 차량용 반도체 개발을 위해 텐스토렌트에 5천만 달러를 투자했다.27 이는 테슬라에서 FSD 칩을 개발했던 켈러의 경험과 텐스토렌트의 RISC-V 기반 저전력 고성능 IP가 자율주행 및 인포테인먼트 시스템에 최적이라는 판단에 따른 것이다.
LG전자는 TV와 가전제품에 탑재될 온디바이스 AI(On-device AI) 반도체 개발에 텐스토렌트의 기술을 활용하기로 했다.32 이는 텐스토렌트의 기술이 데이터센터를 넘어 엣지 컴퓨팅 시장으로 확장될 수 있는 잠재력을 보여준다.
이러한 협력은 단순한 고객 확보 차원을 넘어선다. 켈러는 세계 최고의 반도체 제조사(삼성), 거대 자동차 기업(현대차), 그리고 글로벌 가전 강자(LG)를 하나의 축으로 묶음으로써, 데이터센터부터 자동차, 엣지 디바이스를 아우르는 거대한 RISC-V 기반 AI 생태계를 구축하고 있다. 이는 그의 글로벌 전략에서 한국이 차지하는 지정학적, 기술적 중요성이 매우 크다는 것을 시사한다.
5. 결론: 짐 켈러가 남긴 유산과 끝나지 않은 여정
짐 켈러의 경력은 x86 64비트 컴퓨팅의 표준을 세우고, 모바일 혁명을 가능하게 했으며, CPU 시장의 경쟁을 부활시키고, 자율주행차의 두뇌를 설계하는 등 현대 컴퓨팅 역사의 가장 중요한 순간들과 함께했다. 그는 하나의 프로젝트가 끝나면 안주하지 않고 끊임없이 다음 기술적 난제를 찾아 이동하는 ’기술적 유목민(Technological Nomad)’이었다.
그러나 짐 켈러의 가장 위대한 유산은 그가 남긴 K8, A5, Zen과 같은 개별 칩 자체가 아닐 것이다. 그의 진정한 유산은 ’어떻게 위대한 칩을 만들 것인가’에 대한 방법론과 철학이다. 그는 제1원칙 사고를 통해 문제의 본질을 꿰뚫고, 명확하고 단순한 목표를 설정하여 조직의 역량을 집중시켰으며, 소규모 자율팀을 통해 관료주의의 병목을 제거하고, 개방형 기술에 대한 신념으로 혁신의 문턱을 낮췄다. 그는 불가능해 보였던 목표를 이 방법론을 통해 반복적으로 달성해왔다.
현재 그가 텐스토렌트에서 도전하는 AI 반도체 시장의 ’민주화’는 그의 경력 전체를 관통하는 이 철학의 최종 시험대가 될 것이다. 엔비디아라는 거대한 제국에 맞서 개방성과 효율성이라는 무기로 새로운 생태계를 구축하려는 그의 시도는 반도체 산업의 미래를 결정할 중요한 변수가 될 것이다. 그의 여정은 아직 끝나지 않았으며, 전 세계 기술 업계는 그가 AI 시대의 컴퓨팅 아키텍처를 또 어떻게 재정의할지 숨죽여 주목하고 있다.
6. 참고 자료
- 켈러, 카파시, 머스크, 도조 그리고 자율주행의 미래 [최원석의 디코드], https://www.chosun.com/economy/int_economy/2021/06/24/MHE77B366JGK5GQAXAALWACNCI/
- ‘칩 레전드’ 짐 켈러 “엔비디아 AI 반도체 가격 인하 도전” < 기획/분석 …, https://www.kcloudnews.co.kr/news/articleView.html?idxno=14046
- 짐 켈러 - 나무위키, https://namu.wiki/w/%EC%A7%90%20%EC%BC%88%EB%9F%AC
- 짐 켈러 (r111 판) - 나무위키, https://namu.wiki/w/%EC%A7%90%20%EC%BC%88%EB%9F%AC?rev=111
- Jim Keller (engineer) - Wikipedia, https://en.wikipedia.org/wiki/Jim_Keller_(engineer)
- Oral History of Jim Keller - YouTube, https://www.youtube.com/watch?v=Xh8nhK7WS80
- 인텔, AMD Zen 아키텍처 설계한 짐 켈러 영입 :: 보드나라, https://www.bodnara.co.kr/bbs/article.html?num=146343
- AMD K8 마이크로아키텍처 - 나무위키, https://namu.wiki/w/AMD%20K8%20%EB%A7%88%EC%9D%B4%ED%81%AC%EB%A1%9C%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98
- AMD K8 마이크로아키텍처 (r4 판) - 나무위키, https://namu.wiki/w/AMD%20K8%20%EB%A7%88%EC%9D%B4%ED%81%AC%EB%A1%9C%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98?rev=4
- Low End Mac’s Guide to Apple A-Series Processors, https://lowendmac.com/2015/low-end-macs-guide-to-apple-a-series-processors/
- Apple A4 chip, iPad vs. the competition - CNET, https://www.cnet.com/science/apple-a4-chip-ipad-vs-the-competition/
- A4 to A5: How Apple outflanked its fragmented competition in silicon - AppleInsider, https://appleinsider.com/articles/19/11/07/a4-to-a5-how-apple-outflanked-its-fragmented-competition-in-silicon
- The Ojo-Yoshida Report | Jim Keller’s Journey from CPUs to CEO - Tenstorrent, https://tenstorrent.com/vision/the-ojo-yoshi-report-jim-kellers-journey-from-cpus-to-ceo
- AMD ZEN 마이크로아키텍처 - 나무위키, https://namu.wiki/w/AMD%20ZEN%20%EB%A7%88%EC%9D%B4%ED%81%AC%EB%A1%9C%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98
- [인사이트] 자율주행 칩 ‘테슬라·엔비디아·인텔·퀄컴 주목’ 테마 - 파이낸스스코프, https://www.finance-scope.com/article/view/scp202408270004
- [인터뷰] ‘반도체 설계 전설’ 짐 켈러 “AI, 모든 소프트웨어 대체 확신 …, https://biz.chosun.com/it-science/ict/2024/06/10/KQNNUVXDP5AFPCYROQNO57EEEU/
- 테슬라, 자율주행 칩 독자 개발… 불붙은 성능 경쟁 - KIPOST(키포스트), https://www.kipost.net/news/articleView.html?idxno=200946
- AI Day: 커지는 기술 격차 - 미래에셋증권, https://securities.miraeasset.com/bbs/maildownload/2021082307022077_2929
- Jim Keller Resigns from Intel, Effective Immediately - Hacker News, https://news.ycombinator.com/item?id=23496083
- Jim Keller apparently left Intel 2020 because of “disagreement over outsourcing production”, https://www.reddit.com/r/intel/comments/z3set6/jim_keller_apparently_left_intel_2020_because_of/
- Jim Keller and his pioneering work on chip design and architecture | Hacker News, https://news.ycombinator.com/item?id=37011282
- Jim Keller on Moore’s Law, Microprocessors, and Designing Chips from Scratch, https://www.techpowerup.com/270197/jim-keller-on-moores-law-microprocessors-and-designing-chips-from-scratch
- An AnandTech Interview with Jim Keller: ‘The Laziest Person at Tesla’ : r/Amd - Reddit, https://www.reddit.com/r/Amd/comments/o2hg4r/an_anandtech_interview_with_jim_keller_the/
- ‘반도체 전설’ 짐 켈러 “AI 비용 낮추고 오픈소스로 혁신이뤄야”(종합 …, https://www.yna.co.kr/view/AKR20231107037151003
- ‘반도체 전설’ 짐 켈러 “RISC-V 생태계 발전 빠르다” - 전자부품 전문 …, https://www.thelec.kr/news/articleView.html?idxno=23939
- [인터뷰] ‘반도체 설계의 전설’ 짐 켈러 “韓 정부, 스타트업부터 키워야”, https://news.einfomax.co.kr/news/articleView.html?idxno=4300424
- 이것 모르면 망한다…AI 반도체 패권 전쟁에 뜬 新무기 | 한국경제, https://www.hankyung.com/article/202407129742i
- 짐 켈러의 Tenstorrent, RISC-V 기반 GPU 대체 하드웨어 Grayskull 출시 - 읽을거리&정보공유, https://discuss.pytorch.kr/t/tenstorrent-risc-v-gpu-grayskull/3739
- Wormhole™ - Tenstorrent, https://tenstorrent.com/hardware/wormhole
- Exploring Fast Fourier Transforms on the Tenstorrent Wormhole - arXiv, https://arxiv.org/html/2506.15437v1
- Assessing Tenstorrent’s RISC-V MatMul Acceleration Capabilities - arXiv, https://arxiv.org/html/2505.06085v1
- LG전자, 천재 반도체 공학자 짐 켈러의 ’텐스토렌트’와 전략적 협업..AI 반도체 역량 확 키운다, https://www.aitimes.kr/news/articleView.html?idxno=32760
- Specifications/Requirements — Home 1.0 documentation, https://docs.tenstorrent.com/aibs/wormhole/specifications.html
- Tenstorrent.pdf, http://riscv.epcc.ed.ac.uk/assets/files/hpcasia25/Tenstorrent.pdf
- [인터뷰] ‘반도체의 전설’ 짐 켈러, 삼성전자, 현대차와 협업 보폭 넓힌다, https://koreajoongangdaily.joins.com/news/2024-04-01/englishStudy/currentIssues/%EC%9D%B8%ED%84%B0%EB%B7%B0-%EB%B0%98%EB%8F%84%EC%B2%B4-%EC%B9%A9%EC%9D%98-%EC%A0%84%EC%84%A4-%EC%A7%90-%EC%BC%88%EB%9F%AC-%EC%82%BC%EC%84%B1%EC%A0%84%EC%9E%90-%ED%98%84%EB%8C%80%EC%B0%A8%EC%99%80-%ED%98%91%EC%97%85-%EB%B3%B4%ED%8F%AD-%EB%84%93%ED%9E%8C%EB%8B%A4/2014187
- ‘반도체 사대천황’ 짐 켈러가 대한민국 반도체에 대하여 말하다! (짐 켈러 텐스토렌트 CEO) | 광화문 초대석 - YouTube, https://www.youtube.com/watch?v=v_HbgT6GzAw