Booil Jung

NVIDIA AGX 플랫폼

NVIDIA AGX 플랫폼은 자율 머신과 복잡한 엣지 인공지능(AI) 워크로드라는 신흥 분야를 위해 특별히 설계된 Jetson 제품군의 고성능 계층으로 정의된다.1 이 보고서는 AGX 시리즈를 단순한 하드웨어가 아닌, 하드웨어, 소프트웨어, 그리고 개발자 생태계가 융합되어 로보틱스, 자율주행차, 지능형 기기 분야에서 기존에는 해결할 수 없었던 문제들을 해결하는 통합 플랫폼으로 조명하고자 한다.

AGX 플랫폼의 핵심 가치는 콤팩트하고 전력 제약이 있는 시스템 온 모듈(System-on-Module, SoM) 폼팩터 내에서 서버급 AI 컴퓨팅 성능을 제공하는 데 있다.5 이는 필수적인 성능이 부족한 기존의 임베디드 시스템이나, 크기, 전력, 지연 시간 제약으로 인해 엣지 환경에 배포하기 부적합한 데이터센터 GPU와 뚜렷한 대조를 이룬다. NVIDIA가 사용하는 ‘AGX’라는 명칭은 ‘자율 머신 가속 기술(Autonomous Machines Accelerator Technology)’의 약어로, 이는 단순한 브랜드명을 넘어 전략적 포지셔닝을 명확히 보여준다.8 이는 일반적인 ‘임베디드 시스템’을 초월하여, 실패가 용납되지 않는 고위험, 실시간 의사결정 분야를 겨냥하고 있음을 시사한다. 이러한 브랜딩은 산업용 로봇, 자율 물류, 의료 기기와 같은 고부가가치 시장을 목표로 하며, Jetson 제품군 내에서 성능과 기능에 따른 뚜렷한 계층화를 형성한다.

본 보고서는 Xavier에서 Orin으로 이어지는 아키텍처의 발전 과정, 핵심적인 소프트웨어 스택, 성능 분석, 실제 적용 사례, 경쟁 환경 분석, 그리고 차세대 Thor로 향하는 미래 로드맵에 이르기까지 AGX 플랫폼을 다각적으로 분석하여 포괄적인 이해를 제공할 것이다.

Jetson 제품군은 CPU, GPU, 가속기, 메모리 등 핵심 처리 장치를 단일 모듈에 통합하는 SoM 패러다임을 채택하고 있다.4 이 접근 방식은 개발자들이 표준화된 고성능 컴퓨팅 코어를 활용하면서 특정 입출력(I/O) 요구사항에 맞는 캐리어 보드 설계에 집중할 수 있도록 한다. 특히 Jetson AGX Xavier와 AGX Orin 모듈은 동일한 100mm x 87mm 폼팩터와 699핀 커넥터를 공유하여, 기존 시스템에서 차세대 모듈로의 직접적인 업그레이드 경로를 제공한다.10

Jetson AGX Xavier는 64개의 텐서 코어를 갖춘 512코어 NVIDIA Volta GPU를 탑재하여 출시 당시 엣지 AI 성능의 새로운 기준을 제시했다.5 이 GPU는 FP16 및 INT8 정밀도 연산을 통해 최대 32 TOPS (Trillions of Operations Per Second)의 성능을 제공했다.5

반면, Jetson AGX Orin은 NVIDIA Ampere 아키텍처로 전환하며 기념비적인 성능 향상을 이루었다. CUDA 코어는 2048개로 4배 증가했으며, 3세대 텐서 코어가 도입되었다.14 이 아키텍처 전환은 다음과 같은 핵심적인 신기능을 포함한다:

• 희소성(Sparsity): 신경망에서 값이 0인 가중치를 건너뛰어 계산을 생략하는 세분화된 컴퓨팅 구조로, 호환되는 네트워크의 처리량을 최대 2배까지 높여 상당한 효율성 증대를 가져온다.12
• TF32 (Tensor Float 32): FP32의 넓은 동적 범위와 FP16에 가까운 성능을 결합한 새로운 정밀도 형식으로, 코드 변경 없이 AI 학습 및 데이터 사이언스 모델의 속도를 높인다.12

Jetson AGX Xavier는 NVIDIA가 자체 설계한 8코어 NVIDIA Carmel (Arm v8.2) CPU를 사용했다.5 Jetson AGX Orin은 12코어 Arm Cortex-A78AE CPU로 업그레이드되었다.14 여기서 “AE(Automotive Enhanced)” 접미사는 기능 안전(Functional Safety) 관련 기능이 포함되어 있음을 암시하며, 이는 자율주행 및 고신뢰성 시스템에 매우 중요한 요소다. 이 CPU 전환을 통해 Carmel CPU 대비 약 1.7배의 성능 향상을 달성했다.14

메모리 측면에서 Xavier의 32GB LPDDR4x (137 GB/s 대역폭)는 Orin의 최대 64GB LPDDR5 (204.8 GB/s 대역폭)로 대폭 개선되었다.5 이렇게 증가된 대역폭은 더욱 강력해진 GPU와 CPU 코어에 데이터를 원활하게 공급하여 데이터 병목 현상을 방지하는 데 필수적이다. 또한, 내장 스토리지 역시 Xavier의 32GB eMMC 5.1에서 Orin의 64GB eMMC 5.1로 두 배 증가하여 운영체제와 애플리케이션을 위한 더 넓은 공간을 제공한다.12

• 딥러닝 가속기(DLA): 두 플랫폼 모두 듀얼 NVDLA 엔진을 탑재하고 있다. Xavier의 NVDLA 1.0에서 Orin의 NVDLA 2.0으로 진화하면서 최대 9배의 성능 향상을 이루었다. DLA는 고정 기능의 CNN(Convolutional Neural Network) 추론 작업을 GPU로부터 오프로드하여, GPU가 더 복잡한 작업에 집중할 수 있도록 해준다.4
• 비전 가속기: Xavier의 7-way VLIW 비전 프로세서는 Orin의 차세대 PVA(Programmable Vision Accelerator) v2.0으로 발전했다. 이 엔진들은 필터링, 워핑, 특징점 검출과 같은 일반적인 컴퓨터 비전 작업을 가속화하여 로봇 및 자율주행차의 인식 파이프라인에서 핵심적인 역할을 수행한다.11
• 비디오 코덱(NVENC/NVDEC): Orin은 Xavier에 비해 비디오 인코딩 및 디코딩 기능이 크게 향상되었다. 더 높은 해상도와 프레임레이트를 지원하며, 특히 효율성이 높은 AV1 코덱이 추가되어 여러 개의 고해상도 카메라 스트림을 처리하는 애플리케이션에 필수적인 성능을 제공한다.14

Xavier에서 Orin으로의 아키텍처 발전은 단순히 개별 부품의 성능을 높인 것을 넘어, 현대 AI가 직면한 병목 현상을 해결하기 위한 전략적 재설계의 결과물이다. 메모리 대역폭의 대폭적인 증가, 희소성 기능 도입, 그리고 더 강력해진 비전 및 딥러닝 가속기는 차세대 로봇과 자율 시스템의 특징인 동시적, 다중 센서 기반의 복잡한 AI 파이프라인을 지원하기 위해 유기적으로 설계되었다. 이는 과거 엣지 디바이스들이 단일 파이프라인 처리에 집중했던 것에서 벗어나, 복잡한 실제 환경에서의 자율성을 구현하기 위한 시스템 전반의 처리량 향상에 초점을 맞춘 설계 철학의 변화를 보여준다.14

“Industrial” 모듈은 확장된 작동 온도 범위(-40°C ~ 85°C), 향상된 충격 및 진동 저항성, 그리고 ECC(Error-Correcting Code) 메모리 지원과 같은 특징을 통해 차별화된다.10 이러한 기능들은 공장 바닥, 농업 현장, 항공우주 분야와 같은 열악한 환경에 AGX 플랫폼을 배포할 수 있게 한다. 특히 AGX Xavier Industrial 모듈에는 기능 안전 시스템의 핵심 요소인 안전 클러스터 엔진(Safety Cluster Engine, 듀얼 Arm Cortex-R5 코어 록스텝 구성)이 포함되어 있다.10

특징	Jetson AGX Xavier (32GB)	Jetson AGX Orin (32GB)	Jetson AGX Orin (64GB)
AI 성능	32 TOPS (INT8)	200 TOPS (INT8)	275 TOPS (INT8, 희소성 적용)
GPU 아키텍처	NVIDIA Volta	NVIDIA Ampere	NVIDIA Ampere
CUDA 코어	512	1792	2048
텐서 코어	64	56	64
GPU 최대 주파수	1.37 GHz	0.93 GHz	1.3 GHz
CPU	8코어 NVIDIA Carmel (Arm v8.2)	8코어 Arm Cortex-A78AE v8.2	12코어 Arm Cortex-A78AE v8.2
CPU 최대 주파수	2.26 GHz	2.2 GHz	2.2 GHz
메모리	32GB LPDDR4x, 137 GB/s	32GB LPDDR5, 204.8 GB/s	64GB LPDDR5, 204.8 GB/s
스토리지	32GB eMMC 5.1	64GB eMMC 5.1	64GB eMMC 5.1
DL 가속기 (DLA)	2x NVDLA v1.0	2x NVDLA v2.0	2x NVDLA v2.0
비전 가속기 (PVA)	7-Way VLIW Vision Processor	PVA v2.0	PVA v2.0
비디오 인코딩 (H.265)	4x 4K@60	1x 4K@60, 3x 4K@30	2x 4K@60, 4x 4K@30
비디오 디코딩 (H.265)	2x 8K@30	1x 8K@30, 2x 4K@60	1x 8K@30, 3x 4K@60
전력 소비	10W / 15W / 30W	15W – 40W	15W – 60W
폼팩터 / 커넥터	100mm x 87mm / 699핀	100mm x 87mm / 699핀	100mm x 87mm / 699핀

참고 자료: 5

NVIDIA AGX 플랫폼의 진정한 가치는 하드웨어 성능을 넘어, 이를 완벽하게 지원하는 성숙하고 포괄적인 소프트웨어 스택에 있다. 이 생태계는 개발자가 하드웨어의 잠재력을 최대한 활용하여 복잡한 AI 애플리케이션을 효율적으로 구축하고 배포할 수 있도록 설계되었다.

JetPack은 Jetson 플랫폼을 위한 포괄적인 소프트웨어 개발 키트(SDK)이다.24 그 핵심 구성 요소는 다음과 같다:

• Jetson Linux (L4T): Linux 커널, 부트로더, NVIDIA 드라이버, 그리고 Ubuntu 기반의 루트 파일 시스템을 포함하는 보드 지원 패키지(BSP)이다.25
• 개발자 도구: NVIDIA SDK Manager와 같은 플래싱 유틸리티, 디버깅 및 시스템 프로파일링 도구를 제공하여 개발 과정을 지원한다.27
• 클라우드 네이티브 지원: NVIDIA 컨테이너 런타임을 포함하여 엣지 환경에서 Docker와 같은 최신 DevOps 워크플로우를 사용할 수 있게 한다.25

CUDA 플랫폼은 개발자가 GPU를 그래픽 처리뿐만 아니라 범용 컴퓨팅에도 활용할 수 있게 하는 근본적인 병렬 컴퓨팅 모델이다.29 Jetson 환경에서 CUDA 드라이버는 Jetson Linux에 통합되어 있으며, CUDA 툴킷(컴파일러 및 사용자 공간 라이브러리)은 JetPack을 통해 설치된다.32 최근 NVIDIA는 CUDA 툴킷 업데이트를 JetPack/BSP 업데이트와 분리하여, 개발자들이 전체 OS를 재설치하지 않고도 최신 CUDA 버전을 유연하게 사용할 수 있도록 개선했다.32

CUDA Deep Neural Network 라이브러리(cuDNN)는 딥러닝 신경망을 위한 GPU 가속 라이브러리이다.31 이는 컨볼루션, 풀링, 정규화, 활성화 함수와 같은 표준 루틴에 대해 고도로 최적화된 구현을 제공한다.36 PyTorch, TensorFlow와 같은 주요 딥러닝 프레임워크에 통합되어 성능 엔진 역할을 수행하며, AI 개발자가 복잡한 GPU 프로그래밍 없이도 하드웨어 가속의 이점을 누릴 수 있게 한다.30

TensorRT는 고성능 딥러닝 추론 옵티마이저 및 런타임이다.38 그 역할은 훈련된 모델을 가져와 대상 하드웨어에서 최소한의 지연 시간과 최대의 처리량을 달성하도록 최적화하는 것이다. 이 과정은 여러 단계로 이루어진다:

1. 모델 가져오기: TensorFlow, PyTorch, ONNX 형식의 훈련된 모델을 입력으로 받는다.38
2. 그래프 최적화: 컨볼루션과 활성화 계층을 하나의 연산으로 병합하는 등의 계층 융합(Layer Fusion) 기술을 통해 커널 실행 오버헤드와 메모리 사용량을 줄인다.38
3. 정밀도 보정: 정확도 손실을 최소화하면서 모델을 FP16, INT8과 같은 저정밀도로 보정하여 텐서 코어에서의 처리량을 극적으로 향상시킨다.38
4. 커널 자동 튜닝: 대상 GPU(예: AGX Orin의 Ampere GPU)에 가장 빠른 커널 구현을 자동으로 선택한다.

최종적으로 생성된 고도로 최적화된 “추론 엔진”은 하드웨어의 성능을 최대한으로 끌어낸다.38

NVIDIA는 핵심 스택 위에 특정 애플리케이션 영역을 위한 SDK를 구축하여 개발을 더욱 가속화한다:

• NVIDIA DeepStream: 스마트 시티 및 리테일 애플리케이션에 필수적인 효율적인 AI 기반 비디오 분석 파이프라인 구축 툴킷이다.25
• NVIDIA Isaac: 로보틱스를 위한 종합 플랫폼으로, 시뮬레이션 도구(Isaac Sim)와 하드웨어 가속 ROS 패키지(Isaac ROS)를 제공한다.3
• NVIDIA Riva: 자동 음성 인식(ASR) 및 텍스트 음성 변환(TTS)을 포함한 대화형 AI 애플리케이션 구축용 SDK이다.25
• NVIDIA TAO Toolkit: NGC 카탈로그의 사전 훈련된 모델을 사용하여 전이 학습을 통해 AI 모델 훈련을 단순화하고 가속화하는 프레임워크이다.25

이러한 소프트웨어 스택은 NVIDIA의 강력한 전략적 해자(moat) 역할을 한다. 경쟁사들이 이론적인 TOPS 수치가 비슷한 칩을 설계할 수는 있지만, CUDA, cuDNN, TensorRT 생태계에 10년 이상 투자된 개발, 최적화, 커뮤니티 구축의 역사를 쉽게 복제할 수는 없다. Postmates와 Cainiao 같은 실제 성공 사례에서 TensorRT를 통해 40배 이상의 추론 속도 향상을 달성했다는 점은, 원시 하드웨어 성능이 정교한 소프트웨어 최적화를 통해서만 현실 세계의 애플리케이션 성능으로 변환될 수 있음을 명확히 보여준다.43 따라서 개발자가 AGX 모듈을 선택하는 것은 단순히 실리콘을 구매하는 것이 아니라, 생산성을 극대화하고 개발 시간을 단축시키는 포괄적인 수직 통합 개발 플랫폼에 투자하는 것이다.

계층	구성 요소 및 기능
애플리케이션 프레임워크	DeepStream (비전 AI 파이프라인), Isaac (로보틱스 시뮬레이션 및 배포), Riva (대화형 AI)
추론 및 훈련	TensorRT (추론 최적화), TAO Toolkit (전이 학습)
핵심 AI 가속	cuDNN (딥러닝 기본 요소), CUDA-X 라이브러리 (수학, 신호 처리 라이브러리)
병렬 컴퓨팅 플랫폼	CUDA Toolkit (컴파일러, API, 런타임)
운영체제 및 드라이버	JetPack SDK (Jetson Linux/L4T, NVIDIA 드라이버)

참고 자료: 24

AGX 플랫폼의 성능을 나타내는 핵심 지표는 TOPS이다. Xavier의 32 INT8 TOPS와 비교하여 Orin은 희소성 기술을 적용했을 때 최대 275 INT8 TOPS의 성능을 제공한다.11 흔히 언급되는 “8배 성능 향상” 주장은 Orin의 희소성 적용 성능과 Xavier의 밀집(dense) 성능을 비교한 것으로, 최대 처리량을 달성하기 위해서는 신경망 아키텍처가 중요함을 시사한다.46 밀집 네트워크의 경우, 성능 향상은 약 4.3배(138 TOPS 대 32 TOPS)에 가깝다.17

MLPerf와 같은 표준화된 벤치마크 결과는 이러한 성능 차이를 객관적으로 입증한다. BERT, ResNet-50과 같은 다양한 모델에서 Orin은 Xavier에 비해 지연 시간과 처리량 모두에서 상당한 우위를 보인다.26 또한, 대규모 언어 모델(LLM)이나 3D 시맨틱 세분화와 같은 특정 작업에 대한 학술 연구에서도 Jetson AGX Orin의 우수한 실제 성능 데이터가 확인되고 있다.13

AGX 모듈은 다양한 구성 가능한 전력 모드를 제공한다. 예를 들어, Xavier는 10W, 15W, 30W 모드를, Orin은 15W, 30W, 40W, 60W 등의 모드를 지원하여 애플리케이션의 요구사항에 맞게 성능과 전력 소비를 조절할 수 있다.11 Orin의 최대 전력 소비는 60W~75W로 Xavier의 30W보다 높지만, 성능 향상 폭이 훨씬 크기 때문에 전반적인 와트당 성능(효율성)은 더 우수하다.14

실제 전력 소비는 워크로드에 따라 크게 달라지며, 지속적인 고부하 상태에서는 명시된 전력 모드의 한계를 초과할 수도 있다.52 흥미로운 점은, 특정 상황에서는 Jetson Orin Nano가 동일한 15W 전력 모드에서 Jetson AGX Orin보다 더 나은 성능을 보일 수 있다는 것이다. 이는 AGX Orin이 DLA와 PVA를 위해 전력 예산을 할당하는 반면, Orin Nano는 전체 예산을 GPU에 집중하기 때문이다. 이는 워크로드에 맞는 최적의 구성이 중요함을 보여주는 사례다.54

성능 저하(스로틀링)를 방지하고 시스템 안정성을 보장하기 위해서는 적절한 열 관리 솔루션이 필수적이다.55 사용 가능한 솔루션은 다음과 같다:

• 패시브 방열판: 팬 없이 자연 대류에 의존하는 방식으로, 저전력 모드나 소음 및 신뢰성이 중요한 환경에 적합하다.57
• 액티브 방열판: 팬을 통합하여 강제 대류를 통해 열을 식히는 방식으로, 고성능 모드에서 지속적인 작동을 위해 필요하다.57
• 히트 스프레더 / 열 전달 플레이트(TTP): 모듈에서 발생한 열을 더 큰 섀시나 인클로저로 전도시키는 방식으로, 견고하고 밀폐된 시스템에서 흔히 사용된다.57

ATS, Connect Tech, Advantech와 같은 서드파티 공급업체들은 AGX 모듈을 위한 기성품 및 맞춤형 열 관리 솔루션을 제공하여 시스템 통합을 지원한다.61

AGX 플랫폼의 전력 및 열 관리 하위 시스템은 부가적인 기능이 아니라 핵심 설계 요소이다. 다양한 전력 모드와 견고한 열 솔루션의 필요성은 NVIDIA가 단일 고정 성능 칩이 아닌, ‘전력 인지’ 성능 툴킷을 제공하고 있음을 보여준다. 이를 통해 시스템 설계자는 최대 성능, 지속 성능, 에너지 소비 사이에서 중요한 절충안을 마련하여, 드론의 배터리 수명이나 공장 로봇의 연속 가동과 같은 특정 애플리케이션의 제약 조건에 맞게 시스템을 최적화할 수 있다. 따라서 열 관리 솔루션의 선택은 최종 액세서리가 아닌, 최우선적인 설계 결정 사항이 된다.

AGX 플랫폼의 주력 시장은 단연 자율 로봇 분야다. 고성능 AI 추론, 다중 센서 처리, 특수 가속기의 조합은 SLAM(동시적 위치추정 및 지도작성), 인식, 경로 계획, 조작과 같은 작업에 이상적이다.4

• 사례 연구: Postmates Serve 배달 로봇: Jetson AGX Xavier가 LiDAR와 결합하여 Serve 로봇의 도시 보도 자율 주행을 어떻게 구현하는지 보여준다. 이들은 TensorFlow로 모델을 훈련하고 TensorRT를 사용하여 40배 이상의 추론 속도 향상을 달성했으며, 이는 소프트웨어 스택의 결정적인 역할을 입증한다.43
• 사례 연구: Cainiao 물류 차량: Cainiao는 자율 물류 차량의 기존 x86 기반 시스템을 단일 Jetson AGX Xavier 모듈로 교체했다. 이를 통해 AI 모델 성능 10배 향상, 전력 소비 90% 감소, 그리고 단 4주 만의 신속한 소프트웨어 이식이라는 주요 이점을 얻었다. 이는 플랫폼의 효율성과 용이성을 잘 보여준다.45
• 사례 연구: 창고 AMR: AGX Orin 기반의 서라운드 뷰 카메라 시스템은 창고 로봇이 정밀하게 기동할 수 있게 하여 수동 개입의 필요성을 줄이고 운영 효율성을 향상시킨다.66

NVIDIA의 전용 자동차 플랫폼은 DRIVE AGX이지만, Jetson AGX 시리즈는 자율 주행 기능 및 차량 내 경험 프로토타이핑에 빈번하게 사용된다.1 또한, 교통 신호등과 같은 인프라에 Jetson AGX Orin과 같은 컴퓨팅 장치를 설치하여 차량 외부에서 더 넓은 시야를 확보하고 자율 주행을 지원하는 ‘인프라 기반 자율성’ 개념도 부상하고 있다.68 스마트 시티 분야에서는 DeepStream SDK를 활용하여 교통 카메라 피드를 실시간으로 분석하고 차량, 보행자 등을 식별하여 지능형 교통 관리 시스템의 기반을 마련한다.41

NVIDIA Clara AGX는 Jetson AGX Xavier 모듈과 NVIDIA RTX 6000 GPU를 결합한 특수 플랫폼으로, 초음파, 내시경, 현미경과 같은 의료 기기 내 AI 개발 및 배포를 위한 강력한 임베디드 컴퓨터 역할을 한다.1 이를 통해 의료 영상 스트림의 실시간 분석, 휴대용 기기를 이용한 현장 진단 보조(예: 당뇨병성 망막증 검사), 수술 로봇의 작업 자동화 등이 가능하다.71

AGX Orin은 트랙터 운전석에 설치되어 작물과 잡초를 실시간으로 구별하는 정밀 분사나 수확량 모니터링과 같은 3D 비전 시스템을 구동하는 데 사용된다.42 최대 50대의 카메라를 장착할 수 있는 자율 트랙터의 복잡한 인식 시스템에는 AGX Orin의 다중 카메라 지원과 높은 처리 능력이 필수적이다.75

이러한 사례들은 AGX 플랫폼이 점진적인 개선이 아닌, 새로운 가능성을 여는 ‘기반 기술(enabling technology)’임을 명확히 보여준다. 이 플랫폼은 클라우드나 데이터센터에서만 가능했던 복잡한 AI 워크로드를 엣지 단으로 직접 이동시켰다. 이는 낮은 지연 시간, 높은 대역폭, 운영 자율성이 필수적인 애플리케이션에 핵심적이다. 클라우드 의존적인 AI에서 엣지 네이티브 AI로의 전환은 AGX 플랫폼이 가져온 가장 중요한 기술적, 경제적 영향이다.

AGX 시리즈는 엣지 AI SoM 시장의 성능 피라미드 최상단에 위치하며, 복잡한 작업을 위한 최대의 연산 능력을 제공하는 데 그 가치가 있다.

NVIDIA의 GPU 기반 접근 방식은 TensorFlow Lite 모델 가속에 특화된 ASIC(주문형 반도체)인 Google의 Edge TPU와 대조된다.76 Coral은 2-4W의 낮은 전력 소비와 양자화된 모델에 대한 초저지연 추론에서 뛰어나지만, AGX는 15W 이상의 전력을 소비하는 대신 훨씬 우수한 원시 성능과 프레임워크 유연성(PyTorch, TensorFlow, CUDA 커널 등)을 제공한다.76 따라서 Coral은 단일 모델을 실행하는 비용 효율적인 대량 생산 제품에, AGX는 복잡한 다중 작업을 수행하는 고성능 시스템에 적합하다.

• NXP i.MX 8M Plus: 2.3 TOPS 성능의 NPU를 탑재하고 있지만, 이는 AGX 시리즈에 비해 성능이 현저히 낮아 하이엔드 자율성보다는 산업용 HMI나 머신 비전 시장을 겨냥한다.79
• Qualcomm Robotics RB5: 15 TOPS의 NPU 성능으로 저가형 Jetson 모듈과 경쟁하지만 AGX와는 격차가 있다. 5G 통합, 저전력(~7W), 강력한 DSP가 강점으로, 연결성이 중요한 배터리 구동 드론 및 로봇에 유리하다. 그러나 GPU 성능이 상대적으로 약하고 성숙한 CUDA 생태계가 부재하다.80

결론적으로 NVIDIA의 가장 큰 경쟁 우위는 JetPack, CUDA, TensorRT로 구성된 포괄적인 소프트웨어 스택과 방대한 개발자 커뮤니티에 있다. 이 생태계는 개발 시간을 단축시키고 경쟁사들이 쉽게 모방하기 어려운 수준의 지원을 제공한다.76

엣지 AI 하드웨어 시장은 단일 시장이 아니라 여러 계층으로 분화되고 있다. NVIDIA의 AGX 플랫폼은 ‘고성능’ 계층을 창출하고 지배하며, 경쟁사들은 ‘전력 효율적’(Google Coral) 또는 ‘고집적 애플리케이션 프로세서’(NXP/Qualcomm) 부문에 집중하고 있다. NVIDIA는 가격이나 전력으로 경쟁하기보다, 성능이 최우선 제약 조건인 애플리케이션을 대상으로 압도적인 컴퓨팅 능력을 제공하는 전략을 취하고 있다.

주요 지표	NVIDIA Jetson AGX Orin (64GB)	Google Coral Dev Board	Qualcomm Robotics RB5	NXP i.MX 8M Plus
AI 성능 (TOPS)	275 (INT8, 희소성)	4 (INT8)	15 (INT8)	2.3
CPU	12코어 Arm Cortex-A78AE	4코어 Arm Cortex-A53	8코어 Kryo 585	4코어 Arm Cortex-A53
GPU	2048코어 Ampere	Vivante GC7000 Lite	Adreno 650	Vivante GC7000UL
전력 소비	15W – 60W	2W – 4W	~7W (최대)	~5W
프레임워크 지원	TensorFlow, PyTorch, ONNX, CUDA	TensorFlow Lite	TensorFlow, ONNX	TensorFlow, ONNX
연결성	10GbE, PCIe Gen4	Wi-Fi, Bluetooth	Wi-Fi 6, 5G (옵션)	듀얼 GbE
핵심 차별점	최고의 AI 성능, 성숙한 CUDA/TensorRT 생태계	극도의 전력 효율성, 저비용	통합 5G, 강력한 DSP	산업용 I/O, 실시간 제어

참고 자료: 50

개발자가 AGX 플랫폼을 처음 접할 때, 일반적으로 호스트 PC에서 NVIDIA SDK Manager를 사용하거나 SD 카드에 이미지를 기록하여 JetPack OS를 플래싱하는 것으로 시작한다.83 그러나 이 초기 단계는 초보자에게 상당한 장벽이 될 수 있다. 개발자 포럼에는 복구 모드에서 장치 인식 실패, SDK Manager 오류, 부팅 파티션 손상 등 좌절감을 주는 문제들에 대한 논의가 빈번하게 올라온다.85

일반적인 문제점 중 하나는 pip를 통해 설치된 PyTorch와 Torchvision이 Jetson의 ARM64 아키텍처와 호환되지 않는 경우다. 개발자는 NVIDIA가 제공하는 사전 빌드된 wheel 파일을 수동으로 설치하거나 소스에서 직접 컴파일해야 하는데, 이는 복잡한 과정일 수 있다.84 또한, 프로젝트가 특정 CUDA 버전을 요구할 때, JetPack 기본 버전과 달라 발생하는 버전 관리의 복잡성도 존재한다. 이는

PATH와 LD_LIBRARY_PATH 환경 변수를 수동으로 설정해야 하는 등 호환성 문제를 야기할 수 있다.35

Docker는 재현 가능한 환경을 만들고 배포를 단순화하는 데 큰 이점을 제공한다.8 하지만 Jetson 플랫폼에서 Docker를 사용하는 개발자들은 NVIDIA 컨테이너 런타임 문제, 데몬 연결 오류, 시스템 업데이트 후 발생하는 호환성 파괴 등 빈번하고 심각한 문제에 직면한다.89 이러한 문제들은 종종 커널 설정 불일치나 종속성 충돌에서 비롯된다.

이러한 복잡성 때문에 NVIDIA 개발자 포럼이나 Reddit과 같은 커뮤니티는 문제 해결을 위한 핵심적인 자원이 된다.92 공식 문서가 때로는 오래되거나 불완전할 수 있어, 복잡한 하드웨어 및 소프트웨어 문제를 해결하는 데 동료 개발자들의 지원이 필수적이다.95

결론적으로, AGX 플랫폼의 강력한 기능과 초기 개발자 경험 사이에는 상당한 격차가 존재한다. 하드웨어와 최적화된 소프트웨어 라이브러리는 최고 수준이지만, 설정, 구성, 환경 관리 과정은 직관적이지 않고 까다로운 단계들로 가득 차 있다. 이러한 가파른 학습 곡선은 깊은 임베디드 리눅스 경험이 없는 팀에게는 채택의 주요 장벽이 될 수 있다. 따라서 커뮤니티 포럼의 강력한 지원은 플랫폼 가치 제안의 비공식적이지만 매우 중요한 부분을 차지한다.

NVIDIA는 GTC와 같은 행사를 통해 Blackwell, Rubin 등 새로운 아키텍처를 매년 발표하는 일관된 리듬을 유지하는 전략을 취하고 있다. 이는 대규모 배포를 계획하는 고객들에게 장기적인 예측 가능성을 제공한다.96

Jetson AGX Thor는 휴머노이드 로봇과 같은 가장 까다로운 물리적 AI 애플리케이션을 위해 설계된 AGX 제품군의 차세대 주자이다.98 공개된 T5000 모듈의 사양은 다음과 같다:

• GPU: 96개의 5세대 텐서 코어를 갖춘 2560코어 NVIDIA Blackwell 아키텍처.98
• CPU: 14코어 Arm Neoverse-V3AE로, CPU 성능이 대폭 향상되었다.98
• 메모리: 273 GB/s 대역폭의 128GB LPDDR5X.98
• AI 성능: 약 2000 FP4 TOPS / 1000 FP8 TOPS로, AGX Orin 대비 약 7.5배의 경이적인 성능 향상을 보인다.98

• 연결성: 4x25 GbE 네트워킹 및 PCIe Gen5와 같은 고급 I/O를 포함하여 방대한 센서 데이터 융합을 위해 설계되었다.98

• 엣지에서의 생성형 AI: Thor의 막대한 성능은 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)을 클라우드 지연 시간 없이 장치에서 직접 실행하는 것을 목표로 한다. 이는 더 자연스러운 인간-로봇 상호작용과 진보된 추론 능력을 가능하게 한다.98
• 물리적 AI와 휴머노이드 로봇: 범용 휴머노이드 로봇의 개발은 Thor와 같은 플랫폼의 핵심 동인이다. 이 로봇들은 이족 보행, 정교한 조작, 실시간 상호작용을 처리하기 위해 막대한 온보드 연산 능력을 필요로 한다.104
• 디지털 트윈과 시뮬레이션: 로봇을 실제 세계에 배포하기 전에 가상 환경에서 훈련하고 테스트하는 시뮬레이션(NVIDIA Omniverse, Isaac Sim)의 중요성이 커지고 있다. 하드웨어 로드맵은 이러한 시뮬레이션 우선 접근 방식과 긴밀하게 통합되어 있다.25

Orin에서 Thor로의 도약은 ‘엣지 AI’의 정의에 대한 질적인 변화를 의미한다. Orin이 복잡한 판별형 AI 모델(분류, 탐지)을 엣지에서 실행하는 기술을 완성했다면, Thor는 대규모 생성형 AI 및 파운데이션 모델(LLM, VLM)을 엣지에서 실행하도록 명시적으로 설계되었다. 이는 자율 머신을 단순히 인지하고 반응하는 도구에서, 자연어로 이해하고, 추론하며, 소통할 수 있는 파트너로 변화시킬 것이다.

특징	Jetson AGX Orin (64GB)	Jetson AGX Thor (T5000 Module)
AI 성능	275 TOPS (INT8, 희소성)	1000 TOPS (FP8/INT8)
GPU 아키텍처	NVIDIA Ampere	NVIDIA Blackwell
GPU 코어	2048 CUDA 코어, 64 텐서 코어	2560 CUDA 코어, 96 텐서 코어
CPU 아키텍처	12코어 Arm Cortex-A78AE	14코어 Arm Neoverse-V3AE
메모리	64GB LPDDR5, 204.8 GB/s	128GB LPDDR5X, 273 GB/s
최대 전력	60W	130W
네트워킹	1x 10GbE, 1x 1GbE	4x 25GbE, 1x 5GbE

참고 자료: 98

NVIDIA AGX 플랫폼은 동급 최고의 성능, 성숙한 소프트웨어 생태계의 결정적인 역할, 여러 고부가가치 산업에서의 입증된 성공, 그리고 명확하고 야심찬 미래 로드맵을 특징으로 한다. 동시에, 개발자를 위한 복잡성과 가파른 학습 곡선이라는 과제도 안고 있다. AGX 플랫폼 채택에 가장 이상적인 대상은 실시간 성능이 타협 불가능한 요구사항인 복잡한 다중 센서 자율 시스템을 개발하고, 정교한 임베디드 리눅스 환경을 관리할 수 있는 엔지니어링 역량을 보유한 조직이다.

• 신규 도입 기업: 프로토타이핑을 위해 공식 개발자 키트로 시작하는 것이 필수적이다. 초기 설정, 환경 구성, 소프트웨어 스택 학습에 상당한 엔지니어링 시간을 예산에 반영할 것을 권장한다.
• 시스템 아키텍트: 단순한 TOPS 수치를 넘어선 종합적인 평가가 필요하다. 성능 요구사항과 함께 전력 예산, 열 제약, 그리고 NVIDIA 소프트웨어 생태계의 장기적인 이점을 종합적으로 고려해야 한다. 전력이나 비용이 최우선 제약 조건인 애플리케이션의 경우, 대안 플랫폼이 더 적합할 수 있다.
• 장기 계획: Jetson AGX 플랫폼 채택은 지속적으로 진화하는 생태계에 대한 투자이다. 세대 간 소프트웨어 호환성과 Thor로 이어지는 명확한 로드맵은 빠르게 변화하는 엣지 하드웨어 시장에서 보기 드문 미래 보장성을 제공한다.

최종적으로, NVIDIA AGX 시리즈는 단순한 부품이 아니라, 물류, 제조에서부터 헬스케어, 농업에 이르기까지 산업을 재정의할 차세대 지능형 자율 머신을 위한 근본적인 컴퓨팅 엔진으로 자리매김하고 있다.

1. 고성능 자율주행 자동차를 위한 차량 내 컴퓨팅 - NVIDIA, accessed July 19, 2025, https://www.nvidia.com/ko-kr/solutions/autonomous-vehicles/in-vehicle-computing/
2. [NVIDIA 소개 시리즈 2탄] NVIDIA Jetson 소개 : Hancom&Shop - 공지사항 - 한컴앤샵, accessed July 19, 2025, https://hancomnshop.co.kr/notice/?bmode=view&idx=160823401
3. 자율 기계를 위한 AI 플랫폼 NVIDIA Jetson Kit - 리더스시스템즈, accessed July 19, 2025, https://leaderssys.com/sub/embedded_view01.php
4. NVIDIA Jetson AGX Xavier for New Era of AI in Robotics - Assured Systems, accessed July 19, 2025, https://www.assured-systems.com/nvidia-jetson-agx-xavier-for-new-era-of-ai-in-robotics/
5. NVIDIA Jetson AGX Xavier : MDS테크, accessed July 19, 2025, https://www.mdstech.co.kr/AGXXavier
6. (어쩌면) 로봇 공학 분야를 위한 히든카드 - Jetson Xavier, accessed July 19, 2025, https://jetsonaicar.tistory.com/35
7. The future of robotics with NVIDIA® Jetson AGX Orin - BRESSNER Technology GmbH, accessed July 19, 2025, https://www.bressner.de/en/news/industrial-news/the-future-of-robotics
8. Getting Started with Docker and AI workloads on NVIDIA Jetson AGX Xavier Developer Platform - Collabnix, accessed July 19, 2025, https://collabnix.com/getting-started-with-docker-and-ai-on-nvidia-jetson-agx-xavier-developer-platform/
9. NVIDIA Jetson AGX Xavier Module delivers 32 TeraOPS for robots, accessed July 19, 2025, https://www.therobotreport.com/nvidia-jetson-agx-xavier-module/
10. 까다로운 엣지에서 AI 제공 NVIDIA Jetson AGX Xavier Industrial Module 공개, accessed July 19, 2025, https://blogs.nvidia.co.kr/blog/jetson-agx-xavier-industrial-use-ai/?nv_excludes=6510,6518
11. NVIDIA Jetson AGX Xavier 엔비디아코리아 정품 - 리더스시스템즈, accessed July 19, 2025, https://leaderssys.com/sub/nvidia/jetson/jetson_agx_xavier.php
12. Compare NVIDIA Jetson AGX Orin with AGX Xavier: 8x AI performance, in-advance Ampere GPU, CPU, Memory & Storage - Latest News from Seeed Studio, accessed July 19, 2025, https://www.seeedstudio.com/blog/2022/03/17/compare-nvidia-jetson-agx-orin-with-agx-xavier-6x-ai-performance-in-advance-ampere-gpu-cpu-memory-storage/
13. Are We Ready for Real-Time LiDAR Semantic Segmentation in Autonomous Driving? - arXiv, accessed July 19, 2025, https://arxiv.org/pdf/2410.08365
14. What is the difference between Nvidia Jetson Orin and the AGX …, accessed July 19, 2025, https://www.assured-systems.com/faq/what-is-the-difference-between-nvidia-jetson-orin-and-the-agx-javier-soms/

15. NVIDIA Jetson AGX Orin Development Guide

    RidgeRun, accessed July 19, 2025, https://developer.ridgerun.com/wiki/index.php/NVIDIA_Jetson_Orin

16. What is the NVIDIA Orin Series? What are the building blocks of …, accessed July 19, 2025, https://www.e-consystems.com/blog/camera/technology/what-is-the-nvidia-orin-series-what-are-the-building-blocks-of-nvidia-orin/
17. The Cube of AI Power: A Hands-on Review of the NVIDIA Jetson AGX Orin Developer’s Kit, accessed July 19, 2025, https://www.hackster.io/news/the-cube-of-ai-power-a-hands-on-review-of-the-nvidia-jetson-agx-orin-developer-s-kit-0c48c240d54a
18. NVIDIA Jetson AGX Orin Series Technical Brief v1.2, accessed July 19, 2025, https://www.nvidia.com/content/dam/en-zz/Solutions/gtcf21/jetson-orin/nvidia-jetson-agx-orin-technical-brief.pdf
19. Jetson Orin advantages over Xavier AGX - CPU - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/jetson-orin-advantages-over-xavier-agx-cpu/201600
20. AGX Orin vs AGX Xavier: Jetson Ampere GPU Brings 8x AI Performance - Things Embedded, accessed July 19, 2025, https://things-embedded.com/us/white-paper/agx-orin-vs-agx-xavier-jetson-ampere-gpu-brings-8x-ai-performance/
21. Our NVIDIA Jetson Orin and NVIDIA Jetson Xavier comparison - Génération Robots - Blog, accessed July 19, 2025, https://www.generationrobots.com/blog/en/our-nvidia-jetson-orin-and-nvidia-jetson-xavier-comparison/
22. NVIDIA Jetson AGX Xavier Industrial - MDS테크, accessed July 19, 2025, https://www.mdstech.co.kr/JAXindustrial
23. NVIDIA Jetson AGX Orin™ Industrial - MDS테크, accessed July 19, 2025, https://www.mdstech.co.kr/AGXOrini
24. NVIDIA JetPack SDK Documentation, accessed July 19, 2025, https://docs.nvidia.com/jetson/jetpack/index.html
25. Jetson Software - NVIDIA Developer, accessed July 19, 2025, https://developer.nvidia.com/embedded/develop/software
26. NVIDIA Jetson Orin을 통해 최첨단 서버급 성능 제공하기, accessed July 19, 2025, https://developer.nvidia.com/ko-kr/blog/delivering-server-class-performance-at-the-edge-with-nvidia-jetson-orin/
27. Nvidia Jetson Xavier NX 보드에 SDK Manager로 JetPack 설치하기 - 개준생의 공부 일지, accessed July 19, 2025, https://eteo.tistory.com/883
28. Jetson AGX Xavier Developer Kit, accessed July 19, 2025, https://developer.nvidia.com/downloads/jetson-agx-xavier-developer-kit-user-guide
29. NVIDIA Jetpack - velog, accessed July 19, 2025, https://velog.io/@jk01019/NVIDIA-Jetpack
30. 엔비디아 CUDA 플랫폼은? ( AI 및 딥러닝 소프트웨어 ) - 테크뷰 블로그, accessed July 19, 2025, https://reviewinsight.blog/2025/01/23/%EC%97%94%EB%B9%84%EB%94%94%EC%95%84-cuda-%ED%94%8C%EB%9E%AB%ED%8F%BC%EC%9D%80-ai-%EB%B0%8F-%EB%94%A5%EB%9F%AC%EB%8B%9D-%EC%86%8C%ED%94%84%ED%8A%B8%EC%9B%A8%EC%96%B4/
31. nvidia driver & CUDA & CuDNN 이란? - velog, accessed July 19, 2025, https://velog.io/@jk01019/nvidia-driver-CUDA-CuDNN-%EC%9D%B4%EB%9E%80
32. NVIDIA Jetson 사용자를 위한 CUDA 업그레이드 간소화, accessed July 19, 2025, https://developer.nvidia.com/ko-kr/blog/nvidia-jetson-%EC%82%AC%EC%9A%A9%EC%9E%90%EB%A5%BC-%EC%9C%84%ED%95%9C-cuda-%EC%97%85%EA%B7%B8%EB%A0%88%EC%9D%B4%EB%93%9C-%EA%B0%84%EC%86%8C%ED%99%94/
33. Steps to flash L4T to Jetson AGX Xavier and to install CUDA , cuDNN, and TensorRT. - NVIDIA Developer, accessed July 19, 2025, https://developer.nvidia.com/downloads/jetpack-43-developer-preview-installation-instructions
34. Upgrading CUDA on Jetson devices - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/upgrading-cuda-on-jetson-devices/333300
35. Trouble running docker on Xavier - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/trouble-running-docker-on-xavier/263878
36. NVIDIA cuDNN, accessed July 19, 2025, https://docs.nvidia.com/cudnn/index.html
37. NVIDIA cuDNN 9로 트랜스포머 가속화, accessed July 19, 2025, https://forums.developer.nvidia.com/t/nvidia-cudnn-9/296055

38. AI on Edge Device: Revolutionizing Real-Time AI with NVIDIA TensorRT, DRP-AI TVM, and SNPE

    TMA Solutions, accessed July 19, 2025, https://www.tmasolutions.com/insights/ai-on-edge-device-revolutionizing-real-time-ai-with-nvidia-tensorrt-drp-ai-tvm-and-snpe

39. TensorRT SDK - NVIDIA Developer, accessed July 19, 2025, https://developer.nvidia.com/tensorrt
40. Understanding NVIDIA TensorRT - Valanor, accessed July 19, 2025, https://valanor.co/what-is-tensorrt/
41. 엔비디아, 차세대 오토노머스 머신 구현하는 ‘Jetson AGX Xavier 모듈’ 출시 - NVIDIA 블로그, accessed July 19, 2025, https://blogs.nvidia.co.kr/blog/nvidia-jetson-agx-xavier-module-now-available/
42. Apple of My AI: Startup Sprouts Multitasking Farm Tool for Organics - NVIDIA Blog, accessed July 19, 2025, https://blogs.nvidia.com/blog/verdant-farm-organics-jetson-orin/
43. Postmates uses NVIDIA Jetson AGX Xavier for equipped delivery robot, accessed July 19, 2025, https://resources.nvidia.com/en-us-jetson-success-stories/postmates-nvidia-agx-news?lx=XRDs_y
44. Postmates Presents New NVIDIA Jetson AGX Xavier Equipped Delivery Robot at GTC, accessed July 19, 2025, https://www.youtube.com/watch?v=pckZFC_hs50
45. CAINIAO ET LAB ADOPTS JETSON AGX XAVIER TO ACCELERATE THE DEVELOPMENT OF AUTONOMOUS LOGISTIC VEHICLES (ALVS) AI at the Edge with - NVIDIA, accessed July 19, 2025, https://developer.download.nvidia.com/assets/embedded/downloads/jetson_solution_showcase-cainiao.pdf?yFFm9UMqDqRoAZ9RfO4YPFsAVPQrJRU82qykdB3SWhcTyHJAbIqbJTbHLwMclqkvBZ0LeDWbHEl0GytdMjeitzyrDbI8LP1zUiC_E_C5Ce3S-jON-zARdra9eV9tYwnRoRA1zo84SDQgVKt0xf0hVsWUHKCkqwl28Vcy_Sg&t=eyJscyI6ImdzZW8iLCJsc2QiOiJodHRwczpcL1wvd3d3Lmdvb2dsZS5jb21cLyJ9
46. About Orin CPU performance vs Xavier CPU - Jetson AGX Orin - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/about-orin-cpu-performance-vs-xavier-cpu/208471
47. Jetson Benchmarks - NVIDIA Developer, accessed July 19, 2025, https://developer.nvidia.com/embedded/jetson-benchmarks
48. Onboard Person Retrieval System With Model Compression: A Case Study on Nvidia Jetson Orin AGX - Ahmedabad University, accessed July 19, 2025, https://ahduni.edu.in/site/assets/files/6912/onboard_person_retrieval_system_with_model_compression_a_case_study_on_nvidia_jetson_orin_agx_1.pdf
49. Understanding the Performance and Power of LLM Inferencing on Edge Accelerators - arXiv, accessed July 19, 2025, https://arxiv.org/abs/2506.09554
50. NVIDIA Jetson AGX Orin vs NVIDIA Jetson AGX Xavier - Assured Systems, accessed July 19, 2025, https://www.assured-systems.com/nvidia-jetson-agx-orin-vs-nvidia-jetson-agx-xavier/
51. NVIDIA Jetson Orin AGX - JetPack 5.0.2 - Performance Tuning - Tuning Power - RidgeRun Developer Wiki, accessed July 19, 2025, https://developer.ridgerun.com/wiki/index.php/NVIDIA_Jetson_Orin/JetPack_5.0.2/Performance_Tuning/Tuning_Power
52. Maximum power consumption bounds for Orin AGX - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/maximum-power-consumption-bounds-for-orin-agx/323456
53. Measuring maximum power consumption - Jetson AGX Orin - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/measuring-maximum-power-consumption/319008
54. Why Nvidia Nano Orin 15w give me better results in comparison to Orin AGX 15w, accessed July 19, 2025, https://forums.developer.nvidia.com/t/why-nvidia-nano-orin-15w-give-me-better-results-in-comparison-to-orin-agx-15w/230364
55. Jetson AGX Orin Series - Thermal Design Guide, accessed July 19, 2025, https://www.mouser.com/pdfDocs/Jetson_AGX_Orin_Series_TDG-10943-001_v11.pdf
56. JETSON AGX XAVIER, accessed July 19, 2025, https://static5.arrow.com/pdfs/2018/12/12/12/22/1/565659/nvda_/manual/jetson_agx_xavier_thermal_design_guide_v1.0.pdf
57. NVIDIA Jetson Thermal Design Guide: Unleash Peak AI Performance - Things Embedded, accessed July 19, 2025, https://things-embedded.com/us/white-paper/nvidia-jetson-thermal-design-guide-unleash-peak-ai-performance/
58. Connect Tech Passive Heatsink for the NVIDIA Jetson AGX Orin - WDL Systems, accessed July 19, 2025, https://www.wdlsystems.com/Connect-Tech-Forge-Passive-Heatsink-for-the-NVIDIA-Jetson-AGX-Orin
59. Aluminum heatsink with Fan for Jetson AGX Orin - Seeed Studio, accessed July 19, 2025, https://www.seeedstudio.com/Aluminum-heatsink-with-Fan-for-Jetson-AGX-Orin-p-5970.html
60. Heat Sink for NVIDIA® Jetson AGX Xavier™ / AGX Orin™ - Advanced Thermal Solutions, Inc., accessed July 19, 2025, https://www.qats.com/DataSheet/ATS-NVA-3275-C1-R0
61. Heat Sink for NVIDIA @ Jetson ™ Modules - Advanced Thermal Solutions, Inc., accessed July 19, 2025, https://www.qats.com/eShop.aspx?q=Device%20Specific%20-%20NVIDIA

62. Nvidia Jetson Xavier AGX, Orin AGX Heat Sinks

    Thermal - DigiKey, accessed July 19, 2025, https://www.digikey.com/en/products/filter/thermal/heat-sinks/nvidia-jetson-xavier-agx-orin-agx/219?s=N4IgjCBcoMwKwHYqgMZQGYEMA2BnApgDQgBuAdlAC4BOArkSAPZQDaICAbAtwEwgC6xAA6UoIAMo0AlmQDmIAL5KgA

63. NVIDIA Jetson Solutions - Advantech, accessed July 19, 2025, https://www.advantech.com/en-us/products/edge-ai-jetson-system/sub_9140b94e-bcfa-4aa4-8df2-1145026ad613
64. Embedded Systems - NVIDIA Jetson Success Stories, accessed July 19, 2025, https://resources.nvidia.com/l/en-us-jetson-success-stories
65. Cainiao ET Lab adopt Jetson AGX Xavier to accelerate the … - NVIDIA, accessed July 19, 2025, https://resources.nvidia.com/en-us-jetson-success-stories/jetson-cianiao-et-lab
66. How NVIDIA Jetson AGX Orin™ helps unlock the power of surround-view camera solutions, accessed July 19, 2025, https://www.roboticstomorrow.com/article/2024/11/how-nvidia-jetson-agx-orin-helps-unlock-the-power-of-surround-view-camera-solutions/23524/
67. NVIDIA Jetson Success Stories, accessed July 19, 2025, https://resources.nvidia.com/en-us-global-public-sector/jetson-ss-web-page
68. NVIDIA Jetson AGX Orin: AI로 주행하는 자동차의 주차는 ‘알아서 척척 …, accessed July 19, 2025, https://blogs.nvidia.co.kr/blog/seoul-robotics-autonomy-through-infrastructure/
69. 전세계 헬스케어 스타트업, AI 기반 의료기기 개발에 엔비디아 ‘클라라 AGX 개발자 키트’ 채택, accessed July 19, 2025, https://all4chip.com/archive/all4chip_view.php?no=12316
70. 차세대 AI 의료기기의 방향성 제시할 엔비디아 SDK 공개 - NVIDIA 블로그, accessed July 19, 2025, https://blogs.nvidia.co.kr/blog/clara-agx-high-performance-development-kit-medical-devices/

71. AI Platform for Autonomous Machines

    NVIDIA Jetson AGX Xavier, accessed July 19, 2025, https://www.nvidia.com/ko-kr/autonomous-machines/jetson-agx-xavier/

72. NVIDIA Jetson Nano, NVIDIA Jetson TX2 NX, NVIDIA Jetson Xavier NX

    Mistral Blog - Mistral Solutions, accessed July 19, 2025, https://www.mistralsolutions.com/blog/nvidia-jetson-modules-use-cases-part-2/

73. Building Real-time Dermatology Classification with NVIDIA Clara AGX, accessed July 19, 2025, https://developer.nvidia.com/blog/building-real-time-dermatology-classification-with-nvidia-clara-agx/
74. How AI and Nvidia are rewiring the food chain, accessed July 19, 2025, https://www.rs-online.com/designspark/how-ai-and-nvidia-are-rewiring-the-food-chain
75. Popular embedded vision use cases of NVIDIA® Jetson AGX Orin™ - e-con Systems, accessed July 19, 2025, https://www.e-consystems.com/blog/camera/applications/popular-embedded-vision-use-cases-of-nvidia-jetson-agx-orin/
76. Edge-AI Accelerators (Jetson vs Coral TPU): A Detailed Comparison for Developers, accessed July 19, 2025, https://thinkrobotics.com/blogs/learn/edge-ai-accelerators-jetson-vs-coral-tpu-a-detailed-comparison-for-developers

77. Google Coral Edge TPU vs NVIDIA Jetson Nano: A quick deep dive into EdgeAI performance

    by Sam Sterckval

    Medium, accessed July 19, 2025, https://medium.com/@samsterckval/google-coral-edge-tpu-vs-nvidia-jetson-nano-a-quick-deep-dive-into-edgeai-performance-bc7860b8d87a

78. Nvidia jetson nano or raspberry pi 4 + google coral usb accelerator : r/JetsonNano - Reddit, accessed July 19, 2025, https://www.reddit.com/r/JetsonNano/comments/jouz00/nvidia_jetson_nano_or_raspberry_pi_4_google_coral/
79. Top 10 processors for AI acceleration at the endpoint - Electronic Products, accessed July 19, 2025, https://www.electronicproducts.com/top-10-processors-for-ai-acceleration-at-the-endpoint/
80. Qualcomm Robotics RB5 - Why RB5/RB6 - RidgeRun Developer Wiki, accessed July 19, 2025, https://developer.ridgerun.com/wiki/index.php/Qualcomm_Robotics_RB5/Introduction/Platform_Comparison
81. Qualcomm Announces RB5 Robotics Platform - A Powerful SBC, accessed July 19, 2025, https://www.anandtech.com/show/15856/qualcomm-announces-rb5-robotics-platform-a-powerful-sbc
82. Google Coral vs Jetson Nano : r/MLQuestions - Reddit, accessed July 19, 2025, https://www.reddit.com/r/MLQuestions/comments/bbgngd/google_coral_vs_jetson_nano/
83. NVIDIA JETSON AGX XAVIER 소개 및 설정 방법 - Medium, accessed July 19, 2025, https://medium.com/coredottoday/nvidia-jetson-agx-xavier-%EC%86%8C%EA%B0%9C-%EB%B0%8F-%EC%84%A4%EC%A0%95-%EB%B0%A9%EB%B2%95-f9c00f669680
84. Quick Start Guide: NVIDIA Jetson with Ultralytics YOLO11, accessed July 19, 2025, https://docs.ultralytics.com/guides/nvidia-jetson/
85. Jetson AGX Orin - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/jetson-agx-orin/260123
86. Jetson AGX Orin Developer Kit - Getting started, accessed July 19, 2025, https://forums.developer.nvidia.com/t/jetson-agx-orin-developer-kit-getting-started/259136
87. How to install multi-version CUDA on Jetson AGX Orin? - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/how-to-install-multi-version-cuda-on-jetson-agx-orin/320927
88. How to specify which CUDA to use - Jetson AGX Orin - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/t/how-to-specify-which-cuda-to-use/270276
89. NVDIA docker container error in jetson agx orin dev kit 64gb – jetpack 6.2, accessed July 19, 2025, https://forums.developer.nvidia.com/t/nvdia-docker-container-error-in-jetson-agx-orin-dev-kit-64gb-jetpack-6-2/324725
90. Issue Starting Docker on Nvidia Jetson AGX Orin EVK with JetPack 36.3 - Errors Related to iptables, accessed July 19, 2025, https://forums.docker.com/t/issue-starting-docker-on-nvidia-jetson-agx-orin-evk-with-jetpack-36-3-errors-related-to-iptables/144706
91. Creating Containers Using nvidia-docker with AGX Xavier, accessed July 19, 2025, https://forums.developer.nvidia.com/t/creating-containers-using-nvidia-docker-with-agx-xavier/145909
92. Latest Jetson & Embedded Systems topics - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/c/robotics-edge-computing/jetson-embedded-systems/70
93. Latest Jetson AGX Xavier topics - NVIDIA Developer Forums, accessed July 19, 2025, https://forums.developer.nvidia.com/c/robotics-edge-computing/jetson-embedded-systems/jetson-agx-xavier/75
94. New Nvidia Jetson AGX Thor developer kit specs : r/LocalLLaMA - Reddit, accessed July 19, 2025, https://www.reddit.com/r/LocalLLaMA/comments/1lvtp4h/new_nvidia_jetson_agx_thor_developer_kit_specs/
95. What happened to the NVIDIA Developer Forums? : r/JetsonNano - Reddit, accessed July 19, 2025, https://www.reddit.com/r/JetsonNano/comments/1jgujs4/what_happened_to_the_nvidia_developer_forums/
96. NVIDIA GTC 2025: NVIDIA’s Roadmap for AI in Datacenter, Desktops, and Robots - Techsponential, accessed July 19, 2025, https://www.techsponential.com/reports/gtc2025
97. Nvidia Draws GPU System Roadmap Out To 2028 - The Next Platform, accessed July 19, 2025, https://www.nextplatform.com/2025/03/19/nvidia-draws-gpu-system-roadmap-out-to-2028/
98. NVIDIA Jetson AGX Thor Developer Kit - Silicon HIghway, accessed July 19, 2025, https://www.siliconhighway.com/wp-content/robotics-and-edge-ai-datasheet-jetson-thor-devkit-nvidia-us-web.pdf
99. NVIDIA Jetson Thor: New SoC Features Guide - RidgeRun Developer Wiki, accessed July 19, 2025, https://developer.ridgerun.com/wiki/index.php/NVIDIA_Jetson_Thor:_Powering_the_Future_of_Physical_AI

100. Jetson Modules, Support, Ecosystem, and Lineup

     NVIDIA Developer, accessed July 19, 2025, https://developer.nvidia.com/embedded/jetson-modules

101. Jetson Thor specifications announced : r/JetsonNano - Reddit, accessed July 19, 2025, https://www.reddit.com/r/JetsonNano/comments/1jhdtw3/jetson_thor_specifications_announced/
102. Toward Edge General Intelligence with Multiple-Large Language Model (Multi-LLM): Architecture, Trust, and Orchestration - arXiv, accessed July 19, 2025, https://arxiv.org/html/2507.00672
103. Inside Gen AI & LLMs: Core Architecture to Future Trends - ExcelR, accessed July 19, 2025, https://www.excelr.com/blog/artificial-intelligence/cutting-edge-generative-ai-llm-innovations-gen-ai
104. Explore What’s Next in AI From NVIDIA GTC 2025, accessed July 19, 2025, https://www.nvidia.com/gtc/

105. Robotic Trends in 2025: Innovations Transforming Industries

     Robotnik ®, accessed July 19, 2025, https://robotnik.eu/robotic-trends-in-2025-innovations-transforming-industries/

106. TOP 5 Global Robotics Trends 2025 - International Federation of Robotics, accessed July 19, 2025, https://ifr.org/ifr-press-releases/news/top-5-global-robotics-trends-2025