dusty-nv/jetson-containers 이란?

dusty-nv/jetson-containers 이란?

2025-11-15, G25DR

1. jetson-containers의 정의와 핵심 목적

1.1 jetson-containers의 공식 정의

jetson-containers는 GitHub 저장소 dusty-nv/jetson-containers에서 호스팅되는 오픈소스 프로젝트이다.1 이 프로젝트의 공식 설명은 “NVIDIA Jetson 및 JetPack-L4T를 위한 머신 러닝 컨테이너 (Machine Learning Containers for NVIDIA Jetson and JetPack-L4T)“이다.2 이는 해당 프로젝트가 NVIDIA Jetson 임베디드 하드웨어 플랫폼과 JetPack 소프트웨어 개발 키트(SDK)에 고도로 특화되어 있음을 명확히 한다.

이 프로젝트는 NVIDIA의 수석 Jetson 개발자인 더스틴 프랭클린(Dustin Franklin, dusty-nv)에 의해 주도 및 관리된다.4 그는 jetson-utils(멀티미디어 유틸리티), jetson-inference(고성능 추론 라이브러리), NanoLLM(Jetson 최적화 LLM) 등 Jetson 생태계의 다른 핵심 AI 프로젝트들 또한 관리하고 있다.4

1.2 ’모듈형 컨테이너 빌드 시스템’으로서의 정체성

jetson-containers는 단순히 사전 빌드된 Docker 이미지의 정적 집합이 아니다. 그 본질은 “최신 AI/ML 패키지를 제공하는 모듈형 컨테이너 빌드 시스템(modular container build system)“으로 정의된다.2

이 ‘모듈형’ 특성은 사용자가 개별 소프트웨어 ’패키지’를 레고 블록처럼 선택하여 자신만의 커스텀 컨테이너 이미지를 ’빌드(build)’할 수 있음을 의미한다.2 예를 들어, 개발자는 pytorch, transformers, ros:humble-desktop과 같은 개별 패키지 구성요소를 지정하여 이들 모두가 포함된 단일 컨테이너 이미지를 생성할 수 있다.2

1.3 핵심 목적: Jetson AI 개발의 단순화, 최신화, 가속화

프로젝트의 근본적인 목적은 NVIDIA Jetson 플랫폼에서 복잡다단한 AI 및 머신러닝 개발 환경을 구축하는 과정을 근본적으로 단순화하는 것이다.

NVIDIA는 NGC(NVIDIA GPU Cloud)를 통해 공식적으로 튜닝되고 안정화된 컨테이너(예: l4t-base, l4t-pytorch)를 제공한다.5 반면, jetson-containers는 vLLM, SGLang, Stable Diffusion 등 급변하는 오픈소스 AI 생태계의 최신 패키지들을 Jetson 개발자들이 신속하게 테스트하고 사용할 수 있도록 지원하는 ‘민첩성 계층(Agility Layer)’ 역할을 수행한다.2

이러한 특성으로 인해 jetson-containers는 Jetson Generative AI Lab의 공식 튜토리얼을 실행하고, 생성형 AI 애플리케이션을 Jetson에 배포하는 표준 방법론으로 채택되었다.2

1.4 jetson-containers의 전략적 위치: 공식과 커뮤니티의 교차점

jetson-containers는 NVIDIA 소속의 핵심 전문가가 4 개인 GitHub 저장소에서 관리하는 독특한 위치에 존재한다. 이는 기술적, 전략적 의미를 가진다.

첫째, 이는 NVIDIA의 공식 NGC 릴리즈 프로세스가 가진 엄격함과 장기 지원 부담 5에서 벗어나, 생성형 AI와 같이 급변하는 7 최신 AI 트렌드를 Jetson 생태계에 신속하게 도입하기 위한 전략적 선택으로 분석된다. 즉, NVIDIA의 공식 기술 지원(예: l4t-base 8)이 제공하는 안정성과, 오픈소스 커뮤니티의 속도 및 다양성 2을 결합하는 하이브리드 모델이다.

둘째, jetson-containers는 jetson-inference 9, NanoLLM 4 등 dusty-nv가 관리하는 다른 핵심 Jetson AI 애플리케이션을 실행하기 위한 기반 배포 플랫폼(base deployment platform) 역할을 수행한다. jetson-inference와 같은 프로젝트는 Docker 컨테이너 실행을 공식적으로 지원하며 9, jetson-containers는 이들 애플리케이션을 구동하는 표준화된 ’런타임 환경’을 제공한다. 결과적으로, 이 프로젝트는 여러 개별 프로젝트 간의 복잡한 상호 의존성을 관리하는 핵심 인프라로 작동한다.

2. Jetson 개발 환경의 과제와 jetson-containers의 해결책

2.1 문제 정의: 엣지 컴퓨팅의 ‘종속성 지옥(Dependency Hell)’

NVIDIA Jetson 플랫폼은 하드웨어(예: Jetson Orin, Xavier)와 시스템 소프트웨어(JetPack/L4T, CUDA, cuDNN, TensorRT)가 매우 긴밀하게 결합된 아키텍처를 가진다.10 이러한 긴밀한 결합은 고성능을 보장하는 동시에, 개발자에게 심각한 ’종속성 지옥(Dependency Hell)’을 야기한다.

실제 개발 현장에서 발생하는 문제는 다음과 같이 구체화된다:

  1. 하드웨어/소프트웨어 비호환: 구형 하드웨어 사용자는 최신 소프트웨어 스택 도입에 장벽을 겪는다. 예를 들어, Jetson Xavier NX 사용자는 공식적으로 지원되지 않는 최신 ROS 2 Jazzy를 네이티브로 설치할 수 없다. 이 문제를 해결할 사실상 유일한 방법은 Docker 컨테이너를 사용하는 것이다.11
  2. 라이브러리 충돌: 동일한 호스트 시스템 내에 상충하는 버전의 라이브러리를 설치하는 것은 불가능에 가깝다. 대표적으로 TensorFlow 1.x와 TensorFlow 2.x를 동시에 필요로 하는 프로젝트 12 또는 Python 2.7(ROS Melodic)과 Python 3(최신 ML 프레임워크) 간의 충돌 13은 고질적인 문제다.14
  3. 호스트 환경의 취약성: 개발자는 애플리케이션 로직 개발보다 환경 설정에 막대한 시간을 소모한다. Jetson 포럼과 GitHub 이슈 트래커에는 pip 의존성 설치 실패 15, apt 패키지 관리 문제 16, 호스트 리눅스 커널과 Docker 런타임 버전 간의 호환성 충돌 17 등에 대한 보고가 빈번하다. 일례로, JetPack 6 환경에서 Docker 28.0 릴리즈가 커널과 호환되지 않아, 수동으로 27.5.1 버전으로 다운그레이드해야만 했던 실제 사례가 보고되었다.17

2.2 해결책 1: ‘Cloud-Native’ 접근 방식을 통한 환경 격리

jetson-containers는 ‘Cloud-Native’ 개발 방식, 즉 컨테이너 기술을 엣지 디바이스에 적용하여 이 문제를 해결한다.18

컨테이너는 애플리케이션과 해당 애플리케이션이 필요로 하는 모든 런타임 종속성(라이브러리, 프레임워크 등)을 하나의 실행 가능한 유닛(executable unit)으로 패키징한다.5

이는 호스트 환경으로부터의 완벽한 ’격리(Isolation)’를 제공한다.5 즉, 호스트 OS(NVIDIA L4T)와 컨테이너 내부의 애플리케이션 환경(‘Userland’)을 논리적으로 분리한다.19

이러한 격리가 제공하는 핵심 이점은 다음과 같다:

  • 종속성 충돌 해결: 서로 다른 라이브러리 14나 프레임워크 버전(예: TensorFlow 1.15와 2.3.1) 12을 사용하는 여러 애플리케이션을 동일한 Jetson 장치에서 충돌 없이 동시에 실행할 수 있다.14
  • 배포 용이성 및 재현성: 애플리케이션 구동에 필요한 모든 것이 컨테이너 이미지 내부에 패키징되어 있으므로 5, “내 개발용 Jetson에서는 작동했는데, 배포용 Jetson에서는 실패한다“와 같은 고전적인 배포 문제를 원천적으로 차단한다.18

2.3 해결책 2: 개발 및 배포 워크플로우의 표준화

컨테이너는 애플리케이션, 모든 종속성, 그리고 환경 변수를 컨테이너 이미지에 단 한 번만 설치(install)하는 것을 가능하게 한다.14 이렇게 생성된 이미지는 개발자의 랩탑, 테스트용 Jetson, 그리고 최종 프로덕션 환경에 배포된 수백 대의 Jetson 장치에서 정확히 동일하게 실행된다.

jetson-containers는 사실상 Jetson 환경 20을 위한 표준 ‘devcontainer’(개발 컨테이너) 21처럼 작동하여, 팀 전체가 동일한 개발 환경을 공유하도록 강제하고 표준화한다.

2.4 jetson-containers의 경제적, 기술적 가치

이 프로젝트의 가치는 단순한 편의성을 넘어선다.

첫째, jetson-containers는 하드웨어의 유효 수명(effective lifespan)을 극적으로 연장시킨다. 앞서 언급된 Jetson Xavier NX에서 최신 ROS Jazzy를 실행하는 사례 11는, 이 프로젝트가 없었다면 수백 달러 가치의 “구형” 하드웨어가 최신 소프트웨어 스택을 실행하지 못해 사실상 폐기되었을 것임을 시사한다. jetson-containers는 애플리케이션 스택을 호스트의 고정된 JetPack 버전으로부터 분리(decoupling)함으로써, 구형 하드웨어에서도 최신 AI 및 로보틱스 소프트웨어를 실행할 수 있게 한다. 이는 기업과 연구소의 하드웨어 투자 가치를 보존하는 핵심 역할을 한다.

둘째, 이 프로젝트는 Jetson 개발에 필요한 암묵적 ’부족 지식(tribal knowledge)’을 명시적 ’자동화 코드’로 전환한다. 특정 Docker 버전과 커널의 호환성 문제 17나 특정 pip 패키지의 설치 실패 15와 같은 장애물은 공식 문서에 명시되지 않은, 경험 많은 개발자만이 아는 ’팁’에 속한다. jetson-containers의 빌드 스크립트는 dusty-nv와 같은 최고 전문가의 문제 해결 노하우와 수많은 시행착오를 코드화한 것이다. 사용자는 이 스크립트를 실행하는 것만으로, 수십 시간을 절약하고 전문가의 최적화된 환경 설정을 그대로 복제할 수 있다.

3. jetson-containers 아키텍처 및 핵심 구성요소 분석

3.1 기반 기술: NVIDIA 컨테이너 런타임 (NVIDIA Container Runtime)

Jetson 플랫폼에서 GPU 가속 컨테이너가 가능한 기술적 기반은 JetPack 4.2.1부터 “NVIDIA Container Runtime with Docker integration“이 포함되었기 때문이다.22

이는 데스크톱이나 서버 GPU 아키텍처와는 다르게 작동한다. Jetson은 임베디드 환경의 스토리지 공간 절약과 드라이버 호환성을 위해, 컨테이너가 호스트 파일시스템에 이미 설치된 GPU 드라이버 라이브러리 23를 런타임에 동적으로 마운트(mount)하는 방식을 사용한다.22

이러한 아키텍처로 인해, Jetson에서 docker run 명령어를 실행할 때는 --runtime nvidia와 같은 특수 플래그가 반드시 필요하다. NVIDIA의 공식 튜토리얼에서 제공하는 L4T-base 컨테이너 실행 예시 명령어(sudo docker run -it --rm --net=host --runtime nvidia...) 5가 길고 복잡한 이유가 바로 이것이다.

3.2 jetson-containers의 추상화 계층: 핵심 유틸리티 4가지

jetson-containers는 위에서 설명한 Jetson 컨테이너 런타임의 복잡성(3.1)을 사용자로부터 숨기고, 4가지 핵심 유틸리티를 통해 높은 수준의 추상화 계층을 제공한다.

  1. packages 디렉토리 (모듈형 정의):

이 프로젝트는 거대한 단일 Dockerfile로 관리되지 않는다. 대신, 수백 개의 개별 ‘패키지’ 정의가 포함된 packages 디렉토리를 기반으로 한다.2 pytorch, ros:humble 등 각 패키지는 자신을 빌드하는 데 필요한 스크립트와 Dockerfile 조각을 독립적으로 포함한다.

  1. jetson-containers build (의존성 기반 빌더):

이는 사용자가 원하는 패키지 조합을 인수로 받아 2 의존성을 자동으로 분석하고 올바른 순서대로 이미지를 빌드하는 ’메타-빌더(meta-builder)’다. 12에서 사용자가 docker_build_ml.sh 스크립트 내부의 기본 TensorFlow 이미지를 TF1.15에서 TF2.3으로 변경하여 커스텀 ML 컨테이너를 재빌드하는 예시는, 이 시스템이 모듈식으로 설계되었음을 명확히 보여준다.

  1. autotag (자동 호환성 탐지기):

사용자의 현재 JetPack/L4T 버전을 자동으로 감지하여, 이에 호환되는 컨테이너 이미지 태그를 찾아주는 핵심 스크립트다.2 autotag는 이 프로젝트의 사용자 친화성을 극대화하는 가장 중요한 요소 중 하나다. NVIDIA NGC의 l4t-pytorch 공식 페이지만 보더라도 JetPack 4.4부터 5.1까지 9개 이상의 복잡한 버전 태그가 존재한다.24 개발자 포럼에는 “어떤 베이스 이미지를 사용해야 하는가?“라는 질문 25이 빈번하게 올라올 정도로 이 버전 매칭은 개발자에게 큰 고통이다. autotag는 이 복잡한 “태그 매트릭스“를 탐색하는 과정을 완벽하게 자동화하여, “그냥 내 Jetson에서 작동하는 버전을 실행해달라“는 사용자의 암묵적 요구를 단 하나의 명령어로 해결한다.

  1. jetson-containers run (지능형 실행 래퍼):

이는 docker run 명령어의 래퍼(wrapper) 스크립트다.26 이 스크립트는 Jetson에서 GPU 가속을 사용하기 위해 필수적인 –runtime nvidia 플래그를 자동으로 추가한다.2 또한, 데이터 지속성(persistence)을 위해 /data 캐시 볼륨 등 공통 볼륨을 자동으로 마운트한다.2 결과적으로, jetson-containers run $(autotag l4t-pytorch) 2라는 단순한 명령어가 5/5에 명시된 길고 복잡한 수동 docker run 명령어를 완벽하게 대체한다.

3.3 컨테이너 이미지 계층 구조 (Image Hierarchy)

jetson-containers를 통해 빌드된 이미지들은 명확한 계층 구조를 따른다:

  • Layer 0: l4t-base

NVIDIA가 공식 배포하는 L4T(Linux for Tegra) 베이스 이미지다.8 JetPack의 기본 Userland를 제공하며, 호스트 시스템의 드라이버를 마운트하는 로직을 포함한다.23

  • Layer 1: NVIDIA Runtime Containers

l4t-base를 기반으로 하며, 특정 런타임을 포함한다. 예: l4t-cuda (CUDA 런타임 포함), l4t-tensorrt (CUDA, cuDNN, TensorRT 포함) 23, l4t-pytorch (PyTorch 사전 설치) 24 등이 있다.8

  • Layer 2: jetson-containers Custom Images

dusty-nv에 의해 빌드되는 커스텀 이미지다. 예를 들어, dustynv/ros:humble-pytorch-l4t-r35.3.1 27와 같은 이미지는 Layer 1의 l4t-pytorch 이미지를 기반으로 ROS, Transformers 등 추가 패키지를 조합하여 빌드된다.28

4. 지원 소프트웨어 스택 및 생태계 상세

4.1 jetson-containers 지원 소프트웨어 스택 매트릭스

jetson-containers는 Jetson 플랫폼에서 실행 가능한 사실상 모든 최신 AI/ML 및 로보틱스 소프트웨어 스택을 지원한다. 지원되는 패키지의 범위는 방대하며, 주요 카테고리는 다음 표와 같이 요약할 수 있다.2

카테고리주요 지원 패키지
핵심 MLpytorch, tensorflow, jax, onnxruntime, jupyterlab, scikit-learn, pandas
LLM (대규모 언어 모델)vLLM, SGLang, MLC, transformers, text-generation-webui, ollama, llama.cpp
VLM (시각-언어 모델)llava, llama-vision, VILA, NanoLLM, Prismatic
VIT (Vision Transformer)NanoOWL, NanoSAM, Segment Anything (SAM), clip_trt
RAG (검색 증강 생성)llama-index, langchain, jetson-copilot, NanoDB, FAISS
생성형 (Graphics)Stable Diffusion (webui, comfyui, sdnext), Diffusers
로보틱스 (Robotics)ROS (Humble, Foxy) 2, LeRobot, OpenVLA, Isaac Sim
CUDA 가속cupy, cuda-python, pycuda, cv-cuda, opencv:cuda, numba
음성/오디오 (Speech)whisper, whisper_trt, piper-tts, riva-client, audiocraft
시뮬레이션 (Sim)Isaac Sim, Habitat Sim, MuJoCo, PhysX
L4T (NVIDIA 특화)l4t-pytorch, l4t-tensorflow, l4t-ml, l4t-diffusion

4.2 동적 버전 관리: JetPack, CUDA, TensorRT 호환성

이 프로젝트는 특정 소프트웨어 버전에 고정되어 있지 않다. 대신, 사용자가 빌드 시점에 환경 변수(environment variables)를 통해 원하는 버전을 동적으로 지정할 수 있는 유연성을 제공한다.2

  • CUDA 버전 지정: CUDA_VERSION=12.6 jetson-containers build transformers와 같은 명령어를 통해 특정 CUDA 버전에 맞춰 전체 스택을 재빌드할 수 있다.2
  • 기타 버전 지정: CUDNN_VERSION, TENSORRT_VERSION, PYTHON_VERSION 등 다른 핵심 종속성 또한 유사한 방식으로 제어 가능하다.2
  • 지원 범위: 현재 이 프로젝트는 JetPack 6.2(CUDA 12.6) 및 JetPack 7(CUDA 13.x)을 공식적으로 테스트하고 지원한다.2
  • 미래 대응: 더 나아가, 차세대 운영체제인 Ubuntu 24.04 기반의 컨테이너 빌드까지 지원함으로써 미래의 JetPack 릴리즈에 대한 준비를 완료했다.2

4.3 jetson-containers 스택의 진화와 그 의미

jetson-containers가 지원하는 소프트웨어 스택의 변화는 Jetson 플랫폼의 역할 변화를 반영한다. 초기 jetson-inference 9나 l4t-ml 18 컨테이너는 사전 훈련된 모델을 *추론(inference)*하거나 JupyterLab에서 간단한 실험을 수행하는 데 중점을 두었다.

그러나 2와 2에 나열된 최신 패키지 목록에는 LeRobot(로봇 정책 훈련) 30, llama-factory(LLM 파인튜닝), xtuner, DeepSpeed 및 Stable Diffusion WebUI(이미지 생성 및 훈련) 31가 대거 포함되어 있다. 이들은 모두 파인튜닝(fine-tuning) 및 훈련(training) 프레임워크다.

이는 Jetson 플랫폼(특히 Jetson Orin 시리즈)이 단순한 ’엣지 추론 장치’를 넘어, 엣지에서 직접 데이터를 수집하고 AI 모델을 훈련 및 재훈련하는 ’온-디바이스 AI 개발 스테이션(On-Device AI Development Station)’으로 진화했음을 강력히 시사한다. jetson-containers는 이러한 패러다임의 변화를 기술적으로 가능하게 하는 핵심 도구다.

또한, 이 프로젝트는 ARM 아키텍처 개발의 근본적인 고통점을 해결한다. 2는 “컴파일하는 데 시간이 오래 걸리는” 패키지들을 언급하며 “빌드를 가속화하기 위해 wheels을 캐시하는 Pip 서버“의 존재를 명시한다. ARM(aarch64) 환경에서 PyTorch, bitsandbytes 2 같은 복잡한 C++/CUDA 의존성을 가진 Python 패키지를 소스에서 컴파일하는 것은 수 시간이 걸리거나 실패하기 쉽다. jetson-containers는 이진 파일(wheels)을 미리 컴파일하여 캐시 서버에 저장하고, 빌드 시 이를 제공함으로써 개발자의 대기 시간을 수 시간에서 수 분으로 획기적으로 단축시킨다. 이는 단순한 편의성을 넘어 Jetson에서의 실질적인 개발 생산성을 보장하는 핵심 기능이다.

5. 주요 활용 사례 및 워크플로우 심층 분석

jetson-containers가 실제로 어떻게 복잡한 AI 애플리케이션 배포를 단순화하는지는 구체적인 워크플로우를 통해 가장 잘 이해할 수 있다.

5.1 워크플로우 1: 생성형 AI - Stable Diffusion WebUI 배포

이 워크플로우는 Jetson Orin에서 인기 있는 이미지 생성 AI 도구인 Stable Diffusion WebUI를 실행하는 과정을 보여준다.31

  1. 전제 조건: Jetson AGX Orin 또는 Orin NX/Nano 31, JetPack 5 또는 6, 그리고 NVMe SSD가 필요하다. NVMe SSD는 강력히 권장되는데, 컨테이너 이미지 자체(6.8GB)와 Stable Diffusion 1.5 모델(4.1GB)이 상당한 저장 공간을 요구하기 때문이다.31

  2. 단계 1: jetson-containers 설치:

git clone https://github.com/dusty-nv/jetson-containers
bash jetson-containers/install.sh
  1. 단계 2: Stable Diffusion 실행 (단일 명령어):
jetson-containers run $(autotag stable-diffusion-webui)
  1. 명령어 분석:

이 단일 명령어는 내부적으로 복잡한 프로세스를 자동화한다.

  • $(autotag...): 사용자의 JetPack 버전에 맞는 stable-diffusion-webui 이미지 태그를 자동으로 찾는다.31
  • jetson-containers run: 이미지가 로컬에 없으면 자동으로 풀링(pull)하거나 빌드한다. 이후 --runtime nvidia 등 필수 플래그를 포함하여 컨테이너를 시작한다.
  • 컨테이너 내장 CMD: 컨테이너가 시작되면, 내장된 CMD가 자동으로 웹 서버(python3 launch.py --xformers --listen...)를 실행한다.31
  1. 결과: 사용자는 브라우저에서 http://<Jetson_IP>:7860으로 접속하여 즉시 Stable Diffusion을 사용할 수 있다.31

5.2 워크플로우 2: AI 로보틱스 - HuggingFace LeRobot 훈련

이 워크플로우는 jetson-containers를 사용하여 Jetson Orin에서 직접 로봇 팔(Koch v1.1)을 제어하고, 데이터를 수집하며, Transformer 기반 AI 정책(policy)을 훈련하는 고급 사례다.30

  1. 단계 1: 호스트(Host) 설정 (컨테이너 실행 전):

이는 단순 배포가 아닌, 하드웨어와 상호작용하는 하이브리드 워크플로우다.30

  • udev 규칙 설정: 로봇 팔(ACM 장치)이 USB에 연결될 때마다 항상 고정된 디바이스 이름(예: /dev/ttyACM_kochleader)을 갖도록 호스트 OS에 99-usb-serial.rules를 설정한다.
  • PulseAudio 설정: 데이터 수집 시 TTS(음성 안내) 피드백을 위해, 호스트의 PulseAudio 서비스가 컨테이너 내부(root 사용자)의 접근을 허용하도록 /etc/pulse/default.pa 파일을 수정한다.
  • 데이터 디렉토리 이동: 대용량 데이터셋 생성이 예상되므로, jetson-containers 및 lerobot 데이터 디렉토리를 eMMC/SD카드가 아닌 NVMe SSD로 rsync를 사용해 이동한다.
  1. 단계 2: lerobot 컨테이너 실행:
cd jetson-containers
./run.sh -v ${PWD}/data/lerobot/:/opt/lerobot/ $(./autotag lerobot)

30

여기서 핵심은 -v 플래그를 사용하여 호스트의 data/lerobot 디렉토리를 컨테이너 내부의 /opt/lerobot으로 마운트하는 것이다. 이는 훈련된 모델과 수집된 데이터셋의 영속성을 보장한다.

  1. 단계 3: 컨테이너 내부 훈련 워크플로우:

컨테이너 실행 후, 사용자는 다음의 AI 훈련 수명 주기를 Jetson 상에서 직접 수행한다.30

* Configure/Calibrate: Jupyter Notebook (7-2_real-robot_configure-motors.ipynb)을 통해 로봇 모터를 설정하고 보정한다.

* Record Dataset: 텔레오퍼레이션(수동 원격 조작)을 통해 로봇 팔의 동작 궤적 데이터를 수집한다 (python lerobot/scripts/control_robot.py record…).

* Train Policy: 수집된 데이터를 사용하여 Jetson Orin의 GPU로 직접 ACT (Action Transformer) 모델을 훈련한다 (python lerobot/scripts/train.py…).

* Evaluate Policy: 방금 훈련된 정책(모델 체크포인트)을 로드하여 로봇 팔의 자율 동작 성능을 평가한다.

5.3 워크플로우가 드러내는 아키텍처 패턴

이 두 워크플로우는 jetson-containers의 핵심 아키텍처 설계를 명확히 보여준다.

LeRobot 워크플로우 30는 Jetson Orin이 데이터 수집, 온-디바이스 훈련, 평가, 배포라는 AI 수명 주기 전체를 수행하는 ’자급자족형(self-contained) AI 로보틱스 플랫폼’이 될 수 있음을 증명한다. jetson-containers는 이 복잡한 도구 체인(ROS, PyTorch, HuggingFace, Jupyter, TTS) 30을 단일 실행 유닛으로 패키징하는 핵심 구현 기술이다.

또한, 두 워크플로우 30와 run 스크립트의 기본값 2 모두 호스트의 /data 디렉토리 마운트를 강조한다. 이는 **‘컨테이너는 일회용, 데이터는 영구적(Containers are ephemeral, data is persistent)’**이라는 의도적인 아키텍처 패턴이다. 애플리케이션 코드를 담은 컨테이너는 언제든 삭제, 업데이트, 교체(예: stable-diffusion-webui를 ComfyUI로 교체)할 수 있다. 하지만 사용자가 생성한 귀중한 자산(AI 모델, 데이터셋, 설정 파일, 생성된 이미지)은 호스트의 NVMe SSD 30에 영구적으로 보존된다.

6. 결론: jetson-containers의 의미와 향후 전망

6.1 Jetson 생태계에 대한 기여 요약

jetson-containers는 NVIDIA Jetson 플랫폼에서의 AI 개발 패러다임을 근본적으로 변화시켰다. 이 프로젝트는 개별 개발자가 수동으로 환경을 설정하고 빈번한 장애물 15을 해결해야 했던 ’높은 마찰(high-friction)’의 영역에서, ‘Cloud-Native’ 원칙 18에 기반한 표준화되고 자동화된 ‘낮은 마찰(low-friction)’ 워크플로우로 개발 환경을 전환시켰다.

본질적으로 jetson-containers는 엣지 디바이스 개발에 서버급의 개발 민첩성과 배포 재현성을 부여한다.

6.2 미래 전망: 차세대 AI 스택의 신속한 도입 창구

이 프로젝트는 이미 JetPack 6/7 및 차세대 Ubuntu 24.04 컨테이너를 지원 2함으로써 미래의 Jetson 릴리즈에 대한 준비를 완료했다.

생성형 AI의 폭발적인 발전 속도를 공식 NGC 릴리즈 프로세스가 따라잡기 어려워지는 상황 7에서, jetson-containers의 자동화된 Docker Hub 푸시 시스템이 그 기술적 격차를 메우는 역할을 수행하고 있다.

따라서 jetson-containers는 앞으로도 NVIDIA Jetson 하드웨어와 폭발적으로 증가하는 오픈소스 AI 혁명(LLM, VLM, Mamba 등) 2을 연결하는 가장 빠르고 핵심적인 기술적 다리 역할을 계속 수행할 것이다.

6.3 jetson-containers의 본질: 엣지 AI 환경을 위한 메타-프레임워크

결론적으로, jetson-containers는 단순한 컨테이너 모음집이나 스크립트의 집합을 넘어, ‘AI 환경 SDK(Software Development Kit)’ 또는 ‘메타-프레임워크(Meta-Framework)’ 로 진화했다.

build 2, run 2, autotag 2와 같은 고유한 유틸리티, Pip 캐시 서버 2, 그리고 packages 디렉토리 2로 대표되는 모듈형 정의 시스템을 통해, 개발자는 더 이상 완성된 이미지를 pull하는 수동적인 소비자에 그치지 않는다. 대신, jetson-containers build pytorch transformers ros 2처럼 필요한 구성요소를 *조합(compose)*하여 자신만의 커스텀 개발 환경을 설계하는 능동적인 주체가 된다.

이는 Dockerfile을 직접 다루는 것보다 한 차원 높은 추상화 수준이며, jetson-containers가 Jetson 플랫폼에 완벽하게 특화된 ’AI 컴퓨팅 환경 패키지 매니저’로서 작동함을 의미한다.

7. Works cited

  1. Pull requests · dusty-nv/jetson-containers - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers/pulls
  2. dusty-nv/jetson-containers: Machine Learning Containers … - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers
  3. Releases · dusty-nv/jetson-containers - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers/releases
  4. Dustin Franklin dusty-nv - GitHub, accessed November 15, 2025, https://github.com/dusty-nv
  5. Your First Jetson Container | NVIDIA Developer, accessed November 15, 2025, https://developer.nvidia.com/embedded/learn/tutorials/jetson-container
  6. Jetson Community Projects - NVIDIA Developer, accessed November 15, 2025, https://developer.nvidia.com/embedded/community/jetson-projects
  7. Are L4T containers discontinued? : r/JetsonNano - Reddit, accessed November 15, 2025, https://www.reddit.com/r/JetsonNano/comments/1imtfxm/are_l4t_containers_discontinued/
  8. NVIDIA L4T Base - NGC Catalog, accessed November 15, 2025, https://catalog.ngc.nvidia.com/orgs/nvidia/containers/l4t-base
  9. dusty-nv/jetson-inference: Hello AI World guide to deploying deep-learning inference networks and deep vision primitives with TensorRT and NVIDIA Jetson. - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-inference
  10. Jetson Containers - Introduction - Code Pyre, accessed November 15, 2025, https://codepyre.com/2019/07/jetson-containers-introduction/
  11. Jetson docker vs native : r/ROS - Reddit, accessed November 15, 2025, https://www.reddit.com/r/ROS/comments/1jr2gtt/jetson_docker_vs_native/
  12. How can I create my custom containers for Jetson Nano - NVIDIA Developer Forums, accessed November 15, 2025, https://forums.developer.nvidia.com/t/how-can-i-create-my-custom-containers-for-jetson-nano/174053
  13. How to run Machine Learning (PyTorch, Tensorflow) with ROS Melodic/Python 2.7? - Reddit, accessed November 15, 2025, https://www.reddit.com/r/ROS/comments/n1rf1x/how_to_run_machine_learning_pytorch_tensorflow/
  14. Containers For Deep Learning Frameworks User Guide - NVIDIA Docs, accessed November 15, 2025, https://docs.nvidia.com/deeplearning/frameworks/user-guide/index.html
  15. Jetson-containers fails to install dependencies from the jetson-webredirect.org source using pip - NVIDIA Developer Forums, accessed November 15, 2025, https://forums.developer.nvidia.com/t/jetson-containers-fails-to-install-dependencies-from-the-jetson-webredirect-org-source-using-pip/317193
  16. “jetson-containers build deepstream” on a jetson orin nano with jetpack 6.2 fails to build · Issue #1117 · dusty-nv/jetson-containers - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers/issues/1117
  17. Docker Runtime issue on Jetson Orin Development kit, accessed November 15, 2025, https://forums.developer.nvidia.com/t/docker-runtime-issue-on-jetson-orin-development-kit/324682
  18. Cloud-Native on Jetson | NVIDIA Developer, accessed November 15, 2025, https://developer.nvidia.com/embedded/jetson-cloud-native
  19. Containers for Docker Intuitively Explained - JetsonHacks, accessed November 15, 2025, https://jetsonhacks.com/2024/08/31/containers-for-docker-intuitively-explained/
  20. cannot build containers, python_install.sh fails (Orin AGX 64GB, JetPack 6.1) · Issue #654 · dusty-nv/jetson-containers - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers/issues/654
  21. what’s the point of devcontainers if it forces standardization? : r/devops - Reddit, accessed November 15, 2025, https://www.reddit.com/r/devops/comments/1mzc191/whats_the_point_of_devcontainers_if_it_forces/
  22. NVIDIA Container Runtime on Jetson (Beta) — Cloud Native Products documentation, accessed November 15, 2025, https://nvidia.github.io/container-wiki/toolkit/jetson.html
  23. CUDA - CUDNN - TENSORRT images - Jetson TX2 - NVIDIA Developer Forums, accessed November 15, 2025, https://forums.developer.nvidia.com/t/cuda-cudnn-tensorrt-images/190994
  24. NVIDIA L4T PyTorch, accessed November 15, 2025, https://catalog.ngc.nvidia.com/orgs/nvidia/containers/l4t-pytorch
  25. What are the correct docker base images to use? - Jetson Orin NX, accessed November 15, 2025, https://forums.developer.nvidia.com/t/what-are-the-correct-docker-base-images-to-use/327773
  26. Use These! Jetson Docker Containers Tutorial - JetsonHacks, accessed November 15, 2025, https://jetsonhacks.com/2023/09/04/use-these-jetson-docker-containers-tutorial/
  27. Dockerfile for ros humble #244 - dusty-nv/jetson-containers - GitHub, accessed November 15, 2025, https://github.com/dusty-nv/jetson-containers/issues/244
  28. Jetson-inference docker file - NVIDIA Developer Forums, accessed November 15, 2025, https://forums.developer.nvidia.com/t/jetson-inference-docker-file/169336
  29. [Tutorial] Machine Learning Docker Container On Jetson Nano - YouTube, accessed November 15, 2025, https://www.youtube.com/watch?v=LfMs0AN4ayA
  30. LeRobot - NVIDIA Jetson AI Lab, accessed November 15, 2025, https://www.jetson-ai-lab.com/lerobot.html
  31. Stable Diffusion - NVIDIA Jetson AI Lab, accessed November 15, 2025, https://www.jetson-ai-lab.com/tutorial_stable-diffusion.html