Booil Jung

레이트레이싱 기술

레이 트레이싱(Ray Tracing)은 컴퓨터 그래픽스 분야에서 오랫동안 ‘성배(Holy Grail)’로 여겨져 온 렌더링 기술이다.1 이는 단순히 사실적인 이미지를 생성하는 여러 기법 중 하나를 넘어, 현실 세계의 빛이 물리적으로 어떻게 행동하는지를 근본적으로 시뮬레이션하려는 시도에 기반을 두고 있기 때문이다. 물체의 색상, 그림자, 반사, 굴절과 같은 모든 시각적 현상은 광원에서 출발한 빛이 공간을 이동하며 물체와 상호작용하고, 최종적으로 관찰자의 눈에 도달하는 복잡한 과정의 결과물이다.2 레이 트레이싱은 바로 이 빛의 경로를 추적함으로써, 기존의 어떤 기법보다도 높은 수준의 물리적 정확성과 시각적 충실도를 달성하고자 한다.

이 기술의 잠재력은 픽사(Pixar)와 같은 스튜디오의 장편 애니메이션에서 수십 년간 증명되어 왔다. 극사실적인 조명과 재질 표현을 위해 프레임당 수 시간에 달하는 렌더링 시간을 감수하며 사용되어 온 오프라인 렌더링의 핵심 기술이 바로 레이 트레이싱이었다. 그러나 최근 몇 년 사이, 그래픽 하드웨어의 폭발적인 발전과 관련 소프트웨어 생태계의 성숙은 이 ‘성배’를 실시간 애플리케이션, 특히 비디오 게임의 영역으로 가져왔다.1 이는 그래픽스 역사상 가장 중요한 패러다임 전환 중 하나로 평가받으며, 개발자와 사용자 모두에게 전례 없는 수준의 몰입감과 사실성을 제공하고 있다.3

본 보고서는 레이 트레이싱 기술에 대한 심층적이고 포괄적인 기술적 고찰을 제공하는 것을 목표로 한다. 이를 위해 기술의 가장 근본적인 물리적, 수학적 원리에서부터 시작하여, 현대 실시간 그래픽스의 표준이었던 래스터라이제이션(Rasterization)과의 비교 분석을 통해 그 차별점과 의의를 명확히 한다.

이후 보고서는 레이 트레이싱을 구성하는 핵심 알고리즘과 렌더링 파이프라인의 각 단계를 심도 있게 파고든다. 특히, 방대한 계산량을 효율적으로 처리하기 위한 가속 구조(Acceleration Structure)와, 반사와 굴절 같은 복잡한 광학 현상을 구현하는 재귀적(Recursive) 추적 방식, 그리고 전역 조명(Global Illumination)을 위한 고급 기법인 패스 트레이싱(Path Tracing)을 상세히 다룬다.

기술의 실시간 구현을 가능하게 한 하드웨어 아키텍처와 소프트웨어 API 생태계에 대한 분석 또한 본 보고서의 중요한 부분을 차지한다. NVIDIA의 RT 코어와 AMD의 Ray Accelerator와 같은 전용 하드웨어의 작동 방식과 구조적 차이를 비교하고, Microsoft의 DirectX Raytracing(DXR) 및 Khronos 그룹의 Vulkan Ray Tracing API가 개발자에게 어떤 도구와 추상화 계층을 제공하는지 살펴본다.

실시간 구현에서 필연적으로 발생하는 노이즈 문제를 해결하기 위한 최적화 기법, 특히 다양한 디노이징(Denoising) 기술에 대한 분석은 실용적인 관점에서 매우 중요하다. 본 보고서는 시공간적 필터링부터 최신 AI 기반 기법에 이르기까지 주요 디노이징 기술의 원리와 장단점, 그리고 이들이 야기할 수 있는 시각적 아티팩트(Artifact)를 고찰한다.

마지막으로, 이러한 기술들이 실제 산업 현장에서 어떻게 적용되고 있는지를 영화, 게임, 건축 및 디자인 분야의 구체적인 사례 연구를 통해 분석한다. 더 나아가, 신경망 렌더링(Neural Rendering)과 같은 최신 연구 동향과의 융합을 통해 레이 트레이싱 기술이 앞으로 나아갈 방향과 미래를 조망하며 보고서를 마무리한다.

컴퓨터 그래픽스의 궁극적인 목표는 가상의 3차원 세계를 2차원 이미지로 표현하는 것이며, 그 과정의 핵심은 현실 세계의 빛이 어떻게 물체와 상호작용하는지를 모사하는 데 있다. 우리가 어떤 물체를 보고 그 색과 형태, 질감을 인지하는 것은 광원(예: 태양, 전구)에서 방출된 빛 입자, 즉 광자(photon)가 물체 표면에 도달하여 반사(reflection), 굴절(refraction), 흡수(absorption), 산란(scattering) 등의 복잡한 상호작용을 거친 후, 그 결과로 우리 눈의 망막에 도달하기 때문이다.2

이러한 빛의 물리적 현상을 수학적으로 정밀하게 기술하기 위해 1986년 제임스 카지야(James Kajiya)에 의해 정립된 것이 바로 ‘렌더링 방정식(The Rendering Equation)’이다.4 이 방정식은 컴퓨터 그래픽스에서 물리 기반 렌더링(Physically Based Rendering, PBR)의 이론적 토대를 이루며, 전역 조명(Global Illumination) 문제를 해결하기 위한 일반적인 공식으로 간주된다.4

렌더링 방정식은 특정 지점 $x$에서 특정 방향 $\omega_o$로 나가는 빛의 양, 즉 복사량(Radiance, $L_o$)은 그 지점에서 자체적으로 방출하는 빛($L_e$)과, 그 지점을 둘러싼 반구(hemisphere, $\Omega$) 내의 모든 방향 $\omega_i$에서 들어오는 빛($L_i$)이 표면의 특성에 따라 반사된 양의 총합으로 정의된다. 이를 수식으로 표현하면 다음과 같다. \(L_o(x, \omega_o) = L_e(x, \omega_o) + \int_{\Omega} f_r(x, \omega_i, \omega_o) L_i(x, \omega_i) (\mathbf{n} \cdot \omega_i) d\omega_i\) 여기서 각 항의 의미는 다음과 같다.

이 방정식의 핵심적인 특징은 재귀적(recursive)이라는 점이다. 어떤 지점으로 들어오는 빛($L_i$)은 사실 다른 지점에서 나간 빛($L_o$)이다. 즉, 장면의 모든 지점의 빛은 서로에게 영향을 미치며, 이 때문에 방정식은 해석적으로 풀기가 매우 어려운 적분 방정식의 형태를 띤다.5 레이 트레이싱, 특히 패스 트레이싱은 바로 이 복잡한 렌더링 방정식을 수치적으로 풀기 위한 강력한 방법론이다.

물리적 현실에서 빛은 광원에서 출발하여 객체와 상호작용을 거쳐 관찰자의 눈으로 들어온다. 이 과정을 컴퓨터로 그대로 시뮬레이션하는 것을 ‘순방향 추적(Forward Tracing)’ 또는 ‘라이트 트레이싱(Light Tracing)’이라고 할 수 있다. 하지만 이 방식은 렌더링에 있어 극도로 비효율적이다. 그 이유는 광원에서 방출되는 수십억, 수조 개의 광선 중 극히 일부만이 최종적으로 카메라 렌즈를 통과하여 이미지 센서에 상을 맺기 때문이다.2 대부분의 광선은 카메라와 전혀 상관없는 방향으로 흩어지거나, 다른 물체에 흡수되어 버린다. 따라서 이 모든 광선을 추적하는 것은 엄청난 계산 낭비로 이어진다.

이러한 계산적 비효율성을 해결하기 위해 레이 트레이싱은 물리적 과정과는 정반대의 접근법을 취한다. 바로 ‘역방향 추적(Backward Tracing)’이다.2 이 방식은 광원이 아닌, 최종 결과물이 맺히는 카메라(또는 눈)에서부터 빛의 경로를 거꾸로 추적한다. 구체적인 과정은 다음과 같다.

  1. 시작점: 최종적으로 생성될 2D 이미지의 각 픽셀을 시작점으로 삼는다.
  2. 광선 투사: 카메라의 원점(시점)에서 각 픽셀의 중심을 통과하는 가상의 ‘시야 광선(Viewing Ray)’을 3D 공간으로 쏘아 보낸다.
  3. 경로 역추적: 이 광선이 장면 내의 물체와 부딪히면, 그 지점에서 빛이 어디로부터 왔을지를 다시 추적한다. 예를 들어, 부딪힌 지점에서 광원을 향해 또 다른 광선(그림자 광선)을 쏘아보거나, 반사/굴절 법칙에 따라 새로운 광선을 생성하여 추적을 계속한다.
  4. 색상 결정: 이 역추적 과정을 통해 광원에 도달하거나, 더 이상 추적이 불필요한 지점에 이르면, 그 경로를 따라 수집된 빛 정보를 종합하여 최초의 픽셀 색상을 결정한다.

이러한 역방향 추적 방식의 근본적인 장점은 계산을 오직 최종 이미지에 기여하는 광선에만 한정시킨다는 점이다. 이미지의 해상도가 정해져 있다면, 추적해야 할 초기 광선의 수는 픽셀 수에 의해 제한된다. 이는 물리적으로 무한한 광선을 다루는 문제를, 계산적으로 유한하고 다룰 수 있는 문제로 변환시키는 핵심적인 발상의 전환이다. 이 역추적 개념은 단순한 구현상의 디테일이 아니라, 레이 트레이싱을 계산적으로 실현 가능하게 만든 가장 근본적인 알고리즘적 기반이라고 할 수 있다.

레이 트레이싱의 개념을 실제 알고리즘으로 구현한 가장 기본적인 렌더링 파이프라인은 크게 세 가지 핵심 단계로 구성된다.2 이 과정은 이미지의 모든 픽셀에 대해 독립적으로 반복된다.

  1. 광선 생성 (Ray Generation):

    이 단계의 목표는 2D 픽셀 좌표를 3D 공간상의 광선으로 변환하는 것이다. 광선은 수학적으로 원점(origin) $\mathbf{s}$와 단위 방향 벡터(direction vector) $\mathbf{r}$로 정의된다. 광선 위의 모든 점 $\mathbf{p}$는 파라미터 $t$를 이용해 $\mathbf{p}(t) = \mathbf{s} + t\mathbf{r}$ ($t \ge 0$)로 표현할 수 있다.7

    광선을 생성하기 위해서는 카메라의 기하학적 정보가 필요하다. 주로 사용되는 투영 모델은 원근 투영(Perspective Projection)이다.6 원근 투영은 사람의 눈이나 카메라 렌즈가 세상을 보는 방식과 유사하게, 멀리 있는 물체는 작게 보이도록 하여 사실감과 깊이감을 부여한다. 카메라의 위치, 바라보는 방향, 시야각(Field of View, FOV), 그리고 이미지 평면의 종횡비 등을 이용해 각 픽셀 $(x_p, y_p)$를 통과하는 고유한 광선의 방향 벡터를 계산한다.4

  2. 광선 교차 (Ray Intersection):

    생성된 광선이 3D 장면을 관통하면서 어떤 물체와 충돌하는지 찾아내는 단계이다. 장면은 수많은 기하학적 기본 단위(primitive), 주로 삼각형(triangle)으로 구성되어 있다. 알고리즘은 광선과 장면 내 모든 프리미티브와의 교차 여부를 테스트해야 한다.

    만약 광선이 여러 물체와 교차한다면, 그 중 카메라 원점에서 가장 가까운 교차점만이 해당 픽셀에서 ‘보이는’ 지점이 된다.2 따라서 가장 작은 $t$ 값을 갖는 교차점을 찾아야 한다. 만약 광선이 어떤 물체와도 교차하지 않는다면, 해당 픽셀은 배경(background)으로 처리되며, 미리 지정된 배경색이나 환경 맵(environment map)의 색상을 갖게 된다. 이 교차 테스트는 레이 트레이싱에서 가장 많은 계산량을 요구하는 부분 중 하나이며, 이를 가속화하기 위해 가속 구조(Acceleration Structure)가 필수적으로 사용된다 (제3장 참조).

  3. 셰이딩 (Shading):

    가장 가까운 교차점이 결정되면, 해당 지점의 표면 색상을 계산하는 셰이딩 단계가 시작된다.6 셰이딩은 다양한 요소를 종합적으로 고려하여 최종 픽셀 색상을 결정한다.

    • 재질(Material): 교차점의 물체가 가진 고유한 표면 특성(알베도 색상, 거칠기, 금속성 등)을 고려한다.
    • 직접 조명(Direct Illumination): 교차점에서 광원까지의 방향을 계산하고, 그 사이에 다른 물체가 가로막고 있는지 확인하기 위해 ‘그림자 광선(Shadow Ray)’을 쏘아본다. 그림자 광선이 광원에 도달하기 전에 다른 물체와 부딪히면 해당 지점은 그림자 속에 있는 것이므로, 그 광원으로부터의 빛 기여는 무시된다.
    • 간접 조명(Indirect Illumination): 더 나아가, 교차점에서 새로운 광선을 생성하여 주변 환경으로부터 반사되거나 굴절되어 들어오는 빛을 계산한다. 이는 반사(reflection), 굴절(refraction), 전역 조명(global illumination)과 같은 고급 효과를 구현하는 핵심 과정이며, 재귀적(recursive)으로 ray_trace 함수를 호출함으로써 이루어진다.

이 세 가지 단계(광선 생성, 교차, 셰이딩)를 모든 픽셀에 대해 수행하면, 마침내 하나의 완전한 2D 이미지가 렌더링된다. 다음은 이 과정을 나타내는 기본적인 의사 코드(pseudo-code) 구조이다.

function render_image():
  for each pixel (x, y) in image:
    ray = generate_camera_ray(x, y)
    pixel_color[x, y] = trace_ray(ray)

function trace_ray(ray):
  intersection = find_closest_intersection(ray, scene)
  if intersection is found:
    color = shade(intersection)
    return color
  else:
    return background_color

현대 컴퓨터 그래픽스, 특히 실시간 렌더링 분야는 두 가지 핵심 패러다임, 즉 레이 트레이싱과 래스터라이제이션의 경쟁과 융합의 역사라고 할 수 있다. 수십 년간 실시간 그래픽스의 왕좌를 지켜온 래스터라이제이션과, 궁극의 사실성을 무기로 새롭게 부상한 레이 트레이싱의 기술적 차이를 이해하는 것은 현대 렌더링 기술을 고찰하는 데 있어 필수적이다.

래스터라이제이션은 3차원 공간의 기하학적 모델(geometry)을 2차원 화면의 픽셀 그리드로 변환하는 매우 효율적이고 시간 검증된(time-tested) 기법이다. 그 이름에서 알 수 있듯이, 이 과정의 핵심은 ‘래스터화(rasterize)’, 즉 벡터 형태의 기하학 정보를 픽셀 단위의 래스터 이미지로 바꾸는 데 있다.

래스터라이제이션 파이프라인은 일반적으로 다음과 같은 단계로 진행된다 :

  1. 기하학 처리 (Geometry Processing / Vertex Shading): 3D 모델을 구성하는 각 정점(vertex)의 좌표를 모델 공간(model space)에서 월드 공간(world space), 뷰 공간(view space)을 거쳐 최종적으로 2D 화면에 투영될 클립 공간(clip space)으로 변환한다. 이 과정은 주로 행렬 곱셈을 통해 이루어진다.
  2. 프리미티브 조립 (Primitive Assembly): 변환된 정점들을 연결하여 삼각형과 같은 기본 도형(primitive)을 구성한다.
  3. 래스터화 (Rasterization): 2D로 투영된 각 삼각형이 화면의 어떤 픽셀들을 덮는지 결정한다. 이 과정을 거치면 삼각형은 픽셀의 후보군인 ‘프래그먼트(fragment)’의 집합으로 변환된다.
  4. 프래그먼트 처리 (Fragment Shading / Pixel Shading): 각 프래그먼트에 대해 최종 색상을 계산한다. 이 단계에서 텍스처 매핑, 조명 계산, 셰이딩 모델(예: Phong, Blinn-Phong) 적용 등이 이루어진다. 여러 프래그먼트가 동일한 픽셀을 덮을 경우, 깊이 테스트(depth test)를 통해 가장 앞에 있는 프래그먼트만 남기고 나머지는 폐기한다.

이 방식은 객체(삼각형)를 중심으로 처리하며, GPU의 수많은 병렬 처리 코어에 매우 효율적으로 분배될 수 있도록 설계되었다. 이러한 구조적 특성 덕분에 래스터라이제이션은 수십 년간 비디오 게임과 같은 실시간 애플리케이션에서 압도적인 성능 우위를 점하며 표준 기술로 자리매김했다.

레이 트레이싱과 래스터라이제이션은 근본적으로 다른 철학을 바탕으로 하기에, 사실성, 성능, 개발 복잡성 측면에서 명확한 장단점을 보인다.

이러한 장단점의 차이는 두 기술의 근본적인 접근 방식에서 기인한다. 래스터라이제이션은 “객체를 어떻게 화면에 효율적으로 그릴 것인가?”라는 문제에서 출발하여 픽셀을 채우는 방식이다. 반면, 레이 트레이싱은 “이 픽셀은 어떤 빛을 보아야 하는가?”라는 질문에서 시작하여 빛의 경로를 역추적하는 방식이다.

오랜 기간 래스터라이제이션이 그래픽스 시장을 지배할 수 있었던 이유는 단지 속도 때문만은 아니었다. 개발자들이 현실을 ‘모방하는’ 데 있어 놀라울 정도로 능숙해졌기 때문이다. 섀도우 매핑, SSR과 같은 기법들을 수십 년간 개선하여, 많은 사용자들에게 ‘충분히 좋은(good enough)’ 수준의 사실감을 제공하는 데 성공했다. 이로 인해 레이 트레이싱은 단순히 성능뿐만 아니라, 일반 사용자가 체감할 수 있는 시각적 향상 측면에서도 매우 높은 기준을 넘어야 하는 도전에 직면했다.10 하지만 이러한 관점은 개발자의 부담을 간과한다. 가짜 효과를 만드는 것은 복잡하고, 깨지기 쉬우며, 새로운 시나리오마다 재발명이 필요한 경우가 많다. 결국, 현대 렌더링의 패러다임 전환은 ‘모방의 부담(개발자의 창의성)’을 ‘시뮬레이션의 부담(계산 능력과 알고리즘 효율성)’으로 옮기는 과정이라고 볼 수 있다.

오늘날 게임과 같은 실시간 애플리케이션에서 사용되는 ‘레이 트레이싱’은 대부분 순수한 레이 트레이싱이 아니다. 대신, 래스터라이제이션의 속도와 레이 트레이싱의 품질을 결합한 ‘하이브리드 렌더링(Hybrid Rendering)’ 방식을 채택하고 있다.11

하이브리드 렌더링의 핵심 아이디어는 각 기술이 가장 잘하는 부분에 선택적으로 사용하는 것이다. 예를 들어, 씬의 기본적인 지오메트리를 렌더링하고 깊이 정보나 노멀, 알베도 같은 데이터를 담은 G-버퍼(G-buffer)를 생성하는 과정은 매우 빠른 래스터라이제이션으로 처리한다. 그 후, 래스터라이제이션만으로는 구현하기 어렵거나 품질이 떨어지는 특정 효과, 즉 사실적인 반사, 부드러운 그림자, 전역 조명 등에 대해서만 제한적으로 레이 트레이싱을 적용한다.

이러한 접근법은 성능과 시각적 충실도 사이에서 실용적인 균형점을 찾게 해준다. 전체 프레임을 레이 트레이싱하는 것에 비해 계산 부담을 크게 줄이면서도, 사용자가 가장 크게 체감하는 시각적 요소들의 품질을 극적으로 향상시킬 수 있다. 현재 거의 모든 실시간 레이 트레이싱 지원 게임은 이러한 하이브리드 파이프라인을 기반으로 하고 있으며, 이는 두 패러다임이 서로를 대체하는 것이 아니라, 당분간 상호 보완하며 공존할 것임을 시사한다.

특징 (Feature) 래스터라이제이션 (Rasterization) 레이 트레이싱 (Ray Tracing) 주요 출처
핵심 원리 3D 객체를 2D 픽셀 그리드로 투영 및 변환 (객체 중심) 카메라에서 광선을 역추적하여 빛의 경로 시뮬레이션 (픽셀/광선 중심)  
주요 강점 압도적인 속도, 높은 프레임률(FPS), 하드웨어 최적화 물리적 정확성, 극사실적인 광학 효과(반사, 굴절, 그림자)  
주요 약점 부정확한 광학 효과(주로 ‘꼼수’에 의존), 화면 공간 아티팩트 막대한 계산 비용, 낮은 프레임률(FPS) 3
반사 처리 스크린 스페이스 반사(SSR): 화면 내 정보만 사용, 시야 밖 반사 불가 물리 기반 반사: 화면 밖 객체 포함, 다중 반사 가능 3
그림자 처리 섀도우 맵: 해상도 제약, 부자연스러운 경계(aliasing) 발생 가능 물리 기반 그림자: 거리에 따라 부드러워지는 사실적인 그림자(soft shadows)  
전역 조명 처리 주로 사전 계산된 라이트맵(정적) 또는 SSAO(동적, 제한적) 사용 동적인 간접 조명, 색 번짐(color bleeding) 자연스럽게 시뮬레이션 3
개발 패러다임 사실성을 위한 ‘영리한 트릭’과 근사치 개발에 집중 물리 법칙 시뮬레이션에 집중, 개발자의 삶을 편하게 할 수 있음 10

레이 트레이싱의 기본 원리는 단순하지만, 이를 실용적인 성능으로 구현하기 위해서는 정교한 알고리즘과 자료구조가 뒷받침되어야 한다. 이 장에서는 레이 트레이싱 파이프라인의 핵심을 이루는 가속 구조, 재귀적 광선 추적, 그리고 패스 트레이싱 알고리즘에 대해 심층적으로 분석한다.

레이 트레이싱의 성능을 좌우하는 가장 큰 병목은 광선-객체 교차 테스트(ray-object intersection test)이다. 수백만 개의 삼각형으로 이루어진 복잡한 장면에서, 모든 픽셀에서 출발한 광선이 모든 삼각형과 일일이 교차 테스트를 수행한다면 그 계산량은 천문학적으로 증가한다. 이러한 ‘무차별 대입(brute-force)’ 방식의 시간 복잡도는 광선의 수와 프리미티브(삼각형)의 수에 비례하여 $O(\text{num_rays} \times \text{num_primitives})$가 되므로, 실시간 렌더링은 불가능하다.

이 문제를 해결하기 위해 도입된 것이 바로 ‘가속 구조(Acceleration Structure)’이며, 그 중 가장 널리 사용되는 것이 BVH(Bounding Volume Hierarchy) 이다.

기본적인 레이 트레이싱은 카메라에서 출발한 1차 광선(Primary Ray)이 가장 먼저 부딪히는 표면을 찾는 데 그친다. 하지만 현실 세계의 풍부한 시각적 효과를 재현하기 위해서는 빛이 표면에서 반사되거나 다른 매질을 통과하며 굴절되는 현상을 모델링해야 한다. 이는 2차 광선(Secondary Rays)을 생성하고, 이를 다시 추적하는 재귀적(recursive) 과정을 통해 이루어진다.

재귀적 레이 트레이싱은 거울 같은 완벽한 반사(specular reflection)나 투명한 굴절은 잘 처리하지만, 대부분의 실제 물체 표면에서 일어나는 난반사(diffuse reflection)를 제대로 모델링하지 못한다. 난반사는 빛이 표면에 부딪혀 모든 방향으로 흩어지는 현상으로, 간접 조명(indirect lighting)과 전역 조명(Global Illumination, GI)의 핵심 요소이다. ‘패스 트레이싱(Path Tracing)’은 이러한 복잡한 전역 조명을 포함한 렌더링 방정식을 풀기 위한 강력하고 우아한 알고리즘이다.17

기본적인 레이 트레이싱이 결정론적(deterministic) 렌더링이라면, 패스 트레이싱은 확률론적(probabilistic) 렌더링으로의 전환을 의미한다. 이는 ‘2차 광선의 저주(curse of the secondary ray)’라 불릴 만한 근본적인 문제, 즉 고려해야 할 빛의 경로가 기하급수적으로 폭발하는 현상을 해결하기 위한 필연적인 선택이다. 난반사 표면의 한 점에서 빛은 반구 위의 모든 방향으로 흩어질 수 있으므로, 가능한 모든 경로를 추적하는 것은 불가능하다.

결론적으로, 패스 트레이싱의 등장은 렌더링의 패러다임을 ‘교차점을 찾는 것’에서 ‘중요한 교차점을 효율적으로 찾고 그 결과로 발생하는 통계적 노이즈를 처리하는 것’으로 전환시켰다. 이것이 바로 순수 패스 트레이싱이 오랫동안 오프라인 렌더링의 영역에 머물렀던 이유이며, 실시간 패스 트레이싱이 고성능 하드웨어 가속과 공격적인 디노이징 기술(제6장 참조)과 필연적으로 결합되는 이유이다.

레이 트레이싱의 엄청난 계산 요구량을 실시간으로 처리하기 위해서는 범용 컴퓨팅 유닛만으로는 한계가 명확했다. 이 기술의 대중화를 이끈 결정적인 돌파구는 바로 레이 트레이싱의 특정 연산을 전담하여 가속하는 전용 하드웨어의 등장이었다. NVIDIA와 AMD는 각기 다른 철학을 바탕으로 한 하드웨어 가속 아키텍처를 선보이며 실시간 레이 트레이싱 시대를 열었다.

NVIDIA는 2018년 튜링(Turing) GPU 아키텍처를 발표하며 세계 최초로 실시간 레이 트레이싱을 위한 전용 하드웨어 유닛인 RT 코어(Ray Tracing Core)를 선보였다. 이는 레이 트레이싱이 더 이상 소프트웨어 에뮬레이션에 의존하지 않고 하드웨어 수준에서 직접 가속될 수 있음을 의미하는 혁신적인 사건이었다.

AMD는 2020년 RDNA 2 아키텍처를 통해 하드웨어 가속 레이 트레이싱을 도입했다. 이들의 접근 방식은 NVIDIA와는 다른 철학을 보여주는데, 바로 Ray Accelerator(RA)라는 이름의 가속기를 사용하는 것이다.

NVIDIA와 AMD의 서로 다른 아키텍처 접근법은 성능, 유연성, 다이 면적 효율성 등에서 각기 다른 장단점과 트레이드오프를 가진다. 이 두 거대 GPU 기업이 동일한 문제(실시간 레이 트레이싱)를 해결하기 위해 근본적으로 다른 하드웨어 철학을 채택했다는 점은 매우 흥미롭다. 이 차이를 이해하는 것은 특정 워크로드에서 왜 한 아키텍처가 다른 아키텍처보다 더 나은 성능을 보이는지를 설명하는 열쇠가 된다.

NVIDIA의 ‘전용 유닛’ 접근법은 레이 트레이싱 작업 자체에 대해서는 최고의 성능을 발휘하도록 설계되었다. SM에서 작업을 완전히 분리함으로써, SM과 RT 코어는 각자의 작업에만 집중하여 최대의 병렬성을 이끌어낼 수 있다. 이는 복잡한 레이 트레이싱 부하가 걸렸을 때 강력한 성능을 보장한다. 반면, AMD의 ‘통합 가속기’ 접근법은 기존의 CU 구조를 최대한 활용하여 다이 면적을 효율적으로 사용하고, 셰이더 프로그래머에게 더 많은 제어 권한을 부여하려는 시도로 볼 수 있다. RDNA 2 아키텍처에서는 RA가 TMU와 리소스를 공유하는 구조 때문에, 텍스처 샘플링과 레이 트레이싱이 동시에 많이 발생하는 특정 시나리오에서 잠재적인 병목 현상이 지적되기도 했다.20 또한, 초기 세대에서는 순수한 광선-삼각형 교차 처리량(throughput)에서 NVIDIA의 전용 코어가 우위를 보였다.20

결론적으로, 이들의 차이는 ‘레이 트레이싱을 위한 별도의 프로세서를 만드는 것’과 ‘기존 프로세서에 레이 트레이싱 가속 명령어를 추가하는 것’ 사이의 철학적 차이로 요약될 수 있다. 전자는 순수 레이 트레이싱 성능에, 후자는 유연성과 효율성에 무게를 둔다. 이러한 경쟁적인 아키텍처 발전은 전체 실시간 레이 트레이싱 생태계의 기술적 진보를 이끄는 중요한 원동력이 되고 있다.

특징 (Feature) NVIDIA RT 코어 (Turing/Ampere) AMD Ray Accelerator (RDNA 2) 주요 출처
아키텍처 접근법 전용(Dedicated) 하드웨어 유닛 CU에 통합된(Integrated) 고정 기능 가속기  
위치 SM 외부에 독립적으로 존재 각 CU(Compute Unit) 내부에 존재  
주요 가속 기능 BVH 순회, 광선-삼각형 교차 테스트 광선-상자 교차 테스트, 광선-삼각형 교차 테스트  
셰이더 코어와의 관계 SM으로부터 작업을 완전히 오프로드하여 비동기적으로 병렬 실행 CU 내 셰이더 실행과 긴밀하게 연동되어 셰이더의 제어를 받음 19
상대적 처리량 광선-삼각형 교차 처리량에 강점 (Ampere에서 2배 향상) 광선-상자 교차 처리량에 강점, 광선-삼각형 처리량은 상대적으로 낮았음 20
잠재적 병목 레이 트레이싱 외 작업에는 활용도 제한 텍스처 유닛(TMU)과 리소스 공유로 인한 스케줄링 병목 가능성 20

하드웨어 가속 레이 트레이싱은 더 이상 고가의 외장 데스크톱 GPU만의 영역이 아니다. 기술의 발전은 이 강력한 렌더링 기법을 스마트폰과 같은 모바일 기기 및 노트북의 통합 GPU로 빠르게 확산시키고 있다.

삼성은 Exynos 2200 AP(Application Processor)에 AMD의 RDNA 2 GPU 아키텍처를 기반으로 한 하드웨어 가속 레이 트레이싱 기능을 탑재하여 모바일 기기에서 실시간 레이 트레이싱의 가능성을 열었다. 또한, 모바일 칩셋 설계의 강자인 Arm은 Immortalis-G715 GPU에서, Imagination Technologies는 IMG CXT GPU에서 각각 하드웨어 레이 트레이싱 지원을 발표했다. Intel 역시 Arc Alchemist 아키텍처를 통해 자사의 통합 및 외장 GPU에 레이 트레이싱 가속 코어를 탑재했다.

이러한 흐름은 매우 중요한 의미를 갖는다. 이는 레이 트레이싱이 하이엔드 게이머나 전문가뿐만 아니라, 수십억 명의 모바일 기기 사용자에게도 제공될 수 있는 보편적인 기술로 나아가고 있음을 보여준다. 비록 모바일 환경의 전력 및 발열 제약으로 인해 데스크톱 수준의 복잡한 효과를 구현하는 데는 한계가 있겠지만, 모바일 게임과 증강현실(AR) 애플리케이션에서 더욱 사실적인 그림자, 반사, 조명 효과를 구현하여 사용자 경험을 한 차원 높일 수 있는 잠재력은 무궁무진하다.

강력한 하드웨어 가속기가 존재하더라도, 게임 엔진이나 렌더링 애플리케이션과 같은 소프트웨어가 이를 활용할 수 있는 표준화된 방법이 없다면 무용지물이다. 그래픽스 API(Application Programming Interface)는 바로 이 소프트웨어와 하드웨어 사이의 다리 역할을 하며, 개발자가 복잡한 하드웨어의 내부 구조를 직접 다루지 않고도 일관된 방식으로 GPU의 기능을 제어할 수 있게 해준다. 실시간 레이 트레이싱의 등장은 기존 API에 대대적인 확장을 요구했으며, Microsoft의 DirectX와 Khronos 그룹의 Vulkan이 이 변화를 주도하고 있다.

DXR은 Microsoft가 Windows 운영체제와 Xbox 콘솔을 위해 개발한 DirectX 12 API의 공식 레이 트레이싱 확장 기능이다. 2018년 Windows 10 업데이트와 함께 출시된 DXR은 PC 게임에서 실시간 레이 트레이싱을 구현하는 사실상의 표준으로 빠르게 자리 잡았다. DXR은 레이 트레이싱을 위한 완전히 새로운 그래픽스 파이프라인을 정의하며, 다음과 같은 핵심 구성 요소들을 도입했다.

  1. 가속 구조 (Acceleration Structure): GPU 메모리에 생성되는 BVH 데이터 구조로, 레이 트레이싱 연산을 위해 3D 장면의 지오메트리를 효율적인 형태로 표현한다. DXR은 최상위 가속 구조(Top-Level Acceleration Structure, TLAS)와 하위 가속 구조(Bottom-Level Acceleration Structure, BLAS)의 2단계 계층 구조를 사용한다. BLAS는 개별 메시(mesh)의 삼각형 정보를 담고, TLAS는 이러한 BLAS들의 인스턴스 정보(위치, 변환 등)를 담아 전체 장면을 구성한다.
  2. DispatchRays: 래스터라이제이션 파이프라인의 Draw 또는 DrawIndexed 호출과 유사한 역할을 하는 커맨드 리스트 함수이다. 이 함수가 호출되면 GPU는 지정된 차원(예: 렌더링할 이미지의 너비와 높이)만큼의 레이 생성 셰이더 스레드를 실행하여 레이 트레이싱 프로세스를 시작한다.
  3. 새로운 HLSL 셰이더 타입: DXR은 레이 트레이싱 파이프라인의 각 단계를 처리하기 위한 새로운 유형의 셰이더들을 도입했다. 이 셰이더들은 TraceRay()라는 내장 함수를 통해 서로 상호작용하며 빛의 경로를 추적한다.
    • Ray Generation Shader (레이 생성 셰이더): 파이프라인의 시작점. 카메라 위치에서 픽셀을 향해 1차 광선을 생성하고 TraceRay()를 호출한다.
    • Intersection Shader (교차 셰이더): 삼각형이 아닌 절차적(procedural) 지오메트리나 커스텀 프리미티브와의 교차 테스트 로직을 정의한다.
    • Any-Hit Shader (애니 히트 셰이더): 광선이 교차점을 찾을 때마다 호출된다. 주로 알파 테스팅(alpha testing)과 같이, 특정 조건에서 교차를 무시하고 광선이 계속 진행하도록 하는 데 사용된다.
    • Closest-Hit Shader (최근접 히트 셰이더): 광선의 경로에서 가장 가까운 교차점이 확정되었을 때 단 한 번 호출된다. 재질의 셰이딩, 그림자 광선 생성, 반사/굴절 광선 생성 등 핵심적인 조명 계산을 수행한다.
    • Miss Shader (미스 셰이더): 광선이 어떤 객체와도 교차하지 않았을 때 호출된다. 주로 배경색이나 스카이박스/환경 맵을 샘플링하는 데 사용된다.
  4. 레이 트레이싱 파이프라인 상태 객체 (PSO - Pipeline State Object): DXR은 새로운 유형의 PSO를 도입했다. 기존의 그래픽스 또는 컴퓨트 PSO와 달리, 레이 트레이싱 PSO는 위에서 언급된 모든 셰이더 코드(DXIL 라이브러리 형태), 각 셰이더와 연관된 루트 시그니처, 그리고 전역 파이프라인 설정(최대 재귀 깊이, 페이로드 크기 등)을 하나의 거대한 상태 객체로 묶는다. 이는 레이 트레이싱 중에는 어떤 셰이더든 호출될 수 있으므로, 모든 셰이더가 항상 GPU에 로드되어 있어야 한다는 특성을 반영한다.
  5. 셰이더 테이블 (SBT - Shader Binding Table): SBT는 DXR 파이프라인에서 매우 중요한 역할을 하는 데이터 구조이다. 이는 GPU 메모리에 상주하며, 가속 구조 내의 특정 지오메트리와 그 지오메트리가 사용해야 할 셰이더(특히 히트 그룹: Intersection, Any-Hit, Closest-Hit 셰이더의 조합)를 연결하는 매핑 테이블 역할을 한다. DispatchRays 호출 시, GPU는 광선이 부딪힌 지오메트리의 ID를 이용해 SBT에서 해당 셰이더의 주소를 찾아 실행한다. 이를 통해 하나의 씬 안에서 객체마다 다른 재질과 셰이더를 효율적으로 적용할 수 있다.

Vulkan은 OpenGL의 후속으로 개발된 개방형 크로스플랫폼 그래픽스 API이며, 확장 기능(extensions)을 통해 레이 트레이싱을 지원한다. 주요 확장 기능은 VK_KHR_ray_tracing_pipeline, VK_KHR_acceleration_structure, VK_KHR_deferred_host_operations 등이며, 이들은 DXR과 매우 유사한 개념과 구조를 공유한다.

하드웨어와 API가 발전함에 따라, 레이 트레이싱 성능을 더욱 향상시키기 위한 새로운 기능들이 API 수준에서 표준화되고 있다. DXR 1.2와 같은 최신 API 사양에 포함된 대표적인 최적화 기술은 다음과 같다.

이러한 API 수준의 최적화 기능들은 하드웨어, 드라이버, 게임 엔진의 긴밀한 협력을 통해 구현되며, 실시간 레이 트레이싱의 성능 한계를 지속적으로 밀어 올리는 데 중요한 역할을 한다.

제6장: 실시간의 숙명: 디노이징 기술 개론

실시간 레이 트레이싱, 특히 전역 조명을 위한 패스 트레이싱은 이론적으로 무한한 수의 광선 경로를 샘플링해야 정확한 결과를 얻을 수 있다. 그러나 실시간 애플리케이션은 한 프레임을 수십 분의 일 초(예: 16.6ms for 60 FPS) 안에 렌더링해야 한다는 엄격한 시간 제약을 받는다. 이 때문에 픽셀당 사용할 수 있는 광선의 수(samples-per-pixel, SPP)는 극히 제한적이며, 종종 1 SPP에도 미치지 못하는 경우가 많다.24

이렇게 적은 수의 샘플로 몬테카를로 통합을 수행하면, 그 결과는 필연적으로 높은 분산(variance)을 갖게 된다. 이 통계적 분산이 이미지 상에서는 마치 오래된 필름 사진처럼 자글자글한 ‘노이즈(noise)’로 나타난다. 이 노이즈를 그대로 방치하면 이미지는 미학적으로 보기 흉할 뿐만 아니라, 장면의 디테일을 알아보기 어려울 정도로 품질이 저하되어 상업적으로 사용할 수 없는 수준이 된다.

따라서, 고품질의 실시간 레이 트레이싱을 구현하는 것은 효과적인 디노이징(Denoising) 기술의 개발과 불가분의 관계에 있다. 디노이징은 제한된 샘플로 생성된 노이즈 가득한 이미지를 입력받아, 노이즈는 제거하면서도 원본 장면의 중요한 기하학적, 재질적 디테일은 최대한 보존하여 깨끗하고 안정적인 최종 이미지를 재구성하는 후처리(post-processing) 기술이다. 이 장에서는 실시간 레이 트레이싱을 위해 개발된 주요 디노이징 기법들을 살펴본다.

초기의 실시간 디노이저들은 주로 이미지 공간(screen-space)에서 작동하는 필터링 기법에 의존했다. 이들의 핵심 아이디어는 현재 프레임의 공간적 정보(이웃 픽셀)와 이전 프레임의 시간적 정보(역사 버퍼)를 함께 활용하여 유효 샘플 수를 인위적으로 늘리는 것이다.

전통적인 필터링 기법의 한계를 극복하기 위해, 최근 디노이징 기술의 주류는 딥러닝(Deep Learning)을 활용하는 AI 기반 방식으로 빠르게 전환되고 있다. AI 디노이저는 수많은 ‘노이즈 이미지’와 ‘정답 이미지(Ground Truth, 수천 SPP로 렌더링된 깨끗한 이미지)’ 쌍을 학습한 신경망을 사용하여, 인간이 설계한 휴리스틱 필터보다 훨씬 더 정교하게 노이즈와 실제 디테일을 구분하고 재구성한다.26

디노이징 기술의 최신 진화 방향은 AI 기반 업스케일링 기술과의 깊은 융합이다. 디노이징이 ‘누락된 샘플 정보’를 복원하는 문제라면, 업스케일링은 ‘누락된 픽셀 정보’를 생성하는 문제로, 두 가지 모두 불완전한 정보로부터 완전한 이미지를 재구성한다는 공통점을 가진다.

디노이징 기술은 필연적으로 완벽하지 않으며, 특정 상황에서 다양한 시각적 오류, 즉 아티팩트(artifact)를 발생시킬 수 있다. 이러한 아티팩트의 종류와 원인을 이해하는 것은 디노이저의 품질을 평가하고 개선하는 데 중요하다.

기술 (Technique) 핵심 원리 주요 입력 강점 약점 주요 아티팩트 주요 출처
SVGF 시공간적 분산 가이드 필터링 노이즈 이미지, G-Buffer(깊이, 노멀, 모션 벡터), 히스토리 버퍼 비교적 저렴한 비용으로 효과적인 노이즈 제거, 구현 용이 움직임에 취약, 디테일 보존력 한계 고스팅, 블러링  
NRD AI 기반 시공간적 필터링 (라이브러리) 노이즈 이미지, G-Buffer, 히스토리 버퍼 높은 성능, 다양한 신호(확산/반사)에 최적화된 디노이저 제공 NVIDIA 하드웨어에 최적화, 폐쇄 소스 고스팅, 블러링 (SVGF보다 개선됨) 29
Intel OIDN AI 기반 딥러닝 필터 (오픈 소스) 노이즈 이미지, 보조 버퍼(알베도, 노멀) 뛰어난 디테일 보존력, 크로스 플랫폼(CPU/GPU) 지원 NRD/DLSS 대비 실시간 성능이 낮을 수 있음, 시간적 정보 미활용(구버전) 블러링, 반점 30
DLSS Ray Reconstruction AI 기반 업스케일링 및 디노이징 통합 저해상도 노이즈 이미지, G-Buffer, 엔진 데이터 등 방대한 정보 뛰어난 디테일 재구성 및 아티팩트 억제, 성능 향상 효과 극대화 NVIDIA RTX GPU 및 DLSS 지원 게임에서만 사용 가능 고스팅(Frame Generation과 결합 시)  

레이 트레이싱 기술은 더 이상 이론이나 연구실의 영역에 머물러 있지 않다. 영화, 게임, 건축, 디자인 등 다양한 산업 분야에서 시각적 결과물의 품질을 혁신하고 작업 워크플로우를 변화시키는 핵심 동력으로 자리 잡았다. 각 산업은 고유의 요구사항과 제약 조건(실시간성, 최종 품질, 비용 등)을 가지고 있으며, 이에 따라 레이 트레이싱 기술을 각기 다른 방식으로 활용하고 있다. 이러한 사례들을 분석하는 것은 기술의 현재 위치와 실용적 가치를 이해하는 데 매우 중요하다.

영화 및 시각 효과(VFX) 산업은 컴퓨터 그래픽스의 사실성을 극한까지 끌어올려야 하는 분야로, 수십 년 전부터 레이 트레이싱과 패스 트레이싱을 프로덕션 파이프라인의 핵심으로 사용해왔다.9 그러나 프레임 하나를 렌더링하는 데 수 시간에서 수 일이 소요되는 막대한 계산 비용은 제작 기간과 비용을 증가시키는 주된 요인이었다.34 이 분야의 선두주자인 Weta Digital(현 Weta FX)은 이러한 도전을 극복하고 예술적 비전을 실현하기 위해 자체적인 렌더링 기술을 개발해왔다.

이처럼 영화 산업에서 레이 트레이싱은 단순히 ‘사실적인 그림’을 넘어, ‘감정을 전달하는 사실적인 캐릭터’와 ‘스토리를 뒷받침하는 사실적인 환경’을 창조하는 핵심 기술로 활용되고 있다.

사이버펑크 2077은 실시간 레이 트레이싱 기술이 게임 환경을 얼마나 극적으로 변화시킬 수 있는지를 보여준 대표적인 사례다. 이 게임은 단일 기술이 아닌, 여러 레이 트레이싱 효과를 조합한 하이브리드 렌더링의 집약체로, 플레이어의 하드웨어 사양에 따라 다양한 수준의 사실성을 제공한다.

에픽게임즈의 언리얼 엔진 5(UE5)에 탑재된 Lumen은 차세대 게임을 위한 동적 전역 조명 및 반사 시스템으로, 레이 트레이싱 기술을 게임 엔진의 핵심 기능으로 통합한 대표적인 사례다. Lumen의 가장 큰 특징은 단일한 방식에 의존하지 않고, 다양한 하드웨어와 씬의 특성에 맞춰 여러 트레이싱 기법을 지능적으로 조합하는 정교한 하이브리드 파이프라인을 갖추고 있다는 점이다.

Lumen은 이처럼 다양한 기술을 유기적으로 결합하여, 넓은 범위의 하드웨어에서 확장 가능한(scalable) 고품질 동적 전역 조명을 제공함으로써 차세대 게임 개발의 기준을 제시하고 있다.

건축, 제품 디자인, 인테리어 시각화(Archviz) 분야에서 레이 트레이싱은 최종 결과물의 품질을 결정하는 핵심 기술이다. 이 분야에서는 크게 두 가지 상반된 요구가 공존한다: 디자인 과정에서의 빠른 피드백을 위한 실시간 시각화와, 클라이언트에게 최종 결과물을 제시하기 위한 극사실적(photorealistic) 렌더링. 이러한 요구에 맞춰 시장은 각기 다른 강점을 가진 렌더링 솔루션들로 분화되었다.

이 세 가지 솔루션의 존재는 건축/디자인 분야의 워크플로우가 어떻게 분화되었는지를 명확히 보여준다. 많은 스튜디오에서는 디자인 초기 및 중간 단계에서는 Enscape를 사용하여 빠르게 아이디어를 탐색하고 고객과 소통하고, 최종 디자인이 확정되면 V-Ray나 Corona로 전환하여 마케팅과 최종 납품을 위한 최고 품질의 이미지를 제작하는 하이브리드 워크플로우를 채택하고 있다. 이는 ‘레이 트레이싱’이라는 단일 기술이 사용자의 목적과 작업 단계에 따라 ‘실시간 미리보기’부터 ‘최종 예술 작품’에 이르기까지 넓은 스펙트럼에 걸쳐 다양하게 활용되고 있음을 보여준다.

레이 트레이싱이 실시간 그래픽스의 현재를 정의하고 있다면, 그 미래는 인공지능(AI), 특히 신경망(Neural Network)과의 융합을 통해 그려지고 있다. 신경망 렌더링(Neural Rendering)은 기존의 그래픽스 파이프라인을 보완하거나 심지어 대체할 잠재력을 가진 혁신적인 분야로, 렌더링의 패러다임을 ‘계산(computation)’에서 ‘학습(learning)’과 ‘생성(generation)’으로 전환시키고 있다.

NeRF는 신경망 렌더링 분야에서 가장 주목받는 기술 중 하나로, 3D 장면을 표현하는 방식을 근본적으로 바꾼다.

ReSTIR는 수백만 개의 동적인 광원이 존재하는 극도로 복잡한 조명 환경을 실시간으로 렌더링하기 위해 NVIDIA에서 개발한 혁신적인 샘플링 알고리즘이다. 이는 직접 조명(Direct Illumination) 렌더링의 품질과 성능을 극적으로 향상시킨다.

NVIDIA는 자사의 레이 트레이싱 및 AI 기술들을 ‘RTX Kit’라는 이름의 소프트웨어 개발 키트(SDK) 모음으로 통합하여, 개발자들이 차세대 신경망 렌더링 파이프라인을 구축할 수 있도록 지원하고 있다.22 이는 그래픽스 파이프라인의 다양한 단계에 AI가 어떻게 깊숙이 통합될 수 있는지를 보여주는 청사진과 같다.

레이 트레이싱이 오랫동안 그래픽스의 ‘최종 목표’로 여겨졌지만, 이제는 그 자체가 더 큰 패러다임 전환을 위한 중요한 ‘디딤돌’일 수 있다는 관점이 부상하고 있다. 그 최종 목표는 바로 ‘완전한 신경망 렌더링(Full Neural Rendering)’이다.

이 개념의 핵심은 기존의 래스터라이제이션이나 레이 트레이싱과 같은 명시적인 계산 파이프라인을 AI가 생성하는 이미지로 대체하는 것이다. NVIDIA의 한 연구 부사장은 “먼 미래의 DLSS 10은 완전히 신경망으로 이루어진 렌더링 시스템이 될 것”이라고 예측했다. 이러한 시스템에서 AI는 단순히 노이즈를 제거하거나 해상도를 높이는 보조적인 역할을 넘어, 장면의 기하학적, 재질적 정보 등 최소한의 입력을 받아 빛의 물리 법칙을 내재적으로 이해하고 최종 이미지를 직접 ‘생성’하게 된다.

이러한 비전이 실현되기 위해서는 AI 모델을 훈련시킬 방대한 양의 고품질 데이터가 필요하다. 여기서 레이 트레이싱, 특히 물리적으로 정확한 오프라인 패스 트레이싱이 결정적인 역할을 한다. 패스 트레이싱으로 생성된 ‘정답’ 이미지는 AI에게 빛이 현실 세계에서 어떻게 작동하는지를 가르치는 최고의 교과서가 된다.5 DLSS의 레이 재구성 기술이 슈퍼컴퓨터로 렌더링된 패스 트레이싱 이미지로 훈련되는 것이 그 대표적인 예다.32

결론적으로, 현재 업계가 실시간 레이 트레이싱 기술에 막대한 투자를 하는 이유는 단지 당장의 게임 그래픽을 향상시키기 위함만은 아니다. 이는 차세대 생성형 그래픽스 모델을 훈련시키기 위한, 물리 기반의 고품질 데이터를 대량으로 생산하는 과정이기도 하다. 레이 트레이싱은 AI에게 시각적 세계를 이해하고 창조하는 법을 가르치고 있으며, 언젠가 AI가 그 임무를 스스로 수행하게 될 때, 현재의 렌더링 파이프라인 개념 자체를 구시대의 유물로 만들 수도 있다. 이처럼 레이 트레이싱은 그래픽스의 종착역이 아니라, 완전히 새로운 시대로 나아가는 가장 중요한 관문이라 할 수 있다.

본 보고서에서 심층적으로 고찰한 바와 같이, 레이 트레이싱 기술은 지난 몇 년간 괄목할 만한 발전을 이루며 컴퓨터 그래픽스 분야의 지형을 근본적으로 바꾸어 놓았다. 한때 영화 및 VFX 산업의 오프라인 렌더링에서만 제한적으로 사용되던 이 기술은, 전용 하드웨어 가속기의 등장, DirectX Raytracing 및 Vulkan Ray Tracing과 같은 표준화된 API의 성숙, 그리고 AI 기반 최적화 기술의 비약적인 발전에 힘입어 이제 비디오 게임을 포함한 실시간 애플리케이션의 핵심 기술로 당당히 자리매김했다.

이는 단순히 그래픽 품질의 점진적 향상을 넘어, 렌더링의 근본 패러다임이 래스터라이제이션의 ‘영리한 속임수(clever tricks)’에서 물리 기반 ‘시뮬레이션(simulation)’으로 전환되고 있음을 의미하는 중대한 변화이다. 빛의 경로를 직접 추적함으로써, 개발자들은 더 이상 복잡하고 파편화된 근사 기법에 의존하지 않고도 일관되고 예측 가능한 방식으로 극사실적인 조명, 반사, 그림자 효과를 구현할 수 있게 되었다.

그러나 실시간 레이 트레이싱의 시대가 열렸음에도 불구하고, 기술의 현주소는 여전히 ‘균형’을 향한 끊임없는 탐색 과정에 있다. 시각적 사실성, 실시간 성능, 그리고 개발의 편의성이라는 세 가지 핵심 요소 사이에는 여전히 명백한 트레이드오프가 존재한다.

현재 시장을 지배하는 하이브리드 렌더링 파이프라인, 특정 효과에만 레이 트레이싱을 선택적으로 적용하는 기법, 낮은 샘플 수로 인한 노이즈를 제거하기 위한 필수불가결한 디노이징 기술, 그리고 성능 저하를 만회하기 위한 DLSS나 FSR과 같은 AI 업스케일링 기술은 모두 이 까다로운 균형점을 맞추기 위한 치열한 노력의 산물이다. 순수한 패스 트레이싱이 제공하는 궁극의 사실성과 실시간 상호작용이 요구하는 엄격한 성능 제약 사이의 간극을 메우는 것이 현재 기술 발전의 핵심 과제이다.

레이 트레이싱의 미래는 인공지능(AI)과의 융합에 깊이 연관되어 있다. 현재 AI는 주로 디노이징과 업스케일링이라는 후처리 단계에서 성능을 보조하는 역할을 하고 있지만, 이는 시작에 불과하다. 신경망 셰이더, NeRF와 같은 암시적 표현, ReSTIR와 같은 지능형 샘플링 알고리즘의 등장은 AI가 렌더링 파이프라인의 더욱 근본적인 영역으로 침투하고 있음을 보여준다.

궁극적으로, 업계는 래스터라이제이션이나 레이 트레이싱과 같은 기존의 명시적인 계산 파이프라인을 넘어, AI가 장면을 이해하고 물리 법칙을 모방하여 이미지를 직접 ‘생성’하는 ‘완전한 신경망 렌더링’ 시대를 향해 나아가고 있다. 이러한 관점에서 볼 때, 현재의 레이 트레이싱은 그 자체가 최종 목표라기보다는, 기계가 시각적 세계를 물리적으로 정확하게 이해하고 생성하도록 훈련시키는 가장 중요한 ‘데이터 생성 도구’이자 ‘교과서’로서의 역할을 수행하고 있다. 따라서 레이 트레이싱 기술에 대한 지속적인 연구와 투자는 단순히 오늘날의 그래픽을 향상시키는 것을 넘어, 우리가 상상하는 것 이상의 몰입감과 사실성을 제공할 차세대 그래픽스 혁명의 발판을 마련하는 과정이라 할 수 있을 것이다.

  1. M3 하드웨어 레이 트레이싱의 장점은 뭐임? : r/macgaming - Reddit, accessed July 17, 2025, https://www.reddit.com/r/macgaming/comments/17u9jd0/what_are_the_benefits_m3_hardware_raytracing/?tl=ko
  2. 레이 트레이싱 (1), accessed July 17, 2025, https://jebae.github.io/ray-tracing-principle/
  3. 게임에서 레이 트레이싱이란 무엇입니까? - Corsair, accessed July 17, 2025, https://www.corsair.com/kr/ko/explorer/gamer/gaming-pcs/what-is-ray-tracing-in-games/
  4. Ray Tracing Graphics Pipeline Review Alternative Approaches Ray Casting Outline - Research, accessed July 17, 2025, https://groups.csail.mit.edu/graphics/classes/6.837/F01/Lecture17/lecture17.pdf
  5. AmanSachan1/Monte-Carlo-Path-Tracer - GitHub, accessed July 17, 2025, https://github.com/AmanSachan1/Monte-Carlo-Path-Tracer
  6. Overview of the Ray-Tracing Rendering Technique - Scratchapixel, accessed July 17, 2025, https://www.scratchapixel.com/lessons/3d-basic-rendering/ray-tracing-overview/ray-tracing-rendering-technique-overview.html
  7. [그래픽스] 4. 레이트레이싱, accessed July 17, 2025, https://velog.io/@tjswodud/%EA%B7%B8%EB%9E%98%ED%94%BD%EC%8A%A4-4.-%EB%A0%88%EC%9D%B4%ED%8A%B8%EB%A0%88%EC%9D%B4%EC%8B%B1
  8. Vulkan Ray Tracing Pipeline - Image Synthesis - Part 2 - Chapter 1, accessed July 17, 2025, https://www.mathematik.uni-marburg.de/~thormae/lectures/graphics2/graphics_2_1_eng_web.html
  9. Ray Tracing vs Rasterization: Unpacking Computer Graphics Rendering - Cable Matters, accessed July 17, 2025, https://www.cablematters.com/Blog/Computer-Accessories/ray-tracing-vs-rasterization
  10. 레이 트레이싱 (7) - jebae’s dev blog, accessed July 17, 2025, https://jebae.github.io/ray-tracing-reflection-refraction/
  11. Understanding the Rendering Pipeline: Essentials for Traditional and Real-Time Rendering, accessed July 17, 2025, https://garagefarm.net/blog/understanding-the-rendering-pipeline-essentials-for-traditional-and-real-time-rendering
  12. Why is ray tracing generally considered slower than rasterization? : r/computergraphics, accessed July 17, 2025, https://www.reddit.com/r/computergraphics/comments/uuzwlz/why_is_ray_tracing_generally_considered_slower/
  13. 실시간 레이트레이싱을 위한 부분 렌더링 기술 개발 - Korea Science, accessed July 17, 2025, https://www.koreascience.kr/article/CFKO201335553771065.pdf
  14. 언리얼 엔진의 레이 트레이싱 기술 완전 정복: 현실적인 그래픽의 비밀 - 재능넷, accessed July 17, 2025, https://www.jaenung.net/tree/23466
  15. 나만 레이 트레이싱 별로라고 생각하는 건가? : r/pcgaming - Reddit, accessed July 17, 2025, https://www.reddit.com/r/pcgaming/comments/1260agx/just_me_or_is_ray_tracing_overrated/?tl=ko
  16. irendering.net, accessed July 17, 2025, https://irendering.net/rasterization-vs-ray-tracing-vs-path-tracing-what-is-the-difference/#:~:text=Taking%20all%20these%20points%20into,many%20points%20in%20any%20direction.
  17. NVIDIA Turing Architecture In-Depth NVIDIA Technical Blog, accessed July 17, 2025, https://developer.nvidia.com/blog/nvidia-turing-architecture-in-depth/
  18. Bounding volume hierarchy - Wikipedia, accessed July 17, 2025, https://en.wikipedia.org/wiki/Bounding_volume_hierarchy
  19. Bounding Volume Hierarchies - Physically Based Rendering, accessed July 17, 2025, https://pbr-book.org/3ed-2018/Primitives_and_Intersection_Acceleration/Bounding_Volume_Hierarchies
  20. Chapter 6 Bounding Volume Hierarchies (실시간 충돌탐지) - chan blog, accessed July 17, 2025, http://chanhaeng.blogspot.com/2018/11/chapter-6-bounding-volume-hierarchies.html
  21. Path tracing - Wikipedia, accessed July 17, 2025, https://en.wikipedia.org/wiki/Path_tracing
  22. Global Illumination and Path Tracing - Scratchapixel, accessed July 17, 2025, https://www.scratchapixel.com/lessons/3d-basic-rendering/global-illumination-path-tracing/global-illumination-path-tracing-practical-implementation.html
  23. Monte Carlo Path Tracing, accessed July 17, 2025, https://cseweb.ucsd.edu/~viscomp/classes/cse168/sp21/lectures/168-lecture7.pdf
  24. Ray-tracing hardware - Wikipedia, accessed July 17, 2025, https://en.wikipedia.org/wiki/Ray-tracing_hardware
  25. How do RT cores work? - Raytracing - NVIDIA Developer Forums, accessed July 17, 2025, https://forums.developer.nvidia.com/t/how-do-rt-cores-work/314960
  26. RT cores vs Ray Accelerators : r/Amd - Reddit, accessed July 17, 2025, https://www.reddit.com/r/Amd/comments/jn4wti/rt_cores_vs_ray_accelerators/
  27. Nvidia Ampere vs. AMD RDNA 2: Battle of the Architectures : r/Amd, accessed July 17, 2025, https://www.reddit.com/r/Amd/comments/k88sp5/nvidia_ampere_vs_amd_rdna_2_battle_of_the/
  28. DirectX Raytracing - Wikipedia, accessed July 17, 2025, https://en.wikipedia.org/wiki/DirectX_Raytracing
  29. DX12 Raytracing tutorial - Helpers - NVIDIA Developer, accessed July 17, 2025, https://developer.nvidia.com/rtx/raytracing/dxr/dx12-raytracing-tutorial/dxr_tutorial_helpers
  30. DX12 Raytracing tutorial - Part 2 NVIDIA Developer, accessed July 17, 2025, https://developer.nvidia.com/rtx/raytracing/dxr/dx12-raytracing-tutorial-part-2
  31. NVIDIA Vulkan Ray Tracing Tutorial, accessed July 17, 2025, https://developer.nvidia.com/rtx/raytracing/vkray
  32. Ray Tracing :: Vulkan Documentation Project, accessed July 17, 2025, https://docs.vulkan.org/guide/latest/extensions/ray_tracing.html
  33. Vulkan VS DX12 Raytracing : r/linux_gaming - Reddit, accessed July 17, 2025, https://www.reddit.com/r/linux_gaming/comments/1gfl4s4/vulkan_vs_dx12_raytracing/
  34. Ray Tracing Validation for DirectX 12 and Vulkan NVIDIA Technical Blog, accessed July 17, 2025, https://developer.nvidia.com/blog/ray-tracing-validation-at-the-driver-level/
  35. Microsoft says DirectX Raytracing 1.2 will deliver up to 2.3x performance uplift, accessed July 17, 2025, https://www.tomshardware.com/pc-components/gpus/microsoft-says-directx-raytracing-1-2-will-deliver-up-to-2-3x-performance-uplift
  36. Get Started with Neural Rendering Using NVIDIA RTX Kit, accessed July 17, 2025, https://developer.nvidia.com/blog/get-started-with-neural-rendering-using-nvidia-rtx-kit/
  37. Real-Time Rendering of Glossy Reflections Using Ray Tracing and Two-Level Radiance Caching - AMD GPUOpen, accessed July 17, 2025, https://gpuopen.com/download/SA2023_RealTimeReflection.pdf
  38. Spatiotemporal Variance-Guided Filtering (SVGF) - Wisp Wiki, accessed July 17, 2025, https://teamwisp.github.io/research/svfg.html
  39. Spatiotemporal variance-guided filtering: real-time reconstruction for path-traced global illumination Request PDF - ResearchGate, accessed July 17, 2025, https://www.researchgate.net/publication/318730200_Spatiotemporal_variance-guided_filtering_real-time_reconstruction_for_path-traced_global_illumination
  40. Ray Tracing Denoising - Alain Galvan, accessed July 17, 2025, https://alain.xyz/blog/ray-tracing-denoising
  41. Real-Time Volume-Rendering Image Denoising Based on Spatiotemporal Weighted Kernel Prediction - PMC, accessed July 17, 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC12028196/
  42. Intel® Open Image Denoise Library Saves Time, Boosts Quality, accessed July 17, 2025, https://www.intel.com/content/dam/develop/external/us/en/documents/intelopenimagedenoiselibrarysavestimeboostsquality.pdf
  43. NVIDIA-RTX/NRD: NVIDIA Real-time Denoising (NRD) library - GitHub, accessed July 17, 2025, https://github.com/NVIDIA-RTX/NRD
  44. Intel® Open Image Denoise, accessed July 17, 2025, https://www.openimagedenoise.org/
  45. NVIDIA OptiX™ AI-Accelerated Denoiser, accessed July 17, 2025, https://developer.nvidia.com/optix-denoiser
  46. Nvidia Hints at DLSS 10 Delivering Full Neural Rendering, Potentially Replacing Rasterization and Ray Tracing Tom’s Hardware, accessed July 17, 2025, https://www.tomshardware.com/news/nvidia-hints-at-dlss-10-delivering-full-neural-rendering-potentially-replacing-rasterization-and-ray-tracing
  47. What Has AI Done for Graphics? - ACM SIGGRAPH Blog, accessed July 17, 2025, https://blog.siggraph.org/2024/04/what-has-ai-done-for-graphics.html/
  48. Spectral Rendering in Manuka, accessed July 17, 2025, https://jo.dreggn.org/path-tracing-in-production/2017/talk-jo/
  49. 언리얼 엔진 ‘리얼타임 레이 트레이싱’ – 진화 - 테크월드뉴스, accessed July 17, 2025, https://www.epnc.co.kr/news/articleView.html?idxno=94845
  50. 언리얼 엔진 리얼타임 레이 트레이싱 – 자동차 디자인과 시각화 - 테크월드뉴스, accessed July 17, 2025, https://www.epnc.co.kr/news/articleView.html?idxno=95665
  51. Manuka: Weta Digital’s new renderer - fxguide, accessed July 17, 2025, https://www.fxguide.com/fxfeatured/manuka-weta-digitals-new-renderer/
  52. Our Work on Avatar: The Way of Water Wētā FX - Weta FX, accessed July 17, 2025, https://www.wetafx.co.nz/articles/our-work-on-avatar-the-way-of-water
  53. Cyberpunk 2077 PC tech analysis: a closer look at the ultra high …, accessed July 17, 2025, https://www.eurogamer.net/digitalfoundry-2020-cyberpunk-2077-high-end-pc-tech-analysis
  54. Cyberpunk 2077 ray tracing: what does it look like and how does it run?, accessed July 17, 2025, https://www.rockpapershotgun.com/cyberpunk-2077-ray-tracing-performance
  55. Cyberpunk 2077 - Full Ray Tracing Deep Dive Trailer - YouTube, accessed July 17, 2025, https://www.youtube.com/watch?v=4K7Ugr-8stE
  56. Lumen vs Ray Tracing: Photorealistic Results in 3D Rendering - Lunas, accessed July 17, 2025, https://www.lunas.pro/news/lumen-ray-tracing.html
  57. What is real-time ray tracing? - Unreal Engine, accessed July 17, 2025, https://www.unrealengine.com/en-US/explainers/ray-tracing/what-is-real-time-ray-tracing
  58. Lumen Technical Details in Unreal Engine Unreal Engine 5.6 …, accessed July 17, 2025, https://dev.epicgames.com/documentation/en-us/unreal-engine/lumen-technical-details-in-unreal-engine
  59. Enscape vs. V-Ray: Which Rendering Engine is Best for Your Workflow? - Vagon, accessed July 17, 2025, https://vagon.io/blog/enscape-vs-v-ray-which-rendering-engine-is-best-for-your-workflow
  60. V-ray and Corona: Which renderer should you choose? iRender Farm, accessed July 17, 2025, https://irendering.net/v-ray-and-corona-which-renderer-should-you-choose/
  61. What is NeRF? - Neural Radiance Fields Explained - AWS, accessed July 17, 2025, https://aws.amazon.com/what-is/neural-radiance-fields/
  62. Neural Radiance Fields (NeRFs): A Technical Exploration - Viso Suite, accessed July 17, 2025, https://viso.ai/deep-learning/neural-radiance-fields/
  63. Neural Radiance Fields (NeRFs) - Hugging Face Community Computer Vision Course, accessed July 17, 2025, https://huggingface.co/learn/computer-vision-course/unit8/nerf
  64. NeRF: 3D Scene Rendering with Neural Radiance Fields by Dong-Keon Kim Medium, accessed July 17, 2025, https://medium.com/@kdk199604/nerf-3d-scene-rendering-with-neural-radiance-fields-9bfae5a6fc1c
  65. Spatiotemporal reservoir resampling for real-time ray tracing with dynamic direct lighting - Research at NVIDIA, accessed July 17, 2025, https://research.nvidia.com/sites/default/files/pubs/2020-07_Spatiotemporal-reservoir-resampling/ReSTIR.pdf
  66. Spatiotemporal reservoir resampling for real-time ray tracing with dynamic direct lighting, accessed July 17, 2025, https://cs.dartmouth.edu/~wjarosz/publications/bitterli20spatiotemporal.html
  67. tatran5/Reservoir-Spatio-Temporal-Importance-Resampling-ReSTIR - GitHub, accessed July 17, 2025, https://github.com/tatran5/Reservoir-Spatio-Temporal-Importance-Resampling-ReSTIR
  68. Spatiotemporal Reservoir Resampling (ReSTIR) - Theory and Basic …, accessed July 17, 2025, https://gamehacker1999.github.io/posts/restir/
  69. NVIDIA RTX Neural Rendering Introduces Next Era of AI-Powered Graphics Innovation, accessed July 17, 2025, https://developer.nvidia.com/blog/nvidia-rtx-neural-rendering-introduces-next-era-of-ai-powered-graphics-innovation/