RTX 5090에서 CUDA와 OptiX: 어떤 Cycles 백엔드를 선택해야 할까

긴 서론 없이 바로 말씀드리면, RTX 5090에서는 Blender Cycles의 기본 선택으로 거의 항상 OptiX가 맞습니다. 이유는 간단합니다. OptiX는 RTX 5090의 전용 RT 코어를 사용할 수 있지만, CUDA는 일반 CUDA 코어에서 실행됩니다. 그렇다고 CUDA가 쓸모없다는 뜻은 아닙니다. 결과는 씬, Blender 버전, 렌더 설정에 따라 달라질 수 있습니다. 새로운 Blackwell 아키텍처의 RTX 5090에서는 예전 벤치마크에만 의존하기보다 자신의 프로젝트에서 두 백엔드를 모두 테스트해 볼 가치가 있습니다. RTX 5090에서 무거운 Cycles 패스 트레이싱 씬 대부분은 OptiX로 시작하세요. 이상한 결과가 보이거나 출력과 렌더링 시간을 비교해야 한다면 같은 프레임을 CUDA로도 테스트하세요. 먼저 중요한 전제 조건이 하나 있습니다. Blender 4.4에서 Cycles에 NVIDIA RTX 50 시리즈 GPU 지원이 추가되었으므로 Blender 4.4 이상을 사용하고 있는지 확인하세요.

이 글에서 iRender는 RTX 5090에서 CUDA와 OptiX가 어떻게 동작하는지 자세히 살펴보고 Blender Cycles 파이프라인 최적화를 돕습니다.

RTX 5090에서는 보통 OptiX가 Cycles 렌더링의 더 나은 출발점입니다. 이유는 두 백엔드 뒤에 있는 하드웨어에 있습니다. CUDA는 범용 연산을 위해 GPU의 CUDA 코어를 사용합니다. OptiX는 레이 트레이싱 연산을 가속하도록 설계된 NVIDIA의 하드웨어 레이 트레이싱 가속을 사용할 수 있습니다. Blender 문서에서도 OptiX가 RTX GPU의 하드웨어 레이 트레이싱 가속을 사용한다고 설명합니다.

RTX 5090은 NVIDIA의 Blackwell 아키텍처를 사용하기 때문에 특히 흥미롭습니다. RTX 5090에는 21,760개의 CUDA 코어, 32GB GDDR7 메모리, 4세대 RT 코어. 가 있습니다. 따라서 Cycles 씬에서 패스 트레이싱이 무겁다면 OptiX가 제가 먼저 테스트할 옵션입니다. 하지만 GPU 사양만 보고 백엔드를 고르지는 않겠습니다. 자신의 씬으로 테스트하는 것이 훨씬 좋은 방법입니다.

CUDA는 Compute Unified Device Architecture의 약자입니다. NVIDIA GPU에서 연산 작업을 실행하기 위한 NVIDIA의 플랫폼입니다. Blender Cycles에서 CUDA는 NVIDIA GPU의 CUDA 코어로 렌더링 계산을 수행합니다.

Windows와 Linux에서 지원됩니다. Blender에서는 Cycles Render Devices 설정에서 CUDA를 선택한 뒤 사용할 GPU를 활성화하면 됩니다. 예를 들어 중요한 프로덕션 씬이 예상과 다른 결과를 낸다면, 같은 프레임을 CUDA로 렌더링해 비교할 또 하나의 결과를 얻을 수 있습니다.

OptiX는 NVIDIA의 레이 트레이싱 API로, RTX GPU의 전용 레이 트레이싱 하드웨어를 활용하도록 설계되었습니다. RTX 5090에서 CUDA와 OptiX를 비교할 때 중요한 핵심 차이가 바로 이것입니다. CUDA는 GPU의 CUDA 코어를 사용합니다. OptiX는 하드웨어 가속 레이 트레이싱에 RT 코어를 사용할 수 있습니다. Blender의 현재 문서도 OptiX가 RTX 그래픽 카드의 하드웨어 레이 트레이싱 가속을 활용한다고 명시합니다. 그래서 레이 트레이싱이 렌더링 작업의 큰 부분을 차지하는 Cycles 씬에서 OptiX는 강력한 선택입니다. 

RTX 5090은 NVIDIA Blackwell 아키텍처 기반으로 4세대 RT 코어와 5세대 Tensor 코어를 갖추고 있습니다. 또한 21,760개의 CUDA 코어와 32GB GDDR7 메모리를 탑재했습니다. OptiX가 레이 트레이싱용으로 설계된 RTX 하드웨어를 활용할 수 있기 때문에 이 점이 중요합니다.

RTX 5090은 Blender 4.4부터 Cycles에서 지원됩니다. Blender 4.4 릴리스 노트에는 Blackwell 기반 GeForce RTX 50×0 시리즈 지원이 명시적으로 추가되었습니다. RTX 5090은 새로운 세대의 GPU이므로, RTX 3090이나 RTX 4090의 예전 CUDA 대 OptiX 벤치마크를 그대로 가져와 같은 결과를 기대하지 않겠습니다. 실제 RTX 5090에서, 그리고 무엇보다 실제로 사용하는 씬에서 차이를 측정하는 것이 더 나은 방법입니다. 

CUDA와 OptiX는 렌더 백엔드입니다. OptiX Denoiser와 OpenImageDenoise는 디노이저입니다. 둘은 별개의 설정입니다. 예를 들어 OptiX로 씬을 렌더링하고 디노이징 방식은 따로 선택할 수 있습니다. “OptiX”를 모든 것을 제어하는 하나의 설정으로 생각할 필요는 없습니다.

Blender 4.4는 NVIDIA OptiX 디노이저도 업데이트해 디노이징 품질을 개선했습니다. Blender는 색상 정확도, 디테일 유지, 디노이징 얼룩 감소 같은 부분의 개선을 언급하지만, 결과는 씬마다 여전히 다를 수 있습니다.

OpenImageDenoise도 또 다른 옵션입니다. 지원되는 NVIDIA RTX GPU에서는 GPU 가속도 사용할 수 있으므로 CPU 전용 디노이저라고 설명해서는 안 됩니다.

OptiX가 첫 번째 선택이더라도 CUDA는 여전히 준비해 두겠습니다. 테스트할 만한 이유가 몇 가지 있습니다. 하나는 문제 해결입니다. 씬이 예상치 못한 결과를 내면 같은 프레임을 CUDA로 렌더링해 출력을 비교할 수 있습니다.

또 하나는 호환성입니다. RTX 5090에서 테스트해 본 적 없는 특정 셰이더, 씬 설정, 애드온, 프로덕션 워크플로를 사용한다면 두 번째 백엔드가 또 다른 기준점이 됩니다.

중요한 점은 사용 중인 Blender 버전을 확인하지 않고 CUDA와 OptiX의 기능 차이를 넓게 단정하지 않는 것입니다. Blender는 시간이 지나며 Cycles 지원을 바꿔 왔으므로, 예전 비교가 현재 버전과 맞지 않을 수 있습니다.

씬의 복잡도가 GPU 성능에 직접 영향을 주므로, 프로젝트에 맞는 백엔드를 정하는 가장 좋은 방법은 자신의 파일로 테스트하는 것입니다.

다음과 같은 간단한 단계별 벤치마크 워크플로를 따르세요:

1단계: OptiX 설정

씬을 Blender 4.4+ 에서 열고 Edit > Preferences > System으로 이동합니다. OptiX 탭을 선택하고 RTX 5090이 체크되어 있는지 확인한 뒤 대표 히어로 프레임을 렌더링하세요. 정확한 렌더링 시간을 기록합니다.

2단계: CUDA 설정

같은 CUDA 탭으로 전환합니다( System 환경 설정 메뉴). 해상도, 샘플 수, 라이트 바운스를 포함한 모든 씬 설정을 동일하게 유지하고 정확히 같은 프레임을 렌더링하세요. 시간을 기록합니다.

3단계: 결과 비교

두 백엔드의 총 렌더링 시간을 비교하세요. 머리카락, 식물, 유리 반사처럼 복잡한 씬 디테일을 나란히 놓고 시각적으로 확인해 일관성을 점검하세요.

4단계: 다른 유형의 씬 테스트

단순한 모션 그래픽 파일과 무거운 건축 또는 볼류메트릭 씬 모두에서 이 테스트를 반복해 명확한 파이프라인 가이드라인을 세우세요.

벤치마크 테스트는 간단해 보이지만, 로컬 장비에서 간단히 테스트하려고 RTX 5090을 실물로 구하는 것은 큰 초기 투자입니다.

바로 이럴 때 iRender 같은 IaaS(Infrastructure-as-a-Service) 제공업체가 워크플로에 들어맞습니다. 추측이나 일반적인 온라인 차트에 의존하는 대신, 원격 GPU Cloud Workstation(예: RTX 5090 32GB VRAM과 AMD Threadripper PRO CPU를 갖춘 3i, 4i 또는 5i 패키지)을 몇 시간 동안 임대할 수 있습니다. 

아래에서 모든 서버 구성을 확인해 보세요: 

아래 튜토리얼 영상에서 서비스가 어떻게 작동하는지 확인해 보세요:  

1. 1. RTX 5090에서 OptiX가 CUDA보다 빠른가요?

Blender Cycles의 패스 트레이싱 씬 대부분에서 RTX 5090의 OptiX는 CUDA보다 훨씬 빠릅니다. OptiX는 광선 교차 계산에 4세대 하드웨어 RT 코어를 활용하지만, CUDA는 일반 CUDA 코어에 의존합니다. Blackwell 아키텍처의 레이 트레이싱 하드웨어가 크게 향상되었으므로, 자신의 씬에서 OptiX를 테스트해 보는 것을 적극 권장합니다.

2. RTX 5090에서 OptiX를 쓰려면 특정 Blender 버전이 필요한가요?

네, Blender 4.4 이상을 사용해야 합니다. Blender 4.4는 Blackwell 아키텍처 기반 NVIDIA RTX 50 시리즈 GPU에 대한 Cycles 지원을 완전히 도입한 기준 버전입니다. 이전 버전의 Blender는 GPU 렌더링에서 이 카드를 올바르게 인식하지 못합니다.

3. OptiX 디노이저와 OptiX 렌더 백엔드는 같은 것인가요?

아니요, Blender Cycles에서 둘은 별개의 설정입니다. 렌더 백엔드(CUDA 또는 OptiX)는 렌더링 중 광선과 지오메트리 교차를 계산하는 방식을 제어합니다. 디노이저(OptiX Denoiser 또는 OpenImageDenoise)는 이미지의 노이즈를 정리하는 후처리 단계입니다. OpenImageDenoise는 Blender 4.0부터 GPU 가속을 기본 지원합니다.

최고의 속도 – 완전한 자유