Redshift의 CUDA Error 700: 의미와 해결 방법
오류의 의미와 원인을 확인하는 순서:
- 정체: error 700(cudaErrorIllegalAddress)은 GPU가 잘못된 메모리 주소를 읽거나 쓰려 했다는 뜻입니다. NVIDIA에 따르면 이후 프로세스가 일관되지 않은 상태가 되므로 애플리케이션을 다시 시작해야 합니다.
- 증상일 뿐입니다: 흔한 원인은 Windows의 드라이버 재설정(TDR), Redshift 버전에 비해 너무 오래된 드라이버, VRAM을 한계까지 쓰는 씬입니다. Redshift 로그에 오류 직전의 상황이 나옵니다.
- 해결 순서: 재시작, 드라이버 업데이트, Windows TDR 지연 시간 늘리기, VRAM 부담 줄이기(텍스처 사전 변환, 프록시, 메모리 설정), 그다음 GPU를 하나씩 테스트합니다.
- iRender에서는: 1x~8x RTX 4090 또는 RTX 5090 서버의 전체 관리자 권한이 있으므로 TDR 설정을 바꾸고 서버를 직접 재시작한 뒤 다시 테스트할 수 있습니다.
Render View에서는 잘 되던 렌더링이 “CUDA error 700” 또는 “an illegal memory access was encountered”로 멈춥니다. 같은 세션에서 프레임을 다시 렌더링하면 대개 또 실패합니다. 이 가이드에서는 오류의 의미, 먼저 확인할 원인, Redshift 자체 도구와 Windows 설정으로 각각을 해결하는 방법을 설명합니다.
CUDA error 700
cudaErrorIllegalAddress: an illegal memory access was encountered
1. CUDA error 700의 의미
Error 700은 Redshift 전용 오류가 아니라 CUDA 오류입니다. NVIDIA 문서는 cudaErrorIllegalAddress를 장치가 잘못된 메모리 주소에서 로드 또는 저장 명령을 만난 것으로 설명합니다. 또한 이로 인해 프로세스가 일관되지 않은 상태가 되어, 이후의 모든 CUDA 작업이 같은 오류를 반환하므로 프로세스를 종료하고 다시 실행해야 한다고 말합니다(NVIDIA 개발자 포럼: cudaErrorIllegalAddress).
여기서 두 가지 실무적 결론이 나옵니다. 첫째, error 700이 보이면 다시 시도하기 전에 Cinema 4D(또는 사용하는 3D 앱)를 완전히 종료하세요. 같은 세션에서 다시 렌더링해도 되지 않습니다. 둘째, 이 오류는 GPU 작업이 실패했다는 사실만 알려줄 뿐 이유는 알려주지 않습니다. 원인은 그 전에 일어난 일에 있으므로 Redshift 로그를 가장 먼저 확인해야 합니다.
2. 흔한 원인과 확인 순서
| 원인 | 징후 | 해결 |
|---|---|---|
| Windows가 GPU 드라이버를 재설정함(TDR) | 화면이 잠깐 깜박이거나 검게 변하거나, Windows가 디스플레이 드라이버 응답 중지를 알림 | TdrDelay 늘리기(3절) |
| 드라이버가 너무 오래되었거나 Redshift 버전과 맞지 않음 | Redshift 업데이트 후 또는 새로 설정한 머신에서 오류 발생 | 최신 NVIDIA Studio 드라이버 설치. Maxon은 현재 Redshift 버전에 드라이버 570 이상을 명시 |
| VRAM을 한계까지 사용 | 무거운 텍스처나 지오메트리, 로그에 큰 PCIe 업로드 수치와 적은 여유 메모리 표시 | 텍스처 사전 변환, 프록시 사용, 텍스처 크기 축소, 또는 VRAM이 더 큰 GPU 사용(4절) |
| 멀티 GPU 머신의 GPU 하나가 불안정 | 오류가 항상 같은 장치를 지목 | GPU를 하나씩 사용해 렌더링해 찾아내고, 오버클럭 제거 |
| 특정 에셋 또는 플러그인 | 매번 같은 프레임에서 오류 발생 | 객체를 절반씩 비활성화해 원인 객체 찾기 |
드라이버 요구 사항: Maxon: 시스템 요구 사항. 기타 원인: 3절과 4절의 출처를 바탕으로 정리한 저희의 문제 해결 순서입니다.
3. Windows TDR 지연 시간 늘리기
Windows는 TDR(Timeout Detection and Recovery)로 GPU를 감시합니다. GPU가 스케줄러에 제때 응답하지 않으면 Windows가 드라이버를 재설정하고, 그 순간 GPU를 쓰던 렌더링은 실패합니다. 타임아웃은 다음 레지스트리 값으로 설정됩니다: TdrDelay . Microsoft는 이 값을 GPU가 스케줄러의 선점 요청을 지연할 수 있는 초 단위 시간으로 설명합니다(Microsoft: TDR 레지스트리 키). 기본값은 2초이며, 무거운 렌더링 작업은 이를 넘을 수 있습니다.
- 관리자 권한으로
regedit을 열고 다음 위치로 이동합니다:HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\GraphicsDrivers. - DWORD(32비트) 값을 만들거나 편집합니다. 이름은
TdrDelay이고, 단위를 10진수로 설정한 뒤 더 큰 값을 입력합니다. Foundry와 Adobe 같은 소프트웨어 업체는 무거운 GPU 작업에 60초를 권장하며, 함께TdrDdiDelay. - 도 설정합니다. 컴퓨터를 재시작하세요. Windows는 시작할 때만 이 값을 읽습니다.
드라이버나 Windows 업데이트로 이 키가 기본값으로 돌아갈 수 있으므로 업데이트 후 다시 확인하세요(Foundry Q100688). 작업하는 머신에서 TDR을 완전히 끄지는 마세요. GPU가 실제로 멈췄을 때 화면을 복구해 주는 기능입니다.
4. VRAM 부담 줄이기
시스템을 위해 메모리를 남겨 두세요. Redshift는 기본적으로 여유 VRAM의 90%를 사용합니다. 이 비율은 System 탭의 Memory 섹션에서 바꿀 수 있으며, Maxon은 VRAM을 일부 남겨 두면 3D 앱과 운영 체제가 안정적으로 유지된다고 설명합니다(Maxon: Redshift 로그 파일). 이 값을 올렸다면 원래대로 되돌리세요.
텍스처를 사전 변환하세요. Redshift는 모든 텍스처를 처음 렌더링할 때 자체 형식으로 변환합니다. Texture Processor는 같은 변환을 미리 수행해 결과를 원본 옆에 다음 확장자로 저장하고 .rstexbin, 렌더링 시 Redshift가 변환을 건너뛰게 합니다(Maxon: Texture Processor 도구). Windows에서 이 도구의 위치는 C:\ProgramData\redshift\bin\redshiftTextureProcessor이며, 사용법은 다음과 같습니다:
redshiftTextureProcessor.exe inputfile [options]
텍스처별로 알맞은 옵션을 찾으려면 한 번 렌더링한 뒤 Redshift 로그에서 “for pre-conversion, recommended TextureProcessor tool options are” 줄을 찾으세요. 모든 텍스처에 고유한 파일 이름을 붙이세요. wall_displace.jpg과 wall_displace.exr은 둘 다 같은 wall_displace.rstexbin.
무거운 정적 지오메트리에는 프록시를 사용하세요. Maxon은 객체나 폴리곤이 많은 씬에 Redshift 프록시를 권장하며, 이는 씬 추출 시간도 줄여 줍니다(Maxon: Redshift 로그 파일).
그래도 씬이 카드보다 많은 메모리를 필요로 한다면 남은 방법은 VRAM이 더 큰 카드입니다. RTX 5090은 32GB로 RTX 4090의 24GB보다 큽니다. 멀티 GPU 머신에서는 모든 카드가 씬을 담아야 합니다.
VRAM 관련 출처에 대한 참고: Maxon 지원 문서는 여러 GPU를 사용할 때 Redshift가 VRAM을 합치지 않는다고 설명합니다. Maxon의 3D 렌더링 제품 페이지에는 “multi-GPU memory pooling”이 나와 있으며 Redshift가 아웃오브코어 메모리를 여러 카드에 나눠 쓴다고 합니다. 이 글은 지원 문서를 따릅니다. 모든 GPU가 각자의 VRAM에 씬을 담는다고 보고 계획하세요. 사용하는 Redshift 버전에 대해서는 Maxon 최신 문서를 확인하세요.
5. 오류 전후의 로그 읽기
다음 위치의 최신 로그를 여세요: C:\Program Files\Maxon Redshift 20XX\Log\Log.Latest.0 그리고 오류 바로 앞의 줄을 읽으세요. 어느 장치가 실패했는지, 여유 메모리가 얼마였는지(“CUDA reported free mem”), 텍스처를 변환 중이었는지, 지오메트리와 텍스처의 PCIe 업로드 수치가 얼마나 컸는지 확인하세요(Maxon: Redshift 로그 파일). 이를 통해 위의 원인 중 무엇에 해당하는지 알 수 있으므로, 모든 것을 한꺼번에 바꾸지 않고 하나씩 바꿀 수 있습니다.
Redshift가 CUDA error 700으로 실패할 때 SaaS와 IaaS 렌더팜 중 무엇이 맞을까?
Redshift 씬은 같은 Cinema 4D와 Redshift 버전을 쓰는 렌더팜이라면 어디서든 같게 렌더링됩니다. 차이는 머신을 얼마나 바꿀 수 있느냐입니다. SaaS 렌더팜에서는 씬을 업로드하면 렌더팜이 프레임과 로그를 돌려주며, 시스템 설정은 렌더팜의 것입니다. iRender 같은 IaaS 렌더팜에서는 관리자 권한이 있는 GPU 서버를 임대해 Windows와 Redshift 설정을 직접 바꿀 수 있습니다.
| 상황 | SaaS 렌더팜 | IaaS 렌더팜(iRender) |
|---|---|---|
| 씬이 집에서 문제없이 렌더링되고 프레임만 필요할 때 | 좋은 선택: 업로드, 제출, 프레임 다운로드만 하면 되고 관리할 머신이 없음 | 이것도 가능하지만 서버를 시작하고 Cinema 4D를 직접 실행해야 함 |
| 마감이 있어 렌더링 시작과 종료 시점을 알아야 할 때 | 작업이 렌더팜 대기열에 들어가므로 시작 시점은 렌더팜이 얼마나 바쁜지에 달려 있습니다. 많은 렌더팜이 더 빨리 시작하려면 우선순위가 높은 요금제를 판매합니다 | 서버가 부팅되는 순간부터 내 작업만 실행하므로, 렌더링 시작 시점을 직접 정하고 전체 작업 시간을 가늠할 수 있습니다 |
| 길거나 무거운 프레임에서만 오류가 발생할 때 | 렌더팜의 TDR과 드라이버 설정이 적용됨 | TdrDelay를 늘리고 서버를 직접 재시작한 뒤 프레임을 다시 렌더링 |
| VRAM 부담이 의심될 때 | 작업이 끝난 뒤 로그로 확인 | 프레임을 렌더링하는 동안 24GB 또는 32GB 카드에서 로그의 여유 메모리를 확인 |
| 작업 전에 텍스처를 사전 변환하고 싶을 때 | 렌더팜이 .rstexbin 파일을 원본 옆에 보관하는지 확인 | 서버에서 Texture Processor를 실행하고 변환된 파일을 프로젝트와 함께 보관 |
| 프레임이 많고 마감이 있을 때 | 렌더팜이 프레임을 여러 머신에 분산 | 4x 또는 8x 서버를 임대하거나, 프레임 범위를 나눠 여러 서버를 임대 |
이 작업에서 두 렌더팜 모델이 어떻게 동작하는지 비교한 것이며, 속도 테스트가 아닙니다.
간단한 규칙: 씬이 안정적으로 렌더링되고 프레임만 필요하다면 SaaS 렌더팜이 더 빠른 길입니다. 아직 크래시를 추적 중이라면 직접 설정하고 재시작할 수 있는 머신이 필요하며, IaaS 서버가 바로 그것을 제공합니다.
iRender 서버에서의 크래시 테스트 워크플로
- 먼저 업로드하세요. 서버를 시작하기 전에 씬과 텍스처를 iRender Drive에 올리세요. 전송과 저장은 무료이며 업로드하는 동안 임대 시간은 계산되지 않습니다.
- 서버를 시작하세요. Cinema 4D와 Redshift가 사전 설치되어 있습니다. 1 GPU 서버는 최소 1시간, 멀티 GPU 서버는 분 단위로 과금됩니다.
- TdrDelay 설정 : 3절처럼 설정하고 Windows가 새 값을 읽도록 서버를 직접 재시작하세요.
- 텍스처 사전 변환 : Texture Processor로 변환한 뒤 실패했던 프레임을 렌더링하세요.
- 로그 확인 : 다시 실패하면 로그가 가리키는 원인을 해결한 뒤 작업을 렌더링하세요.
자주 묻는 질문
1. Redshift에서 CUDA error 700은 무슨 뜻인가요?
cudaErrorIllegalAddress로, GPU가 잘못된 메모리 주소에 접근하려 했다는 뜻입니다. 이후 CUDA 작업을 다시 실행하려면 애플리케이션을 재시작해야 합니다.
2. CUDA error 700은 하드웨어 고장인가요?
대개는 아닙니다. 흔한 원인은 Windows 드라이버 재설정(TDR), 오래된 드라이버, 많은 VRAM 사용입니다. 고장 났거나 오버클럭된 카드일 가능성도 있으므로, 오류가 항상 같은 장치를 지목한다면 GPU를 하나씩 테스트하세요.
3. Redshift에는 TdrDelay 값을 얼마로 설정해야 하나요?
Windows 기본값은 2초입니다. Foundry와 Adobe 같은 소프트웨어 업체는 무거운 GPU 작업에 60초를 권장합니다. 변경 후에는 컴퓨터를 재시작하세요.
4. Redshift용 텍스처는 어떻게 사전 변환하나요?
텍스처 경로와 옵션을 지정해 redshiftTextureProcessor를 실행하세요. 첫 렌더링 후 Redshift 로그에 텍스처별 권장 옵션이 나옵니다.
5. Redshift가 일부 프레임에서만 크래시하는 이유는 무엇인가요?
해당 프레임에서 무거운 객체가 화면에 들어오는 등 더 많은 메모리나 더 긴 GPU 작업이 필요할 수 있습니다. 그 프레임의 로그에서 여유 메모리와 업로드 수치를 확인하세요.
6. iRender 서버에서 TDR 설정을 바꿀 수 있나요?
네. 관리자 권한이 있으므로 레지스트리를 편집하고 서버를 직접 재시작할 수 있습니다.
iRender에서 Cinema 4D와 Redshift 프로젝트를 렌더링하세요
iRender는 IaaS GPU 렌더팜입니다. NVIDIA RTX 4090(24GB) 또는 RTX 5090(32GB) GPU 1, 2, 4, 8개와 AMD Ryzen™ Threadripper™ PRO CPU, 256GB ECC RAM, 2TB NVMe SSD를 갖춘 베어메탈 서버를 임대해 원격 데스크톱으로 접속하고, 전체 관리자 권한으로 내 워크스테이션처럼 작업합니다. 서버 이미지는 세션 사이에 저장되므로 플러그인과 설정이 그대로 유지됩니다. 모든 서버에 Cinema 4D와 Redshift가 사전 설치되어 있습니다.
멀티 GPU 서버는 분 단위로 과금되며(1 GPU 서버는 최소 1시간), 3시간 이상 세션은 10% 할인됩니다. 4 GPU·8 GPU 서버는 수랭식이며, 자체 측정 결과 장시간 렌더링 중에도 GPU 온도가 60–70°C로 유지됩니다. 엘리트 지원팀이 주 7일 핫라인, 라이브 채팅, Skype, WhatsApp, 이메일로 도와드립니다.
이 퀵스타트 영상은 서버를 시작하고 Cinema 4D와 Redshift를 렌더링하는 방법을 보여줍니다:
저희 서버에서 기록한 Redshift 렌더링 두 가지: 4x RTX 5090에서 1080p 150프레임을 프레임당 40.84초(약 1시간 42분)에, 1x RTX 5090에서 1080p 301프레임 클로스 시뮬레이션을 프레임당 21.3초에 렌더링했습니다:
신규 사용자는 첫 충전 시 100% 보너스(최소 $50)를 받습니다. 요금제는 Cinema 4D 및 Redshift 렌더팜 페이지에서 확인하거나 다음을 내려받으세요: iRender GPU 앱.
