뉴럴 렌더링 스택의 본격화, DLSS 4.5가 보여주는 AI 렌더링의 확장

업스케일링을 넘어 렌더링 파이프라인 전체로 확장된 AI 보정

2026년 선보인 엔비디아(NVIDIA) DLSS 4.5는 단순히 화면을 선명하게 키워주는 업스케일 기술이 아니다. 저해상도로 그려진 화면을 고해상도로 복원해주는 역할, 레이트레이싱(Ray Tracing) 계산에서 생긴 지저분한 얼룩 같은 노이즈를 AI가 정리해주는 역할, 실제로 그려진 프레임 사이에 AI가 추가 프레임을 끼워 넣는 역할, 모니터의 주사율에 맞춰 추가 프레임의 개수를 상황에 따라 늘리고 줄이는 역할까지, 네 가지 기능이 하나의 AI 렌더링 묶음으로 연결된 구조다. 엔비디아 개발자 문서는 이를 각각 초해상도(Super Resolution), 레이 리컨스트럭션(Ray Reconstruction), 프레임 제너레이션(Frame Generation), 동적 MFG(Dynamic Multi Frame Generation)라고 부른다. 더 버지(The Verge)에 따르면 이번 버전에서는 2세대 트랜스포머 모델이 새로 도입돼 이전보다 5배 많은 연산과 확장된 학습 데이터로 훈련됐고, RTX 50 시리즈 전용인 6배 MFG는 한 프레임이 그려지는 사이 AI가 최대 5장을 덧붙여 4K 240Hz급 게이밍을 노린다.

AI가 손대는 범위도 한층 넓어졌다. 단순히 화면을 키우는 수준을 지나, 빛 계산에서 생긴 노이즈를 정리하고 프레임 사이를 예측해 채우는 단계까지 진화한 것이다. 최신 프레임 생성 모델은 게임 화면 위에 겹쳐진 미니맵이나 조준선 같은 정적 인터페이스 영역도 함께 읽어 들여, 이쪽에서 종종 발생하던 일그러짐이나 잔상을 줄였다. 2026년 3월 31일 공개된 업데이트는 5배와 6배 프레임 옵션을 앱 단위로 조정할 수 있도록 개방했고, 톰스 하드웨어(Tom’s Hardware)는 모니터 주사율에 맞춰 추가 프레임 수를 알아서 조절하는 방식이라고 소개했다. GPU를 새것으로 바꾸지 않아도 AI 모델 업데이트만으로 수백 개의 기존 게임이 최신 품질로 갱신되는 경로는 이렇게 자리 잡았다.

DLSS 4.5 구성 요소별 역할과 기술적 특징 ⒸNVIDIA, The Verge, Tom’s Hardware 자료 종합

DLSS 뉴럴 네트워크 작동 구조 ⒸNVIDIA

AMD 레드스톤 스택의 합류로 재편된 AI 렌더링 경쟁의 축

엔비디아가 이렇게 기술 묶음을 다지는 동안 경쟁 구도도 함께 이동했다. 누가 더 좋은 업스케일러를 쥐고 있느냐를 따지던 단계가 지나고, AI 렌더링 전체를 얼마나 완성도 있게 제공하느냐의 국면으로 넘어간 것이다. AMD가 새로 내놓은 FSR 4는 더 버지(The Verge)에 따르면 AMD의 첫 AI 기반 업스케일링 세대이고, 최신 그래픽카드 설계인 RDNA 4 전용으로 설계됐다. AMD 공식 자료에 따르면 RDNA 4는 2세대 AI 가속기와 3세대 레이트레이싱 가속기, 효율적인 연산 방식인 FP8 최적화를 바탕으로 FSR 4를 구동한다. 기존 FSR 3.1을 지원하던 게임이라면 같은 연결 방식을 그대로 쓰기 때문에, 비교적 적은 공수로 FSR 4까지 업그레이드할 수 있는 경로도 함께 제공된다.

AMD는 업스케일링 하나만으로는 격차를 뒤집기 어렵다고 판단하고, 레드스톤(Redstone)이라는 이름 아래 업스케일링, AI 프레임 추가 생성, 레이트레이싱 노이즈를 AI로 다시 만들어내는 기술, 그리고 빛 계산 결과를 미리 저장해두고 재활용해 속도를 올리는 기술까지 하나의 묶음으로 연결했다. 이들은 각각 FSR 업스케일링(FSR Upscaling), FSR 프레임 제너레이션 (FSR Frame Generation), FSR 레이 리제너레이션 (FSR Ray Regeneration), FSR 라디언스 캐싱(FSR Radiance Caching)이라는 이름을 달고 있으며, 2026년 3월에는 여기에 FSR 4.1과 레이 리제너레이션 1.1까지 추가됐다. 업스케일러 스위치를 켜고 끄는 수준이던 경쟁이, AI 프레임 생성과 노이즈 정리를 지나 패스 트레이싱의 조명 계산 가속까지 포괄하는 시스템 경쟁으로 옮겨간 셈이다. 엔비디아 쪽에서도 AI 모델 업데이트가 GPU 세대교체를 대신하는 품질 향상 경로로 자리 잡은 만큼, 차세대 그래픽 경쟁의 축은 하드웨어 사양표에서 AI 기반 렌더링 시스템 전체의 완성도 쪽으로 옮겨가고 있다.

엔비디아 DLSS 4.5 vs AMD FSR 레드스톤 스택 구성 영역 비교 ⒸNVIDIA, TheVerge, AMD 자료 종합

DLSS 4.5 초해상도 적용 예시 ⒸNVIDIA

패스 트레이싱 대중화의 실상, 실전 도입 게임이 보여주는 산업화

데모 기술에서 출시 기본 옵션으로 이동한 패스 트레이싱

빛의 움직임을 하나하나 따라가면서 조명과 반사, 그림자를 사실적으로 계산해주는 기술이 패스 트레이싱(Path Tracing)이다. 전에는 최고급 사양에서나 겨우 맛볼 수 있던 이 기술이 이제 주류 출시작의 기본 옵션으로 들어오고 있다. IO 인터랙티브(IO Interactive)는 〈007 퍼스트 라이트〉가 2026년 5월 27일 출시 시점부터 패스 트레이싱과 DLSS 4.5의 동적 MFG, 레이트레이싱 노이즈를 AI로 정리하는 레이 리컨스트럭션(Ray Reconstruction)을 기본 지원한다고 발표했다. 레메디 엔터테인먼트의 연내 출시작 〈컨트롤 레조넌트〉도 같은 기술 조합을 그대로 얹었고, 이미 출시된 〈레지던트 이블 레퀴엠〉은 4K 최고 옵션에 AI가 4배로 프레임을 덧붙이는 설정에서 RTX 5090이 280fps 이상, RTX 5080도 약 200fps에 근접한다고 엔비디아는 밝혔다.

이런 확산을 받쳐주는 것은 주변 기술들의 발전이다. 엔비디아 기술 블로그에 따르면 RTX 메가 지오메트리(RTX Mega Geometry)는 게임 속 3D 오브젝트의 형상 데이터를 덩어리 단위로 묶고 재활용하는 방식으로, 레이트레이싱에 필요한 공간 구조를 기존 방식보다 최대 100배 빠르게 만들어낸다. 〈앨런 웨이크 2〉에서는 이 기법으로 프레임이 5~20% 올라가고 GPU 메모리 사용량은 300MB 줄었으며, 같은 기술이 〈컨트롤 레조넌트〉에도 그대로 적용된다. 여기에 레이 리컨스트럭션이 예전에는 엔지니어가 손으로 일일이 조정하던 여러 겹의 노이즈 제거 과정을 AI 한 번으로 대체하면서, 오늘의 패스 트레이싱은 더 이상 단독 기술이 아니라 형상 처리와 노이즈 제거, 프레임 생성까지 한 묶음으로 맞물린 종합 최적화 패키지로 움직이고 있다.

레이 리컨스트럭션 적용 전후 비교 ⒸNVIDIA

보편 옵션 대신 장르 선택적 프리미엄으로 정착하는 패스 트레이싱

다만 이런 수치가 모든 상황에서 그대로 재현되지는 않는다. AI가 프레임을 덧붙이는 기술에도 분명한 전제 조건이 있기 때문이다. 톰스 하드웨어(Tom's Hardware)는 원래 게임이 초당 30장 수준에서 돌고 있다면 AI가 5장을 더 만들어준다고 해도 180장 같은 매끄러움은 느낄 수 없다고 지적하며, 추가 생성 배수는 어디까지나 원래 프레임이 충분히 나와 있을 때에만 제 몫을 한다고 설명했다. 엔비디아가 추가 프레임 개수를 게임이나 앱 단위로 조정할 수 있도록 풀어둔 배경도 여기에 있다. 모니터 주사율과 원래 프레임 상황에 맞춰 선택지를 바꿔야 하기 때문이다. AI가 덧붙이는 프레임은 매끄러운 화면을 위한 전제 조건이 아니라, 이미 안정적인 성능 위에 얹히는 추가 레이어로 움직인다.

장르별 반응의 차이도 같은 방향을 가리킨다. 톰스 가이드(Tom's Guide) 실측 기사에 따르면 천천히 진행되는 공포나 액션 같은 싱글플레이 게임에서는 한 프레임에서 다음 프레임까지의 간격, 이른바 프레임 타임(Frame Time)이 조금 길어도 크게 문제되지 않지만, 순간 반응이 승부를 가르는 빠른 멀티플레이에서는 원래 프레임 자체가 훨씬 높아야 한다. 같은 기술 묶음이라도 장르에 따라 기대치와 허용 범위가 달라지는 구조다. 패스 트레이싱이 모든 장르의 기본값으로 퍼지기보다 공포, 잠입, 시네마틱 액션, 라이프 시뮬레이션처럼 조명의 변화가 곧바로 체감 품질로 이어지는 장르에서 먼저 프리미엄 옵션으로 자리 잡을 가능성이 높은 이유다. 고급 그래픽의 보편화보다는, 장르별로 가장 잘 맞는 조합을 설계하는 시대가 먼저 열리고 있는 셈이다.

개발 파이프라인 AI화, 제작 현장을 재편하는 패스 트레이싱과 AI 도구

라이팅 노동 감소와 엔진, GPU 비용 증가가 공존하는 구조

패스 트레이싱이 제작 현장에 안겨주는 가장 큰 변화는 아티스트가 장면마다 빛을 손으로 맞춰야 하는 노동이 줄어든다는 점이다. 넷이즈(NetEase)가 자사 게임에 이 기술을 적용한 뒤 인터뷰에서 밝힌 바에 따르면, 예전에는 직접 비추는 빛, 벽에 반사돼 돌아오는 간접광, 표면의 반사, 그림자를 각각 따로 계산해 합치는 식으로 일했지만, 패스 트레이싱을 쓰면 이 모든 계산이 한 번에 처리된다. 실제로 개발진은 장면마다 조명을 일일이 조정하던 시간을 줄이고, 램프나 모닥불처럼 빛을 내는 오브젝트만 배치한 뒤 나머지 계산은 패스 트레이싱에 맡길 수 있었다고 설명했다. 엔비디아가 공개한 〈사이버펑크 2077〉 오버드라이브 모드 설명도 같은 방향이다. 빛을 처리하는 여러 작은 시스템을 일일이 운영하는 대신 하나의 통합 레이트레이싱 라인으로 바꾸면, 장면마다 대규모로 튜닝해야 할 부담이 크게 줄어든다.

〈사이버펑크 2077〉 오버드라이브 모드 ⒸCD Project Red

다만 이러한 노동의 감소가 곧 비용의 감소로 이어지지는 않는다. id 소프트웨어(id Software)는 〈둠: 더 다크 에이지〉에 패스 트레이싱을 적용하는 데 약 6개월이 걸렸다고 밝혔고, 넷이즈 역시 5~6개월의 개발 기간과 만만치 않은 오류 수정 비용을 들였다고 언급했다. id 소프트웨어가 꼽은 주요 과제는 빛의 경로를 빠르게 찾기 위해 게임 공간을 계층적으로 나눠 저장해두는 자료구조인 BVH(Bounding Volume Hierarchy)가 차지하는 메모리 비용의 증가와, 이 구조를 실시간으로 관리하는 작업, 그래픽 처리 프로그램인 셰이더 (Shader)의 복잡도 증가 등이었다. GDC 2026 세션 설명도 패스 트레이싱 도입을 그래픽과 렌더링 담당 엔지니어, 기술 디렉터, 엔진 아키텍트를 겨냥한 고급 주제로 분류했다. 다만 엔비디아의 스트림라인 (Streamline), AMD의 FSR SDK 같은 공통 개발도구가 DLSS 4.5와 FSR 4를 게임 엔진에 쉽게 끼워 넣을 수 있게 해주면서, 중견 스튜디오의 진입 장벽은 상당히 낮아지고 있다.

풀 패스 트레이싱 선도보다 도입 기반층에 집중된 국내 스튜디오

같은 흐름은 국내 스튜디오에서도 여러 갈래로 확인된다. 크래프톤은 〈배틀그라운드〉 속 AI 동반자 알리(Ally)에 장기 기억을 더해 플레이어와 주고받은 대화를 다음번까지 기억하도록 개선했고, 〈인조이〉의 스마트 조이(Smart Zoi)는 인터넷 연결 없이 기기 안에서 작동하는 소형 AI가 NPC의 하루 일과와 행동을 자연스럽게 끌어가도록 만들어졌다. 펄어비스의 〈붉은사막〉은 공식 FAQ 기준 엔비디아(NVIDIA), AMD, 인텔(Intel)의 주요 AI 렌더링 기술을 가리지 않고 모두 지원하며, AMD는 자사의 최신 업스케일링과 AI 노이즈 정리 기술의 실제 적용 사례로 〈붉은사막〉를 꼽았다. 엔씨소프트의 〈아이온 2〉는 DLSS 4의 AI 프레임 생성과 반응 속도를 낮춰주는 리플렉스(Reflex) 기능을 탑재했고, 넥슨의 〈퍼스트 디센던트〉는 이미 2024년부터 DLSS 3.5와 레이트레이싱, 리플렉스를 출시 당일부터 지원하며 국내 업계의 학습 곡선을 앞당긴 선행 사례로 꼽힌다.

다만 이들 사례가 가리키는 방향은 풀 패스 트레이싱 선도라기보다는 도입 기반층에 가깝다. GDC 2026에서 엔비디아가 전면에 내세운 대표 패스 트레이싱 신작이 〈007 퍼스트 라이트〉와 〈컨트롤 레조넌트〉 같은 서구 타이틀이었던 반면, 국내 대표 사례들은 DLSS와 FSR 연동, AI 프레임 생성, AI NPC, 기존 레이트레이싱 고도화 쪽에 집중된 모습이다. 시장성이 이미 입증된 보조 기술 레이어부터 산업화에 올리고 있다는 해석이 가능한 대목이다.

앞으로 국내 스튜디오가 마주할 선택지는 크게 세 갈래로 모인다. 첫째, 엔비디아와 AMD 어느 한쪽에 종속되지 않도록 양쪽이 함께 쓰는 공통 개발도구의 선제적 도입이다. 둘째, 조명의 변화가 몰입으로 바로 연결되는 공포, 잠입, 시네마틱 액션, 라이프 시뮬레이션 장르부터 패스 트레이싱을 차근차근 적용하는 것이다. 셋째, 재질과 조명 데이터, 캐릭터 움직임 정보, AI 캐릭터와의 상호작용까지 함께 엮어내는 통합 역량을 축적해야 한다. 게임 그래픽의 미래는 패스 트레이싱 하나의 확산이 아니라, AI가 함께 들어와 그것을 재정의하는 방향으로 나아갈 전망이다.