roobrief개발자를 위한 IT 뉴스

하드웨어

엔비디아 RTX Spark PC 사전 예약 시작… 128GB 개발 박스는 5,999달러

128GB 로컬 AI PC가 ’살 수 있는 제품’이 됐지만, 가격은 애널리스트 추정(약 2,899달러, 약 390만 원)의 두 배가 넘는 5,999달러(약 800만 원)다.

엔비디아의 PC용 칩 RTX Spark를 쓴 제품들이 사전 예약에 들어갔다. 마이크로소프트는 서피스 신제품 사전 예약을 열었고, 이 중 128GB 통합 메모리(CPU와 GPU가 한 메모리를 나눠 쓰는 방식)를 단 개발용 데스크톱 ’Surface RTX Spark Dev Box’는 미국 기준 5,999달러다. 클라우드 없이 큰 AI 모델을 내 PC에서 돌리려는 개발자에게 새 선택지가 생긴 셈이지만, 기대했던 가격대는 아니다.

RTX Spark는 어떤 칩인가

RTX Spark는 올해 컴퓨텍스(대만에서 열리는 큰 컴퓨터 박람회)에서 공개된 윈도우용 Arm 기반 슈퍼칩이다. Arm은 스마트폰 칩에 주로 쓰이는 저전력 설계 방식이고, 슈퍼칩은 CPU와 GPU를 한 패키지에 묶은 칩을 엔비디아가 부르는 이름이다. 엔비디아가 미디어텍과 칩을 함께 설계하고, 마이크로소프트와 윈도우 지원을 맞췄다. 보도된 사양은 다음과 같다.

  • GPU: CUDA 코어(엔비디아 GPU의 계산 장치) 6,144개, 5세대 텐서 코어(AI 계산 전용 장치)
  • CPU: Grace CPU(엔비디아의 Arm 기반 CPU), 최대 20코어
  • AI 연산: 최대 1페타플롭스(1초에 1,000조 번 계산하는 성능). 이론상 최대치다. 숫자를 4비트로 줄여 계산하는 FP4 방식과, 필요 없는 계산을 건너뛰는 희소성(sparsity) 기법을 함께 적용한 값이다.
  • 메모리: 최대 128GB 통합 메모리. 규격은 LPDDR5X(저전력 고속 메모리 규격)다.

사양은 마이크로소프트와 엔비디아의 공식 발표를 기준으로 적었다. 메모리 대역폭(속도)은 엔비디아 제품 페이지에도 나와 있지 않다.

지금 살 수 있는 제품과 가격

제품 메모리 가격(미국) 출고
Surface Laptop Ultra 최대 128GB 2,599달러(약 350만 원)부터, 128GB·1TB 최상위 5,899.99달러(약 790만 원) 10월 16일부터
Surface RTX Spark Dev Box 128GB + 2TB SSD 5,999달러(약 800만 원) 11월(마이크로소프트 닷컴 한정)
ASUS ProArt P16 최대 128GB 128GB 구성의 미국 가격은 공식 자료에서 확인하지 못함. 미국 스토어의 64GB 구성은 4,399.99달러(약 590만 원)로 표기 10월 16일
  • 가격은 모두 사전 예약 기준이다. ASUS는 미국 시작가를 2,599.99달러(약 350만 원)로만 밝혔다.
  • Dev Box는 AMD Ryzen AI Halo(3,999달러, 약 540만 원)보다 2,000달러(약 270만 원) 비싸다. 같은 128GB급으로는 엔비디아 DGX Spark(4,699달러, 약 630만 원)보다도 높다.

원문에서 확인되지 않은 부분

  • “100B+ 모델을 직접 파인튜닝”(파인튜닝: 이미 만들어진 모델을 특정 용도에 맞게 추가로 학습시키는 일): 마이크로소프트 공식 글은 파라미터(모델이 학습으로 정한 숫자)가 1,200억 개 이상인 모델을 지원한다고 밝혔다. 다만 “직접 파인튜닝”이라는 표현은 공식 글에 없다. 계산상 파라미터가 1,000억 개인 모델의 값을 4비트로 줄이면 약 50GB라 128GB에 들어간다. 하지만 이것은 ’들어간다’는 뜻일 뿐이고, 실제 속도나 파인튜닝 방식(모델의 일부만 고치는 LoRA 등)은 제품별 검증이 필요하다.
  • “2,899달러급”: 이 숫자는 출시 전 모건스탠리 애널리스트가 128GB 구성에 대해 내놓은 추정치다. 실제 사전 예약 가격은 5,999달러다.

개발자에게 달라질 수 있는 것

아래는 보도를 바탕으로 한 추정과 조언이다.

  • 윈도우에서도 CUDA 기반 로컬 개발이 가능해질 수 있다. 다만 Windows on Arm(Arm 칩에서 도는 윈도우)에서 PyTorch(AI 개발 라이브러리)와 Ollama, llama.cpp, vLLM(로컬 AI 실행 도구)이 얼마나 잘 도는지는 출시 후 후기를 봐야 한다.
  • 용량보다 속도(대역폭)를 확인한다. 같은 128GB여도 대역폭에 따라 글자가 나오는 속도가 크게 달라진다. 이번 제품의 대역폭은 아직 확인되지 않았다.
  • 가격 대비로 따져 본다. 같은 128GB급에서 DGX Spark(4,699달러), Ryzen AI Halo(3,999달러)와 비교해 이 가격이 값어치를 하는지, 윈도우가 꼭 필요한지가 기준이 된다.
  • 사전 예약 단계다. Dev Box는 미국 한정, 11월 출고라 실제 성능 후기는 한 달 뒤에야 나온다.

앞으로 볼 것

RTX Spark의 메모리 대역폭과 로컬 LLM(대형 언어 모델) 성능 측정 결과, Windows on Arm에서의 CUDA·PyTorch 호환성, 그리고 다른 PC 제조사(델, HP, 레노버, MSI)의 가격이다.

원화 환산은 10월 14일 환율(1달러≈1,341원) 기준의 대략적인 값이다.

출처

출처: blogs.windows.com

← 목록