엔비디아 (Nvidia)의 가장 작은 그레이스-블랙웰 (Grace-Blackwell) 워크스테이션이 드디어 출시됩니다. CES에서 ‘프로젝트 디지츠 (Project Digits)’라는 이름으로 처음 공개된 이 AI 미니 PC는 이제 ‘DGX 스파크 (DGX Spark)’라는 이름으로 시장에 나오게 되었어요.
작지만 강력한 성능, DGX 스파크의 핵심 스펙
DGX 스파크는 대략 NUC 크기의 소형 시스템이지만, 그 성능은 결코 작지 않습니다. 이 워크스테이션은 최대 1 페타플롭 (petaFLOP)의 희소 FP4 성능을 제공하는 블랙웰 (Blackwell) GPU와 128GB의 통합 시스템 메모리, 그리고 200Gbps의 고속 네트워킹 기능을 갖추고 있어요.
가격은 3,000달러부터 시작하며, 일반 소비자용 PC는 아닙니다. 윈도우 (Windows) 대신 맞춤형 우분투 리눅스 (Ubuntu Linux)가 탑재되어 출시되는데요. 이는 AI 및 로봇 공학 개발자, 데이터 과학자, 머신러닝 연구원들을 위한 플랫폼으로 설계되었기 때문입니다. DGX 스파크는 최대 2000억 개의 매개변수를 가진 모델을 실행할 수 있는 능력을 자랑합니다.
이러한 종류의 작업은 엄청난 메모리를 필요로 하기 때문에, 일반 소비자용 그래픽 프로세서로는 실행하기 어렵습니다. 고성능 워크스테이션 카드인 RTX 프로 6000 (RTX Pro 6000)은 최대 96GB의 GDDR7 메모리를 제공하지만, 카드 한 장만으로도 8,000달러가 넘는 가격을 형성하고 있어요. DGX 스파크는 현재 엔비디아의 워크스테이션 GPU 중 가장 높은 용량을 제공하는 제품이라고 할 수 있습니다.
DGX 스파크의 심장, GB10 시스템 온 칩
DGX 스파크의 핵심은 GB10 시스템 온 칩 (System-on-a-Chip, SoC)입니다. 이는 엔비디아의 플래그십 NVL72 랙 시스템에 사용되는 그레이스-블랙웰 슈퍼칩 (Grace-Blackwell Superchips)을 소형화한 버전이라고 생각하시면 됩니다.
GB10은 두 개의 컴퓨팅 다이 (compute die)로 구성되어 있으며, 엔비디아의 독점적인 NV링크 (NVLink) 칩-투-칩 인터커넥트 (chip-to-chip interconnect) 기술을 통해 600GB/s의 속도로 연결됩니다. 이 기술은 앞으로 엔비디아 GPU와 인텔 (Intel)의 미래 클라이언트 CPU를 연결하는 데도 사용될 예정이라고 해요.
GPU 타일은 희소 FP4에서 최대 1 페타플롭, 단정밀도 (FP32)에서 약 31 테라플롭 (teraFLOPS)의 성능을 제공합니다. 이는 RTX 5070과 비슷한 수준의 원시 성능이지만, 12GB GDDR7에 불과한 RTX 5070과 달리 DGX 스파크는 훨씬 더 많은 메모리를 제공하여 다양한 AI 워크로드를 실행할 수 있도록 합니다.
GB10의 CPU 타일은 미디어텍 (MediaTek)과의 협력을 통해 설계되었으며, 20개의 ARMv9.2 코어를 탑재하고 있습니다. 이 중 10개는 Arm의 고성능 X925 코어이고, 나머지 10개는 효율성에 최적화된 Cortex A725 코어 기반입니다. 애플 (Apple)의 M-시리즈나 AMD의 스트릭스 헤일로 (Strix Halo) SoC처럼, GB10의 CPU와 GPU는 LPDDR5x 기반의 공통 메모리 풀을 공유합니다. 이러한 컴퓨팅과 메모리의 긴밀한 결합 덕분에 GB10은 273GB/s에 달하는 메모리 대역폭을 달성할 수 있었습니다.
확장성을 위한 고속 네트워킹
DGX 스파크에서 주목할 만한 또 다른 특징은 고속 네트워킹 기능입니다. 엔비디아의 데이터센터 플랫폼과 마찬가지로, DGX 스파크의 GB10에는 통합 ConnectX-7 네트워킹 카드와 두 개의 QSFP 이더넷 포트가 함께 제공됩니다.
이 포트들은 고속 네트워킹에도 사용될 수 있지만, 주로 두 대의 DGX 스파크를 서로 연결하여 파인튜닝 (fine-tuning) 및 추론 (inferencing) 기능을 효과적으로 두 배로 확장하는 데 사용됩니다. 엔비디아는 이러한 구성으로 사용자들이 4비트 정밀도에서 최대 4050억 개의 매개변수를 가진 모델을 추론할 수 있을 것이라고 설명합니다.
DGX 스파크 시스템은 엔비디아를 비롯해 에이서 (Acer), 에이수스 (Asus), 델 테크 (Dell Tech), 기가바이트 (Gigabyte), HPE, 레노버 (Lenovo), MSI 등 다양한 OEM 파트너사를 통해 10월 15일부터 구매할 수 있습니다.