사설 클라우드 제공업체 벌쳐, AMD Instinct MI325X 최초 도입!
최근 클라우드 컴퓨팅 분야에서 흥미로운 소식이 들려오고 있어요. 바로 사설 클라우드 제공업체인 벌쳐(Vultr)가 AMD의 Instinct MI325X를 최초로 도입한다는 소식입니다! 구글이나 마이크로소프트 같은 거물들을 제치고 발 빠르게 움직인 점이 눈에 띄네요.
벌쳐, AMD와의 파트너십 확장
벌쳐는 이미 지난 2024년 10월에 AMD의 Instinct MI300X AI 가속기를 대량으로 구매한 이력이 있습니다. 이는 벌쳐와 AMD 간의 파트너십 확대를 의미하며, 고객들에게 최첨단 GPU와 ROCm 오픈 소프트웨어 생태계에 대한 접근성을 제공하기 위한 것이라고 해요.
MI325X, 무엇이 달라졌을까?
MI300X는 192GB의 HBM3 메모리와 5.3TB/s의 대역폭을 제공했었는데요, MI325X는 여기서 한 단계 더 나아가 256GB의 HBM3E 메모리, 6TB/s의 대역폭, 그리고 최대 1.3 PFLOPS의 FP16 및 2.6 PFLOPS의 FP8 속도를 제공한다고 합니다. 이 정도면 DAAS VM 환경에서 Crysis도 거뜬히 돌릴 수 있을 정도의 성능이라고 하니 정말 대단하네요!
벌쳐 CEO의 포부
벌쳐의 CEO인 J.J. Kardwell은 “AMD Instinct MI325X는 새로운 AI 산업 표준을 제시하며, 추론에 있어 놀라운 성능과 효율성을 제공합니다.”라고 밝혔습니다. 또한, “Instinct MI325X는 고객들에게 최첨단 GPU 하드웨어에 대한 우선적인 접근성을 제공하여 AI 배포를 확장할 수 있도록 지원합니다. 함께 AI 혁신의 새로운 가능성을 열고 클라우드 GPU 인프라의 미래를 만들어갈 것입니다.”라며 포부를 드러냈습니다.
시카고 데이터 센터에 구축 예정
이번에 벌쳐 클라우드 인프라에 추가되는 MI325X는 Supermicro AS -8126GS-TNMR 8-U 서버를 기반으로 하며, 벌쳐의 시카고 데이터 센터에 구축될 예정이라고 합니다. 전 세계 185개국에 걸쳐 수천 명의 활성 고객을 보유한 벌쳐에게는 든든한 지원군이 생기는 셈이네요.
AMD의 기대
AMD의 데이터 센터 GPU 사업부의 부사장인 Negin Oliver는 “AMD Instinct MI325X 가속기는 뛰어난 성능과 효율성을 위해 설계되었으며, 파운데이션 모델 훈련, 미세 조정 및 추론과 같은 까다로운 AI 작업에서 탁월한 성능을 발휘합니다.”라고 말했습니다. 또한, “AMD Instinct MI325X의 추가로 벌쳐는 기업들에게 필요한 컴퓨팅 성능과 효율성을 활용하여 AI 발전을 주도하고 성장을 가속화할 수 있는 최첨단 AI 기술을 제공하고 있습니다.”라며 기대감을 표했습니다.
벌쳐가 MI325X GPU를 얼마나 확보했는지는 아직 알려지지 않았지만, MI300X AI 가속기 도입 때와 마찬가지로 수백 대 수준일 것으로 예상됩니다. 앞으로 벌쳐가 MI325X를 통해 어떤 혁신적인 서비스를 제공할지 기대가 됩니다!