샘 올트먼, OpenAI의 GPU 부족 인정
OpenAI의 CEO 샘 올트먼(Sam Altman)이 회사의 최신 대규모 언어 모델인 GPT-4.5를 공개했어요. 그런데 이 모델, 단순히 강력한 수준이 아니랍니다. OpenAI는 백만 토큰당 무려 75달러라는 엄청난 가격을 책정했는데, 이는 약 75만 단어의 입력에 해당하며, 이전 모델인 GPT-4o 추론 모델보다 무려 30배나 비싼 가격이라고 해요.
GPU 부족 사태
새로운 모델은 리소스 집약도가 매우 높아서 올트먼은 한 인터뷰에서 OpenAI가 인공지능 모델을 구동하는 데 일반적으로 사용되는 그래픽 처리 장치(GPU, Graphics Processing Units)가 “부족하다”고 밝혔습니다. 이 때문에 OpenAI는 출시를 지연해야 했다고 하네요.
올트먼은 “다음 주에 수만 개의 GPU를 추가하고 플러스 티어에 출시할 예정”이라며 “이것이 우리가 원하는 운영 방식은 아니지만, GPU 부족을 초래하는 성장 급증을 완벽하게 예측하기는 어렵다”고 말했습니다.
이는 인공지능 기술이 하드웨어에 얼마나 의존적인지를 보여주는 중요한 대목입니다. 인공지능 업계의 리더들은 점점 더 다루기 힘든 인공지능 모델을 실행하기 위해 데이터 센터를 구축하는 데 총력을 기울이고 있으며, 이를 위해 막대한 투자를 감행할 준비가 되어 있다고 합니다.
NVIDIA의 활약
기업들은 하드웨어, 특히 선도적인 칩 제조업체인 NVIDIA의 인공지능 카드 확보에 혈안이 되어 있어요. 젠슨 황(Jensen Huang)이 이끄는 NVIDIA는 차세대 인공지능 칩인 블랙웰(Blackwell)을 110억 달러나 판매했다고 발표했는데, CFO 콜레트 크레스(Collette Kress)는 이를 “우리 회사 역사상 가장 빠른 제품 램프업”이라고 묘사했습니다.
하지만 이러한 모든 투자에도 불구하고 인공지능 기업들은 여전히 기술의 명백한 단점들을 의미 있게 해결하는 데 어려움을 겪고 있어서, 투자에 대한 보상은 다소 미미한 수준에 머물고 있다고 합니다.
GPT-4.5에 대한 기대
OpenAI가 GPT-4.5에 대해 엄청난 가격을 책정하고 있음에도 불구하고 올트먼은 “이것은 추론 모델이 아니며 벤치마크를 깨부수지도 않을 것”이라고 발표하면서 기대치를 관리하려고 노력했습니다.
그는 “이것은 다른 종류의 지능이며, 이전에는 느껴보지 못했던 마법이 있다”고 덧붙였지만, 그 의미에 대해서는 자세히 설명하지 않았습니다. “사람들이 사용해 보게 되어 정말 기쁘다!”라고 덧붙였죠.
OpenAI 연구 부사장 미아 글레이즈(Mia Glaese)는 “이 모델의 가장 큰 특징은 따뜻하고 직관적이며 자연스럽게 흐르는 대화에 참여할 수 있다는 점이며, 사용자가 무엇을 요청하는지 더 잘 이해한다고 생각한다”고 말했습니다.
올트먼은 컴퓨팅 파워 부족으로 인해 OpenAI가 신제품 출시를 연기해야 했다고 인정한 바 있습니다.
아이러니하게도 GPT-4.5는 필요한 컴퓨팅 양을 줄이도록 설계되었습니다. OpenAI는 모델의 기능을 자세히 설명하면서 “GPT-4.5는 최첨단 모델은 아니지만, GPT-4의 계산 효율성을 10배 이상 향상시킨 OpenAI의 가장 큰 LLM”이라고 밝혔습니다.
그럼에도 불구하고 올트먼은 이 모델을 “거대하고” “비싸다”고 묘사했습니다.
문서에 따르면 이 모델의 “성능은 대부분의 준비성 평가에서 o1, o3-mini 및 심층 연구보다 낮습니다.”
흥미롭게도 한 사용자가 지적했듯이 문서의 한 버전에는 더 이상 마지막 인용문이 포함되어 있지 않다고 합니다. 이는 OpenAI가 여전히 실망스러운 새로운 인공지능을 어떻게 판매할지 고민하고 있음을 시사합니다.
OpenAI는 여전히 GPT-4.5에 이어 GPT-5를 출시할 계획이며, 올트먼은 GPT-5를 “많은 기술을 통합하는 시스템”이라고 묘사했습니다.
하지만 GPT-5가 기대에 부응할 수 있을지, 더 나아가 OpenAI를 인공지능 일반 지능(AGI, Artificial General Intelligence)을 실현한다는 목표에 더 가깝게 만들 수 있을지는 미지수입니다.