젠슨 황의 유머, 고객들의 마음을 사로잡지 못하다

Nvidia의 CEO, 젠슨 황은 최근 그의 주요 고객들이 아마도 좋아하지 않을 발언을 했다.

그는 “Blackwell이 대량 출하되기 시작하면 Hoppers는 거의 무가치할 것이라고 언급했다”고 화요일 Nvidia의 주요 AI 컨퍼런스에서 말했다.

그는 “Hopper가 충분한 경우도 있지만, 그것은 드물다”고 덧붙였다.

그가 언급한 것은 Nvidia의 최신 AI 칩 및 서버 패키지인 Blackwell로, 이는 2022년에 출시된 이전 모델인 Hopper를 크게 능가한다.

아마존, 마이크로소프트, 구글과 같은 주요 클라우드 회사들은 생성적 AI 움직임에 힘을 실어주는 대규모 모델을 훈련하고 운영하기 위해 이러한 GPU 시스템에 막대한 투자를 하고 있다. 메타도 최근 GPU 구매에 나섰다.

Table of Contents

노후화 문제

기술이 급속도로 발전함에 따라 이전 버전은 빠르게 구식이 되거나 덜 실용적이 될 수 있다.

이로 인해 이러한 자산의 가치는 감소하고, 대규모 클라우드 기업들은 조정이 필요해진다. 감가상각이 문제로 등장하며, 이는 자산 가치를 서서히 줄여 마모와 노후화와 같은 요소를 반영한다. 감가상각이 커질수록 이익에 미치는 영향도 커진다.

바클레이스의 주요 기술 분석가 로스 샌들러는 투자자들에게 주요 클라우드 기업들과 메타가 이러한 감가상각 조정을 해야 할 것이라고 경고하며, 이는 이익을 눈에 띄게 줄일 수 있다고 밝혔다.

샌들러는 “하이퍼스케일러들이 이익을 과장하고 있을 가능성이 있다”고 지적했다.

메타와 구글은 금요일 Business Insider의 이 문제에 대한 문의에 응답하지 않았고, 마이크로소프트는 논평을 거부했다.

가장 큰 클라우드 서비스 제공업체인 아마존 웹 서비스는 2월에 이러한 변화의 첫 번째 사례가 되었다.

CFO인 브라이언 올라브스키는 지난 달 아마존의 수익 전화 회의에서 기업이 “특히 인공지능 및 기계 학습 분야에서 기술 발전의 속도가 가속화되고 있다”고 언급했다.

결과적으로 그들은 특정 서버와 네트워크 장비의 유용한 수명을 6년에서 5년으로 단축할 계획이며, 이는 2025년 1월부터 시행된다. 이 조정으로 인해 올해 운영 수익이 약 7억 달러 감소할 것으로 예상된다.

또한, 아마존은 여러 서버와 네트워크 장비를 “조기 퇴역”시켜 “가속화된 감가상각”이 발생했으며, 이로 인해 약 9억 2천만 달러의 비용이 들고, 2025년 운영 수익이 6억 달러 감소할 것이라고 예측하고 있다.

샌들러는 그의 연구 노트에서 H100 GPU의 임대 비용이 새로운 우수한 Blackwell GPU의 출현으로 인해 상당히 감소했다고 강조했다.

그는 “이것은 메타, 구글, 그리고 기타 고마진 소프트웨어 기업들에게 더 심각한 문제를 제기할 수 있다”고 밝혔다.

메타의 경우, 서버의 유용한 수명을 1년 줄이면 2026년에 감가상각이 50억 달러 이상 증가할 수 있으며, 이는 운영 수익을 비슷한 규모로 감소시킬 수 있다고 그는 추정했다.

구글 역시 비슷한 조정이 이루어질 경우 운영 이익이 35억 달러 감소할 것으로 보인다고 샌들러는 전했다.

하나의 주요 클라우드 제공업체가 이러한 조정을 했다고 해서 다른 기업들이 반드시 따라야 한다는 의미는 아니다. 일부 기업은 Nvidia GPU 시스템의 수명을 연장할 수 있는 방식으로 AI 데이터 센터를 설계하여 노후화를 완화할 수 있을 것이다.

2023년 여름, 생성적 AI의 물결이 억제되면서 번스타인의 애널리스트들은 이미 감가상각에 대한 우려를 표하기 시작했다.

“모든 Nvidia GPU는 어딘가에 배치되어야 합니다. 이러한 새로운 서버는 얼마나 빨리 가치가 떨어질까요? 우리는 약간 우려스러운 일정이 있다는 것을 들었습니다.”고 그들은 당시 투자자에게 보고서에서 말했다.

한 번스타인 애널리스트인 마크 슈물릭은 제 동료 유진 킴과의 대화에서 이 상황의 긴박성을 언급했다.

“저는 기술 기업들이 GPU 수명에 대해 면밀히 관찰하고 있다고 생각하지만, 그들의 감가상각 일정에 대한 즉각적인 조정을 예상하지는 않습니다.”고 그는 이메일에서 전달했다.

그러나 이러한 우려를 다룰 시간이 드디어 왔다는 것 같아 보인다.