SemiAnalysis 창립자 심층 분석: AI 투자 얼마나 더 지속될 수 있을까? 엔비디아의 방어선은 계속 유지될 수 있을까? 메모리 부족은 언제 끝날까?

AI 인프라 투자에는 여전히 성장 공간이 있지만, 자금 조달 비용 상승, 반도체 공급망 제약 및 자체 개발 칩 경쟁 심화가 이번 AI 열풍의 지속성을 시험하고 있습니다.

10월 23일 미국에서 열린 CASPA 제35회 연례 회의에서 SemiAnalysis의 창립자이자 CEO인 딜런 파텔, 번스타인의 전무이사이자 수석 분석가인 스테이시 라스곤, 그리고 오스틴 라이온스가 반도체 산업 전망에 대해 논의하며 AI 인프라 투자, 공급망 병목 현상 및 칩 경쟁 구도에 중점을 두었습니다.

파텔은 현재 AI 컴퓨팅 수요가 여전히 강하지만, 기판, 메모리 등 핵심 단계의 생산 능력 제약이 인프라 확장을 제한하고 있다고 지적했습니다. 동시에 자금 조달 비용이 크게 상승하고 있으며, 장기 고객 주문이 부족한 신생 클라우드 서비스 제공업체는 자금을 확보하기가 점점 더 어려워지고 있습니다. AI 투자가 지속적으로 추진될 수 있을지는 수요뿐만 아니라 프로젝트의 자금 조달 능력과 수익성에도 달려 있습니다.

라스곤은 엔비디아에 대해, 제품 성능 향상이 여전히 높은 가격을 지탱할 수 있지만, 클라우드 제공업체의 자체 개발 칩이 경쟁 구도를 변화시키고 있다고 생각합니다. 구글 TPU, 아마존 트레니움 및 오픈AI와 같은 기업의 자체 개발 칩 계획이 진행됨에 따라, 엔비디아가 계속 성장하더라도 시장 점유율과 가격 책정 능력의 이중 압박에 직면할 수 있습니다.

메모리 시장은 또 다른 시험에 직면해 있습니다: HBM 수요가 강하고 산업 이익률이 높은 수준에 있지만, 제조업체의 생산 확대는 2028년 이후에 점차 공급과 수요 관계를 변화시킬 수 있습니다. 향후 2년 동안 자금 조달 능력, 핵심 부품 공급 및 자체 개발 칩의 경쟁이 AI 인프라 확장 속도와 산업 체인 이익 분배에 영향을 미치는 주요 변수가 될 것입니다.

월스트리트 저널의 요점은 다음과 같습니다:

AI 투자에는 여전히 성장 공간이 있지만, 자금 조달 비용이 중요한 제약이 되고 있습니다. 미국 10년 만기 국채 수익률이 5%를 돌파했으며, 일부 신생 클라우드 서비스 제공업체의 무담보 채권 수익률은 15%에 가까워지고 있습니다. 장기 고객 주문이 부족한 기업은 자금 조달이 더욱 어려워지며, 프로젝트 건설 속도는 점점 더 자금 조달 능력과 투자 수익에 의존하게 될 것입니다.

반도체 공급망 병목 현상은 단기적으로 해결하기 어려우며, 기판과 메모리가 주요 제약입니다. 기판, HBM, 광학 상호 연결 구성 요소 및 클린룸 생산 능력 모두 공급 제한에 직면해 있습니다. 반면, 전력 부족은 현장 발전 등의 방법으로 부분적으로 완화할 수 있지만, 반도체 공급망의 생산 확대는 더 오랜 시간이 필요합니다.

메모리 부족은 새로운 생산 능력이 출시될 때까지 지속될 수 있으며, 2028년 이후 공급과 수요 구도가 전환될 수 있습니다. HBM 수요가 강하고, 메모리 산업의 총 이익률이 88%에서 90%에 달한다고 전해지고 있습니다. 그러나 새로운 생산 능력이 2028년 이후 집중적으로 가동되고, 수요 증가 속도가 둔화된다면, 메모리 가격과 이익률은 압박을 받을 수 있습니다.

엔비디아는 여전히 성능 우위를 가지고 있지만, 자체 개발 칩이 가격 책정 권한에 도전하고 있습니다. 엔비디아는 지속적으로 성능 향상을 통해 높은 가격을 지탱하고 있지만, 구글 TPU, 아마존 트레니움 및 오픈AI와 같은 기업의 자체 개발 칩 배치는 대형 고객에게 대체 선택지를 제공합니다. 엔비디아의 수익이 계속 증가하더라도, 시장 점유율과 이익률이 반드시 동반 상승하지는 않을 것입니다.

AI 인프라 비용이 지속적으로 상승하고 있으며, 투자 수익이 다음 단계의 초점이 될 것입니다. 1GW 컴퓨팅 데이터 센터를 구축하는 비용이 2024년 약 400억 달러에서 600억 달러 이상으로 상승했습니다. 클라우드 제공업체는 단위 컴퓨팅 비용을 낮추기 위해 자체 개발 칩을 가속화하고 있으며, 기업이 클라우드 서비스를 통해 토큰을 구매하는 방식이 지속적으로 확대될 수 있을지는 인프라 투자에 대한 장기 수익에 영향을 미칠 것입니다.

AI 투자가 얼마나 더 지속될 수 있을까? 자금 조달 비용과 공급망이 주요 제약이 된다

AI 인프라 구축의 자금 조달 장벽이 상당히 높아지고 있습니다. 미국 10년 만기 국채 수익률이 5%를 돌파했으며, CoreWeave와 같은 신생 클라우드 서비스 제공업체의 무담보 채권 수익률은 15%에 가까워지고 있습니다. Volulta가 Anthropic을 위해 클러스터를 구축할 때 발행한 채권의 표면 금리는 12%였지만, 액면가 95%의 가격에 판매되어 실제 수익률은 약 15%에 달합니다.

라스곤은 과거 현금 흐름이 풍부했던 대규모 클라우드 제공업체인 메타와 구글도 AI 인프라 구축에서 많은 자유 현금을 소모하고 있으며, 일부 기업은 향후 주식 자금을 통해 투자를 지원해야 할 수도 있다고 지적했습니다.

파텔은 비대규모 클라우드 제공업체가 수용하는 건설 수요가 전체 시장의 거의 절반에 달하지만, 이러한 기업은 일반적으로 충분한 자산 부채표를 지원하지 못한다고 덧붙였습니다. 비대규모 클라우드 제공업체가 장기 구매 약정(offtake agreement)을 제공하지 않으면 프로젝트는 자금을 확보하기가 매우 어렵습니다. 이를 위해 엔비디아는 수익 분배 등의 방식으로 일부 컴퓨팅 클러스터 구축을 지원하기 시작했으며, 브로드컴은 유사한 할부 방식으로 Anthropic에 칩을 제공합니다.

이는 자금 조달 능력이 AI 인프라 확장의 중요한 분수령이 되고 있음을 의미합니다. 수요가 강하다고 해서 모든 프로젝트가 예정대로 진행될 수 있는 것은 아닙니다. 자금 조달 비용이 높고 외부 자금 조달에 의존하는 신생 클라우드 서비스 제공업체에게는 장기 주문과 현금 흐름이 건설 속도에 직접적인 영향을 미칠 것입니다.

기판과 메모리는 전력보다 빠르게 생산 확대하기 더 어렵다

공급망 병목 현상에 대해 파텔은 기판을 현재 가장 중요한 제약 중 하나로 꼽았습니다. 일본 관련 공급업체의 생산 확대가 상대적으로 신중하여 칩, CPU 등의 제품 생산 능력 향상을 제한하고 있습니다.

메모리는 또 다른 큰 병목 현상입니다. 라스곤은 동등한 용량의 HBM을 생산하는 데 필요한 웨이퍼 수가 DDR5의 3~4배에 달한다고 지적하며, AI 칩 수요 증가로 인해 메모리 생산 능력 경쟁이 심화되고 있다고 말했습니다. 동시에 광학 상호 연결에 필요한 레이저, 광섬유 연결 등의 구성 요소도 부족하며, CPO 계획이 2028년 전후로 가속화되더라도 관련 공급이 수요를 충족하기 어려울 수 있습니다.

웨이퍼 제조 장비 시장도 클린룸 생산 능력 제한의 영향을 받고 있습니다. 라스곤은 2026년 세계 웨이퍼 제조 장비(WFE) 시장 규모가 2000억 달러를 초과할 것이라는 예측이 지나치게 낙관적이라고 생각합니다. 기존 공장의 활용률을 높임으로써 시장 규모는 연초 예상했던 약 1200억 달러에서 약 1550억 달러로 증가할 수 있지만, 새로운 클린룸은 2027년부터 차례로 가동될 예정이며, 더 많은 생산 능력은 2028~2029년에 출시될 것으로 예상됩니다.

반면, 전력 부족은 더 많은 대응 수단이 있습니다. 파텔은 2027년 세계에서 건설 중인 데이터 센터 규모가 50GW에 가까워질 것으로 예상하며, 그 중 미국은 약 35GW에 달할 것입니다. 현장 가스 터빈, 왕복 엔진 및 연료 전지 등의 솔루션은 전력 제약을 어느 정도 완화할 수 있습니다.

따라서 AI 구축이 직면한 병목 현상은 단순히 전력 부족이나 공간 부족이 아니라, 여러 핵심 자재와 제조 단계가 동시 확장이 어렵다는 것입니다. 단기적으로 공급망 제약과 자금 조달 비용이 프로젝트 납기 속도에 공동으로 영향을 미칠 수 있습니다.

메모리 부족은 언제 끝날까? 2028년 이후 공급 해소가 핵심이다

현재 메모리 산업의 높은 이익률은 AI 수요와 제한된 생산 능력 간의 불균형을 반영합니다. 라스곤은 메모리 산업의 총 이익률이 88%에서 90%에 달한다고 언급했지만, 시장은 이로 인해 관련 주식에 극히 높은 가치를 부여하지 않고 있으며, 그 이유 중 하나는 투자자들이 2028년 이후 새로운 공급이 집중적으로 출시되어 가격이 하락할 것을 우려하고 있기 때문입니다.

HBM의 특별한 점은 그 제조에 더 많은 웨이퍼 자원이 소모된다는 것입니다. AI 가속기 수요 증가에 따라 HBM 생산 확대는 자체 생산 능력을 증가시킬 뿐만 아니라 다른 DRAM 제품의 공급에도 영향을 미칠 것입니다. 단기적으로 생산 능력 분배와 확대 속도가 수요를 신속하게 따라잡기 어려울 수 있지만, 새로운 생산 능력이 차례로 가동되면서 공급과 수요 관계가 역전될 가능성도 있습니다.

메모리 부족이 언제 끝날지는 특정 날짜에 달려 있는 것이 아니라, 새로운 생산 능력이 수요 증가량을 초과하기 시작하는 시점에 달려 있습니다. 만약 생산 확대가 2028년 이후에 집중되고, AI 수요 증가 속도가 둔화된다면, 현재의 높은 가격과 높은 이익률은 유지하기 어려울 수 있습니다.

투자자들은 HBM과 DRAM의 생산 확대 진행 상황, 첨단 패키징 및 웨이퍼 제조 능력, 그리고 클라우드 제공업체의 자본 지출 변화를 주의 깊게 살펴봐야 합니다. 공급이 명확히 증가하기 전까지 메모리는 여전히 AI 컴퓨팅 납품을 제약할 수 있지만, 더 긴 주기 내에서는 생산 확대가 가격을 낮추고 이익을 잠식하는 요인이 될 수 있습니다.

엔비디아의 방어선은 여전히 유지될 수 있을까? 성능 우위가 자체 개발 칩의 도전에 직면하다

엔비디아의 핵심 우위는 지속적으로 칩 성능을 향상시키고 소프트웨어 생태계와 개발 도구를 통해 고객의 충성도를 강화하는 데 있습니다. 그러나 클라우드 제공업체가 컴퓨팅 비용을 점점 더 중요시함에 따라, 높은 가격은 자체 개발 칩의 발전 공간을 제공하고 있습니다.

라스곤은 엔비디아가 필라델피아 반도체 지수에 비해 역사적으로 낮은 평가를 받고 있으며, 이는 시장이 AI 투자 지속성과 자체 개발 칩 경쟁에 대한 우려를 반영하고 있다고 지적했습니다.

제품 진화 측면에서 엔비디아는 여전히 성능 향상을 통해 가격 책정을 지탱하고 있습니다. 암페어에서 호퍼까지, 제품 평균 가격이 약 두 배로 증가하고 성능이 약 10배 향상되었습니다. 호퍼에서 블랙웰로 넘어가면서 가격이 약 50% 상승하고 성능 향상 폭은 3~30배에 달한다고 전해집니다. 성능 향상이 가격 상승 폭을 지속적으로 초과하는 한, 고객은 새로운 세대 제품에 더 높은 가격을 지불할 동기를 가집니다.

하지만 경쟁자들이 빠르게 추격하고 있습니다. 파텔의 연구에 따르면, 엔비디아는 관련 협처리기 웨이퍼 및 HBM 수요에서의 점유율이 감소하기 시작했습니다. 동시에 구글 TPU는 외부 고객에게 판매되고 있으며, 아마존 트레니움은 PyTorch 생태계에 대한 지원을 지속적으로 개선하고, 오픈AI와 앤트로픽도 자체 개발 칩 계획을 추진하고 있습니다.

이러한 배치는 즉시 엔비디아를 대체하지는 않겠지만, 대형 고객에게 대체 솔루션을 제공하여 협상력을 강화할 수 있습니다. 대규모 컴퓨팅 수요를 가진 클라우드 제공업체에게 자체 개발 칩의 매력은 단순히 구매 비용을 낮추는 것뿐만 아니라, 단일 공급업체에 대한 의존도를 줄이는 데 있습니다.

따라서 엔비디아가 직면한 주요 시험은 계속 성장할 수 있는지가 아니라, 성능 우위를 통해 가격 프리미엄의 정당성을 지속적으로 입증할 수 있는지입니다. AI 시장이 전체적으로 확대되더라도, 엔비디아의 수익, 시장 점유율 및 이익률이 반드시 동반 상승하지는 않을 것입니다.

기업 AI의 실제 적용: 자체 컴퓨팅보다 토큰 구매가 더 현실적이다

기업 응용 측면에서 세 명의 분석가는 대부분의 기업이 대량의 하드웨어를 구매하여 개인 모델을 운영하지 않고, 클라우드 서비스를 통해 토큰을 구매하여 클라우드 AI 추론 능력을 호출하고, 이를 자사 데이터 및 비즈니스 프로세스와 결합할 것이라고 생각합니다. 이는 과거 기업 IT가 자체 인프라에서 클라우드 컴퓨팅으로 전환하는 경향과 유사합니다.

현재 AI 보조 프로그래밍은 비교적 성숙한 기업용 응용 프로그램 중 하나입니다. 라스곤은 Claude를 통해 원래 일주일이 걸리던 재무 모델을 약 1시간 20분 만에 완성했으며, 이는 10년의 역사적 데이터, 여러 번의 비즈니스 재편성 및 경영진 전화 회의 내용을 포함한 논리 추론을 포함합니다.

이러한 응용 프로그램의 가치는 우선 시간 절약과 반복 작업 감소로 나타나며, 반드시 즉각적으로 수익에 반영되지는 않습니다. 그 투자 수익은 여전히 실제 비즈니스를 통해 검증되어야 하지만, 기업이 클라우드를 통해 모델을 호출함으로써 AI 인프라에 대한 수요는 점점 더 추론 서비스의 사용량에 의존하게 될 것입니다.

기업 응용이 지속적으로 확장된다면, 클라우드 제공업체는 컴퓨팅에 계속 투자할 동기를 가질 것입니다. 그러나 건설 비용과 자금 조달 비용이 수익보다 빠르게 상승한다면, 인프라 투자에 대한 수익은 여전히 압박을 받을 것입니다.

다음은 전체 내용입니다:

진행자 오스틴 라이온스:

먼저 더 거시적인 관점에서 수요에 대해 이야기하고, 그 다음 공급에 대해 이야기하겠습니다. 수요 측면에서 AI 수익이 매우 빠르게 증가하고 있지만, 증가 속도는 이미 둔화되기 시작했습니다. 현재 전체 AI 산업의 수익을 합치면 여전히 산업 총 지출의 일부에 불과하므로 시장은 각 수익 데이터를 매우 면밀히 검토하고 있습니다.

공급 측면에서 향후 몇 년간의 컴퓨팅 생산 능력은 이미 예약이 완료되었으며, 가격도 여전히 견고합니다. 반도체 분석가의 관점에서 우리는 이 두 신호를 어떻게 이해해야 할까요? 산업 체인상의 가치는 결국 누구에게 흐를까요?

오늘, 우리는 반도체 산업의 두 명의 중요한 인사를 초대했습니다: 딜런 파텔은 SemiAnalysis의 창립자이자 CEO로, 이 기관은 AI 인프라 분야에서 가장 영향력 있는 연구 기관 중 하나입니다; 스테이시 라스곤은 번스타인의 전무 이사이자 수석 분석가로, 월가에서 반도체 분석을 10년 넘게 해왔습니다. 저는 오늘의 진행자인 오스틴 라이온스이며, 현재 Chief Strat 수석 분석가로 재직 중이며, 이전에는 인텔의 수석 엔지니어로 일했습니다.

오늘 우리는 반도체 산업의 미래에 대해 논의하고, 2027년과 2028년을 전망하며, 자금 조달, GPU, CPU 및 웨이퍼 파운드리 등 여러 분야를 다룰 것입니다.

1. AI 인프라 투자: 자금 조달 비용이 확장을 늦출까요?

진행자 오스틴 라이온스:

최근 자본 비용이 시장 논의의 초점이 되고 있습니다. 초대형 클라우드 업체들이 막대한 자금을 투입하고 있으며, 자유 현금 흐름은 이미 부정적인 상태에 접어들었습니다. 동시에, 미국 10년 만기 국채 수익률이 5%를 돌파했으며, CoreWeave와 같은 회사의 채권 시장 수익률도 15%에 가까워지고 있습니다.

우리는 이에 대해 걱정해야 할까요? 기업들이 지속적으로 투자를 늘리고 자금 조달 비용이 계속 상승함에 따라, AI 인프라 구축에 얼마나 큰 영향을 미칠까요? 먼저 스테이시의 의견을 들어보겠습니다.

스테이시 라스곤:

현재 AI 인프라 구축 속도를 늦추고 있는 많은 제약 요소가 존재합니다. 여기에는 전력, 공급망, 반도체 제조 장비가 포함되며, 이제는 자금 조달도 추가되어야 할 것입니다.

주식 성과를 보면, 관련 회사의 주가는 여전히 이전보다 많이 상승했지만, 이미 고점에 비해 현저히 낮습니다. 시장은 투자자에게 인프라 구축의 속도와 지속 가능성에 대한 큰 불확실성이 존재한다는 신호를 보내고 있으며, 산업 성장도 정점에 가까워지고 있다는 우려가 있습니다. 자금 조달은 분명히 중요한 문제 중 하나이며, 심지어 가장 중요한 문제 중 하나일 수 있습니다.

방금 언급하신 것처럼, 초대형 클라우드 업체들은 인류 역사상 현금을 가장 많이 창출한 기업 중 하나였지만, 현재 그들은 막대한 현금을 소모하고 있으며, 미래에는 주식 발행을 통해 자금을 조달해야 할 수도 있습니다. 메타는 최근 주식 구조를 조정했으며, 그 목적 중 하나는 이러한 자금 조달을 위한 공간을 마련하는 것입니다. 구글과 같은 회사들도 자금 조달을 진행했습니다.

CoreWeave를 예로 들면, 그들의 채권 수익률은 15%에 가까워지고 있습니다. 주목할 점은, 이것이 회사의 모든 부채에 대한 실제 자금 조달 비용을 나타내는 것이 아니라, 그들의 무담보 채권이 시장에서 거래되는 수익률입니다. 그러나 만약 회사가 오늘 시장에 다시 나와 무담보 채권을 발행한다면, 자금 조달 비용은 이 수준 근처에 있을 가능성이 높습니다. 이는 상당히 높은 비용입니다.

하지만, 저는 적어도 향후 1~2년 동안 산업이 대체로 운영을 유지할 수 있을 것이라고 생각합니다. 더 중요한 것은, 관련 수익이 지속적으로 증가해야 시장의 자금 조달에 대한 우려를 점진적으로 완화할 수 있다는 것입니다.

계산력 임대 시장을 예로 들면, 현재 공급이 극도로 긴장 상태에 있으며, 우리가 듣는 일반적인 말은 아무도 충분한 계산력을 얻지 못하고 있다는 것입니다. 일부 기업은 단기 계약을 통해 계산력을 임대하며, 일부 추정에 따르면, 기가와트당 수익이 500억 달러에 이를 수 있습니다.

따라서, 건설 비용이 매우 높더라도, 관련 수익이 비용을 충분히 커버할 수 있는 상황을 상상하는 것은 어렵지 않습니다. 하지만 문제는 이러한 수익 수준이 얼마나 지속될 수 있는가입니다. 결국 수요가 공급에 비해 얼마나 강한지, 그리고 수요와 공급의 격차가 얼마나 오랫동안 유지될 수 있는지가 중요합니다.

이러한 문제는 딜런이 산업의 수요와 공급 관점에서 더 깊이 있는 판단을 내릴 필요가 있을 것입니다. 그러나 자금 조달은 분명히 현재 많은 제약 요소 중 하나입니다.

또한 주목할 점은, 제약 요소가 성장을 늦추는 것이 반드시 나쁜 일은 아니라는 것입니다. 이는 산업의 과도한 확장을 방지하고, 투자 통제를 피할 수 있습니다.

인터넷 거품 시절에도 유사한 상황이 발생했습니다. 당시에는 많은 다크 파이버가 설치되었으며, 이는 이미 설치되었지만 아직 사용되지 않은 광섬유입니다. 많은 인프라가 과도하게 구축되었고, 지금도 일부는 충분히 활용되지 않고 있습니다.

현재의 건설 제약은 오히려 수요와 공급의 매칭을 더 합리적으로 만들어 산업 성장이 더 오랫동안 지속될 수 있게 할 수 있습니다. 만약 오늘 완전히 제한 없이 미친 듯이 확장한다면, 미래에는 더 심각한 붕괴 위험에 직면할 수 있습니다.

그래서 저는 모든 제약 요소가 나쁜 것이라고 생각하지 않습니다. 물론, 시장이 이러한 제약을 어떻게 바라보는지는 또 다른 문제이며, 이들은 분명히 관련 주식의 단기적인 움직임에 영향을 미쳤습니다.

딜런 파텔:

저는 스테이시의 의견에 동의합니다. 지난 수십 년간의 인프라 구축을 돌아보면, 산업이 확장할 때마다 기업들은 종종 반복적으로 주문을 하며, 심지어 두 배, 세 배의 주문을 하여 결국 과도한 생산 능력을 구축하게 됩니다. 공급망은 수요를 예측하는 능력이 항상 부족했습니다.

현재 자금 조달은 일정한 자가 조정 작용을 하고 있습니다. 1~2년 전만 해도, 클라우드 서비스 제공업체가 충분히 높은 이율을 지불할 의향이 있다면, 일반적으로 자금을 확보할 수 있었습니다. 하지만 지금은, 신용 품질이 충분히 높은 장기 구매 약정(offtake agreement)이 없다면, 일부 신생 클라우드 서비스 제공업체는 계산력 클러스터를 구축할 수 없습니다.

초대형 클라우드 업체들은 물론 자유 현금 흐름을 거의 제로에 가깝게 압축할 수 있으며, 계속해서 부채를 늘릴 수 있습니다. 그들의 이익은 여전히 증가하고 있으므로, 구축 능력도 향상될 것입니다. 그러나 그들은 무한히 투입할 수는 없습니다. 내년에는 자본 지출을 2조 달러를 넘거나 2.5조 달러 수준으로 높일 수는 없습니다. 자금 능력은 결국 지출 규모를 제한할 것입니다.

신생 클라우드 서비스 제공업체(Neocloud)를 살펴보면, 비초대형 클라우드 업체가 수용하는 건설 수요는 전체 시장의 거의 절반에 해당합니다. 만약 그들이 초대형 클라우드 업체의 구매 약정이 없다면, 어떻게 자금을 조달할 수 있을까요?

현재, Anthropic이나 OpenAI와 같은 고객의 구매 약정을 확보하더라도, 시장은 관련 부채에 대해 13%에서 15%의 수익률을 요구할 수 있습니다. Volulta가 그 예입니다: 이 회사는 Anthropic을 위해 계산력 클러스터를 구축하고 있으며, 채권의 표면 이율은 약 12%이지만, 발행 가격은 액면가의 95%에 불과하여 실제 자금 조달 수익률은 15%에 가깝습니다.

만약 한 기업이 초대형 클라우드 업체나 대형 AI 연구소의 구매 약정이 없다면, 어떻게 계산력을 구축하여 중소기업과 스타트업에 서비스를 제공할 수 있을까요? 솔직히 말해, 이러한 대형 고객의 지원이 없으면 자금 조달은 매우 어려울 것입니다.

이것이 엘론 머스크가 채택한 전략 중 하나이기도 합니다: 먼저 대량의 계산력을 구축한 후, 단기 임대 계약을 통해 높은 가격으로 스타트업과 AI 연구소에 계산력을 임대하는 것입니다. 그러나 전반적으로 자금 조달 제약은 확실히 산업 확장을 억제할 것입니다.

엔비디아는 이것이 중대한 문제라는 것을 인식하고 있습니다. 시장에는 몇몇 대형 고객이 있으며, 그들은 자금이 허용하는 범위 내에서 최대한 많은 계산력을 구매할 수 있습니다. 그러나 시장에는 또 다른 절반의 수요가 있으며, 이 고객들을 어떻게 만족시킬 수 있을까요?

따라서 엔비디아는 몇 가지 혁신적인 자금 조달 구조를 채택하기 시작했습니다. 예를 들어, Sharon AI, Fermis와 같은 프로젝트에서 엔비디아는 계산력 클러스터 수익을 공유하여 프로젝트 자금을 지원합니다. 그들의 배치는 대략 다음과 같습니다: 엔비디아는 클라우드 서비스 제공업체가 기본적으로 수익을 내지 못하는 가격으로 클러스터를 임대하고, 클라우드 서비스 제공업체가 더 높은 가격으로 계산력을 다른 고객에게 임대하면, 엔비디아는 일부 수익을 공유합니다.

유사한 배치가 증가하고 있습니다. Lambda는 Anthropic을 위해 계산력 클러스터를 구축할 때, 엔비디아와 수익 분배 계약을 체결해야 하며, 분배 비율은 약 10%입니다.

이는 신생 클라우드 서비스 제공업체가 충분한 자본을 확보하고, 건설을 완료하며, 궁극적으로 공급 과잉 수준으로 확장할 수 있는지 여부가 자금 조달 조건에 의해 제약을 받는다는 것을 보여줍니다.

우리는 또한 산업 자금 조달 방식이 장기 대출, 장기 부채에서 더 유연한 구조로 전환되고 있음을 보고 있습니다. 브로드컴이 Anthropic에 칩을 제공할 때, 유사한 임대 후 구매 방식으로 결제 기간을 수년으로 연장했습니다.

초대형 클라우드 업체처럼 자체 자산 부채표를 통해 자금을 조달할 수 없는 기업들은, 엔비디아, 브로드컴 또는 AMD와 같은 기업이 클러스터에 대해 일정한 자금 지원이나 신용 보증을 제공해야 계산력을 확보할 수 있습니다.

따라서 자금 조달은 AI 인프라 확장을 제한하는 중요한 요소입니다. 초대형 클라우드 업체 자체도 대규모의 온-밸런스 및 오프-밸런스 약속을 가지고 있습니다. 예를 들어, 메타는 컴퓨팅 및 데이터 센터에 대한 약속이 1.4조 달러에 달한다고 전해집니다.

이러한 프로젝트는 여러 가지 방법으로 자금을 확보할 수 있습니다: 기업은 데이터 센터를 구매하기 위해 대출을 받을 수 있으며, 다른 기업에 데이터 센터나 관련 장비를 임대하고, 인프라를 제공하는 측이 이를 바탕으로 자금을 조달할 수 있습니다. 그러나 전체 산업이 이러한 기반 위에서 대폭 확장하기 위해서는 어려움이 증가하고 있습니다.

자본 시장은 심지어 메타의 재무 구조에 대해 불안감을 느끼기 시작했습니다. 메타 자체의 재무 상태가 이러한 투자를 감당할 수 없다는 것을 의미하지는 않지만, 이렇게 거대한 약속 규모는 시장의 경계를 높이기에 충분합니다.

결국, AI 인프라 구축에는 세 가지 상호 연결된 핵심 조건이 있습니다: 토지, 전력 및 외부 시설(land, power, shell), 칩, 그리고 자금 조달입니다. 어떤 하나라도 제약을 받으면 전체 확장을 늦출 수 있습니다.

2. 2027---2028년, 반도체 공급망의 병목은 어디에 있을까요?

진행자 오스틴 라이온스:

자금 조달 상황은 비교적 명확해졌습니다: 초대형 클라우드 업체는 상대적으로 투자를 감당할 능력이 있지만, 신생 클라우드 서비스 제공업체는 더 큰 압박을 받고 있으며, 산업은 새로운 자금 조달 구조를 시도하고 있습니다.

자금 조달을 잠시 제쳐두고, 전통적인 공급망 병목으로 돌아가서, 향후 2년 동안 어떤 단계가 산업 성장을 제한할까요?

ASML은 2028년의 생산 능력이 이미 매진되었다고 밝혔습니다; TSMC의 수요는 항상 공급을 초과하고 있으며, 그들은 2나노 공정 생산 능력을 확장하고 있습니다. 시장은 전력이 중요한 병목이라고 일반적으로 생각하고 있습니다.

딜런, 최근에 언급하신 것처럼 내년에는 약 50기가와트의 데이터 센터가 가동될 것으로 예상됩니다. 반도체 공급망의 각 단계에 대해 제약 정도에 따라 순위를 매길 수 있을까요?

딜런 파텔:

반도체 공급망 내부에서, 메모리를 제외하고, 제가 생각하기에 가장 큰 병목은 기판입니다. 여기에는 패키징 기판, PCB 재료 및 기타 관련 재료가 포함됩니다.

이러한 단계는 과거에 장기적으로 투자 부족이 있었습니다. 일본의 많은 관련 재료 공급업체들은 보수적인 경영 스타일을 가지고 있어 대규모로 생산을 확대하기를 꺼려합니다. 따라서 향후 2년 동안 AI 가속기, CPU 또는 공급망의 다른 구성 요소들은 명백한 제약을 받을 것입니다.

제 생각에는 기판이 현재 가장 심각한 병목 중 하나이며, 그 제약 정도는 토지, 전력, 데이터 센터 외부 시설 및 일부 반도체 제조 장비를 초과합니다.

두 번째 병목은 메모리입니다.

세 번째 병목은 광학 상호 연결로, 여기에는 공동 패키징 광학(CPO) 및 근접 패키징 광학(NPO)이 포함됩니다. 관련 산업이 생산량을 대폭 늘리는 것은 쉽지 않습니다. 모든 기업이 2028년에 CPO를 채택하기를 원하더라도, 또는 특정 대기업이 그 시점에 전면 배포를 원하더라도, 충분한 레이저, 광섬유 연결 구성 요소 및 기타 부속 부품을 확보할 수 없습니다.

토지, 전력 및 데이터 센터 외부 시설에 관해서는, 전력이 확실히 중요한 제약입니다. 그러나 우리의 연구에 따르면, 내년 데이터 센터 건설이 직면할 제약을 시장이 과대 평가하고 있을 가능성이 있습니다.

내년에는 전 세계에서 약 50기가와트의 데이터 센터가 건설 중에 있으며, 그 중 미국에는 약 35기가와트가 있으며, 나머지는 호주, 인도, 말레이시아 등지에 분포하고 있습니다. 사실, 전 세계의 데이터 센터는 빠르게 건설되고 있습니다.

비록 전력이 여전히 긴장 상태에 있지만, 기업들은 데이터 센터 현장에서 가스 터빈, 왕복 엔진 또는 연료 전지를 배치하는 등 다양한 방법으로 제약을 완화할 수 있습니다.

따라서 전력과 데이터 센터 건설 조건에는 제약이 존재하지만, 그 영향은 기판, 메모리, 레이저 및 기타 광학 공급망 구성 요소보다 낮을 수 있습니다.

전력 공급은 상대적으로 직접적인 방법으로 짧은 시간 내에 증가시킬 수 있지만, 반도체 공급망이 포함하는 제조 공정과 재료 시스템은 훨씬 더 복잡하며, 생산 확대에 필요한 시간도 더 길어집니다.

스테이시 라스곤:

이 판단은 매우 흥미롭습니다. 엔비디아와 브로드컴은 모두 상당히 높은 성장 지침을 제시했습니다. 황인훈은 엔비디아의 수익이 최소 70% 성장할 것으로 기대한다고 밝혔습니다. 브로드컴 측에서 제시한 성장 예상치는 심지어 100%에 달합니다. 그러나 이러한 지침 자체는 이미 제한을 받고 있으며, 기업이 주로 고려하는 제약은 토지, 전력 및 데이터 센터 건설 조건인 것 같습니다.

아마도 이는 그들이 반도체 회사이기 때문에 칩 생산량에 대해 비교적 명확하게 알고 있어 데이터 센터 건설에 더 많은 주의를 기울이고 있기 때문일 것입니다.

저는 전력과 토지 측면에서 몇 가지 해결책이 존재한다고 생각합니다. 그러나 현장 발전조차도 빠르게 실현되지는 않을 것입니다. 현재 가스 터빈 한 대를 주문하는 데 얼마나 기다려야 할까요? 일론 머스크는 공급 제한을 피하기 위해 자신이 터빈 블레이드를 제조할 준비가 되어 있다고 말했습니다.

메모리 시장은 특히 주목할 만합니다. 현재 메모리 주식의 가치는 매우 낮으며, 많은 주식의 선행 주가수익비율은 두세 배, 세네 배에 불과하지만 메모리 가격은 이미 크게 상승했습니다.

저는 메모리 주식 연구를 직접 담당하지 않지만, SanDisk를 예로 들면, 그들이 제시한 분기 주당 수익 지침은 심지어 해당 회사 주식의 약 2년 전 주가보다 높습니다. 이는 현재 가격 상승의 힘이 매우 크다는 것을 보여줍니다.

그러나 메모리 주식은 일반적으로 한 자릿수 주가수익비율을 가지고 있습니다. 이는 시장이 일반적으로 산업 주기가 정점에 가까워질 때 주식에 대해 이렇게 가격을 책정하기 때문입니다. 투자자들은 특히 2028년 이후 신규 공급이 시작되면 메모리 가격이 크게 하락할 것이라고 우려하고 있습니다.

저는 항상 생각해왔습니다: 만약 이러한 상황이 발생하지 않는다면 어떻게 될까요?

AI 랙 내부를 살펴보면, 약 70%---80%의 실리콘 면적이 사실상 메모리이며, 주로 DRAM입니다. 고대역폭 메모리(HBM)는 또 다른 특별한 문제를 가지고 있습니다: 동일한 용량의 HBM을 생산하는 데 필요한 웨이퍼 수는 일반 DDR5 DRAM의 약 3배에서 4배에 달합니다.

이는 HBM 생산이 많은 웨이퍼 자원을 차지하게 되어 본래 PC, 스마트폰 등 제품 생산에 필요한 일반 메모리의 생산 능력을 압박하게 됨을 의미합니다.

삼, 메모리와 제조 장비: 부족 현상은 2028년까지 지속될 수 있음

스테이시 라스곤:

HBM의 수요가 매우 높아 이로 인해 또 다른 병목 현상이 발생했습니다: 반도체 제조 장비, 즉 이러한 칩을 생산하는 데 사용되는 장비입니다.

이번 주 한 기업이 내년 웨이퍼 제조 장비(WFE) 시장에 대한 초기 전망을 발표했으며, 시장 규모가 2000억 달러를 초과할 것으로 예상하고 있습니다. 저는 이 예측이 상당히 놀랍다고 생각합니다. 왜냐하면 시장 규모가 더 높은 수준에 도달하기는 어려울 것이라고 생각하기 때문입니다. 심지어 이 숫자가 실현될 수 있을지도 의문입니다. 이유는 간단합니다: 우리는 충분한 웨이퍼 공장이 없습니다.

클린룸은 거의 모두 차지되어 있습니다. 기업들은 가능한 한 기존 시설의 활용도를 높이기 위해 노력하고 있으며, 이것이 올해 초 시장이 WFE 규모를 약 1200억 달러로 추정한 이유입니다. 올해 최종적으로는 1550억 달러에 이를 수 있습니다. 성장은 주로 기존 시설을 더 잘 활용하는 데서 비롯되며, 대규모 신규 공장 건설이 아닙니다.

그러나 기존 시설의 활용도에는 결국 한계가 있습니다. 기업들은 새로운 클린룸을 건설해야 하며, 이는 수년이 걸립니다. 새로운 클린룸은 2027년부터 소량으로 가동되기 시작하고, 2028년과 2029년에 추가로 증가할 것입니다. 그때쯤 우리는 공급과 수요의 불균형이 발생할지 여부를 더 명확히 판단할 수 있을 것입니다.

만약 수요가 현재 시장 예상 성장 속도를 계속 유지한다면, 메모리는 여전히 장기적으로 공급이 긴장 상태에 있을 수 있습니다.

기판, PCB 및 기타 재료에서도 유사한 문제가 발생하고 있습니다. 장비 공급업체들은 단기 공급 제한이 그들의 생산 능력 향상에 영향을 미치고 있다고 말하고 있습니다. 제한되는 것은 PCB와 반도체 칩뿐만 아니라 밸브, 질량 유량 조절기 등으로 보이는 일반적인 구성 요소들도 포함됩니다. 이러한 기본 부품의 부족은 산업 체인의 다른 단계에도 영향을 미칠 수 있습니다.

팬데믹 기간 동안 반도체 장비 기업과 공급망의 대부분 기업들은 몇 가지 교훈을 얻었으며, 현재 공급 문제 관리가 과거보다 더 성숙해졌습니다. 그러나 현재 여전히 많은 단계가 제약을 받고 있으며, 이러한 문제를 먼저 해결해야 다른 단계의 생산 능력 제한이 완화될 수 있습니다.

따라서 공급망에는 사실상 여러 겹의 제한이 존재합니다. 저는 부족 현상이 단기 내에 사라지지 않을 것이라고 생각합니다. 올해는 큰 문제가 없지만, 내년에도 여전히 긴장할 수 있으며, 2028년에도 대체로 느슨하지 않을 것입니다. 2029년은 그때의 수요 상황에 따라 달라질 것입니다. 전반적으로, 저는 공급 긴장이 계속될 것이라고 예상합니다.

사, 반도체 산업의 가격 결정권이 변화하고 있다

진행자 오스틴 라이온스:

앞으로 몇 년간 공급이 계속 긴장 상태에 있고, 메모리 산업의 이익률이 80% 이상, 심지어 88%---90%에 도달한다면, 전체 산업 체인에 있는 기업들은 계속해서 가격을 인상하고 더 높은 이익을 얻을 수 있을까요?

스테이시 라스곤:

반도체 산업에는 매우 흥미로운 특징이 있습니다: 과거에는 가격이 지속적으로 하락하는 것을 당연하게 여겼습니다. 사실, 반도체 산업은 역사적으로 경제 가치를 심각하게 훼손하는 산업이었으며, 장기간 자본 비용을 회수하지 못하고 창출된 가치는 대부분 소비자에게 흘러갔습니다.

많은 년 전, 저는 맥킨지에서 반도체 산업의 가치 창출에 관한 연구에 참여한 적이 있습니다. 우리는 고전적인 경제 이익 정의를 사용하여 기업의 투입 자본 수익률과 가중 평균 자본 비용을 비교하고 전체 산업을 집계했습니다. 연구는 약 150개 회사, 12개 세분 분야 및 전체 산업 주기를 포함했습니다.

연구의 초기 시간 범위는 대략 1996년부터 2004년까지였습니다. 결과적으로 전체 산업은 약 50억 달러의 경제 이익을 누적적으로 손실했습니다. 인텔을 제외하면 손실 규모는 약 500억 달러에 달했습니다. 당시에는 상당히 놀라운 숫자였습니다.

다시 말해, 산업이 창출한 가치는 자본 비용을 회수하기에 충분하지 않았으며, 경제적 가치는 실제로 소비자에게 흘러갔습니다. 그때는 반도체 제품을 구매하는 것이 매우 저렴한 시대였습니다.

2008년 이후, 산업은 통합과 집중을 겪었고, 기업들은 점차 수익성을 개선하기 시작했으며, 최소한 자본 비용을 회수할 수 있게 되었습니다.

팬데믹은 산업이 자신의 가격 결정 능력에 대한 인식을 변화시켰습니다. 기업들은 사실상 강력한 가격 결정권을 가지고 있다는 것을 발견했습니다. 이전에는 산업이 이를 진정으로 인식하지 못했습니다.

팬데믹 기간 동안 원자재 등 투입 비용이 지속적으로 상승했지만, 제가 추적하는 많은 기업들은 비용 상승으로 인해 매출 총이익률이 하락한 곳이 없었습니다. 그들은 모두 가격을 인상했으며, 인상 폭이 비용 상승을 상쇄할 만큼 충분했습니다.

예를 들어, 한 기업의 원래 매출 총이익률이 60%였고, 비용이 100 단위 상승하면 가격을 160 단위 인상하여 원래의 매출 총이익률을 유지할 수 있습니다. 고객들도 이러한 가격 인상을 수용했습니다.

저는 팬데믹 기간 동안의 인플레이션이 반도체 산업의 수익성을 개선하는 데 오히려 도움이 되었다고 생각합니다. 2023년과 2024년, 산업 출하량은 2019년과 대체로 비슷하지만, 전체 평균 판매 가격(ASP)은 약 50% 상승했습니다. 메모리를 제외하더라도 마찬가지입니다.

현재 이러한 가격 결정 능력은 더욱 뚜렷하게 나타나고 있습니다. 올해 반도체 산업의 총 수익은 약 1.5조 달러에 이를 것으로 예상되며, 심지어 더 높을 수도 있습니다. 전년 대비 증가율은 거의 100%에 달합니다. 이 중 약 70%---80%의 수익 증가가 메모리 평균 판매 가격 상승에서 비롯되며, 나머지 상당 부분도 비메모리 제품의 가격 상승에서 기인합니다.

반면, 출하량의 증가 폭은 훨씬 작습니다. 산업은 가격 결정권을 더 잘 활용하고 있으며, 고객들은 전반적으로 이러한 가격을 수용하고 있습니다. 공급이 긴장 상태에 있을 때, 그들은 대개 선택의 여지가 많지 않기 때문입니다.

따라서 공급이 계속 긴장 상태에 있는 한, 저는 이러한 상황이 지속될 가능성이 있다고 생각합니다.

딜런 파텔:

반도체 산업 내에서 각 기업이 가격 결정권을 활용하는 방식은 다릅니다. 어떤 기업은 경기가 좋을 때 가격을 대폭 인상하지만, 산업이 침체할 때 심각한 타격을 받습니다. 다른 기업들은 전체 주기 동안 상대적으로 안정적으로 이익률을 유지할 수 있습니다.

예를 들어, TSMC는 지난 10년 동안 매출 총이익률이 약 45%에서 약 60%로 꾸준히 증가했습니다. 경기가 좋을 때 가격을 인상할 수 있지만, 산업이 침체할 때 이전에 얻은 이익을 대폭 양보하지는 않았습니다.

메모리 산업은 다릅니다. 약 2년 전, 산업은 인터넷 거품 이후 최악의 하강 주기 중 하나에 있었고, 매출 총이익률이 심지어 마이너스였습니다. 현재 메모리 제조업체의 수익은 크게 개선되었습니다.

따라서 산업 체인의 각 단계의 가격 결정권은 각자의 시장 구조에 따라 달라집니다. TSMC는 거의 독점적인 지위를 가지고 있으며, 고객과 장기적인 협력 관계를 유지하고 있습니다. 가격 인상 능력이 있더라도, 일부 다른 기업들처럼 대폭 가격을 인상하지는 않습니다.

메모리 제조업체의 상황은 다릅니다. 만약 애플과 같은 고객이 산업이 하강할 때 공급업체에 큰 압력을 가한다면, 주기가 반전되어 공급이 부족해질 때 공급업체도 가격을 인상할 것입니다. 현재 우리가 보고 있는 것은 바로 이러한 주기적인 가격 협상 능력의 변화입니다.

오, 컴퓨팅 인프라 구축 비용 급증, 누가 높은 비용을 부담할 것인가?

딜런 파텔:

2024년, 1GW 컴퓨팅의 총 비용은 약 400억 달러로, 칩, 토지, 전력 및 데이터 센터 시설 등 모든 단계를 포함합니다. 현재 이 비용은 600억 달러를 초과했습니다.

물론, 2024년에 실제로 1GW 컴퓨팅을 구축하는 기업은 많지 않지만, 2026년에는 점점 더 많은 기업들이 이렇게 대규모의 컴퓨팅 시설을 구축하기 시작할 것입니다. 동시에, 각 GW 컴퓨팅이 제공할 수 있는 계산 능력도 향상되고 있습니다.

하지만 문제는, 이렇게 1GW 규모의 컴퓨팅 클러스터가 상당한 수익성을 가질 수 있다는 것입니다.

앞서 언급했듯이, 클라우드 서비스 제공업체는 종종 초대형 클라우드 공급업체의 장기 구매 약속을 받아야 클러스터에 대한 자금을 조달할 수 있습니다. 이는 그들이 가격을 미리 고정해야 하며, 초과 이익을 얻을 수 있는 공간을 제한합니다.

일론 머스크는 다른 전략을 취했습니다: 만약 칩, 토지, 전력 및 데이터 센터 시설이 제한된다면, 그는 먼저 인프라를 구축하고 실제 사용이 시작된 후에 임대 계약을 체결할 수 있습니다. 이렇게 하면 컴퓨팅 공급이 매우 긴장할 때 더 높은 가격으로 임대할 기회를 가지게 되며, 낮은 가격을 미리 고정할 필요가 없습니다.

동시에 AI 연구소 자체도 추론 서비스에서 막대한 수익을 얻을 수 있습니다. 관련 공개에 따르면, 앤트로픽의 각 GW 추론 컴퓨팅에 대한 수익 규모는 700억---800억 달러에 이를 수 있습니다.

하지만 이러한 수익이 항상 높은 이익률을 유지할 수 있다는 것을 의미하지는 않습니다. 만약 한 기업이 각 GW를 150억 달러의 비용으로 확보하면, 이익률이 75%---80%에 이를 수 있습니다. 그러나 비용이 500억 달러로 상승하면 이익률은 크게 하락할 것입니다.

따라서 결국 누가 이러한 비용을 부담할 것인지는 여전히 문제입니다.

엔비디아도 이러한 압력에 직면해야 합니다. 비록 그들의 이익률이 전반적으로 안정적으로 유지되고 심지어 약간 하락했지만, 메모리 가격 상승과 기판, 광학 구성 요소 등 다른 공급망 단계의 일부 비용을 흡수해야 했습니다.

결과적으로 엔비디아가 고객에게 청구하는 가격이 크게 상승했지만, 자체 이익률은 비례하여 상승하지 않았습니다.

이로 인해 산업 체인 내의 이익 분배가 매우 중요해졌습니다: 누가 이익률을 유지할 수 있고, 누가 이익을 더 확대할 수 있으며, 누가 비용 상승의 압박을 감당해야 하는가? 이러한 문제는 산업의 가격 결정 구도를 실시간으로 변화시키고 있습니다.

앞으로 고객들은 서로 다른 가격으로 유사한 계약을 체결할 수 있습니다. 판매 능력이 뛰어나고 공급 긴장 기회를 포착할 수 있는 기업은 매우 높은 가격을 받을 수 있을 것입니다.

진행자 오스틴 라이온스:

이는 스테이시가 방금 언급한 팬데믹 기간의 변화와 매우 유사합니다: 반도체 산업은 점차 자신이 창출한 가치에 대해 요금을 부과할 수 있다는 것을 인식하게 되었습니다.

딜런, 당신도 언급했듯이, 엔비디아와 같은 시스템 공급업체는 다양한 구성 요소의 가격이 상승할 때 비용을 고객에게 전가할지, 아니면 스스로 비용을 감당하고 이익률을 유지할지를 결정해야 합니다.

문제는 향후 몇 년간 인프라 구축이 분명히 계속될 것이며, 공급은 제한적이고 수요는 왕성 하지만 자금 조달은 점점 더 어려워질 것이라는 점입니다. 그러면 메타와 같은 대형 클라우드 공급업체와 모델 회사가 언젠가 컴퓨팅 비용이 감당할 수 없을 정도로 비싸다고 생각하여 가격 인상을 저항할까요?

스테이시 라스곤:

이러한 투자를 평가할 때, 비용과 이익률만 볼 것이 아니라 기업이 돈을 쓴 후에 무엇을 얻었는지도 봐야 합니다.

엔비디아를 예로 들면, 매 세대 제품의 가격이 상승하고 있지만 고객이 얻는 성능 향상 폭은 종종 더 큽니다. 이는 매우 중요합니다.

안전에서 호퍼까지, GPU 평균 판매가는 대략 두 배로 증가했지만 성능은 약 10배 향상되었습니다. 호퍼에서 블랙웰까지는 두 세대 아키텍처 간의 차이가 커서 직접 비교하기 어려운 상황입니다. 그러나 대략적으로 추정해보면, 단일 GPU의 평균 판매가는 약 50% 상승했으며 성능은 3배에서 30배 향상되었습니다. 후속 소프트웨어 최적화를 고려하면 실제 향상은 더 클 수 있습니다.

블랙웰에서 루빈으로 넘어가면, 랙 비용이 다시 크게 상승할 가능성이 있습니다. 엔비디아가 제공한 참고 데이터에 따르면, 블랙웰 랙 비용은 약 250억 달러, 루빈은 약 400억 달러이며, 성능 향상은 약 10배입니다.

따라서 핵심은 1기가와트의 계산 능력 구축 비용이 250억 달러에서 400억 달러로 상승하거나 400억 달러에서 600억 달러로 상승하는 것이 아니라, 고객이 1달러를 지불할 때 얼마나 많은 토큰과 계산 능력을 얻을 수 있는가입니다.

각 단위 비용으로 얻을 수 있는 성능이 지속적으로 향상된다면, 이러한 투자는 여전히 매력적입니다.

하지만 엔비디아가 향후 출시할 새로운 세대 제품의 성능 향상 폭이 20%에 불과하다면, 나는 그들의 가격 책정 능력과 수익성에 대해 매우 걱정하기 시작할 것입니다.

엔비디아의 총 이익률은 70%를 초과하며, 이는 막대한 수익 규모에 기반하고 있습니다. 시장은 항상 질문합니다: 경쟁자와 다른 GPU 공급업체에 직면하여, 그들은 어떻게 그렇게 높은 이익률을 유지할 수 있을까요?

내 생각은, 엔비디아가 성능 향상 폭을 평균 판매가 상승 폭보다 지속적으로 크게 유지할 수 있다면, 이익률에 대해 과도하게 걱정할 필요는 없다는 것입니다. 제품의 복잡성이 증가하고 비용이 증가함에 따라 판매가도 상승해야 하며, 핵심은 성능과 비용 간의 관계가 항상 고객에게 유리해야 한다는 것입니다.

혁신 속도가 둔화된다면, 나는 매우 걱정할 것입니다.

나는 2023년 전후에 핫 칩스 회의에 참석했던 기억이 납니다. 그때 엔비디아의 수석 과학자 빌 달리가 주제 발표를 했고, 그 중 하나의 관점이 인상 깊었습니다: 지난 10년 동안 GPU 성능이 약 1000배 향상되었습니다. 엔비디아는 다양한 기술적 수단을 통해 이러한 발전을 이루었으며, 달리는 향후 10년의 목표는 성능을 100만 배 향상시키는 것이라고 말했습니다.

만약 엔비디아가 이러한 궤적을 따라 계속 나아갈 수 있다면, 나는 그들의 이익률에 대해 그렇게 걱정하지 않을 것입니다. 그러나 그들이 혁신 속도를 유지하지 못하거나 다른 경쟁자들이 빠르게 따라잡는다면 상황은 완전히 달라질 것입니다.

결국 이러한 비용은 누군가가 부담해야 합니다. 이상적으로는 고객이 자신이 얻는 가치에 대해 기꺼이 비용을 지불해야 합니다. 그러나 비용이 지속 불가능한 속도로 상승한다면, 공급자는 그 중 일부를 부담해야 하며, 산업 체인 각 단계 간의 이익 쟁탈전도 더욱 치열해질 것입니다.

여섯, 자사 개발 칩의 부상: 엔비디아의 경쟁 우위는 얼마나 유지될 수 있을까?

진행자 오스틴 라이온스:

딜런, 점점 더 많은 기업들이 자사 칩을 설계하기 시작하고 있습니다. OpenAI의 사례는 특히 주목할 만합니다. 향후 2년 동안 GPU의 발전과 각종 XPU 및 AI 가속기의 빠른 성장에 대해 우리는 어떻게 바라봐야 할까요? 많은 스타트업들이 다양한 칩 아키텍처를 시도하고 있는데, 이것이 경쟁 구도를 어떻게 변화시킬까요?

딜런 파텔:

점점 더 많은 기업들이 자사 개발 칩을 시도하고 있으며, 이는 명확한 추세입니다. OpenAI는 중요한 사실을 보여주었습니다: 한 기업이 처음으로 칩을 설계하더라도 성능이 매우 뛰어난 제품을 만들 수 있습니다.

OpenAI는 우리를 실험실로 초대했습니다. 우리는 SemiAnalysis의 오픈 소스 추론 기준 테스트인 InferenceX를 사용하여 여러 오픈 소스 모델을 테스트했으며, 그 결과 첫 번째 세대 칩의 성능이 엔비디아의 블랙웰을 초과했습니다.

이 칩은 설계 및 프로그래밍 과정에서 AI 도구를 대량으로 사용했습니다. 앤트로픽도 자사 칩 프로젝트를 추진하기 시작했으며, OpenAI의 절반 시간 안에 개발을 완료하기를 희망하고 있습니다. 이러한 목표는 상당히 공격적이지만, 모델이 설계 과정을 상당히 가속화할 수 있다면 전혀 불가능한 것은 아닙니다.

동시에 구글은 TPU를 외부에 판매하기 시작했으며, 아마존의 트레인리움도 상당히 성숙해져 PyTorch를 잘 지원하고 있습니다. 메타와 마이크로소프트도 매우 적극적인 칩 로드맵을 가지고 있습니다.

이 뒤에는 강력한 경제적 동기가 있습니다. 앞서 언급했듯이, 1기가와트의 계산 능력 구축 비용이 400억 달러에서 600억 달러 이상으로 상승했습니다. 엔비디아, 브로드컴, 마벨 등의 칩 설계 기업의 이익을 제외하면, 동등한 규모의 계산 능력 비용은 약 200억 달러에 불과할 수 있습니다.

다시 말해, 칩 설계 단계의 이익 비용을 상당히 낮출 수 있다면, 이론적으로 1기가와트의 계산 능력으로 절약된 자금이 더 많은 계산 능력 구축을 지원할 수 있습니다. 많은 추론 작업을 수행해야 하는 기업에게 이러한 경제적 이점은 매우 분명합니다.

따라서 엔비디아는 매우 빠른 혁신 속도를 유지해야 합니다. 매년 1달러당 성능을 두 배로 향상시키는 것만으로는 부족하며, 그렇지 않으면 다른 경쟁자들이 빠르게 따라잡을 수 있습니다.

만약 엔비디아가 이러한 성능 향상 속도를 지속적으로 유지할 수 있다면, 그들은 여전히 높은 이익을 얻을 이유가 있습니다. 그러나 대형 고객들이 스스로 칩을 설계하고 배포하며 생산 규모를 확대하고, 공급망 비용에 근접한 가격으로 메모리, TSMC 웨이퍼, 기판 및 광학 부품을 확보할 수 있다면, 그들은 큰 가격 인하 여지를 가질 수 있습니다.

산업 체인이 더욱 분리된다면, 엔비디아나 브로드컴은 더 이상 과거처럼 주도적인 위치를 차지하지 못할 수 있으며, 상황은 크게 달라질 수 있습니다. 이것이 바로 시장이 두 회사의 가치 배수가 역사적으로 낮은 이유 중 하나입니다.

예를 들어, 메타는 브로드컴에 대한 의존도를 줄일까요? 구글도 그렇게 할까요? 이러한 대형 고객들이 결국 엔비디아 칩 구매를 중단하고 내부 설계로 완전히 전환할까요?

현재 부품 공급업체 자체도 강력한 가격 책정 권한을 가질 수 있습니다. 진정한 문제는 엔비디아와 브로드컴이 현재의 놀라운 이익률을 계속 유지할 수 있을지 여부입니다. 적어도 향후 2년 동안, 나는 그들이 여전히 이를 달성할 기회가 있다고 생각하지만, 2년 후에는 확신할 수 없습니다.

칩 설계 자체는 여전히 매우 복잡하지만, AI 모델은 소프트웨어 개발 및 가속기 프로그래밍의 난이도를 상당히 낮추고 있습니다.

우리의 InferenceX 기준 테스트를 예로 들면, 엔비디아 추론 시스템을 정상 작동시키는 데 약 6개월이 걸렸습니다. AMD는 6개월에서 9개월이 걸렸고, 구글과 아마존은 몇 개월밖에 걸리지 않았습니다. 반면 OpenAI의 칩은 약 1개월 반이 걸렸습니다.

칩이 정상적으로 작동하는 것에서 소프트웨어가 칩에서 실행될 수 있는 것까지의 과정이 빠르게 단축되고 있습니다. 이제 각 기업은 칩 설계 자체에 주목하기 시작했습니다.

칩 설계가 소프트웨어 개발처럼 점차 더 보편화되고 표준화된 능력이 될까요? 만약 그렇다면, 칩을 설계할 수 있는 기업의 수가 크게 증가할 수 있습니다.

물론 칩 설계는 여전히 마스크, 전자 설계 자동화(EDA) 도구 등 고정 비용을 지불해야 하며, 이러한 투자만으로도 5000만 달러에 이를 수 있습니다. 그러나 AI가 설계 및 프로그래밍 장벽을 지속적으로 낮춘다면, 칩 설계에 참여하는 기업은 여전히 증가할 수 있습니다.

칩 설계가 더 보편화되면, 산업 이익률이 하락할 수 있습니다. 우리는 일부 소프트웨어 서비스(SaaS) 기업이 시장 재평가를 겪는 것을 이미 보았습니다. 동시에 엔비디아와 브로드컴의 수익은 여전히 매년 두 배 이상의 속도로 증가하고 있지만, 주가 성과는 상대적으로 정체되어 있습니다.

이것이 반도체 산업의 미래에서 가장 주목해야 할 문제 중 하나입니다.

일곱, XPU 스타트업이 GPU에 도전할 수 있을까? 엔비디아의 시장 점유율이 변화하고 있다

진행자 오스틴 라이온스:

그렇다면 향후 2년 동안 GPU와 XPU 시장은 어떻게 발전할까요? 점점 더 많은 AI 가속기 스타트업들이 다양한 아키텍처를 시도하고 있는데, 경쟁 구도가 뚜렷하게 변화할까요?

딜런 파텔:

XPU 기업에 대해, 나는 두 가지 다른 경로가 있다고 생각합니다.

만약 당신이 초대형 클라우드 업체라면, 구글이나 엔비디아와 유사한 제품을 만들기 위해 상대적으로 안정적인 설계 경로를 선택할 수 있으며, 자체 규모를 통해 애플리케이션을 추진할 수 있습니다.

하지만 만약 당신이 스타트업이라면, 매우 공격적이고 기존 솔루션과 명백히 다른 기술 경로를 시도해야 합니다. 첫 번째 세대 AI 하드웨어 스타트업을 돌아보면, 세레브라스와 그록이 상대적으로 성공한 중요한 이유 중 하나는 그들이 더 대담한 기술 경로를 선택했기 때문입니다.

현재 등장하는 스타트업들 중, 나는 엔비디아, 구글 또는 AMD가 쉽게 복제할 수 없는 충분히 독특한 기술 솔루션을 가진 기업만이 진정으로 두각을 나타낼 기회가 있다고 생각합니다.

좋은 점은 현재 이 분야에 많은 자금이 유입되고 있으며, 다양한 공격적인 아키텍처와 설계 아이디어가 검증을 받고 있다는 것입니다.

동시에 엔비디아는 산업 체인 내에서 점유율이 변화하기 시작했습니다. 2023년부터 2024년까지 엔비디아는 상당한 비율의 HBM 및 고급 패키징 생산 능력을 차지하고 있으며, 2025년에는 이러한 성장이 둔화되기 시작하고 2026년에는 점유율이 더욱 감소할 것입니다. 우리의 판단에 따르면, 내년에도 이러한 추세가 지속될 가능성이 있습니다.

하지만 이것이 엔비디아의 이익이 즉시 감소한다는 것을 의미하지는 않습니다. 전체 시장이 너무 빠르게 성장하고 있기 때문에, 점유율이 감소하더라도 엔비디아의 내년 수익은 여전히 두 배로 증가할 수 있습니다.

구글, 아마존, AMD는 점유율을 확보하고 있습니다. 여기서 칩 수만 보는 것은 안 됩니다. 왜냐하면 서로 다른 칩의 크기와 가치 차이가 크기 때문입니다. 더 의미 있는 지표는 고급 패키징 웨이퍼, HBM 사용량, 그리고 웨이퍼 파운드리 및 메모리 지출입니다.

이러한 지표들은 경쟁자들이 점차 시장 점유율을 확대하고 있음을 보여줍니다.

2028년과 2029년을 전망할 때, 엔비디아의 성장 속도는 둔화될 수 있으며, 매년 수익 증가 100% 수준을 유지하기 어려울 수 있습니다. 그때 시장은 판단해야 합니다: 성장 둔화가 점유율 감소로 이어질 것인지, 아니면 엔비디아가 루빈 이후의 새로운 세대 아키텍처를 통해 계속해서 선두를 유지할 수 있을 것인지.

엔비디아는 지속적으로 혁신 속도를 높여야 합니다. 그들은 매년 새로운 세대 칩을 업데이트하는 속도를 채택하고 있으며, 이는 단순히 자신의 발전을 위한 것이 아니라 경쟁자가 따라잡기 어렵게 만들기 위한 것입니다.

엔비디아의 성은 하드웨어만이 아닙니다. CUDA 소프트웨어, 방대한 개발자 생태계, 이미 배포된 인프라, 그리고 자체 자산 부채표와 자금 조달 능력은 모두 경쟁 우위를 형성합니다.

엔비디아는 AI를 활용하여 자체 칩 설계를 가속화하고 있습니다. 그들은 경쟁 압력을 인식하고 있으며, 새로운 기술을 도입하지 않고 있는 것은 아닙니다. 결국, 이는 경쟁입니다.

황 인훈 은 분명히 경쟁에 대해 높은 경계를 유지하고 있습니다. 그는 인텔의 역사에서 몇 가지 교훈을 얻었으며, 항상 경쟁자의 동향에 주목하고 있습니다.

스테이시 라스곤:

이것이 엔비디아의 가치가 이렇게 낮은 수준에 있는 이유를 설명합니다.

약 9개월에서 10개월 전, 나는 엔비디아와 전체 반도체 산업의 상대 가치를 비교하는 연구 보고서를 작성했습니다. 그 당시, 지난 10년 동안 엔비디아의 상대 가치는 13 거래일만큼 낮았습니다.

그리고 지금, 그들의 상대 가치는 그때보다도 더 낮습니다.

투자자들은 AI 수요가 지속될 수 있을지에 대한 걱정만 하는 것이 아닙니다. 만약 전체 AI 수요가 사라진다면, 엔비디아든 다른 회사든 모두 심각한 영향을 받을 것입니다.

하지만 반도체 산업 내부에서 엔비디아에 대한 가장 큰 위협은 분명히 경쟁에서 옵니다. 그들은 현재 동료들보다 훨씬 앞서 있지만, 모든 경쟁자들이 그들의 시장을 차지하려고 합니다.

이것이 반도체 산업의 일관된 특징이기도 합니다: 한 회사가 성공하면, 끊임없이 누군가가 도전하려고 합니다. 엔비디아는 항상 선두를 유지해야 하며, 산업이 발전함에 따라 이 일은 점점 더 어려워질 것입니다.

여덟, 기업 AI 응용: 앞으로 더 많은 기업이 직접 칩을 구매할까요, 아니면 토큰을 직접 구매할까요?

진행자 오스틴 라이온스:

앞서 GPU, XPU 및 경쟁자가 시장 점유율을 확대하는 것에 대해 이야기했습니다. 우리의 논의는 주로 데이터 센터와 초대형 클라우드 업체에 집중되었습니다.

그렇다면 엔비디아와 같은 기업에게 기업의 로컬 배치 계산 능력도 중요한 성장 기회일까요?

스테이시 라스곤:

영웨이다는 현재 초대형 클라우드 공급자와 비초대형 클라우드 공급자의 수익을 구분하고 있지만, 이러한 구분은 완전히 정확하지 않습니다. 일부 AI 연구소는 비초대형 클라우드 공급자로 분류될 수 있으며, 초대형 클라우드 공급자의 지출도 이러한 연구소를 간접적으로 지원할 수 있으므로 두 가지 사이에는 교차가 존재합니다.

대략적으로 보면, 두 종류의 고객이 현재 각각 절반 정도를 차지하고 있습니다. AI 연구소가 직접 또는 간접적으로 기여하는 수익은 영웨이다 총 수익의 약 20%를 차지할 수 있습니다. 이는 여전히 상당히 큰 비율입니다.

따라서 영웨이다의 수익 출처는 우리가 이전에 생각했던 것보다 더 다양할 수 있습니다.

하지만 궁극적으로 기업이 AI를 채택하는 것이 이 산업이 지속 가능한 발전을 할 수 있는 열쇠입니다. 기업이 실제로 AI를 사용하지 않는다면, 전체 산업의 장기 성장에는 지지가 부족할 것입니다.

현재는 여전히 초기 단계에 있지만, 저는 기업 측에서 최소한 명확한 가치를 가진 핵심 애플리케이션이 등장했다고 생각합니다: 프로그래밍입니다.

AI 프로그래밍 에이전트의 수익은 빠르게 증가하고 있습니다. 현재 거의 모든 소프트웨어 개발자가 AI를 활용하여 프로그래밍을 하고 있으며, 손으로 코드를 완전히 작성하는 사람은 거의 없습니다.

기업 애플리케이션의 가치는 반드시 수익 증가로 직접 나타나는 것은 아니며, 생산성 향상으로 나타날 수도 있는데, 후자는 더 측정하기 어렵습니다.

저 자신도 금융 분석가로서 재무 모델을 구축해야 합니다. 몇 달 전, 우리 팀은 Claude를 사용하여 이러한 작업을 수행해 보았습니다. 초기 결과는 그리 이상적이지 않았지만, 이후 한 동료가 도구가 명확히 발전했다고 생각했습니다.

그래서 우리는 팀 회의를 열어 그것이 우리가 이미 다룬 회사의 재무 모델을 제로에서 시작하여 구축하도록 했습니다.

결과는 놀라웠습니다: 그것은 단 1시간 20분 만에 모델을 완성했습니다. 모델은 10년의 역사 데이터를 포함하고, 회사의 여러 비즈니스 재편성과 부서 조정을 처리했으며, CEO의 재무 보고 전화 회의에서의 발언에 따라 논리적 추론을 사용하여 예측을 시도했습니다. 단순히 무작위로 숫자를 생성하는 것이 아니라 말입니다.

이 작업을 팀의 한 분석가에게 맡겼다면, 아마도 일주일이 걸렸을 것입니다; 제가 직접 수행했다면, 아마도 3개월이 걸렸을 것입니다. 하지만 Claude는 단 1시간 20분 만에 끝냈습니다.

이는 동일한 팀이 더 많은 작업을 수행할 수 있으며, 심지어 더 적은 인력으로 더 많은 작업을 완료할 수 있음을 의미합니다.

물론, 이는 다른 문제를 가져옵니다. AI가 기업 내에서 광범위하게 보급된다면, 실업률이 크게 상승할 가능성이 있을까요? 저는 그 답을 모르지만, 이는 분명 고려할 만한 문제입니다.

현재의 실제 경험에 비추어 볼 때, 저는 AI 애플리케이션이 실제 수익을 가져올 수 있다는 것을 점점 더 믿게 되었습니다. 그러나 여전히 초기 시장입니다. 많은 기업이 실험 단계에 있으며, AI를 어떻게 사용해야 할지 명확하지 않고, 구체적인 요구를 판단할 충분한 전문 지식이 부족하여 보급에는 시간이 필요합니다.

전반적으로 저는 현재 보고 있는 상황에 대해 긍정적인 태도를 가지고 있습니다.

딜런 파텔:

저는 한 가지를 보충하고 싶습니다: 기업 AI 애플리케이션에 대해, 저는 대부분의 기업이 대량으로 하드웨어를 구매하고 내부에서 자신의 모델을 운영할 것이라고 생각하지 않습니다.

모델 추론에는 명확한 규모의 경제 효과가 있습니다. 대부분의 기업에게 더 합리적인 방법은 직접 토큰을 구매하는 것이며, 즉 클라우드 모델의 추론 서비스를 호출하고 이러한 능력을 자신의 데이터와 결합하는 것입니다.

저는 이것이 미래 대부분의 기업이 AI를 소비하는 주요 방식이라고 생각합니다.

이는 지난 20년간 기업 IT 발전과 매우 유사합니다. 20년 전, 기업은 일반적으로 인프라를 직접 구매하고 시스템을 배포했습니다; 현재 대부분의 IT 지출은 클라우드 컴퓨팅으로 전환되었습니다. 앞으로 기업의 AI에 대한 대부분의 지출도 토큰 구매에 사용될 가능성이 높으며, 직접 컴퓨팅 파워를 구매하거나 오픈 소스 모델을 운영하는 것이 아닙니다.

심지어 제약회사와 헤지펀드도 주로 모델을 직접 사용하는 데 비용을 지불할 가능성이 높으며, 하드웨어를 구매하여 오픈 소스 모델을 운영하는 것은 아닙니다. 물론, 시장에는 여전히 컴퓨팅 파워를 구매하고 모델을 배포하며 고객에게 서비스를 제공하는 공급자가 존재할 것입니다.

이 논의에는 더 깊이 탐구할 가치가 있는 내용이 많지만, 우리는 이미 시간을 초과했습니다. 오늘의 대화는 매우 흥미로웠으며, 여러분의 참여에 감사드립니다.

위험 경고 및 면책 조항

시장은 위험이 있으며, 투자는 신중해야 합니다. 본 문서는 개인 투자 조언을 구성하지 않으며, 개별 사용자의 특별한 투자 목표, 재정 상태 또는 필요를 고려하지 않았습니다. 사용자는 본 문서의 의견, 관점 또는 결론이 자신의 특정 상황에 부합하는지 고려해야 합니다. 이에 따라 투자할 경우, 책임은 사용자에게 있습니다.