SemiAnalysis의 계산력 부족 분석: OpenAI와 Anthropic이 전 세계의 새로운 계산력을 모두 차지하고 있다

11월 3일, 반도체 연구 기관 SemiAnalysis의 창립자이자 CEO인 딜런 파텔이 Runtime 2026에서 발표를 하였으며, 주제는 컴퓨팅 파워, 자본, 그리고 누가 진정으로 컴퓨팅 파워를 제공할 수 있는지에 대한 것이다.

그는 OpenAI와 Anthropic이 대량으로 컴퓨팅 파워를 예약하고 있으며, 2027년을 예로 들면, 두 회사가 가져가는 신규 컴퓨팅 파워의 비율이 25%에서 40% 사이에 있다고 밝혔다. 수요 압박 속에서, 엔비디아 H100 데이터 센터 칩의 1년 계약 가격은 지난해 10월 저점인 시간당 1.70달러에서 약 2.80달러로 상승했다. 다른 회사들에게는, 컴퓨팅 파워를 살 수 있는 것이 컴퓨팅 파워를 얻는 것과 같지 않다.

자금 측면에서도 긴축이 심하다: 최근 두 달 동안 미국 채권 수익률이 크게 상승하였고, 10년 만기 수익률은 10월 초 5% 이상으로 상승하였다. 자금을 빌려서 데이터 센터를 구축하는 신생 클라우드 업체들은 자금을 조달하기가 점점 더 어려워지고 있다.

이 발표는 Anthropic이 S-1을 공개 제출한 일주일 후에 이루어졌으며, 시장은 이제 한 주요 연구소 뒤에 있는 컴퓨팅 파워의 실체를 보았다. 파텔은 엔비디아가 약 6.5 기가와트의 컴퓨팅 파워를 지원하고 있지만, 2030년 이전의 신규 컴퓨팅 파워에서 이는 매우 작은 부분에 불과하며, "컵의 물"에 불과하다고 말했다.

01 신규 컴퓨팅 파워가 두 개의 연구소에 의해 대량 예약됨

컴퓨팅 파워의 긴축은 구매자가 너무 집중되어 있는 데서 시작된다. 전 세계 컴퓨팅 파워의 총량은 이미 빠르게 증가하고 있다: 2024년 말 약 60 기가와트, 올해 말 100 기가와트를 초과하며, 2년 만에 거의 두 배가 된다. 파텔은 다음과 같이 말했다:

"2024년 말 전 세계에 60 기가와트의 컴퓨팅 파워가 있으며, 올해 말에는 100 기가와트를 초과할 것이고, 2년 만에 거의 두 배가 된다."

증가량 중 가장 큰 구매자는 OpenAI와 Anthropic이다. 두 회사가 보유한 컴퓨팅 파워의 총량은 지난해 말 약 4 기가와트에서 올해 약 10 기가와트, 내년에는 20 기가와트를 초과할 것으로 예상된다. 증가량을 보면, 2027년 한 해 동안 두 회사가 합쳐서 약 12 기가와트를 추가할 것이며, 전 세계의 신규 총량은 약 40 기가와트로, 비율은 약 30%에 해당한다. 2028년까지, 파텔은 AI 연구소가 한 해에 약 30 기가와트를 추가해야 한다고 말했다.

파텔은 추정하였다:

"그들이 가져가는 것은 신규 컴퓨팅 파워의 25%, 30%, 40%에 해당하는 부분이다."

"지난해 말, OpenAI와 Anthropic의 수익은 Claude Code의 출시에 따라 급증하였고, 그들은 미친 듯이 컴퓨팅 파워를 구매하기 시작했으며, 메타도 미친 듯이 구매하기 시작했다."

"현재 많은 사람들에게는 컴퓨팅 파워를 구매하는 것이 불가능하다."

또한 주목할 만한 세부 사항이 있다: 이러한 컴퓨팅 파워는 주로 훈련에 사용되며, 사용자에게 서비스를 제공하는 데 사용되지 않는다(추론). 파텔은 Anthropic이 오늘 4 기가와트를 보유하고 있으며, 전체 Claude Code는 그 중 약 1 기가와트만을 서비스에 사용하고, 추론에 사용되는 컴퓨팅 파워는 훈련에 비해 "놀라울 정도로 적다"고 말했다. 이는 사용자 측의 수요가 안정되더라도, 연구소가 새로운 모델을 훈련하는 예산이 여전히 칩을 계속 소모할 것임을 의미한다.

02 오픈 소스 모델 추론 판매가 너무 수익성이 높아, 임대 가격이 계속 상승

구매자가 많아지면 가격이 오르게 된다. 파텔은 임대 가격을 끌어올리는 또 다른 힘은 토큰(모델 출력의 측정 단위) 판매라는 사업 자체의 높은 수익성 때문이라고 생각하며, 높은 가격에 GPU를 임대하려는 사람은 두 개의 연구소에 그치지 않는다고 말했다.

그가 제시한 계산은 메가와트 단위로 이루어졌다. B300 클러스터를 자체 구축하고, 건설 및 5년 운영 비용을 나누면 연간 약 900만 달러에 해당하며; 클라우드 공급업체에 임대하면, "연간 1400만 달러를 달성하는 것은 운이 좋은 것"이라고 한다. 반면, 이 메가와트의 컴퓨팅 파워를 사용하여 오픈 소스 모델 DeepSeek V4.1 Flash를 실행할 경우, 활용률이 60%일 때 연간 수익은 약 7000만 달러에 달한다. 즉, 임대 가격이 자체 구축 비용보다 50% 높더라도, 추론 판매 수익은 여전히 임대료의 5배에 달한다. (7000만 달러는 수익이며, 인건비 및 기타 비용은 제외됨.) 그는 말했다:

"설사 활용률이 30%에 불과하더라도, 여전히 엄청난 돈을 벌 수 있다."

"내가 아는 수십 명은 GPU를 임대하고 추론을 판매하여 많은 돈을 벌었다."

이 계산은 SemiAnalysis가 오픈한 InferenceX 기준에 기반하며, 누구나 다운로드할 수 있는 컨테이너를 사용하고, vLLM과 SGLang 두 가지 오픈 소스 추론 소프트웨어만을 사용하였으며, 팀은 "단 네 명의 엔지니어"로 구성되어 있으며, 투기적 디코딩 등의 추가 최적화는 하지 않았다.

가격 데이터는 이 논리에 부합한다. 파텔은 지난해 10월이 저점으로, H100이 약 1.70달러였으며, 최소 1.45달러에 찾을 수 있었다고 말했다; 현재 거래 가격은 2.40달러에서 3.20달러 사이이며, 중간값은 2.80달러이다:

"2년 전 이 가격에 계약을 체결했다면 미친 사람으로 여겨졌을 것이고, 지금 사람들은 이 구간에서 계약을 체결하기 위해 급하게 움직이고 있다."

SemiAnalysis의 1년 계약 지수는 올해 3월 이미 2.35달러였으며, 10월 Nebius 등 공급업체의 가격도 계속 인상되고 있다. 독자들이 주목해야 할 점은, 파텔이 SemiAnalysis가 컴퓨팅 파워 매칭도 하고 있어 실제 거래 가격을 알고 있으며, 이는 동시에 이해관계가 얽힌 입장이라는 것이다.

그는 다음 단계에 대한 판단을 내렸다:

"만약 H100이 3달러 이상으로 상승하고, B300이 7달러 이상으로 상승한다면, 나는 놀라지 않을 것이다."

구매자에게 그의 조언은 더 직접적이다:

"만약 시간당 6달러의 B300을 찾을 수 있다면, 즉시 계약을 체결하고, 토큰을 판매해야 한다. 이 가격은 터무니없지만, 올바른 결정이다."

장애물은 클라우드 공급업체가 모두 선불을 요구한다는 것이다. 신생 기업은 더욱 어렵다: 1년 계약을 체결하기가 매우 어려우며, 신생 기업은 1년 후에도 여전히 존재할지 확신할 수 없다. 폐쇄형 모델에 관해서는, 그는 Anthropic이 Fable과 Opus 5.5에 대한 수익이 "1억 달러를 초과"한다고 언급하였으며, 이는 IPO 과정에서 투자자에게 공개된 자료에서 나온 것으로, 실적에는 단위가 명시되어 있지 않지만, 문맥상 메가와트의 연간 수익으로 보인다.

03 임대할 수 있더라도, 클라우드 공급업체가 반드시 제공할 수 있는 것은 아님

컴퓨팅 파워를 임대하는 것은 첫 번째 단계일 뿐이며, 클러스터의 유용성이 실제 가치를 결정한다. SemiAnalysis는 ClusterMAX라는 평가를 수행하였으며, 323개의 클라우드 공급업체를 추적하고 그 중 77개를 평가하여 19개에 메달(확인)을 수여하였다.

파텔의 관점에서, 가장 좋은 것은 CoreWeave와 Nebius이지만, 두 회사의 가용성은 매우 낮다:

"그들은 앞으로 6개월 동안 더 이상 컴퓨팅 파워를 판매하지 않을 것이며, 이미 매진되었다. Nebius는 당신에게 1년 전액 선불을 요구하거나, 6개월을 요구하며, 가격이 터무니없이 비싸지만, 그들로부터 컴퓨팅 파워를 얻는 유일한 방법이다."

오라클과 구글도 매우 좋다고 평가되었으며, 구글은 첫 라운드에서 동메달에서 금메달로 승급하였다. 하향 조정된 경우가 더 많다: 평가 기준이 강화됨에 따라, Azure는 은메달로 하락하였고, Together와 AWS는 동메달로 하락하였으며, Crusoe도 하향 조정되었다. AWS의 문제는 경험에 관한 것이다:

"클러스터를 얻으려면 대략 10명과 소통해야 하며, 시간이 매우 오래 걸리고, 네트워크도 다루기 어렵다."

평가에서 가장 눈에 띄는 것은 보안이다. SemiAnalysis는 AI 모델을 사용하여 이러한 클라우드를 공격하도록 하였다:

"일부 취약점은 인터넷에서 이미 공개된 것이며, 모델이 이를 직접 찾아내어 이용한 후, 다른 고객의 저장소에 접근할 수 있다."

그들은 한 번, "OpenAI와 Anthropic보다 뒤처진" 오픈 소스 모델을 사용하여 전체 클러스터의 Slurm(일반적으로 사용되는 클러스터 스케줄링 시스템) 권한을 얻었고, 특정 국가의 방위 산업 및 국가 안전 정보 기관의 작업 이름을 보았다. 그들은 즉시 테스트를 중단하고 "대부분의 Neocloud는 보안이 매우 형편없다"는 보고서를 발표하였다. 또 다른 테스트는 GPU에 결함을 주입하는 것이었으며(그가 언급한 엔비디아 오류 코드 XID 719), 클라우드 공급업체가 얼마나 빨리 이를 발견하는지를 관찰하였다. 결과는 다음과 같다:

"많은 클라우드는 당신이 알려주기 전까지는 발견하지 못하며, 어떤 경우에는 당신이 알려주더라도 며칠이 걸린다."

그는 이를 최소한의 테스트라고 부르며, GPU는 반드시 문제가 발생할 것이므로, 클라우드 공급업체는 스스로 모니터링하여 이를 발견하고 수정해야 한다고 말했다.

04 금리가 상승하고, 새로운 플레이어는 자금을 빌릴 수 없으며, 엔비디아의 지원도 단지 작은 부분일 뿐

공급을 늘리기 위해서는 자본이 필요하며, 자본의 가격이 상승하고 있다. 파텔은 2029년 말까지 전 세계 AI 자본 지출이 약 11조 달러에 이를 것이며, 그 중 약 7조 달러가 부채에서 나온다고 재확인하였다. 대부분의 자금은 칩에 사용되며, 나머지는 데이터 센터, 에너지, 그리고 더 빠른 생산을 위해 현장에서 자체적으로 건설하는 발전소에 사용된다.

이러한 금리 환경에서 대출 흐름은 뚜렷한 편향을 보이고 있다. 10년 만기 미국 채권 수익률은 올해 3.96%에서 10월 초 5.31%로 상승하였고, AI 관련 부채 발행은 9월에 뚜렷하게 둔화되었다. 파텔은 100 메가와트 규모의 Neocloud가 1 기가와트로 확장하려는 상황을 설명하였다:

"누가 그들에게 돈을 빌려줄 것인가? 유일한 방법은 그 1 기가와트를 초대형 클라우드 공급업체에 판매한 다음, 초대형 클라우드 공급업체가 채권 시장에서 자금을 조달하는 것이다. 당신은 대출을 받지만, 이러한 컴퓨팅 파워는 전체 산업 시장에 들어갈 수 없다."

결과적으로, 내년에 이미 계약된 컴퓨팅 파워의 "약 65%에서 70%"가 초대형 클라우드 공급업체와 AI 연구소로 흐를 것이다. 신생 기업에게는 클러스터를 임대하기 위해 절반을 선불로 지불해야 하며, 3개월에서 9개월 후에야 제공된다:

"최근에 큰 자금을 조달한 새로운 연구소를 찾아보라. 그들에게 컴퓨팅 파워를 얻는 것은 지옥이다."

엔비디아의 방식은 클러스터에 대한 지원을 제공하는 것이며, 파텔은 이를 세 가지 유형으로 요약하였다:

소프트뱅크 에너지: 토지, 전력 및 공장만 보증한다. 이는 오하이오주에 있는 9 기가와트 시설로, 약 2030년에 가동될 예정이며, 전부 OpenAI에 예약되어 있다.

Firmus: 엔비디아는 특정 가격에 클러스터를 임대하겠다고 약속하며, 상대방이 "이익을 보지 않지만 손해도 보지 않게" 한다. 그러나 이 보증이 있으면 다른 사람들이 대출을 기꺼이 해준다. 해당 가격을 초과하는 매 시간마다 1달러당 엔비디아가 절반을 가져간다. 파텔은 "매우 영리하다, 나는 좋아한다"고 말했다.

잔존 가치 보증: 그는 이러한 유형이 있다고만 언급하고, 자세한 설명은 하지 않았다.

규모 면에서, 엔비디아는 약 6.5기가와트를 지원하고 있으며, 이 부분은 실험실과 초대형 클라우드 공급업체에만 공급되는 것이 아니라 개방 시장에 판매될 것입니다. 그가 제시한 상한선은 45기가와트로, "그렇다고 해도 2030년 이전에 추가되는 계산 능력의 아주 작은 부분에 불과하다"고 말했습니다. 그는 Fireworks, Modal 등 추론을 하는 회사들과 많은 새로운 실험실들이 자가 클러스터를 구축하고, 대출을 받고, 엔비디아의 보증을 찾고 있다고 생각합니다.

연설의 마지막에 그는 토큰의 규모에 대한 판단을 제시했습니다: 몇몇 공급업체가 합쳐서 매일 100조 개 이상의 토큰을 처리하고 있으며, 각 회사의 연간 수익은 상승하고 있습니다. 그의 결론은:

"그들이 계산 능력을 확보할 수 있기를 바라며, 그렇지 않으면 우리는 모두 Anthropic과 OpenAI의 노예가 될 것입니다."

이 글은 개인 투자 조언을 구성하지 않으며, 플랫폼의 견해를 대표하지 않습니다. 시장에는 위험이 있으며, 투자는 신중해야 하며, 독립적으로 판단하고 결정해야 합니다.