에반 콘래드: 대부분의 AI 스타트업은 컴퓨팅 파워를 구매할 수 없다

Evan Conrad는 10월 22일에 "스타트업의 끝"이라는 제목의 기사를 발표했으며, 부제목은 "다가오는 신용 위기"입니다. Evan Conrad는 향후 6개월 내에 대부분의 AI 스타트업이 컴퓨팅 파워를 구매할 수 없을 것이라고 언급하며, 전 세계의 컴퓨팅 파워가 매진되었고, 생산 능력을 얻기 위해서는 새로운 클러스터와 계약을 체결해야 하며, 투자 등급 주체가 점점 더 온라인 생산 능력을 확보하기 어려워지고 있다고 말했습니다.

Evan Conrad는 스타트업이 투자 등급이 아니기 때문에 점점 더 많은 선불금을 지불해야 한다고 주장하며, 그는 계약 금액의 100%를 선불로 지불해야 하는 경우를 보았다고 말했습니다. 그 이유는 대출자와 클라우드 공급자가 추가 신용 위험을 감수하고 싶어하지 않기 때문입니다. 그는 투자 등급 임차인이 드물고, 레버리지를 증가시키고 비투자 등급 토큰 구매자에게 재판매하여 등급이 하락한다고 언급하며 이를 신용 병목 현상이라고 부릅니다. 그는 투자 등급 GPU 구매자가 점점 더 토큰 구매자 자체가 투자 등급이거나 대규모 보증금을 선불로 지불할 것을 요구할 것이라고 예상합니다.

문중에서는 예를 들어, 글을 쓸 때 시간당 6달러에 B300을 구매하고, 약 시간당 30달러에 추론을 판매할 수 있다고 언급했습니다. 그는 GPU 가격 상승과 추론 레이어의 마진 감소를 예상하며, 신용이 낮은 고객이 토큰을 얻기 더 어려워질 것이라고 말했습니다. 그는 대출자가 GPU 클러스터를 담보로 간주하도록 제안하며, 컴퓨팅 파워의 실물 인도 선물 시장인 SF Compute가 대출자가 유동성 장부상의 GPU 시간을 담보로 사용할 수 있게 해주며, 단일 서비스 제공자의 클러스터에 의존하지 않도록 할 수 있다고 주장했습니다.