메타 전 수석 경제학자: AI의 진정한 방어선은 모델 자체에 있지 않으며, Anthropic이 독주하지 않을 것이다
저자: 크리스천 카탈리니, MIT 암호경제학 연구소 창립자, 리브라 공동 창립자, 라이트스파크 공동 창립자 겸 전 최고 전략 책임자, 메타 전 최고 경제학자
편집: 구위, ChainCatcher
한 번 또 한 번, 일반 기술은 경제 분야에서 동일한 세 가지 마술을 선보이고 있습니다: 허상을 실체로 바꾸는 것(the pledge), 속임수를 쓰는 것(the turn), 썩은 것을 신비롭게 만드는 것(the prestige). 증기와 전력에서 내연기관과 철도에 이르기까지, 그 진화 양식은 놀라울 정도로 유사합니다.
모든 것은 초기의 혁신적인 능력의 발현에서 시작됩니다. 사람들은 열광하고, 과대 광고가 뒤따르며, 모든 사람은 초기 응용 프로그램에서 이 기술과 그 선구자가 주도하는 미래를 추론하려고 합니다. 이어서 탐욕은 막대한 자본이 시장을 정복하기 위해 인프라와 생산 능력으로 쏟아지게 만듭니다. 승자는 너무 일찍 발표되고, 불가피한 존재로 찬양받습니다.
초기 모멘텀의 동풍을 타고, 지휘하는 기업가는 오만해지고, 투자자는 가정과 기본을 더 이상 검토하지 않습니다: "이번에는 다릅니다."
하지만 보통은 전환점이 찾아오고, 붕괴, 대세 변화 또는 생산성 향상의 지연이 평가와 기대를 현실로 되돌립니다. 축제가 끝난 후, 많은 심신이 상처받은 투자자들은 그 기술에서 완전히 철수하게 됩니다.
관광객이 흩어지면, 진정한 "썩은 것을 신비롭게 만드는" 것이 준비됩니다: 초기 승자를 파산으로 몰아넣은 비합리적인 확장이 바로 구조 전환이 최종적으로 이루어지기 위해 필요한 풍부한 인프라를 남깁니다. 이 기술은 모든 약속을 이행하지만, 대부분의 가치는 조용히 소유하거나 규모화된 실제에 필요한 희소한 보완 자산을 구축한 조직으로 흘러갑니다.
선구자의 불가피한 오만
인공지능은 "허상을 실체로 바꾸는" 것과 "속임수를 쓰는" 것 사이의 단계에 있습니다. 과도한 자신감은 역사적 정점에 도달했습니다. 실험실에서의 발언은 대체로 다음과 같습니다: 우리의 모델은 의식을 가질 수 있습니다; 오직 우리의 실험실만이 이렇게 강력한 기술을 통제할 수 있습니다; 우리를 규제해 주세요, 그렇지 않으면 끔찍한 일이 발생할 것입니다; 우리는 언젠가 세상에서 유일한 민간 기업이 될 수 있습니다. 개빈 베이커는 All-In 프로그램에서 마지막 발언을 다리오 아모데이에 귀속시켰습니다. 앤트로픽 연구원 숄토 더글라스는 이를 단호히 부인했지만, 아모데이는 그의 응답에서 직접적으로 언급하지 않았습니다.
아모데이가 앤트로픽이 궁극적으로 대부분의 경제 시스템을 통제할 수 있다고 진정으로 믿었는지 여부와 관계없이, 그의 오만은 그 이전에 일반 기술을 깊이 형성한 기업가들의 그림자를 비추고 있습니다. 그들 중 많은 이들은 새로운 기술의 초기 형태에 대한 통제를 발전 궤적을 형성하고 그가 창출한 가치를 포착할 수 있는 능력으로 혼동했습니다.

증기 기관을 예로 들어보겠습니다. 볼턴 & 와트는 특허 독점으로 수십 년 동안 그들의 설계를 엄격히 통제했습니다. 그러나 막대한 가치는 하류로 흘러갔습니다. 면화 생산에서 실의 가격이 크게 하락하였고, 1830년까지 면제품은 영국 국내 수출의 약 절반을 차지했습니다. 전력은 너무 성공적이어서 규제된 공공 서비스로 변모하였고, 차별화가 없으며 킬로와트시로 측정됩니다. 공장은 상승 공간을 포착했고, 미국 공장 동력에서 전동기의 비율은 1899년의 5% 미만에서 30년 내에 거의 80%로 급증했습니다. 거의 같은 시기에 제조업 노동 생산성의 연간 성장률은 1.5%에서 5.1%로 상승했습니다.
내연기관은 어떨까요? 상황은 유사합니다. 미국에는 700개 이상의 회사가 자동차 제조 경쟁에 참여했지만, 1941년까지 이 산업은 세 거대 기업과 소수의 독립 제조업체로 축소되었습니다. 가치는 그 보완품으로 이동했습니다: 휘발유는 거의 가치가 없는 부산물에서 1931년 미국 정유소에서 원유를 가공하는 비율의 44%로 상승했고, 도시를 가로지르는 추가 고속도로는 해당 도시의 인구를 18% 감소시켜 교외에 혜택을 주었습니다.
철도는 어떨까요? 이러한 유사성은 거의 완벽합니다. 1876년, 톰 스콧은 당시 미국에서 가장 강력한 회사 중 하나이자 세계 최대의 화물 운송업체인 펜실베이니아 철도 회사를 지휘하고 있었습니다. 언론은 그를 나폴레옹에 비유했으며, 그의 행동은 철도를 소유하는 것이 곧 시장 전체를 소유하는 것과 같았습니다. 그러나 스탠다드 오일은 펜실베이니아 철도의 대부분의 석유 운송량을 차지하고 있었습니다.

모순은 펜실베이니아 철도의 관련 운송업체인 엠파이어 트랜스포테이션이 정유 사업에 진출하면서 시작되었습니다. 록펠러는 엠파이어에게 새로운 사업에서 철수할 것을 요구했지만, 스콧은 이를 거부하여 록펠러가 화물 운송을 경쟁업체의 철도로 전환하도록 강요했습니다. 펜실베이니아 철도는 이후 파괴적인 가격 전쟁으로 응답하며 다른 화주들이 자사의 노선을 사용하도록 유도했습니다. 스콧의 한 부하가 말했듯이: "우리는 그들에게 큰 리베이트를 지급했습니다. ... 어떤 경우에는 우리가 지급한 리베이트가 전체 운임을 초과하기도 했습니다." 이후 1877년의 철도 대파업은 펜실베이니아 철도의 금고를 고갈시켰고, 엠파이어의 자산은 스탠다드 오일에 매각되었습니다. 몇 달 후, 스탠다드 오일은 펜실베이니아 철도에서 배럴당 20센트를 추출했으며, 심지어 해당 철도가 스탠다드 오일의 경쟁자를 위해 운송한 원유까지 포함되었습니다.
하지만 펜실베이니아 철도의 이야기는 예외가 아닙니다. 수년간의 과잉 건설, 금융 레버리지 및 가격 전쟁 끝에 1893년의 공황은 100개 이상의 철도회사를 파산으로 몰아넣었습니다. 그러나 철도는 남아 있었고, 네트워크는 번창했습니다: 1890년 철도의 연간 민간 수익률은 3.5%에 불과했지만, 사회적 수익률은 48%에 달했습니다. 철도가 없었다면 미국 농업 토지의 가치는 60% 감소했을 것입니다.
투자자는 건설을 지원했지만, 가치는 토지 소유자, 제조업체, 화주, 물론 소비자에게 흘러갔습니다. 시어스는 그 시대의 "응용" 층의 훌륭한 사례입니다: 리처드 시어스의 경력은 기차역 대리인으로 시작되었고, 우편 주문 카탈로그와 철도를 통해 거대한 소매 제국을 세웠습니다. 1906년까지 그의 300만 평방 피트 규모의 시카고 배급 센터는 도시를 나가는 모든 주요 간선 철도와 연결되었습니다. 시어스의 매출은 1895년 75만 달러에서 1907년 5000만 달러로 급증했습니다.

보완 자산의 가치
따라서 인공지능 실험실이 철도 회사라면, 누가 스탠다드 오일 역할을 하고, 누가 시어스 역할을 하고 있을까요? 스탠다드 오일은 고가치 수요를 통제하는 모든 기업입니다: 독점 데이터의 혜택을 받으며 다른 곳으로 라우팅할 수 있는 실제 기준(ground truth)의 인공지능 작업 부하입니다. 시어스는 응용 층을 대표합니다: 스마트가 상품화됨에 따라, 고객 관계, 유통 채널 및 자동화된 노동력이 점점 더 가치 있는 참여자가 됩니다. NVIDIA는 현재 이 두 범주의 희소한 상류 공급업체입니다.
최근 폐쇄 모델과 오픈 소스 인공지능 모델 경제학에 대한 심층 분석에서, 저는 인공지능 모델이 보호하기 어렵고 배우기 쉬워서 이 분야가 약한 전용성 메커니즘(weak appropriability regime)을 보인다고 생각합니다. 지금까지 주요 우려는 오픈 소스 가중치가 미래의 인공지능 투자에 악영향을 미칠 것이라는 것이었지만, 현실은 그것들이 투자 방향에만 영향을 미친다는 것입니다: 무엇을 생산할지, 누가 생산할지, 그리고 누가 수익을 차지할지를 결정합니다.
전용성이 약할 때, 가치는 발명에 가장 큰 기여를 한 쪽으로 흐르지 않습니다. 그것은 대규모 배치 병목을 구성하는 단계로 흐릅니다. 인공지능의 명백한 희소 보완품은 컴퓨팅 인프라와 칩입니다. 아모데이는 오픈 소스 가중치 모델이 실험실을 희생하여 지배적인 위치를 차지할 경우, 이 두 가지가 자연스럽게 집중화의 원천이 될 것이라고 지적했습니다. 그러나 이러한 자산에 대한 통제는 고정적이지 않습니다: 실험실, 초대형 클라우드 서비스 제공업체, 칩 제조업체, 심지어 주권 국가들이 대체 공급원을 확보하기 위해 상류로 진출하고 있습니다.
단기적으로, 공급이 급증하는 추론 수요에 심각하게 뒤처지면서, 희소성은 집중화를 악화시킬 수 있으며, 육지나 우주에서 필요한 투입을 제공할 수 있는 실체에 보상을 줄 수 있습니다. 그러나 장기적으로는 동일한 강력한 수요 신호가 투자와 혁신을 유도하여 오늘날의 시장 리더를 전복시킬 것입니다.
아모데이가 교묘히 피하는 것은 하드웨어와 인프라가 소프트웨어와 동일한 극단적인 승자 독식 메커니즘을 따르지 않는다는 것입니다. 그것들은 집중될 수 있지만, 그 병목은 물리적이고 명백하며 투자 가능한 것입니다: 새로운 생산 능력 구축에는 시간이 필요하더라도, 높은 가격은 전 세계의 새로운 생산 능력을 유치할 것입니다.
추론 측면에서, 실험실이 충분한 선도 우위를 유지할 수 있다면, 최첨단(SOTA) 능력을 수익화하는 데 어려움을 겪지 않을 것입니다. 그러나 그 외에는 고객을 잠그기 위해 더 전통적인 소프트웨어 번들을 통해 하거나, 신속하게 자신의 보완 자산을 확보해야 합니다. 이는 그들이 칩에 관심을 가지는 이유와 사이버 보안 분야로 진출하는 조치를 설명합니다. 사이버 보안 분야에서는 미세한 우위가 고객의 지불 의사에 큰 차이를 만들어낼 수 있습니다. 생물학 및 의학 분야에서도 마찬가지로, 특허는 미세한 선도 우위를 합법적인 배타적 권리로 전환할 수 있습니다.
그러나 지능 수요 곡선이 가장 가파른 분야는 민간 세력에 한계를 설정합니다. 이러한 분야에서 한계 구매자는 국가이며, 정부는 조달, 강제 진입 또는 국유화를 통해 일반 시장을 우회할 수 있습니다. 아이러니하게도, 최전선 실험실이 자유를 유지하려면 성공해야 하지만, 너무 성공해서는 안 됩니다.
오픈 소스 가중치의 실행 가능성은 수익 동기를 약화시키지 않았습니다; 오히려 여러 다른 방향에서 이 과정을 가속화했습니다. 어제의 최전선 분야가 상품화됨에 따라, 이전에는 경제적으로 실행 가능하지 않았던 인공지능 응용 프로그램이 갑자기 실행 가능해졌고, 이는 칩 제조업체, 기업, 응용 프로그램 회사 및 정부에 더 많은 이유를 제공하여 더 분산된 지능 "공공재"를 자금 지원하고 개선하도록 합니다.
하지만 한 걸음 물러서서 보완 자산의 규칙을 진지하게 살펴보면, 실험실이 합리적 사용 원칙에 따라 저비용으로 대량의 공공 데이터를 수집할 수 있지만, 미래의 전문적이고 현재 검증할 수 없는 분야에서의 수익은 점점 더 독점적인 흔적, 암묵적 지식, 기록 시스템 및 독특한 실제 기준과 전문가 결정 출처에 의존하게 될 것임을 즉시 깨닫게 됩니다.
실험실의 컴퓨터 작업, 기억 및 통신 도구가 아무리 강력해져도, 기업들은 이러한 정보를 제공하는 것에 대해 점점 더 경계하게 됩니다. 귀중한 산업 지식을 보유한 기업들이 "생산 가중치"를 소유하고 통제하는 방향으로 전환함에 따라, 많은 산업의 시장 리더들은 오픈 소스 가중치 모델과 자체 생성한 독점 정보를 결합하여 그들에게 중요한 작업에서 더 낮은 비용으로 최전선 모델의 성능에 도달하거나 초과할 수 있게 될 것입니다.
핵심 잔여 해자는 물리적 인프라, 독점 데이터 및 인재, 유통 채널, 그리고 현실 세계와 지속적으로 조화를 이루어 더 정확하고 관련성 높은 실제 기준을 신속하게 생성하는 능력입니다. 지능의 확산과 함께, 방어 장벽을 갖춘 것은 더 이상 구매를 통해 새로운 능력을 잠금 해제할 수 있는 역사적 데이터 세트가 아니라, 귀중한 현실 세계 학습 루프에 대한 실제 통제입니다: 즉, 인공지능을 배치할 수 있을 뿐만 아니라, 자동화 운영이 올바른지 검증하기 위해 필요한 원거리 측정 데이터를 수집하고, 시스템을 신뢰할 수 있을 때까지 개선하여 더 깊은 자동화를 지원할 수 있습니다.

이러한 루프를 통해 생성된 정보를 보유한 기업은 상류 최전선 실험실에 점점 더 적은 비율의 토큰 요청을 보내게 될 뿐만 아니라, 인공지능의 중개화 충격으로부터 자신의 비즈니스를 더 잘 보호할 수 있습니다. 실험실은 이를 인식하고 금융, 의료, 법률, 디자인 및 회계와 같은 워크플로우로 하류로 확장하여 더 많은 비즈니스를 확보하고 있습니다. 그러나 물론, 그들이 확장할수록 일부 고객과의 충돌이 커지게 되어 오픈 소스 가중치를 백업 선택으로 삼고자 하는 추가 수요가 발생하게 됩니다.

이것은 기계 지능에 대한 수요를 대량 상품 토큰과 고부가가치 토큰으로 나누게 될 수 있습니다. 전자는 저렴하고, 킬로와트시처럼 측정되어 사용될 것입니다. 후자는 방어 장벽을 갖춘 프리미엄을 보장하며, 점점 더 독점적인 실제 기준에 의해 주도될 것입니다.
경쟁과 전문화된 지능이 넘치는 세계
대부분의 경제 부문에서 모델이 충분히 좋으면, 추가적인 능력 향상은 더 깊은 기업 워크플로우 통합, 더 낮은 비용 또는 더 큰 통제권만큼 중요하지 않습니다. 따라서 오픈 소스 모델이 지속적으로 최전선 기술을 상품화함에 따라, 이들은 실질적인 수요를 빼앗아 실험실이 여전히 프리미엄을 요구할 수 있는 분야로 더 깊이 들어가도록 강요할 것입니다.
인공지능의 기초 경제학이나 일반 기술의 역사 모두 사회를 중앙 집중화가 아닌 더 균형 잡힌 결과로 이끌고 있습니다. 이 추세를 완전히 뒤집거나 지연시킬 수 있는 유일한 힘은 Amodei가 강력히 촉구하는 그런 규제입니다. 만약 규제 기관이 매우 높은 규정 준수 기준을 설정한다면, 그들은 막대한 법률, 정책 및 안전 지출을 감당할 수 있는 규모를 가진 실험실을 편들게 될 것입니다. 그들은 또한 오픈 소스 모델이 허용되는 능력의 한계를 제한함으로써, 폐쇄형 모델 외부에서 번성하는 오픈 소스 대안에 해를 끼칠 수 있습니다. 이는 규제가 기술 자체가 제공할 수 없는 보완 자산의 결여로 전락하게 만들 것입니다. 물론, 이는 안전 위험이 불성실하거나 중요하지 않다는 것을 의미하지는 않습니다.
보완 자산의 논리가 과거와 같이 성립한다면, 가장 가능성이 높은 결과는 여전히 다양한 경쟁력 있는 지능이 각 시장과 응용 프로그램에서 공존하고 경쟁하는 것입니다. 이러한 다양성은 사회가 더 완벽한 대응 준비를 갖추고, 더 강한 회복력을 가지며, 많은 분야에서 더 안전하게 만들 것입니다. 단일 품종에서 발생할 수 있는 연관성 장애를 키우기보다는, 다양한 지능 생태계를 구축하여 우리가 다가오는 몇 년 동안 불가피한 미지의 위험에 대처할 수 있는 다양한 도구를 제공하는 것이 좋습니다. 사이버 보안 분야에서 오픈 소스 모델을 통한 더 광범위한 확산은 분명히 방어에 유리합니다. 생물학과 같은 다른 분야는 크게 다를 수 있지만, 우리는 아이디어와 실현 사이의 보완 자산(예: 합성기, 생물 재료 및 관련 공급망)에 집중함으로써 이를 더 효과적으로 통제할 수 있을 것입니다.
인공지능은 지능을 저렴하게 만들어 인류가 창조한 가장 일반적인 기술이 될 수 있습니다. 만약 그렇다면, 이는 보완 자산의 소유자에게 지금까지 가장 큰 승리를 안겨줄 가능성이 높습니다. 실험실은 기계 지능 철도가 운영되고 확장될 수 있도록 궤도를 놓았으며, 그들은 상당한 기간 동안 최전선 지능 시장을 장악할 가능성이 높습니다. 어쨌든, 가치는 이전 주기와 마찬가지로 항상 희소한 자원을 쥐고 있는 사람들에게 흘러갈 것입니다.
Anthropic은 세계에서 가장 가치 있는 회사 중 하나가 될 가능성이 높습니다. 그러나 그것이 유일한 회사가 될 가능성은 없습니다.
이 글의 다른 버전은 Forward Future에 게재되었습니다.