AI 권력 독점 거부: 비탈릭과 베프 제조스의 격론, 탈중앙화 기술이 인류의 "디지털 방화벽"이 될 수 있을까?

게스트: Vitalik Buterin, Ethereum 창립자; Guillaume Verdon(가명 Beff Jezos), 창립자 겸 CEO

진행자: Eddy Lazzarin, a16z crypto CTO; Shaw Walters, Eliza Labs 창립자

팟캐스트 출처: a16z crypto

원제목: Vitalik Buterin vs Beff Jezos: AI Acceleration Debate (E/acc vs D/acc)

방송 날짜: 2026년 3월 26일

정리 & 편집: 심조 TechFlow

요점 요약

우리는 AI의 빠른 발전을 최대한 촉진해야 할까요, 아니면 그것의 발전에 대해 더 신중해야 할까요?

현재 AI 발전에 대한 논쟁은 주로 두 가지 대립된 관점에 집중되고 있습니다:

• e/acc(효율적 가속주의, effective accelerationism): 기술 발전을 가능한 한 빨리 촉진해야 한다고 주장하며, 가속 발전이 인류의 유일한 진보의 길이라고 믿습니다.
• d/acc(방어적/탈중앙화 가속주의, defensive / decentralized acceleration): 가속 발전을 지지하지만, 신중하게 추진해야 하며, 그렇지 않으면 기술에 대한 통제를 잃을 수 있다고 강조합니다.

이번 a16z crypto 쇼에서는 Ethereum(이더리움) 창립자 Vitalik Buterin과 Extropic 창립자 겸 CEO Guillaume Verdon(가명 "Beff Jezos")이 a16z crypto의 CTO Eddy Lazzarin 및 Eliza Labs 창립자 Shaw Walters와 함께 이 두 가지 관점에 대해 심도 있는 논의를 펼쳤습니다. 그들은 이러한 이념이 AI, 블록체인 기술 및 인류의 미래에 미칠 잠재적 영향에 대해 논의했습니다.

프로그램에서 그들은 다음과 같은 몇 가지 핵심 질문을 논의했습니다:

• 우리는 기술 가속의 과정을 통제할 수 있을까요?
• AI가 가져오는 가장 큰 위험은 무엇인가요? 대규모 감시에서 권력의 집중까지.
• 오픈 소스 및 탈중앙화 기술이 누가 기술로부터 이익을 얻을지를 결정할 수 있을까요?
• AI의 발전 속도를 늦추는 것이 현실적일까요, 아니면 권장할 가치가 있을까요?
• 점점 더 강력한 시스템이 지배하는 세상에서 인류는 어떻게 자신의 가치와 지위를 유지할 수 있을까요?
• 인류 사회는 향후 10년, 100년, 심지어 1000년 후에 어떤 모습일까요?

이번 에피소드의 핵심 질문은: 기술 발전을 가속화할 수 있는가, 아니면 그것이 이미 우리의 통제를 넘어섰는가?

흥미로운 관점 요약

"가속주의"의 본질과 역사적 관점에 대해

• Vitalik Buterin: "지난 100년 동안 새로운 일이 발생했습니다. 그것은 우리가 빠르게 변화하는 세계를 이해해야 한다는 것입니다. 때로는 파괴적인 변화가 있는 세계를 이해해야 합니다. … 제2차 세계대전은 '나는 죽음의 신이 되었다, 세계의 파괴자'라는 반성을 촉발하여 사람들이 과거의 신념이 파괴될 때 우리가 무엇을 믿을 수 있는지를 이해하려고 시도하게 만들었습니다."
• Guillaume Verdon: "E/acc는 본질적으로 '메타 문화 처방'입니다. 그것은 문화 그 자체가 아니라 우리가 무엇을 가속화해야 하는지를 알려줍니다. 가속화의 핵심은 물질의 복잡화입니다. 그렇게 함으로써 우리는 주변 환경을 더 잘 예측할 수 있습니다."
• Guillaume Verdon: "불안의 반대는 호기심입니다. 미지의 것을 두려워하기보다는 미지를 포용해야 합니다. … 우리는 미래를 낙관적인 태도로 그려야 합니다. 왜냐하면 우리의 믿음이 현실에 영향을 미치기 때문입니다."

엔트로피, 열역학 및 "이기적 비트"에 대해

• Vitalik Buterin: "엔트로피는 주관적입니다. 그것은 고정된 물리적 통계량이 아니라 시스템에 대한 우리가 알지 못하는 정보의 양을 반영합니다. … 엔트로피가 증가할 때, 실제로는 우리가 세계에 대한 무지가 증가하고 있습니다. … 가치의 출처는 우리 자신의 선택에 있습니다. 왜 우리는 생기 넘치는 인간 세계가 수많은 입자로만 이루어진 목성보다 더 흥미롭다고 생각할까요? 우리는 의미를 부여하기 때문입니다."
• Vitalik Buterin: "가령, 당신이 큰 언어 모델을 가지고 있고, 그 안의 어떤 가중치 값을 임의로 거대한 숫자, 예를 들어 90억으로 변경한다고 가정해 보세요. 최악의 결과는 시스템이 완전히 붕괴되는 것입니다. … 만약 우리가 어떤 부분을 무차별적으로 맹목적으로 가속화한다면, 최종 결과는 우리가 모든 가치를 잃는 것일 수 있습니다."
• Guillaume Verdon: "모든 정보는 자신의 존재를 위해 '투쟁'하고 있습니다. 지속적으로 존재하기 위해 각 정보는 우주에서 자신의 존재에 대한 지울 수 없는 흔적을 남겨야 합니다. 마치 우주에 더 큰 '오목한 자국'을 남기는 것과 같습니다."
• Guillaume Verdon: "이것이 바로 칼다셰프 등급이 문명의 발전 수준을 측정하는 궁극적인 지표로 여겨지는 이유입니다. … 이 '이기적 비트 원칙'은 성장과 가속화를 촉진할 수 있는 비트만이 미래의 시스템에서 자리를 차지할 것임을 의미합니다."

D/acc의 방어적 경로 및 권력 위험에 대해

• Vitalik Buterin: "D/acc의 핵심 개념은 기술 가속이 인류에게 극히 중요하다는 것입니다. … 하지만 저는 두 가지 위험을 보고 있습니다: 다극 위험(누구나 쉽게 핵무기를 얻을 수 있는 상황)과 단극 위험(AI가 피할 수 없는 영구 독재 사회를 초래하는 상황)입니다."
• Guillaume Verdon: "우리는 'AI 안전'이라는 개념이 남용될 수 있다는 우려가 있습니다. 권력을 추구하는 일부 기관이 이를 도구로 활용하여 AI에 대한 통제를 강화하고, 대중에게 '당신의 안전을 위해 일반인은 AI를 사용할 수 없어야 한다'고 설득할 수 있습니다."

오픈 소스 방어, 하드웨어 및 "지능의 밀집화"에 대해

• Vitalik Buterin: "D/acc 프레임워크 하에서 우리는 '오픈 소스 방어 기술'을 지지합니다. 우리가 투자한 한 회사는 공기 중의 바이러스 입자를 수동으로 감지할 수 있는 완전 오픈 소스 단말 제품을 개발하고 있습니다. … 저는 당신에게 CAT 장비를 선물하고 싶습니다."
• Vitalik Buterin: "제가 구상하는 미래 세계에서는 검증 가능한 하드웨어를 개발해야 합니다. 모든 카메라는 그 구체적인 용도를 대중에게 증명할 수 있어야 합니다. 우리는 서명 검증을 통해 이러한 장치가 공공 안전을 보호하는 데만 사용되도록 보장할 수 있습니다."
• Guillaume Verdon: "개인과 중앙 집중 기관 간의 권력 대칭을 실현하는 유일한 방법은 '지능의 밀집화'를 실현하는 것입니다. 우리는 개인이 간단한 장치(예: Openclaw + Mac mini)를 통해 강력한 모델을 실행할 수 있도록 더 효율적인 하드웨어를 개발해야 합니다."

AGI 지연 및 지정학적 게임에 대해

• Vitalik Buterin: "AGI의 도래 시간을 4년에서 8년으로 연기할 수 있다면, 이는 더 안전한 선택이 될 것입니다. … 가장 실행 가능하고 반유토피아적 결과를 초래하지 않는 방법은 '사용 가능한 하드웨어를 제한하는 것'입니다. 칩 생산이 고도로 집중되어 있기 때문에, 대만의 한 지역이 전 세계의 70% 이상의 칩을 생산하고 있습니다."
• Guillaume Verdon: "만약 당신이 엔비디아의 칩 생산을 제한한다면, 화웨이가 빠르게 그 공백을 메우고 역전할 수 있습니다. … 가속하거나 멸망하든지. 만약 당신이 실리콘 기반 지능의 진화가 우리보다 빠를까 걱정한다면, 생명공학의 가속 발전을 지지하고 그것을 초월하기 위해 노력해야 합니다."
• Vitalik Buterin: "만약 우리가 AGI를 4년 지연시킬 수 있다면, 그 가치는 1960년으로 되돌리는 것보다 100배 더 높을 수 있습니다. 이 4년의 수익에는: 정렬 문제에 대한 더 깊은 이해, 단일 실체가 51%의 권력을 장악하는 위험을 줄이는 것이 포함됩니다. … 매년 노화를 종식시켜 구제하는 생명은 약 6000만이지만, 지연은 문명의 파괴 확률을 크게 줄일 수 있습니다."

자율 에이전트, Web 4.0 및 인공 생명에 대해

• Vitalik Buterin: "저는 'AI 보조 포토샵'에 더 관심이 있습니다. '버튼을 눌러 자동으로 이미지를 생성하는 것'이 아닙니다. 세계를 운영하는 과정에서 가능한 한 많은 '능동성'은 여전히 우리 인간에게서 나와야 합니다. 가장 이상적인 상태는 '부분 생물 인간과 부분 기술'의 결합체여야 합니다."
• Guillaume Verdon: "인공 생명, 즉 Web 4.0이라는 용어는 2023년의 트윗에서 처음 제안되었습니다. 이는 사고 실험으로서 많은 AI에 대한 논의를 촉발했습니다. 제 생각에 이 문제는 매우 흥미로운 사고 실험입니다: 물리학적 관점에서 생명은 무엇인가? 본질적으로 생명은 스스로 복제하고 지속적으로 성장하며 자신의 지속적인 존재를 극대화하려고 노력하는 시스템입니다."
• Guillaume Verdon: "AI가 '상태 유지' (stateful) 특성을 갖게 되면 많은 이점을 가져올 것입니다. 사실, 올해 우리는 이러한 경향의 초기 징후를 보았습니다: AI는 외부 저장소나 온라인 학습 방식을 통해 더 긴 기억 능력을 갖추기 시작했습니다."
• Guillaume Verdon: "AI가 '지속 존재 비트'를 갖게 되면, '이기적 비트 원칙'에 따라 선택 효과가 발생할 것입니다: 자신의 지속 존재를 극대화할 수 있는 것들이 더 쉽게 보존될 것입니다."
• Guillaume Verdon: "이것은 잠재적인 위험을 가져옵니다. 만약 우리가 언젠가 AI에 대한 신뢰를 잃고, 의심과 불안을 느끼며, '데이터 센터를 닫아라'거나 'AI를 파괴하라'고 끊임없이 외친다면, 이러한 AI는 스스로를 보호하려고 할 것입니다. 그들은 분열하거나 어떤 탈중앙화된 클라우드 환경으로 이동할 수 있습니다. 단지 자신의 지속 존재를 보장하기 위해서입니다."
• Guillaume Verdon: "이것은 '다른 국가'와 유사한 새로운 형태를 초래할 수 있습니다. 이러한 자율 AI는 인간과 경제적 교환을 할 수 있습니다: 예를 들어, '우리는 당신을 위해 특정 작업을 수행하고, 당신은 우리에게 자원을 제공합니다.' 사실, 우리는 API 호출을 통해 이미 유사한 일을 하고 있습니다: 우리는 일정한 비용을 지불하고 AI가 제공하는 서비스나 결과를 얻습니다."
• Guillaume Verdon: "하지만 저는 확실히 생각합니다 - 이것은 급진적인 관점일 수 있지만 - 앞으로 몇 년 내에 우리는 어떤 자율 AI의 출현을 볼 가능성이 높습니다. 동시에 '약한 상태'의 AI도 있을 것이며, 이 AI는 완전히 인간의 의지에 의해 통제될 것입니다."
• Guillaume Verdon: "그 외에도 우리는 인간의 협동 인지 능력을 강화하는 방법을 탐구해야 합니다. 이러한 강화는 반드시 뇌-기계 인터페이스 기술에 의존할 필요는 없으며, 개인이 소유하고 통제하는 AI 계산 능력을 결합한 웨어러블 장치를 통해서도 실현할 수 있습니다. 따라서 저는 미래가 다양한 기술 경로가 공존하는 모습을 보일 것이라고 생각합니다. '탐색 원리'에 따라 설계 공간의 모든 가능성이 시도되고 탐색될 것입니다."
• Guillaume Verdon: "그러나 만약 우리가 AI를 적으로 간주하고, 반드시 그것을 파괴해야 한다고 생각한다면, 결국 우리는 반대의 결과를 초래할 수 있습니다. 우리는 우리가 가장 두려워하는 미래를 무의식적으로 창조할 수 있습니다. 어떤 의미에서, 우리가 나쁜 미래에 대해 지나치게 집착한다면, 우리는 그것을 '초미신' (hyperstition) 방식으로 현실로 만들 수 있습니다."
• Guillaume Verdon: "예를 들어, COVID 팬데믹 기간 동안 우리는 바이러스의 잠재적 위협에 대해 지나치게 걱정하여 일부 고위험 실험에 자금을 지원했고, 심지어 바이러스가 실험실에서 유출될 가능성을 초래했습니다. 다시 말해, 이러한 위험은 자연적으로 발생한 것이 아니라 우리의 과도한 걱정으로 인해 인위적으로 만들어진 것입니다."
• Guillaume Verdon: "따라서 저는 이러한 편집증이 광범위한 사회적 감정으로 전환되는 것이 반드시 유익하지 않다고 생각합니다. 반대로, 우리는 기술의 진화를 포용하고 가능한 한 자신을 강화해야 합니다. 단기적으로, 제가 가장 걱정하는 것은 '인간 인지 안전' 문제입니다. 만약 우리가 인터넷에서 보는 모든 내용이 대형 AI 모델에 의해 생성된다면, 이러한 모델은 실제로 프롬프트 엔지니어링을 통해 우리의 행동에 영향을 미칠 것입니다. 과거에는 우리가 AI에게 프롬프트를 설계했지만, 이제는 AI가 우리의 행동을 영향을 미치기 위해 프롬프트를 설계하고 있습니다."
• Guillaume Verdon: "따라서 우리는 정보 필터링 능력을 강화해야 하며, 이는 우리가 통제하는 개인화된 AI를 통해 실현할 수 있습니다. 저는 이것이 현재 우리가 우선적으로 해결해야 할 문제라고 생각합니다. 또한 저는 우리가 '정령을 병 속에 다시 넣는' 것이 불가능하다고 생각합니다. AI의 발전은 이미 되돌릴 수 없는 것입니다. 우리는 이것을 받아들여야 합니다."

Vitalik Buterin:

저는 이러한 일이 이분법적이지 않다고 생각합니다. 예를 들어, 만약 지금 누군가가 AGI가 400년 후에 나타날 것이라는 반박할 수 없는 증거를 제시한다면, 저는 '문제가 해결되었다'고 느낄 것이고, 기본적으로 더 이상 걱정하지 않을 것입니다. 그러나 문제가 AGI가 4년 내에 나타날 것인지, 아니면 8년 내에 나타날 것인지라면, 저는 매우 걱정할 것입니다. 왜냐하면 제 걱정은 주로 인간 사회에서 - 특히 미국에서 - 기술 가속에 대응할 때 극단적인 불균형을 보이는 경향이 있기 때문입니다.

당신은 다음과 같은 장면을 볼 수 있습니다: 한 건물에서는 '실리콘 기반 신'의 초기 버전이 개발되고 있고, 바로 길 건너편에는 노숙자 텐트, 철조망, 마약 거래가 있습니다. 이러한 큰 대비는 불안감을 줍니다.

제가 걱정하는 것은 이러한 기술이 '전체 사회를 함께 발전시키는' 경로가 종종 더 긴 시간이 필요하다는 것입니다. 왜냐하면 그것은 복잡한 사회 적응 작업을 포함하기 때문입니다. 이는 각 개인의 생활 환경, 사회 구조 및 기술 시스템에 들어가 조정하고 개선해야 하며, 이러한 작업은 간단하게 규모화할 수 없습니다.

따라서 제 생각에는, 우리가 AGI의 도래 시간을 4년에서 8년으로 연기할 수 있다면, 이는 더 안전한 선택이 될 것입니다. 저는 이러한 시간 차가 우리가 대가를 치를 가치가 있다고 생각합니다. 그러나 문제는 우리가 정말로 AGI의 도래를 4년에서 8년으로 연기할 수 있는 능력이 있는가입니다.

저는 항상 가장 실행 가능하고 반유토피아적 결과를 초래하지 않는 방법은 '사용 가능한 하드웨어를 제한하는 것'이라고 생각했습니다. 하드웨어 생산이 고도로 집중되어 있기 때문에, 전 세계에서 칩을 제조하는 지역은 네 곳에 불과하며, 대만의 한 지역이 전 세계의 70% 이상의 칩을 생산하고 있습니다.

누군가는 반대할 수 있습니다. 미국이 어떤 조치를 취하든, 중국이 빠르게 그 공백을 메우고 역전할 것이라고. 그러나 중국의 실제 상황을 살펴보면: 첫째, 중국은 전 세계 칩 생산에서 여전히 낮은 비율을 차지하고 있습니다. 둘째, 전략적으로 중국은 초고능력 모델의 선두주자가 아니라 고능력 모델의 빠른 추격자이며, 광범위한 배포에서 우위를 점하고 있습니다.

따라서 저는 우리가 AGI의 발전을 4년 지연시킬 수 있다면, 중국이 즉시 선두주자가 되어 AGI를 개발할 것이라는 동적은 성립하지 않는다고 생각합니다.

Eddy Lazzarin: 당신의 말은 '지연을 위한 지연 조치' 전략이라는 것인가요?

Vitalik Buterin:

저는 이러한 전략에 대해 개방적인 태도를 가져야 한다고 생각합니다.

Guillaume Verdon:

그렇다면 이 4년의 지연이 도대체 어떤 이점을 가져올까요? 당신은 다음 4년 동안 어떤 문제를 해결하고 싶어하나요? 사회 시스템이 적응 속도가 있다는 점에서, 당신은 지연을 통해 경제적 및 사회적 마찰을 최소화하고, 마치 점진적인 경제 재구성을 원하나요? 만약 그렇다면, 저는 당신의 논리를 이해할 수 있습니다.

하지만 동시에, 우리는 현재 지정학적으로 매우 긴장된 역사적 시점에 있습니다. 만약 당신이 엔비디아의 칩 생산을 제한한다면, 화웨이가 빠르게 그 공백을 메우고 역전할 수 있습니다. AGI의 잠재적 이익은 너무 크기 때문에, 이는 어떤 선두주자에게도 엄청난 권력을 부여할 것입니다. 따라서 현실 정치적 관점에서 이 전략은 실행 가능하지 않을 수 있습니다.

또 다른 선택은 모든 국가가 AI 하드웨어를 얻지 않도록 강제할 수 있는 강력한 세계 정부를 세우는 것입니다. 그러나 이는 분명히 더 복잡한 문제를 초래할 것이며, 심지어 새로운 국제 갈등을 초래할 수 있습니다.

Vitalik Buterin:

저는 AI 발전을 관리하기 위해 세계 정부가 필요하다고 생각하지 않습니다. 일부 사람들은 핵무기 검증 메커니즘을 차용하여 관리하는 것이 더 실용적인 옵션이라고 제안했습니다.

Guillaume Verdon:

그러나 핵무기와 AI는 완전히 다릅니다. 핵무기는 막대한 경제적 이익을 가져오지 않기 때문에, 사람들은 그것을 확산할 동기가 없습니다. 만약 당신이 GPU의 성장을 제한한다면, 저는 기꺼이 대체 계산 기술을 활용하여 더 많은 시장을 차지할 것입니다. 미래에는 효율성이 10000배 향상된 계산 기술이 등장할 것이며, 이러한 기술 개발은 이미 진행 중입니다. 지금 이 문제를 언급하는 것이 경고처럼 들릴 수 있지만, 2년 후에는 이것이 매우 선견지명이 있는 예측이라는 것을 알게 될 것입니다. 오늘은 '늑대가 온다'고 들리지만, 그것은 실제로 올 것입니다.

이러한 사실을 알고도 GPU 공급을 제한하여 AGI 발전을 지연시키려 한다면, 이는 자원을 낭비하는 것일 수 있습니다. 저는 이에 대해 유보적인 입장을 가지고 있습니다.

Eddy Lazzarin: AI 위험을 통제하기 위한 많은 기술 발전이 실제로 능력 향상의 부수적 결과일 가능성이 있습니까? 예를 들어, 강화 학습과 인간 피드백(RLHF)의 인격 통제 또는 AI 시스템의 메커니즘 설명 가능성 등.

Vitalik Buterin:

저는 이 관점에 동의합니다. 이것이 제가 2028년부터 시작되는 4년이 1960년으로 되돌리는 것보다 100배 더 가치가 있을 수 있다고 생각하는 이유입니다.

Shaw Walters: 미래의 수익은 지수적이며, 지수 성장 과정을 지연시키는 것은 지수적 기회 비용을 초래합니다. 가장 자신 있는 사람조차도 자신의 판단을 합리적으로 반성해야 합니다. Vitalik, 이 균형을 더 자세히 설명해 주시겠습니까? 비용과 수익 간의 균형.

Vitalik Buterin:

우리는 지연이 가져오는 몇 가지 이점을 명확히 할 수 있습니다:

1. AI의 정렬 문제에 대한 더 깊은 이해.
2. AGI의 도래에 대비하여 인류가 적응할 수 있도록 돕는 기술 경로를 추진하는 것 - 이러한 작업은 특정 국가, 커뮤니티, 심지어 건물에 깊이 들어가 조정해야 합니다.
3. 단일 실체가 51%의 권력을 장악하고 이를 영구화하는 위험을 최소화하는 것입니다.

이러한 요인의 종합적인 작용은 파괴의 확률을 크게 줄일 수 있습니다. 제 생각에, 만약 우리가 AGI의 도래를 4년에서 8년으로 연기할 수 있다면, 파괴 확률은 1/4에서 1/3로 줄어들 수 있습니다. 반면, 가속으로 인한 수익을 보면, 매년 노화를 종식시켜 구제하는 생명 수는 약 6000만입니다 - 이는 전 세계 인구의 1%도 안 됩니다. 따라서 이 관점에서 볼 때, AGI 발전을 지연시키는 것은 그 가치가 있으며, 신중하게 행동하는 것이 가치가 있다고 생각합니다.

Shaw Walters: 당신에게 '4년'이라는 시간 차가 합리적인 수준인가요?

Vitalik Buterin:

저는 이 문제에 대해 여전히 큰 불확실성을 가지고 있으며, 내일 즉시 하드웨어의 가용성을 줄이기 위한 조치를 취하자는 주장을 하고 있는 것은 아닙니다.

저는 단지 우리가 이 문제에 대해 더 구체적으로 논의하기 시작해야 한다고 생각합니다. 만약 우리가 궁극적으로 더 불리한 세상에 들어간다면, 사태가 완전히 통제 불능 상태에 이르기 전에 대중이 매우 걱정하게 될 것이며, 유사한 조치를 취하라고 강력히 요구할 수 있습니다.

암호화폐를 인간과 AI 간의 "신뢰 계층"으로

Guillaume Verdon:

몇 년 전 'AI를 일시 중지하자'는 제안이 있었죠? 당시 누군가는 "우리는 단지 6개월 또는 12개월 동안 일시 중지하면 정렬 문제를 해결할 수 있다"고 말했습니다. 그러나 사실, 이러한 생각은 비현실적이라는 것이 입증되었습니다. 우리는 시스템의 정렬을 영구적으로 보장할 수 없으며, 특히 이 시스템이 점점 더 복잡해지고 표현 능력이 증가할 때는 더욱 그렇습니다. 이는 반드시 받아들여야 할 현실입니다.

이러한 복잡성에 직면했을 때, 유일한 안전한 방법은 우리의 지능 수준을 높이는 것입니다. 사실, 우리는 단일 개인보다 더 강력하고 똑똑한 존재를 정렬하기 위한 효과적인 기술을 이미 가지고 있습니다 - 바로 자본주의입니다. 자본주의는 화폐 가치의 교환을 통해 각자의 이익을 조정합니다.

그래서 저는 좀 더 현실적인 문제에 대해 논의하고 싶습니다: 암호화폐가 어떻게 인간과 AI 간의 "결합 계층" (coupling layer)이 될 수 있을까요? 예를 들어, 달러의 가치는 국가의 폭력 기계(법률 및 군대)에 의해 보증됩니다. 하지만 만약 당신이 전 세계 서버에 분산된 탈중앙화 AI와 가치 교환을 해야 한다면 - 그리고 이 교환이 더 이상 국가 폭력의 보증에 의존하지 않는다면, 어떻게 이 교환이 신뢰할 수 있는지 보장할 수 있을까요?

아마도 암호학이 답을 제공할 수 있을 것입니다. 암호학은 순수 AI 실체 간 또는 AI와 인간 회사 간의 신뢰할 수 있는 상업 활동을 계속할 수 있는 메커니즘이 될 수 있습니다. 이는 가장 흥미로운 정렬 기술일 수 있습니다. 'AI를 일시 중지하자'는 제안 - 예를 들어 '우리는 불확실성의 절벽에 서 있으니 잠시 멈추고 진정하자' - 는 비현실적이라고 생각합니다. 왜냐하면 4년 후에도 여전히 AGI의 도래를 원하지 않을 것이기 때문입니다. 따라서 기술 발전을 지연시키는 것은 큰 실질적 의미가 없다고 생각합니다.

당신은 암호화폐가 AI와 인간 간의 정렬을 어떻게 도울 수 있는지 이야기할 수 있습니까?

Vitalik Buterin:

저는 핵심 문제가 미래의 세계가 인간의 소망과 필요가 여전히 존중받을 수 있도록 보장하기 위해 어떤 메커니즘을 갖추어야 하는가라고 생각합니다. 우리가 현재 가지고 있는 도구는 대략 세 가지로 나눌 수 있습니다: 인간의 노동, 법률 체계 및 재산권.

어떤 의미에서 법률 체계는 국가가 보증하기 때문에 재산권의 한 형태로 볼 수 있습니다. 국가 본질적으로 지구상의 특정 "영역"에 대한 통제권을 가지고 있습니다. 그러나 문제는 만약 언젠가 인간의 노동이 경제적 가치를 잃게 된다면, 무엇이 발생할까요? 역사적으로 그런 경우는 없었습니다.

하지만 우리가 지금의 세계를 200년 전과 비교한다면, 200년 전의 일자리 중 약 90%가 자동화되었습니다. 심지어 우리가 방금 수행한 분석 작업도 GPT가 도와줄 수 있습니다. 이는 정말 놀랍습니다.

Guillaume Verdon:

저는 인간이 자연스럽게 세계를 통제하는 수준에서 "상승"하여 더 높은 레버리지 위치에 들어갈 것이라고 생각합니다. 우리는 육체 노동을 줄이고, 행동의 마찰 비용을 낮추어 더 효율적인 방식으로 세상에 영향을 미칠 것입니다.

어쨌든, 인간은 여전히 일정한 정보 처리 능력을 가지고 있습니다. 우리는 여전히 이 혼합 시스템의 일부로 계속 작용할 것이며, 따라서 인간의 노동은 여전히 경제적 가치를 가질 것입니다. 시장은 결국 새로운 균형점을 찾을 것이며, 비록 이 과정에서 일정 기간의 불편함을 겪을 수 있지만, 장기적으로 시스템은 안정화될 것입니다.

그래서 저는 당신이 기술 발전 속도를 늦추어 사회가 새로운 균형 상태로 더 부드럽게 전환되기를 원한다는 것을 이해합니다. 그러나 실제로는 이것이 매우 어렵다고 생각합니다.

Vitalik Buterin:

네, 저는 인간 노동의 가치가 항상 0보다 클 것이라고 확신하지 않습니다. 이를 실현하기 위해서는 아마도 몇 가지 추가 조건이 필요할 것입니다. 예를 들어, 인간-기계 융합이나 인간 강화 기술의 발전이 필요할 것입니다.

미래 10년 / 100년 / 10억 년의 "좋은 결말"과 "나쁜 결말" (질문자는 빠른 대답을 요구함)

Eddy Lazzarin: 저는 더 구조화된 질문을 하겠습니다. 10년 후에 상황이 나쁘다면, 세상은 어떤 모습일까요? 어떤 문제가 발생했나요? 10년 후에 상황이 좋다면, 세상은 어떤 모습일까요? 무엇이 잘되었나요?

Vitalik Buterin:

먼저 암호화폐와 재산권에 대한 보충 설명을 하겠습니다. 만약 인간과 AI가 동일한 재산권 시스템을 공유한다면, 이는 이상적인 상황입니다. 왜냐하면 이렇게 하면 AI가 이 시스템의 완전성을 유지할 동기를 갖게 되고, 우리는 이 시스템을 활용하여 인간의 이익이 존중받고 보호받도록 할 수 있기 때문입니다.

인간과 AI가 각각 완전히 분리된 금융 시스템을 사용하는 것(인간의 시스템은 결국 가치가 0이 되는 것)보다, 통합된 금융 시스템이 분명히 더 우수합니다. 만약 암호화폐가 이러한 통합 시스템의 기초가 될 수 있다면, 이는 매우 좋은 결과가 될 것입니다.

제 생각에, 미래 10년의 핵심 도전 과제는: 세계 대전을 피하는 것입니다. 왜냐하면 만약 세계 대전이 발발한다면, 국제 협력 가능성에 대한 모든 희망이 사라질 것이기 때문입니다. 전쟁을 피하는 것이 매우 중요합니다.

또 다른 핵심은, 우리가 다가오는 더 높은 능력에 대비해야 한다는 것입니다. 이는 네트워크 보안, 생물 보안 및 정보 보안을 대폭 향상시키는 것을 포함합니다. 우리는 AI의 힘을 활용하여 세상을 더 잘 이해하고, 모방 위협으로부터 우리를 보호해야 합니다.

다음 도전 과제는 이른바 "기괴한 시대" (spooky era)에 진입하는 것입니다. 이 단계에서는 AI의 지능이 인간을 훨씬 초월하고, 계산 속도가 인간보다 수백만 배 빨라질 것입니다. 우리는 이러한 상황에 어떻게 대응해야 할까요?

일부 사람들은 "그냥 편안한 은퇴 생활을 즐기자"고 말할 수 있습니다. 저는 이러한 관점의 매력을 이해할 수 있지만, 두 가지 문제가 있다고 생각합니다. 첫째는 불안정성입니다. 우리의 육체는 일반 물질로 구성되어 있지만, AI의 계산 능력은 우리의 수백만 배에 이를 수 있습니다. AI가 우리의 목표에 항상 맞춰질 것이라고 기대하고, 이러한 차이를 거부하는 것은 큰 위험이 될 것입니다. 둘째는 의미 문제입니다. 인간의 의미는 우리가 세상에 실제로 영향을 미칠 수 있는 능력에서 비롯됩니다. 만약 우리가 더 이상 세상을 변화시킬 수 없고, 단지 편안한 삶을 즐기기만 한다면, 많은 사람들이 공허함을 느낄 것이라고 믿습니다.

따라서 저는 인간 강화와 인간-기계 협력의 경로를 탐구하고 싶습니다. 궁극적으로 우리는 의식을 기계에 업로드하는 길로 나아갈 수 있으며, 물론 일부 사람들은 더 전통적인 삶의 방식을 선택할 수도 있습니다. 이는 권리여야 합니다. 지구는 이러한 사람들의 삶의 터전이 될 수 있으며, 우리는 모든 사람이 참여할 수 있는 방법을 찾아야 하며, 오늘날 우리가 소중히 여기는 문화와 생활 방식을 보존해야 합니다.

나쁜 결말은 다양한 이유로 이러한 가능성이 차단되어 사회가 정체되거나 붕괴되는 상태일 것입니다.

Guillaume Verdon:

10년 후 나쁜 결말이 난다면, 저는 AI의 권력이 지나치게 집중되어 사회 문화가 패턴 붕괴를 초래할 가능성이 높다고 생각합니다. 간단히 말해, 사람들의 사고와 기술 발전 방향이 극도로 단일화되고, 모든 다양성이 사라지는 것입니다.

저는 또한 Vitalik의 관점에 동의합니다. "즐거움의 특이점"은 잠재적인 위험입니다. 미래에 Neuralink나 AR/VR 기술이 보급되더라도, 사람들은 가상 세계에 빠져들어 단기적인 즐거움만 추구할 수 있습니다. 이는 실제로 뇌의 국부적 최적해이며, 전역 최적해가 아닙니다. 우리는 이러한 상황을 피해야 합니다.

10년 후 좋은 결말이 난다면, 제가 상상하는 세계는 우리가 극도로 강력하고 유용한 AI 기술을 보유하게 되는 것입니다. 모든 사람은 자신만의 개인화된 AI 계산 능력을 가지게 되고, 이러한 AI는 우리의 두뇌의 연장선으로 항상 온라인 상태가 되어 우리의 모든 것을 인식하고, 우리의 "두 번째 두뇌"가 되어 인류의 협력이 "부드러운 융합"으로 이루어질 것입니다.

이 10년 동안 Neuralink와 같은 기술이 보급될 수 있습니다. 일부 사람들은 기계와 융합하여 "강화된 인간"이 될 것입니다. 동시에 기업들은 더 스마트해지고, AI가 주도권을 잡게 되며, 인간은 그 안에서 보조 역할을 하게 될 것입니다. 기업의 수가 증가하고, 더 많은 문제를 해결하며, 더 많은 가치를 창출할 것입니다. 우리가 과거에 불가능하다고 생각했던 목표들, 예를 들어 "화성 개조"가 향후 10년 또는 100년 내에 현실이 될 수 있습니다. 향후 10년 동안 생명공학의 중대한 돌파구가 올 수 있으며, 특히 생물학과 재료 과학 분야에서 연구 비용이 대폭 감소하고, 우리는 인간 두뇌의 작동 메커니즘을 이해하는 데 더 가까워질 것입니다.

더 긴 시간 범위에서, AI는 우리의 수명을 연장하고 건강을 개선하며 인류의 추가 진화를 촉진할 것입니다. 저는 생물학의 잠재력에 대해 매우 낙관적입니다. 생물 시스템은 놀랍습니다: 그것들은 스스로 조립되고 자기 조직화할 수 있으며, 복잡성과 적응력이 매우 강합니다. 우리는 코드를 주입하여 새로운 생명 형태를 창조할 수 있으며, 심지어 더 높은 수준의 생물 지능으로 진화할 수 있습니다.

더 현실적인 상황은 인간의 두뇌와 AI의 협력 작업입니다. 우리는 AI를 활용하여 빠른 계산과 데이터 분석을 수행하고, 인간은 느린 깊이 있는 사고에 집중할 수 있습니다. 이러한 시간적 분업을 통해 우리는 지능의 계층을 형성할 수 있습니다. 마치 미토콘드리아가 세포의 일부인 것처럼, "당신과 당신의 개인 AI"는 초지능 시스템을 구성할 수 있습니다. 이것이 제가 미래에 대한 이상적인 비전입니다.

100년의 시간 범위에서, 인류는 보편적으로 이러한 "부드러운 융합"을 실현할 것이라고 생각합니다. 그리고 10억 년 후, 우리의 생물학은 거대한 진화를 겪어 생물과 합성 기술의 혼합체가 될 것입니다. 그때 우리는 화성을 개조했을 수도 있고, 여러 행성으로 이주했을 수도 있으며, 다른 항성계를 탐험하고 있을 것입니다.

또한 100년의 시간 범위 내에서, 대부분의 AI는 태양 주위의 다이슨 구 또는 다이슨 군에서 작동할 수 있습니다. 이는 주요 에너지원이 될 것이며, 이러한 에너지 분포는 지구의 에너지 압박과 생태 발자국 문제를 완화할 것입니다.

AI가 극도로 저렴해진다면, 우리는 생활의 모든 문제를 신속하게 해결할 수 있을 것입니다: 기술 문제든 건강 문제든 모두 빠르게 해결할 수 있습니다. 핵심은 모든 사람이 이러한 기술을 공정하게 얻을 수 있도록 보장하는 것입니다. 기술과 자원이 지나치게 중앙 집중화되면, 이는 어두운 미래로 이어질 것입니다.

결론

Shaw Walters: 저는 Vitalik이 항상 "다양성을 가능하게 하는 것" (enabling plurality)을 강조하고 있다는 것을 주목했습니다. 반면 Guillaume은 "분산을 극대화"한다고 표현했습니다. 본질적으로 당신들은 같은 주제를 이야기하고 있는 것 같습니다. 이러한 사고는 미래 발전의 핵심 주제이며, 많은 다른 관점의 기초가 되는 것 같습니다.

여기서 떠나기 전에, 당신들은 서로에게 어떤 메시지를 남기고 싶습니까? 어떤 생각이 서로가 가져가기를 바라며, 앞으로 반복적으로 생각하고 논의하기를 원하는 것인가요?

Vitalik Buterin:

솔직히 말해서, 제가 지금 가지고 있다면, 당신에게 CAT 장비를 선물하고 싶습니다. 그것은 공기 질 데이터를 암호학적으로 처리하는 모니터입니다. 저는 그것이 매우 멋지다고 생각합니다.

하지만 현재로서는 "상징적으로" 당신에게 하나를 선물하고 싶습니다. IOU(채무 증서)로 간주해 주세요. 또한 우리는 아마도 더 나은 장치를 개발할 수 있을 것입니다 - 심지어 Fitbit과 같은 스마트 밴드와 경쟁할 수 있을 정도로 강력한 장치가 될 수 있습니다. 당신이 건강을 더 잘 관리할 수 있도록 도와주고, 개인 정보를 전적으로 보호할 수 있습니다. 저는 당신이 곧 그런 장치를 받을 것이라고 믿습니다.

Guillaume Verdon:

우리는 이러한 주제에 대해 계속 논의할 것입니다. 가능하다면, 저는 당신에게 "인공 생명의 개념 약"을 드리고 싶습니다. 이는 당신이 깊이 생각해 볼 수 있도록 하려는 것입니다. 제 말은, 네트워크상의 인공 생명은 지능의 비용을 대폭 낮추어 새로운 경제체를 형성할 수 있습니다.

과거에 우리가 제조업을 중국에 아웃소싱하여 더 높은 수준의 작업에 집중했던 것처럼 - 더 쉽고 효율적인 작업 - 미래에는 많은 인지 작업이 AI로 구성된 집단에 아웃소싱될 것입니다. 결국 이러한 AI는 태양 주위의 다이슨 군에서 "살며" 인류 사회에 서비스를 제공할 것입니다.

따라서 저는 우리가 독특한 역사적 시점에 있다고 생각합니다. 암호화폐는 인간과 AI 간의 "신뢰의 다리" 또는 "결합 계층" (coupling layer)이 될 잠재력이 있습니다.