뉴욕 타임스: AI 종말론에서 Anthropic 설립까지, 다리오 아모데이의 신념은 어디에서 오는가?

저자：뉴욕 타임스

편집: 가환, ChainCatcher

다리오 아모데이는 AI 산업에서 가장 확고한 안전 옹호자 중 한 명이다. 그는 이 기술이 인류가 질병을 극복하고 과학적 진전을 가속화하는 데 도움을 줄 수 있지만, 통제 불능 상태가 되면 인류에 재앙을 가져올 수 있다고 믿는다.

이러한 신념은 그의 선택에 일찍부터 영향을 미쳤다. OpenAI에서 근무하는 동안 그는 자신의 안전 철학을 AI 개발에 통합하려 했고, 동료들과 윤리적 감독 및 GPT 프로젝트에 대해 의견 차이를 보였다. OpenAI를 떠난 후, 그는 여동생과 다른 동료들과 함께 Anthropic을 공동 설립했다.

지지자들에 따르면, 다리오는 책임감 있게 AI를 개발하려고 노력하고 있다; 비판자들은 그의 안전 강조가 또 다른 질문을 불러일으킨다고 본다: 누가 AI가 어떻게 발전해야 하는지를 결정할 권리가 있으며, 누가 그 경계를 설정할 것인가?

《뉴욕 타임스》는 다리오의 동급생, 친구, 선생님 및 전 동료들을 인터뷰하여 그의 성장 과정과 사상 출처를 되짚어 보았다. 다리오 본인은 이번 인터뷰를 거부했다. 다음은 본문이다.

2007년의 어느 저녁, 프린스턴 대학교에서 박사 과정을 밟고 있는 다리오 아모데이는 방문한 친구를 맞이했다. 그는 2005년에 출판된 컴퓨터 과학자 레이 커즈와일의 《특이점이 온다》를 막 읽고, 책의 관점을 친구와 나누고 싶어 안달이 나 있었다.

커즈와일은 책에서 인공지능이 결국 인간의 두뇌를 초월하게 되어 "특이점"이라고 불리는 순간이 올 것이라고 예측했다. 다리오는 손가락으로 머리카락을 감싸며 친구 콜린 헥먼에게 이 순간이 그들의 생애 동안 올 수 있다고 말했다.

"그는 매료되었다." 다리오와 샌프란시스코에서 같은 고등학교를 다닌 헥먼이 말했다. "그는 AI가 올바른 방식으로 창조되어야 한다고 말했고, 그렇지 않으면 우리는 끝장난다고 했다."

당시 24세의 다리오는 물리학 박사 과정 학생으로, 많은 정보를 흡수하는 단계에 있었다. 그는 《가속하는 미래》와 《편견 극복하기》와 같은 상대적으로 덜 알려진 블로그를 읽는 데 빠져 있었고, 블로거들은 AI가 인류를 멸망시킬 가능성에 대해 논의했다.

그는 또한 GiveWell의 온라인 포럼을 깊이 연구했다. GiveWell은 자선 기부의 효과를 극대화하는 데 전념하는 기관으로, 지식인들이 포럼에서 자선 사업을 위해 최대한 많은 돈을 벌 수 있는 방법에 대해 논의한다.

우리는 다리오의 스무 명이 넘는 동급생, 친구, 선생님 및 동료들을 인터뷰했다. 그들의 이야기는 이러한 책, 블로그 및 온라인 커뮤니티가 여전히 그에게 영향을 미치고 있으며, 43세의 Anthropic CEO가 AI를 어떻게 바라보는지를 이해하는 데 단서를 제공한다. Anthropic은 이번 달 상장될 예정이며, 이는 세계에서 가장 큰 공개 상장 중 하나가 될 수 있다.

그의 친구와 동료들은 다리오의 세계관의 핵심이 두 가지 상호 얽힌 사상이라고 말했다. 이들은 모두 수학적 추론이 인류의 미래를 바꿀 수 있다고 굳게 믿고 있다.

하나는 "합리주의"로, 세상을 차분하고 이성적으로 바라보는 것을 강조한다. 자수성가한 AI 연구원 엘리에저 유드코우스키와 같은 사람들은 이 사상을 신봉하며, AI가 충분히 강력해져 결국 사회를 파괴할 수 있다고 믿는다.

다른 하나는 합리주의와 함께 발전한 "효과적인 이타주의"로, 정밀한 수학적 계산을 통해 사회 복지를 극대화하려고 한다.

그의 친구와 동료들은 다리오에게 이 두 가지 사상이 결합되어 확고한 신념으로 자리 잡았다고 말했다: AI는 극도로 위험할 수 있으며, 오직 그와 뜻이 맞는 기술 전문가들만이 이 기술을 개발하는 데 신뢰할 수 있다고 믿는다. 이는 그가 인류 안전에 관심이 없는 사람들보다 먼저 AI를 창조하려고 노력하게 만들었고, 이 기술을 통제하려는 그의 열망을 자극했다.

다리오는 9월에 발표한 AI 발전을 늦추자는 글에서 "올바른 방식으로 이 기술을 구축해야만 우리는 그로부터 이익을 얻을 수 있다. 우리가 얻은 시간을 잘 활용할 수 있다면, 신중한 태도로 일을 제대로 하는 것이 가치가 있다."고 썼다.

이러한 사상은 Anthropic의 기초가 되었다. 2021년, 다리오는 여동생 다니엘라 아모데이 및 다른 다섯 명과 함께 회사를 공동 설립했다. 그들은 모두 합리주의 및 효과적인 이타주의 커뮤니티와 접촉한 경험이 있다. 회사가 성장함에 따라 그들의 관점은 점점 더 주목받게 되었고, 다리오는 이러한 관점을 공개적으로 그리고 열정적으로 추진해왔다.

사진 설명: Anthropic 공동 창립자 다니엘라 아모데이, 2023년 샌프란시스코 사무실에서 촬영. 그녀는 오빠 다리오와 가까운 관계이다.

다리오는 지정학적 이슈에 대한 논의에도 참여했다. 그는 미국이 중국에 칩 판매를 제한해야 한다고 주장하며, 중국의 AI 분야 경쟁력을 약화시켜야 한다고 말했다. 그는 AI에 대한 규제를 촉구하며 이 기술이 통제 불능 상태에 빠지는 것을 방지해야 한다고 강조했다. 미국 국방부와의 논란에서 그는 AI가 미국인을 대규모로 감시하는 데 사용되어서는 안 되며, 자율 무기에 사용되어서도 안 된다고 말했다.

"그는 정말로 우리가 엄청난 생존 위험에 직면해 있다고 생각한다." 네이선 에이브리(Nathan Avery)가 말했다. 에이브리는 다리오와 함께 고등학교 크로스컨트리 경주에 참가했으며, 수년간 많은 깊은 대화를 나누었지만, 지금은 점점 멀어졌다. "그는 자신이 이에 대해 행동을 취할 수 있는 위치에 있어야 한다고 느끼고 있다."

다리오는 억만장자이며, Anthropic의 공개 상장으로 그의 재산은 더욱 증가할 것으로 예상된다. 그는 회사 대표를 통해 이번 인터뷰를 거부했다.

그의 생각은 그에게 지지자를 얻었고, 특히 일부 AI 안전 분야의 종사자들 사이에서 인기를 끌었다. 이들은 다리오가 책임감 있게 AI를 개발하고 있다고 믿고 있다.

하지만 이는 그를 실리콘밸리와 워싱턴에서 적을 만들게 했다. 비판자들에는 메타의 마크 저커버그와 엔비디아의 젠슨 황이 포함된다. 그들은 그를 "종말론자"라고 비난하며 AI 분야의 권력을 자신에게 집중시키려 한다고 주장했다. 9월, 미국 국방부는 소셜 미디어에 "미국주의, 효과적인 이타주의가 아니다."라는 글을 올렸다.

다리오는 자신의 생각이 일부 사람들을 화나게 했다는 것을 인식한 것 같아, 공개적으로 자신의 신념을 합리주의 및 효과적인 이타주의와 구별하려고 노력했다. 2023년, 그는 《뉴욕 타임스》의 팟캐스트 《하드 포크》에서 자신이 효과적인 이타주의자라고 생각하지 않는다고 말했다.

"나는 그 중 일부 생각에 동의한다."고 그는 말했다. "하지만 나는 사람들을 서로 다른 부족으로 나누는 것에 반대한다."

"다리오, 편하게 해!"

다리오와 여동생 다니엘라는 샌프란시스코의 미션 지구에서 자랐다. 그들의 아버지 리카르도 아모데이는 가죽 공예가였고, 어머니 엘레나 엥겔은 공공 도서관의 리노베이션 프로젝트를 관리했다. 이혼 서류에 따르면, 두 사람은 1991년에 별거했다.

로턴 대안학교에서 8학년을 다닐 때, 다리오는 이미 두드러진 성과를 보였다. 1997년, 그는 한 동급생과 함께 "가장 성공할 가능성이 높은 사람"으로 선정되었고, 졸업 기념 앨범 사진에서 달러 지폐를 들고 있었다.

샌프란시스코의 명문 공립 고등학교인 로웰 고등학교에 다닐 때, 다리오는 갈망하듯 공부하며 캘리포니아 대학교 버클리 캠퍼스에서 수업을 듣기도 했다. 동급생들은 그가 공리주의와 같은 사상을 고민했다고 말했다. 공리주의는 사람들이 가능한 많은 생명에 최대한의 행복을 창출해야 한다고 주장한다. 그는 또한 2000년 문제(당시 일부 컴퓨터 프로그램이 연도를 두 자리 숫자로 기록하여 2000년 이후 "00"을 1900년으로 잘못 인식할 수 있는 문제)가 전 세계 컴퓨터 시스템을 마비시킬 수 있다고 걱정했다.

당시 로웰 고등학교 물리학 교사였던 리차드 샤피로는 다리오가 시험에서 좋은 성적을 내지 못했다고 자주 느꼈다고 말했다.

"나는 그에게 소리쳤다: '다리오, 편하게 해!'" 샤피로가 말했다.

2001년, 다리오는 패서디나의 캘리포니아 공과대학교에 입학했지만, 자주 샌프란시스코로 돌아가 친구와 가족을 만났다. 집에 돌아갔을 때, 그는 에이브리와 헥먼과 함께 스시 집에 가서 공리주의에 대해 논의했다. 다리오는 채식주의자였지만, 게는 무척추동물이기 때문에 게를 먹는 것은 괜찮다고 생각했다.

식사 중 헥먼은 사고 실험을 제안했다: 만약 한 사람이 계속해서 닭을 죽인다면, 더 많은 닭이 죽지 않도록 하기 위해 어떤 상황에서 그 사람을 죽이는 것이 합리적일까?

에이브리는 다리오가 가벼운 웃음을 지으며, 공리주의 관점에서 닭의 수가 일정 수준에 도달하면 그들의 생명이 한 사람의 생명보다 더 중요할 수 있다고 말했다고 회상했다.

친구들은 다리오가 자신을 무신론자라고 말했지만, 여전히 확고한 신념을 가지고 있다고 말했다. 2003년, 그는 에이브리와 다른 사람들을 데리고 샌프란시스코로 차를 몰고 가서 미국의 이라크 침공에 반대하는 시위에 참석했다.

다음 해, 다리오는 실리콘밸리 중심에 위치한 스탠포드 대학교로 편입했다. 이번 편입은 그를 여동생과 더 가깝게 만들었고, 당시 다니엘라는 근처에서 고등학교를 다니고 있었다.

2023년, 그는 팟캐스트에서 여동생에 대해 이야기하며 "우리는 항상 함께 세상을 구하고 싶어 했다."고 말했다.

시간과 생명에 대한 사색

2006년 스탠포드 대학교를 졸업한 후, 다리오는 프린스턴 대학교에서 물리학 박사 학위를 취득하기 위해 공부하기 시작했고, 결국 물리학을 생물학 및 계산 신경 과학에 적용하는 데 집중했다. 그 해, 그는 C형 간염을 앓고 있던 아버지를 잃었다.

다리오는 망막 세포 연구에 전념하며 과학적 진전을 가속화할 수 있는 기술 개발에 관심을 가지기 시작했다.

다리오와 교제했던 제이드 왕은 두 사람이 종종 다음과 같은 질문에 대해 논의했다고 말했다: 특정 질병을 평생 연구하는 과학자들이 전체 분야를 위해 기술이나 방법을 개발한다면 더 큰 영향을 미칠 수 있을까?

그녀는 다리오가 자신의 아버지를 언급하며, 대다수의 C형 간염 환자에게 치료를 제공할 수 있는 약물이 출시되기 전에 아버지가 세상을 떠났다고 말했다고 전했다.

사진 설명: 《특이점이 온다》 저자 레이 커즈와일. 다리오는 그의 인공지능 관련 저작에 큰 관심을 가지고 있다.

그 당시, 다리오는 이미 커즈와일과 합리주의 지도자인 유드코우스키의 저작에 동조하기 시작했다. 그는 특히 커즈와일의 한 관점에 관심을 가졌다: 첨단 기술이 인류가 자연적 한계를 초월하는 데 도움을 줄 가능성이 있다는 것이다. 이 사상은 "초인류주의"라고 불린다.

2007년 헥먼이 프린스턴을 방문했을 때, 다리오는 그에게 특이점이 2040년 이전에 올 것이며, 언젠가 인류가 생각과 기계를 융합할 수 있을 것이라고 말했다.

헥먼은 다리오가 당시 "시간이 지남에 따라 우리는 새로운 초지능 AI가 되거나, AI와 인간의 혼합체가 될 것이다."라고 말했다고 회상했다.

Dario는 이러한 사상에 매료되어 친구와 여동생에게 유드코우스키의 특이점 연구소에서 개최하는 연례 회의에 참석하도록 권장했습니다. 이 조직은 현재 기계 지능 연구소로 알려져 있습니다.

《뉴욕타임스》에서 본 2008년 이메일에서 Dario는 친구에게 유드코우스키가 "내가 만난 사람 중 가장 깊은 사상을 가진 사람 중 한 명"이라고 말하며 "명확하게 인류에 유리한 특이점을 촉진하려고 한다"고 전했습니다.

유드코우스키는 《뉴욕타임스》에 보낸 이메일에서 Dario가 "현재 내 조언을 요청하거나 수용하지 않으며, 그가 그렇게 한 기억도 없다"고 밝혔습니다.

캡션: 자가 학습한 AI 연구원 엘리에저 유드코우스키. Dario는 그의 저작에 공감하기 시작했습니다. 유드코우스키는 AI가 사회를 파괴할 만큼 강력해질 것이라고 믿고 있습니다.

대략 같은 시기에 Dario는 로켓 회사 스페이스X의 창립자 일론 머스크와 통신을 시작했습니다. 두 사람의 소통 상황을 아는 두 사람은 Dario가 이 기술 거물을 존경하며 그를 위해 일할 것을 고려했지만 결국 이 우주 스타트업에 합류하지 않았다고 전했습니다.

2008년, Dario는 경제학자 타일러 코웬의 블로그를 읽다가 GiveWell을 접했습니다. 코웬은 블로그에서 이 기관이 자선 단체에 대한 "흥미로운 제안"을 제공한다고 말했습니다.

Dario는 GiveWell의 메일링 리스트와 포럼에서 활발히 활동하며 효과적인 이타주의 방식으로 자선 및 과학 작업을 어떻게 수행할지 논의했습니다. 《뉴욕타임스》에서 본 이메일에 따르면, 2010년 그는 "금융 산업에 종사하여 지금보다 더 많은 돈을 기부할 수 있는지 고려하고 있다"고 썼습니다.

같은 해, Dario는 GiveWell의 블로그 글에서 1만 달러를 기부하기로 결정한 이야기를 논의했습니다. 그는 두 기부 대상 사이에서 선택하고 있었습니다: 하나는 성인 결핵 예방에 집중하는 "결핵 퇴치 파트너십", 다른 하나는 아프리카 마을 어린이에게 백신을 접종하는 VillageReach입니다.

Dario는 "결핵 퇴치 파트너십"의 "비용 효율성"이 더 높다고 썼습니다. 왜냐하면 이 조직은 성인을 대상으로 서비스를 제공하며 "성인은 아기보다 더 깊고 의미 있는 경험을 가지고 있다"고 덧붙였습니다. 그는 "나는 성인의 죽음이 아기의 죽음보다 두세 배 더 심각할 수 있다고 생각한다"고 말했습니다.

하지만 두 기관의 프로젝트 수행 방식을 더 비교한 후, Dario는 결국 생각을 바꾸고 VillageReach의 작업이 더 효과적이라고 판단했습니다.

2011년, 그는 스탠포드 대학교에서 박사후 연구를 시작하며 암세포를 연구했습니다. 친구들은 그의 개인 생활에서 노화 방지 보충제를 복용하고, 엄격한 수영 계획을 고수하며, 칼로리 섭취를 줄이는 것에 관심을 가지기 시작했다고 전했습니다. 일부 연구에 따르면, 칼로리 섭취를 줄이면 실험실 쥐의 수명을 연장할 수 있다고 합니다.

"그는 시간의 한정성과 시간만이 재생할 수 없는 자원이라는 점에 대해 자주 이야기했습니다."라고 에이브리(Avery)가 말했습니다. 그는 Dario가 "시간에 대해 거의 가혹할 정도"라고 덧붙였습니다.

그를 아는 두 사람은 2014년 Dario가 고환암 진단을 받았고, 이는 그의 이러한 감정을 더욱 심화시켰다고 전했습니다. 그는 화학요법을 받았고, 결국 완치되었습니다.

그때쯤 그는 GiveWell의 공동 창립자 중 한 명인 홀든 카르노프스키와 밀접한 관계를 맺게 되었습니다. GiveWell은 페이스북 공동 창립자 더스틴 모스코비츠와 그의 아내 카리 투나의 자선 단체인 Good Ventures와 협력하기 시작했습니다. 이 단체는 효과적인 이타주의 관련 사업에 자금을 지원합니다.

Dario는 양측의 협력 프로젝트인 GiveWell Labs에 생명 과학 자금 지원에 대한 조언을 제공하기 시작했습니다.

캡션: GiveWell 공동 창립자 중 한 명인 홀든 카르노프스키(오른쪽), 2012년 촬영. Dario는 GiveWell의 온라인 포럼에서 활발히 활동했습니다.

그 당시 카르노프스키는 다니엘라와 교제 중이었습니다. 두 사람은 샌프란시스코의 한 공동 주택으로 이사했으며, 이후 이곳에 Dario, 이론 물리학자 자레드 카플란, 대학 중퇴자 크리스토퍼 올라흐가 함께 거주하게 되었습니다. Dario는 올라흐에게 수학을 가르쳤습니다.

이 집을 방문한 세 사람은 룸메이트들이 유드코우스키의 글에 대해 논의하며 합리주의와 효과적인 이타주의를 탐구했다고 전했습니다. 그들은 또한 네바다 사막에서 열리는 연례 반주류 문화 행사인 "버닝맨"에 참석하며 때때로 동물 의상을 입기도 했습니다.

카플란과 올라흐는 이후 아모데이 형제와 함께 앤트로픽을 공동 설립했습니다. 2025년 카르노프스키도 이 회사에서 일하기 시작했습니다.

바이두, 구글에서 OpenAI까지

2010년대 초, 기계 학습이 발전하면서 기술 회사들은 AI에 대한 투자를 다시 늘리기 시작했습니다. 기계 학습은 컴퓨터가 데이터를 분석하여 작업을 수행하는 방법을 학습하게 합니다.

중국 인터넷 거대 기업 바이두는 이 분야에 뛰어든 회사 중 하나입니다. 바이두는 캘리포니아주 서니베일에 연구소를 열고 구글에서 AI 선구자 우언다를 수석 과학자로 영입했습니다.

Dario는 2014년에 바이두에 합류했으며, 곧 사무실에서 밤새 일하고 솔직한 의견을 표현하는 것으로 유명해졌습니다.

캡션: 구글과 바이두에서 일했던 AI 선구자 우언다. Dario는 바이두에서 AI 연구를 했습니다.

Dario와 바이두에서 함께 일했던 연구원 그레고리 디아모스는 "Dario는 거의 매번 기회를 잡아 매우 격렬하게 논쟁했습니다."라고 말했습니다.

이 AI 발전의 초기 단계에서도 Dario는 이 기술의 잠재적 위험에 대해 우려를 표명했습니다. 디아모스는 2015년 Dario가 동료들에게 AI가 곧 인간의 두뇌 능력에 도달하거나 이를 초과할 수 있으므로 AI를 개발하는 회사는 기술이 통제 불능 상태에 빠질 가능성을 회피해서는 안 된다고 말했다고 회상했습니다.

같은 해, Dario는 구글의 AI 연구소인 구글 브레인에 합류하여 AI 안전성에 집중했습니다. 그는 그의 룸메이트 올라흐를 포함한 다른 다섯 명의 연구원과 함께 2016년에 "인공지능 안전의 구체적 문제"라는 논문을 발표하여 개발 방식이 잘못되면 AI가 비정상적인 행동을 할 수 있음을 설명했습니다.

2016년, Dario는 새로운 AI 프로젝트인 비영리 단체 OpenAI에 합류했습니다. 그는 OpenAI의 안전 팀과 "규모의 법칙"을 연구하는 팀을 이끌었습니다. 규모의 법칙은 모델의 규모, 훈련 데이터 및 계산 자원이 증가함에 따라 AI 모델의 성능이 향상될 수 있음을 설명합니다.

OpenAI에서: 이념, 권력 및 분열

Dario와 함께 일했던 일곱 명은 OpenAI에서 일하는 동안 그가 AI 개발의 올바른 방식에 대한 신념이 더욱 확고해졌다고 말했습니다. 그는 AI의 힘과 잠재적 위험에 대해 더 자주 이야기하고 자신의 생각을 기술 개발 과정에 통합하기 위해 행동했습니다.

예를 들어, 2016년 11월, 도널드 트럼프가 미국 대통령으로 당선된 지 3일 후, Dario는 OpenAI의 내부 커뮤니케이션 앱에서 미국이 권위주의로 나아가고 있다고 우려를 표명했습니다.

《뉴욕타임스》에서 본 메시지에 따르면, 그는 "권위 국가에서 강력한 군사적 용도로 사용될 기술을 연구하는 것에 대해 마음이 편치 않다"고 밝혔습니다.

내부 메시지에 따르면, Dario는 투자자 피터 틸이 트럼프의 선거 캠페인에 125만 달러를 기부한 것에 대해 "도덕적으로 비난받아야 한다"고 썼으며, OpenAI는 더 이상 그의 돈을 받아서는 안 된다고 주장했습니다. (틸이 설립한 벤처 캐피털 회사 파운더스 펀드는 이후 앤트로픽에 투자했습니다.)

Dario는 OpenAI가 자신의 생각을 지지하는 자금 지원자와 협력할 수 있도록 도왔습니다. 이 배치 에 대해 아는 세 사람은 2017년 Dario가 OpenAI와 카르노프스키가 운영하는 자선 단체를 연결하는 데 도움을 주었으며, 그 자신이 해당 기관의 기술 고문이라고 전했습니다.

카르노프스키의 기관은 현재 Coefficient Giving으로 알려져 있으며, OpenAI에 3000만 달러를 기부했습니다. 카르노프스키는 OpenAI 이사회에도 합류했습니다.

캡션: 2017년 OpenAI에서 일하는 Dario와 2019년 OpenAI에서 일하는 다니엘라.

같은 해 늦게, 카르노프스키는 다니엘라와 결혼했습니다. 두 사람의 결혼식 웹사이트에 따르면, 손님들은 봉제 인형을 받았고 "다양한 역할 간의 가장 로맨틱한 짝을 정하는" 사람에게 보상이 주어졌습니다.

Dario는 팬더 머리띠를 쓰고 결혼식에 참석했으며, 결혼식의 복장 요구 사항은 "우스꽝스러운 정장"이었습니다. 《뉴욕타임스》에서 본 사진에서 그는 이 복장을 하고 기린 머리띠를 쓴 올라흐와 당시 여자친구인 카미 클락과 함께 찍혔습니다. 그는 클락과 2022년에 결혼했습니다.

2018년, 다니엘라는 OpenAI에 합류하여 결국 안전 및 정책 담당 부사장이 되었습니다. 일부 직원들은 곧 이 남매의 영향력이 커지는 것에 의문을 제기하기 시작했습니다.

관련 논의를 아는 세 사람은 같은 해 12월 OpenAI 연구원 조슈아 아치암이 CEO 샘 올트먼에게 Dario를 회사의 수석 윤리 책임자로 임명하는 것이 현명하지 않다고 말했다고 전했습니다. 아치암은 아모데이 남매의 권력이 커지는 것을 언급하며 AI에 대한 감독은 서로 다른 관점을 가진 사람들이 공동으로 맡아야 한다고 주장했습니다.

아치암이 외부 전문가를 수석 윤리 책임자로 임명해야 한다고 주장하자 Dario는 그와 대면하여 논쟁했습니다. 소식통에 따르면 Dario는 목소리를 높이며 자신보다 이 직책에 더 적합한 사람은 없다고 주장했습니다.

2018년, 아모데이 형제는 회사의 GPT라는 프로젝트를 인수했습니다. GPT는 "생성적 사전 훈련 변환기"의 약자입니다.

회사의 전 직원 6명은 그들이 AI에게 작업을 수행하도록 인간의 지시를 통해 가르치는 안전 기술을 탐색했다고 말했습니다.

이러한 접근 방식은 나중에 다리오의 경력에서 두드러진 특징이 되었습니다: AI를 잠재적인 위험에 더 가깝게 두고, 안전 기술로 이를 테스트하는 것입니다.

오픈AI의 사장 그렉 브록맨은 GPT 프로젝트에 참여하기를 원했지만 아모데이 형제의 반대에 부딪혔습니다. 회사 상황을 아는 두 사람은 다리오가 여러 차례 알트만에게 브록맨을 이 작업에서 멀리하게 하지 않으면 자신이 떠날 것이라고 말했다고 전했습니다.

알트만의 생각을 아는 한 사람은 알트만이 이러한 최후통첩이 지나치다고 생각하여 형제의 요구를 거부했다고 말했습니다.

2020년 12월, 아모데이 형제와 다른 동료들이 오픈AI를 떠났습니다. 몇 달 후, 그들은 앤트로픽을 설립했습니다.

캡션: 올해 5월, 샌프란시스코에서 열린 앤트로픽 개발자 회의에서 아모데이 형제가 회사의 최고 제품 책임자 아미 보라(왼쪽)와 함께 무대에 섰습니다.