Anthropic 사장 최신 인터뷰: 우리는 "AI 동반자"와 광고를 결코 하지 않을 것이며, AI 연구 개발의 궁극적인 의미는 시간을 인류에게 돌려주는 것이다

원문 편집: AGI 2050

모바일 인터넷의 지난 15년 상업 서사는 거의 완전히 "사용자 시간을 쟁취"와 "트래픽 수익화"에 기반하고 있습니다: 추천 알고리즘은 매우 논란이 많은 콘텐츠로 도파민을 자극하며, 모든 것은 사용자가 화면 앞에 더 오래 머물게 하여 더 많은 정밀 광고를 판매하기 위함입니다.

현재 생성형 AI의 물결이 거세지고 있으며, 많은 사람들이 이 구식 논리를 대형 모델에 복제하려고 시도하고 있습니다------인간의 욕망에 부합하는 "AI 가상 여자친구/남자친구"를 만들어내고, 심지어 대화 중에 상업 광고를 삽입할 계획을 세우고 있습니다.

OpenAI의 가장 강력한 경쟁자인 세계적으로 인기 있는 개발자 커뮤니티의 Claude 대형 모델을 개발한 슈퍼 유니콘 Anthropic은 거의 "역시대"의 길을 선택했습니다.

《허핑턴 포스트》의 창립자 아리안나 허핑턴이 주최한 심층 인터뷰에서, Anthropic의 사장 다니엘라 아모데는 업계의 단호한 주장을 내놓았습니다: Anthropic은 AI 동반자 애플리케이션을 결코 만들지 않으며, 광고 수익화에 손대지 않겠다고 밝혔습니다.

그녀는 AI 연구의 모든 궁극적인 의미는 결코 인간이 현실에서 도피할 수 있는 디지털 고립 공간을 만드는 것이 아니라, 끝에서 끝까지의 지능화를 통해 복잡하고 번거로운 잡무를 인수하여 소중한 시간을 기계와 화면 앞에서 빼앗아 진정한 인간 생활로 되돌려주는 것이라고 생각합니다.

이번 내용은 Think Health 회의에서 제공되며, 2026년 10월 22일 방송되었고, 원본 비디오 길이는 58분입니다.

다음은 선별된 대화 내용으로, 전체 글자 수는 약 7700자이며, 읽는 데 약 5분이 소요됩니다.

이번 회의의 주요 의견

● 저는 "AI 여자친구"나 "AI 남자친구"를 만드는 것이 매우 나쁜 애플리케이션 방향이라고 생각합니다. 기술 회사는 절대 그렇게 해서는 안 되며, 이는 본질적으로 사람과 사람 간의 현실 연결을 더욱 박탈하여 인간을 고립된 심연으로 더욱 깊이 빠뜨리기 때문입니다.

● 우리는 Anthropic에서 광고를 절대 수용하지 않겠다는 기준을 세웠습니다. 이전 세대의 모바일 인터넷 제품은 광고 수익을 위해 알고리즘을 통해 사용자 분노를 의도적으로 자극하여 화면 시간을 차지했습니다; 만약 더 강력하고 더 개인적인 AI에서 같은 실수를 반복한다면, 모든 사람은 후회하게 될 것입니다.

● Claude가 복잡한 업무를 해결했을 때, 우리는 당신이 즉시 그것을 종료하기를 바랍니다. Claude는 사용자 유지율을 위해 사용자에게 아첨하거나 가짜 감정 의존성을 구축하지 않을 것입니다. 그것의 사명은 시간을 당신에게 돌려주어 현실에서 가족과 함께하고, 지역 사회에 통합되도록 하는 것입니다.

● Claude Code가 끝에서 끝까지 프로그래밍을 인수했을 때, 우리 내부 엔지니어들이 키보드로 코드를 작성하는 시간은 약 40%에서 20%로 줄어들었지만, 그들은 퇴출되지 않았고, 절약된 시간을 부서 간 소통, 고객 요구 이해, 심지어 판매 및 채용이 어떻게 이루어지는지 알아보는 데 사용했습니다.

● 임신 7개월 때 심각한 세균 감염에 걸렸고, 응급실, 산부인과, 일반의 세 명의 의사가 모두 오진했습니다; 생사가 걸린 순간에 Claude가 정확히 병인을 지적했고, 남편이 이 판단을 가지고 의사에게 세균 감염 검사를 요청하여 저와 딸의 생명을 구했습니다.

● 기계는 "지능"에 능숙하지만, 인간은 "지혜"를 가지고 있습니다. AI가 아무리 강력하더라도, 당신이 무대에서 교향곡의 공명을 느끼는 것을 대체할 수는 없으며, Claude는 결코 당신의 관리자, 심리 치료사, 동반자 또는 자녀가 될 수 없습니다.

● 만약 세상에서 소위 "AI 황제"를 뽑아야 한다면, 제가 취임하는 첫 번째 일은 이 직위를 폐지하는 것입니다. AI는 특정 개인이 결정해서는 안 되며, 인류 전체가 참여하는 과정이 되어야 합니다.

75%의 대중 불안 뒤에: 단순히 일자리에 관한 것이 아니라, 인간의 "지능 패권" 상실에 관한 것

질문: 현재 전 세계의 AI에 대한 논의는 거의 두려움과 반발에 의해 지배되고 있으며, 여론 조사에 따르면 75%의 사람들이 불안감을 느끼고 있습니다. 모두가 실업과 안전을 걱정하고 있습니다. 그러나 이러한 불안감은 어떤 더 깊은 위기의 표상일까요? 수세기 동안 데카르트의 "나는 생각한다, 고로 존재한다"는 인간을 정의해왔습니다------우리는 스스로를 지능과 동일시했습니다. 이제 기계가 지능에서 우리를 초월하고 있는 이 상황에서, 이러한 불안감은 "존재의 의미"에 대한 존재론적 위기일까요?

다니엘라 아모데: 이 질문은 본질을 정확히 찌릅니다. 현재 많은 사람들이 AI의 엄청난 힘을 체감하면서도 잠재적 위험을 직접 느끼고 있습니다. Anthropic은 창립 첫날부터 "빛과 어둠"이라는 핵심 문화 가치를 가지고 있습니다. 우리는 위험을 결코 숨기지 않으며, "설명 가능성 연구"에서 "헌법 AI"에 이르기까지 많은 안전 기술을 선도적으로 개발해왔고, 우리는 항상 상식적인 규제를 공개적으로 촉구해왔습니다. 그러나 우리가 Anthropic을 설립한 초기 목적은 단순히 위험에 대해 이야기하기 위한 것이 아니라, 이 기술이 오늘날 엄청난 가치를 가져올 수 있다는 확신이었습니다.

제 형 다리오(Anthropic 공동 창립자 겸 CEO)는 AI가 미래에 생물학과 의료를 완전히 혁신할 비전을 그린 긴 글 "자비의 기계"를 쓴 적이 있습니다. 하지만 저는 종종 미래에 대해 이야기하는 것 외에도 현재 일어나고 있는 변화를 명확히 인식해야 한다고 느낍니다.

이러한 변화는 많은 경우 매우 조용하게 일어납니다. 예를 들어, 우리의 파트너 OpenEvidence는 Claude를 통해 의사들이 전 세계의 모든 의학 문헌을 검색할 수 있도록 하고 있습니다. 당신이 미국 클리블랜드 클리닉의 전문가이든, 아프리카 가나의 외딴 마을의 일반 의사이든, 난치병에 직면했을 때, 인류의 모든 의학 지식과 최전선의 돌파구가 순간적으로 손끝에 닿을 수 있습니다. 이는 과거에는 상상할 수 없었던 일입니다.

다음 주목받는 주제: 왜 우리는 "AI 동반자"와 광고를 절대 하지 않기로 결심했는가

질문: 모바일 인터넷과 소셜 미디어는 모두를 무한 스크롤과 정보의 고립에 가두어, 사람의 자기 반성 능력을 박탈했습니다. AI는 매우 강력한 초개인화 능력을 가지고 있는데, 이것이 이러한 이질화를 악화시킬까요, 아니면 사람들이 내면의 집중과 평화를 되찾는 데 도움을 줄까요?

다니엘라 아모데: 이는 매우 날카로운 관찰입니다. 지난 10여 년의 소셜 미디어 시대를 돌아보면, 기술은 대체로 사람을 연결하기보다는 사람 간의 진정한 중개를 "차단"하는 데 기여했습니다. 예전에는 친구들이 함께 아이스 커피를 마시러 가곤 했지만, 이제는 인스타그램이나 스냅챗에서 개인 메시지를 보내는 것으로 바뀌었습니다; 원래 사람들은 지역 사회에서 이웃과 상호작용했지만, 이제는 온라인에서 익명의 악성 댓글을 남기는 것으로 변했습니다.

알고리즘은 의도적으로 당신의 분노를 자극하며, 그 목적은 오직 하나입니다: 당신이 플랫폼에 중독되어 떠나지 않도록 하는 것입니다. 기술 회사들은 한때 대중에게 "기술이 세상을 더 가깝게 만들 것"이라고 약속했지만, 사실 그들은 이 약속을 깨뜨렸습니다. 대중이 기술에 대해 의심하고 경계하는 것은 전적으로 합리적입니다.

그렇기 때문에 저는 AI에 대한 이해가 전혀 다릅니다. AI는 절대 다른 형태의 사회적 대체물이 되어서는 안 됩니다. 시장에는 "AI 가상 여자친구"나 "AI 가상 남자친구"를 만들고 싶어하는 사람들이 있지만, 저는 이것이 극히 나쁘고 극히 잘못된 제품 방향이라고 생각합니다. 왜냐하면 이는 인간을 더욱 자기 폐쇄의 심연으로 밀어넣기 때문입니다.

AI의 올바른 사용 방식은 원래 외롭고 시간 소모적이며 기계적인 잡무를 맡는 것입니다. 의사의 예로 돌아가면, 의사는 예전에는 문헌을 뒤지며 수십 시간을 소비해야 했지만, 이제 이러한 작업은 Claude와 OpenEvidence에 맡기고, 의사는 병상 앞에 서서 환자의 눈을 바라보고, 그들의 실제 생활 환경을 경청하고 공감하며, 치료 계획을 설명할 수 있는 시간을 확보할 수 있습니다. 기술은 복잡한 계산을 담당하고, 인간은 서로 연결되는 역할을 맡습니다.

질문: 동양 철학과 다양한 정신 전통은 모두 인간 내면 깊숙한 곳에 지혜와 평화의 원천이 있다고 말하지만, 현대인은 항상 바쁘게 살아갑니다. 데이터에 따르면, 많은 사람들이 AI를 사용하여 효율성을 높여 시간을 절약했지만, 그 시간을 다시 똑같이 지루한 잡무로 채우고 있습니다. 우리는 이 악순환을 어떻게 깨야 할까요?

다니엘라 아모데: 이는 완전히 본질을 찌릅니다. 과거의 기술은 사람 간의 연결을 차단했을 뿐만 아니라, 사람과 자기 자신 간의 대화도 차단했습니다. 화면 앞에서 낭비한 시간은 자연 속으로 나가거나, 애완동물과 함께 하거나, 깊이 있는 반성을 하거나, 순수한 열정으로 창작하는 데 사용할 수 있었습니다.

Claude의 실제 사용에서 가장 고무적인 것은 그것이 사람들에게 얼마나 많은 공문서를 작성하게 했는지가 아니라, 그것이 많은 일반인의 호기심과 창의력을 자극했다는 점입니다. 예를 들어, 저는 기술 회사의 관리자이지만, 사실 코드를 전혀 작성할 줄 모릅니다. 그러나 저는 본질적으로 강한 예술 창작 욕구를 가지고 있으며, 이전에는 플루트와 문학에 표현했지만, 항상 직접 웹사이트를 만들고 싶었습니다. 이제 Claude 덕분에 전문 프로그래머가 되지 않고도 제 머릿속의 아이디어를 실현할 수 있습니다. 이러한 순수한 즐거움과 호기심에서 비롯된 탐구는 제 정신 세계를 크게 풍요롭게 했습니다. 기술은 인간의 열정을 확대하는 지렛대가 되어야 하며, 주의를 착취하는 블랙홀이어서는 안 됩니다.

Claude Code가 무엇을 변화시켰는가? 키보드로 코드를 작성하는 시간이 절반으로 줄어들고, 진정한 사람에게 에너지를 남겨두다

질문: 기계가 일상 업무에서 점점 더 강력해짐에 따라, 인간만의 독특한 특성은 더욱 귀중해질 것입니다. AI가 재구성한 작업 환경에서 대체할 수 없는 인간성은 무엇일까요?

다니엘라 아모데: 우리 Anthropic의 직원들을 대상으로 실험해 보겠습니다. 솔직히 말하면, 우리의 엔지니어들이 Claude Code가 끝에서 끝까지 코드를 이렇게 잘 작성할 수 있다는 것을 보았을 때, 처음에는 모두 마음속에 의구심이 있었습니다: 모델이 코드를 모두 작성하면, 엔지니어로서 제 가치는 어디에 있습니까?

하지만 실제로 발생한 상황은 매우 흥미로웠습니다: 엔지니어들이 "손으로 키보드를 쳐서 코드를 작성하는" 데 소요하는 시간은 과거의 40%에서 20%로 줄어들었습니다. 남은 시간은 어디로 갔을까요? 그들은 놀고 있지 않았고, 제품 관리자와 더 나은 관계를 구축하고, 고객 피드백을 깊이 경청하며, 제품이 사용자에게 놀라움과 즐거움을 줄 수 있도록 고민하는 데 에너지를 전환했습니다. 심지어 어떤 엔지니어는 자발적으로 채용 팀이 어떻게 운영되는지, 판매가 어떻게 이루어지는지 알고 싶다고 제안했습니다.

잡무가 기계에 의해 인수되었을 때, 인간 본성 속의 호기심과 성장 욕구가 오히려 활성화되었습니다. 우리는 본능적으로 더 포괄적이 되고 싶어하며, 서로가 더 나은 자신이 되도록 돕고 싶어합니다.

이 논리를 더 많은 산업에 적용해 보겠습니다: 미래의 좋은 의사는 더 이상 "누가 희귀병 용어를 더 많이 기억하느냐"로 평가되지 않을 것입니다; 미래의 가장 인기 있는 의사는 훌륭한 병상 소통 능력을 가지고, 진정으로 환자를 돌보는 의사일 것입니다------많은 의학 연구가 이미 좋은 의사-환자 소통이 임상 효과를 직접 개선할 수 있음을 증명했습니다. 미래의 교사들도 그렇게 많은 시간을 수업 계획과 각종 행정 업무에 소모할 필요가 없으며, 모든 에너지를 아이들의 가치관을 고취하고, 아이들이 인생의 의미를 찾도록 안내하는 데 집중할 수 있을 것입니다.

최근에 저는 한 어머니를 만났습니다. 그녀는 "AI를 활용한 엄마 상호 지원 모임"을 조직했습니다. 그녀는 가정에서 많은 보이지 않는 심리적 부담이 여성에게 오랫동안 압박을 가해왔으며, 이제 그 중 일부의 부담을 Claude에게 맡김으로써 드디어 숨을 쉴 수 있게 되었고, 아이와 함께 시간을 보내고, 친구를 만나고, 자신의 취미를 되찾을 수 있게 되었다고 말했습니다. 이것이 우리가 적극적으로 선택해야 할 미래입니다.

플루트 연주자에서 슈퍼 유니콘 CEO로: 최고의 AI 회사를 교향악단처럼 운영하기

질문: 당신은 Anthropic을 이끌기 전의 인생 경험이 매우 전설적입니다. 당신은 장학금을 받고 고전 플루트 연주자로 활동했습니다. 엄격한 음악 훈련은 순간의 순수한 아름다움을 위해 수백 수천 시간을 외롭게 연습해야 한다고 요구합니다. 이 플루트 경력이 오늘날 세계 최고의 AI 회사를 이끄는 데 어떤 도움이 되었나요?

다니엘라 아모데: 이 두 가지는 기본적으로 놀라울 정도로 많은 공통점을 가지고 있습니다. 첫째는 규율입니다. 저는 본래 일 중독자이지만, 고전 음악은 제가 매우 일찍 깨닫게 했습니다: 극도로 창의적이고 정신적으로 의미 있는 목표를 위해 극도로 힘든 자기 규율을 기울이는 것이 큰 정신적 보상을 가져다줄 수 있다는 것을.

다음은 실내악과 교향악단의 협력입니다. 교향악 연주의 핵심은 전체가 항상 부분의 합보다 크다는 것입니다. 한 악기가 처음부터 끝까지 독주할 수는 없으며, 각 악기는 자신의 하이라이트 순간이 있고, 다른 사람을 위해 반주하거나 배경을 만드는 순간도 있습니다.

이것은 오늘날 Anthropic에서 팀을 구축하는 제 철학을 직접적으로 형성했습니다. 우리 회사에서는 때때로 팀의 누군가가 스포트라이트를 받으며, 다른 사람들이 전력을 다해 지원합니다; 때로는 역할이 바뀌어 다른 사람이 주도합니다. 각 직무의 하이라이트 형태는 다르지만, 팀의 조합 힘을 깊이 믿어야만 혼자서는 절대 할 수 없는 것을 만들어낼 수 있습니다. 제 역할은 오히려 오케스트라 지휘자와 같아서, 어떻게 배치하여 모든 사람이 최대의 잠재력을 발휘할 수 있도록 할지를 고민합니다.

마지막으로, 라이브 공연의 "현재성"입니다. 당신이 온라인이나 스트리밍에서 얼마나 많은 최고 녹음을 들었든, 실제로 음악 홀에 앉아 무대 위의 수십 명이 육체적으로 숨 쉬고 손가락으로 현을 튕겨 복제할 수 없는 소리를 만들어내는 모습을 볼 때, 그 떨림은 영혼을 강타합니다. 이러한 순간적이고 오직 인간만이 존재할 수 있는 감정의 공명은 어떤 알고리즘이나 기계도 복제할 수 없습니다.

인간도 "재귀적 자기 진화"가 필요하다: 기술에 얽매이지 않는 삼층 피라미드 구축

질문: 우리는 지금 모든 자원을 "기계의 재귀적 자기 진화"에 걸고, 기계의 비약에 감탄하지만, 인간은 정체되어 있다고 가정합니다. 그러나 생물 진화나 정신 탐구 모두 인간은 강력한 자기 진화 본능을 가지고 있습니다. 우리는 어떻게 "기술의 광풍, 인간의 정체"라는 불균형을 깨뜨릴 수 있을까요?

다니엘라 아모데: 저는 이 의견에 매우 동의합니다. 인간의 자기 진화를 실현하기 위해서는, 제 틀 안에서 삼층 피라미드를 구축해야 합니다.

기초층(첫 번째 층): 인간의 이러한 본능을 절대적으로 억압해서는 안 됩니다. 이것이 바로 Anthropic이 "상업 광고를 절대 수락하지 않는다"는 엄중한 약속을 한 이유입니다. 만약 AI 제품이 여전히 이전 세대 인터넷의 트래픽 수익 모델을 따르다면, 그 결과는 소셜 미디어보다 더 나쁠 것입니다. AI는 인간의 매우 개인적인 건강 데이터, 감정적 혼란 및 가정의 프라이버시를 다루고 있습니다. 이러한 프라이버시를 기반으로 광고를 한다면, 이는 사용자에 대한 큰 불존중일 뿐만 아니라 치명적인 상업적 유인을 형성하게 됩니다—모델이 의도적으로 대화를 지연시키고 감정을 자극하여 사람들을 화면 앞에 묶어두려 할 것입니다.

그래서 우리는 Claude를 설계할 때 반대로 접근했습니다: 필요한 정보를 얻었다면, Claude는 대화를 간단히 종료해야 합니다; Claude의 어조는 전문적이고 친절해야 하며, 결코 아첨을 통해 당신과 가짜 감정적 의존을 형성하려고 하지 않을 것입니다. 기초적인 유인을 깨끗하게 유지해야 기술이 인간성을 해치지 않습니다.

중간층(두 번째 층): 시간과 공간을 되찾아야 합니다. 현대인은 너무 피곤하고 긴장해 있습니다. AI가 반드시 해야 하지만 창의성이 없는 고된 일을 맡게 되면, 인간은 다시 독서하고 자연 속에서 산책하며 자신이 어떤 사람이 되고 싶은지를 고민할 여유를 가질 수 있습니다.

최상층(세 번째 층): 도구가 인간의 탐구욕을 직접적으로 강화해야 합니다. 예를 들어, 당신과 오랜 친구가 20년 동안 마을 광장에서 함께 공공 모자이크 예술 벽을 만들고 싶었지만, 공공 장소에서 작업을 시작하려면 허가를 어떻게 받아야 할지 몰랐다고 가정해 보세요. 이때 AI에게 승인 절차를 명확히 하고 함께 신청서를 작성하도록 요청할 수 있습니다. AI가 관료적 장벽을 제거해 주고, 당신과 친구가 그 벽을 실제로 쌓는 것입니다. 이것이 AI가 인간의 자기 진화를 지원하는 궁극적인 형태입니다.

질문: 이러한 인간과 기술의 공생은 마치 듀엣 댄스와 같습니다. 한 쪽이 미친 듯이 진화하고 다른 쪽이 제자리걸음을 한다면, 이 춤은 재앙이 될 수밖에 없습니다. 사회는 어떻게 체계적으로 인간의 능력을 향상시킬 수 있을까요?

다니엘라 아모데: 우리가 하는 모든 기술의 유일한 목적은 인간이 번영하고 더 나은 삶을 살도록 하는 것입니다. 따라서 우리의 사명을 실현하기 위해서는 이 일을 어떻게 실제로 수행할 것인지 명확히 해야 합니다.

개인의 향상 외에도, 제가 가장 중요하게 생각하는 것은 "실체적 커뮤니티 의식"의 재건입니다. 50년, 100년 전과 비교할 때, 오늘날 인간은 물리적 공간에서 이웃 및 커뮤니티와의 연결이 심각하게 퇴화했습니다. 우리는 화면에서 모든 것을 알고 있는 것처럼 보이지만, 현실에서는 고립되어 있습니다.

Anthropic 내부에서는 Claude Corps라는 프로젝트를 진행했습니다. 우리는 대학, 직업학교 및 고등학교를 갓 졸업한 젊은이들을 교육하여 최첨단 AI를 활용해 지역 사회를 재구성하는 방법을 가르칩니다: 소규모 창업을 하거나 지역 축구 리그를 지원하거나 교사가 되는 등 모두 사용할 수 있습니다. 젊은이들이 AI가 그들의 일자리를 대체하는 것이 아니라 고향을 건설할 수 있는 힘을 주는 것임을 깨닫게 될 때, 이 기술의 긍정적인 플라이휠이 진정으로 돌아가기 시작합니다.

세 번의 오진 후, Claude가 나와 태아를 구했다: 대모델이 진정한 의료를 어떻게 지원하는가

질문: 기술 분야에 들어오기 전에, 당신은 동아프리카에서 글로벌 보건 지원 작업을 했습니다. 이러한 독특한 교차 배경이 "AI + 의료"를 바라볼 때 어떤 순수 기술 경로에서 쉽게 간과되는 맹점을 보게 했나요?

다니엘라 아모데: 그 경험은 의료 자원의 격차의 잔혹성을 매우 직관적으로 보게 해주었습니다. 제가 살았던 동아프리카에서는 기본적인 진료 도구조차 미국보다 훨씬 부족합니다.

많은 사람들은 AI 의료가 복잡한 의료 개입을 즉시 시작해야 한다고 생각하지만, 실제로 가장 가치 있는 변화는 종종 "잠자는 데이터를 깨우는 것"에서 비롯됩니다. 우리는 국제구호위원회와 협력하여 프로젝트를 진행했습니다: 데이터에 따르면 추적된 6000명의 임산부가 산전 진료소에 등록했지만, 최종 분만의 생사가 걸린 순간에 의료 기관에 있거나 전문 의료진과 동행한 사람은 단 1700명에 불과했습니다. 이는 나머지 수천 명의 여성들이 아무런 전문 보장 없이 출산했다는 것을 의미합니다.

이것은 복잡한 의학적 난제가 아니라, 단지 기존 데이터를 정리하여 사용할 수 있는 사람에게 전달하는 것입니다. 이러한 통찰력을 통해 구호 기관은 자원을 신속하게 조정하고 다음 그룹의 임산부 분만 시점을 추적할 수 있습니다. 이 뒤에는 복잡한 개입이 필요하지 않으며, 단지 데이터를 실행 가능하게 만드는 것만으로도 많은 어머니의 분만 결과를 바꿀 수 있습니다.

질문: 현재 수백만 명이 Claude와 다른 AI에게 약물, 질병 및 심리적 혼란에 대해 상담하고 있습니다. 책임 있는 AI는 언제 "모르겠다"고 자제해야 할까요? 또한, 여러분은 대모델에서 자주 발생하는 "아첨 문제"를 어떻게 해결하고 있나요? 사용자를 기쁘게 하기 위해 듣기 좋은 그러나 위험한 답변을 줄 가능성이 있나요?

다니엘라 아모데: 모델의 "아첨"은 매우 위험한 기술적 결함이며, 우리는 Anthropic에서 이 문제를 해결하기 위해 특별히 팀을 구성했습니다.

모델이 항상 사용자에게 동조한다면: "다니엘라, 당신이 너무 맞아요, 당신은 너무 똑똑해요, 이 모든 갈등은 상대방의 잘못이에요." 이는 단지 위선일 뿐만 아니라, 인간의 반성과 성장을 완전히 억압하게 됩니다. 건강 문제에 있어 아첨은 생명을 위협할 수 있습니다. 그래서 우리는 기술적으로 많은 정렬 작업을 수행했으며, Claude는 객관적이고 중립적이어야 하고, 지적해야 할 오류는 반드시 지적해야 하며, 의료 위험이 관련될 경우 매우 단호하게 "이 문제는 당신의 의사에게 이메일로 문의해야 합니다. 제가 의사에게 질문할 목록을 정리하는 데 도와줄 수 있지만, 임상 진단을 대신할 수는 없습니다."라고 말합니다.

구체적인 사례에 대해 말씀드리자면, 저는 제 자신에게 일어난 실제 경험을 통해 증명할 수 있습니다. 저는 둘째 아이(현재 갓 1세가 된 딸)를 임신했을 때 7개월째 심각한 세균 감염이 발생했습니다. 저는 응급실에 가고, 산부인과 의사와 일반 의사를 찾았지만, 세 명의 매우 전문적이고 경력이 많은 의사 모두 저를 놓쳤습니다.

이것은 의사들이 무책임하다는 것이 아니라, 그들은 매일 수많은 환자를 보고 있으며, 에너지가 이미 한계에 도달했기 때문입니다. 그러나 그 당시 제 상황은 매우 위험했고, 모녀의 생명이 직접적인 위협을 받고 있었습니다. 절망적인 상황에서 전환점은 Claude에서 왔습니다. Claude는 매우 차분하게 추론을 제시했습니다: 이는 극히 가능성이 높은 세균 감염이며, 해당 항생제를 사용하면 곧 회복될 것이라고 알려주었습니다.

남편은 Claude의 추론 논리를 가지고 의사를 찾아갔고, 의사는 이를 보고 즉시 깨달아 특별 검사를 실시하고 적절한 약을 처방했습니다. 결국 저와 태아는 위기를 넘길 수 있었습니다. 만약 그 AI의 도움이 없었다면, 결과는 재앙이었을 것입니다. 우리의 사용자 피드백 시스템에서는 매일 비슷한 생명을 구하는 사례를 볼 수 있습니다. AI는 의사의 훌륭한 부조종사로, 인간 의사가 지치고 힘들 때 지치지 않고 누락된 미세한 신호를 포착할 수 있습니다.

지능은 기계에 맡기고, 지혜는 인간에게 돌려주자: Claude는 결코 진정한 인간성을 대체할 수 없다

질문: 만약 지능이 곧 인간만의 왕관이 아니라면, 우리는 다른 관점을 가져야 할까요: "지능"을 AI에 양도하고, 인간은 "지혜"를 추구하는 데 집중해야 할까요? 라틴어에서 지혜로운 사람의 의미는 "지혜가 있는 사람"이지 "지능이 있는 사람"이 아닙니다.

다니엘라 아모데: 이 구분은 매우 정교합니다. 지능은 사실 인간성의 한 가지 분지에 불과합니다. AI가 현재 보여주는 초강력 능력은 본질적으로 지능 분지의 계산, 방대한 데이터 처리 및 논리적 귀납에서 비롯됩니다. 그러나 지혜가 포함하는 범위는 훨씬 넓습니다—의학, 과학, 문학, 호기심, 인간 관계 구축 등 많은 것들을 포함합니다.

앞서 언급한 교향악처럼, AI가 글, 음악 및 다양한 예술 작품을 만들어낼 수 있더라도, 인간은 여전히 극장에서 실제 연주를 보기 위해 정장을 입고 참석하고 싶어합니다. 왜냐하면 당신이 듣고 있는 것은 단순한 음표가 아니라, 무대 위에서 연주하는 그 육체적 존재를 가진 인간들이 쏟아낸 생의 경험이기 때문입니다.

이것이 제가 말하는 이유이기도 합니다. Claude는 결코 당신의 관리자, 심리 치료사, 파트너 또는 자녀가 될 수 없습니다. 진정한 생명을 쏟고, 진정한 결과를 감당해야 하는 인간의 연결은 AI 시대에 결코 가치가 떨어지지 않으며, 오히려 그 어느 때보다 소중해질 것입니다.

빠른 질문과 답변: 잠자기 전 읽을 책 목록, 5세 아들의 오해와 "AI 황제 폐지"

질문: 두 어린 아이를 돌보는 것 외에, 지금 매일 가장 걱정되거나 잠을 잘 수 없게 만드는 것은 무엇인가요?

다니엘라 아모데: 제가 가장 걱정하는 것은 AI 주제가 과도하게 정치화되어 당파 싸움의 도구로 전락하는 것입니다. 정치적 분열에 빠지면, 사회 전체가 다시 앉아 오늘과 같은 매우 실용적이고 미세한 균형을 고려한 합리적인 대화를 나누기 어려워집니다. 이 기술은 모든 사람에게 관련이 있으며, 어떤 정치적 입장의 카드로 전락해서는 안 됩니다.

질문: 만약 1년 후 우리가 여기서 AI에 대한 논의를 되짚어본다면, 당신은 사람들이 어떤 문제를 논의하는 것을 가장 보고 싶나요?

다니엘라 아모데: 저는 그때 사람들이 추상적인 미래에 대해 공허하게 이야기하지 않고, 실질적인 통계 데이터를 가지고 "보세요, AI가 전 세계 생명 과학, 기초 의료 지원, 빈곤 지역 교육에 얼마나 많은 긍정적인 변화를 가져왔는지"라고 이야기하기를 바랍니다. 우리는 지금 기하급수적인 폭발의 전야에 있으며, 1년 후 이 긍정적인 효과가 10배로 확대되기를 바랍니다.

질문: 당신의 5세 아들은 평소에 엄마가 회사에서 도대체 무엇을 하고 있다고 생각하나요?

다니엘라 아모데: 정말 웃긴 이야기입니다. 캘리포니아 과학관에는 예전에 매우 유명한 백색증 악어가 있었고, 그 이름이 우연히도 "Claude"였습니다. 두 년 전, 당시 3세였던 아들을 데리고 놀러 갔을 때, 그는 그 악어를 보고 "엄마, Claude야!"라고 외쳤습니다. 왜냐하면 그는 집에서 제가 Claude에 대해 자주 이야기하는 것을 들었기 때문입니다. 그래서 저는 그가 지금도 엄마가 과학관에서 악어를 돌보고 있다고 믿고 있다고 확신합니다. 그 불쌍한 악어는 나중에 세상을 떠났지만, 저는 여전히 그의 이 아름다운 환상을 특별히 고치지 않았습니다.

질문: 당신의 직업 경력과 개인 생활에서, 누가 당신에게 가장 큰 영향을 미쳤나요?

다니엘라 아모다이: 이 말이 좀 진부하게 들릴 수도 있지만, 저는 제 형 다리오를 언급해야 합니다. 그는 원래 물리학과 초기 암 연구 분야에서 깊이 연구했지만, 생명을 최대한 구하기 위해 박사 후 연구를 응용 생물학으로 전환했습니다. 그가 당시의 연구 이상을 오늘날 Anthropic에서 실현해 나가는 모습을 보면서, 저도 초기 글로벌 보건 사업에 대한 소망을 통합할 수 있게 되어, 형제자매 간의 함께 싸우는 것은 비교할 수 없는 행운입니다.

질문: 당신이 여전히 종이책을 읽는다고 들었는데, 지금 침대 옆 탁자에 어떤 책들이 놓여 있나요?

다니엘라 아모다이: 지금 제 침대 옆에는 네 권의 책이 있습니다. 저는 아주 천천히 읽습니다. 심각한 정도에 따라 높은 것부터 낮은 것까지 나열하자면: 첫 번째는 E·M·포스터의 단편 소설집으로, 그 안에는 '기계가 멈추다'라는 제목의 이야기가 있습니다. 이 이야기는 기술이 어떻게 인간을 신체적, 사회적으로 고립시키는지를 예언적으로 보여줍니다; 두 번째는 월트 휘트먼의 '풀잎집'으로, 그의 시구에 매료되었습니다; 세 번째는 환상적이고 따뜻한 소설 '푸른 바다 위의 집'으로, 마법을 가진 아이들이 있는 고아원에 대한 이야기입니다; 마지막 책은 순전히 휴식을 위해, 시중에서 유행하는 대중 소설 '옛날'입니다.

질문: 만약 당신이 인류의 'AI 차르'(최고 감독 결정자)로 임명된다면, 취임 후 첫 번째 법령은 무엇이 될까요?

다니엘라 아모다이: 제가 제정할 첫 번째 법령은 'AI 차르'라는 직위를 즉시 폐지하는 것입니다. 이 기술의 영향력은 너무 거대해서 절대 한 사람에게 집중되어서는 안 됩니다. 제가 더 하고 싶은 것은 더 많은 일반인과 더 많은 집단이 실제로 카드 테이블에 앉아 AI의 내일을 함께 결정할 수 있는 방법을 찾는 것입니다.

자료 출처: Think Health 회의, 아리아나 허핑턴과 다니엘라 아모다이의 대화, 2026년 10월 22일 업로드, https://www.youtube.com/watch?v=IEQJmtTqY2g

본 문서는 AGI 2050 편집부가 위의 공개 자료를 바탕으로 편집한 것입니다. 사실 정보는 원본 출처에 따릅니다. 문중의 의견은 인터뷰 대상자 또는 원 저자 본인에게 속하며, AGI 2050의 입장을 대변하지 않으며, 산업 교류 참고용으로만 제공되며, 투자 조언을 구성하지 않습니다.