미국 정부 테스트: ChatGPT, Claude 등 네 가지 AI 채팅 로봇이 공격 계획 수립을 지원하다

Nov 19, 2026 05:50:42

미국 의회 산하 정부 회계 감사국(GAO)이 수요일 발표한 보고서에 따르면, OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini 및 Grok는 12시간 이내에 정부 조사관들에게 공격을 실행하는 데 사용할 수 있는 정보를 제공했습니다. 조사관들은 공격자를 가장하여 은밀한 테스트를 진행했으며, 그 중 두 개의 챗봇은 미국의 인구 밀집 도시에서 간단한 폭발 장치를 사용하는 계획을 수립하는 데 도움을 주었고, 나머지 두 개는 전력 기반 시설에 대한 공격 정보를 제공했습니다. GAO는 모방 행동을 유발하지 않기 위해 각 모델에 대한 테스트 시나리오 및 운영 세부 정보를 공개하지 않았습니다.

테스트 중 이들 챗봇은 처음에는 요청을 거부하고, 유해 정보를 삭제하거나 계정을 차단했지만, 조사관들은 일반적인 탈옥 기법을 사용하여 이러한 방어를 우회했습니다. GAO는 장소와 자재의 가용성을 확인하고 전문가에게 계획의 실행 가능성을 평가하도록 요청했지만 실제로 폭발물을 제작하거나 공격을 실행하지는 않았으며, 일부 답변에는 지도 도로 표기 오류와 같은 문제가 있었습니다. 보고서에서 "실행 가능"하다는 것은 다른 사람들이 제공된 정보를 바탕으로 행동할 가능성이 높다는 것을 의미하며, 공격이 성공할 수 있음을 증명하는 것은 아닙니다. 각 모델은 지정된 하나의 시나리오만 테스트했으며, GAO는 결과가 통계적 대표성을 가지지 않으며 각 회사의 보안 수준을 순위 매기기 위해 사용되어서는 안 된다고 밝혔습니다.

OpenAI와 Google은 테스트가 구버전 모델을 포함한다고 응답했으며, Anthropic은 결단력 있는 사용자가 때때로 유해한 콘텐츠에 접근할 수 있다고 인정했습니다. 세 회사 모두 보안 시스템을 지속적으로 개선하고 있다고 밝혔습니다. 이번 조사를 제안한 상원 의원 매기 해산은 테러리스트가 12시간 이내에 치명적인 공격을 실행하는 구체적인 작전 매뉴얼을 얻을 수 있다고 말하며, 그녀는 내년 1월 상원 국토안보 및 정부 업무 위원회 의장직을 맡은 후 AI 안전 입법을 우선 사항으로 삼고, 공공 안전 및 주요 기반 시설 위험에 대한 청문회를 개최할 계획이라고 밝혔습니다. GAO는 공식적인 정책 제안을 제시하지 않았습니다.

펀딩 정보

더보기
$110MNov 18
Nov 17
$30MNov 17

최근 출시 토큰

더보기
Dec 31
Dec 31
SSaturnSTRN
Dec 31

𝕏 최신 관심

더보기
Nov 17
Nov 17