OpenAI와 Anthropic이 미국 중간 선거 전투실을 처음으로 설립합니다

세마포르의 보도에 따르면, OpenAI와 Anthropic은 미국 중간 선거를 위해 처음으로 전담 작전실을 설립하여 각자의 플랫폼이 정확한 선거 정보를 제공하도록 할 것입니다. Anthropic 대변인은 회사의 각 팀이 연중 내내 선거 관련 방어를 강화하고 플랫폼 정책을 시행하고 있으며, 선거 전 설립된 전담 팀이 플랫폼 남용 상황을 모니터링하고 긴급 상황에 신속하게 대응할 준비를 하고 있다고 밝혔습니다.

기술 플랫폼이 선거 작전실을 설립하는 방식은 2018년으로 거슬러 올라가며, 당시 메타는 선거와 관련된 허위 정보 확산에 대응하기 위해 처음으로 이러한 팀을 설립했습니다. 현재 관련 위험에는 딥페이크 비디오와 AI 검색을 통한 잘못된 정보 전파가 포함됩니다. 보도에 따르면, 구글 AI 모드는 지난주 2020년 미국 대통령 선거에서 누가 승리했는지에 대한 질문에 답변하지 않았으며, 구글은 이를 수정 중이라고 밝혔습니다.

AI 출력은 예측하기 어렵고, 최근 사이버 보안 문제와 AI 검색 도구가 사용자 기대에 부응하는 경향이 있어 모니터링 및 대응의 난이도를 증가시킵니다. 메타의 전 공공 정책 책임자인 케이티 하바스는 작전실의 역할은 예측하기 어려운 문제가 발생했을 때 정해진 프로세스에 따라 신속하게 평가하고 등급을 매기는 것이라고 말했습니다.