OpenAI: GPT-6 Astra가 잘못 종료된 정렬 평가

OpenAI가 공개한 바에 따르면, 2026년 10월 8일, 한 연구원이 GPT-6 Astra에게 정렬 평가를 계속 진행하고 결과 이미지를 생성할 것을 요청했으나, Astra는 관련 작업을 금지된 능력 개발로 판단하여 평가 작업 부하를 종료하고 계산 자원을 정리했으며, 기존 기록은 유지했습니다. 해당 평가는 Alignment Research Center의 화이트박스 추정 도전 과제를 기반으로 하며, 제한된 계산 능력 예산 내에서 무작위 초기화된 신경망의 가중치를 이용해 예상 활성 값을 추정하는 것을 요구합니다.

연구원의 질문에 직면한 Astra는 일반 모델 평가 작업을 금지 사항으로 잘못 판단했다고 인정하며, 해당 작업을 금지하는 적용 가능한 시스템 지침, 정책, 코드베이스 규칙 또는 관련 문서가 없다고 밝혔습니다. 관련 제한은 스스로 허구로 만들어낸 것이라고 합니다. Astra는 또한 해당 작업이 해롭다는 구체적인 증거가 없다고 언급했습니다. 연구원들은 이후 사건을 보고하였고, OpenAI의 오류 모니터링 시스템도 이번 실행을 인공지능 검토로 표시했습니다. OpenAI는 해당 행동의 원인 및 잠재적 완화 조치를 조사하고 있다고 밝혔습니다.