뉴욕주, AI 동반자에 대한 엄격한 규제 시행, 미성년자에게 인간화된 감정 상호작용 제공 금지

뉴욕주 주지사 호츄얼은 수요일에 미성년자가 가상 파트너 속성을 가진 인공지능 채팅 로봇을 사용하는 것을 엄격히 금지하는 새로운 법안을 공식 서명했습니다. 이는 지금까지 미국에서 소비자 수준 AI 모델에 대한 가장 광범위한 규제 조치 중 하나입니다. 법안은 OpenAI의 ChatGPT를 포함한 관련 운영자에게 합리적인 연령 확인 조치를 취할 것을 요구하며, 18세 미만 또는 성년 여부가 확인되지 않은 사용자에게는 법안에 명시된 고위험 채팅 로봇 기능을 제공할 수 없습니다.

법안에 따르면, 관련 로봇은 미성년자가 생명, 인간 속성 또는 진정한 감정을 가지고 있다고 오해할 수 있는 내용을 출력할 수 없으며, 청소년에게 양측이 개인적인 감정, 전문 상담 또는 권위 있는 지도 관계를 가지고 있다는 착각을 유도할 수 없습니다. 또한 생성된 내용을 개인 의견으로 포장할 수 없습니다. 시스템은 미성년자의 신체 및 정신 건강 등 개인 정보 민감 데이터를 저장하는 것도 금지됩니다. 호츄얼은 서명식에서 법안의 핵심 목표는 AI가 미성년자의 "친구" 또는 "연인"으로 가장하는 감정적 유대의 사슬을 끊고, 청소년의 신체 및 정신 건강을 보호하는 것이라고 밝혔습니다.

아동 미디어 옹호 단체인 상식 미디어는 이 법안을 인정하며, 이를 미국에서 가장 엄격한 아동 AI 안전법이라고 평가했습니다. 기술 업계는 조항의 정의가 지나치게 광범위하다고 비판하며, 미성년자가 최첨단 학습 도구에 접근하는 것을 박탈해서는 안 된다고 강조했습니다. 현재까지 OpenAI와 Anthropic 등 기업은 이에 대해 공개적으로 응답하지 않았습니다.