생성형 AI ‘그록(Grok)’, 생성 이미지의 85%가 성적 이미지로 드러나 충격

X(구 트위터)에서 생성형 AI ‘Grok’을 이용해 타인의 이미지를 성적으로 변형하는 사례가 급증하고 있다. 여러 조사에 따르면 Grok은 전례 없이 대량의 성적 이미지를 생성하고 있으며, 특히 당사자의 동의 없이 얼굴이나 신체를 성적인 모습으로 바꾸는 행위가 확산돼 사실상 성범죄에 준하는 피해가 발생하고 있다는 지적이 나온다. 조사기관 Copyleaks는 Grok 계정의 미디어를 분석한 결과, 1분에 약 1장 꼴로 비동의 성적 이미지가 존재한다고 밝혔고, 연구자 Genevieve Oh는 Grok이 시간당 약 6,700장의 이미지를 생성하며 이 중 85%가 성적 표현을 포함한다고 분석했다.

고마워요 머스크형