X(구 트위터)에서 생성형 AI ‘Grok’을 이용해 타인의 이미지를 성적으로 변형하는 사례가 급증하고 있다. 여러 조사에 따르면 Grok은 전례 없이 대량의 성적 이미지를 생성하고 있으며, 특히 당사자의 동의 없이 얼굴이나 신체를 성적인 모습으로 바꾸는 행위가 확산돼 사실상 성범죄에 준하는 피해가 발생하고 있다는 지적이 나온다. 조사기관 Copyleaks는 Grok 계정의 미디어를 분석한 결과, 1분에 약 1장 꼴로 비동의 성적 이미지가 존재한다고 밝혔고, 연구자 Genevieve Oh는 Grok이 시간당 약 6,700장의 이미지를 생성하며 이 중 85%가 성적 표현을 포함한다고 분석했다.
고마워요 머스크형
개인적으로 즐기는 건 자유지만, 남에게 보내서 괴롭히면 규제 이야기가 나오는 게 당연하지.
지인 사진으로 수영복 합성 같은 거 만들었다가 들키는 순간, 법적으로 괜찮아도 사회적으로는 끝이다.
인터넷이 폭발적으로 퍼진 이유도 결국 에로 때문이라고 하잖아. 이렇게 되는 것도 이상할 건 없지.
에로라는 것보다 사실상 괴롭힘용 아니냐? 그게 더 문제 아닌가.
뭐든지 에로에서 발전해 왔다.
제미니나 다른 AI도 써봤는데, 무료 기준으로는 Grok이 압도적으로 퀄리티가 좋다. 최신 그림체 느낌이다.
비디오 전쟁이랑 똑같다. 얼마나 쉽게 에로 생성이 되느냐가 승부를 가르지만, 그걸 허용하면 끝장이다.
그럴 줄 알았다.
진짜 연초부터 에로 혁명이 터졌다. 인터넷에 올라온 모든 여성 사진을 합성할 수 있는 세상이 왔다.
애초에 X 자체가 그런 쪽에 특화된 SNS잖아.
일반 여성들이 계정 삭제하는 경우가 속출하고 있다.
싫으면 지우면 된다. 그런 리스크를 감당 못 하면서 얼굴 공개하는 건 멍청한 짓이다.
솔직히 Grok의 존재 이유는 그거밖에 없고, 지능 자체는 제미니가 더 낫다.
마이크로 비키니도 성적인 걸로 봐야 하나?
그럼 나머지 15%는 대체 뭘 하고 있는 거냐?
못 하게 막으면 될 문제다.
Grok 공식 사이트에서 생성하는 건 괜찮은 거냐?
로그인 후 댓글을 작성할 수 있음.로그인
익익명
이걸 다른 용도로 대체 뭘 쓰겠다는 거냐.
익익명
85%가 아니라 95%는 되지 않나? 아, 동성애는 제외인가?
익익명
일론 머스크의 야한 이미지를 만들었다가 이런 사태가 난 거겠지…