지난 7일, 'OO조아' 닉네임으로 "윤어게인!" 등 파면 당한 전 대통령 윤석열씨를 옹호하는 글을 올려온 '여성' 계정이 남성이었다는 사실이 언론보도를 통해 알려졌다. 해당 계정은 20대 여성인 것처럼 영상을 여러개 올렸으나 가짜 계정이었다. 계정에 대해 AI가 아니냐는 의문이 제기되자 해당 계정주는 "OO조아는 남자"라며 사과문을 게시했다.

프레시안은 지난 9일 <'미모의 윤어게인 여성' AI 영상이 말해주고 있는 것들>이라는 칼럼에서 "아름다운 여성을 대상화해서, 극우 세계관을 집어 넣어 사람들을 '피싱'하고 있는 셈"이라고 지적했다. 

최근 이처럼 '여성에 대한 왜곡된 인식과 기술이 결합한 결과'에 대한 우려는 점점 커지고 있다. 지난 6일 서울여성플라자에서 열린 <AI가 가져올 사회변화, 젠더로 묻다> 라운드테이블에서도 이같은 문제는 지적됐다. 김수아 서울대 언론정보학과 교수는 당일 발제에서 X의 자체 AI인 Grok을 통해 이용자들이 여성 누드 이미지를 만들고 있다고 지적했다.

조경숙 도토리랩스 대표는 이날 발제에서 최근 인터랙티브 AI 콘텐츠 플랫폼 '제타'(ZETA)의 사례를 들면서 해당 플랫폼에서 가장 인기를 끄는 캐릭터 '일진녀 수현'을 언급했다. 과거 '이루다' 사건으로 인해 여성형 AI 챗봇에 대한 성희롱이 문제가 됐으나 해당 현상은 지속적으로 반복되고 있다는 것이다.