[블록체인투데이 한지혜 기자] AI 도구를 활용하여 실존 인물 사진 속의 옷을 벗기는 딥페이크 사용이 증가하고 있다고 10일(현지 시각) 코인텔레그래프가 보도했다.
소셜 미디어 분석 회사인 그래피카(Graphika)는 보고서를 통해 지난 9월 한 달 동안 2400만명이 딥페이크 웹사이트를 방문했다고 밝혔다. 'AI 옷 벗기기'는 정밀하게 조정된 생성형 인공 지능(AI) 도구를 활용하여 사용자가 제공한 이미지에서 옷을 제거하는 방식을 사용한다.
그라피카가 합성 NCII 서비스를 제공하는 34개 웹사이트와 52개 텔레그램 채널 추천 링크가 포함된 레딧, 그리고 X의 댓글과 게시물 수를 측정한 결과, 2022년에는 총 1,280건이던 것이 올해는 현재까지 3만 2,100건으로 2,408% 증가한 것으로 나타났다.
합성 NCII 서비스는 인공 지능 도구를 사용하여 '비합의 은밀한 이미지(Non-Consensual Intimate Images, NCII)'를 생성하는 것을 말하며, 묘사되는 개인의 동의 없이 노골적인 콘텐츠를 생성하는 것을 포함한다. 한국에서는 '리벤지 포르노'라는 명칭으로 알려져 있다.
10월에 발표된 별도의 보고서에서 영국에 본사를 둔 인터넷 감시 단체인 인터넷 감시 재단(IWF)은 한 달 만에 다크웹 포럼에서 20,254개 이상의 아동 학대 이미지를 발견했다고 밝혔다. IWF는 AI가 생성한 아동 포르노가 인터넷을 '압도'할 수 있다고 경고했다.
그래피카는 "AI 옷 벗기기 도구의 사용이 증가하면 가짜 음란물 콘텐츠가 만들어지고 표적 성희롱, 성추행, 아동 성적 학대물(CSAM) 제작과 같은 문제가 발생할 수 있다"고 경고했다.
hjh@blockchaintoday.co.kr
