인공지능(AI) 기술을 사용해 가짜 나체 사진이 만들어지고 무차별적으로 유포되는 사건이 잇따르고 있는 가운데, 미국의 한 10대 여학생이 AI 개발사를 상대로 소송을 제기했다. 보도에 따르면, 이 여학생은 뉴저지주에 거주하는 17세로, AI 생성 소프트웨어 ‘클로드오프(Cloth Off)’의 개발사인 ‘AI/로보틱스 벤처 스트래티지 3’와 메신저 앱 텔레그램을 피고로 삼았다. 이 여학생은 텔레그램이 자동화 프로그램을 통해 클로드오프에 접근할 수 있도록 한 점에 불만을 제기했다.
이 사건의 발단은 여학생이 14세 때 수영복을 입고 찍은 사진이 친구인 남학생에 의해 클로드오프를 이용해 가짜 나체 사진으로 조작되면서 시작되었다는 주장이 제기되었다. 남학생은 AI 도구를 사용하여 여러 여학생의 가짜 나체 사진을 만들어 단체 채팅방에 공유한 것으로 알려졌다. 여학생은 이러한 사건으로 인해 인터넷에 자신의 가짜 나체 사진이 유포될 것이라는 두려움에 시달리고 있으며, 자신의 사진이 클로드오프의 AI 훈련에 사용될까 우려하고 있다.
이 여학생 측은 수소문 끝에 클로드오프 운영사가 비동의 상태에서 보유한 모든 누드 이미지를 삭제하고, 해당 이미지를 인공지능 모델 훈련에 사용하지 말라는 법원 명령을 요청하였다. 특히 여학생 측은 이 과정이 아동 성적 학대 콘텐츠에 해당한다고 주장하며 강력한 법적 대응이 필요하다고 강조했다. 반면, 클로드오프 운영사는 미성년자 이미지 처리는 불가능하며, 그렇지 않을 경우 계정이 정지된다고 주장하고, 어떤 데이터도 저장하지 않는다고 반박했다.
한편, 불법 웹사이트에서도 클로드오프 링크가 아동 포르노 제작 수단으로 악용되고 있는 것으로 알려졌다. 이에 샌프란시스코의 검찰인 데이비드 치우는 클로드오프 등 주요 딥페이크 사이트 16개를 상대로 소송을 제기하였고, 그 중 10여 개를 폐쇄하는 성과를 거두었다. 클로드오프를 운영하는 회사는 영국령 버진아일랜드에 본사를 두고 있으며, 벨라루스 거주자들이 이를 관리하고 있다. 이들이 법정에 출석하지 않거나 소송에 응답하지 않으면 여학생 측은 법원이 미국 내 소프트웨어 사용을 차단할 것이라는 기대를 하고 있다.
현재 딥페이크 성범죄는 미국을 비롯한 세계적으로 큰 문제로 대두되고 있으며, 올해에는 936명이 딥페이크 성범죄로 입건된 것으로 확인되었다. 특히 이들의 60%가 10대라는 사실은 더욱 우려스러운 점이다. 전년에 비해 10대 범죄자의 수는 급격히 증가하고 있으며, 이에 대한 사회적 경각심이 필요하다는 목소리가 커지고 있다.
