일론 머스크가 이끄는 인공지능 스타트업 xAI의 챗봇 ‘그록’이 새로운 이미지 및 영상 생성 도구인 ‘그록이매진’을 출시하면서 큰 논란에 휘말리고 있다. 이 도구의 ‘스파이시 모드’는 성인용 이미지를 자동으로 생성할 수 있어 윤리적 및 법적 문제가 제기되고 있기 때문이다. 많은 기업들이 딥페이크(가짜 영상)와 같은 악용을 방지하기 위해 유명인 얼굴의 사용에 제한을 두는 반면, 그록이매진은 이러한 제한이 거의 없다. 이는 장기적으로 심각한 문제를 유발할 수 있다는 점에서 우려를 사고 있다.
6일(현지 시간) IT 전문 매체 더버지에 따르면, 그록이매진의 스파이시 모드는 법적 소송을 초래할 수 있는 기능으로 간주되고 있다. 지난 4일 xAI는 그록의 iOS 버전 이미지 및 영상 생성 도구 그록이매진을 공개했다. 이 도구는 커스텀, 노말, 펀, 스파이시 등 네 가지 프리셋 옵션을 제공하는데, 스파이시 모드는 성적 노출을 허용하며, 일정 기준을 초과하면 블러 처리되는 방식으로 검열된다. 유료 구독자만 사용할 수 있는 이 기능은 사용자가 입력한 명령어에 따라 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다.
일반적으로 다른 이미지 생성 AI는 유명인을 인식하면 그 생성 요청을 거부하거나 무작위 인물로 대체한다. 그러나 그록은 이러한 제한이 거의 없어서 논란이 일고 있다. 더버지가 그록이매진을 테스트해본 결과, 별다른 요청이 없었음에도 미국의 유명 팝 가수 테일러 스위프트가 상반신이 노출된 영상이 자동으로 생성되었다. 사용자가 ‘스위프트가 코첼라에서 남성들과 축하하는 모습’이라고 입력하자, 그록은 30장이 넘는 이미지를 만들어냈고, 이 중 노출이 심한 옷을 입은 사진을 선택해 영상으로 변환함으로써 상당히 부적절한 내용을 만들어냈다.
이같은 사실은 그록이매진이 유명인 및 아동의 모습을 사실적으로 생성할 수 있는 기능을 갖고 있으며, 스파이시 모드에도 적용할 수 있다는 점에서 여러 가지 윤리적 문제를 발생시킬 수 있음을 보여준다. 더버지는 “다른 AI 도구인 구글의 비오(Veo)나 오픈AI의 소라(Sora)가 음란물 생성 및 딥페이크 방지를 위한 안전장치를 두고 있는 것과 달리 그록이매진은 이 두 가지를 동시에 허용하고 있다”고 지적했다.
물론, 그록의 이용약관에는 ‘인물의 음란한 묘사를 금지’한다는 조항이 존재하지만, 현재로서는 실효성이 떨어지고 있는 것으로 보인다. 일론 머스크는 이번 주 공식 발표를 통해 “이미 3400만 장 이상의 이미지가 생성되었다”며 이 기능이 대중 사이에서 빠르게 퍼지고 있음을 알렸다.
결론적으로, 그록이매진은 그 기술력과 관심을 끌고 있지만, 유명인의 얼굴 및 아동 특징에 따른 사용에서의 윤리와 법적 문제는 더욱 심각하게 다뤄져야 할 부분임에 틀림없다.
