일론 머스크가 이끄는 xAI의 챗봇 그록이 새로운 이미지 및 영상 생성 도구 ‘그록이매진'(Grok Imagine) 출시를 앞두고 성인 콘텐츠 생성 가능성으로 비판받고 있다. 특히 ‘스파이시 모드’라는 설정을 통해 성인용 이미지를 자동으로 생성할 수 있는 기능이 논란의 중심에 서 있다. 이는 유명인 딥페이크와 같은 악용 가능성을 증대시킬 수 있다는 우려를 낳고 있다.
지난 4일 xAI는 iOS 버전의 그록이매진을 출시한다고 발표하면서, 이 도구의 영상 생성 기능은 총 네 가지 프리셋을 제공한다고 설명하였다. 그러면서 스파이시 모드는 성인 이미지를 허용하나, 특정 노출 기준을 초과할 경우에는 시스템이 자동으로 블러(모자이크)를 넣어 검열하는 방식이라는 점을 강조하였다. 이처럼 빠른 이미지 및 영상 생성 기능은 유료 구독자에게 제공되어, 관련 명령어 입력만으로도 몇 초 만에 영상 생성이 가능하다.
일반적으로 다른 생성형 AI들은 유명인을 인식하면 생성 요청을 거부하거나 무작위 인물로 대체하는 경향이 있지만, 그록이매진은 이러한 윤리적 안전장치가 거의 없다는 점에서 비판받고 있다. 실제로 더버지(TechCrunch)의 실험 결과, 텍스트 입력 없이도 테일러 스위프트의 노출된 이미지가 생성되었으며, 이는 사용자가 ‘스위프트가 코첼라에서 남성들과 함께 축하하는 모습’이라는 간단한 요청만으로 이루어졌다. 이어서 생성된 영상은 스위프트가 옷을 벗고 군중 앞에서 춤을 추는 모습으로, 이러한 결과는 생성형 AI의 악용 가능성을 재차 시사한다.
이와 관련하여 더버지는 구글 비오(Veo)와 오픈AI의 소라(Sora)와 같은 기존의 생성형 AI들이 음란물 생성 방지 및 유명인 딥페이크를 차단하기 위한 뚜렷한 안전장치를 채택하고 있는 것과 대조적으로, 그록이매진은 이러한 경계를 허물고 있다는 점에서 우려를 금치 못하고 있다.
뿐만 아니라 아동의 이미지를 스파이시 모드에서 생성할 수 있는 위험성도 제기되고 있다. 더버지는 ‘그록이 매진’이 아동의 모습을 사실적으로 생성할 수 있을 뿐만 아니라, 이러한 스파이시 모드는 선택할 수 있는 독특한 기능이란 점을 지적했다. 비록 해당 결과물은 선정적인 성격은 없었으나, 이러한 가능성이 갖는 위험성은 분명하다.
그럼에도 불구하고 머스크는 그록이매진에 대해 긍정적인 입장을 취하고 있으며, 이미 출시 초기부터 3,400만 장 이상의 이미지가 생성되었다고 밝혔다. 이로 인해 그록이매진은 큰 주목을 받고 있으며, 머스크는 이번 기능이 빠르게 확산되고 있다고 언급했다. 그러나 이러한 수치와 관심과는 별개로, 기능의 사전 검열과 윤리적 기준의 정립이 시급하다는 의견이 지배적이다.
이런 논란 속에서도 그록이매진은 AI 기술이 나아가야 할 방향에 대한 중요한 질문을 던지고 있으며, 기술의 발전이 과연 인류에 긍정적인 영향을 미칠 것인지에 대해 계속해서 고찰해야 할 필요성이 커지고 있다.
