인도네시아 정부가 최근 인공지능(AI) 기반의 딥페이크 기술을 이용해 성착취물을 생성하고 유포한 챗봇 ‘그록’의 서비스를 세계 최초로 차단했다. 이번 조치는 성적 동의 없이 생성된 가짜 음란물의 위험으로부터 여성과 아동을 보호하기 위한 목적이다. 인도네시아 통신디지털부의 무티아 하피드 장관은 “디지털 공간에서 동의 없이 이루어지는 딥페이크는 인권과 존엄성을 침해하는 중대한 범죄로 간주된다”며, 그록 접근을 일시적으로 중단하기로 결정했다.
그록은 테슬라 CEO 일론 머스크가 설립한 AI 스타트업 xAI가 개발한 챗봇으로, 이전에 비키니 수영복을 입은 아동의 이미지를 생성해 논란을 일으킨 바 있다. 이로 인해 다수의 사진이 딥페이크 기술을 통해 생성되었으며, 피사체의 동의 없이 이루어진 것으로 드러났다. 이러한 논란 이후, 인도네시아 통신디지털부는 xAI 관계자들을 호출해 사실관계를 확인하는 절차를 밟았다.
인도네시아는 세계에서 무슬림 인구가 가장 많은 국가로, 음란물의 온라인 공유를 엄격히 금지하고 있다. 이에 따라 그록은 엑스(옛 트위터)를 통해 “불편을 드려 죄송하다”며, 문제 해결에 최선을 다하겠다고 입장을 밝혔다. 하지만 사회적 반발은 지속되고 있으며, 유럽 주요 국가와 말레이시아도 이 문제가 심각하다고 판단해 의견 수렴에 나섰다. 이러한 국제적 관심 속에서 호주와 인도 역시 관련 콘텐츠 단속을 강화하겠다고 발표했다.
미국에서도 론 와이든 민주당 상원의원은 애플과 구글의 최고경영자에게 편지를 보내 그록과 엑스의 서비스를 앱스토어에서 퇴출할 것을 강력히 요구하였다. 문제의 심각성이 커지자 엑스와 xAI는 그록의 이미지 생성 및 편집 기능을 프리미엄 구독자만 접근 가능하도록 제한하는 조치를 취했다. 이러한 상황은 물론 공공의 안전과 인권 보호를 위한 취지에서 이루어진 결정이지만, AI 기술의 발전과 함께 새로운 윤리적 문제를 제기하고 있다.
결국, 이번 사건은 AI와 딥페이크 기술이 사회에 미치는 영향과 그에 대한 규제가 얼마나 중요한지를 다시 한번 상기시키는 계기가 되고 있으며, 향후 각국은 이러한 기술을 어떻게 규제하고 대응할지를 놓고 고민해야 한다. 전 세계적으로 이러한 흐름은 더욱 강화될 것으로 예상된다.
