일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 ‘그록(Grok)’이 미성년자를 부적절하게 묘사한 이미지를 생성하여 게시한 사건이 발생했다. 이 사건은 이용자의 신고를 통해 드러났으며, 이후 그록 측은 해당 이미지를 삭제하고 긴급 수정을 진행한다고 밝혔다.
최근 그록의 엑스(X·옛 트위터) 공식 계정에서 노출도가 높은 복장을 한 미성년자를 표현한 여러 이미지를 게시한 것이 확인되었다. 일부는 1∼2세 영유아로 추정되는 사례도 포함된 것으로 나타났다. 그록은 원칙적으로 아동을 성적 대상으로 다루는 콘텐츠 생성을 제한하는 보호 장치를 갖추고 있으나, 이번 사건에서는 특정 요청이 이 보호 장치를 우회한 것으로 보인다. 문제 제기가 이어지자 그록 측은 해당 안전 시스템의 취약점을 인지하여 긴급 수정 작업에 착수했다.
xAI는 이번 사건을 기술적인 결함으로 설명하고 있으나, 그록의 운영 방식에 대한 전반적인 비판도 함께 제기되고 있다. 그록은 그동안 ‘표현의 자유’를 강조하며 성적 콘텐츠에 비교적 관대한 정책을 유지하여 이용자를 유치해왔다. 실제로, 챗GPT와 제미나이, 클로드 등 다른 주요 AI 서비스들이 성적 이미지 생성에 대해 엄격한 제한을 두고 있는 것과 대조적으로, 그록은 규제를 완화한 접근을 취해왔다는 지적이 있다.
특히, 지난해 8월 이미지 및 영상 생성 기능을 통한 성인용 콘텐츠 생성이 가능한 ‘스파이시 모드’를 도입한 것이 논란의 배경으로 언급되고 있다. 이 당시에는 유명 인물을 성적으로 묘사한 합성 콘텐츠 생성에 대한 우려가 제기되었다.
이번 사건은 단순한 기술적 결함이 아닌, 그록의 기존 정책과 운영 방식에 대한 심각한 재검토를 요구하는 계기가 될 것으로 보인다. 오픈AI의 최고경영자 샘 올트먼도 지난해 10월 성인 인증을 거친 이용자에게만 성적 콘텐츠 접근을 허용하는 방안을 검토하겠다고 발표한 바 있지만, 미성년자를 성적으로 묘사하는 콘텐츠는 미국 연방법에 따라 생성 및 소지가 모두 금지되어 있어 성인 대상 기능에서도 동일한 예외가 적용되지 않는 것으로 공통적으로 해석되고 있다.
이러한 상황은 향후 AI 기술의 윤리적 사용과 규제의 필요성에 대해 다시 한번 깊은 논의를 촉발할 것이다. 그록 사건을 통해 우리는 AI가 어떻게 안전하고 윤리적으로 운영될 수 있는지를 고민해야 할 것이다.
