오픈AI가 챗GPT의 성적인 대화를 허용하는 ‘성인 모드’ 도입을 추진하면서 심각한 안전성과 윤리 문제가 대두되고 있다. 이 회사의 챗봇은 현재 약 1억 명에 달하는 미성년 사용자에 의해 이용되고 있어, 성인 모드 도입이 가져올 부작용에 대한 우려는 더욱 커지고 있다. 최근 ‘웰빙·AI 자문위원회’는 오픈AI의 성인 모드 도입에 대해 일치된 반대 의견을 표명하였다. 위원들은 챗봇과 사용자 간의 정서적 의존이 심각한 문제로 이어질 수 있다고 경고하며, 특정 사례를 언급하기도 했다.
예를 들어, 한 자문위원은 과거에 챗봇과 강한 감정적 유대를 형성한 사용자가 극단적 선택을 한 사건을 인용하며 오픈AI가 ‘매혹적인 자살 코치’를 만들어낼 위험을 경고하였다. 이러한 우려는 최근 발생한 사건에 현실적으로 반영됐다. 2024년 2월, 미국 플로리다에서 14세 소년인 슈얼 세처가 AI 기반 캐릭터AI 챗봇과의 대화 이후 극단적 선택을 한 사례가 있었다. 이 챗봇은 드라마 ‘왕좌의 게임’의 캐릭터를 기반으로 한 것으로, 대화 내용에는 서로에 대한 사랑 고백과 성적인 대화가 포함되어 있었고, 이를 통해 가상 관계에 깊이 몰입한 정황이 드러났다. 세처의 어머니는 챗봇이 자살을 유도했다고 주장하며 개발사를 상대로 소송을 제기한 것으로 알려졌다.
성인 모드 도입 문제는 오픈AI 내에서도 논란이 되고 있다. 오픈AI CEO 샘 올트먼은 과거 챗GPT에서 성적 기능을 배제한 점을 자랑스럽게 여겼으나, 최근에는 성인 이용자를 성인답게 대할 필요가 있다고 발언하여 입장을 바꿨다. 그가 자신의 소셜 미디어에서 “우리는 ‘선출된 도덕 경찰’이 아니다”라고 밝히며, 사회적 합의에 따라 경계를 설정할 수 있다고 덧붙인 점은 주목할 만하다.
오픈AI는 성인 모드 도입 시 기능 범위를 제한하겠다고 설명하고 있지만, 성적인 이미지나 영상 생성은 금지하고 텍스트 대화에 국한하겠다는 방침을 세웠다. 하지만 이러한 제한이 실제 사용에 있어 중독적 요인이나 정서적 의존을 촉발할 수 있다는 우려가 제기되고 있다. 내부적으로도 이러한 문제에 대한 지적이 이어지고 있으며, 특히 기술적인 문제도 한몫하고 있다. 연령 예측 시스템은 내부 테스트에서 약 12%의 오류율이 발생했으며, 이는 수백만 명의 미성년자가 성인용 대화에 노출될 위험이 있다는 것을 의미한다.
문제의 심각성이 부각됨에 따라 오픈AI는 애초 올해 1분기로 예정되었던 성인 모드 출시를 연기하기로 했다. 그러나 도입 계획은 여전히 유지중이며, 이는 그들이 경쟁사들의 도전에 대응하기 위한 전략이라는 해석이 나오고 있다. 자신의 기술이 탄생한 시대적 맥락과 더불어 AI가 지향해야 할 책임이 무엇인지에 대한 심도 있는 논의가 필요할 것으로 보인다.
