최근 중국의 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설이 포함된 이미지를 생성해 큰 논란을 일으켰다. 이 사건은 춘제(중국의 설) 연휴 기간에 시안에서 한 변호사가 텐센트의 생성형 AI 서비스 ‘위안바오’를 이용해 새해 인사 이미지를 만들고자 하던 중 발생했다. 변호사는 자신의 사진을 업로드한 후 “직업에 맞는 새해 인사 이미지를 만들어 달라”고 요청했지만, 예상치 못한 결과물이 생성되었고, 그 내용은 본래 의도와는 정반대인 욕설이 포함된 것이었다.
초기 이미지 결과에 불만을 표명한 변호사는 추가 지시를 내렸고, 다음에 생성된 이미지는 “새해 복 많이 받으세요”라는 메시지 대신에 욕설이 부적절하게 삽입된 결과를 낳았다. 이 내용은 사회관계망서비스(SNS)를 통해 빠르게 확산되었고, 이에 대해 텐센트 측은 공식 사과를 발표했다. 회사는 “모델이 여러 차례의 대화 처리 과정에서 비정상적인 결과를 출력하였다”며, 이를 긴급하게 수정하고 사용자 경험을 개선하기 위한 조치를 취했다고 밝혔다.
이번 사건은 중국에서 생성형 AI 분야의 발전과 관련하여 큰 주목을 받고 있다. 바이두, 알리바바와 같은 주요 기술 기업들도 저마다의 대형언어모델(LLM)을 개발하며 상용화에 힘쓰고 있지만, 이러한 비정상적인 출력 문제는 여전히 해결해야 할 과제로 남아 있다. 전문가들은 AI의 감정 이해 및 맥락 인식 능력이 부족해 이러한 오류가 발생했음을 지적하고 있으며, 이는 사용자에게 혼란을 줄 뿐만 아니라 기업의 신뢰성에도 악영향을 미칠 수 있다.
중국 광저우일보는 “기술 그 자체는 문제가 없지만, 이를 방치하는 것은 큰 문제”라고 언급하며 AI가 인간의 학습과 지식뿐만 아니라, 인류의 윤리와 가치까지도 함께 이해할 수 있어야 한다고 강조했다. 이번 사건은 단순한 기술적 오류에 그치지 않고, AI가 인류와의 상호작용에서 반드시 고려해야 할 윤리적 측면을 다시 한번 일깨우는 계기가 되고 있다.
AI 기술이 계속해서 발전하고 있는 상황에서, 이런 비극적인 사례들은 공론화해야 할 중요한 주제가 되고 있다. 따라서 기업들은 AI를 더욱 윤리적이고 책임감 있게 개발하고 운영해야 하며, 정확한 맥락 이해와 사용자 요구를 충족할 수 있는 능력을 향상시키기 위한 지속적인 노력이 필요하다. 이러한 논란이 새로운 기술 발전의 과정에서 발생하는 것이라 하더라도, 우리는 더 나은 AI 시스템을 위해 노력해야 할 의무가 있다.
