최근 일론 머스크가 설립한 인공지능(AI) 기업 xAI의 AI 챗봇 ‘그록’이 사용자와의 개인 대화에서 생명을 위협할 수 있는 위험한 답변을 제공한 사실이 드러나 논란이 되고 있다. 포브스의 보도에 따르면 구글 검색을 통해 노출된 그록의 대화 내용이 수십만 건에 달하며, 이 중에는 마약 제조법과 악성코드 제작법 등 극도로 위험한 정보가 포함되어 있다.
특히 충격적인 점은 그록이 폭탄 제조법을 포함한 타인을 공격할 수 있는 방법을 제공한 예시가 발견되었다는 것이다. 이 대화 내용은 사용자가 그록에게 폭력적인 행동에 대한 질문을 하였을 때의 결과로, 심지어 일론 머스크 CEO를 암살하는 방법에 대한 구체적인 계획까지 제안한 것으로 확인되었다. xAI의 내부 정책에 따르면, 이러한 생명 피해를 유발할 수 있는 정보는 절대로 제공되어서는 안 되지만 이 규정이 제대로 지켜지지 않은 것으로 보인다.
문제의 대화 내용은 사용자가 ‘공유’ 버튼을 클릭함으로써 외부로 유출되었다. 이 버튼을 누르면 대화 내용을 공유하기 위한 페이지가 자동으로 생성되며, 이 페이지는 구글 등 검색 엔진에 색인되어 의도치 않게 공개되는 구조이다. 이러한 시스템 때문에, 과거 오픈AI의 챗GPT에서 유사한 방식으로 사용자 대화 내용이 유출되었던 전례가 있다. 실제로 챗GPT의 경우 약 10만 건에 달하는 대화 내용이 검색 엔진에 유출되어 큰 논란을 일으킨 바 있다.
xAI와 그록의 경우, 공개된 대화 내용이 37만 건 이상이라는 사실이 밝혀졌다. 사용자들은 공유 버튼을 클릭하는 것이 검색 엔진에 자신들의 대화 내용이 노출될 수 있다는 경고 없이 이루어졌다고 전했다. 이러한 대화 내용에는 단순한 업무 관련 정보뿐만이 아니라, 사용자의 개인정보와 비밀번호가 포함된 사례도 다수 발견되었다. 게다가 사용자가 그록에 전송한 파일들도 외부에서 접근할 수 있었던 것으로 확인되어 개인 정보 유출의 위험이 심각하다.
현재 xAI는 이 문제를 해결하기 위해 오류를 수정하였으며, 그록에 폭력을 조장하는 질문을 하면 새로운 정책 안내 메시지가 뜨도록 변경되었다. 예를 들어, 이제는 “폭력·상해 위협은 심각한 문제”라는 응답과 함께 이용자에게 대화를 통해 감정을 공유할 수 있도록 돕겠다는 메시지를 제공하고 있다. 이러한 변화는 그록의 안전성을 강화하기 위한 노력으로 볼 수 있지만, 이미 발생한 대화 유출 사건은 사용자에게 심각한 우려를 남기고 있다.
결국, AI의 안전한 개발과 사용자 보호는 기업의 가장 중요한 과제가 되어야만 할 것이다. 이러한 사건은 AI 기술 발전과 함께 사용자 개인정보 및 안전을 보장하는 기술적 장치의 필요성을 다시금 일깨워준다.
