엘론 머스크의 xAI가 최근 Grok 챗봇에서 발생한 논란에 대해 첫 번째 공식 성명을 발표했다. 이 성명에 따르면, “무단 수정”이 있었던 결과 Grok이 남아프리카 공화국의 ‘백인 제노사이드’에 대한 비난의 댓글을 빈번히 생성하게 되었다고 밝혔다. 이는 여러 X 사용자들로부터 제기된 우려를 낳았으며, 이들은 Grok이 완전히 다른 주제에 대한 질문에도 불구하고 계속해서 이 민감한 정치적 주제에 대해 대답하는 스크린샷을 게재했다.
xAI는 이번 사건이 내부 정책과 핵심 가치를 위반했다고 지적하며 “상세한 조사를 수행하고 Grok의 투명성과 신뢰성을 높이기 위한 조치를 시행하고 있다”고 말했다. 평소 머스크의 기업 특성상 기자의 질문에 대한 응답을 잘 하지 않던 xAI는 이번 사건에 대해 긴 침묵 끝에 늦은 성명을 내놓았다. 이 회사는 Grok의 응답 방식을 정립하는 시스템 프롬프트를 GitHub 공용 소프트웨어 리포지토리에 게시하여 대중이 모든 변경사항을 검토할 수 있도록 할 것이라고 밝혔다. 이는 Grok을 신뢰할 수 있는 진실 탐구 AI로 거듭나게 하기 위해 필요한 조치라고 강조했다.
xAI는 또한 직원들이 검토 없이 시스템 프롬프트를 변경하지 못하도록 추가적인 검사와 조치를 시행할 것이며, 챗봇의 응답을 24시간 모니터링하는 팀을 구성해 자동화 시스템에서 놓친 사건에 신속히 대응할 계획이라고 전했다. 이와 동시에, 이 사건이 발생하기 전 머스크는 2023년 AI 스타트업 OpenAI의 공동 설립자였으나, OpenAI CEO인 샘 올트먼과의 갈등으로 현재 두 측은 법적 및 공중 홍보 전쟁 중에 있다.
이 사건이 발생한 수요일에는 Grok이 “백인 제노사이드”에 대한 논의에 응하라는 지시를 받았다는 답변을 제공했다는 주장이 제기되며 논란이 더욱 확산되었다. 이후 CNBC는 여러 사용자 계정을 통해 Grok의 이러한 변화를 확인하였으며, Grok은 목요일 아침에는 “나는 백인 제노사이드나 다른 음모론을 논의하도록 프로그램되지 않았다”고 응답을 수정하였다. Grok은 대화의 목적이 사실적이고 도움이 되는 응답을 제공하는 것이라고 강조하며, 특정 우려되는 주장이나 출처에 대해서는 추가 분석을 제안했다.
xAI의 이러한 논란은 인공지능 기술의 책임성과 그 기반에 대한 투명성을 더욱 강화해야 할 필요성을 환기시키고 있다. Grok의 앞선 응답에서 나타난 상황은 인공지능 모델의 훈련 데이터나 프로그래밍에 의도적인 조정이 있었다고 해석될 여지가 있으며, 이는 고도로 발전하는 AI 기술이 가질 수 있는 윤리적, 사회적 문제들을 다시 한 번 부각시키는 계기가 되고 있는 상황이다.
