오픈AI가 발표한 최신 보고서에 따르면, 중국 사법당국 관계자가 오픈AI의 챗GPT를 활용하여 다카이치 사나에 일본 총리를 음해하려는 조직적인 공작을 시도한 사실이 드러났다. 이 보고서는 2022년 10월 중순 발생한 사건을 다루고 있으며, 중국 관계자는 ‘사이버 특수작전’이라는 명칭 하에 음해 작업을 계획하고 실행에 옮겼다.
구체적으로, 이 관계자는 다카이치 총리에 대한 부정적인 댓글을 인터넷에 게시하거나, 외국인의 신분으로 정치인들에게 총리의 외국인 정책에 대한 비판적인 이메일을 발송하는 방식으로 여론을 조작하려고 했던 것으로 보인다. 이 공개된 과정에서 다카이치 총리는 중국 네이멍구 자치구의 인권 상황을 비판한 바 있으며, 이 사건의 발생 배경이 되었다고 오픈AI는 설명했다.
보고서에 따르면, 오픈AI는 이러한 공작에 관한 조언을 요청받았을 때, 해당 요청을 거부했다고 전했다. 그러나 이 관계자는 특정 날짜에 챗GPT에게 유사한 내용의 작성을 요청하여 음해와 관련된 작업을 편집할 것도 요청했다. 오픈AI 측은 최종적으로 해당 관계자가 챗GPT의 도움을 받지 않고 음해 작업을 완료한 것으로 판단하고 있다고 덧붙였다.
이와 관련하여 쏟아진 정보들은 주로 소셜 미디어와 유튜브 등에서 다카이치 총리에 대한 비판적인 콘텐츠로 이어졌다. 특히 ‘우익공생자’ 해시태그가 붙은 게시물들이 쏟아졌으나, 이러한 음해 공작은 실질적인 영향력은 없었던 것으로 나타났다. 대부분의 유튜브 영상과 SNS 게시물은 큰 반향을 일으키지 못한 것으로 밝혀졌다.
오픈AI는 이번 사건 외에도 중국 사법 당국이 반체제 인사를 탄압하기 위해 가짜 부고와 묘비 사진을 만들고, 인권 단체에 대한 탄압 작업을 포함해 100가지 이상의 전술을 펼쳐왔다고 강조했다. 이 과정에서 중국 내 SNS에는 수백만 건의 게시물이 올라갔으며, 해외 플랫폼에서는 수만 건의 관련 콘텐츠가 생성됐다. 더불어, 중국 당국은 챗GPT 외에도 자국의 AI 모델인 딥시크 등을 활용한 흔적이 있다고 보고서에서 밝히고 있다.
한편, 중국 외교부의 마오닝 대변인은 기자회견에서 오픈AI의 주장에 대해 잘 알지 못한다는 입장을 밝혔으며, 이러한 주장을 뒷받침할 증거가 없다고 반박했다. 이번 사건은 인공지능 기술이 정치적 음해와 같은 악용 사례로 이어질 수 있는 가능성을 다시 한번 일깨워주고 있다.
