최근 이란 최고지도자 아야톨라 세예드 알리 하메네이의 시신을 수습하는 사진이 소셜 미디어를 통해 확산되어 큰 논란을 일으켰으나, 이는 인공지능(AI)으로 생성된 가짜 이미지로 밝혀졌다. 이와 관련하여 AFP 팩트체크팀은 해당 사진들이 허위임을 확인하고, AI 기술로 만들어졌음을 강조했다.
문제의 사진은 무너진 콘크리트 잔해 속에 하메네이의 모습이 포함되어 있으며, 헬멧을 쓴 구조대원들이 주변에서 구조 활동을 하는 장면이 포착되어 있다. 또 다른 이미지에서는 하메네이가 콘크리트 더미 아래 반듯하게 누워 있는 모습이 담겨 있다. 그러나 AFP는 공식적으로 하메네이의 시신을 보여주는 사진은 결코 공개된 적이 없다고 설명하고 있다.
특히, 메타의 AI 생성 이미지 표시가 하메네이 관련 이미지에서 확인되었으며, 이는 소셜 미디어에서 널리 퍼진 사진들이 AI로 생성된 것임을 뒷받침하는 증거이다. 또, 하메네이의 손과 손가락이 비정상적으로 왜곡된 모습도 AI 이미지의 일반적인 특징으로 설명됐다. 이러한 현상들은 사용자가 AI로 제작된 콘텐츠에 대한 경각심을 높여야 할 필요성을 강조한다.
더욱이, 이러한 전쟁 관련 가짜뉴스의 확산에 대응하기 위해 일론 머스크 CEO가 이끄는 플랫폼 엑스(X, 옛 트위터)는 전쟁 관련 AI 생성 영상을 출처 표기 없이 게시하는 사용자의 광고 수익 공유를 중단하겠다고 발표했다. 엑스의 제품 책임자인 니키타 비어는 사용자가 AI 생성 콘텐츠를 업로드할 때 반드시 ‘AI로 제작됨’이라는 표시를 추가해야 한다고 강조하며, 위반할 경우 90일 동안 플랫폼 사용이 제한될 것이라고 경고했다.
포괄적으로, 이러한 일련의 사건들은 디지털 정보의 신뢰성을 확보하는 것이 얼마나 중요한지를 일깨워준다. 전 세계적으로 가짜뉴스와 AI 생성 콘텐츠의 위험성이 증대하고 있는 상황에서, 소셜 미디어 플랫폼의 책임 있는 대응이 더욱 요구된다. 신뢰할 수 있는 정보의 제공과 사용자 교육이 필수적이며, 이를 통해 올바른 정보 소비 문화가 정착되기를 희망한다.
