최근 생성형 인공지능(AI) 기술을 활용한 콘텐츠에 워터마크를 부착하려는 움직임이 전 세계적으로 확산되고 있다. 이 같은 조치는 AI가 생성한 콘텐츠의 출처를 명확히 하고, 이용자들에게 투명성을 제공하기 위한 목적으로 시행된다. 하지만, 이런 시도가 과연 효과적일지에 대해서는 신뢰성에 대한 우려가 커지고 있는 상황이다.
특히 앤스로픽은 유럽연합(EU)의 AI법 시행에 발맞추어 클로드 모델에 기계가 읽을 수 있는 워터마크를 도입한 바 있다. 이 워터마크는 사람의 눈에는 보이지 않지만, 별도의 탐지기를 활용하면 쉽게 식별할 수 있도록 설계되었다. 앤스로픽은 앞으로 모든 AI 모델에 이러한 워터마크를 추가하며, 제3자가 이를 확인할 수 있는 탐지 도구와 관련 기술 문서를 공개할 계획이라고 밝혔다.
이러한 워터마크 도입은 구글의 ‘신스 ID’와 오픈AI의 ‘C2PA’ 메타데이터와 같은 다양한 기업으로 번지는 추세다. AI 음악 서비스 수노와 뉴스레터 플랫폼 서브스택 등도 AI로 생성된 콘텐츠를 식별하기 위한 작업에 들어갔다.
그러나 전문가들은 이러한 워터마크가 완벽한 판별 메커니즘으로 작용하지는 못할 것이라고 지적하고 있다. 단어와 문장 구조를 바꾸는 것만으로도 워터마크 탐지를 회피할 수 있는 가능성이 크기 때문이다. 앤스로픽의 텍스트 워터마크는 AI의 단어 선택 확률을 미세하게 조정하여 통계적 패턴을 남기지만, 높은 정도의 재작성이나 번역을 통해 이러한 패턴을 쉽게 무시할 수 있다는 분석이 제기되었다.
AI 탐지업체 GPT제로의 CTO 알렉스 추이는 “단어와 문장을 함께 변경하는 ‘바꿔쓰기’ 기법을 사용하면 워터마크의 존재를 쉽게 피할 수 있다”고 밝혔다. 구글 또한 신스ID를 공개하면서 짧은 글이나 재작성된 텍스트에서 탐지 성능이 떨어질 수 있다고 경고하였다.
워터마크의 도입이 콘텐츠 품질에 부정적인 영향을 미칠 수 있다는 우려도 존재한다. 텍스트의 비율을 조절하는 과정에서 자연스러운 단어 선택이 제한될 수 있어, 결국 생성물의 품질 저하를 초래할 수 있다는 것이다.
또한, 워터마크를 제거하는 기술도 꾸준히 발전하고 있다. 스위스 취리히연방공대의 연구진은 워터마크 생성의 원리를 알아내기 위한 공격 실험을 진행하였으며, 이들은 기존 워터마크를 지우거나 사람이 작성한 글에 가짜 워터마크를 삽입하는 데 있어 평균 80%의 성공률을 기록한 것으로 나타났다. 일반 이용자들도 이러한 제거 도구에 접근할 수 있게 되어, 궁극적으로 워터마크의 존재 의의가 퇴색할 가능성도 있다.
결론적으로, AI 콘텐츠의 투명성을 높이기 위한 워터마크는 업계에서 긍정적인 반응을 얻고 있지만, 효과적인 판별 메커니즘으로 작용하기 위한 한계가 명확하다. 앞으로의 기술 발전 동향이 이 문제를 어떻게 해결해 나갈지 주목해야 할 것이다.
