중국 정부가 불법 생성형 인공지능(AI) 콘텐츠의 급증에 대응하기 위해 전방위적인 규제를 시행하고 있다. 특히, 개인 운영의 독립 콘텐츠 채널인 ‘쯔메이티'(自媒體)에 대해 9만8000건의 제재 조치를 취하며 그 규모를 확대하고 있다. 쯔메이티는 중국의 주요 소셜 미디어 플랫폼인 위챗과 웨이보에서 활동하는 비공식 콘텐츠 제공자들로, 이들 채널이 AI 생성 콘텐츠를 공개하고도 출처를 밝히지 않는 사례가 급증하고 있다.
중국의 인터넷 규제 기관인 인터넷정보판공실(CAC)은 이러한 문제를 해결하기 위해 쯔메이티에 대한 제재를 단행했다고 발표했다. 더불어, 지난달 말 국가시장감독관리총국(SAMR)은 AI 관련 온라인 광고 시장을 대상으로 6개월 동안의 대대적인 단속을 예고하며 온라인 광고 생태계에 처음으로 법적 제재를 시사했다. 이 조치는 AI 오남용 및 트래픽 조작과 같은 불법 행위를 타깃으로 하고 있다.
중국의 온라인 광고 시장은 지난해 7930억 위안(약 170조 원) 규모로 성장했으며, 이 시장에서 바이트댄스, 텐센트, 알리바바와 같은 대형 기술 기업이 큰 점유율을 차지하고 있다. 이처럼 거대한 시장 규모에도 불구하고 AI로 생성된 콘텐츠의 불법성과 배포 방법이 새로운 위험 요소로 대두되고 있다. 정부는 이 문제를 해결하기 위해 광고 규제 및 모니터링 기술을 업그레이드하고, 콘텐츠 기준을 강화하는 등의 조치를 시급히 진행할 필요성을 강조하고 있다.
직접 제재도 강화되고 있다. 특히 바이트댄스의 여러 서비스, 포함하여 AI 기반 영상 편집 앱 캡컷, 파일 공유 플랫폼 캣박스, 이미지 생성 AI 드리미나와 같은 서비스에 대해 운영자를 불러 시정 명령을 내렸다. 이러한 서비스는 사이버 보안법, AI 생성 콘텐츠의 표시 규정을 위반한 것으로 확인됐다. 이에 대응하여 바이트댄스는 저작권을 침해한 AI 콘텐츠를 53만8000건 삭제하고, 4000여 개의 계정에 제재를 가하는 등 자율적으로 조치를 취하고 있다.
이번 조치는 최근 인터넷 정화 캠페인의 일환으로 자리매김하고 있으며, 춘제 연휴 기간 동안에도 AI 생성 허위 콘텐츠 70만8000건 이상이 삭제된 바 있다. 바이트댄스의 영상 제작 AI ‘시댄스 2.0’은 저작권 문제로 인해 글로벌 출시가 연기된 상태로, 전문가들은 이러한 움직임이 향후 AI 콘텐츠 제작의 규범과 법적 쟁점에 중요한 전환점을 마련할 것으로 예상하고 있다.
