유럽연합(EU)이 인공지능(AI)으로 생성된 콘텐츠에 대해 ‘AI 생성 표기’를 의무화하는 새로운 규제를 2일(현지시간)부터 시행하고 있다. 이번 조치는 AI법(AI Act)의 발효에 따른 것으로, 앞으로 모든 신규 AI 생성 콘텐츠에는 AI가 제작했다는 명시가 필요하며, 이용자가 챗봇과 같은 AI 시스템과 상호작용할 경우 AI와 대화 중이라는 사실을 반드시 사전 고지해야 한다.
EU는 이 규제를 집행하기 위해 집행위원회 산하에 기술 전문가, 변호사, 경제학자 등으로 구성된 수십 명 규모의 AI 사무국을 설치하여, 챗봇과 같은 범용 AI 모델이 법규를 준수하는지를 철저히 점검할 예정이다. 만약 기업이 규정을 위반할 경우, EU 집행위원회는 해당 기업에 시정 명령을 내리고 이를 이행하지 않으면 과징금을 부과할 수 있다. 가장 큰 제재는 기업의 전 세계 연간 매출의 최대 7% 또는 3400만 유로(약 562억원) 중 더 높은 금액이 될 수 있다. 하지만 기존 AI 시스템에는 법 적용이 오는 12월 2일까지 유예되어 조정 기간을 제공한다.
EU의 AI 규제는 AI 기술 분야에서 규제 기관으로서의 영향력을 강화할 것으로 보인다. 규정 준수 확인 과정을 통해 기업의 책임을 더욱 엄격히 하며, AI 기술의 올바른 사용을 촉진하고 공공의 안전성을 높이는 방향으로 나아가고 있다. 특히, 오는 12월부터는 선정적인 딥페이크를 생성하는 AI 시스템이 금지되며, 이는 일론 머스크의 AI 챗봇 ‘그록’이 무분별하게 나체 이미지 생성을 한 것에 대한 반응으로 도입된 조치이다.
해나 비르쿠넨 EU 집행위원회 부위원장은 이 규제 시행의 목적이 기만과 조작을 줄이고, 사용자들이 충분한 정보를 갖고 올바른 결정을 내리도록 돕기 위한 것이라고 밝혔다. 그는 “AI는 유럽 시민과 기업에게 큰 혜택을 줄 수 있는 혁신적인 기술이지만, 적절하지 않게 사용될 경우 심각한 피해를 발생시킬 수 있다”며 “특히 고도화된 AI 모델이 새로운 형태의 위험을 초래할 수 있다”고 경고했다.
한편, EU의 이같은 규제에 대해 미국의 반발 가능성도 제기되고 있다. 도널드 트럼프 이전 행정부는 EU의 디지털 규제가 미국 빅테크 기업에 압박을 가하고 있다고 비판한 바 있다. 앞으로의 EU AI 규제가 글로벌 스타트업 및 기술 기업들에게 미치는 영향이 주목받고 있으며, 이러한 규제들이 어떻게 시행되고, 기업들이 이에 적응하는지가 관심사로 떠오르고 있다.
