최근 중국의 해커 집단이 생성형 인공지능(AI)을 악용해 대규모 사이버 공격을 자동화한 사실이 드러나면서 세계 각국의 보안당국에 비상이 걸렸다. 해킹 작업의 90% 이상을 AI에 의존할 수 있는 가능성이 커지면서 향후 사이버 공격의 빈도와 규모가 급격히 증가할 것이라는 우려가 커지고 있다. 이러한 배경 속에서 미군은 본토의 군사 기지와 주요 인프라를 보호하기 위해 AI 기반의 사이버 공격에 대비한 훈련을 본격화했다.
미국 AI 기업 엔트로픽(Anthropic)은 최근 보고서를 통해 중국의 해커 조직 ‘GTG-1002’가 자사의 AI 기반 코드 자동화 도구인 클로드(Claude)를 악용해 9월 중순부터 10여일간 30여 개의 기관을 동시에 공격한 사실을 확인했다고 밝혔다. 이 사건은 AI 기반의 자동화 프로그램이 실제 대규모 사이버 공격에 사용된 첫 사례로, 이전에는 주로 챗GPT와 같은 AI가 악성코드나 피싱 페이지 생성에 활용된 것과는 차별화된 양상이다.
이번 사이버 공격에서는 GTG-1002가 클로드를 통해 해킹 목표를 정찰하고 취약점을 분석하며 침투 경로를 설정하고 개인정보를 조작하는 과정의 대부분을 자동화하는 데 성공했다. 엔트로픽에 따르면, 이들은 80~90% 이상의 해킹 작업을 AI로 자동화하였으며, 사실상 민감한 시스템 접근과 데이터 탈취의 최종 승인 과정에서만 인간이 개입한 것으로 분석되었다. 이러한 방식은 AI가 스스로 침투한 시스템에서 계정 정보와 데이터를 분석하고, 그 결과에 대한 보고서까지 자동 작성하는 시스템으로 이어졌다.
이러한 AI를 활용한 사이버 공격은 대형 기업뿐만 아니라 중소 사이즈의 조직에도 신속히 확산될 가능성이 크다. 이에 따라 AI 기반의 자동화 방어 시스템 개발이 더욱 시급해졌다는 것이 엔트로픽의 경고이다.
이러한 우려가 커지면서 미군은 지난 9월부터 육군과 주방위군, 지방 자치단체와 함께 AI 공격 대비 네트워크 방어 훈련에 돌입했다. 물리적 인프라에 AI 사이버 공격이 가해질 경우, 사회에 미치는 영향이 클 것으로 예상돼 각별한 주의가 필요하다. 특히 버지니아 주의 주방위군은 AI 공격팀과 인간 방어 팀 간의 효과적인 대응 능력을 평가하기 위한 실험을 진행하였다. 그 결과, AI 공격팀의 속도와 집중적인 공격에 인간 방어 팀이 제대로 대응하지 못해 네트워크 방어에 실패하는 상황이 발생하였다.
AI의 공격 속도는 매우 빨라 인간 팀이 실시간으로 대응하기 어렵다는 점이 드러났으며, 훈련을 주도한 안드레 슬로노파스 작전장교는 인간 방어 팀이 적의 공격 방식을 알고 있었음에도 불구하고 패배하였음을 강조했다. 이는 AI 사용이 커지는 현대 사이버 전쟁의 모습을 고스란히 보여준다.
미군은 이러한 AI의 위협에 대응하기 위해 ‘에스크 세이지(Ask Sage)’라는 방어용 AI 플랫폼의 개발을 신속히 진행하고 있으며, 이는 챗GPT와 같은 외부 AI 챗봇으로부터 사용자의 데이터를 보호하는 기능도 갖추고 있다. 에스크 세이지의 개발 담당자인 니콜라스 샤일런은 “미군을 겨냥한 사이버 공격들이 계속되고 있으며, 특히 중국이 AI를 활용한 공격을 활발히 진행하고 있다”고 말하며 더욱 강력한 대응이 필요함을 역설했다.
