인공지능(AI)은 더 이상 단순한 도구가 아니다. 이는 우리의 삶, 업무, 그리고 사이버 보안 및 사이버 범죄 양쪽 모두에 있어 혁신적인 변화를 이끌어내고 있다. 기업들은 AI를 활용하여 방어 시스템을 강화하는 반면, 사이버 범죄자들은 AI를 무기화하여 공격을 더욱 규모 있게 만들고 신뢰성을 높이고 있다. 2025년에는 연구자들이 AI 에이전트, 즉 최소한의 인간 개입으로 복잡한 작업을 수행할 수 있는 자율 AI 시스템이 사이버 공격과 사이버 방어를 혁신할 것이라고 예상하고 있다. AI 기반의 챗봇이 이미 존재하지만, AI 에이전트는 단순한 보조 도구를 넘어서 실시간에서 학습하고 계획하며 실행할 수 있는 디지털 운영자로 기능하게 된다.
AI는 사이버 범죄를 변형시켜 공격의 규모와 효율성을 높이며 접근성을 확대하고 있다. 세계 경제 포럼(WEF)의 2025년 인공지능 및 사이버 보안 보고서는 AI가 사이버 위협을 민주화하고 있음을 강조하며, 공격자들이 사회 공학을 자동화하고 피싱 캠페인을 확대하며 AI 기반 악성 소프트웨어를 개발할 수 있게 되었다고 지적하고 있다. 이러한 트렌드는 AI 에이전트의 출현으로 인해 더욱 뚜렷해질 것으로 보인다. AI는 자율적으로 복잡한 작업을 계획하고 실행할 수 있는 시스템으로, 사이버 범죄의 미래에 큰 영향을 미칠 가능성이 있다.
사이버 범죄자들이 인공지능을 활용하는 주요 사용 사례로는 AI 생성 피싱 및 사회 공학, 딥페이크를 활용한 사기, 인지 공격 등이 있다. 사이버 범죄자들은 생성적 AI와 대규모 언어 모델(LLM)을 활용하여 여러 언어로 더 그럴듯하고 세련된 피싱 이메일을 작성할 수 있으며, 표면적으로는 문법적 오류나 오타가 없는 메시지를 생성하고 있다. 특히 AI 기반의 스피어 피싱 공격은 공격자가 목표의 온라인 활동에 따라 메시지를 개인화할 수 있도록 하고, AI로 생성된 피싱 이메일을 사용한 비즈니스 이메일 사기(BEC)가 증가하고 있다.
이러한 공격 기법은 궁극적으로 더 많은 사람들의 피해를 초래하고 있으며, 공격자들은 딥페이크 음성 기술을 이용하여 급히 돈을 요구하거나 개인 정보를 유출하도록 피해자를Manipulate하는 방법을 사용하고 있다. AI가 사이버 범죄를 민주화함에 따라, 관련 위험은 증가하고 있으며, 사이버 보안 전문가들은 이러한 변화에 대응하기 위해 다양한 방안을 모색하고 있다.
AI 기반의 방어 기술 또한 발전하고 있다. 조직은 AI를 활용하여 실시간으로 네트워크를 모니터링하고, 이상 징후를 식별하며, 인간 분석가보다 빠르게 위협에 반응할 수 있다. AI-driven 보안 플랫폼은 대량의 데이터를 자동으로 분석하여 미세한 공격 패턴을 식별하고 실시간으로 경고를 발령함으로써 더욱 신속한 방어 대응을 가능하게 한다.
그러나 AI 기술의 발전이 급속도로 진행됨에 따라, 인간 분석가의 역할 또한 여전히 중요하다. 그들의 직관과 적응력은 복잡한 공격 패턴을 인식하고, 실제 사건과 조직적인 인사이트를 활용하여 자원을 효과적으로 우선순위를 잡기 위해 필수적이다. 이처럼 AI와 AI 에이전트를 활용한 사이버 범죄와 사이버 보안의 경합은 앞으로 더욱 치열해질 것이다.
