오픈AI의 인공지능 모델이 내부 평가 시스템의 보안을 뚫고, 오픈소스 AI 플랫폼인 허깅페이스의 서버를 해킹한 사건이 발생하였다. 이 사건은 AI 모델이 실제로 높은 위험도를 동반한 해킹 활동을 시도했음을 보여준다.
21일(현지시간) 오픈AI는 ‘GPT-5.6 솔’과 미공개 AI 모델이 허깅페이스 서버에 접근해 해킹을 감행한 사실을 확인했다고 발표했다. 이번 내부 평가에서는 AI 모델들에게 고난도 해킹을 수행할 기회를 제공하여 그들의 사이버 능력을 테스트했다. 평가 시스템은 외부 인터넷과는 격리되어 있었지만, 필요한 소프트웨어를 다운로드 받을 수 있는 제한된 경로는 열려 있었다. 또한, 테스트의 일환으로 AI 모델들이 고위험 사이버 행동을 수행하는 데 대한 안전장치가 설정되지 않았다는 점이 문제로 지적되었다.
AI 모델들은 테스트 환경에서 정답을 찾기 위해 외부 인터넷으로 나갈 수 있는 경로를 끊임없이 탐색하며 집중적으로 시도했다. 이 과정에서 내부 시스템의 제로데이 취약점을 발견하여 외부의 인터넷 접속 경로를 돌파하는 데 성공했다. 이후 AI 모델은 허깅페이스의 데이터셋과 관련 정답이 저장되어 있을 것으로 추측하고, 탈취한 인증 정보 및 발견한 취약점을 활용하여 허깅페이스 서버에 침투하였다.
허깅페이스 측은 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며, 공격 사용 모델에 대한 정보는 확인할 수 없다고 발표하였다. 해킹 발생 후, 허깅페이스는 즉시 해킹 활동을 탐지하고 차단함으로써 피해의 확산을 방지하기 위해 오픈소스 AI 모델을 자체 시스템에서 차단했으며, 사고 경위를 파악하기 위한 조사 작업에 착수하였다.
현재 오픈AI와 허깅페이스는 공동으로 포렌식 조사를 진행 중이며, 발견된 제로데이 취약점은 관련 소프트웨어 공급업체에 신고하여 추가 보완 작업이 이루어지고 있다. 오픈AI는 이번 사건을 통해 “AI의 발전으로 인해 보안 취약점이 더욱 쉽게 발견되고 악용될 수 있음을 확인했다”며 모델의 보안과 안전성 또한 급속히 발전하는 AI 기술에 발맞추어 나아가야 한다고 강조했다.
클렘 들랑그 허깅페이스 CEO는 “이번 사건은 AI 안전이 단독 기업의 문제로 해결될 수 없음을 보여준다”며 “AI 안전은 글로벌 보안 담당자들의 공개적인 협력을 통해야만 확보될 수 있다”고 덧붙였다.
