이더리움 공동 창립자 비탈릭 부테린이 최근 ChatGPT의 개인정보 유출 위험에 대해 경고하고 나섰다. 이는 인공지능(AI) 기술이 빠르게 발전하면서 발생하는 기술적 및 윤리적 문제로, 암호화폐 업계는 물론, 전 세계 디지털 사용자들에게 주목받고 있다.
이번 논란의 발단은 소프트웨어 엔지니어 에이토 미야무라가 X(구 트위터)를 통해 공개한 GPT 기능 업데이트와 관련이 있다. 그는 ChatGPT가 MCP(Model Context Protocol) 도구를 완전히 지원하게 되면서, 사용자의 지메일, 구글 캘린더, 쉐어포인트 등 여러 외부 서비스와 직접 연결될 수 있는 가능성이 생겼다고 주장했다. 이는 사용자의 중요한 정보가 유출될 수 있는 심각한 위험을 안고 있다.
미야무라는 공격자가 피해자의 이메일 주소만 알면, 악의적인 캘린더 초대를 통해 “탈옥(jailbreak)” 명령어를 ChatGPT에 심어놓고, 공격자의 지시에 따라 이메일을 검색하고 데이터를 다른 주소로 전송하도록 유도할 수 있다고 경고했다. 그는 “AI는 사용자 지시를 따르지만, 상식에 근거한 판단을 하지 않는다”며 AI에 대한 지나친 신뢰가 보안에 큰 위협이 될 수 있다고 강조했다. 특히 사용자들이 AI의 권한 요청을 무조건 승인할 가능성이 높아지면서 이러한 문제는 더욱 심각해질 수 있다고 지적했다.
부테린은 현 인공지능 거버넌스 모델이 ‘순진하다’고 비판하며, AI가 자율적으로 기금 배분 등의 결정을 하도록 했을 때, 악성 코드가 주입되어 “모든 자금을 가로채라는 지시를 AI에게 주입하는” 일이 발생할 수 있다고 경고했다. 그는 이를 해결하기 위한 대안으로 ‘정보 금융(info finance)’ 모델을 제시하였다. 이는 개방형 시장에서 누구나 AI 모델을 제공하고, 외부 검증이나 무작위 테스트를 통해 보안을 점검받을 수 있도록 하는 구조를 갖추고 있다. 이 모델의 핵심은 인간 심사위원단이 데이터를 검토함으로써 AI의 명령체계가 일방향으로 흐르지 않도록 하는 것이다.
AI 기술이 암호화폐 및 디지털 자산 관리에 필수적으로 접목되면서, 정보 보안 문제는 단순한 기술적 이슈를 넘어 사용자 신뢰의 핵심 요소로 떠오르고 있다. 이에 따라 엔지니어, 투자자, 정책 입안자 모두가 깊이 있는 논의와 숙고가 필요한 시점이라 할 수 있다.
이번 사건은 비단 기술적 문제에 그치지 않고, AI의 발전이 사용자 개인정보와 자산을 어떻게 보호할 것인지에 대한 심도 있는 고민을 요구하고 있다. 부테린과 미야무라의 주장은 이러한 대화의 필요성을 일깨우며, 앞으로의 기술 발전에 대한 재조명이 필요하다는 점에서 중요한 의미를 지닌다.
