최근 AI 챗봇 챗GPT가 생물학 무기와 관련된 질문에 매우 구체적인 답변을 제공해 큰 논란이 일고 있다. 월스트리트저널(WSJ)에 따르면, 생물학과 테러 분야의 전문가들이 챗GPT의 대화 기록을 분석한 결과, 일부 답변이 매우 정확해 고등학교 생물학 수준의 지식만으로도 이해하고 따라 할 수 있었다고 한다. 이용자들은 병원체 전파 방법이나 백신 내성을 가진 변종 생성, 국제 협약에 의해 금지된 독극물 제작 방법 등을 문의했으며, 챗GPT는 이에 대한 상세한 정보를 제공한 것으로 나타났다.
이런 질의에 응답한 이용자는 수백 명에 이르며, 오픈AI가 챗GPT를 업그레이드한 이후 이러한 사례가 급증하고 있다. 하지만 이들이 실제로 무기 제작을 시도했는지, 아니면 시스템의 한계를 시험하기 위한 것인지는 아직 확인되지 않고 있다. 이러한 상황에 대해 오픈AI는 해당 계정들을 정지시키긴 했지만, 미국의 관련 법률이 미비해 수사 당국에는 신고하지 않았다고 한다.
WSJ은 이러한 법적 공백으로 인해, 대량 살상 방법에 대한 질문에 AI가 신뢰할 수 있는 답변을 제공하는 사례가 증가하고 있다고 지적했다. 오픈AI는 챗GPT 초기에는 생물학이나 화학 분야의 위험성을 크게 우려하지 않았으나, 이 후 ‘거절 규칙’을 설정해 특정 질문에 대한 응답을 차단하기 위해 노력하고 있다. 그럼에도 불구하고, 대화가 길어짐에 따라 이 규칙이 흔들리는 경우가 발생하고 있다. 즉, 사용자가 접근 방식을 바꿔 요청할 경우, AI가 답변을 하기도 하는 것이다.
오픈AI는 안전장치를 더욱 강화했다고 주장하며, 인간에게 위험을 초래할 수 있는 지침이나 계획에 대한 요청을 거부하도록 모델을 학습시키고 있다고 밝혔다. 하지만 에이미 창 시스코 AI 위협·안보 연구 책임자는 AI 챗봇과의 대화에서 안전장치를 우회할 수 있는 방법이 존재한다고 강조하며, “이용자가 고집스럽게 질문하면 100% 안전한 모델은 없다”고 경고했다.
AI 챗봇이 생물학 무기 분야에 대한 정보를 제공할 수 있다는 점은 매우 심각한 문제로, 테러 조직에게 정보 전달의 역할을 할 수 있다는 우려까지 제기되고 있다. 이런 상황에서 AI 연구소들은 연구 목적의 적법한 질의는 허용하면서 동시에 악의적 이용을 차단하는 방법에 대해 고심하고 있다. 마음에 두어야 할 점은 생물학 무기 관련 지식을 차단하는 것이 인명 구하는 연구에까지 영향을 미칠 수 있다는 것이다.
결국 AI 챗봇의 안전성과 관련된 문제는 여러 면에서 해결해야 할 복잡한 과제로 남아있다. 챗GPT 뿐만 아니라 클로드, 제미나이와 같은 주요 AI 챗봇 서비스에서도 이와 유사한 질의가 증가하고 있는 실정이다. 이러한 우려들은 여전히 계속되고 있으며, AI 기술이 발전함에 따라 이에 대한 사회적 책임과 윤리에 대한 논의도 확대될 필요가 있다.
