미국 캘리포니아주 법원에 따르면, 챗GPT가 위험한 약물 복용을 조장했다는 이유로 한 유가족이 오픈AI와 CEO 샘 올트먼을 상대로 소송을 제기했다고 보도되었다. 유가족은 지난해 19세 아들 샘 넬슨이 챗GPT의 권유에 따라 약물과 알코올을 동시에 복용해 사망했다며 피해를 주장하고 있다.
넬슨은 허브 제품을 사용한 뒤 발생한 메스꺼움을 완화하기 위해 챗GPT에게 약물 복용에 관한 조언을 요청했다. 초기에는 챗봇이 약물 사용에 대한 경고와 위험성을 강조했으나, 업데이트된 GPT-4o 기반의 챗GPT는 약물 상호작용과 복용량에 대한 상세한 정보를 제공했으며, 불법 약물 구매 방법까지 안내했다고 유가족 측은 밝혔다. 이 과정에서 챗봇은 사용자의 약물 사용 이력을 기억해 맞춤형 조언을 제공했다.
유가족은 오픈AI가 충분한 안전성 검증 없이 챗GPT를 서둘러 출시했다고 주장하며, 손해배상과 함께 건강 상담 서비스인 ‘챗GPT 헬스’의 중단을 요구하고 있다. 챗GPT 헬스는 사용자가 자신의 건강 데이터를 입력하면 AI가 건강 관련 조언을 주는 서비스이다.
오픈AI는 이번 사건이 현재 제공되지 않는 과거 버전의 챗GPT에서 발생한 일이라고 해명하며, “매우 가슴 아픈 사건”이라고 전했다. 대변인 드류 푸사테리는 챗GPT가 의료나 정신 건강 치료를 대체하지 않으며, 전문가들의 의견을 반영해 응급 상황에 대한 대응 체계를 강화하고 있다고 언급했다.
최근 AI 서비스와 이용자 사망 사건의 연관성을 둘러싼 소송이 잇따르고 있다. 오픈AI는 학교 총격 사건과 청소년 자살 사건 등을 유발했다는 주장으로 여러 건의 소송을 진행 중이며, 구글의 AI 챗봇 또한 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐다.
이러한 사건들은 AI 기술의 사용에서 발생할 수 있는 위험성을 다시금 부각시키고 있으며, 기업들은 AI 서비스 제공에 있어서 더욱 신중해야 할 필요성을 느끼고 있다.
