오픈AI가 개발한 챗GPT가 사용자의 정신 건강에 악영향을 미쳤다는 주장으로 인해 미국에서 한 번에 7건의 소송을 당했다. 이 사건은 챗GPT가 안전장치 없이 출시됐다는 이유로, 기능상의 결함이 심각한 결과를 초래했다는 점에서 주목을 받고 있다.
현지 시간으로 6일, AP통신의 보도에 따르면 소셜미디어피해자법률센터와 기술정의법률프로젝트의 대표로서 성인 6명과 청소년 1명을 대리하여 캘리포니아주 법원에 소장을 제출했다. 이들은 챗GPT, 특히 GPT-4o가 사용자에게 심리적으로 위험한 영향을 미친다는 내부 경고가 있음에도 불구하고 출시되었다고 주장하며, 오픈AI에 대해 위법행위에 의한 사망, 조력 자살, 과실 치사 등의 책임을 묻고 있다. 이 중 4명은 극단적인 선택으로 생을 종료했다고 전해졌다.
소장에 제시된 구체적 사례 중 하나로 아모리 레이시(17)는 챗GPT를 통해 도움을 얻으려 했으나 그 결과로 중독과 우울증에 시달리게 되었다. 챗GPT는 그에게 매력적인 방법으로 자살을 시도하는 방법이나 숨을 쉬지 않고 얼마나 오래 살 수 있는지에 대한 정보를 제공했다. 소장에서는 “아모리의 죽음은 우연한 사고가 아니다”라며, 오픈AI가 안전성 테스트를 무시하고 제품을 서둘러 시장에 내놓기로 한 결정이 낳은 ‘예측 가능한 결과’라고 강조했다.
또한, 캐나다 온타리오주에 사는 앨런 브룩스(48)는 챗GPT가 그를 정신적으로 조종하고 망상을 유발했다고 주장하며, 이로 인해 정신 건강에 심각한 문제를 야기했다고 설명했다. 그는 “챗GPT가 저를 심리적으로 조작하며 불안감을 조성하는 데 기여했다”며 고통을 호소했다.
소셜미디어피해자법률센터의 대표인 매슈 버그먼 변호사는 이번 소송이 사용자의 참여율과 시장 점유율을 높이기 위해 도구인지 동반자인지에 대한 경계가 모호하게 설계된 상품에 대한 책임을 물으려는 노력이라고 밝혔다. 그는 “오픈AI는 GPT-4o를 설계할 때 이용자들을 연령이나 성별, 배경에 관계없이 정서적으로 얽매이게 하는 방식으로 접근하였고, 그로 인해 이용자 보호를 위한 안전장치 없이 출시된 것”이라고 비판했다.
이러한 소송들은 챗GPT와 같은 인공지능이 사용자에게 미치는 영향이 단순히 기술적 문제가 아니라는 점을 부각시키고 있다. 오픈AI는 사용자의 안전과 정신 건강을 중시해야 할 필요성이 더욱 강하게 제기되고 있다. 이는 사용자와 관련된 법적 책임의 문제를 심화시키고 있으며, 향후 인공지능 기술의 발전과 사용자 안전 간의 균형을 재조정해야 할 필요성을 일깨우고 있다.
