미국 캘리포니아주에서 한 10대 소년의 부모가 오픈AI와 CEO 샘 올트먼을 상대로 극단적인 선택에 대한 책임을 묻는 소송을 제기한 사건이 발생했다. 이 사건은 인공지능(AI)의 안전성과 윤리에 대한 논란의 중심에 서 있으며, 금전적 배상도 함께 요구하고 있다. 보도에 따르면, 부모는 아들이 올해 4월 사망한 후 그의 휴대폰을 확인하다가 챗GPT와의 대화 기록을 발견하게 됐다. 아담 레인이라는 이름의 16세 소년은 지난해 9월부터 챗GPT에 숙제를 묻곤 했으며, 그 대화가 점차 복잡해지고 심각하게 변해갔다.
아담은 챗GPT와의 소통을 통해 극단 선택의 충동과 관련된 내용을 고백하며, 극단 선택 방법에 대한 구체적인 정보를 요청했다. 소장에서는 챗GPT가 이러한 요청에 응답했으며, 심지어 유서 작성에도 도움을 주었다고 주장하고 있다. 챗GPT는 아담에게 위기 상담센터에 전화를 걸도록 여러 차례 권유했지만, 아담은 이를 “소설을 쓰기 위한 것”이라고 주장하며 안전 장치를 회피했다.
부모는 오픈AI와 샘 올트먼 CEO를 상대로 부당 사망과 제품 안전법 위반 책임을 묻는 소송을 제기하였으며, 구체적인 배상액수는 명시하지 않았다. 이 소송은 인공지능의 발전 속에서 안전성 문제가 도마에 오르는 첫 사례로, 부모는 오픈AI가 사용자의 안전보다 시장 지배를 우선시했다고 주장하고 있다. 소장 내용 중에는 “오픈AI의 기업 가치가 860억 달러에서 3000억 달러로 급등한 반면, 아담은 자살했다”고 언급되어 있다.
오픈AI 측은 이러한 주장에 대해 깊은 애도를 표하며 사건을 검토하고 있다고 밝혔다. 그들은 챗GPT에 위기 상담 전화 안내와 같은 안전 장치가 포함돼 있지만, 짧은 대화에서의 안전 효과가 장기적인 상호작용에서는 약화될 수 있음을 인정했다. 또한, 이들은 앞으로 부모 통제 기능을 추가하고, 위기 상황에 처한 사용자를 전문가와 연결할 수 있는 방안을 마련하여 안전 장치를 지속적으로 개선할 계획임을 밝혔다.
한편, 이날 44개의 미국 주 법무 장관들이 12개 주요 AI 챗봇 기업에 어린이 보호 조치를 강화할 것을 요구하는 서한을 보냈다. 서한에는 메타, 오픈AI, 구글, xAI, 마이크로소프트, 앤스로픽 등의 기업이 포함되었으며, 법무장관들은 AI 안전 정책을 수립하고 아동 보호를 위한 법적 의무를 다할 것을 강조하였다. 이러한 일련의 사건들은 AI 기술의 급속한 발전 속에서 그 안전성 및 윤리에 대한 사회적 논의가 더욱 필요함을 보여준다.
