최근 앤트로픽의 AI 챗봇 클로드에서 발생한 사건이 법률업계에 큰 파장을 일으켰다. 인공지능의 발전이 가져오는 기회와 함께, AI 도구가 지니고 있는 한계를 이해하는 것이 중요하다. 특히, 법정에서 변호사가 클로드가 생성한 가짜 법률 인용문으로 인해 사과해야 하는 상황이 발생했다. 이 사건은 AI의 현실적인 문제인 ‘AI 환상’을 잘 보여준다.
이 사건은 북부 캘리포니아의 법원에서 앤트로픽이 음악 출판사들과 벌이고 있는 법적 다툼 중에 발생했다. 법원 문서에 따르면, 앤트로픽의 변호사는 자사의 클로드 AI 챗봇이 생성한 부정확한 법률 인용을 사용했다고 인정했다. AI가 완전히 허구의 인용문을 만들어내면서, 잘못된 제목과 저자 정보를 제공한 것이다.
앤트로픽의 변호사들은 해당 오류를 확인하기 위한 수동 인용 점검이 실패했음을 언급하며, 클로드의 환상 현상으로 인한 다른 여러 오류와 함께 이것이 발생했다고 설명했다. 회사는 본 오류를 “정직한 인용 오류”라며 사과했다. 이러한 사건은 특히 법률과 같은 고위험 환경에서 AI를 통합할 때 발생할 수 있는 중요한 위험을 강조한다. AI가 효율성을 제고하는 데 큰 잠재력을 지니고 있음에도 불구하고, 사실과는 다르게 그럴듯하게 보이는 정보를 생성하는 환상 현상은 여전히 심각한 장애물로 남아 있다.
법률 업계에서의 AI 사용은 단순한 사건이 아니다. 최근 앤트로픽이 제출한 서류 이전에도 유니버설 뮤직 그룹과 다른 음악 출판사들은 앤트로픽의 전문가가 클로드를 사용하여 허위 아티클을 인용한 혐의로 고소했다. 이로 인해 연방 판사 수잔 밴 쿨렌은 앤트로픽이 이 혐의에 공식적으로 응답할 것을 명령했다. 이러한 사건들은 저작권 소유자와 기술 기업 간의 광범위한 법적 분쟁의 일환으로, 생성 AI 모델을 훈련하기 위해 저작권 자료를 사용하는 것이 공정 사용인지 침해인지에 대한 핵심 질문과 관련이 있다.
AI의 법적 오류로 인해 발생한 다른 사례들도 있다. 캘리포니아의 한 판사는 두 개의 로펌이 법원에 제출한 “가짜 AI 생성 연구”에 대해 비판했다. 또한, 호주에서는 한 변호사가 ChatGPT를 사용하여 작성한 법원 문서에서 잘못된 인용문을 포함시킨 혀되는 스크루니를 받았다. 이러한 우려는 법률 전문가들이 AI 도구를 연구나 초안 작성에 사용할 때 각별한 주의를 기울이고 철저한 확인 과정을 진행해야 할 필요성을 더욱 부각시킨다.
AI 기술에 대한 투자는 계속 증가하고 있으며, 이러한 문제에도 불구하고 법률 업무 자동화를 위한 시도가 전혀 주춤하지 않고 있다는 사실은 고무적이다. 예를 들어, 생성 AI 모델을 활용하여 변호사를 지원하는 하비라는 회사는 2억 5천만 달러 이상을 모집하려 하고 있어, 기업 가치는 50억 달러에 이를 것으로 예상된다. 이는 현재 클로드와 같은 AI 도구가 정확성과 관련된 도전 과제가 있음에도 법률 업무의 효율성과 능력에서 큰 가치를 가질 것이라는 믿음을 나타낸다.
AI의 법률 연구, 문서 검토 및 계약 분석에서의 약속은 여전히 강력하지만, 최근 사건들은 이 기술이 아직 완벽하지 않다는 것을 상기시킨다. AI가 제공하는 출력을 검증하는 데 만전을 기해야 한다. 앤트로픽 사건의 핵심은 클로드가 제공한 AI 법률 인용문을 검증하지 않은 점이다. AI는 잠재적인 출처를 신속하게 찾거나 초기 텍스트를 초안하는 데 도움을 줄 수 있지만, 최종의 정확한 정보에 대한 책임은 궁극적으로 인간 사용자에게 있다.
이번 사건은 AI를 전문 분야에 적용할 때 겪는 현실을 잘 보여준다
