글로벌 인공지능(AI) 기업 앤스로픽이 AI의 급속한 발전에 대해 심각한 우려를 표명하며 기술 발전 속도를 조절해야 한다고 주장했다. 최근 발표된 보고서에 따르면, 앤스로픽은 AI가 스스로 발전하는 ‘재귀적 자기 개선’ 단계에 가까워지고 있다고 언급했다. 이는 AI가 인간의 개입 없이 구조와 알고리즘을 수정하며 더 스마트한 AI 모델을 스스로 생성하는 것을 의미한다.
앤스로픽의 공동 창립자인 잭 클라크와 마리나 파바로는 기술 발전이 사회 제도와 AI에 대한 연구가 시너지 effect를 낼 수 있도록 협의가 필요하다 강조했다. 그들은 국제적인 합의를 통해 AI 발전 속도를 조정하고, 기업의 준수 여부를 검증할 수 있는 체계의 마련을 촉구했다. 이를 통해 AI의 윤리적 논의가 사회적 안전망을 강화하는 방향으로 나아가야 한다는 의견을 피력했다.
AI가 자율적으로 개발하는 상황이 초래되고 있는 가운데, 오픈AI는 프로그래밍 전문 모델 ‘코덱스'(Codex)가 스스로 결함을 찾아내는 형식으로 개발 활동을 이어가고 있다고 전했다. 앤스로픽 역시 자신들의 AI 모델이 생성한 코드를 바탕으로 새로운 AI 모델들을 제작하고 있는 상황이다. 이러한 변화는 인류가 AI의 진화에 대한 철저한 검증과 함께 안전장치를 마련해야 하는 시점에 이르렀음을 시사한다.
한편, 교황 레오 14세는 지난 25일 교황청에서 발표한 회칙 ‘마니피카 후마니타스’에서 AI의 무장해제를 강조하며 기술을 권력을 형성하는 수단으로 사용하는 것을 거부해야 한다고 밝혔다. 그는 인류가 또 다른 바벨탑을 건설하는 것을 지양해야 한다고 경고하며, 도전적인 AI 기술 개발에 대한 현실적인 접근이 필요하다고 명확히 했다.
앤스로픽은 교황의 메시지에 공감하며 AI 연구소가 윤리적 방향으로 운영되도록 외부 감시의 중요성을 강조했다. 크리스토퍼 올라 앤스로픽 공동 창립자는 이익과 윤리 간의 갈등을 해결하기 위한 목소리가 필요하다고 주장을 더했다. AI의 발전이 예측 불가능한 결과를 가져올 수 있는 만큼, 올바른 방향으로 나아가고 사회적 안전을 보장할 수 있는 시스템 설정이 필수적이다.
각 기관과 기업들은 이러한 우려를 사전에 인식하고 AI의 발전을 사회적 수용 가능성을 고려하여 조율해야 할 시점에 도달했다. 앞으로의 AI 개발에서 윤리적 기준과 안전성을 확보해야 할 가장 중요하고 시급한 과제가 될 것이다.
