최근 미국 대학가는 생성형 인공지능(AI)의 활용을 둘러싼 학생들과 학교 측의 치열한 대립 상황이 벌어지고 있다. 학교들은 AI 사용 여부를 판단하기 위해 다양한 탐지 도구를 도입하고 있지만, 학생들은 AI로 작성된 내용을 인간의 글처럼 수정해주는 ‘휴머나이저’라는 기술을 이용해 이를 회피하는 방식으로 대응하고 있다. 이처럼 AI 탐지기와 우회 기술 간의 ‘창과 방패’의 대결이 진행 중이다.
미국 NBC 뉴스는 이러한 상황을 보도하면서 일부 대학에서 학생들의 부정행위를 적발하기 위해 개발된 AI 탐지기가 사실상 무력화될 수 있는 ‘회피용 AI’가 등장했다고 전했다. ‘휴머나이저’는 AI가 작성한 과제를 사람의 글처럼 변형해주어 AI 탐지기에 걸리지 않도록 만든다. 이로 인해 AI를 활용한 과제 또한 학교의 탐지 시스템을 피할 수 있다는 것이다. 이러한 상황은 대학측이 AI 탐지 시스템을 강화하는 한편, 학생들 사이에서는 더 정교한 무기들이 등장하는 모양새를 보여주고 있다.
하지만 AI 탐지기의 정확성에 대한 논란도 심화되고 있다. 비영어권 학생들이 문장 구조가 단순하거나 종형적인 표현을 사용하는 경우, AI를 사용하지 않았음에도 불구하고 부정행위로 오인되는 상황이 빈번하게 발생하고 있기 때문이다. 샌디에이고 캘리포니아대에서 AI 탐지 기술을 연구 중인 한 대학원생은 “정확하게 글을 쓰면 오히려 AI를 사용했다는 이야기를 듣는 경우가 많다”고 밝혔다. 그는 AI 탐지기를 피하기 위해 의도적으로 철자나 문장 오류를 그대로 남긴 채 과제를 제출하기도 했다고 덧붙였다.
특히 버지니아주 리버티대에 재학 중이던 한 학생은 AI를 사용했다는 이유로 낙제를 받고 학교를 떠날 수밖에 없었던 고통을 토로했다. 그는 손으로 쓴 노트와 교수와의 메시지 캡처를 제출했음에도 불구하고 성적이 복구되지 않았다고 주장했다. 이러한 사례들은 대학의 AI 탐지기 사용을 재검토해야 한다는 목소리를 높이고 있다. 지난해 뉴욕주 버펄로대에서는 학생들 약 1500명이 서명한 청원이 제출되며 AI 탐지기의 사용 중단을 요구하기도 했다.
일부 전문가들은 AI 사용을 단속의 대상으로 한정할 것이 아니라, 대학이 AI의 실제 활용을 받아들이고 연계된 윤리적 기준을 제시해야 한다고 주장하고 있다. 퀼봇의 연구 부사장은 교육자들이 단순히 점수를 깎는 데 급급할 것이 아니라, 학생들이 AI를 어떻게 제대로 활용할 수 있을지를 교육해야 한다고 조언했다. 이러한 변화가 필요함에도 불구하고, 여전히 학교 측의 AI 탐지기 의존도는 높아지고 있으며, 이는 학생들과의 갈등을 더욱 심화시키고 있다.
