구글의 인공지능(AI) 요약 기능인 ‘AI 오버뷰’가 부정확한 건강 정보를 사용자에게 전달함으로써 심각한 위험을 초래할 수 있다는 우려가 제기되고 있다. 영국 일간 가디언의 보도에 따르면, 이 기능이 검색 결과의 최상단에 잘못된 건강 정보를 나열함으로써 사용자들이 잘못된 판단을 할 위험이 커지고 있다.
구글은 생성형 AI 기술을 이용해 특정 주제나 질문에 대한 요점을 간단히 전달하는 ‘AI 오버뷰’ 기능을 강조해 왔지만, 최근 조사에서 그 신뢰성이 도마에 올랐다. 한 예로 구글은 췌장암 환자에게 고지방 음식을 피하라는 조언을 제공했지만, 이는 실제 전문가의 권고 사항과는 정반대였다. 췌장암 영국의 안나 주얼 연구·지원 담당자는 “잘못된 정보를 믿고 따르면 충분한 열량을 섭취하지 못할 위험이 있으며, 이는 환자의 치료에 악영향을 미칠 수 있다”고 경고했다.
더욱이, ‘AI 오버뷰’가 제공하는 간 혈액 검사의 정상 범위 정보는 간 질환자들에게 잘못된 확신을 줄 수 있는 위험한 정보들을 포함하고 있었다. 여기에는 각 개별 환자의 특성을 고려하지 않은 수치 나열만이 존재하며, 이는 환자들이 심각한 간 질환을 가지고 있음에도 불구하고 자신의 상태를 잘못 판단하게 만들 수 있다. 영국 간 신탁의 파멜라 힐리 대표는 “간 질환자로 하여금 정상이라고 생각하게 만들 경우 후속 진료를 받지 않을 위험성이 크다”고 우려를 표명했다.
가디언의 조사 결과에 따르면, 이러한 부정확한 건강 정보에 관한 우려는 여러 보건 단체와 의료 전문가들에 의해 지속적으로 제기되어 왔으며, 이번 조사를 통해 다수의 오류 사례가 드러났다. 환자정보포럼의 소피 랜들 이사는 “구글 ‘AI 오버뷰’의 부정확한 건강 정보가 검색 상단에 노출됨으로써 사람들의 건강에 중대한 위험을 초래하고 있다”고 언급했다.
이에 대해 구글 측은 ‘AI 오버뷰’가 제공하는 정보의 대다수가 사실에 기반하고 있으며, 해당 기능의 품질 개선 작업이 계속되고 있다고 밝혔다. 구글 대변인은 제시된 사례 중 일부가 “불완전한 스크린샷”이었다며, 해당 기능은 신뢰할 수 있는 출처와 연결되어 있다고 강조하며 전문가의 조언을 구할 것을 권장했다.
이러한 상황은 구글의 AI 기술이 의료 정보 제공에 있어 신뢰할 수 있을지에 대한 의문을 남기며, 건강 정보 검색의 다각적인 접근 방식과 안정성을 확보해야 할 필요성이 커지고 있음을 시사한다.
