강진에 발효된 쓰나미경보, 구글 AI “모두 해제”···재난 때 AI 믿을 수 있나

지난 8일 일본 동북부 아오모리현 앞바다에서 발생한 규모 7.5의 강진으로 인해 쓰나미(지진해일) 주의보와 경보가 발령된 상태에서 쓰나미 정보를 검색한 결과 구글의 인공지능(AI)이 경보와 주의보가 “모두 해제됐다”는 오정보를 반복해서 내놨다고 아사히신문이 10일 보도했다.

아사히는 지난 8일 오후 11시15분쯤 아오모리현 동쪽 133㎞ 해역에서 지진이 발생한 이후 9일 오전 2시10분쯤 구글에서 쓰나미 정보를 검색하자 AI가 쓰나미경보, 주의보는 모두 해제된 상태라는 답변을 내놨다고 전했다.

아사히는 이후 추가로 2차례에 걸쳐 같은 질문으로 검색했지만 쓰나미경보가 발효된 상태였음에도 구글 AI는 “현재 쓰나미경보가 해제됐으며 파랑주의보가 발표됐다”는 잘못된 대답을 반복했다고 설명했다. 일본 기상청은 당시 홋카이도와 아오모리현, 이와테현에 쓰나미경보를, 미야기현과 후쿠시마현에 파랑주의보를 발표했다. 쓰나미경보가 주의보로 하향 조정된 것은 9일 오전 2시45분이었고, 같은날 오전 6시20분에는 모든 주의보가 해제됐다.

이처럼 잘못된 대답을 내놓은 구글 ‘AI 오버뷰(개요)’는 이용자가 구글에서 검색한 내용에 대해 생성형 AI가 만든 답변을 통상적인 검색 결과보다 상단에 표시하는 기능이다. 구글뿐 아니라 다른 검색 포털도 AI브리핑 등의 이름으로 비슷한 서비스를 제공하고 있다.

이번 지진에 대해 잘못된 정보를 표시한 것은 구글 AI 오버뷰만이 아니다. 검색엔진 전문가인 쓰지 마사히로 파베르컴퍼니 SEO(검색엔진 최적화) 컨설턴트는 아사히에 “구글의 AI 모드로 8일 밤부터 9일 새벽까지 지진에 대해 검색하자, 최신 정보가 반영돼 있지 않거나 지진 규모를 잘못 알려주는 답변이 표시됐다”고 소개했다. 구글 AI 모드는 올가을부터 구글이 일본어로 제공하고 있는 검색 기능이다.

쓰지는 “AI 검색에선 그럴듯한 오정보를 생성하는 할루시네이션이 일어날 수 있다”면서 “재해처럼 목숨이 걸린 영역에서는 단 한번이라도 잘못된 정보를 표시해서는 안 된다”고 지적했다. 그는 AI 이용자들에게 “생성형 AI의 답변이 신뢰할 수 있는 정보인지와 정보원을 제대로 확인해야 한다”고 당부했다. 할루시네이션은 환각이라는 의미로 AI가 잘못된 답이나 맥락과 관계없는 내용으로 답하는 현상을 말한다.

구글 측은 아사히에 “AI에 의한 개요의 대부분은 유익하고, 사실에 기반한 정보를 제공하고 있다”면서도 “웹상의 콘텐츠를 잘못 해석하거나 문맥의 일부를 누락시키는 등 문제가 발생한 경우 그런 사례를 기초로 시스템 개선을 진행하고 있다”고 설명했다.