10명 중 8명 “온라인 허위 정보 식별에 자신 있다”…정보 분별력 과신

최근 정부는 인공지능(AI) 기본법 제정과 AI 안전연구소 설립을 추진하며 안전한 AI 개발 및 활용을 위한 정책적 움직임을 강화하고 있다.

AI가 국가 경쟁력과 경제 성장의 원동력으로 자리 잡고 있지만, 허위 정보나 사기 같은 범죄에 악용될 가능성 등 부작용에 대한 우려도 깊어지고 있기 때문이다.

특히, 딥페이크와 같은 AI 기반의 고도화된 기술이 가짜 뉴스 생성 및 잘못된 정보 확산에 활용되면서 AI에 대한 논의는 사회적 신뢰와 안전의 문제로 떠오르고 있다.

AXA그룹은 매년 전 세계적으로 떠오르는 글로벌 리스크에 대해 전문가 및 대중 인식 설문 조사를 실시하고, 이를 토대로 미래 위험 예측 및 대응책 마련을 지원하기 위한 ‘AXA Future Risks Report’를 발간해 오고 있다.

올해 발간된 보고서에는 AI 기술로 인한 잘못된 정보(misinformation)에 대한 설문 내용을 새롭게 추가, 해당 주제에 대한 세계 각국의 전문가 3천명 및 일반 대중 2만 명의 인식 조사 결과를 담았다.

해당 설문 결과에 의하면 AI 기술의 발전으로 허위 정보가 빠르게 확산될 수 있는 위험성이 커지는 가운데 응답자 대다수 본인의 정보 분별력에 대해 과신하는 경향을 보였다. 전체 응답자 10명 중 8명(전문가 80%, 대중 78%)이 스스로 소셜 미디어 등 온라인상에서 잘못된 정보를 구별할 수 있다고 대답했다.

반면, 일반 대중의 정보 분별력에 대해서는 전문가 25%, 대중 40%만이 긍정적으로 답했다. 지역별 응답 차이를 살펴보면 아시아 전문가 38%가 일반 대중이 잘못된 정보를 구별할 수 있다고 답하며, 유럽(22%), 아메리카(18%), 아프리카 (9%) 등 다른 지역에 비해 대중의 정보 분별력에 상대적으로 높은 신뢰를 갖고 있는 것으로 나타났다.

그런데 AXA 보고서에서 관찰된 이와 같은 경향은 경계할 필요가 있다. AI 기술 고도화로 더욱 정교하게 만들어진 허위정보 확산이 가속화되고 있어 경계를 늦추게 되면 자칫 더 큰 위험을 초래할 수 있기 때문이다.

이에 해당 사안 해결에 정부의 역할이 필요하다는 의견도 관측됐다. 허위 정보 문제 해결을 위한 대응 방안별 효과를 묻는 질문에 디지털 문해력 교육 도입(전문가 96%, 대중 88%)이 가장 높은 동의율을 기록했으며, 허위 정보 유포에 대한 처벌 강화(전문가 91%, 대중 87%), 소셜 미디어 플랫폼에 대한 규제와 책임 강화(전문가 90%, 대중 85%)가 뒤를 이었다.

또한, AI가 리스크를 야기하는 동시에 해결책이 될 수 있다는 의견에도 전문가 82%, 대중 75%가 동의, AI를 사용해 가짜 뉴스를 식별하고 잘못된 정보의 확산을 방지할 수 있을 것이라고 판단했다.

한스 브랑켄 AXA손해보험 대표이사는 “AI는 이미 현재가 된 혁신이므로 AI에 대한 연구를 통해 이를 잘 활용하면서도 관련 리스크를 이해하고 적절하게 대응하기 위해 지속적인 연구와 노력을 이어 나가야 할 것이다“라고 했다.