[기자수첩] 사회 물 흐리는 가짜뉴스, AI가 잡을 수 있을까?

“그런 걸 왜 믿어?” 가짜뉴스를 처음 접했을 때 흔히 볼 수 있는 일반적인 반응이다. 하지만, 아무도 믿을 것 같지 않은 이 가짜뉴스가 전 세계를 휘몰아치고 있다. 최근, 국내에서는 대통령 탄핵 및 구속 국면에 들어가면서 이와 관련한 가짜뉴스가 진실을 알리는 뉴스를 덮어버릴 만큼 여론을 호도하는 데 큰 영향을 끼치고 있다.

해외 역시 상황은 다르지 않다. 지난 2024년 8월, 영국 리버풀 인근 사우스포트의 어린이 댄스 교실에서 발생한 흉기 난동 사건 이후 소셜 미디어에서 범인이 무슬림 망명 신청자라는 가짜뉴스가 퍼지며 전국적인 반(反)이민 시위로 이어졌고, 이는 영국 역사상 손에 꼽는 폭동사태로 발전하기도 했다. 이제 가짜뉴스는 누구도 믿지 않을 것이라는 안도감 속에 쉽게 외면할 수 있는 존재를 넘어서, 냉정한 파악을 통해 이를 찾아 걸러내야 하는 영향력 있는 존재로 우리 앞에 다가왔다.

AI, 가짜뉴스의 해결책으로 주목받는 이유

가짜뉴스를 해결할 방법으로는 여러 가지가 제시되고 있다. 과거부터 그랬다. 언론이 더 좋은 기사를 만들어내야 한다던가 기사를 소비하는 독자들이 분별력을 갖추고 이를 걸러내야 한다던가 등 미디어 산업을 구성하는 플레이어들 사이에서 각자의 역할이 필요하다는 목소리가 주를 이뤘다. 그리고 최근에는 기술의 진보로 인해 탄생한 만능열쇠 ‘AI’가 가짜뉴스 역시 해결할 수 있다는 기대감이 커지고 있다.

AI가 가짜뉴스의 해결책으로 주목받는 이유에 대해 업계에서는 크게 4가지를 꼽는다. 첫 번째는 자동 팩트체크 기능이다. AI는 방대한 데이터 분석 능력을 통해 이 뉴스가 거짓인지, 참인지를 빠르게 확인할 수 있다. 예를 들어, OpenAI의 GPT 같은 언어 모델은 텍스트의 맥락을 분석하고 대조 데이터베이스와 비교하는 등의 프로세스를 통해 허위 정보를 식별하는 데 유용한 역할을 할 수 있다. 두 번째는 허위 콘텐츠 감지 기능이다. 최근 들어 일반 기사문과 같은 텍스트는 물론 이미지와 동영상 등 다양한 자료의 조작 수준도 정교해지고 있어 그로 인해 발생하는 문제가 더욱 커지고 있다. AI를 기반으로 하는 디지털 포렌식 기술은 딥페이크와 같은 가짜 콘텐츠를 감지하는 데 효과적이다.

세 번째는 실시간 모니터링 기능이다. AI는 소셜 미디어와 뉴스 플랫폼에서 허위 정보가 확산하기 전에 실시간으로 이를 모니터링하고 차단할 수 있다. 무엇보다 24시간 내내 실시간으로 이를 파악할 수 있다는 점은 결국 사람이 할 수 없는 일을 대신할 수 있다는 점에서 주목받는다. 마지막은 사용자 교육 지원 기능이다. AI는 사용자에게 정보를 분별하는 능력을 키워주는 교육 도구로도 활용될 수 있다. 예를 들어, 가짜뉴스와 진짜 뉴스의 차이를 사람에게 설명하고 이를 구별하는 가이드를 제공할 수 있다.

AI의 가짜뉴스 선별, 가장 큰 장벽은 ‘표현의 자유’

위에서 설명한 다양한 기능적 측면으로 AI가 가짜뉴스 선별의 해결책으로 주목받는 데도 불구하고 여전히 우려되는 지점도 존재한다. 이것이 단순히 한 문제를 기술로 해결하는 것이 아니라 여론이 조성되는 데 지대한 영향을 끼치는 뉴스라는 아이템을 다루는 문제이기 때문에 더욱 그렇다. 이와 관련해 가장 크게 논쟁되는 부분이 표현의 자유를 침해하느냐에 대한 문제다. 미국 등 AI 선진국이라고 일컬어지는 곳에서는 이미 가짜뉴스를 AI를 통해 어떻게 관리해야하는가에 대한 논의가 일찍이 이뤄지고 있다.

지난 2024년 6월, 미국 연방대법원은 정부가 소셜미디어(SNS)에서 가짜뉴스를 단속하는 것이 헌법에 규정된 표현의 자유를 침해하지 않는다고 판결했다. 이 판결은 미주리와 루이지애나주의 공화당 인사들이 바이든 행정부를 상대로 제기한 소송에서 정부의 손을 들어준 것이다. 이어 같은 해 10월에는 캘리포니아주가 AI로 생성된 정치적 딥페이크를 규제하는 법안을 통과시켰다. 이 법안은 선거와 관련된 자료 가운데 ‘거짓을 기반으로 한’ AI 생성 콘텐츠를 게시한 사람을 상대로 소송을 제기할 수 있도록 허용하는 내용을 담았다.

그러나 이 법안은 당시 표현의 자유를 보장하는 수정헌법 제1조를 침해할 수 있다는 거센 비판을 받았고 실제로 미국 내 보수 관련 인사는 해당 법안에 반대하는 소송을 제기하기도 했다. 그리고 결론적으로 연방 판사는 이 법안의 대부분에 대한 집행을 일시적으로 중단하는 예비 금지 명령을 내렸다. AI 선도국인 미국 역시도 AI가 가짜뉴스를 규제할 수 있는가에 대한 명확한 답을 현재까지 확실히 내리지 못한 상황이다.

가짜뉴스 해결 위해서는? “AI는 보조적 역할해야”

그렇다면 AI가 가짜뉴스를 근본적으로 해결하기 위해서는 어떤 역할을 할 수 있을까? 업계 전문가들은 이에 대해 “AI는 보조적인 역할, 다시 말해 수단으로써 이를 돕는 역할을 하는 것이 현재로서는 바람직하다”라는 의견을 밝혔다.

AI는 분명 가짜뉴스를 해결하는 데 핵심적인 역할을 하게 될 것이 자명하다. 기술력은 현재보다 더 진보할 것이고 이를 통해 현재는 사람이 직접 걸러야 하는 참과 거짓을 융통성있게, 오류없이 해결할 것임에는 이견의 여지가 없다. 하지만, 현재 시점에서는 이야기가 다르다. 미국의 한 AI 업계 관계자는 “아직 AI가 가짜뉴스를 선별하는 데는 기술적, 관습적 한계점이 있다고 생각한다”며 “이를 해결하기 위해서는 AI 기술과 더불어 여러 분야에서의 협력적인 접근이 필요하다”고 밝혔다.

다른 관계자 역시 비슷한 의견을 피력했다. 이 관계자는 “최근 전 세계에서 AI의 윤리적 활용과 관련한 여러 논의가 다각도로 진행될 만큼 아직 AI 활용에 있어서 확실한 윤리적 가이드라인이 성립되지는 않은 상황”이라며 “AI와 관련한 법적‧정책적 규제가 자리를 잡고 더불어 독자나 기자를 대상으로 한 가짜뉴스 판별 교육, 가짜뉴스 문제 해결과 관련한 사회적 합의 등이 마련된다면 AI를 활용한 가짜뉴스 해결에 속도가 붙을 것으로 전망한다”고 말했다.

헬로티 김재황 기자 |