사진, 어디까지 믿을 수 있을까… AI가 흔드는 '진실' [뉴스+]

한 젊은 여성이 피곤한 듯 책상 책 위에 올린 손에 기대어 자고 있다. 실제 사진처럼 보이지만 인공지능(AI)이 만든 가짜 사진이다.

이 여성의 이미지는 오픈AI가 최근 새롭게 선보인 챗GPT ‘4o 이미지 제작(Image Generation)’ 도구를 이용해 만들어졌다. 이제 누구나 손쉽게 접근할 수 있는 AI 도구를 이용해 원하는 사진을 제작할 수 있게 되면서 현실과 가상의 경계는 더욱 희미해지고 있다.

25일(현지시간) 챗 GTP는 이미지 제작 기술을 새롭게 공개했다. 이전에도 텍스트 생성 AI가 있었지만, 이번에 선보인 기술은 정해진 형식 없이 좀 더 쉽게 대화하듯이 문장이나 단어를 활용해 사진 이미지, 일러스트, 만화, 디자인 도안 등 시각적 콘텐츠를 생성할 수 있는 게 특징이다.

이제 단 몇십초에서 길어도 몇분이면 누구나 원하는 고품질 사진을 손에 넣을 수 있게 된 것이다.

AI 도구의 발전은 디자인 분야 등 다양한 곳에서 생산성을 높이는 데 도움을 줄 것으로 보인다. 오픈AI는 이 이미지 기술이 교육 분야나 출판, 사회관계망서비스(SNS) 콘텐츠 제작 등 일반 사용자에게 도움을 줄 것으로 기대하고 있다. 동화책의 삽화, 수업용 시각 자료, 개인 블로그나 유튜브 섬네일 제작에도 쓰일 수 있다.

여기 보이는 고양이가 점프하는 극적인 장면도 AI를 통해 연출됐다. 흥미로운 이 사진에서 고양이는 오픈AI가 자랑하듯 털 하나하나까지 생생하고, 빛의 반사나 창밖의 흐린 풍경까지 완벽에 가깝다.

이런 기술의 발전은 인간에게 도움을 주는 동시에 우리가 보는 사진이 진짜인지 가짜인지 더욱 구별하기 어렵게 만든다.

또 다른 사진을 보자. 스튜디오에서 아나운서 두 명이 방송을 진행하는 모습이 담겼고, 뒤쪽 TV로는 산불 장면이 방송되고 있다. 약간 어색하지만 자막도 붙어 있다. 언뜻 보면 진짜인지 가짜인지 헷갈린다.

가짜 사진은 이미 각국의 선거에서 이슈가 됐듯이 여론을 호도할 수 있다. 어쩌면 법정 등에서 증거로 사용돼온 사진이 더는 효력을 발휘할 수 없게 될지도 모른다.

좀 더 정교한 사진도 있다. 이 사진은 오픈AI가 예시를 든 명령어를 그대로 적용해 챗GTP로 만든 사진이다. 마녀 복장을 한 20대 두 명이 거리 표지판을 보고 있는 모습으로 표지판 내용이 이상하다는 점을 제외하면 지나치게 사실적이다. 사람의 얼굴이나 손가락이 드러나지 않는 사진은 판별하기 더욱 어렵다.

오남용 문제를 의식한 듯 오픈AI는 생성된 이미지의 저작권 문제, 현실과의 혼동 가능성, 윤리적 활용 기준 등을 함께 논의하고 있으며, 사용자 가이드라인과 안전장치를 지속해서 마련하고 있다고 밝혔다.

민감한 내용이나 허위 정보 조장 우려가 있는 이미지 생성은 차단되고, 생성된 이미지에 디지털 워터마크나 출처 정보가 포함될 수도 있다는 설명이다. 그럼에도 이미 유명인의 사진을 만드는 건 어렵지 않고, 인터넷 세상을 떠돌며 퍼 날라지는 정보는 더 많은 오류를 낳을 가능성을 키운다.

실제 테스트에서 챗GPT를 이용해 도널드 트럼프 미국 대통령이 백악관에서 연설하는 사진과 얼굴이 다소 어색하긴 했지만 윤석열 대통령과 트럼프 대통령이 악수하는 사진도 단 몇십초만에 만들 수 있었다.

다행히도 ‘스스로’ 제작한 이 사진들에 대해 챗GPT는 AI 생성 이미지일 가능성이 높다고 답했다. 피부나 털이 너무 매끈하고, 조명과 그림자가 완벽하고 균일하게 배치돼 있으며, 손의 디테일과 TV 자막의 글자가 어색하다는 등의 근거를 댔다. 이 기사에 등장한 사진 중 진짜 현실은 하나도 없다.

하지만 챗GPT는 이 이미지들에 대해 가짜로 보는 근거를 댔을 뿐, 가짜라는 확답을 하진 않았다. 너무 완벽해서 더 의심스러운 세상이 다가오는 중이다.

버락 오바마 전 미국 대통령은 딥페이크 기술을 활용한 가짜 뉴스와 정치적 선동에 대해 우려하며 “보이는 것이 전부가 아니다”라고 말했다.

인공지능 분야의 선구자로 딥러닝 기술의 발전에 크게 기여해 ‘AI의 아버지’로 불리며, 지난해 노벨 물리학상을 받은 제프리 힌턴 토론토대학 명예교수는 이렇게 경고했다.

“사람들은 더는 ‘무엇이 진짜인지’를 믿기 힘들어질 것이다.”

엄형준 선임기자 ting@segye.com