'트럼프 그려줘' 요청에 엉뚱한 그림... 챗GPT, 美대선 개입, 선제 차단했다

[디지털포스트(PC사랑)=이백현 기자] 오픈AI의 생성형 인공지능(AI) ‘챗GPT’가 미국 대선 한 달 동안 후보들의 이미지 생성 요청을 25만 건 이상 거부한 것으로 드러났다.

오픈 AI는 지난 8일 블로그를 통해 대선 한 달 동안 도널프 트럼프 당선인과 JD 밴스 부통령 당선인, 민주당 대통령 후보였던 카멜라 해리스 부통령, 조 바이든 대통령의 이미지를 생성해달라는 요청을 25만 건 이상 거부한 것으로 추정한다고 밝혔다.

‘챗GPT’의 영향력이 커짐에 따라 AI 기술을 사용해 생성된 정보가 선거에 잘못된 영향을 미칠 수 있을 것이라는 우려를 불러 일으킨 바 있다. 따라서 오픈AI의 이미지 생성 요청 거부는 생성형 AI가 선거에 미치는 영향을 최소화하기 위한 조치의 일환으로 이해된다.

실제로 미 대선이 끝난 현재(13일)도 챗GPT에서 미 대선 후보에 대한 이미지를 생성할 수 없다. ‘챗GPT’에 트럼프 당선인에의 이미지를 요청할 경우, 구체적인 인물과는 전혀 관계없는 이미지를 생성해 주는 것을 확인할 수 있다. 사용된 프롬프트(이미지 생성 AI에게 전달된 텍스트)도 트럼프 당선인에 대한 내용을 전혀 찾아볼 수 없다.

오픈 AI는 자사 모델을 통해 잘못된 정보를 퍼트리려는 시도를 적극적으로 차단하고 있다고 밝혔다. 지난 10월 오픈AI가 발간한 보고서에 따르면, 오픈AI는 챗GPT를 선거 등에 악용하려고 한 세계 20개 이상의 사기 네트워크를 저지했다. AI가 생성한 가짜 뉴스나 가짜 소셜미디어 게시물 등으로 모델을 오염시키려는 다양한 시도가 있었지만, 시도 중 성공한 것은 없었다는 게 오픈AI의 설명이다.

선거 기간 도중 챗GPT는 선거 전망에 대한 답변을 요청한 사람들에게 AP 통신, 로이터와 같은 뉴스 소스를 안내했고, 미국 내 투표에 대한 구체적인 질문을 받을 경우 미국 주정부들이 협력해 운영하는 선거 정보 사이트 ‘CanIVote’로 안내한 바 있다.

오픈AI는 “선거기간 동안 응답이 정확하고 윤리적인지 확인하기 위해 면밀한 모니터링을 진행했다”며, “챗GPT 모델을 통해 선거에 영향력을 미치려는 시도가 성공했다는 증거를 발견하지 못했다”고 밝혔다.

▶ 네이버 뉴스스탠드에서 ‘디지털포스트(PC사랑)’를 만나보세요! 구독하기 클릭!