이제 트럼프 얼굴·나치 문양도 나온다…챗GPT ‘민감한 이미지’ 정책 완화

오픈AI “일괄적 거부보다 현실 피해 예방 중요”

인종적 특징 요청도 허용…혐오 표현 확산 우려

최근 이미지 생성 인공지능(AI) 모델로 선풍적인 인기를 끌고 있는 오픈AI가 민감한 이미지 생성과 관련한 콘텐츠 정책을 완화했다.

오픈AI의 조앤 장 모델행동 책임자는 지난 27일(현지시간) 자신의 블로그와 엑스 등을 통해 “우리는 민감한 분야에서 일괄적인 거부보다 현실 세계의 피해를 예방하는 데 초점을 맞춘 접근 방식으로 전환하고 있다”며 이같이 밝혔다.

오픈AI의 정책 변화에 따라 잘 알려진 공인이나 혐오를 상징하는 표현, 인종적 특징을 묘사한 이미지 등을 생성할 수 있게 됐다. 과거에는 도널드 트럼프 미국 대통령이나 일론 머스크 테슬라 최고경영자(CEO)와 같은 유명인의 이미지를 생성할 수 없었다.

장 책임자는 “오픈AI가 중재자가 되어 챗GPT가 생성해야 할 사람과 생성해선 안 되는 사람을 선택하는 것을 원하지 않는다”고 설명했다. 대신 사용자 스스로가 이미지 생성을 원하지 않을 경우 허용하지 않는 선택지를 제공한다.

공격적인 콘텐츠나 혐오를 상징하는 이미지 역시 제한에서 벗어나게 됐다. 장 책임자는 나치를 상징하는 스와스티카 문양을 예로 들며 이것이 교육적 목적 또는 중립적인 맥락 안에서 사용될 수 있다고 말했다. 또한 ‘특정 인물의 눈을 더 동양인처럼 만들어달라’는 등의 인종 관련 요청도 과거엔 제한됐지만 이제 가능해졌다.

장 책임자는 “그것들을 완전히 금지하면 의미 있는 대화와 지적 탐구까지 막을 수 있다”며 “대신 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다”고 설명했다.

오픈AI는 정책을 완화하면서도 극단주의적 의제를 추종하는 등의 콘텐츠는 여전히 막겠다는 입장이다. 하지만 일각에선 이번 정책 변화로 혐오 표현이 확산할 수 있다는 우려도 나온다. 미국 IT 전문 매체 테크크런치는 “이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁이 본격화할 수 있다”고 지적했다.

AI의 콘텐츠 생성과 관련한 논란은 끊이지 않고 있다. 최근 출시돼 큰 화제를 모은 오픈AI의 이미지 생성모델 ‘챗GPT-4o 이미지 생성’은 일본 애니메이션 스튜디오 지브리의 화풍을 모방한 이미지를 만들어내며 저작권 침해 논란을 일으켰다.