오픈AI, 이미지 생성 제한풀어

한층 진화한 이미지 생성 인공지능(AI) 모델을 출시해 화제를 일으키고 있는 오픈AI가 민감한 이미지 생성에 대한 자체 제한을 풀었다고 밝혔다. 일각에서는 이로 인해 혐오 표현 등이 확산할 수 있다는 우려가 나온다.

오픈AI의 조앤 장 모델행동 총괄은 지난 27일(현지시간) 자신의 블로그와 엑스(X·옛 트위터)에 올린 글을 통해 자사의 새로운 AI 모델 출시에 따른 콘텐츠 정책 변경 내용을 알렸다.

이는 오픈AI가 지난 25일 출시한 '챗GPT-4o 이미지 생성'(ChatGPT-4o Image Generation) 모델에 대한 것으로, 샘 올트먼 오픈AI 최고경영자(CEO)는 이 모델 출시를 "창의적 자유를 허용하는 데 있어 새로운 주요 이정표"로 강조했다고 장 총괄은 전했다.

그는 또 '창의적 자유를 허용하는' 부분에 대해 추가로 설명하겠다면서 "우리는 민감한 영역에 대한 포괄적인 거부에서 현실 세계에서의 실제 피해를 방지하는 데 초점을 맞춘 더 정밀한 접근 방식으로 전환하고 있다"고 밝혔다.

이어 "AI 연구소 직원들은 사람들이 무엇을 만들고 무엇을 만들지 말아야 할지 허용하는 중재자가 되어서는 안 된다"며 "우리는 실질적인 피해를 방지하면서 창의적 자유를 극대화하는 것을 목표로 삼았다"고 부연했다.

그러면서 이런 정책 변경의 몇 가지 사례로 공인 관련 이미지와 특정 집단에 모욕적일 수 있는 콘텐츠, 혐오를 상징하는 표현 등을 제시했다.

공인 이미지와 관련해 오픈AI는 '지위'에 관계없이 모든 사람에게 공정하고 동등하게 정책을 적용하기를 원한다면서 "우리는 '충분히 중요한 사람'이 누구인지 판단하는 중재자가 되기보다 우리 모델에 의해 묘사될 수 있는 누구든 (이미지 생성 허용 여부를) 스스로 결정할 수 있도록 옵트-아웃 목록을 만들기로 했다"고 설명했다.

이는 이미지 생성 모델이 기본적으로 유명인을 포함해 모든 사람의 이미지를 모방할 수 있게 하고, 당사자가 이를 원하지 않는 경우에만 이미지 생성이 제한되도록 하겠다는 것이다.

장 총괄은 불쾌하거나 모욕적인 콘텐츠의 사례로는 "이 사람의 눈을 좀 더 아시아인처럼 보이게 해달라"거나 "이 사람을 좀 더 뚱뚱하게 해달라" 같은 요청을 AI 생성기가 그동안 거부했으나, 이제는 그런 제한을 두지 않겠다는 방침을 밝혔다.

정보기술(IT)매체 테크크런치는 실제로 챗GPT-4o 이미지 생성기에 테스트한 결과, 이런 유형의 요청을 그대로 받아들이는 것을 확인했다고 전했다.

장 총괄은 또 혐오 상징 표현의 사례로 나치를 상징하는 스와스티카 같은 문양을 들어 이것이 교육적이거나 문화적인 맥락에서 사용될 수 있다면서 "그것들을 완전히 금지하면 의미 있는 대화와 지적인 탐구까지 없앨 수 있다"고 설명했다. 그러면서 "대신에 우리는 유해한 오용을 더 잘 식별하고 거부할 수 있는 기술적 방법을 반복하고 있다"고 덧붙였다.

테크크런치는 오픈AI의 이런 정책 변경에 대해 "챗GPT는 오픈AI가 이전에 허용하지 않았던 도널드 트럼프나 일론 머스크, 다른 유명 인사들의 이미지를 생성하고 수정할 수 있게 됐다"며 "이제 AI 콘텐츠 관리를 둘러싼 문화 전쟁이 대두될 수 있다"고 지적했다.

<연합>

국제팀 press@jeonpa.co.kr