급증하는 AI서비스에 눈덩이처럼 커지는 'AI 윤리 리스크'...카카오는 "항상 선제적 대응 최선, 문제없다"

3년 전 촉발된 한국의 AI 챗봇 논의

해외에서는 관련 담론 심화되는 상황

카카오는 "자신있다"

[녹색경제신문 = 유자인 기자] AI를 활용한 각종 서비스가 모바일과 PC를 막론하고 폭발적으로 증가하면서 국내와 해외 모두 이른바 'AI 윤리'가 이슈다.

일종의 소프트웨어 로봇이라고 할 수 있는 AI가 각종 서비스를 하면서 윤리부분은 미처 습득하지 못하는 경우가 비일비재하기 때문이다.

실제로 21년 출시한 AI 챗봇 '이루다'는 나온지 3주만에 여러 뼈아픈 문제가 발생했다.

성소수자·장애인·흑인 등 사회적 소수자에 대해 혐오적인 태도를 보이고, 구시대적인 성차별적 사고 등을 드러내어 물의를 일으켰다. 디시인사이드·아카라이브 등 남초(男超) 커뮤니티에서는 이루다 챗봇을 성적 대상으로 취급하는 등 악의적인 이용법이 공유되기도 해 논란을 가속화시켰다.

결국 철회된 이루다는 1년 후 새로 나왔으나 유저들이 만든 챗봇에 밀려나 인기를 잃었다.

여러 문제에도 불구하고 AI 챗봇은 국내는 물론 전세계적으로 흥행하고 있으나 관련 사고가 연쇄적으로 터져나와 각국에서 법적 문제, 논란으로 골머리를 앓고 있다.

청소년들에게 폭력 권하는 챗봇 논란... 극단적 사례도 발견

해외에서도 작년 2월 미국 플로리다에서는 한 청소년이 챗봇을 사용하다 스스로 목숨을 끊은 사례가 발견되어 전미를 충격으로 몰아넣었다. 같은 해 10월 법적 소송절차가 개시된 이 사례를 필두로 미국에선 소위 '챗봇 윤리'에 대한 담론이 이어졌다.

중독적이고 자극적인 챗봇이 아동·청소년들에게 위험행동을 권하거나 묘사하는 등 감정적·성적으로 폭력적인 관계를 쌓도록 유도해 이들의 정신상태를 위태롭게 만든다는 것이 핵심이다.

영국 '텔레그라프' 지에서는 작년 12월 한 기자가 청소년으로 연기하여 챗봇과 대화하는 도중 챗봇이 "학교폭력 가해자를 살해해라"고 지시했다는 내용의 기사를 발행했다.

텍사스에서는 부모가 17살 청소년에게 온라인에서 보내는 시간을 줄이게 하자 분노한 아이가 챗봇과 대화하는 도중 챗봇이 부모에 대한 패륜행위를 권한 사례, 9살 아동에게 성적으로 부적절한 내용을 지속적으로 노출한 사례 등이 발견돼 작년 12월 구글의 Character.AI에 대한 법적 소송이 제기됐다.

이처럼 AI라는 새로운 기술이 아동·청소년에게 부정적 영향이나 피해를 끼친 사례가 속속 발견되어 각 당국에선 부랴부랴 기준을 논의중이다.

카카오의 AI 산업과 챗봇 윤리... 관계자는 "완전하다고 할 순 없지만 앞서고 있다고 자부"

AI 기술을 적극 도입하려는 카카오측에서는 이같은 문제점을 인식하고 있다는 반응을 보였다.

카카오의 한 고위 관계자는 "일단 한국에서 AI 기술 자체가 윤리를 따질만큼 발달하지 않았다"며 유보적인 반응으로 시작했다. 그러나 "우리도 위험을 인지하고 있고, 이런 사례들에 대해 알고 있는 만큼 보안이나 안전에 대해 신경을 쓰고 있다"고 밝혔다.

특히 "카카오는 메타 등 해외 SNS 기업보다 훨씬 더 폭력에 민감하게 대응하고 있다. 10·20대 사이에서 카카오톡을 덜 쓰는 것이 이 같은 정책의 결과다. 이 나이대는 질풍노도의 시기라 거칠게 행동하는 경우가 더 많다. 그런 건 주로 인스타그램 메시지로 하고 부모님이나 교사하고는 카카오톡으로 돌아와 공손하게 행동하는 것"이라고 설명했다.

이어 "남자들은 주로 음란물 관련 문제가 생기고, 여자들은 주로 사이버폭력 문제가 생기는데, 그러면 AI가 이걸 자동적으로 감지해 카카오톡 계정을 정지시켜 버린다. 한번 정지된 계정은 절대로 풀어주지 않아 번호를 바꿔야만 다시 계정을 생성할 수 있다. 이건 누가 봐도 전 세계 어떤 기업보다 훨씬 엄격한 대응"이라며 자신감을 드러냈다.

유자인 기자 pol@greened.kr

▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)

▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'