“AI, 아동 학대 판단 착오… 日 아동상담소 도입 보류”

학대사례 62% 제대로 판단 못해

일본 정부가 아동학대 판정과 관련된 인공지능(AI)의 판단 착오가 60% 이상을 기록해 도입을 보류하기로 했다고 요미우리신문이 3일 보도했다.

보도에 따르면 일본 아동가정청은 만성적인 인력부족에 시달리는 전국 아동상담소에 보급해 학대 판단, 일시보호 판정에 활용하려 했던 AI의 도입을 연기했다. 해당 시스템은 일본 정부가 2021년부터 약 10억엔(약 97억원)을 투입해 개발했다. AI에 약 5000건의 학대 기록을 학습시키고, 상처의 유무나 부위, 보호자의 태도 등 91개 항목을 입력해 학대 가능성을 0∼100점으로 수치화하도록 했다. 시제품이 거의 완성된 상태에서 10개 지방자치단체의 협력을 얻어 과거 학대 사례 100건의 리스크를 판정하도록 하는 방식으로 검증을 진행했다.

요미우리는 “(AI 판단의) 정밀도를 각 아동상담소 간부들이 확인한 결과 100건 중 62건에서 ‘현저히 낮다’는 판단이 내려졌다”고 전했다. “엄마에게 반죽음 이상의 짓을 당했다”, “옷을 잡아 머리를 바닥에 내리쳤다”는 등의 아이 증언이 있는 경우에도 AI는 학대 가능성을 2∼3점으로 표시해 아주 낮게 봤다.

요미우리는 이 같은 결과가 나온 이유로 “사례마다 양상이 다른 학대를 AI가 정밀하게 판정하는 것이 어렵다”며 “AI학습에는 방대한 양의 기록이 필요한데 (해당 AI 학습에 사용된) 5000건은 적은 것이기도 하다”고 지적했다. 이어 “가장 많은 심리적 학대는 아이의 말, 표정 등으로 판단해야 하는데 기계적으로 판정하기 어렵다”고 짚었다.

앞서 지자체가 독자적으로 개발한 AI시스템이 잘못된 판단을 내린 적이 있다. 2020년 AI를 선구적으로 도입한 미에현에서는 2023년 4세 여자아이가 부모로부터 폭행을 당해 사망하는 사건이 발생했다. 사건 전 이 아이를 부모로부터 격리해 일시보호할지를 점검하면서 AI는 필요성을 39%로 낮게 보았다.

국립정보학연구소 관계자는 요미우리에 “AI는 무엇이든 할 수 있는 마법의 지팡이가 아니다. 개발 전에 실현 가능성을 점검하고, 면밀하게 설계를 해야 한다”고 강조했다.

도쿄=강구열 특파원 river910@segye.com