[Today’s PICK] 상담사에 욕하지 마세요…AI가 실시간 폭언 차단

통화 중 욕설을 실시간으로 탐지하고 차단하는 인공지능(AI) 서비스가 나왔다.

LG유플러스는 기업용 통화 솔루션 ‘AI비즈콜 바이 익시(AI비즈콜)’에 AI 기반 자동 폭언 탐지 기능을 도입했다고 13일 밝혔다. AI비즈콜은 스마트폰으로 회사 전화를 사용하게 해 주는 기업용 통화 앱이다. 공공기관·고객 응대 직군 근로자, 교사 등이 주로 사용한다.

이번에 나온 폭언 탐지·차단 기능은 통화 중 상대방의 욕설·폭언·성희롱성 발언 등을 AI가 실시간으로 감지한 뒤 조치를 대신 취해주는 기능이다.

통화 시연에서 발신자가 ‘무슨 X소리에요?’라고 욕설을 섞어 말하자 스마트폰 화면에는 ‘AI가 폭언 의심 발언을 감지, 폭언 신고를 하시겠습니까?’라는 알림창이 떴다. 이 때 신고버튼을 누르자 통화가 자동 종료됐고, 해당 신고 내역은 관리자에게 바로 발송됐다. 회사 측은 이 기능을 통해 학교, 공공기관, 병원 등에서 민원전화를 받는 이들의 근무환경을 개선할 수 있을 것으로 기대하고 있다.

LG유플러스는 기술 구현을 위해 자체 개발한 온디바이스 AI(기기 내에서 AI를 쓸 수 있는 기술) ‘익시’에 약 77만개 폭언·성희롱 문장을 학습시켜 탐지 정확도를 높였다. 이를 통해 통화 중 실시간으로 폭언을 차단하고 응답할 수 있게 됐다. 통화 녹음 내용은 모두 온디바이스로 단말에만 저장돼 외부로 유출되지 않는다. 서비스를 기획한 김지홍 커뮤니케이션DX스쿼드 PO는 “단순 키워드 기준으로 분석하는 것이 아니라, 문맥을 파악해 욕설을 탐지하고 있다”고 설명했다.

회사측은 향후 악성 통화를 자주하는 사람은 자동으로 차단하는 ‘블랙리스트’ 기능도 추가할 예정이다.