MBC 제3노조 "네이버의 인공지능 기사추천 서비스…개인정보 유용 의혹" [미디어 브리핑]

네이버뉴스가 지난 2017년부터 본격적으로 사용해오고 있는 인공지능 기반 기사추천서비스 AiRS의 알고리즘 추천 설계에 대해 네이버는 작년 7월부터 자체 안내페이지를 개설해 설명하고 있는데 개인정보 관리와 동의 여부에 있어서 중대한 문제점이 드러나고 있다.

MBC노동조합이 2024년 9월 30일 국회에서 열린 ‘알고리즘 위험성과 해결방안’ 토론회에 참석하면서 분석한 결과 네이버 뉴스 회원 수천만 명의 뉴스 소비이력이 구체적인 동의 없이 무분별하게 수집되어 소비성향 그룹별로 분류되고 구체적인 허락없이 사용하고 있는 정황이 나타났다.

네이버가 안내한 인공지능추천시스템 (AiRS)에 따르면 네이버는 사용자별 뉴스 소비 데이터를 모두 수집하여 사용자별 기사소비특성을 뽑아 비슷한 성향으로 그룹별로 분류하였다고 한다.

기사소비성향이 유형화 되었다는 것은 뉴스 이용자의 정치성향에 따라 그룹핑이 완료되었다는 의미로 해석될 수 있다. 개인이 원하든 원하지 않든 특정 정치적 성향의 그룹, 혹은 특정 뉴스 소비그룹으로 분류되어 ‘기사 선호 예측’이 이뤄지고 있다는 뜻이다.

네이버는 이를 CF 모델링 즉 (Collaborative Filtering)이라고 이름 붙이고 있다.

조지오웰의 이른바 ‘빅브라더’처럼 누가 어떤 매체의 어떤 성향의 기사를 많이 읽는지 이미 네이버는 전 국민의 개인별 정치성향 분류를 마치고 이 데이터를 활용하고 있다는 뜻이다.

네이버는 또 뉴스 이용자가 과거에 조회했던 기사와 단어를 중요도 기반으로 순위를 매겨 AI딥러닝 방식으로 학습을 하도록 하고 있다고 한다. (콘텐츠 기반 필터링)

이처럼 특정 이용자의 과거 단어 조회와 기사 조회 이력이 모두 학습되어 빅데이터로 인공지능 학습에 이용되고 있는데 이 과정에서도 개인정보이용에 대한 구체적인 동의를 얻은 기억을 가진 이용자는 드물다.

▣ 기사 소비이력으로 정치성향 그룹화..‘사회적 낙인’ 위험성 커

이러한 데이터가 혹시라도 유출되어 개인의 정치성향으로 낙인 찍히고 차별이나 사회적 박해의 도구로 악용될 수 있어서 큰 문제이다.

네이버는 회원 가입시, “서비스 이용과정에서 IP주소, 쿠키, 서비스 이용기록, 기기정보, 위치정보가 생성되어 수집될 수 있습니다”라고 설명하고 개인정보 수집 동의를 받고 있으며 이에 동의하지 않으면 회원가입이 불가능하다.

이러한 수준의 개인정보 이용 동의가 개인별 기사소비성향의 정보수집과 활용, 그룹핑에 동의한 것으로 해석될 수 있을까?

▣ 미국은 ‘알고리즘 책무법안’으로 ‘개인정보 보호 의무화’ 움직임

미국의 론 와이든 상원의원이 2022년에 제출한 ‘알고리즘 책무법안’에 따르면 연방거래위원회(FTC)는 AI시스템에 대하여 소비자가 자신의 데이터 및 기타입력정보의 시스템 포함 여부, 추가 사용에 대한 동의, 정보제공에 대한 동의 여부, 동의 방법, 추가사용 정보의 사용제한 사항 등 라이센스 정보의 문서화 및 보관 의무를 해당 업체에 부여하고 있다.

또한 AI 추천 서비스의 개발, 테스트, 유지, 업데이트 등에 사용한 데이터와 입력정보 등 문서를 유지관리하고 , 데이터 구조와 메타데이터 및 입력정보를 수집, 추론, 획득한 방법론에 대해 설명하도록 요구할 수 있게 하고 있으며 소비자 동의 여부를 공개하도록 의무화 하고 있다.

엄청난 양의 빅데이터로 모인 뉴스소비성향 정보는 곧바로 정치성향이 되고 개인별 정치적 성향 분류표가 되어 선거에 악용되거나 판매될 수 있으며, 개인에 대한 박해의 근거가 될 수 있다. 이에 따라 철저한 개인정보 사용동의가 반드시 필요하며 네이버가 무분별하게 수집하여 개인의 뉴스소비성향을 분류하는 행위는 그 자체로도 헌법상의 인격권을 침해하는 행위가 될 수 있다.

2024.10.12.

MBC노동조합 (제3노조)