‘이슈 PICK 쌤과 함께’ 착각의 늪, 알고리즘 의존은 왜 위험한가?

9일 오후 7시 10분 KBS1 ‘이슈 PICK 쌤과 함께’ 221회는 ‘착각의 늪, 알고리즘 의존은 왜 위험한가?’라는 타이틀로 ‘백문이 불여일견’이 안 통하는 시대에 AI 알고리즘과 확증편향에 대해 서울대 이은주 교수의 강연을 듣는다.

‘알 수 없는 알고리즘이 나를 이곳으로 이끌었다’라는 말이 있다. 알고리즘은 정말 인간의 개입 없이 스스로 작동하고 있는 걸까? 초연결사회를 살아가는 현대인의 삶에 알고리즘은 매우 깊숙이 자리 잡고 있다.

뉴미디어 시대의 미디어 알고리즘은 무한대에 가까운 미디어 정보를 효율적으로 활용하게 하는 핵심 기술로써 긍정적 역할을 하지만, 인간의 자율적 판단 능력을 약화시키기도 한다. 무엇보다 현재 전 세계 곳곳에서 벌어지고 있는 사회 곳곳의 분열과 양극화를 심화하는 원인으로, 미디어 알고리즘이 꼽히고 있는 현실 또한 주목할 만하다.

9일 방송되는 ‘이슈 PICK 쌤과 함께’에서는 서울대학교 언론정보학과 이은주 교수와 함께 현대사회에서 미디어 알고리즘이 우리 일상에 얼마나 깊이 들어와 있고, 우리의 의사 결정에 어떤 영향을 미치는지 알아보며, 미디어 알고리즘 의존이 초래하는 문제점 등을 짚어본다.

알고리즘의 정의는 무엇일까. 이 교수는 “알고리즘에 대해 어떤 입력값이 주어졌을 때 원하는 결과를 얻기 위해 정해진 계산 방법이나 규칙의 집합”이라고 설명했다.

알고리즘이 추천한 정보를 이용하며 알고리즘은 이용자의 선호도 데이터를 수집하고, 이를 기반으로 이용자가 선호하는 정보를 더욱 효율적으로 제공한다.

알고리즘은 긍정적 측면과 부정적 측면이 양립하는데, 직접 콘텐츠를 찾는 수고를 덜어주지만, 추천 정보를 편식하다 보면 뜻하지 않은 편향이 생길 수 있다. 보고 싶은 것만 보고, 믿고 싶은 것만 믿으려고 하는 ‘확증 편향’은 비슷한 환경에 지속적으로 노출되는 경우 더욱 쉽게 발생한다.

이러한 현상을 심리학 용어로 ‘반향실 효과’라 일컫는데, 같은 견해를 가진 사람들끼리 서로 정보를 주고받다 보면 특정한 정보에 갇힌다는 것이다. 특정 정보만을 찾게 되면 알고리즘도 그에 맞춰 정보를 필터링하여 제공하는데 이것이 ‘필터 버블’이다.

‘가짜뉴스’라는 표현을 쓴다. 이 교수는 이를 “잘못된 표현”이라고 지적했다. 가짜뉴스라는 단어는 언론의 신뢰를 훼손하려는 의도가 명확하다는 이유다. 그래서 이 교수는 가짜뉴스 대신 ‘허위조작정보’라는 단어를 사용할 것을 권장했다. 허위조작정보는 사실관계가 틀린 부정확한 정보를 지칭하는 허위정보, 특정 의도를 가지고 거짓인 것을 알면서도 사실을 왜곡하거나 날조하는 조작정보를 통칭하는 용어이다.

허위조작정보의 위험성이 급격히 커진 데는 AI 기술이 고도로 발달한 영향도 크다. 특히 생성형 AI를 이용한 딥페이크가 대표적인 사례로, 음성보다 영상으로 인해 발생하는 피해가 더욱 심각하다. 볼로디미르 젤렌스키 우크라이나 대통령이 자국 군인들에게 러시아에 투항할 것을 종용하는 딥페이크 영상이 유포되는가 하면, 트럼프 대통령의 소셜미디어 계정에는 해리스 후보가 공산당원 앞에서 연설하는 모습의 가짜 생성형 AI 이미지를 업로드하여 논란이 되기도 했다.

이제는 직접 본 것조차 믿을 수 없는, 백문이 불여일견이 통하지 않는 시대가 된 것이다. 현재는 생성형 AI 알고리즘이 허위조작정보를 생산하고, 추천 알고리즘이 빠른 속도로 이를 유통하면서 허위조작정보의 위험에 매우 취약한 사회 구조가 되었다. 초연결사회의 도래로 인해 빠른 속도와 큰 규모로 널리 확산되는 정보는 그와 비례하는 파괴적인 결과를 불러온다고 이 교수는 설명했다.

알고리즘은 어떻게 세상을 왜곡하나온라인 뉴스 이용자들이 정치적 이념・신념・태도에 맞는 정보만 선호하고, 같은 의견을 가진 사람들하고만 교류하다 보니 정보를 의심 없이 수용하고 확신하게 된다. 이것은 최근 우리 사회에서 일어난 초유의 사태에서도 확인할 수 있다. 편향된 알고리즘과 허위조작정보로 정치 양극화가 더욱 심화되고 있다는 것이다.

여기에 가담하는 것이 바로 ‘일부 유튜버’라고 교수는 설명했다. 사실 여부와 상관없이 영상을 제작하는 일부 유튜버와 이를 전파하는 알고리즘이 과격 시위를 촉발했다는 것이다. 어떻게든 사람들의 이목을 끌게 되면 본인의 수익과 직결되므로, 자극적이고 극단적인 콘텐츠가 증가하게 된다.

한 유튜브 채널 분석 플랫폼의 조사 결과에 따르면 지난 1월, 월간 실시간 후원 수익 상위 10개의 채널 중 9개가 정치・시사 채널이었다. 그중 보수 성향 채널이 7개, 진보 성향 채널이 2개로, 수천만 원에서 억대에 달하는 한 달 수익을 올린 것을 확인할 수 있었다. 정치적 편향성을 무기로 내세우는 일부 유튜버들은 특정 정치 성향을 가진 사람들의 주목을 끌기 위해 근거 없는 주장을 퍼뜨리고 상업적 이익을 위해 허위조작정보를 양산하고 확산시켰다.

알고리즘의 시대에 살고 있는 지금, 정보를 보는 현명한 방법은 과연 무엇일까? 이 교수는 “알고리즘을 활용한 콘텐츠를 유통하여 이윤을 창출하는 플랫폼 기업이 정보 제공에 따른 도덕적이고 윤리적인 책임을 져야 한다”고 설명했다. 또한 “개발한 알고리즘을 지속적으로 관리하고 평가하는 것이 필요하다”고 전했다. 또, 정보 이용자로서 확증 편향을 벗어나기 위한 개개인의 의식적인 노력을 촉구했다. 내가 접하는 정보가 정확・공정하지 않을 수도 있다는 인식으로 정보의 출처・신뢰성을 확인하는 습관을 들여야 한다고 전했다.

마지막으로 이 교수는 베스트셀러 작가이자 이스라엘 역사학자인 유발 하라리가 “모든 알고리즘이 학습해야 할 첫 번째 교훈은 ‘알고리즘이 오류를 범할 수 있다’는 점”이라고 말한 것을 인용하며 알고리즘의 위험을 인식하고 내가 가진 편향이 없지 않은지 생각해 봐야 할 때라고 말했다.

‘이슈 PICK 쌤과 함께’ 221회 ‘착각의 늪, 알고리즘 의존은 왜 위험한가?’는 9일 오후 7시 10분 KBS1에서 확인할 수 있다. 방송 후에는 KBS홈페이지와 wavve, 유튜브 KBS교양, KBS다큐에서 다시 볼 수 있다.