"정치 유튜버보다 끔찍"…AI 박정희·김대중 만들면 생길 일

VOICE: AI가 바꿀 정치의 미래를 말하다

한 조사에 따르면 우리나라 국민 10명 중 1명만이 정치인을 신뢰한다고 한다. ‘AI(인공지능)로 정치인을 대체하자’는 얘기도 심심찮게 나온다. 하지만 ‘정치’ 분야만큼은 AI가 도입될 수 없는 ‘신성불가침(神聖不可侵)’의 영역으로 여겨지기도 한다. 멀지 않은 미래에 AI가 정치에 도입된다면 어떤 상황이 펼쳐질까.

정치 영역에 AI가 도입된다면 정치 유튜브와는 전혀 다른 차원의 대립과 갈등을 유발할 것이다.

인터뷰를 위해 만난 송경호 한국전자통신연구원(ETRI) AI안전연구소 선임연구원은 인공지능과 정치의 결합에 대해 이렇게 전망했다. 이런 비관적 진단의 구체적인 이유는 뭘까.

송 연구원은 “AI의 정치 도입 방식은 크게 세 가지 모형에 기반을 둔다”고 주장했다. 그가 말한 세 가지 모형은 ▶‘강령술(降靈術·Necromancy)’ 모델 ▶공리주의 기계 모델 ▶‘철인왕(哲人王)’ 모델이다. 그는 “현실 정치에서 마주할 AI는 세 모형의 결합·조합 형태가 될 것”이라고 설명했다. 송 연구원은 총 세 편의 인터뷰를 통해 AI가 바꿀 정치 영역의 변화를 상세히 풀어냈다.

송 연구원은 정치학 박사 출신 AI 연구원이다. 대학원 시절 스타트업에 뛰어들며 IT 개발을 경험했다는 송 연구원은 “정치 체제에 기술이 미치는 영향을 연구하며 자연스럽게 인공지능 연구로 관심이 이어졌고, ‘부업’으로 여긴 인공지능 연구가 결국 ‘본업’이 됐다”고 했다. 그는 연구소에서 내년 시행을 앞둔 ‘AI 기본법’ 등에 관한 연구를 진행 중이다.

① AI 박정희, AI 김대중? 그게 정치 유튜브보다 무서운 이유

송 연구원이 말한 AI의 정치 도입 방식 중 첫번째 모델은 ‘강령술(降靈術·Necromancy)’ 모델이다. 쉽게 말해 챗GPT처럼 ‘AI 박정희’ ‘AI 김대중’ 같은 유력 정치인에 관한 챗봇을 만드는 방식이다. 송 연구원은 “세종대왕, 율곡이이, 박정희, 김대중 전 대통령과 같은 옛 지도자에 관한 방대한 데이터를 학습한 챗봇은 커다란 정치적 효과를 가지게 될 것”이라고 진단했다.

‘AI 박정희·김대중’이 개발되면, 어떤 일이 벌어질까.

예를 들어 ‘김대중 도서관’엔 김대중 전 대통령에 관한 수많은 데이터가 쌓여 있다. 그걸 활용해 AI 서비스를 제공한다면 처음엔 학술적인 목적으로 활용될 것이다. 다만 이 AI 챗봇에 다수가 동조한다면 전혀 다른 정치적 효과를 낼 수 있다. 예를 들어 누군가 ‘박정희·김대중의 유지(遺志)를 따른다’고 주장할 때, 이 AI 챗봇은 이 주장에 대한 판단을 내릴 수 있고 그 결과는 사회적 파급력과 영향력을 가질 수 있다. 또 이런 AI 챗봇이 데이터를 온전히 학습했는지, 또 데이터는 검증은 받았는지, 어떤 파라미터(parameter) 값을 갖는지 등을 둘러싸고 정치적 각축이 벌어질 수도 있다. 그리고 제2, 제3의 ‘AI 박정희’가 등장할 수도 있다. 이 AI 챗봇의 파급력은 단순히 권위자 한 사람 의견 수준 정도에서 그치지 않는다. 수십 년간 인물을 연구한 연구자보다 더 큰 권위를 갖게 되며 정치적 파급력도 생길 수 있다.

송 연구원은 “AI가 학습할 데이터는 공식 기록물 뿐이고, 한 인물의 사생활, 내면까지 모두 학습할 수 없다는 한계가 있다”고 했다. 또“한 인물의 30년 전 말과 생각이 지금과는 전혀 다를 수 있다”고도 했다. 하지만 그는 “AI는 시간에 따라 변화하는 데이터를 챗봇에 활용하는 건 어렵지 않을 것”이라며 “그런 의문이 생겨도 대중은 그 AI에 그 이상의 가치를 부여할 것”이라고 내다봤다. 그 이유는 뭘까.

그는 이런 형태의 AI 정치는 “정치 유튜브보다 더 심각한 정치적 대립을 만들 수도 있다”고 경고했다. ‘AI 박정희’ ‘AI 김대중’은 어떤 방식으로 권위를 획득하고, 정치적으로 활용되기에 정치 유튜브보다 더 강력한 정치적 도구로 쓰일 수 있을까. 그는 AI를 통해 ‘진화할’ 정치적 갈등 양상은 “유튜버와 AI의 대결” 혹은 “싸움이 사라진 대립”이라는 표현을 썼다. 이런 전망은 구체적으로 어떤 의미일까.

※더 자세한 내용은 아래 링크를 통해 보실 수 있습니다.

▶AI 박정희, AI 김대중 만들면? 그게 정치 유튜버보다 무섭다〈上〉

② 정치인 말고 AI 전문가가 국회를 장악할까

2편에선 두 번째 모델인 공리주의 기계(Utilitarian Machine) 모델을 살펴봤다. 쉽게 말해, 방대한 데이터를 수집한 AI를 행정 등 정책 결정 과정에 활용하는 방식이다. 정치인들의 지리멸렬하고 불투명한 정치 행위 대신 효율·객관·신속성을 바탕으로 한 ‘정치 AI’ 모델을 행정·입법 과정에 도입한다는 것이다.

이런 정치 AI는 ‘최대 다수의 행복 실현’이라는 정치의 목표를 구체적으로 어떻게 구현할까. 또 ‘다수’에 속하지 않는 이들은 어떻게 보듬고, 어떻게 정치적 계산에 포함할까. ‘AI가 인간보다 사람들 간 이견 조율과 중재를 더 잘한다’는 구글 딥마인드팀 평가도 공개된 적이 있다. 만약 실제로 정책 결정이 이렇게 이뤄진다면 그 정치적 정당성은 어떤 방식으로 확보해야 할까. 이런 AI의 정치적 결정이 반복되면 시민들은 지금보다 더 적극적으로 정치에 참여하게 될까.

※더 자세한 내용은 아래 링크를 통해 보실 수 있습니다.

▶쓰레기장 선정, 찍소리 못한다? AI 정치인 뜨면 생기는 일〈中〉

③ AGI와 인간은 부모와 자식 관계? AI에게 정치를 뺏긴다면…

인공지능(AI)은 이미 일상의 한 부분이 됐다. 이런 AI를 모든 면에서 압도할 인공일반지능(AGI·artificial general intelligence)의 등장도 예견되고 있다. 전문가들은 AGI 등장 시기를 대체로 5~10년 뒤, 아무리 늦어도 20년 뒤로 내다보고 있다. 이런 AGI를 정치에 활용한다면, 그 구체적인 방법은 뭘까.

송 연구원은 세번째 모델인 AGI의 정치 도입을 설명하며 플라톤이 주창한 ‘철인왕(哲人王)’ 개념을 차용했다. 송 연구원은 “AGI 등장으로 민주주의 체제는 물론 국가·군사·전쟁·동맹 개념도 완전히 달라질 것”이라며 “시스템의 연결이 모든 걸 좌우할 것”이라고 말했다. 시스템의 연결은 구체적으로 어떤 변화를 의미할까. 그리고 초인간성(超人間性)에 기반한 AGI는 부패와 이기심과 같은 정치인의 인간적 결함을 완벽히 극복할 수 있을까.

송 연구원은 “AI를 활용한 두 모델은 어떻게든 인간이 개입할 여지가 있지만, ‘철인왕’ 모델 속 AGI는 그 자체로 독립적인 지능체라서 인간이 AGI의 판단에 개입할 여지가 전혀 없다”고 설명했다. 쉽게 말해 인간은 AGI가 내린 정치적 결정과 판단을 이해할 수 없고, 그 결정 과정에 손을 쓸 수 없다는 의미다. AGI가 불러올 이런 정치적 변화는 민주주의를 더 긍정적인 방향으로 발전시킬까.

※더 자세한 내용은 아래 링크를 통해 보실 수 있습니다.

▶ “인간 정치인? 혐오스럽지만…” AI정치인이 더 무서운 까닭〈下〉

추천! 더중플- VOICE:세상을 말하다