AI는 인류 전체를 귀족으로 만들어줄까

“난 사람이 주인이 되길 원했네! 사람이 (노동에서 해방되어) 더 이상 빵을 위해 살지 않기를! (…) 난 인류 전체를 귀족 사회로 만들고 싶었네.”

인간형 로봇의 개발업체 대표가 로봇이 인간을 위협하게 된 후 탄식하며 내뱉은 말이다. 최신 SF영화의 대사일까? 아니다. 104년 전에 발표되어 ‘로봇’이라는 신조어를 세상에 알린 희곡 ‘R.U.R.(로줌 유니버설 로봇)’(1920)에 나오는 대사다. 체코의 천재적 작가·언론인 카렐 차페크(1890~1938)는 이 희곡을 쓰면서 인조 노동자를 가리키는 말로 뭐가 좋겠느냐고 화가인 형 요세프에게 물었다. 그러자 형이 체코어로 ‘노동’을 가리키는 ‘로보타’에서 비롯된 ‘로봇’이 좋겠다고 한 것이었다.

노벨 물리학상 ‘AI 대부’의 경고

AI ‘사회적 위험’은 SF 아닌 현실

“로봇세 거둬 소득 지원” 담론도

양극화·전체주의 위험 유념해야

AI 관련 학자들에게 돌아간 노벨상

차페크의 희곡을 떠올린 것은 올해 노벨 물리학상과 화학상이 연이어 인공지능(AI) 관련 학자들에게 돌아갔기 때문이다. 수상자 중 제프리 힌턴 캐나다 토론토대 교수는 ‘AI의 대부’로 불리면서도 AI의 위험성을 경고하며 구글을 박차고 나온 것으로도 유명하다.

힌턴 교수는 AI의 위험을 두 가지로 설명한다. 하나는 AI가 인간보다 더 똑똑해져서 통제권을 장악하는 ‘실존적 위험’으로서, 차페크의 희곡 같은 SF의 단골 소재다. 다른 하나는 AI의 ‘사회적 위험’으로서 대규모 실업, 더 쉽게 생산되는 가짜뉴스, 편향된 데이터를 학습한 AI의 편향된 결정, 전쟁을 더 비인간적으로 만들 전투 로봇 등이다. (더중앙플러스 2023년 10월 19일 ‘AI 대부가 AI 미래 경고했다’)

‘실존적 위험’도 그리 먼 미래가 아니지만, ‘사회적 위험’은 그야말로 코앞에 닥친 문제다. 기자가 인공지능 기업 솔트룩스의 이경일 대표에게 챗GPT 등 AI가 인간의 직업을 곧 빼앗겠느냐고 질문하자 이 대표는 무시무시한 대답을 해주었다. “기자님 일을 생성 AI가 (가까운 미래에는) 대체하지 못하지만 AI를 기막히게 잘 쓰는 다른 기자님들이 기자님 일자리를 위협할 수 있는 거죠. 특히 리서치를 하시는 분들의 생산성이 2~3배가 아니라 20배~70배 정도 올라갈 수 있으니까요.” 이것이 바로 ‘사회적 위험’인 것이다.

이러한 ‘생산성의 향상’ 때문에 리들리 스콧의 ‘블레이드 러너’(1982) 같은 SF 명작에서는 언제나 미래사회가 초거대 독점기업이나 파시스트 정부가 지배하는 중앙집권적 체제로 그려지는 것이라고 경제학자 이태환 세종대 교수는 설명한다. “생산성이 높아진다는 것은 (…) 뒤집어 생각하면 같은 양을 생산하는 데 고용을 덜 해도 된다는 뜻이다.” (중앙SUNDAY 2024년 6월 29일 ‘SF 소설·영화 속 미래 사회, 왜 암울한 풍경이 많을까’)

이런 상태에서 AI 및 관련 자본을 소유했거나 잘 활용할 수 있는 이들과 그렇지 못한 이들 사이에 경제적 양극화가 발생한다. 궁극적으로는 “인간의 노동이 필요 없으니, 현재와 같은 근로소득은 발생하지 않는다.” 디스토피아 SF에 나오는 것처럼 “생산에 필요한 자본, 인공지능, 로봇 등을 소유한 특정 민간회사나 정부가 생산에 필요한 의사결정들을 독점”하게 된다. 따라서 근로소득 없는 사람들의 기초생활이 보장되기 위해서는 “소위 ‘기본소득’ 제도가 어떤 형태로든 필요할 것”이라는 게 이 교수의 견해다. 문제는 그것이 어떤 형태와 과정으로 도입되느냐에 따라 유토피아도 디스토피아도 될 수 있다는 것이다.

기본소득 vs 디딤돌소득 논쟁

다행히 지금 한국의 정치인들도 이것을 논의하고 있다. 국민의힘 소속 오세훈 서울시장이 7일 개최한 ‘서울 국제 디딤돌소득 포럼’과 이재명 더불어민주당 대표가 9일 개최한 ‘AI시대, 미래를 말하다’ 대담이 그 예다. 이 대표는 실리지 마왈라 유엔대학교 총장과의 대담에서 ‘인공지능에 로봇세를 거둬 기본소득에 활용하자’고 주장했다. 여기서 이 대표의 ‘기본소득’은 전 국민에게 개별 경제 사정과 상관없이 동등하게 일정액을 지원하는 구조다.

그에 앞서 오 시장은 이 대표의 ‘기본소득’을 비판하며 가구 소득이 적을수록 더 많은 현금을 지원하는 ‘디딤돌소득’이 근로 의욕을 고취해 근로소득을 높여 소득 재분배에 효과적이라고 주장했다. 이 포럼에는 미국의 최근 기본소득 실험의 책임자였던 엘리자베스 로즈 박사도 참여했는데, 이 실험은 챗GPT를 개발한 미국 기업 오픈AI의 CEO 샘 올트먼이 지원해서 특히 화제가 되었다. 로즈 박사는 실험 결과 모두에게 동등한 기본소득을 주는 것은 근로 욕구와 근로소득을 감소시키는 결과를 낳았다고 밝혀 오 시장의 주장에 힘을 실었다.

이 대표와 오 시장의 주장은 각계 학자들의 엄밀한 검토를 더 필요로 하나, 시의적절한 논쟁임은 분명하다. 문제는 정부든 초거대기업이든 소수가 AI를 활용한 생산의 의사결정권을 독점하고 나머지 사람들은 거기서 나온 부가가치를 기본소득으로 배분받는 구조는 공산주의든 우파 독재든 전체주의로 흐르기 쉽다는 것이다. ‘로줌 유니버설 로봇’ 대표가 꿈꾼 것처럼 “인류 전체가 귀족 사회가 되는” 대신 소수의 귀족과 기본소득 연명자들로 이분화된 사회가 될 수 있는 것이다. 그렇기 때문에 어떻게든 생산의 의사결정권이 분배될 수 있도록 섬세한 제도적 접근이 필요하다.

AI 수행 전쟁의 위험 알리는 전시

한편 AI의 ‘사회적 위험’ 중 가짜뉴스와 전투 로봇의 위험성을 볼 수 있는 전시도 지금 진행 중이다. 제네바 협약 75주년을 맞아 국제적십자위원회(ICRC)와 주한 스위스 대사관이 서울 용산 전쟁기념관에서 열고 있는 ‘디지털 딜레마- 위기 혹은 기회’(11월 16일까지) 전시다. 이 전시가 특히 흥미로운 것은 ICRC가 개발한 컴퓨터 게임을 해봄으로써 전쟁에 쓰이는 디지털 기술이 얼마나 위협적인 수준인지 알 수 있다는 것이다.

전쟁 중에 AI 딥페이크 영상 등으로 가짜뉴스를 만들어 상대국의 지도자를 음해하거나 허위 공격 정보를 퍼뜨려 시민들을 혼란에 빠뜨리는 일은 최근 러시아-우크라이나 전쟁 등에서 이미 현실화한 일이다. 나아가 AI 자율 살상 무기의 출현이 눈앞에 다가왔다. 지난달 기자들과 만난 ICRC의 수석 기술외교담당관 필립 스톨은 “이들에 대한 새로운 국제적 규제를 도입하기 위해 대중의 관심과 지지를 얻는 것”이 이번 전시의 목적이라며 “예전에 국제 IT 포럼 등에 가서 이런 이야기를 하면 잡상인 취급을 받았는데, 지금은 거대 IT CEO들이 먼저 내게 다가와 이것저것 묻는다”고 했다.

이처럼 AI의 ‘사회적 위험’은 SF가 아니라 코앞에 닥친 현실이다. 그 가능성과 위험에 대해 더 진지하게 공부하고 다룰 때다.