테크가 파괴하는 인간성

최근 이스라엘은 레바논의 헤즈볼라 세력을 정밀 타격하기 위해 삐삐와 무전기에 숨겨둔 폭탄을 터뜨렸다. 이스라엘이 암살에 평범한 물건을 사용해온 역사는 길지만, 수천 개의 단말기에 폭약을 넣고 일상생활 공간에서 일시에 터뜨리는 건 충격적인 결정이었다. 일상적으로 사용되는 테크놀로지가 어떻게 무기화할 수 있는지 보여준 사례다.

베스트셀러 ‘사피엔스’로 유명한 역사학자 유발 하라리는 최근 한 인터뷰에서 이스라엘군이 사용하는 AI를 둘러싼 논쟁을 소개했다. 그는 이스라엘 군대가 폭격할 목표물을 결정하는 과정에서 AI를 사용하고 있다는 얘기를 하면서, 인간이 AI의 ‘도움’을 받아 목표물을 정하는 것인지, 아니면 AI의 ‘지시’를 받는 것인지 생각해보자고 했다.

한쪽에서는 군인들이 AI의 결정을 수행한다고 비판하지만, 다른 쪽에서는 정보를 분석하는 데 AI를 사용할 뿐, 결정 과정에는 사람이 개입한다고 주장한다. 그런데 하라리는 어느 쪽이 진실인지보다 더 중요한 건, 현재의 기술은 인간이 굳이 개입하지 않고 AI가 결정할 수 있는 수준에 도달했다는 사실이라고 지적했다. 삐삐에 폭약을 숨기고 원격으로 터뜨릴 수 있는 기술이 마침내 사용된 것처럼, AI에 능력이 있다면 이를 활용하는 건 단지 시간문제일지 모른다.

하라리는 AI가 인류를 파괴할 거라고 믿는 사람들이 흔히 할리우드 영화에 나오는 장면을 생각하지만, ‘AI 종말론’이 실현된다면 그건 지극히 관료주의적인 모습이 될 거라고 말한다. 시간이 없는 군인들은 AI가 골라낸 목표물을 기계적으로 승인하고, 실적을 내야 하는 은행 직원은 AI가 골라낸 대출신청을 빠르게 승인하고, 보험사에서는 AI가 산정한 금액을, 대학교에서는 AI가 뽑아낸 지원서를 별 의심 없이 승인하는 세상이야말로 인간이 AI의 지시를 받는, 인간성이 파괴된 세상일 것이다.

박상현 오터레터 발행인