결국 모든 기계는 지능을 가질 것이다

1500년대 가톨릭 사제이며 천문학자였던 코페르니쿠스는 우주의 중심에 지구가 아니라 태양이 있다는 사실을 발견한다. 그의 발견은 단순한 별자리 관찰이 아니었다. 당시 세계관을 완전히 뒤바꾸는 사건이었다. 그로부터 500여 년이 지난 지금. 인간은 ‘제2의 코페르니쿠스 전환’이라고 불리는 순간을 앞두고 있다. 바로 인공지능(AI) 때문이다.

인공지능은 이미 우리 삶 곳곳에 있다. 안경이 내가 보고 있는 것을 설명하고 자동차는 목적지까지 스스로 움직인다. 손목시계가 몸 상태를 체크하고 병을 진단한다. 인공지능은 나의 관심을 파악하여 내가 좋아하는 노래·영상을 추천해 준다. 스마트폰만 있으면 다른 언어를 몰라도 외국인과 가볍게 대화할 수 있다. 인공지능이 그림도 그려주고 문학작품도 작성해 준다. 이런 가공할 수준의 인공지능 기술 앞에서 인류는 인공지능을 통제할 수 있을지 두려움을 가진다.

기계는 자기 죄에 눈물 못 흘려

AI 윤리는 결국 개발자 윤리

교황청 윤리 가이드라인 발표

AI 노예 여부 우리에게 달려

먼저 인공지능 기술의 발전은 ‘인간은 누구인가’에 대한 물음을 가져온다. 인공지능의 궁극적 목적이 인간 능력을 닮는 것이라면 인공지능이 닮고자 하는 ‘인간’에 대해 파악하는 일은 당연하다. 인간을 설명하는 여러 정의가 있지만, 그리스도교에서는 인간은 논리적 사고뿐만 아니라 진리를 직관적으로 파악하는 능력을 가졌다고 말한다. 하느님의 모습으로 창조된 오직 인간만이 마음의 눈으로 진리이신 하느님을 알아볼 수 있다고 말한다. 아름다운 자연, 사람들의 사랑을 보며 인간은 신의 존재를 알아볼 수 있다. 혹은 고통이나 죽음을 통해서도 신을 만날 수 있는 게 인간이다. 인간만이 기도할 수 있다. 하지만 인공지능은 데이터와 알고리즘으로 초월적인 존재에 대해 정보처리 할 수 있을 뿐이지 인식하거나 이해할 수 없다.

그렇기에 진리를 직관적으로 알아볼 수 없는 인공지능은 삶의 도리를 깨우칠 수 없다. 무엇보다 진리를 데이터로 학습한 인공지능은 하느님의 소리가 들리는 양심이 없다. 인간은 양심을 통해 선과 악을 구분하고 삶의 바른길을 찾아간다. 인간은 다른 이를 돕기 위해 자신의 목숨까지 내놓기도 한다. 인간은 선한 일을 했으면 스스로가 자랑스럽게 느껴지기도 하고 죄를 지으면 자책하며 양심의 아픔을 느낀다. 인간은 양심을 통해 무엇이 옳고 그른지 구분할 수 있다. 하지만 인공지능은 프로그램대로 작동하지 못한 ‘오류’가 있을 뿐이지 ‘양심의 소리’를 듣지 못한다. 인공지능은 자신이 지은 죄에 대해 눈물을 흘리지 못한다.

더욱이 인공지능은 삶의 도리, 윤리적 가르침을 인간에게 가르칠 수 없다. 인공지능이 인간들에게 제공하는 윤리적 가르침이나 삶의 도리는 이미 종교나 사회 규범으로 널리 알려진 것들이다. 인공지능이 알려주는 지혜는 언론이 작성한 기사를 무단으로 베껴와 조합하곤 새로운 지식인 양 알려주는 정보 제공 수준이다. 삶이 답답해서 앞으로 어떻게 살아야 하는지 인공지능에 물어봤자 인공지능은 여러 종교 경전과 신앙인의 훌륭한 가르침을 재조합해 답할 뿐이다. 그래서 양심 안에서 윤리적 행동을 하는 인간만이 인공지능에 대한 윤리적 판단을 할 수 있다.

최근 교황청은 인공지능 윤리 가이드라인 ‘안티구아 엣 노바(Antigua et nova, 옛것과 새것)’를 발표했다. 내용은 이렇다. 첫째, 인공지능은 인간 존엄성을 존중해야 한다. 인공지능은 인간을 단순한 도구로 취급해서는 안 되며, 모든 인간의 존엄성을 보호해야 한다. 둘째, 인공지능에 대한 책임성과 투명성이다. 인공지능의 결정이 불분명하거나 책임 소재가 불확실한 경우 문제가 발생할 수 있다. 인공지능을 설계하는 개발자와 운영자는 책임을 분명하게 해야 한다. 셋째, 인공지능은 공공의 이익이 되어야 한다. 인공지능이 사회적 불평등을 심화시키지 않아야 한다. 또한 인공지능을 활용한 데이터 분석이 편향되지 않도록 해야 한다. 넷째, 인공지능은 선하게 사용되어야 한다. 인공지능은 인간 삶의 질을 향상시키는 데 사용되어야 하며, 노동 시장의 왜곡, 프라이버시 침해·조작 등에 악용되지 않도록 해야 한다.

‘인공지능 윤리 가이드라인’이라고 했지만 결국 인공지능을 개발하는 인간의 윤리를 말하고 있다. 인공지능을 개발하는 인간이 윤리적이면 인공지능도 윤리적이라는 말이다. 더욱이 지금보다 더 발전한 초인적인 인공지능이 등장하더라도 인간은 인공지능을 하느님의 대체물로 삼을 수 없다. 근대를 시작하며 “신은 죽었다”고 호기롭게 말한 인류는 물질 만능주의 아래 황금의 노예가 되어 살아가고 있다. 인공지능 시대, 결국 모든 기계는 지능을 가질 것이다. 인공지능 시대에 인간은 지능을 가진 기계의 노예가 될지 아니면 인공지능을 가진 기계의 도움을 받는 주인이 될지는 우리 인간의 선택에 달려있다.

조승현 가톨릭평화방송 신문(cpbc) 보도주간