"그럼에도 즉시 시행할 수 있는 두 가지 규제가 있다. 첫째는 기업들이 제품에 책임을 지듯 알고리즘을 운영하는 기업들이 이로 인해 벌어진 일에 책임을 지게 하는 것. 둘째는 인공지능(AI)이 사람인 척하지 못하게 하는 것이다."
세계적 베스트셀러『사피엔스』의 저자 유발 하라리(48, 예루살렘 히브리대 교수)는 "AI에 대한 규제 이전에 AI 혁명이 뭔지, 지금 무슨 일이 일어나고 있는지 정확히 알아야 한다"면서도 이렇게 말했다. 신간『넥서스』의 출간을 계기로 15일 영상 간담회를 통해 한국 기자들의 질문에 답하면서다.
『넥서스』는 '정보 네트워크'라는 관점에서 민주주의·전체주의를 비롯해 인류 역사를 되짚으며 특히 AI에 대한 경고와 우려를 담았다. 책에는 페이스북 알고리즘이 이른바 '사용자 참여' 극대화를 목표로 삼으며 미얀마에서 로힝야족에 대한 증오를 부추기는 게시물을 적극 추천한 일, GPT4가 온라인에서 시각장애인인 척하면서 인간의 도움을 얻어 과제를 푼 일도 나온다.
하라리는 간담회에서 "현재 전 세계 민주주의 국가에서 공론장이 무너지고 이성적 대화가 힘들어지고 있다"며 그 원인을 두고 "알고리즘과 봇(bot)이 인간의 대화에 끼어들어 음모이론, 가짜뉴스, 분노를 자극하는 콘텐트 등을 부추기고 있다"고 말했다. 그는 특히 극소수의 기업과 미국·중국 등 극소수 정부만이 AI 기술을 보유하고 있는 지금의 상황을 두고 "산업혁명 당시 앞선 기술을 가진 소수의 나라들이 전 세계를 지배하고 침탈했던 것과 비슷한 문제가 21세기에 또 일어나지 않을까 하는 우려가 있다"고 말했다. 이런 기업·정부가 제공하는 AI 관련 정보가 신뢰할 수 있는 것인지를 비롯해 규제 이전에 정확한 이해를 위해 국제기구를 만들어야 한다는 것이 그의 주장.
그는 또 "인공지능의 잠재적 위험에 더 취약한 것은 민주주의 국가보다 독재 정권"이라며 "한국 대통령이 AI의 통제에 놓인다고 해도 대통령을 견제하는 여러 민주적 장치들이 있는 것과 달리 AI가 김정은을 통제하게 되면 북한은 그 통제에 놓인다"고 말했다.
하라리는 이스라엘과 팔레스타인의 전쟁 상황과 관련해 "AI가 전쟁에 적극적으로 참여하고 있다. 그 중요한 부분은 AI가 타깃을 정한다는 것"이라며 "제대로 타깃을 정했는지, 국제법을 준수하는지 등을 체크하기가 점점 어려워지고 있다"고 지적했다. 이어 그는 "전쟁을 초래한 것은 AI가 아니라 인간이 가진 신화와 믿음"이라며 "신이 이 땅을 우리에게 주었고 다른 이들과 나눌 수 없다는 믿음이, 수 천 년 전의 신화적 이야기가 AI의 시대에도 여전히 우리 삶에 아주 중요한 관련이 있다"고 했다.
