월E인가, 아이언맨인가

최근 열린 인공지능(AI) 활용 대회 ‘AI TOP 100’에 참가했다. 팀에서 다양한 데이터를 처리해본 경험이 있는 터라 기세 좋게 온라인 예선 시각에 맞춰 컴퓨터 앞에 앉았다. 텍스트 추출 등 아주 새롭지는 않지만 결코 쉽지도 않은 문제들이 나왔다. 나름 계획을 세우고 AI에게 지시를 던졌다. 결과는 참패였다. 정답을 다 채우지도 못했다. 본선에서 우승한 개발자 김진중씨는 “기존 경험과 지식을 버리고 ‘AI 딸깍’을 시전했다”는 비결을 전했다. AI에게 문제와 데이터를 던져주고 풀라고 한 뒤, 마우스만 딸깍 눌렀다는 의미다. AI가 엉뚱한 방향으로 가면, 방법을 제시하지는 않고 조건과 목적만 상기시켰다고 한다.

확실히 AI의 코딩과 데이터 처리 실력은 놀랍다. 내 경우 AI가 더 잘하는 영역을 뭘 좀 안다며 개입했다가 화를 자초한 셈이다. 그러나 현시점 AI의 한계를 지적하는 목소리도 여전하다. 오픈AI의 수석과학자로 일했고, 세이프슈퍼인텔리전스(SSI)를 창업한 일리야 수츠케버는 최근 한 유튜브 인터뷰에서 “놀랍게도 어려운 문제를 풀어내면서 다른 한편으로는 같은 말을 왔다 갔다 반복하는 바보 같은 모습도 보인다”고 말했다. 프로그램의 버그를 고쳐달라고 했더니 두 번째 버그를 만들어내는 식이다.

인간처럼 배우고 탐구하는 AI

비슷한 질문에 획일화된 답변

다르게 생각하는 사람들 필요

모두가 자신만의 AI를 가져야

매번 새로운 AI 모델이 발표될 때마다 벤치마크(성능 비교평가) 점수가 몇점 더 올랐다며 화제가 된다. 수츠케버는 이런 식의 평가와 현재 모델을 만드는 핵심 방법론인 강화학습이 AI의 시야를 좁히고 있다고 본다. 강화학습은 행동마다 점수를 매겨 사전학습을 마친 모델의 행동을 교정하는 방법인데, 존재하는 경우의 수를 모두 가르칠 순 없다. 점수를 높이는 데 초점을 맞추다 보니 현실 대응 능력이 떨어지기도 한다. 현재의 AI는 데이터와 매개변수를 엄청나게 늘리면서 도약했지만, 운전 같은 복잡한 일도 조금만 배우면 그럭저럭해내는 강건함(robust)을 지닌 인간에 비해 일반화 능력이 떨어진다.

올해 신경정보처리시스템학회(NeurIPS) 최우수 논문에서도 비슷한 주장이 나왔다. AI 석학 최예진 스탠퍼드대 교수가 참여한 이 논문은 언어모델들에 정답이 없는 개방형 질문을 던졌을 때 답변이 천편일률이라는 사실을 입증했다. “시간에 대한 은유를 써달라”고 요청하니 모델들은 대부분 “시간은 강이다”라는 똑같은 표현을 내놓았다. 연구팀은 이를 ‘인공 하이브마인드(Hivemind·집단지성)’라고 이름 붙였다. 서로 다른 회사에서 다른 데이터로 학습시켰다는 AI 모델들이 마치 하나의 뇌를 가진 것 같았다는 의미다. 연구팀이 추정한 원인도 강화학습이다. 모델들이 대체로 사람들이 동의하는 무난한 답변에 더 반응하도록 훈련받고, 평가가 엇갈리는 답변은 무시하도록 유도됐다는 것이다. 이 연구는 인류가 비슷한 답변을 내놓는 AI에 지속해서 노출된다면 사고방식도 획일화될 수밖에 없다는 우려에서 출발했다.

수츠케버는 AI의 규모를 키웠던 ‘스케일링 시대’를 넘어, 다시 근본을 파고드는 ‘연구의 시대’가 오리라 전망했다. 그는 궁극적인 AI의 모습이 만물에 통달한 초월자가 아니라 인간처럼 끊임없이 배우고 적응하는 ‘지속적 학습자’일 것이라 내다봤다. 마치 뭐든 흡수할 준비가 된 15세 아이처럼 말이다. 수츠케버는 인간의 모습에서 영감을 받는다고 말했다. 그는 인간의 판단에 결정적 영향을 끼치는 감정이나 사회적 욕구 같은 요소들이 어떻게 진화 과정에서 유전자에 새겨졌는지 궁금해한다. 지금 AI에는 아직 그런 요소가 빠져 있기 때문이다. 다양성도 과제다. 100만명의 ‘AI 수츠케버’를 만들면 어떻겠냐는 질문에 수츠케버는 “다르게 생각하는 사람들이 필요하다”고 말했다.

언젠가는 한계를 극복한 AI가 또 나올 것이다. 수츠케버는 5~20년 걸린다고 본다. 그는 “모두가 자신만의 AI를 가져야 한다”며 모든 것을 AI에게 맡기거나, 혹은 인간의 뇌를 AI에 연결하는 미래(둘 다 부정적이지만)가 있을 수 있다고 봤다. 두 영화가 떠올랐다. 앉아서 꼼짝도 않고 로봇에게 지시만 하는 <월E>의 인간과, AI 비서를 자유자재로 활용하는 <아이언맨>의 토니 스타크. 어떤 쪽으로 갈 것인가. 우리는 그런 질문 앞에 서 있다.