[AI와 디지털전환] 두 달 만에 딥시크가 나오는 세상, 그 다음 생겨날 일은?

스포츠에는 '베니스터 효과'라는 유명한 용어가 있다. 1954년 이전까지 누구도 1.6km를 4분 안에 달리지 못했고 그래서 전문가들도 4분이 인간의 심장이 버틸 수 있는 한계라고 보았다. 그런데 로저 베니스터라는 선수가 3분 59.4초로 한 번 벽을 깨자, 이전까지 4분의 한계를 못 넘었던 많은 선수가 약속이라도 한 듯 단기간에 4분 이내의 기록을 세웠다는 것이다. 누군가 한 번 심리적 장벽을 허물어 주면, 모두에게 물리적으로 불가능해 보이던 한계가 생각보다 쉽게 극복된다는 뜻이다.

GPT의 등장 이후 인공지능(AI) 분야에서도 베니스터의 벽은 무너진 것으로 보인다. 처음에는 그것이 오로지 오픈AI와 마이크로소프트의 자본력·기술력으로만 가능한 성취로 보였다. 하지만 이후 다수의 미국 기업이 라마(Llama), 클로드(Claude), 제미나이(Gemini) 등을 출시하는 데 성공한다. 최근에는 중국에서도 기존 대비 훨씬 단기간 저사양의 투자로 딥시크를 개발하기에 이르렀다. 이제 내 개인 업무를 대신해 주고, 회사에서 어지간한 중견 사원 이상으로 일해 주는 AI는 어느새 당연한 상식이 되었다.

그렇다면 우리는 이제 다음 수를 내다봐야 한다. AI 비서가 휴대폰처럼 흔해지는 세상에서, AI 산업의 새로운 경쟁력은 아마 경제성·신뢰성·편리성이 될 것이라고 말한다. 필자는 그중에서도 AI를 '더 믿을 수 있게' 만드는 기술은 무척 중요한 부분이라 생각한다. AI의 지적 능력이 인간과 동등하다는 것은 인간과 동일하게 반사회적 행동과 범죄, 속임수를 저지를 수 있다는 의미기도 하다. AI 직원에게는 아직 주민등록증도, 생활기록부도, 공인된 양식의 이력서도 없다.

“아직 AI 기술도 개발하기 벅찬데 무슨 벌써부터 신뢰성이냐”라는 인식이 특히 관련 정책 관계자들 사이에 팽배해 있다. 이미 AI 신뢰성 검인증 제도를 시행하고 있으니 그것으로 충분하지 않으냐는 의견도 있다.

필자 생각은 다르다. '벽'이 깨진 이상 AI의 성능은 빠르게 상향 평준화된다. 그 때가 되면 우리와 함께 일하는 AI가 '얼마나 똑똑한가'보다 '얼마나 믿을만한가'가 더 중요해진다. 여기서 말하는 것은 비단 나랑 바둑을 두거나 잡담을 나누는 AI가 아니라, 내 금융정보를 분석해서 재테크 투자를 결정해주고 내가 없는 사이 내 아이들을 돌봐주는 AI이기 때문이다. 금융이나 아이들 건강 상태 관련 숫자 분석은, 어느 AI나 이미 우리가 필요한 이상으로 정밀하게 해낼 수 있다. 이제는 그들이 내 재산을 사회 통념에 반하는 데 투자하지 않는다는 것을, 내 아이들에게 불건전한 놀이를 가르칠 가능성이 없음을 보장하는 게 중요해진다.

그런 이유로 작년부터 유럽에서는 AI의 반사회적 행동 관련 규제법이, 국내에서는 신뢰성 검인증 제도가 시행되고 있다. 필요한 변화였지만 그것만으로는 부족하다. 현행 제도는 인공지능의 윤리적 위험성을 지적하고 규제할 뿐 관련 기업이나 개발자들이 어떻게 AI의 윤리성·준법성·안전성을 확보할 수 있을지 알려주지 못한다. 이미 출시된 AI 상품에서 신뢰성 문제가 발생한 후에 대처하려 하면 너무 늦다. 해당 상품이 법적·윤리적 문제를 일으키지 않게끔 개발 단계에서부터 체계적이고 기술적으로 구축돼야 한다. 그런 AI 상품만이 성능이 상향평준화된 AI 시장에서 살아남을 수 있다.

요컨대 AI 기술의 '벽'이 이미 깨진 이상, 앞으로 AI 산업의 경쟁력은 예방 차원에서의 신뢰성 기술을 확보했는지에서 결정되게 된다. 이 부분은 개별 기업의 역량과 자본력만으로 커버하는 데 한계가 있기에 공공 차원에서의 지원과 지도가 어느 정도 필요하다. 지금은 세계화 시대를 지나 모든 국가가 기술 패권을 둘러싸고 일종의 세계대전을 벌이는 상황이다. 공공과 민간이 협력해 누구나 믿고 쓸 수 있는 AI 생산 인프라와 전문인력을 육성한다면, AI 분야에만큼은 우리가 기술전쟁의 다음 주도권을 가져오는 것도 가능할 것이다.

박지환 한국소프트웨어산업협회 초거대AI추진협의회원·씽크포비엘 대표 jihwan.park@thinkforbl.com