[서중해의 경제망원경](50) 안나 카레니나 법칙과 인공지능

“행복한 가정은 모두 비슷하지만, 불행한 가정은 제각각의 이유로 불행하다.” 톨스토이의 <안나 카레니나>의 첫 문장은 이렇게 시작한다. 결혼이라는 제도가 행복하게 유지되려면 여러 조건이 동시에 충족돼야 하며, 그중 하나라도 어긋나면 행복은 위태로워진다. 부부 사이의 상호 성적 매력, 경제적 이해관계 및 합의, 자녀 교육 방침, 친척 관계 등 다양한 요소가 그 조건에 해당한다. 이 모든 항목이 균형을 이뤄야만 원만한 결혼 생활이 가능하다.

재레드 다이아몬드 교수는 <총, 균, 쇠>에서 이 원리를 ‘안나 카레니나 법칙’이라 부르고, 야생동물의 가축화 과정에 적용했다. 가축화에 성공하려면 단순히 한두 가지 특성이 아니라 식성의 융통성, 빠른 성장 속도, 인간과 가까운 환경에서 번식할 수 있는 능력, 순한 성격, 과도하게 겁을 먹지 않는 기질, 무리 생활에 적합한 사회성 등의 조건이 모두 충족돼야 한다. 하나라도 빠지면 가축화는 불가능하다. 얼룩말은 성질이 사나워 사람의 통제를 거부하고, 사슴이나 영양류는 겁이 많아 감금 상태에서 번식이 어렵다. 이에 반해 염소와 양은 이러한 조건을 모두 만족해 인류 역사에서 일찍이 가축으로 자리 잡았다.

AI에 대한 과도한 기대는 위험하다

안나 카레니나 법칙은 살아 있는 생물만이 아니라 인간이 만든 복잡한 기술 시스템에도 적용된다. 예를 들어 미국의 우주왕복선 프로그램은 당대 최고의 공학적 성취로 꼽혔으나 1986년 1월 챌린저호 폭발 사건은 그 완벽한 듯한 설계가 작은 부품 하나로도 무너질 수 있다는 사실을 보여줬다.

우주왕복선은 250만개의 부품으로 이뤄진 정교한 기계였다. 자동차의 부품 수가 약 2만5000개인 점을 감안하면 왕복선은 자동차보다 약 100배 더 복잡했다. 그러나 발사 당일 추운 날씨로 오른쪽 고체로켓 부스터의 고무 패킹인 ‘오링(O-ring)’이 제 기능을 못 하자, 전체가 순식간에 폭발로 이어졌다. 거대한 시스템은 종종 그 규모가 아니라 가장 작은 약점에서 무너진다.

오늘날 AI 기술은 의료, 법률, 금융, 제조, 교육, 국방 등 거의 모든 산업에 빠르게 적용되고 있다. 기업들은 AI를 비용 절감, 생산성 향상, 새로운 서비스 창출의 핵심 수단으로 홍보한다. 그러나 현실은 AI도 결국 안나 카레니나 법칙의 제약을 벗어날 수 없다는 점에서 과도한 기대는 위험하다.

AI 시스템은 결국 현실의 복잡계를 단순화한 모델에 불과하다. 이 단순화 과정에서 하나의 중요한 변수라도 빠지면 결과물은 쉽게 부정확하거나 위험한 제안을 내놓을 수 있다. 의료 AI의 대표적 사례 또는 실패 사례이기도 한 IBM의 왓슨헬스(Watson Health)를 보자.

IBM은 2015년 왓슨헬스사업부를 출범시키며 의료 AI 시장의 선도자를 자처했다. 목표는 방대했다. AI를 활용한 진단 지원, 임상 의사결정, 의약품 개발, 보험 분석, 병원 운영 효율화 등 헬스케어 산업을 선점하는 것이었다. 이를 위해 IBM은 약 40억달러 이상을 투자했다. 트루번 헬스 애널리틱스, 파이텔 등 의료 데이터 기업을 인수했다. 미국과 한국의 주요 대형 병원이 앞다퉈 도입을 결정했으며, 초기에는 업계와 언론의 기대가 매우 높았다.

그러나 기대는 실망으로 바뀌었다. 왓슨의 일부 권고안은 환자 안전을 위협하거나 지역의료 지침과 어긋났다. 비정형 데이터 처리 문제가 현실의 벽으로 다가왔다. 의료 현장의 데이터 상당수(수기 메모, 다양한 표현 방식)는 AI가 일관되게 해석하기 어려웠다. 여기에 더해 확보한 데이터로 학습한 결과는 특정 병원의 데이터에 맞춰 학습된 경우가 많아 다른 환경에서는 오진율이 높아졌다. 의료진과의 협력 실패는 파국을 불러왔다. 현장 의사들이 왓슨의 제안을 신뢰하지 않게 되자, 피드백 과정도 활성화되지 않았다. 이로 인해 일부 주요 파트너 병원들이 계약을 해지했고, IBM은 사업을 재검토했다. 2022년 IBM은 왓슨헬스를 약 10억달러에 사모펀드에 매각했다. 초기 투자 대비 큰 손실이었다.

인간 존엄성 최우선하는 AI 시스템 지향해야

왓슨헬스 사례는 의료 AI가 직면하는 구조적 한계를 잘 보여준다. 의료는 유전, 환경, 생활습관, 사회경제적 요인이 상호작용하는 초복잡계다. 바둑은 바둑 규칙으로 간명하게 정리할 수 있다. 따라서 바둑은 경우의 수는 무한대이지만 바둑이라는 세계는 단순하다. 바둑처럼 규칙이 명확한 영역은 전면 자동화가 가능하지만, 의료 시스템은 복잡하다. AI가 엑스레이 판독처럼 폐쇄적이고 데이터가 풍부한 하위 작업에서는 인간보다 뛰어난 성과를 낼 수 있지만, 통합 진단이나 치료 방안 결정처럼 개방적이고 가변적이며 다차원적인 문제에서는 여전히 인간 전문성을 대체하기 어렵다.

왓슨헬스 실패의 교훈으로 의료 AI 분야는 여러 방향에서 보완이 진행되고 있다. 우선 특정 질병 진단, 영상 분석처럼 범위가 명확한 과제에 집중하는 좁은 범위의 특화다. 중요한 사안은 의사의 결정을 대신하는 것이 아니라 의사의 판단을 보조하거나 강화하는 의사 보조형 AI에 초점을 맞추는 것이다. 또한 모든 AI 시스템에 공통된 사안인 데이터 표준화에 노력하고 있다. 의료 데이터 형식을 통일하고 여러 기관이 협력해 학습을 공유하는 것이다.

안나 카레니나 법칙은 문학적 표현이면서 복잡계에서의 성공·실패를 설명하는 원리이기도 하다. AI 기술이 실험실에서 나와 현실에 적용될 때 맞닥뜨리는 수많은 시스템 문제도 이 원리에 비춰볼 수 있다. 사회경제 시스템은 본질적으로 수많은 액터가 상호작용하면서 진화하는 복잡한 시스템이다. 우리가 살고 있는 사회, 그리고 사회경제 시스템은 불완전하다. 불완전하다는 의미는 시행착오 과정을 거치면서 진화해간다는 것이고, ‘정답’으로 주어진 것이 아니라 계속해서 찾아가는 과정에 있다는 것이다.

우리는 AI를 전지전능한 대체자가 아닌 인간을 보조하는 도구로 인식하고 관리해야 한다. 특히 인간의 생명과 사회적 결정에 직결되는 분야에서는, 기술 도입 전에 그 한계를 충분히 검토해야 한다. 판단의 기준은 인간의 존엄성이다. 사회경제 시스템이 건강하게 작동하는 근저에는 건전한 윤리와 가치 체계가 자리하고 있다. 테크 기업의 마케팅 공세와 과대 선전에 휩쓸리지 않고, 인간의 존엄성을 최우선하는 AI 시스템을 지향해야 한다.