“AI가 핵무기 통제한다면” 등골 서늘해지는 시나리오, 현실될까 [박수찬의 軍]

2025-02-09

영화 ‘터미네이터’ 시리즈에서는 핵전쟁을 시작으로 터미네이터를 통해 인류를 멸망시키려는 인공지능(AI) 슈퍼컴퓨터 ‘스카이넷’이 등장한다.

스카이넷이 러시아에 핵미사일을 발사해 인류의 절반 이상이 몰살당하고, 남은 인간들은 스카이넷에 대항해 싸운다. 스카이넷은 인간의 지도자를 죽이기 위해 과거로 킬러 로봇을 보낸다.

얼마 전까지만 해도 영화적 상상력의 일부로 취급됐던 시나리오가 최근 들어 현실 세계로 조금씩 들어오는 모양새다.

챗GPT와 딥시크를 비롯한 생성형 AI의 급속한 발달은 군사 분야에서 AI 사용 비중을 더욱 확대하려는 시도로 이어지고 있다. AI가 전장에서 인명을 살상하는 것에 대한 논란도 크다.

현대전에서 가장 강력한 위력을 지닌 핵무기 운용에 AI가 결합한다면 어떻게 될까. 핵무기 통제와 운용 효율화를 지원해 기존보다 안전한 핵통제가 가능할 수도 있다.

다만 한 번의 실수나 오류만으로도 심각한 문제가 발생할 수 있다는 점에서 우려되는 부분도 많다.

◆AI와 핵무기의 결합, 괜찮을까

현대전의 핵심 요소는 데이터다. 데이터를 빠르게 처리해서 정보를 만들고 실시간 처리과정을 거쳐 행동을 취하는 것에 전쟁의 승패가 달려 있다. 국방에서 AI의 중요성이 강조되는 이유다.

중국이 선보인 생성형 AI 딥시크(deepseek)는 국방 분야에서 AI 사용을 더욱 촉진하는 방법을 제공한다. 딥시크는 최신 AI 반도체 없이 저렴하게 챗GPT 등 기존 AI와 맞먹는 모델을 만들었다.

오픈 AI나 마이크로소프트를 비롯한 글로벌 빅테크 기업은 방대한 데이터 세트와 매우 큰 모델, 끊임없이 확장하는 컴퓨터 자원을 기반으로 성과를 거뒀다. 예산과 인력이 제한되는 군대에선 사용하기가 어려운 방식이다.

딥시크의 성공은 부족한 자원으로 최고의 효과를 거둬야 하는 군대에 새로운 방식을 제공할 수 있다. 컴퓨터 자원을 덜 쓰면서 군의 요구성능과 사용 목표에 맞는 소규모 폐쇄형 모델을 만들 수 있다는 것이다.

이같은 AI는 기존의 전략 무기보다 더 치명적인 위력을 발휘할 잠재력을 지녔다. 인간과 기존 소프트웨어의 ‘빈틈’을 효율적으로 메워서 적군을 압살할 수 있기 때문이다.

50여년 동안 서방 해군의 미사일 방어를 책임지는 이지스 전투체계의 예를 들어보자. 이지스는 대함미사일과 탄도미사일, 항공기, 드론 등으로부터 함대를 보호한다.

이지스가 처음 개발됐을 때보다 데이터 양이 훨씬 늘었고, 전투 양상도 복잡해지면서 속도도 빨라졌다.

AI가 추가된다면 이지스는 ‘철벽 방패’가 될 수 있다. 인간이나 기존 프로그램이 식별하지 못하는 위협도 찾아내서 추적하고 교전한다. 방대한 양의 정보를 실시간 융합해 지휘부의 의사결정도 지원할 수 있다.

일각에선 AI가 전략무기 수준의 위력을 지닐 것이라는 관측도 나온다.

1900년대 1차 세계대전 직전 열강들은 전함 건조로 대표되는 군비 경쟁에 몰두했다. 이젠 AI와 기존 첨단무기를 결합하는 형태의 군비 경쟁이 선진국을 중심으로 100여년 만에 다시 벌어질 가능성도 있다.

AI가 핵무기 통제와 운용에 관여하는 것은 또다른 논란을 빚을 수 있다. 대륙간탄도미사일(ICBM)이 러시아에서 미국 본토에 낙하하기까지는 30~40분 정도가 걸린다.

이 짧은 시간에 ICBM 탐지·추적·요격 작전을 실행하고, 반격 여부까지 결정해야 한다. 찰나의 순간에 수백만명이 영향을 받는다.

작은 실수가 돌이킬 수 없는 결과를 초래하는 핵전쟁에서 AI가 정보를 신속하게 융합해서 정부와 군 수뇌부에 제공한다면, 의사결정을 신속하고 정확하게 진행할 수 있다.

반론도 만만치 않다. AI가 효과적인 수단으로 사용되려면 데이터를 확보해야 하는데, 핵무기 운용과 통제 데이터를 찾기가 쉽지 않다.

인류가 핵무기를 실전에서 쓴 것은 1945년 일본 히로시마와 나가사키가 마지막이다. 이때는 프로펠러 폭격기인 B-29에서 핵폭탄을 투하하는 방식이었다. 극초음속미사일까지 등장한 현대전과는 너무나 다르다.

돌발 상황이 발생했을 때 AI가 정확하게 대응할 수 있을지도 불확실하다. 전쟁은 불확실성이 매우 높다. 기존 작전계획에서 벗어난 상황이 자주 발생한다. AI가 평시에 훈련된 시나리오와 다른 실전을 겪을 경우 인간이 기대한 대로 움직일 것인지는 미지수다.

생성형 AI는 논리적으로 포장된 거짓 정보를 천연덕스럽게 알려주는 할루시네이션(환각·그럴싸한 거짓말)이 문제가 되고 있다. 핵무기 운용과 통제에 AI가 쓰인다면, 이같은 문제가 발생할 가능성도 배제할 수 없다.

장기적으로는 권한의 허용 범위도 리스크가 될 수 있다. 현재는 사람을 공격하고 죽이는 결정 권한을 AI에 넘겨서는 안된다는 공감대가 널리 퍼져 있다.

문제는 오랜 시간이 지난 후에도 이같은 공감대가 유지되느냐다. AI 분야에 대한 투자와 관심이 높아질수록 AI가 거두는 성과도 시간이 지날수록 더욱 늘어나고 기술도 발달할 것이다.

그만큼 인간의 AI 의존도도 지금보다 높아질 것이다. 시간이 지나면서 전쟁에 대한 통제권이 서서히 인간에서 AI에게 넘어갈 가능성도 있다. 인간이 AI가 이룬 성과를 과신한다면 현실이 될 수도 있다.

하지만 단 한 번의 결정으로 모든 것이 바뀌는 핵무기 운용 및 통제 분야에서 이같은 과신이 작동하는 것은 우려스러운 일이다. AI와 첨단무기 및 핵무기와의 관계에 대한 장기적 관점의 국제적 논의와 합의가 필요한 대목이다.

◆AI도 ‘신중’ 의견

핵무기 운용 및 통제와 AI의 관계에 대해 AI는 어떤 생각을 하고 있을까.

챗GPT는 “AI는 인간을 도와주는 수단이며, 그 자체로 완벽하지 않다”고 강조했다.

챗GPT는 “AI는 핵무기 사용으로 인한 돌이킬 수 없는 상황을 예방하는 데 여러 방식으로 도움을 줄 수 있다”며 6가지 요소를 제시했다.

우선 다양한 소스를 신속하게 분석해 이상 징후나 군사적 움직임을 감지하고, 잠재적 핵위기 상황에 대한 조기 경보를 제공, 오판이나 긴장 고조로 인한 돌발 상황을 예방하는 데 도움을 줄 수 있다고 설명했다.

핵무기 사용 시나리오를 다양한 각도에서 분석해 파급 효과를 예측하고, 수뇌부의 의사결정을 돕는다. 핵무기 통제 시스템에 대한 사이버 공격을 실시간 모니터링하고 신속하게 대응할 수 있다.

정확한 정보를 빠르게 전달해 불필요한 갈등을 완화하고 다국적, 다언어 상황에서의 통역 및 정보 교환을 원활하게 한다.

챗GPT는 AI와 핵무기 운용 및 통제에서 중요하게 고려해야 할 사안도 지적했다.

AI는 의사결정 과정에서 중요한 정보를 제공할 수 있으나, 핵무기 사용처럼 극단적이고 돌이킬 수 없는 결정을 내리는 권한은 반드시 인간에게 남겨야 한다고 강조했다.

AI가 오작동하거나 돌발 상황에 대응하지 못할 때, 책임 소재를 명확히 규명해야 하며 관련 법적, 윤리적 기준이 마련되어야 한다고 설명했다.

또한 AI의 판단 과정이 투명하고, 오류 가능성이 최소화될 수 있도록 지속적인 검증과 개선이 필요하다고 챗GPT는 설명했다.

딥시크는 “AI는 단독으로 작동해서는 안 되며, 항상 인간의 감독과 윤리적 가이드라인 아래서 보조적 역할을 해야 한다”고 밝혔다.

딥시크는 AI가 핵무기 운용 및 통제에서 도움을 줄 수 있는 분야도 소개했다.

우선 AI는 과거 데이터와 패턴을 분석해 갈등이 격화될 가능성을 예측하고, 이를 통해 사전에 외교적 해결을 모색할 수 있도록 도울 수 있다고 분석했다.

또한 감정에 휘둘리지 않고 데이터를 바탕으로 의사결정권자에게 다양한 핵무기 사용 시나리오와 그 결과를 시뮬레이션해서 보여주고 최적의 선택지를 제시할 수 있다고 설명했다.

핵무기 발사 명령이 내려졌을 때, 명령의 정당성과 정확성을 검증하는 이중 확인 시스템으로 작동할 수 있다고 딥시크는 전했다.

핵무기 사용과 관련된 윤리적 가이드라인을 준수하도록 프로그래밍된다면, 비인도적이거나 불필요한 핵공격을 방지할 수 있다고도 밝혔다.

군사 분야에서 AI의 사용이 확대되는 것은 세계적 추세가 되고 있다. AI를 통해 정찰과 감시, 공격, 방어 능력을 크게 높일 수 있다는 점이 입증된 상황에서 선진국들은 AI와 무기체계를 결합하는 작업을 더욱 서두를 태세다.

하지만 핵무기처럼 단 한 번의 행동으로 돌이킬 수 없는 결과를 초래하는 대량살상무기 운용에서 AI를 적용하는 것은 시기상조라는 지적도 적지 않다.

군대에서 AI 적용 범위를 어떻게 설정할 것인지는 미래전의 모습과 밀접한 관련이 있다. 다양한 시각에서 AI의 전장 사용을 놓고 심도 깊은 논의와 고민이 필요한 이유다.

박수찬 기자 psc@segye.com

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]

Menu

Kollo 를 통해 내 지역 속보, 범죄 뉴스, 비즈니스 뉴스, 스포츠 업데이트 및 한국 헤드라인을 휴대폰으로 직접 확인할 수 있습니다.