'AI 사령관'과 '오펜하이머 모멘트'

정치권, 'AI 투자'는 강조하면서 '군사 AI'엔 우려 목소리

미 국방부 '썬더포지 프로젝트'… 'AI사령관' 실전 도입

유엔총회, '자율 살상무기'의 위험성에 관한 결의안 채택

[서울=뉴스핌] 오동룡 군사방산전문기자 = 차기 주요 대선 주자들이 인공지능(AI) 투자를 강조하고 나서는 가운데 정치권에서 '군사AI' 논란에 대한 우려의 목소리도 흘러나오고 있다. 국민의힘 대권 주자인 한동훈 전 대표가 '한국의 팔란티어' 추진을 공약한 데 대해 더불어민주당 AI미래전략특별위원장인 차지호 의원이 "AI 군사화의 윤리적 위험성부터 제대로 공부하라"고 반박하고 나섰다.

'군사 AI 기업' 팔란티어 테크놀로지는 미국 국방부와 중앙정보부(CIA), 연방수사국(FBI) 등지에 AI 기반 빅데이터 분석 소프트웨어를 제공하고 있는 기업으로, 시가총액이 지난 2월 말 기준 2100억 달러(약 298조 원)에 달한다. 러시아-우크라이나 전쟁에서도 '고담(Gotham)'이라는 프로그램을 활용해 우크라이나 병사들과 국민의 생명을 지키는 데 큰 역할을 한 것으로 알려졌다.

국내 방산기업들도 해외 '군사 AI' 기업들과 업무협약을 활발하게 펼치고 있다. 일례로 LIG넥스원은 지난해 8월 미국의 팔란티어와 무인체계·우주·전자전 등 미래전 분야에서 국방데이터 역량 고도화를 위해 업무협약을 체결했다. 이번 협약을 통해 LIG넥스원은 해상 무인화 플랫폼 '무인수상정(해검)' 시리즈를 비롯한 무인체계, 우주·전자전 등의 체계종합 분야에서 쌓아온 기술력에 팔란티어의 검증된 데이터 인프라 기술과 AI 솔루션을 접목해 미래전장 R&D 역량을 획기적으로 강화해 나간다는 계획이다.

영국의 BAE시스템즈도 인공지능에 기반한 미래전 대비 무인화 시스템으로 한국 상륙작전에 나섰다. BAE시스템즈는 세계 6위, 유럽 1위 규모로 지난해 약 52조원의 매출을 기록한 글로벌 방산 기업이다. 지난 3월 11일 서울 용산구 BAE시스템즈 본사에서 열린 미디어 간담회에서 AI를 활용한 플랫폼 무인화, 전기 드론, 자율주행 등 미래 전장 포트폴리오를 제안했다.

BAE시스템즈는 인간 없이 치르는 미래전에 대비, 기존 장갑차에 자율주행 기술을 통합한 8x8 모듈형 차량(ATLAS-CCV)나 고고도 장기체공 무인기인 PHASA-35, 초대형 무인잠수정인 고스샤크(XL-AUV)도 AI 기반 무인 플랫폼으로 만든다. 롭 메리웨더 그룹 테크놀로지 디렉터(CTD)는 "BAE시스템즈가 생산한 일부 무기들은 실제 우크라이나 전장에서도 쓰일 정도로 실제 데이터를 쌓고 있다"고 했다.

미국을 필두로 한 전 세계 주요국 정부는 AI 군사 기술을 주목하기 시작했다. 각국의 AI 무기 개발 경쟁도 가속화되고 있다. 현재 미국이 가장 앞선 기술을 보유한 것으로 알려져 있으며 중국, 러시아, 인도 등이 그 뒤를 잇고 있다. 비영리 정책 연구 기관인 국제거버넌스혁신센터(CIGI)에 따르면, 각국 정부의 AI 관련 국방비 지출은 2022년 46억 달러(약 6조7000억 원)에서 2023년 92억 달러까지 늘었고, 2028년엔 388억 달러까지 치솟을 전망이다.

최근엔 미국 빅테크나 AI 개발사도 AI 기반 무기 체계 개발에 뛰어드는 분위기다. 미국에선 AI 방산 기업 '팔란티어'가 시가총액(2023억 달러) 면에서 '형님들'인 전통적 방산기업인 RTX(1736억 달러)나 록히드마틴(1097억 달러)을 넘어서고 있고, 안두릴이 그 뒤를 좇고 있다. 유럽에선 독일 스타트업 '헬싱'이 AI 드론 HX-2를 만들었고, 2023년엔 독일 유로파이터 전투기에 AI 플랫폼을 탑재하는 계약도 맺었다. 스타트업 시장조사 업체 크런치베이스에 따르면, 최근 5년 동안 전 세계 방산 스타트업에 몰린 투자금은 163억 달러에 달한다.

한국은 세계 5~6위권의 수준의 기술력을 보유한 것으로 평가받고 있다. AI 기반 무기 체계 기술력을 보유한 것으로 알려졌다. 지난해 열린 국제방위산업전시회(KADEX)에서도 AI를 접목한 다양한 무기가 공개됐다. 특히 현대로템의 다목적 무인 차량 HR-셰르파는 AI 기반의 자율주행 시스템을 탑재해 감시와 정찰, 전투, 부상병 및 물자 이송 등 다양한 임무를 사람 없이 수행한다.

이렇듯 AI로 무장한 '디펜스 테크'가 전장의 판도를 바꿔나가고 있다. 국방부 산하 국방혁신단(DIU, Defense Innovation Unit)은 지난 3월 5일 군사 AI 기업 '스케일 AI'와 군사작전 계획에 AI를 도입하는 '썬더포지(Thunderforge) 프로젝트' 계약을 체결했다고 발표했다. 미 국방부가 군사작전 계획 수립과 의사 결정 과정에 인공지능을 본격적으로 활용하기로 한 것이다. 복잡한 현대전에서 신속한 판단과 대응이 필요하다는 전략적 판단에 따른 조치다.

국방혁신단은 실리콘밸리에 위치한 국방부 산하기관으로, 첨단 상용 기술을 군사 분야에 빠르게 도입하는 역할을 담당한다. 중국계 미국인인 민간 AI 스타트업 '스케일 AI'의 알렉산더 왕(Alexandr Wang) 최고경영자(CEO)는 1997년생으로, 세계 최연소 자수성가 억만장자에 오른 인물이다. 그가 창업한 '스케일AI'는 140억 달러(약 19조 원)의 기업가치를 인정받은 AI 스타트업이다.

'선더포지'는 AI가 대규모 군사 데이터를 분석하고 군 지휘관에게 작전을 제안하는 일종의 'AI 사령관' 시스템이다. 이번 프로젝트에는 스케일AI와 함께 첨단 국방기술 기업 안두릴(Anduril), IT 대기업 마이크로소프트(MS) 등도 함께 참여한다. 계약 규모는 수백만 달러 규모인 것으로 전해졌다.

국방혁신단은 이번 프로젝트를 통해 현재 군 내부에서 사용 중인 수십 년 된 낡은 작전 계획 수립 방식을 탈피하겠다는 목표를 밝혔다. '선더포지 시스템'은 전통적인 참모 업무 과정을 자동화하고, 작전 계획 초안 작성을 지원하며, AI 워게임을 통해 다양한 작전 가능성을 시뮬레이션할 예정이다. 여러 단계의 기밀 정보를 처리할 수 있는 능력도 갖추게 된다. 구글 딥마인드의 '알파고'가 인간이 쌓아 온 기보(棋譜)를 학습한 후 이세돌을 압도한 것처럼, 'AI 사령관'도 수천만 번의 시나리오를 시뮬레이션해, 인간이 미처 생각 못한 '신의 한 수'를 찾아 전쟁을 승리로 이끌 수 있다는 것이다.

'스케일AI'의 알렉산더 왕 CEO는 지난 3월 4일 <이코노미스트> 기고문에서 "AI 에이전트 전쟁의 시대가 도래했다(The Era of Agentic Warfare is Here)"며 "인공지능을 군사적 의사 결정에 완벽히 통합하는 첫 번째 국가가 21세기의 역사를 만들어갈 것"이라고 했다.

실제로 AI는 전투 현장에서 혁혁한 전공을 세우고 있다. 2022년 발발한 러시아·우크라이나 전쟁은 'AI 전쟁 실험실(타임지)'이란 평가를 받았고, 그 이듬해 시작된 이스라엘·하마스 전쟁에선 'AI 공장이 가동됐다(워싱턴포스트)'는 말까지 나왔다. '두 전쟁'이 첨단 방위산업 기술의 인큐베이터 역할을 했다.

자율 무기체계는 러시아-우크라이나 전쟁에서 활약하고 있다. AI를 활용한 전술 프로그램 'GIS 아르타'는 표적을 식별하면 표적 주변에서 가장 가깝거나 효율적인 무기를 보유한 부대에 직접 공격을 명령한다. 덕분에 전쟁 초기 우크라이나가 러시아의 기갑부대 공세를 막아내는 데 결정적 역할을 한 것으로 전해진다.

과연 'AI 사령관'이 전쟁의 판도를 바꿀 수 있을까. 방대한 데이터를 분석해 전투 지휘를 돕는 'AI 사령관'의 등장으로 미군의 전투 효율성은 비약적으로 개선되고 있다. 특정 분야에 특화된 AI 사령관은 '분업'을 통해 전장에서 의사를 결정하는 속도도 끌어올렸다. 예를 들어 'AI 정보 사령관'은 적군의 미사일 발사 징후를 포착해 알려주고, 'AI 작전 사령관'은 어떤 무기로 어느 정도 공격을 가해야 효과가 있을지 조언해주는 식이다.

'AI 사령관'의 위력이 드러난 첫 전장은 이스라엘과 이슬람 무장 단체 하마스 간의 전투였다. 2023년 10월 하마스가 이스라엘을 기습 공격하자, 이스라엘 방위군은 즉각 대응에 나서 단 27일 만에 목표물 1만2000곳을 타격했다. 군수 창고부터 무기고, 미사일 발사대, 지하 터널, 지도부 건물 등 하루 평균 400곳 넘는 목표물을 공격한 셈이다. 속사포 같은 공격 뒤에는 이스라엘이 개발한 표적 생성 AI 시스템 '하브소라(Habsora)'가 있었다. AI가 통신 감청 내역, 위성 영상, 소셜미디어 게시글 같은 대규모 데이터를 분석해 공습 리스트를 뽑아낸 것이다.

이스라엘군은 인공지능 타게팅 시스템 '라벤더(Lavender)'를 통해 하마스 대원을 식별하고, 이를 바탕으로 폭격 대상을 선정하여 작전을 수행했다. 수만 명에 달하는 하마스 대원의 데이터를 기반으로 첩보 위성이나 현장 카메라로 하마스 대원이 포착되면 해당 지역에 공습을 가하는 방식으로 운용된다. 지난해 7월 31일 이란을 방문한 하마스 정치 지도자 이스마일 하니예 암살에도 이 시스템이 사용된 것으로 전해진다.

미 국방부는 썬더포지를 우선 미국 인도태평양사령부와 유럽사령부에 배치할 예정이다. 트럼프 행정부는 대중국 견제를 최우선 과제로 삼고 있어 인도태평양사령부가 첫 시험장으로 선정된 것으로 추정된다. 국방혁신단에 따르면, 썬더포지는 미군의 다른 통합전투사령부로 확대 배치될 예정이다. 사무엘 파파로 인도태평양사령부 사령관은 "DIU는 인도태평양사령부의 혁신 부서로서 상업적 최고 관행을 활용해 새로운 기술을 신속하게 개발, 테스트, 배치하는 데 도움을 준다"고 했다. 피터 안드리시악 유럽사령부 참모장도 "우리가 광범위한 전구(戰區) 데이터를 통합, 분석, 활용하는 능력이 그 어느 때보다 향상됐다"며 환영 의사를 밝혔다.

전 세계 유수의 빅테크 기업들도 AI 무기 개발에 팔을 걷어붙이고 있다. 구글은 지난 2월 '구글 AI 원칙'에서 'AI를 무기 또는 감시 기술로 활용하지 않겠다'는 조항을 삭제했다. 지난해 말엔 챗GPT 개발사 오픈 AI도 안두릴과 협력해 군사 기술을 개발하겠다고 했고, 마이크로소프트와 아마존은 이미 클라우드 서비스를 국방용으로 제공 중이다.

AI와 손잡은 드론은 유인 전투기의 자리까지 위협한다. 일론 머스크 테슬라 CEO는 지난해 11월 24일 자신의 X(옛 트위터)에 "이 와중에 몇몇 바보는 여전히 F-35와 같은 유인 전투기를 만들고 있다"고 비판하며 '유인 전투기 무용론'을 꺼내들었다. 최근엔 사족 보행하는 로봇개도 로봇 군단의 주요 구성원으로 주목받는다. 미 육군은 지난해 9월 사우디아라비아에서 소종을 장착한 AI 로봇개 훈련 모습을 공개했다.

AI 무기는 높은 정확도로 정밀한 공격이 가능하고, 아군의 피해를 최소화하면서 적에게는 최대한의 피해를 입힐 수 있어 효율적인 전쟁을 가능케 한다. AI 무기는 기존 무기와 달리 사람의 숫자를 늘리지 않고 확장과 확산이 용이하다. 이론적으로 수백, 수천 대의 무기를 단 한 사람이 통제할 수 있다. 따라서 '외교'로 국가적 갈등을 풀기보다 '전쟁'으로 해결하려는 유혹에 빠질 수 있다는 것이다.

게다가 AI 무기는 여러 가지 윤리적 문제를 안고 있다. 가장 큰 우려는 소위 '킬러 로봇' 또는 '학살봇'(slaugher bot)이라는 자율 살상 무기(LAWs, Lethal Autonomous Weapon System)의 등장 가능성이다. 임무 수행 과정에서 AI가 가장 효과적이라고 판단한 공격으로 인해 대규모 민간인 사상자 발생 등 의도치 않은 피해를 초래할 수 있다는 것이다. 지난해 5월 중국군이 캄보디아와의 군사 훈련 중 중국 기업 '유니트리 로보틱스'에서 제작한 총이 장착된 로봇개를 선보이기도 했다.

너도나도 AI의 군사적 활용에 나서자 '오펜하이머 모멘트'에 대한 우려가 나온다. '맨해튼 프로젝트'를 주도한 물리학자 로버트 오펜하이머가 핵무기의 가공할 파괴력을 확인한 뒤 두려움과 회의감에 휩싸인 순간을 말한다. 국제사회도 AI 무기에 대한 규제에 나서고 있다. 지난해 말 유엔 총회에서는 자율살상무기체계의 위험성에 관한 결의안이 채택됐다. 이 결의안은 152개국의 찬성, 4개국의 반대, 11개국의 기권으로 통과됐는데, AI와 자율성을 포함한 군사 분야의 새로운 기술 응용이 제기하는 심각한 도전과 우려를 인정했다.

지난해 9월 서울에서 외교부와 국방부 공동 주관으로 '2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)'가 개최됐다. 이 회의에서도 군사 분야 AI 규범 마련을 위한 '행동을 위한 청사진(Blueprint for Action)' 문서가 채택됐다. AI를 이용한 자율 무기체계에 온전히 판단을 맡기지 않고 인간의 통제가 유지돼야 한다는 것이 핵심이다.

gomsi@newspim.com