“기업이 AI 투자의 현실을 깨닫기 시작했다”

“기업이 인공지능(AI) 투자의 현실을 깨닫기 시작했다. 작년부터 올해까지 한 해를 지나며 조직들이 AI를 실제 업무에 채택하기 시작했고, 과대 광고에서 벗어나고 있다. 올해는 작년보다 AI에 잘 준비됐다고 생각하는 비율이 줄었다. AI의 준비도는 평탄화되고 있으며, 기업의 AI 배포 성공에 대한 압박감은 이어지고 있다. 기업들은 AI 이니셔티브에 막대한 돈을 투자하지만, 아직 기대한 수준의 이익을 얻지 못했다.”

칼 솔더 시스코 오스트레일리아&뉴질랜드 최고기술책임자(CTO)는 12일 오스트레일리아 멜버른에서 열린 ‘시스코라이브2024멜버른’ 기자간담회에서 아시아태평양지역 기업과 조직의 AI 대비 수준을 조사한 ‘2024 시스코 AI 준비지수(Cisco 2024 AI Readiness Index)’ 결과를 이같이 분석했다.

칼 솔더는 “모든 조직은 AI 기술로 할 수 있는 것을 인식할 때 자체 관점으로 분석을 수행해야 한다”며 “그런 다음 해당 기술이 자체 비즈니스 프로세스에 어떻게 매핑되고 잠재적으로 어디에 일치하는지 파악해서 해당 기술로 비즈니스 프로세스에서 더 나은 결과를 도출할 수 있어야 한다”고 조언했다.

‘2024 시스코 AI 준비지수’ 보고서는 한국을 포함한 아시아태평양·일본·중국(APJC) 지역의 14개 국가에서 500명 이상 직원을 보유한 기업의 고위 비즈니스 리더 3660명을 대상으로 진행한 이중맹검 설문조사를 기반으로 한다. 조사에 참여한 리더들은 기업 내 AI 통합 및 배포를 담당하고 있다. 시스코는 조사에서 기업들의 AI 준비지수를 ▲전략 ▲인프라 ▲데이터 ▲거버넌스 ▲인재 ▲문화 등 6가지 주요 요소에 걸쳐 평가했다. 이 지수는 각 조직의 AI 준비 수준에 따라 4개의 그룹으로 구분한다. 가장 잘 준비된 그룹을 ▲선두주자(Pacesetters)로 두고 ▲추격자(Pacers) ▲추종자(Followers) ▲후발주자(Laggards) 순으로 나눴다.

보고서에 따르면, 국내 기업의 3%만 AI 기술을 배포 및 활용할 충분히 준비됐다고 여기는 것으로 나타났다. 이는 작년의 5%에서 감소한 수치다. 기업이 AI 도입, 배포, 활용에 어려움을 겪고 있다는 것을 보여준다.

한국은 아태지역 조사 결과보다 더 낮은 준비도를 나타냈다. 아시아태평양일본중국(APJC) 지역 기업의 15%는 AI를 충분히 준비한 것으로 조사됐다. APJC 기업에서 추격자는 33%, 추종자는 49%, 후발주자는 3%였다. 반면, 한국은 추격자 19%, 추종자 69%, 후발주자 9%로 나타났다. 한국 기업들은 AI 준비도에서 다소 뒤처지는 것으로 해석된다.

한국을 포함한 아태지역 전반적으로 전년보다 AI를 잘 준비했다고 응답한 기업의 비율이 줄었다. 선두주자와 추격자를 합한 비율(22%)은 전년보다 소폭 늘었고, 후발주자의 비율도 전년보다 1% 줄었다. 아태지역의 경우 선두주자와 추격자를 합한 비율(48%)로 전년(54%)보다 대폭 줄었고, 후발주자 비율이 1% 줄어들었다. 추격자의 비율은 전년 42$에서 49%로 늘었다.

AI는 비즈니스 전략의 핵심 요소로 자리 잡았으며, 국내 기업들 사이에서 AI 도입의 시급성이 높아지고 있다. 국내는 지난 1년간 97%의 기업이 최고경영자(CEO)와 경영진을 중심으로 작년 대비 AI 도입의 필요성이 증가했다고 응답했으며, 43%는 기업이 IT 예산의 10~30%를 AI 도입에 할애하는 등 상당한 자원을 AI에 집중하고 있다고 설명했다.

다만, 사이버 보안, IT 인프라, 데이터 분석 및 관리와 같은 전략적 영역에 AI 투자가 이루어지고 있음에도 불구하고, 많은 기업들이 기대한 성과를 얻지 못하고 있는 것으로 나타났다.

데이브 웨스트 시스코 APJC 지역 총괄 사장은 “기업들이 AI 여정을 가속화함에 따라, AI 목표와 준비도 간의 격차를 줄이는 종합적인 접근 방식을 채택하는 게 중요하다”며 “AI의 잠재력을 최대치로 활용하려면 AI 워크로드 증가로 인해 변화하는 전력 요구 사항과 네트워크 지연 요건을 충족시킬 수 있는 현대적인 디지털 인프라가 필요하다”고 강조했다.

칼 솔더 CTO는 “설문조사에 참여한 조직의 62%는 실제로 전략을 수립하고 있고, 다른 특정 영역을 가로질러 시작할 수 있는 좋은 위치에 있다”며 “기업들이 해야 할 일을 인식하고 있다는 것을 보여준다”고 설명했다.

레이먼드 얀세 반 렌스버그 시스코 APJC 네트워킹&솔루션엔지니어링 부사장은 “조직 내에서 AI 배포의 시급성이 계속해서 매우 높게 유지되고 있다”며 “기본적으로 응답자의 98%는 지난 6개월 동안 AI 배포의 시급성이 높아졌다고 느꼈다고 답했으며, AI를 둘러싼 모든 소음과 과대 광고, 관심이 현 시점에서 전 세계 모든 지역에 영향을 미치고 있다”고 말했다.

칼 솔더 CTO는 “응답자의 98%는 긴박감이 매우 높다고 답했지만, 지난해에 비해 전반적인 준비성은 낮아졌다”며 “조직이 AI 준비에 발을 담근 뒤 생각보다 더 많은 할 일이 있다는 것을 깨닫기 시작했다는 것”이라고 설명했다.

그는 “2007년 스티브 잡스가 아이폰을 출시했을 땐 앱스토어도 없었고, 아무도 그 전화기가 어디로 갈 지 기회를 제대로 이해하거나 깨닫지 못했다”며 “AI가 다시 그 예가 될 수 있고, 기회도 있겠지만, 이것이 어디로 갈 수 있는 지를 완전히 이해하지는 못하고 있다고 본다”고 말했다.

AI 준비 수준의 평준화

기업들은 인프라 준비 관련 어려움을 겪고 있으며, 컴퓨팅, 데이터센터 네트워크 성능, 사이버 보안 영역에서 격차가 존재하는 것으로 나타났다. 국내 기업의 14%만 현재와 미래의 AI 수요를 충족할 수 있는 GPU를 보유했으며, 12%는 엔드투엔드 암호화, 보안 감사, 모니터링, 위협 대응을 통해 AI 모델의 데이터를 보호할 수 있는 역량을 갖추고 있는 것으로 나타났다.

칼 솔더 CTO는 “인프라 측면에서 조직의 23%만 AI 워크로드 지원에 충분한 GPU를 보유했다고 생각하는데, 이는 작년의 28%에서 감소한 수치”라며 “데이터는 기업의 AI 부서를 얼마나 성공적으로 운영할 지 결정하는 매우 중요한 역할로 여겨지는데 설문조사에 참여한 조직의 82%가 데이터의 침묵을 이야기하고 있어서, 아직 데이터 준비에서 해야 할 일이 많다”고 말했다.

그는 “거버넌스는 공정성, 편향성, 개인정보보호 등을 AI 솔루션 사용 전에 해결해야 하는 모든 우려 사항으로, 조직의 20%만 글로벌 개인 정보 보호 표준을 잘 이해하고 있다고 느꼈다는 게 흥미롭다”며 “많은 고위 임원과 대화를 나눠보면, 모두가 자신의 조직에서 개선하고 싶어 하는 영역으로 꼽고 있다”고 설명했다.

투자 대비 낮은 성과

지난 1년간 국내 기업은 AI에 우선적으로 투자를 단행했으며, 43%는 IT 예산의 10~30%를 AI 프로젝트에 투자했다. 주요 투자 영역은 사이버 보안(23%), 데이터 관리(22%), 데이터 분석(20%)이다.

기업의 상위 3가지 성과는 ▲시스템, 프로세스, 운영 및 수익성 향상 ▲인프라 회복력 강화 ▲혁신 및 경쟁력 유지 등으로 조사됐다. 다만, AI 투자 증가에도 불구하고, 평균적으로 절반 이상의 기업이 현재 프로세스나 운영을 보강, 지원 또는 자동화하는 데 있어 이득을 보지 못했거나 기대에 미치지 못했다고 답했다.

성공 압박감의 증가

최고경영자와 리더십 팀으로부터의 AI 기술 도입 관련 압박이 커지고 있는 것으로 확인됐다. 국내 기업 44%는 최고경영자와 경영진이 AI 도입을 주도하고 있다고 답했으며, 이사회 및 투자자, 주주(25%)가 그 뒤를 이었다. 많은 국내 기업이 AI 전환을 가속화하기 위해 노력하고 있는 것으로 나타났다. 응답한 국내 기업의 1%만 IT 예산의 40% 이상을 AI에 투자하고 있지만, 기업의 22%는 향후 4~5년 내 IT 예산의 40% 이상을 AI에 투자할 계획이라고 밝혔다.

기업들은 AI를 효과적으로 활용하기 위해 더 많은 준비가 필요하다는 점을 인식하고 있으며, 한국 기업의 43%는 IT 인프라의 확장성, 유연성, 관리 가능성 개선을 최우선 과제로 설정하고 있는 것으로 나타났다.

레이먼드 얀세 반 렌스버그 부사장은 “조직 내에서 AI 전략과 AI 이니셔티브를 추진하는 사람에 대해 응답자의 35%는 최고경영자(CEO) 또는 고위 경영진이라고 답했고, 응답자의 48%는 CTO가 AI 배포의 시급성을 가장 크게 고려한다고 답했다”고 전했다.

그는 “AI 배포 성공에 대한 압박은 끊임 없고, 응답자의 86%는 향후 18개월 동안 이 문제를 해결하지 못할 경우 시장 내 지위를 잃을 수 있다는 두려움을 느낀다고 밝혔다”고강조했다.

역량 과 인재 격차 해소 어려워, 문화 조성도 큰 숙제

여러 부분에서 공통으로 나타난 문제는 숙련된 인재의 부족인 것으로 확인됐다. 기업들은 인프라, 데이터, 거버넌스 측면에서의 인재 부족을 최대 도전 과제로 지적했다.

칼 솔더 CTO는 “인재 관점에서 트렌드세터가 작년 20%에서 올해 15%로 퇴보했고, 추격자도 작년 37%에서 올해 35%로 감소하는 등 현재 조직의 27%만 조직 내 AI 배포를 지원할 수 있는 충분한 인력을 갖췄다고 느낀다”며 “또한 여타 문제를 해결하고 AI를 도입했다고 해서 직원이 사용할 준비를 하지 않는다면 문제이며, 이것이 조직의 AI 성공을 결정하는 매우 중요한 요소를 차지한다고 생각한다”고 밝혔다.

그는 “조사에 따르면, 직원들은 아직 AI를 활용할 준비가 되지 않았다”며 “이 분야는 이제야 많은 조직에서 투자 수치를 개선할 방법으로 살펴보기 시작한 분야”라고 설명했다.

시스코는 AI를 준비하려는 기업을 위해 인프라와 사이버보안 측면에서 지원할 수 있다고 강조한다.

칼 솔더 CTO는 “시스코는 인프라 부분에 매우 집중하고 있으며, 인프라 준비 상태를 개선하는 것에서 고객과 논의하는데 우선 순위를 두고 있다”며 “컴퓨팅 리소스를 할당하는 방법, AI 모델을 쉽게 배포할 수 있는 능력, 데이터센터 네트워킹 성능, 풍부한 GPU 자원 등의 분야에서 고객의 투자를 지원한다”고 강조했다.

그는 “조직의 45%는 여전히 인력이 부족하고, 사이버 보안과 딥페이크 등에 대한 우려도 큰 부분”이라며 “시스코는 새로운 형태의 사이버 공격으로부터 보호하기 위해 보안 태세를 개선할 수 있는 방법과 공급망 이슈 속에서 빠르게 자원을 확보해 더 많은 시간을 얻을 방법을 제공할 수 있다”고 밝혔다.

글. 바이라인네트워크

<김우용 기자>yong2@byline.network