디지털 주권을 지켜라...'소버린AI' 관심집중

데이터 남용∙편향성 가중

문화∙역사 이해하는 AI 절실

데이터 소유권∙통제권 강화

윤리적 AI 위한 정책수립 가속

기업∙정부 간 협력모델 활기

국가별 특화 솔루션 구체화

[정보통신신문=차종환기자]

인공지능(AI)의 비약적인 발전으로 다양한 분야에서 혁신이 일어나고 있는 이면에 개인정보 보호, 데이터 주권, 알고리즘의 편향성 등 새로운 문제가 부각되고 있다.

이를 해결하기 위해 등장한 개념이 '소버린AI(Sovereign AI)'다.

소버린AI는 특정 국가나 조직의 주권을 중심으로 데이터와 알고리즘의 독립성을 보장하는 동시에 윤리적이고 안전한 AI 시스템을 구축하려는 움직임으로 정의된다.

■AI에도 국적이 있다?

현재 널리 사용되는 빅테크들의 AI 서비스는 사실상 온라인 상에 올라가 있는 모든 데이터를 학습한 결과물을 표출해낸다.

하지만 이러한 AI 학습에 각 개인이나 집단이 자신들의 데이터를 이용해도 된다는 허락을 했는가는 별개의 문제다. 지금도 AI 학습에 이용되는 데이터는 데이터의 주체로부터 사용허가를 받지 않은 것들이 대부분이며, 그 과정조차 어떻게 작동되고 있는 것인지 알려진 바가 없다.

실제로, 한 글로벌 SNS 플랫폼은 사용자 데이터를 광고 목적으로 수집하는 과정에서 개인정보 보호 규정을 위반하기도 했다. 이러한 사례가 빈번해질수록 데이터의 부익부 빈익빈은 더욱 심화될 수밖에 없다.

수집되는 데이터의 특성에 따라 AI가 편향성을 가질 위험도 있다. 인종, 성별, 연령 등의 요소가 포함된 데이터셋으로 학습한 AI는 특정 집단에게 불리한 결정을 내릴 수 있으며 이는 다양한 분야에서 심각한 사회적 논란을 불러일으킬 소지가 있다.

미국 오픈AI의 생성형AI인 챗GPT에게 ‘다케시마’를 검색하면 ‘한국과 일본 간 영토 분쟁 지역’이라는 답변이 나오는 것과 같은 맥락이다. 독도는 분쟁 지역이 아닌 엄연히 대한민국 영토로, 검색어를 한국어로 하느냐 일본어로 하느냐에 따라 다른 답변이 나온다는 것은 AI도 수집된 데이터에 따라 편향성을 가질 수 있음을 시사하는 바다.

최소한 각 국가가 운용하는 AI라면 해당 국가의 역사, 문화, 사회적 맥락 등을 정확히 이해하고 있어야 올바른 답을 할 수 있다는 지적이다.

현재 소수의 빅테크가 AI기술을 독점하고 있는 것처럼 글로벌 데이터 환경에서 특정 국가나 기업에 대한 의존도가 과도하게 높아지는 것 또한 문제다. 이들의 결정이 여타 국가의 정책이나 개인의 권리에 부정적인 영향을 미칠 수 있기 때문이다.

예로, 데이터가 특정 기업의 서버에 저장될 경우, 해당 기업이 사용자 데이터의 활용 방식에 대해 거의 전적인 통제권을 갖게 된다. 이는 국가의 데이터 주권을 침해할 수 있다.

소버린AI는 이와 같은 AI로 인한 여러 문제를 해결하고, 각 국가나 조직이 AI기술을 보다 안전하고 윤리적으로 활용할 수 있도록 하는 방법을 제시한다.

■’모두의 AI’를 위한 과제

소버린AI는 데이터 주권을 지키는 데에서 출발한다.

데이터의 소유권과 통제권을 강화해 특정 국가나 조직이 데이터를 관리하도록 한다. 이는 데이터의 오용을 방지하고, 사용자의 개인정보를 보호하는 데 필수적이다.

유럽연합(EU)의 경우, 일반개인정보보호법(GDPR)을 통해 개인의 데이터 보호를 강화하고 데이터의 소유권을 개인에게 돌려주는 내용을 포함하고 있다. 이를 통해 기업은 사용자 동의 없이 데이터를 수집하고 활용할 수 없게 된다.

공정하고 투명한 알고리즘을 설계해 편향성을 최소화하고, 결정 과정이 이해 가능하도록 만드는 것도 AI와 사용자 간 신뢰를 구축하는 데 필수적이다.

알고리즘의 투명성은 사용자에게 AI의 결정이 어떻게 이루어졌는지를 설명할 수 있는 기회를 제공하며, 이를 통해 사용자와 AI 간의 신뢰를 높일 수 있다. 이를 위해 AI 개발자들은 다양한 이해관계자의 의견을 수렴하고, 공정성을 보장하기 위한 테스트를 실시해야 한다.

각 국가 또는 조직은 소버린AI를 구현하기 위한 구체적인 정책과 규제를 마련해야 한다. 이러한 규제는 AI의 윤리적 사용을 촉진하고, AI 기술이 사회적 가치와 일치하도록 유도하는 역할을 한다.

EU는 '디지털 서비스 법(Digital Services Act)'을 통해 플랫폼 기업들이 사용자 데이터를 어떻게 처리하는지를 명확히 하고 있으며, 사용자의 권리를 보장하기 위한 규정을 강화하고 있다.

미국은 ‘AI 윤리 가이드라인’을 통해 정부와 기업이 AI를 개발하고 사용할 때 준수해야 할 윤리적 기준을 제시하고 있다.

우리나라는 'AI 국가전략'을 통해 AI 기술의 안전하고 윤리적인 발전을 위한 구체적인 로드맵을 제시하고 있다.

AI의 글로벌 특성을 고려할 때, 국가 간의 협력도 필수라는 지적이다. 각국은 AI의 윤리적 사용과 데이터 주권을 보장하기 위한 국제적 기준을 설정하고, 이를 준수하기 위한 공동의 노력을 필요로 한다.

■누구나 할 수 없는 AI…수출 모델 급부상

각 국가가 자체 데이터와 인프라를 기반으로 그 국가의 역사와 문화 등을 정확히 이해하는 AI를 추구하는 것이 소버린AI이지만, 현재 상용화된 AI조차 그 운용과 유지보수에 천문학적 비용을 끊임없이 투입하고 있음을 감안하면 일부 선진국을 제외하고 소버린AI를 보유하는 것은 결코 쉬운 일이 아니라는 평가다.

다행히 우리나라는 소버린AI를 갖출 수 있는 몇 안 되는 나라 중 하나로 꼽힌다.

선두주자는 네이버다.

네이버는 지난 2021년 세계에서 3번째로 초대규모 AI인 ‘하이퍼클로바’를 출시했다. 비영어권 국가에서 개발한 자국어 모델로 글로벌 모델에 비해 우수한 한국어 능력과 사회문화적 맥락에 대한 이해를 보여주는 게 특징이다.

업체 측은 ‘하이퍼클로바’를 통해 축적한 기술력을 바탕으로 소버린AI 확보에 어려움을 겪는 국가들과의 협업모델을 추진하고 있다. 소버린AI를 하나의 수출 상품으로 구성한다는 전략이다.

지난달 사우디아라비아 정부와의 AI 협력을 구체화하며 이 전략이 적중했다.

네이버는 사우디 데이터인공지능청(SDAIA)과 AI 분야 협력을 위한 협약을 맺고, 데이터센터 구동을 위해 필요한 서비스부터 클라우드 플랫폼 제공, 아랍어 중심의 거대언어모델 구축, 지능형 로봇과 관련된 연구 개발 등에 대해 전방위적으로 협력하기로 했다.

KT는 최근 마이크로소프트(MS)와 소버린AI 구축을 위한 협약을 맺었다.

양사는 △한국형 AI 솔루션 개발 △한국형 소버린 클라우드 솔루션 제공 △AX(AI 전환) 전문기업 설립 △한국 기술 생태계 전반의 AI R&D 역량 강화 △KT의 AICT 도약 등을 위해 협력한다.

우선 ‘애저 오픈AI 서비스’를 통해 GPT-4o의 한국 맞춤형 버전 개발에 나설 계획이며, 소형 언어 모델 파이(Phi) 제품군을 활용한 한국 시장에 최적화된 AI 모델 개발도 모색한다고 밝혔다.

KT가 보유한 한국 문화 및 산업 데이터를 바탕으로 한국형 AI모델을 개발하고 향후 내부 생산성 향상과 고객 서비스용 챗봇, 국내 산업에 특화된 AI 솔루션 구축에 적용할 계획이다.