[기고] 인류에 적합한 AI의 길, 신뢰성 평가 체제

성서는 하나님이 당신과 닮은 인간을 만들었다고 전한다. 인류는 정신적·육체적으로 불완전해 어떻게 로봇을 만들지에 대한 생각도 다양하다. 인간과 비슷한 로봇(humanoid) 만들기를 추구(anthropomorphism)하는 한편, '불쾌한 골짜기 이론(uncanny valley theory)'에서 보여주듯이 너무 인간과 비슷해지는 로봇에 대해 불편함(eeriness)을 느끼기도 하고, 인간보다 더 강해질 가능성이 많은 로봇에 대해 두려움을 갖기도 한다.

성서는 하나님이 인간이 지켜야 할 10개의 규범을 인간에게 부여했다고 전한다. 그 중 4개는 하나님과 인간과의 관계, 나머지 6개는 인간사회의 윤리를 규정하고 있다. 이제는 다양한 인공지능(AI)이 인류와 조화를 이룰 수 있도록 그 방향과 규범에 대해서 고민할 때다.

최근, 국제 무역에서 가장 중요한 이슈는 미국 트럼프 정부의 대외 관세 정책이다. 미국 트럼프 정부와의 관세협상 결과에 따라 해당 국가 정부의 협상력과 산업 경쟁력에 대한 평가가 크게 좌우된다. 장기적으로 국제무역에서 관세보다 더 중요한 것은 비관세 장벽이고, 기업에 가장 큰 부담을 주는 것은 각 국가들이 운영하는 적합성 평가(conformity assessment) 제도다. 세계무역기구(WTO) '비관세장벽위원회(TBT)' '정보기술협정위원회(ITA)' 등에서 가장 중요한 논의대상도 적합성평가 제도다. 적합성평가는 제품, 서비스, 공정, 체제 등이 표준, 기술기준 등 기술적 요구사항에 적합한지 평가하는 전체과정으로 시험, 검사, 인증, 인정 등이 여기에 포함된다. 관세부과는 생산자·소비자 또는 생산가치사슬 각 단계에서 그 부담을 분산시킬 수 있지만, 적합성 평가에서 실패하면 그 시장에 아예 진출조차 할 수 없다. 적합성 평가제도와 이에 대한 기업의 대응은 국가경쟁력과 산업경쟁력의 근간이 되는 것이다. 우리나라가 인류에 적합한 AI에 대한 국제노력과 논의에 적극 참여해야 하는 이유기도 하다.

인류에 적합한 AI를 위해서는, 먼저 AI가 인간의 존엄성 보장과 사회의 공정성·포용성 제고해야 한다. 기술은 사람을 대체하는 것이 아니라 보완하고 증진해야 한다. 프라이버시와 안전을 보장하고, 위험으로부터 인간을 보호해야 한다. 데이터와 프로그램이 투명성·설명가능성 제고, 편향성·차별성 최소화, 프라이버시 보장을 할 수 있도록 설계돼야 한다. 이 과정에서 다양한 이해관계자의 목소리를 반영해야 한다. 둘째로, AI는 그 책임성과 신뢰성이 확보될 수 있도록 설계돼야 한다. 또 AI의 자동화(automation)와 자율화(autonomy) 영역과 정도, 그리고 사람의 관여 기준과 책임에 대한 사회적 공감대 도출을 위한 노력도 필요하다. AI의 오류나 오가동 등으로 인한 피해는 결국 사회 구성원 모두에게 돌아온다. 따라서 책임성을 분명하게 하는 제도와 신뢰할 수 있는 기술적 안전장치가 마련돼야 한다.

마지막으로, AI는 국경을 넘어 영향을 미치는 기술이므로, 국가간 표준 조화와 공통규범 수립을 위한 노력과 협력이 무엇보다 중요하다. 국제적으로 ISO, IEC, OECD 등은 신뢰할 수 있는 AI 지침과 권고안을 마련하고 있으며 주요국들도 이를 국가제도에 반영하고 있다. 산업통상부 국가기술표준원은 국제표준화기구(ISO/IEC)에서 한국이 글로벌 AI 규범 형성 과정에서 책임있는 역할을 수행하도록 노력하고 있다. 동시에 국내 산업계·학계·연구기관과 협력해 윤리와 기술이 함께 발전하는 기반을 마련하고 있다.

인류에 적합한 AI는 성능 좋은 기술만으로는 완성될 수 없다. 그것은 신뢰할 수 있는 평가와 인증을 통해서만 담보된다. 적합성 평가는 단순히 기술의 합격·불합격을 판정하는 절차가 아니라, 인간과 사회를 지키는 안전망이자 지속 가능한 미래를 위한 사회적 약속이다. 요즈음, '케데헌(K-Pop Demon Hunters)'과 '귀칼(귀멸의 칼날)' 인기가 뜨겁다. 두 영화 모두 영상과 콘텐츠 작성 과정에서 컴퓨터그래픽과 AI 등을 많이 활용했지만, 목소리는 기술의 발전(synthetic voice)에도 사람의 목소리를 사용했다. 이 영화의 고객은 사람이다. 아직도 감성은 사람의 영역이고, AI의 진정한 고객은 바로 인류다.

전응길 산업통상부 국가기술표준원 적합성정책국장 eungkil@gmail.com