[AI, 이제는 신뢰성] 'AI 경쟁력' 품질이 좌우…옥석 골라내는 인증 시스템 필요

미래 인공지능(AI) 시대. 퇴근 후 집에 도착했지만, 얼굴인식 오류로 문이 제대로 열리지 않는다. 집에 들어온 후에도 조명과 전자제품 전원이 제멋대로 켜지고 꺼지길 반복, AI 보이스 에이전트에 명령해보지만 음성인식도 먹통이다. AI 불량품들이 연출하는 난감한 상황의 상상이지만, 이는 현실이 될 수 있다. AI에 대한 지금까지의 관심이 “무엇을 할 수 있지?” 였다면, 이제 “제대로 하는 건가?”로 바뀌어야 할 시점이다.

◇ 글로벌 AI 시장, 제도 정비에 한창

사회 전반에서의 AI 비중이 커지면서 신뢰성과 안전성 확보를 위한 법·제도적 대응도 빨라지고 있다. 유럽연합(EU), 미국, 한국 등 주요 국가들은 각자의 환경과 정책 목표에 따라 관련 법안을 제정 및 수정하며 기술 주도권을 위한 제도적 환경 마련에 주력하고 있다.

EU의 AI법(AI Act)은 시스템 위험 수준에 따라 금지, 고위험, 제한적 위험, 최소 위험의 4단계로 분류해 차등 규제하고 있다. 특히 의료, 금융, 법 집행 등에서 중요한 역할을 하는 AI는 엄격한 규제를 받는다. AI 시스템이 자동으로 의사결정을 내릴 때 사용자 인지가 가능하도록 투명성을 확보하고, AI 기업에게 데이터 품질 및 보안성에 대한 책임을 부과하고 있다. 위반 시 최대 매출의 6%에 달하는 강력한 벌금 부과가 특징이다.

미국 AI 정책은 도널드 트럼프 행정부 출범과 함께 변혁기를 맞이하고 있다. 2023년 AI 행정명령을 통해 연방 차원의 AI 관리체계를 구축하고, 안보와 공공에 영향을 줄 수 있는 AI에 사전 안전성 검증과 투명성 보고 의무를 도입했지만, 트럼프 대통령 취임과 함께 해당 행정명령이 철회됐다. AI 관련 연방 차원의 법제도는 사실상 사라졌고, 사전 검증 및 보고 의무는 폐지되었다. AI 개발과 상용화는 더욱 빨라질 것으로 보이지만, 안전성과 윤리적 문제에 대한 우려 또한 큰 상황이다.

우리나라는 AI의 신뢰성 및 안전성 확보와 산업 활성화를 동시에 추진하는 것을 목표로 'AI기본법'을 제정했고, 하위 법령은 현재진행 상태다. AI 신뢰성 인증제를 도입해, 인증획득 기업에 차별화된 혜택을 제공하게 된다. 또한, AI 시스템의 윤리적 활용, 데이터 보호 및 프라이버시 강화, AI 스타트업 및 중소기업 지원을 위한 규제 샌드박스 운영 등 산업 친화적인 지원 정책을 병행하고 있다.

국제표준화기구(ISO/IEC)에서도 품질 관련 표준이 활발히 개발되고 있다. 특히 AI의 정확성, 신뢰성, 데이터 품질 평가, 리스크 관리 등 세부적인 품질 요소를 관리하고 검증할 수 있는 국제 표준들이 마련되고 있다.

◇ AI 불량품 피해, 꼼꼼히 대비해야

세계 각국이 AI 관련 제도 정립에 힘쓰는 이유는 변수에 대응하기 위함이다. 부정확한 데이터 학습으로 AI가 예기치 않은 방식으로 작동할 경우 심각한 사회적 혼란을 초래할 수 있다. AI 정확성 부족과 신뢰성 저하 피해는 현대에도 다수 발생하고 있다. 이런 오류들이 의료, 안보, 치안 등 민감한 영역에서 발생할 경우를 고려하면 더 이상 방치할 수 없는 부분이다.

2016년, 미국 플로리다 테슬라 모델 S가 오토파일럿 주행 중 트레일러를 인식하지 못해 운전자가 사망하는 사고는 많은 이들에게 충격을 주었다. 안전성과 실시간 판단 신뢰성이 충분히 확보되지 않은 AI가 인명 피해로 이어진 불행한 사고였다. 2018년에는 IBM 왓슨(Watson)이 암 환자에게 부적절한 치료를 추천하는 등 의료 진단 오류 사례가 다수 발생했다. 이로 인해 의료 AI 관련 데이터의 정확성과 판단 근거의 신뢰성 논란이 제기됐었다.

시스템 자체가 폐기된 사례도 있다. 2018년 아마존이 도입한 AI 기반 채용 시스템은 과거 데이터를 학습하면서 남성 지원자를 우대하는 편향적 결과를 도출했다. 이는 AI 시스템의 신뢰성과 공정성에 심각한 의문을 제기했으며, 결국 성별 편향 논란으로 해당 시스템은 폐기되었다. 2020년, 미국 디트로이트에서는 얼굴 인식 AI의 오류로 무고한 흑인 남성이 체포되는 사건도 있었다. 기술의 낮은 정확도와 편향이 개인의 권리 침해로까지 이어진 사례다.

이러한 사례들은 AI 기술이 실생활에 밀접하게 연관될수록 품질 관리가 매우 중요해지며, 철저한 품질 관리 시스템 구축이 필수적임을 보여준다.

◇ 빠르게 성장하는 K-AI 인증 'AI⁺'

글로벌 IT 기업들은 AI 품질을 확보하고 검증하기 위해 자체 프레임워크를 구축하고, 벤치마크 및 리더보드를 활용하여 검증을 수행하고 있다. △마이크로소프트 Responsible AI Standard △구글 AI Principles △오픈AI RLHF 기법 도입 등이다.

우리나라에서는 'AI⁺' 인증이 대표적인 AI 품질 관리시스템으로 빠르게 자리 잡고 있다. 한국표준협회(KSA)와 와이즈스톤이 공동 개발한 인증 제도로, AI 시스템의 성능, 정확성, 안전성, 신뢰성 등 종합적인 품질을 평가한다. ISO/IEC 42001, 25059, 25023 등 국제표준을 기반으로 AI 제품과 서비스의 신뢰성과 안전성 품질을 시험·심사하며, 지금까지 107개의 제품이 AI⁺인증을 획득하고 있다.

특히 AI 기본법 하위법령으로 고영향 AI에 대한 신뢰성과 안전성 의무화 등이 담길 경우, AI⁺는 이를 이행하고 입증할 수 있는 실질적 수단으로 주목받을 전망이다. 때문에 브랜드 이미지가 중요한 기업과 기관일수록 핵심 제품과 서비스 대한 AI⁺ 인증 획득을 필수 코스로 인식하고 있다.

LG전자는 AI 기반 실내 공기질 관리 기능을 갖춘 '퓨리케어 오브제컬렉션 AI⁺ 360 공기청정기'에 AI⁺ 인증을 받았다. 국내 공기질 센서 분야에서 최초로 AI⁺ 인증을 받은 사례다. 공기업에서는 인천국제공항공사가 '인천공항 스마트 AI 솔루션'으로 AI⁺ 인증을 획득했다. 홈페이지 고객 요청을 자동으로 분류하고, 적절한 답변을 생성·추천하는 플랫폼이다. AI⁺ 인증이 공공기관에서도 신뢰성 있는 AI 활용을 촉진하는 대표적 사례로 주목받고 있다.

AI 풀필먼트 회사 위킵은 재고 및 수요 예측에 특화된 'FBW' 솔루션으로 AI⁺ 인증을 받았다. 해당 솔루션은 △최적 재고 관리 △상품 미리 포장 △자동 입고 신청 등의 기능을 갖추고 있다. 물류 현장에서 재고 예측 및 관리의 효율성을 높이는 시스템으로 AI 소프트웨어, 서비스 및 ICT 제품의 품질과 신뢰성을 인정받았다.

조정형 기자 jenie@etnews.com