[AW 2025 주목할 솔루션-⑧] AI 딥러닝 모델의 사각지대, ‘XAI’가 메운다…의사결정 ‘근거 찾는 비법’

AI 기술이 제조업 혁신의 새로운 동력을 제공하며, 전 세계가 이를 주목하고 있다. 특히, ‘설명 가능한 AI(XAI)’는 복잡한 제조 공정에서 발생하는 데이터를 명확히 분석하고 최적화하는 데 기여하며, 산업 전반에서 그 필요성과 중요성이 대두되고 있다. 국내 AI 전문기업 인이지는 이러한 XAI 기술을 통해 제조업의 경쟁력을 강화하고, 국제 환경규제에도 효과적으로 대응할 수 있는 솔루션을 제시하며 주목받고 있다.

인공지능(AI)는 인간의 지능을 모방하는 기술로, 이를 지속적으로 발전시키기 위해서는 학습 과정이 필수적이다. 일반적으로 ‘머신러닝’으로 알려진 기계 학습 기법과 이를 한 단계 진화시킨 ‘딥러닝’ 기법이 주로 활용되고 있다.

특히 딥러닝은 인간의 학습 과정을 본떠 설계된 ‘인공신경망’을 기반으로 한다. 수많은 인공신경망이 객체나 현상에 대한 ‘패턴 학습’을 자동으로 수행하여 유연한 판단에 기반한 의사결정을 가능하게 한다. 쉽게 말해, 인간이 데이터를 직접 지정하지 않아도 모델이 스스로 학습하는 기술이다.

그러나 딥러닝 기술이 고도화됨에도 불구하고 여전히 여러 한계와 맹점이 존재한다. 특히 딥러닝을 통해 도출된 예측 결과는 그 근거를 명확히 제시하기 어렵다는 점이 대표적인 문제로 지적된다. 방대한 데이터를 바탕으로 결과 산출에 집중하는 분야 특성상, 의사결정 과정에 대한 정보가 부족하기 쉽다. 이러한 의사결정 근거는 법률, 의료, 국방, 금융 등 민감한 데이터를 다루는 분야에서 특히 중요한 역할을 하므로, 이 영역에서의 기술적 성장이 필요하다.

‘설명 가능한 AI(XAI)’는 이러한 의사결정 근거를 구체화하는 기술로, 우리나라의 제조업 분야에서 주목받고 있다. 제조업은 생산성, 효율성, 수율을 중시하며, 이 과정에서 현장 운용과 제품 품질이 중요한 요소로 꼽힌다. 제조 공정에서 발생하는 다양한 변수를 고려하여 프로세스를 최적화하는 것이 제조업의 핵심 과제이다.

XAI는 산업 공정 딥러닝 모델의 ‘블랙박스’ 문제를 해결하는 기술이다. 모델이 예측한 결과에 대한 과정, 이유, 근거를 명확히 제시하여 실질적인 활용도를 높인다. 특히, 제조업처럼 다양한 요소가 얽혀 복잡한 변수를 생성하는 분야에서는 높은 수준의 XAI 기술이 요구된다.

일반적으로 데이터 활용을 통해 예측 정확도를 극대화하고자 학습을 반복하거나 데이터량을 늘리는 방식이 사용된다. 그러나 이 과정에서 시간과 비용 등 많은 자원이 소모된다. XAI는 AI 모델 자체를 정확히 개선하는 것을 목표로 하여 사전 프로세스를 최적화하는 데 기여한다. 이 기술은 ‘왜(Why)’라는 질문에 대해 인간이 이해하기 쉬운 방식으로 답을 제시하며, 제조 공정에서 발생한 수많은 변화를 분석하고 상관관계를 도출하는 과정을 지원한다. 특히 숙련공이 보유한 기술과 노하우 같은 암묵지를 다루는 데에도 유용하다.

XAI 기술을 활용하는 대표 기업 ‘인이지’는 공정 블랙박스라는 개념을 정립하며, 제조업 비전 실현에 기여하고 있다. 인이지는 실제 공정을 분석하고 최적화된 운용을 지원하는 AI 예측 모델을 고도화하고 있다. 단일화된 공정 프로세스에서 발생하는 다양한 변수를 포착하고, 이를 해결하는 방안을 모델에 통합하는 것이 핵심이다. 인이지는 오류와 노이즈가 포함된 공정 데이터를 기반으로 예측 모델을 최적화하는 데 중점을 두고 있다.

예를 들어, 인이지는 미국 ‘인플레이션 감축법(IRA)’, 유럽연합의 ‘탄소국경조정제(CBAM)’, ‘에코디자인 규정안(ESPR)’, ‘핵심원자재법(CRMA)’, ‘공급망실사지침(CSDDD)’ 등 국제 환경 규제에 대응하는 방안을 제안하고 있다. 이 과정에서 원자재 조달부터 제품 폐기까지 전 과정을 데이터화하여 최적화된 관리를 지원한다. 탄소 배출량을 측정하는 글로벌 표준인 ‘스코프 1·2’는 물론, 공급망 전체를 관리하는 ‘스코프 3’까지 충족할 수 있도록 AI 모델의 성능을 극대화하고 있다.

인이지는 AI 엔진 기반의 제조 공정 최적화 솔루션 ‘인피니트 옵티멀 시리즈’를 통해 다양한 규모의 국내 제조업체에 맞춤형 서비스를 제공하고 있다. 특히 철강, 유리, 시멘트, 석유화학 등 특정 산업 분야에 특화된 솔루션을 제시하며, 국내 제조업의 경쟁력 강화에 기여하고 있다.

헬로티 최재규 기자 |