[人사이트]박지환 씽크포비엘 대표 “AI 신뢰성, 제품 아닌 과정으로 증명해야”

2025-07-07

“인공지능(AI) 신뢰성은 단순히 결과를 평가하는 것이 아니라, 조직이 이를 어떻게 만들고 운영하는지를 증명하는 체계의 문제입니다.”

박지환 씽크포비엘 대표는 AI의 '기능'이 아니라 '신뢰'라는 새로운 경쟁력을 만들어가기 위한 준비가 필요하다고 말했다.

씽크포비엘은 AI 안전성과 신뢰성을 주제로 교육과 컨설팅, 분석 도구 개발까지 전방위적으로 수행하는 전문 기업이다. 박 대표는 “AI 안전은 소프트웨어(SW) 안전에서 진화된 개념”이라며 “구글 '알파고' 이후 AI가 본격적으로 부상한 2016년부터 관련 기술을 준비해 왔다”고 밝혔다.

박 대표는 국내에서 AI 신뢰성 평가가 여전히 '제품 중심'으로만 접근되는 현실에 대해 우려를 나타냈다.

그는 “AI는 출시 다음 날부터 이용하는 기업이나 사람의 데이터를 기반으로 바뀌는 구조이기 때문에, 제품을 스냅샷처럼 평가하는 건 의미가 없다”며 “AI는 어제 착한 모델이 오늘도 착하다는 보장이 없고, 검증된 결과가 하루 만에 무력화될 수 있는 동적 시스템”이라고 지적했다. AI 제품 자체에 신뢰성과 안전성을 평가·인증하는 것은 한계가 존재할 수 밖에 없다는 의미다.

박 대표는 해외는 AI 개발과 운영 전반에 걸친 프로세스를 중심으로 신뢰성 기준을 설정하고 있다고 설명했다. 그는 “마치 식당 주방을 공개하듯, 기업이 AI를 만드는 과정과 운영 체계의 투명성이 중요하다”며 “이런 기준에 따라 조직의 역량, 절차 준수, 지속적 감시체계 등이 평가돼야 한다”고 강조했다.

씽크포비엘은 이를 위해 데이터 편향 분석과 같은 고난도 기술을 기반으로 진단·개선 솔루션을 함께 제공한다. 특히, 자체 개발한 도구 '리인(Re:In)'은 데이터 중복과 편향을 자동 분석하고 정량화할 수 있도록 설계됐다.

박 대표는 편향 진단 작업은 단순 라벨링과 다르다며, “600시간 걸릴 수 있는 편향 진단 작업을 리인을 통해 2시간 만에 끝낼 수 있다”며 “지식 체계를 표준화해 자동화한 엔진”이라고 설명했다.

박 대표는 “AI 진단을 컨설팅이라고 표현하는 건 오해의 소지가 있다”며 “병원에 가서 엑스레이를 찍는 것과 건강을 관리하는 건 다른 문제”라고 말했다.

그는 “제품이 아니라 조직과 운영 시스템의 역량을 키워야 진짜 신뢰성이 확보된다”며 “중소기업이 스스로 모든 것을 알아서 하기엔 한계가 있는 만큼, 족집게 컨설턴트 같은 존재가 필요하다”고 조언했다.

현재 씽크포비엘은 우즈베키스탄, 베트남 등 해외 인력풀을 활용한 글로벌 연구개발(R&D) 거점을 준비 중이다. 데이터 관련 작업들의 노동집약적 특성 때문이다.

박 대표는 “우즈베키스탄 정부는 AI 신뢰성 인력 양성에 관심을 보이며, 국비지원까지 논의하고 있다”며 “일자리 대체가 가능한 새로운 산업으로 이 분야를 보는 시각이 인상적이었다”고 밝혔다.

김명희 기자 noprint@etnews.com

Menu

Kollo 를 통해 내 지역 속보, 범죄 뉴스, 비즈니스 뉴스, 스포츠 업데이트 및 한국 헤드라인을 휴대폰으로 직접 확인할 수 있습니다.