[베터 소프트웨어 테스팅 콘퍼런스 2025] “AI 신뢰=품질 기준…SW 테스팅 산업 재편”

“AI 신뢰성과 품질 확보는 이제 산업 전반의 기본 과제입니다.”

배현철 한국SW테스팅협회 회장은 21일 열린 '제11회 국제 품질 테스팅 콘퍼런스(BESTCon 2025)' 개회사에서 이렇게 밝혔다.

올해 주제는 'AI 신뢰(TRUST), 안전과 신뢰로 여는 AI SW테스팅의 미래'로 잡았다. AI 확산 국면에서 품질·안전·윤리 검증 방향을 신뢰 중심 체계로 전환해야 한다는 입장을 분명히 밝힌 것이다.

배 회장은 AI와 소프트웨어(SW)가 사회 핵심 인프라로 자리 잡았다고 짚었다.

그는 “자율주행, 스마트헬스케어, 전자금융, 공공서비스 등 전 분야에서 테스팅의 역할이 단순 사후 검증을 넘어 신뢰성 확보·위험 기반 품질관리·윤리적 책임으로 확대되어야 한다”고 강조했다.

또 올해 논의의 축을 △AI 신뢰보증, △테스트 자동화와 기계 학습 운영(MLOps) 기반 검증 프레임워크 △국제표준(ISO/IEC, IEEE)·글로벌 거버넌스 대응으로 제시했다.

배 회장은 “AI가 한쪽으로 치우친 데이터를 학습하면 판단 결과도 왜곡될 수 있다”며 추론의 불확실성까지 고려하는 통합적 품질·안전관리 체계 필요성을 거듭 강조했다.

그러면서 “협회는 표준화·전문 역량 강화·산학연 협력 생태계 조성을 지속 추진하겠다”고 덧붙였다.

첫 번째 기조연설에서는 황재성 LG전자 CTO부문 SW공학연구소 책임연구원이 'SW 테스팅에서 AI 테스팅 시대로'를 주제로, AI가 테스팅의 개념과 접근 방식을 어떻게 바꾸고 있는지를 설명했다.

그는 “명세 기반 테스트, 구조 기반 결함 분석, 자동화 도구 등 전통적 테스팅 방식은 품질 확보의 핵심 역할을 해왔지만 복잡성과 비용의 벽에 부딪혔다”며 “이제 AI, 특히 대규모 언어모델(LLM)의 등장이 품질관리 패러다임을 근본적으로 바꾸고 있다”고 말했다.

황 연구원은 AI가 요구사항에서 코드와 테스트를 자동 생성하고, 버그 탐지와 보안 검증까지 확장하며 새로운 가능성을 열고 있다고 설명했다.

그는 “AI 테스팅은 기존 검증을 대체하는 것이 아니라 확장하는 과정”이라며 “인간은 품질 판단과 창의적 설계를 맡고, AI는 반복적 검증과 대규모 데이터 분석을 담당하는 자율적·적응적 테스팅 생태계가 형성될 것”이라고 전망했다.

또 “AI를 품질관리 파이프라인에 투입하면 테스트 효율과 정확성이 높아질 것으로 업계는 보고 있다”며 “테스트 단계에서 확보된 데이터를 학습시켜 제품 설계와 유지보수까지 자동화하는 '지능형 품질 순환 구조'가 가능해질 것”이라고 내다봤다.

그는 “AI를 활용한 테스트 자동화가 궁극적으로는 품질 혁신의 기반이 될 것”이라며 “AI가 테스트를, 인간이 판단을 담당하는 협업 구조가 새로운 표준으로 자리 잡을 것”이라고 말했다.

두 번째 기조연설에서는 김명주 한국전자통신연구원(ETRI) 인공지능안전연구소장이 'AI 안전 테스트 프레임워크'를 주제로, 첨단 AI 모델의 잠재적 위험을 사전에 식별하고 통제하는 테스트 구조를 제시했다.

김 소장은 “AI가 사회 인프라로 확산할수록 위험의 대상과 수준이 커지고, 그 영향은 국민의 생명과 안전에 직접적으로 연결된다”며 “AI 안전 테스트는 단순한 기능 검증이 아니라 사회적 안전망의 일환으로 접근해야 한다”고 말했다.

그는 AI 안전 테스트를 예방-발견-회피-최소화의 4단계로 설명하고, 테스트 대상 정의 방식, 리스트별 검증 절차, 평가 도구·데이터셋 구성 등 구체적인 실행 체계를 소개했다.

김 소장은 “AI는 일종의 SW이지만 일반 테스트보다 복잡한 고려 요소를 갖고 있다”며 “모델 학습 데이터의 품질, 알고리즘의 투명성, 결과 해석 가능성 등 새로운 평가 항목이 필요하다”고 강조했다.

이어 “글로벌 차원에서도 AI 안전성 평가 기준과 데이터셋 공개, 평가도구 검증체계 구축 논의가 활발히 진행되고 있다”며 “국내에서도 공공·산업 현장에서 적용할 수 있는 테스트 프레임워크를 마련해 신뢰성 확보에 나서야 한다”고 제언했다.

이날 행사에는 국내외 산학연 전문가와 산업계 리더 700여명이 참석한 것으로 집계됐다. AI·SW 품질 산업 발전에 이바지한 개인과 기관을 선정하고 시상하는 행사도 진행됐다.

'대한민국 AI·SW 테스팅 우수사례 대상'은 김헌성 SK텔레콤 팀장이 수상했다. 'AI·SW 테스팅 산업발전 유공자 표창'은 이갑래 코드마인드 대표가 받았다.

'AI·SW 테스팅 발전 공로상'에는 김명주 ETRI 인공지능안전연구소 소장, 이용석 두루이디에스 이사, 황재성 LG전자 책임, 문장원 정보통신산업진흥원 본부장이 각각 선정됐다.

'AI·SW 발전 대상'에는 정동영 더불어민주당 국회의원, 최형두 국민의힘 국회의원, 이해민 조국혁신당 국회의원이 수상의 영예를 안았다.

류태웅 기자 bigheroryu@etnews.com