“신뢰하는 AI 구축” 테스트웍스, 베스트콘서 ‘AISC’ 소개

테스트웍스는 한국소프트웨어테스팅협회가 주관하는 소프트웨어 테스팅 컨퍼런스 ‘BeSTCon(Better Software Testing Conference, 이하 베스트콘) 2024’에 참가해 ‘AI·SW 안전성 인증(AISC)’에 대해 소개했다고 25일 밝혔다.

테스트웍스는 이번 행사에서 ‘AI 신뢰 및 안전을 위한 AI·SW Safety & Testing’을 주제로 홍보 부스를 운영하고 발표 세션에 참가했다. 테스트웍스 AI 기능 안전 센터를 리드하고 있는 김병철 센터장(동아대학교 산업경영학과 교수)은 발표 세션에서 “AI 기술이 발전하고 사회 전반에 걸쳐 더 많은 영향을 미치면서 신뢰할 수 있는 AI를 구축하는 것이 더 중요한 이슈가 되고 있다”고 말했다.

‘신뢰할 수 있는 AI’는 AI 시스템이 안전하고 윤리적이며 공정하게 설계되고 운영될 수 있도록 보장하는 개념이다. 김병철 센터장은 이와 관련해 ▲공정성 ▲책임성 ▲투명성 ▲안전성 ▲프라이버시 및 보안 ▲윤리적 사용 ▲지속 가능성을 포함한 15개 리스크 항목에 대해 짚어가며 각 항목이 부족할 경우 초래될 수 있는 AI 리스크와 해결하고자 하는 노력에 대해 설명했다.

특히 그는 “안전하지 않은 AI는 생명과 직결된 사고로 이어질 수 있기 때문에 AI 시스템이 예측 불가능한 행동을 하지 않도록 설계되는 것이 중요하며 동시에 사용자의 안전을 위협하지 않아야 한다”고 설명했다. 이어 “예를 들어 자율주행차나 의료 시스템 등의 산업에서는 특히 높은 안전 기준을 충족해야 한다”고 강조했다.

김병철 센터장은 이를 배경으로 AI에 대한 시스템적 결함 및 랜덤 하드웨어 결함 없이 안전성이 확보되고 있는지 시험, 심사, 평가해 적합성 증서를 부여하는 AISC(AI·SW SAFETY CERTIFICATION) 제도에 대해서도 소개했다.

AISC는 세계 최초로 AI와 SW의 안전성을 보장하기 위해 테스트웍스, 네덜란드 인증기관인 Kiwa, SW 관련 협회인 한국정보산업연합회 3개 기관이 공동으로 Safety Integrity Level(안전성 무결성) 수준에 따라서 ▲인공지능 안전경영 프로세스 ▲인공지능 안전수명주기 ▲품질레벨 요구사항인 안전성수준 ▲성능수준 ▲공정성 수준(AISL, AIPL, AIFL)에 적합할 경우 인증서를 발행하는 제도다.

한편 테스트웍스는 AI 초기 시장부터 ‘신뢰할 수 있는 AI’를 위한 기술적, 윤리적 측면을 다각도로 고려하며 AI가 사회 전반에 걸쳐 긍정적인 영향을 미칠 수 있도록 개발과 운영에 도움이 될 수 있는 AI 학습용 데이터 구축, AI 데이터 및 모델 검증, AI 모델 개발, SW 테스팅, AI 반도체 검증과 관련한 솔루션 및 서비스를 제공하고 있다.

헬로티 이창현 기자 |