한국전자통신연구원(ETRI)이 인공지능(AI) 안전성과 신뢰성 확보를 위한 국제표준 개발을 주도한다.
ETRI는 AI 시스템의 잠재적 위험을 탐색하는 ‘AI 레드팀 테스팅’ 표준과 소비자가 AI의 신뢰 수준을 확인할 수 있는 ‘신뢰성 사실 라벨(TFL)’ 표준을 국제표준화기구(ISO/IEC)에 제안하고 개발을 시작했다고 밝혔다.
‘AI 레드팀 테스팅’은 생성형 AI가 잘못된 정보를 제공하거나 보호장치를 회피해 악용되는 상황을 모의 공격 방식으로 점검하는 기법이다. ETRI는 ISO/IEC 42119-7 에디터로 참여해 의료, 금융, 국방 등 다양한 산업에 적용할 수 있는 공통 시험 절차와 방법을 마련한다.
ETRI는 식품의약품안전처와 함께 9월 4~5일 노보텔 서울 동대문 호텔에서 ‘첨단 AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍’을 개최한다. 이번 행사는 의료인, 보안 전문가, 일반 시민이 참여해 AI의 편향과 위험성을 점검하는 자리로, 참가 신청은 22일까지 가능하다.
서울아산병원과 공동으로 의료 전용 레드팀 평가 방법론도 개발 중이다. 또한 STA, 네이버, 업스테이지, 셀렉트스타, KT, LG AI연구원 등과 협의체를 구성해 국제표준화 협력을 강화하고 있다.
ETRI가 추진하는 또 하나의 표준은 ‘신뢰성 사실 라벨(TFL)’이다. 이 라벨은 식품 영양성분표처럼 AI의 신뢰 수준을 시각화해 제공하는 방식으로, 기업이 자체적으로 정보를 제공하거나 제3기관이 검증·인증할 수 있다. 향후 AI의 탄소발자국 등 ESG 요소 반영 방안도 논의된다. 해당 표준은 ISO/IEC 42001 AI 경영시스템 표준과 연계돼 제품과 서비스 신뢰성을 국제적으로 입증하는 틀로 활용될 전망이다.
이번 표준 개발은 정부의 ‘소버린 AI’ 및 ‘AI G3 도약’ 전략과 맞물린다. 미국 국립표준기술연구소(NIST)가 국가 전략을 지원하는 것과 유사하게, ETRI도 AI 보안기술 개발과 국제표준화 활동을 통해 국가 AI 전략 실현을 뒷받침한다는 계획이다.
정보통신기획평가원 김욱 PM은 “AI 안전과 신뢰성 제공은 국민이 AI를 쉽게 활용하도록 하는 기반이며, 이번 국제표준 선도는 우리나라가 AI 규범을 주도하는 계기가 될 것”이라고 말했다.
이승윤 ETRI 표준연구본부장은 “AI 레드팀 테스팅과 신뢰성 라벨은 미국과 유럽연합 등 주요국 정책에 포함된 핵심 요소로, 국제표준은 글로벌 AI 안전·신뢰성 평가 기준이 될 것”이라며 “ETRI는 앞으로도 관련 국제표준화를 주도해 대한민국이 소버린 AI뿐 아니라 AI 안전 기술을 이끄는 중심이 되도록 하겠다”고 밝혔다.
한편 이번 성과는 과학기술정보통신부와 정보통신기획평가원 사업, 식품의약품안전처 컨소시엄 과제를 통해 추진됐다.
헬로티 이창현 기자 |
