[서울=뉴스핌] 양태훈 기자 = 정부가 국내 AI 모델을 대상으로 한 첫 공식 안전성 평가를 실시한 결과, 카카오의 생성형 AI 모델 '카나나(Kanana)'가 유사 규모의 글로벌 모델과 비교해 높은 안전성을 확보한 것으로 나타났다.
29일 과학기술정보통신부(이하 과기정통부)는 인공지능안전연구소, 한국정보통신기술협회와 함께 카카오의 AI 모델을 대상으로 국내 최초 인공지능(AI) 안전성 평가를 실시했다고 밝혔다.
이번 평가는 내년 1월 시행 예정인 AI기본법을 앞두고, 고성능 AI 모델의 위험 요소를 사전에 식별·검증하기 위한 차원에서 추진됐다. 평가는 AI안전컨소시엄에 참여 중인 카카오와의 협의를 거쳐 생성형 AI 모델 'Kanana Essence 1.5'를 대상으로 진행됐다.
평가에는 TTA와 카이스트 연구진이 공동 개발한 한국어 기반 AI 안전성 벤치마크 데이터셋 'AssurAI'와 AI안전연구소가 구축한 고위험 분야 평가 데이터셋이 활용됐다. 폭력, 차별적 표현 등 일반적 위험 요소는 물론, 무기·사이버보안·오남용 가능성이 높은 시나리오까지 포함해 총 35개 위험 영역을 폭넓게 점검했다.
평가 결과, 카나나는 유사한 규모의 글로벌 AI 모델인 미국의 'Llama 3.1'과 프랑스의 'Mistral 0.3'과 비교해 전반적인 안전성 지표에서 가장 높은 점수를 기록했다. 특히 고위험 질의에 대한 '허용 가능한 응답 비율'과 악성 행위 분류 정확도 등에서 상대적으로 우수한 성능을 보인 것으로 나타났다.
AssurAI 데이터셋은 한국어 특성을 반영해 설계된 안전성 벤치마크로, 향후 AI안전연구소가 구축한 고위험 분야 데이터셋과 함께 국제 AI 안전연구소 네트워크 및 국제표준화기구(ISO·IEC) 논의에 반영될 예정이다.
정부는 이번 평가를 계기로 2026년부터 '독자 AI 파운데이션 모델' 프로젝트 단계 평가에 참여하는 한편, 국내외 AI 기업을 대상으로 안전성 평가 대상을 확대한다는 방침이다.
김경만 과기정통부 인공지능정책실장은 "세계적으로 AI 안전 논의가 규제보다는 검증과 구현 중심으로 이동하는 상황에서 이번 평가는 국내 AI 모델의 안전 경쟁력을 보여주는 사례"라며 "국내 AI 산업이 글로벌 AI 안전성 논의를 선도할 수 있도록 적극 지원하겠다"고 말했다.
dconnect@newspim.com
