공공분야 AI 도입시 '영향평가 제도' 의무화 추진

정부가 공공분야에 인공지능(AI) 기술이나 서비스를 도입할 때 편향성·투명성 등을 살펴보는 '영향평가 제도'가 도입된다. 평가를 통해 안전한 AI 기술·서비스를 채택, 국민 기본권 침해 등 문제 발생 가능성을 최소화하는데 주력할 계획이다.

행정안전부 고위 관계자는 19일 “공공에서 도입하는 AI는 대국민 서비스 등에 밀접한 영향을 미칠 수 있는 만큼 사전에 문제 소지 여부 등을 살펴볼 필요가 있다고 판단했다”며 “연내 영향평가 대상, 방법 등을 구체화해 전문가와 업계 의견 수렴 등을 거쳐 이르면 내년부터 시행하도록 준비할 것”이라고 말했다.

공공 AI 영향평가는 공공 내 AI 도입이 증가할 것으로 예상됨에 따라 AI 관련 문제 소지를 미연에 제거하자는 취지에서 기획됐다.

'AI 공공성 확보를 위한 현장 가이드라인', '국가 AI 윤리기준' 등이 있지만 법적 근거가 없는 가이드라인 수준에 불과하다. 정부는 법 개정 등을 거쳐 영향평가의 법적 근거를 확보, 공공 내 시행력을 강화할 방침이다.

이미 해외는 공공 영역에서 AI 영향평가 등을 시행 중이다.

공공 AI 도입에 가장 적극적인 미국은 정부 기관 등 공공이 AI로부터 발생할 위험을 관리하기 위해 최소한의 조치를 취하도록 권장하고 있다. AI를 도입하기 전 독립된 기관에서 AI 성능 테스트를 비롯한 평가를 실시해야 한다. AI를 사용하는 동안에도 △지속 모니터링 △AI 사용으로 인한 위험 정기적 평가 △AI 사용 공개 등 투명성 보장 등을 유지해야 한다.

유럽연합은 고위험 AI에 대해 기본권 영향평가 수행을 요구하고 있다. 영국은 '공공부문을 위한 AI 사용 가이드라인'을 제시한다.

행안부는 공공 AI 영향평가 도입에 앞서 미국, 캐나다 등 해외 사례를 우선 살펴보고 국내 상황에 맞는 방안을 마련할 계획이다.

이르면 연내 구체안을 확정한다. 영향평가 유형부터 대상, 지표, 절차 등 세부 내용이 담길 예정이다. 특히 AI 영향평가가 AI 기술·서비스를 제공하는 기업에 규제가 되지 않도록 중점적으로 살핀다.

행안부 관계자는 “공공 내 AI 도입 초기 단계인데다 AI를 잘 활용하는 것이 궁극적 목적인 만큼 영향평가가 업계에 부담을 주지 않는 방향으로 구체적 안을 마련할 것”이라며 “세부 내용을 마련하는 과정에서 업계 의견도 충실히 청취하겠다”고 말했다.

김지선 기자 river@etnews.com