지난 25일 시범 가동에 들어간 '범정부 AI 공통기반' 서비스에 대해서 공무원들은 답변 품질을 높이는데 주력해야 한다는 반응을 보였다.
정부는 내년 3월 서비스 본격 개시 전까지 이용자 의견을 최대한 취합·반영해 서비스 완성도를 높일 방침이다.
26일 행정안전부가 전 부처와 지방자치단체 공무원(총 50만명) 대상으로 범정부 AI 공통기반 서비스를 가동한지 만 하루가 지난 가운데 안정적으로 서비스가 제공 중이다.
범정부 AI 공통기반은 민간의 다양한 AI 모델, 학습데이터, 그래픽처리장치(GPU) 등을 보안 우려 없이 중앙·지방정부가 공동 활용할 수 있는 서비스다. 올 상반기 사업자(삼성SDS컨소시엄)를 선정, 시스템 구축 후 지난 25일부터 시범 서비스가 진행됐다.
첫 날 우려했던 접속 문제는 거의 발생하지 않은 것으로 확인됐다.
행안부 관계자는 “25일 서비스 첫 날 이용을 위해 가입한 공무원 수가 5000여명 정도였다”며 “서비스는 원활하게 제공됐고 GPU 등 인프라 부족 문제도 없었다”고 말했다.
정부는 공무원이 자체 AI 서비스를 만들도록 총 22종의 AI 모델(LLM 등)을 제공하는 한편, '챗 GPT'처럼 챗서비스 2종(삼성SDS, 네이버클라우드)을 지원했다.
공무원들은 서비스 접속 문제는 없었지만 품질은 보강돼야 한다는 반응이다.
한 부처 관계자는 “입력한 자료를 보고서 등으로 정리해주는 기능은 유용하지만 최신 관련 정보는 제대로 반영되지 않았다”며 “최신 데이터의 경우 이용자가 직접 추가하거나 사실 관계를 확인해야 하는 상황이라 주의가 필요해보인다”고 말했다.
또 다른 공공 관계자는 “자료 입력 역시 자료 건당 3메가 수준이라 다양한 자료를 활용한 보고서 작성이나 분석이 어렵다”며 “AI 서비스를 이용하는 목적 중 하나가 대량의 자료를 분석해 의미를 찾거나 일목요연하게 정리해주는 부분인데 업로드 파일 용량을 늘려줘야할 것으로 보인다”고 말했다.
이와 관련 행안부 관계자는 “현재 제공하는 챗 서비스의 경우 삼성SDS 제품은 지난해 12월, 네이버클라우드 제품은 올해 7월까지 학습한 내용을 기반으로 결과값을 제공해 최신 데이터 반영에 한계가 있다”고 설명했다.
다만 공공에서 공개하는 각종 법령정보와 보도자료는 별도 검색증강생성(RAG) 기술 기반으로 반영해 최신성을 확보했고, 업로드 자료 용량 확대 역시 추후 검토한다는 게 정부측 입장이다.
행안부는 내년 3월 정식 서비스 전까지 최대한 품질과 이용자 편의를 늘리는데 노력할 방침이다.
행안부 관계자는 “아직 서비스에 대한 홍보가 부족해 이용자 수가 다소 적지만 부처·지자체별 안내를 지속하면서 이용자 역시 늘 것으로 예상한다”며 “이에 따라 더 많은 피드백이 쌓이면 이를 반영해 품질 역시 향상될 것이라고 기대하고, LLM 역시 지속 늘려나가 이용자 선택권도 넓히겠다”고 말했다.
김지선 기자 river@etnews.com
