인공지능(AI) 기업들이 스스로 딥페이크·가짜뉴스 등 기술 부작용을 예방하는 이른바 ‘AI 자율규제’ 시스템 도입이 본격적으로 추진된다. 미국·유럽 등 선진국이 앞다퉈 AI 규제를 풀며 자국 기업 육성에 나선 가운데 우리 정부도 민간 협의체를 통한 자율규제 지원으로 관련 대응을 강화할 방침이다.
13일 정보기술(IT) 업계에 따르면 과학기술정보통신부 산하 한국정보통신기술협회(TTA)는 이르면 다음달 ‘AI 신뢰성 얼라이언스’ 발족을 준비 중이다. 관련 기업들과 참여 논의를 진행 중으로 전해졌다. 얼라이언스는 TTA를 중심으로 국내 기업과 전문가가 모여 AI 신뢰성 인증 제도를 만들고 확산시키기 위해 의견을 모으는 민간 협의체 역할을 한다. 알고리즘 투명성 확보, 할루시네이션(환각) 예방, 개인정보·지식재산권 보호 등 AI 부작용에 맞서 신뢰성을 갖추기 위해 충족해야 하는 구체적인 기술·정책 기준을 민간 주도로 정하고 준수하도록 하겠다는 것이다.
TTA는 과기정통부의 지원을 받아 IT 기술 표준과 인증 제도를 제정하는 국내 유일의 IT 표준화 기구다. 2023년 말 ‘AI 신뢰성 인증(CAT)’ 제도를 시행했지만 아직 포티투마루 등 일부 스타트업에 부여한 정도다. 해당 제도를 얼라이언스를 통해 고도화함으로써 대기업을 포함한 AI 업계 전반으로 확산시킨다는 구상이다. TTA 관계자는 “인증 제도들이 몇몇 존재하지만 보다 통합된 정책 마련이 필요하다”며 “얼라이언스가 관련 논의를 위한 플랫폼 역할을 할 것으로 기대한다”고 말했다.
이는 정부가 추진하는 AI 자율규제 도입의 일환이다. 정부는 내년 초 시행할 AI기본법에 기업의 AI 검·인증을 지원하고 검·인증된 제품·서비스 이용을 우선 고려해야 한다는 등 자율규제 지원의 법적 근거를 담았다. 또 최소 규제의 원칙 아래 다음달부터 AI기본법 시행령 마련을 위한 전문가 의견수렴에 착수한다.
정부가 AI 부작용 우려 속에서도 직접 개입보다는 자율규제 방식에 힘싣는 것은 전 세계적인 규제 완화 기조에 대응하기 위해서다. 딥시크 등 중국의 공세가 거세진데다 데이터센터 같은 인프라 확보를 위한 대규모 민간 투자 유치가 시급해지면서 산업 진흥이 더 중요해진 것이다. 미국은 도널드 트럼프 행정부 출범 후 조 바이든 전 대통령의 AI 규제 관련 행정명령을 폐기했고 유럽연합(EU)도 지난달 ‘파리 AI 행동 정상회의’에서 그간의 고강도 규제를 뒤로하고 규제 완화를 시사했다.
