생성형 AI 규제 ‘실종’… 한국 ‘AI 기본법’ 구멍 숭숭 [심층기획-‘AI 소비자포럼’ 출범]

EU, GPAI에 ‘저작권 지침’ 규정

법 위반하면 220억원 벌금 부과

한은 TDM 관련 입법조차 부재

3000만원 이하 과태료 ‘솜방망이’

내년 1월 시행 예정인 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)은 지난해 8월 발효된 세계 최초의 종합적인 AI 규제법인 유럽연합(EU)의 ‘인공지능법’(AI 액트)의 큰 틀을 수용해 제정됐다. 그러나 세부 내용에선 차이가 상당한 것으로 분석됐다.

20일 국회입법조사처에 따르면 우리나라와 EU 법안의 가장 큰 차이점은 오픈AI의 챗GPT 모델과 같은 생성형 AI에 대한 규제 여부다.

EU는 AI를 △금지된 AI △고위험 AI △제한적 위험 AI △최소 위험 AI 등 위험 크기에 따라 분류한 것과 별도로 생성형 AI가 포함된 범용 AI(GPAI)에 대한 규제를 정했다. GPAI 공급자에게 기술문서와 사용설명서 제공, 저작권 지침 준수, 학습에 사용된 데이터의 요약본 공개 등의 의무를 부과한다.

한국은 AI 중 ‘고영향 AI’만 따로 구분해 해당 AI 사업자에 대한 의무만 규정한다. AI 기본법은 고영향 AI에 해당하는 분야를 ‘에너지법 제2조 제1호에 따른 에너지의 공급’ 등 구체적인 10여개의 항목으로 열거했지만 일상에서 가장 빈번하게 사용되는 생성형 AI는 제외했다. AI 투명성 관련 규제 중 생성형 AI 등을 이용한 제품·서비스는 AI 기반으로 운용된다는 사실을 소비자에게 사전에 고지해야 한다는 일부 규정이 있긴 하지만, 생성형 AI가 사실상 주요 규제에서 벗어나 있는 셈이다.

EU는 생성형 AI 학습의 핵심 쟁점으로 떠오른 저작권 규정을 AI 액트에 포함했지만, AI 기본법엔 이런 내용을 찾을 수 없다.

EU는 GPAI가 ‘EU 저작권 지침’을 준수하도록 하고, 저작권자의 ‘옵트아웃’(opt-out, 당사자가 자신의 데이터 수집을 허용하지 않는다고 명시할 때 정보 수집이 금지됨)을 인정하고 있다. 특히 권리자가 AI 기업이 인터넷에 공개된 데이터를 자동으로 탐색해 대량 수집하는 ‘텍스트 및 데이터 마이닝’(TDM)을 거부할 경우 이를 따를 것을 강제했다.

한국에서는 TDM 관련 입법조차 이뤄지지 않았다. 지난 21대 국회 당시 도종환 더불어민주당 의원이 저작물에 표현된 사상이나 감정을 향유하지 않을 경우 TDM을 허용한다는 내용이 포함된 ‘저작권법 전부개정법률안’을 대표발의했지만 국회 임기 만료로 폐기됐다.

처벌 수위도 격차가 크다. EU는 GPAI가 법을 위반할 경우 1500만유로(약 220억원) 또는 직전 회계연도 전 세계 총 연간 매출액의 3% 중 높은 금액을 벌금으로 부과하지만, 한국은 주무 부처인 과학기술정보통신부의 장관이 내린 중지 또는 시정명령을 이행하지 않을 경우 3000만원 이하의 과태료를 부과하는 수준이다.

이동수 기자

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]