AI 기본권 없이 AI 성장은 없다 [김윤명 박사의 AI웨이브]

노인복지관의 풍경을 그려본다. 스마트폰을 꺼내 AI 챗봇으로 건강 상담을 받으며 웃음을 터뜨리는 어르신들과 정작 컴퓨터 전원 버튼조차 낯설어하는 분들이 공존하는 풍경은 역설적이었다. “AI가 뭔지는 잘 모르겠지만, 삶이 훨씬 편리해진 건 확실해요.” 누군가가 말했지만, 그 편리가 모두에게 돌아가지 않는 현실은 분명한 문제다.

AI는 이제 ‘선택의 기술’이 아니다. 교육, 의료, 복지, 고용·금융 심사 등 우리 일상의 구석구석을 바꾸고 있다. 그러나 기술 혜택을 누리는 사람과 그렇지 못한 사람 사이의 간극은 내내 커져만 간다. AI 활용 능력이 곧 생존 능력이고, 디지털 리터러시는 존엄의 문제로 전환되고 있는 것이다. 그럼에도 현행 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(이하 AI 발전법)은 산업 진흥과 규제 완화에만 골몰하고 있다. 더군다나, 지금 법은 1년여간 유예되어 2026년 시행 예정이다. 기업 지원, 연구개발 촉진, 신시장 창출 등 성장 전략은 촘촘해 보이지만, AI로 인한 차별·편향·사생활 침해에 대응할 장치는 찾아보기 어렵다.

이재명 더불어민주당 대선 후보가 제안한 ‘모두의 AI’를 뒷받침하기 위한 ‘AI 기본권’은 바로 이 지점에서 출발한다. AI 기본권의 내용은 첫째, AI 접근권이다. 국가는 모든 국민에게 AI 서비스·교육·인프라에 균등히 접근할 기회를 보장해야 한다. 도서관·복지관 등 공공장소를 ‘AI 교육 거점’으로 삼고, 온라인·오프라인 AI 리터러시 강좌를 무료로 제공해야 한다.

둘째, AI 공정성과 설명권이다. 자동화된 결정의 영향 요인과 알고리즘 핵심 논리를 누구나 이해할 수 있는 언어와 시각자료로 설명받을 권리를 법에 명시해야 한다.

셋째, AI 고른 혜택이다. AI로 인한 과실을 누구나 공정하게 배분되어야 한다. 개인의 데이터가 제공되었다면 그에 대한 보상이 이루어져야 한다. 이 후보가 추진했던 ‘경기도 데이터 배당’은 이러한 정치철학이 담겨진 것이다.

이처럼 실질적 권리로서 AI 기본권을 법률에 새겨야만, 기술 발전의 과실이 소수에게만 돌아가지 않는다. AI가 그리는 세상은 법과 제도가 일관되게 뒷받침할 것이기 때문이다. 국민의 기본권으로서 AI 기본권의 보장 없이 무분별한 산업 성장만을 추구하는 사회는 지속 가능하지 않다.

AI 기본권은 곧 ‘AI 기본사회’라는 더 큰 비전으로 이어진다. AI 기본사회란 일부 계층이 아닌 모두가 AI 혜택을 체감하는 포용적 사회를 뜻한다. 교육 격차 해소를 위해 초·중·고 교육 과정에 AI 리터러시 과목을 도입하고, 지방·도서벽지에도 동등한 교육 기회를 제공한다. 디지털 복지 강화를 위해 취약 계층 대상 AI 건강 모니터링·맞춤형 복지 서비스를 구축하되, 개인정보 보호 장치를 철저히 마련한다. 공공서비스 혁신 차원에서 AI 도입 시 시범사업·사전영향평가·국민 의견 수렴 절차를 의무화한다.

이를 현실로 만들려면, 법제와 거버넌스를 전면 개편해야 한다. 우선, 현행 AI 발전법은 문제의 정의도 제대로 되어 있지 않다. AI라는 글로벌 시장에서 우리나라가 나아가야 할 산업성장을 위한 가치도, 국민의 AI 기본권에 대한 가치도 담겨있지 않다. AI와 입법을 위한 문제정의가 처음부터 제대로 되어있지 않았다. 지금 하위법령 작업중이나 이 또한 이해관계에 휩쓸리고 있다. 입법과정에서 문제점을 지적하고 방안을 제시한 사람은 시행령 작업에 배제된 것으로 보인다. 이처럼, AI 기본법과 시행령 제정 과정에서 있을 수 없는 일들이 벌어지고 있다.

제대로 입법이 이루어져야 한다. 현행 AI 발전법은 ‘AI 산업법’으로 개정하여 기술개발과 혁신을 전담토록 한다. 기업 지원·데이터 시장 활성화·규제 완화는 이 법에서 다루는 것이 맞다. 산업진흥과는 별개로, AI 기본권과 AI 기본사회를 구성하는 핵심 내용은 ‘AI 기본법’을 제정하여 구체화해야 한다.

법이 바뀌면, 제도를 운영할 거버넌스도 함께 바뀌어야 한다. AI 기본권을 구체화하고 AI 거버넌스로서 현재 산업 중심으로 짜인 ‘국가AI위원회’를 ‘AI기본사회위원회’로 확장 개편하는 것이다. 위원회는 산업영역에 한정하지 않고 사회영역까지 포괄하고, 정책의 심의·조정 권한 및 예산권까지 갖는 위원회로 성격을 변모시킬 필요가 있다. 이를 위해, 개인정보보호위원회, 공정거래위원회, 방송통신위원회 등 관련 위원회의 역할과 거버넌스를 재조정할 필요가 있다.

기술 발전과 함께, 그 기술을 공정하고 안전하게 사용할 수 있어야 한다. 새 정부는 AI 기본권과 AI 진흥이라는 두 마리 토끼를 잡아야 한다. AI는 생활, 교육, 산업, 문화, 상거래 등 모든 영역에서 기본 인프라가 되고 있다. 그렇기 때문에 부처별로 AI를 추진하는 것은 바람직하지 않다. 대통령 소속으로 ‘AI 국가전략위원회’를 두고 글로벌 ‘AI TOP 3’를 위한 전략을 세워야 한다. 그 수장은 행정가나 경영자 출신이 아닌 AI 기술 전문가여야 한다. 이를 위해서라도, AI 기본법은 특정 부처의 특정 과를 위한 ‘과법’이 아닌 대한국인의 ‘모두의 법’이 되어야 한다. 대한민국의 AI는 기업이나 국민 모두의 AI가 되어야하기 때문이다.