[김경환 변호사의 디지털법] 〈62〉AI 에이전트 도입에 따른 법적 이슈

인공지능(AI) 에이전트(Agent)는 특정 목표를 달성하기 위해 자율적으로 환경을 인식하고, 판단하며, 행동하는 소프트웨어(SW) 개체를 의미한다. 이는 단순한 자동화 도구를 넘어, 예측하고 학습하며 독립적으로 임무를 수행한다는 점에서 기존 기술과 구별되고, 이 자율성과 재량적 판단 능력은 근본적인 법적 논의를 촉발시킨다. 산업 효율성 증대, 개인화 서비스 제공 등 AI 에이전트가 가져올 혁신은 막대하지만, 이러한 자율성과 예측 불가능성은 현행 법체계가 상정하지 못했던 심각한 법적 과제들을 수면 위로 끌어올리고 있다.

첫째, AI 에이전트가 갖는 자율성과 재량적 판단 능력로 인해서 단순한 도구로 볼 것인지 아니면 새로운 법적 지위를 부여할 수 있는지부터 논의가 있다. 참고로 AI 자체에 '전자적 인격'과 같은 제한적 법인격을 부여해 독자적인 책임 주체로 삼으려는 방안까지 논의되고 있다.

둘째, AI 에이전트에 의한 계약 체결 및 그 효력 문제다. 관련해서 2024년의 UNCITRAL 자동화된 계약 모델법(MLAC)은 AI 에이전트 등 자동화 시스템에 의한 계약의 효력을 인정하고 있다. 즉 “사람이 개입하지 않았다는 이유만으로 효력을 부정할 수 없다”는 비차별 원칙을 제시하고 있다. 또 어떤 상황에서 착오 취소, 기망 취소 등을 주장할 수 있는지의 문제도 정리돼야 하는 과제다.

셋째, 가장 시급하고 본질적인 쟁점은 단연 책임의 귀속 문제다. AI 에이전트가 자율적 판단 과정에서 타인에게 손해를 입혔을 때, 그 법적 책임을 과연 누가 져야 하는가? AI를 활용한 사용자 혹은 제조사인가? 현행 민법상 불법행위 책임은 행위자의 '고의·과실' 및 '인과관계' 입증을 전제로 한다. 그러나 AI 알고리즘의 복잡성, 비결정성, 그리고 '블랙박스(Black Box)' 특성으로 인해 특정 손해 발생에 대한 예견 가능성이나 회피 가능성을 입증하는 것은 지극히 어렵다. 참고로 우리나라 제조물책임법은 SW에 대하여 제조물책임을 부인하고 있다.

넷째, 다음으로, 프라이버시와 해킹 문제다. AI 에이전트는 고도의 맞춤형 서비스를 제공하기 위해 필연적으로 방대한 양의 개인정보를 수집, 분석, 처리한다. 이 과정에서 개인정보보호법 등 현행 데이터 규제와의 충돌이 불가피하다. 또 자율적인 처리 과정에서 수집된 데이터가 당초 목적 외로 활용되거나 프로파일링에 사용될 위험이 상존한다. 특히, AI 에이전트가 해킹되거나 오작동할 경우, 민감한 개인정보의 대규모 유출 사태로 이어질 수 있어 강력한 보안 및 감독 체계가 요구된다.

다섯째, 지식재산권 및 공정성의 문제 또한 중대하다. AI 에이전트가 자율적으로 생성한 창작물의 저작권은 누구에게 귀속돼야 하는가? 현행 저작권법은 '인간의 사상 또는 감정'을 표현한 창작물만을 보호 대상으로 하므로, AI 생성물은 원칙적으로 저작권 보호를 받기 어렵다. 나아가, 편향된 데이터로 학습된 AI 에이전트가 채용, 대출 심사, 법률 자문 등 중요한 의사결정에서 특정 집단에 불리한 차별적 결과를 초래할 위험도 존재한다. 이는 단순히 기술적 오류를 넘어, 헌법상 평등 원칙과 직결되는 심각한 법적 문제다.

여섯째, 사람의 로그인이나 클릭을 전제로 하는 구시대적 형법·정보통신망법 조문으로 인해서 AI 에이전트 사용이 접근권한 위반이나 컴퓨터등장애업무방해가 될 수 있다.

결론적으로, AI 에이전트 기술의 발전 속도를 현재의 법과 제도가 따라가지 못하고 있어 규범적 발맞춤이 필요하다. 이것이 혁신의 혜택을 극대화하는 방법이라 본다.

김경환 법무법인 민후 변호사