[이상직 변호사의 생성과 소멸] 〈5〉나는 AI환각을 옹호한다 (중)

역사학자 유발 하라리는 저서 '사피엔스'에서 인간의 인지혁명을 말한다. 인간은 의식주와 직접 관계가 없지만 기존에 없던 '허구'로서 음성, 기호와 문자를 창조했다. 창조능력은 더욱 발전해 전설, 신화, 종교를 만들었다. 호랑이, 곰을 맞닥트릴 때에 다른 동물은 몸짓으로 “조심해. 도망쳐!”라고 했다면, 인간은 수호신으로 받아들여 숭배했다. 왜 그랬을까. 공동체를 뭉치게 하기 위해 신화와 종교가 필요했다. 위계와 법령을 만들고 협업과 분업을 통해 발전해야 했다. 기존에 없던 허구를 만드는 일은 그저 그런 '환각'에 그칠 수 있었다. 인간 역사는 허구의 환각을 만들어 실행하고 거기에 가치와 신뢰를 부여해 활용하는 과정이었다.

인공지능(AI)환각의 원인은 뭘까. AI는 질문을 인식하면 주어진 범위 안에서 가장 관계있는 데이터를 패턴으로 인식해 분석한다. 확률적으로 가장 적합하다고 여겨지는 데이터를 조합해 답변을 만드는 데, 그 과정에서 오류가 생길 수 있다. 질문자가 AI를 속이거나 질문 수준이 낮다면 답변은 더욱 엉뚱한 방향으로 달려간다.

오픈AI는 2025년 9월 AI환각에 관한 연구결과를 발표했다. 생성형 AI는 틀리거나 황당한 답변을 그럴듯하게 할 수 있다. 특정 주제에 관한 논문 제목을 묻는 질문에 당당하게 틀린 답을 내놓는다. 왜 그럴까. AI는 언어모델에서 다음에 나올 단어를 예측하는 학습을 한다. 여기에 정해진 답은 없다. 자주 등장하는 패턴을 잘 학습하지만 불확실한 사실에 대해선 추측을 한다. AI는 정확성 위주로 평가를 받기에 추측을 해서라도 답을 맞히려는 경향이 있다. 추측한 결과를 내놓는 것이 모른다고 한 경우보다 나은 평가를 받기 때문이다. 평가방식 개선 없이 “추측하지 말라”는 단순하고 막연한 지침으론 충분하지 않다. 응답을 하지 않는 경우에도 가점을 부여하고 오답에 감점을 하는 평가방식도 고려된다. AI환각은 오류가 아니라 학습구조와 평가방식이 결합된 산물이다. AI모델 규모가 커지더라도 환각이 줄지 않는 이유다. 해결책은 평가방식과 지표 자체를 바꾸는 것이지만 AI환각을 완전히 없앨 순 없다.

AI환각을 거꾸로 활용하면 어떨까. 종이지폐, 암호화폐, 법령과 규약, 온라인거래시스템 등 인간이 향유하는 많은 것은 지구상에 원래부터 있던 것이 아니라 인간의 생각에서 나왔다. 많은 비용을 들여 AI를 만드는 이유가 뭔가. 네이버 검색을 대신하고 학자의 논문작성을 돕기 위한 것인가. 그래선 안 된다. 정신활동을 모방하는 AI를 통해 인류가 향유했던 기존 시스템의 단점을 고치고 현재 시스템을 훨씬 능가하는 가치를 만들기 위함이 아닌가. AI가 인간의 한계에 갇히도록 해선 안 된다. 현재의 인간이 이해할 수 없더라도 AI를 활용해 새롭게 가치와 신뢰를 줄 수 있는 허구를 창조해야 한다. 그 대신 인간은 AI의 결과물이 인류에 기여할 수 있을지 판단하고 통제하는 '윤리능력'을 길러야 한다. AI에서 생명, 신체나 인간의 본질을 뒤엎는 살상무기, 독성물질, 병원균 등이 나오는 것은 절대적으로 막아야 한다.

그렇다. AI환각을 효과적으로 제어하면서 활용해야 한다. 그러기 위해선 AI의 추론기능을 학습기능보다 고도화할 필요가 있지 않을까. 질문과 깊이 관련이 있지만 외견상 동떨어진 듯 보이는 결과물을 많이 내놓도록 실험을 거듭하면 좋겠다. 과학기술은 인류와 함께 지속적으로 발전했지만 인류의 정신 수준은 달라진 게 없다. 발명, 저작 등 인류문화의 차원을 고도로 높일 수 있는 창작에 눈을 돌려야 한다. 전에 없던 새로운 가치를 얻기 위해 AI환각이 필요하다. 계산만 빨라진다고 새로운 시대가 오진 않는다. 인간이 가진 현재의 한계를 넘으려면 AI를 인간의 낡은 틀 속에 가둬선 안 된다. 대기업의 부품 같은 직원이 아니라 스타트업의 창업자처럼 움직이게 해야 한다. 고도의 정신세계와 문화를 가진 인류공동체를 만들기 위한 목적에 AI의 사활을 걸어야 미래가 바로 선다.

이상직 법무법인 태평양 변호사('창의는 어떻게 혁신이 되는가' 저자)