[IT 칼럼] AGI와 자율적 기술

프랑스의 사상가 폴 발레리는 1900년대 초 이런 질문을 던졌다. “인간의 정신은 자신이 만든 것을 지배할 수 있는가.” 짐작할 수 있듯 그의 결론은 비관적이었다. 기술에 대한 인간의 통제력 상실은 불가피하고, 지식은 무력감을 경험하게 될 것이라고 봤다. 사실 이런 인식은 새롭지 않다. 산업혁명 이후 제기된 다수의 기술 인식은 ‘노동의 소외’라는 개념에서도 유추할 수 있듯, ‘통제 불능성’에 기초하고 있다. 다만 우리 스스로 인정하지 않고 있었을 뿐이다.

인간은 기술을 설계할 때부터 어쩌면 통제 불능을 염두에 두고 있었을지 모른다. 여러 예술 작품과 소설에서도 소개되고 있다시피 ‘기술이 완벽하지 않으면 그것은 기술이 아니다’라는 인식이 팽배했다. 기술은 인간의 능력을 뛰어넘는 완벽함과 우아함을 지닐 때 비로소 기술로서 인정을 받았다. 인간보다 느린 자동차는 개발될 필요가 없었고, 인간보다 정확하지 않은 컴퓨터는 탄생할 이유조차 없었다. 인간을 이기지 못하고 실수를 연발하는 체스 기계를 굳이 만들어야 할 동인도 부족했다. 결국 인간은 늘 자신보다 우월한 객체로서 기계를 상상해왔고, 그것에 생명을 불어넣고 싶어했다. 자신이 만들었기에 통제 가능하다고 믿고 싶었을지 모르지만, 그 믿음은 무너진 지 오래다. 지금은 그것을 개발한 전문가조차 그것의 메커니즘을 제대로 이해하기 어려운 세상이다. ‘자율적 기술’은 이러한 오래된 인간의 사고 양식이 역사적으로 집적된 산물이라 할 수 있다.

구글 딥마인드의 데미스 허사비스는 지난해 말 한 인터뷰에서 AGI(인공일반지능)가 등장하려면 월드 모델과 AI 에이전트가 결합해야만 한다고 했다. 그 시점은 대략 5~10년 뒤가 될 것이라고도 했다. 월드 모델은 세상의 물리법칙을 이해하는 인공지능이고, AI 에이전트는 스스로 학습하고 의사결정을 내리는 자율성을 지닌 기계 주체를 말한다. 구글 딥마인드는 지니 3(월드 모델)와 시마 2(AI 에이전트)를 진화시키며 AGI 개발에 박차를 가하고 있다. 지금은 서로 다른 경로를 따라 개발되고 있지만, 이들의 협업 지점에서 AGI는 자연스럽게 등장할 것이라는 게 그의 가설이다.

여기서 폴 발레리의 우려가 다시 한번 제기된다. 이렇게 등장한 자율적 주체로서 AGI를 인간은 지배할 수 있을까? 전언했듯, 그것은 불가능에 가깝다. 오히려 인간은 AGI가 구성한 현실 조건에 적응해야 할지도 모른다. 이를 인간의 창조물이 만든 현실에 인간이 적응해야 한다는 의미에서 ‘역적응’이라 부른다. AGI라는 ‘자율적 기술’이 등장한 이후의 인간세계는 역적응이 일상화한 시공간이 될 수밖에 없을 것이다. 인간은 기술에 더 의존적일 수밖에 없고, 더 깊이 중독될 수밖에 없을 것이다. 목적과 수단의 역전은 피할 수 없는 미래의 모습이다. 그럼에도 인간은 그 욕망을 향해 내달려가고 있다.

해법은 없을까? 기술의 통제 가능성에 대한 미련을 버리고, 기술 평가의 새로운 가치체계를 만드는 것이다. 랭던 위너의 제안을 인용하자면 “더 심한 의존성을 초래하는 기술을 열등한 것으로 간주하는 것”이다. 이 가치체계가 보편화할 때 비로소 자율적 기술과 인간의 건강한 공존이 가능해진다. 2026년은 이러한 인식과 논의의 출발점이 돼야 한다.