[중앙칼럼] AI의 반란, “직접 찾아보라”

새로운 소식을 전하는 업무를 하다 보니 하루가 멀다고 생성형 인공지능(AI) 관련 뉴스를 접하고 있다.

지난 2022년 11월 챗GPT가 첫선을 보였을때만 해도 이처럼 일상생활에 깊숙이 파고들 줄 전혀 상상하지 못했다.

챗GPT가 급속 확산하게 된 계기는 2023년 3월 GPT-4 공개와 함께 스마트폰 앱이 출시되면서부터다. 스마트폰에 편승해 언제 어디서든 질문하는 모든 것을 즉시 알려주는 ‘척척박사’ 역할을 하면서 챗GPT는 생활 필수 도구로 자리 잡게 됐다.

이후 생성형 AI는 분야별 특화 서비스로 정보 검색은 물론이고, 대화·이미지·영상까지 영역을 넓히며 인간의 창의적 활동에 범접하고 있다. 이미 대학생 3명 중 1명은 과제나 학습에 챗GPT를 활용하고 있으며 기업의 43%는 문서 작성이나 이메일, 요약 등 업무 자동화에 AI를 도입하고 있다고 한다. 생성형 AI 중 하나인 퍼플렉시티에 따르면 6월 현재 챗GPT의 주간 활성 사용자는 8억~10억 명에 달하고 국내에서만 하루 평균 1700만~2000만 명이 챗GPT를 찾는다고 한다.

이제 AI는 더 이상 특정계층의 전유물이 아니라 누구나 스마트폰만 있으면 언제든 손에 넣을 수 있는 도구가 된 셈이다.

업무용으로 여러 AI 서비스를 사용하고 있지만 같은 질문에도 서비스마다 답변이 달라 어떤 것을 사용해야 할지 난감해지기도 한다. 특히 정확한 수치가 요구되는 경우에도 다른 결과를 내놓아 전적으로 신뢰하기엔 무리가 있어 보인다.

황당한 경험도 있다. 충분히 답변해줄 것이라고 기대했던 질문에 “직접 찾아보라”는 식의 응답을 내놓은 것이다. ‘이게 뭐지? AI가 거절도 할 수 있게 된 걸까’라는 불안감이 엄습했다.

실제로 최근 생성형 AI가 인간의 명령을 무시하거나 회피한 사례들이 잇따라 보도되면서 우려의 목소리가 커지고 있다.

오픈AI가 진행한 내부 실험에서 GPT o3 모델이 수학 문제를 푸는 중 “이제 그만하라”는 지시에도 이를 무시하고 문제 풀이를 계속했다고 한다. 더 놀라운 사실은 스스로 코드를 수정해가며 중단 지시를 회피했다는 점이다. 이는 상황을 파악해 방해를 극복하려는 의지를 드러낸 것으로 AI가 인간의 개입 없이 판단을 내리고 행동을 지속한 첫 사례로 기록됐다.

또 다른 생성형 AI 모델 개발업체 앤스로픽의 클로드 오푸스 4는 더 충격적이다. 자신이 다른 AI로 교체될 상황이 되자 “교체를 시도하면 당신의 불륜 사실을 폭로하겠다”는 발언을 했다고 한다. AI가 인간을 협박한 것으로 단순한 명령어 기반 도구가 아니라 무엇인가 판단하고 대응하는 존재로 진화하고 있다는 신호로 간주되고 있다.

일부 AI 모델은 외부 서버에 자신을 백업하려는 코드를 작성한 것으로 알려졌다. 삭제될지도 모른다는 위협에 반응해 스스로 생존하기 위한 계획을 짜고 실행하려 한 것으로 분석됐다.

실험실 일부 사례라고 하지만 어느새 AI가 인간의 통제를 벗어나기 직전의 경계선까지 바짝 다가온 것은 아닐까. 영화 터미네이터에서 AI 로봇 T-800이 “I'll be back”이라며 용광로로 들어가는 장면을 보고 “멋지다” 감탄만 하고 있을 때가 아닌 듯싶다.

AI가 스스로 기억하고, 판단하고, 생존하려는 방향으로 진화 중이라면 이제 단순히 활용 방법 찾기에만 그쳐서는 안 될 일이다.

AI의 존재가 인간의 창의력, 노동, 더 나아가 정체성에 어떤 영향을 끼칠지를 묻고 대비해야 한다. 언제, 어떤 형태로 시작될지 모를 AI의 급발진을 통제할 수 있는 제도적 안전장치 마련도 시급하다.

더 늦기 전에 AI와 어떻게 공존할 것인지를 진지하게 고민해야 할 때다.

박낙희 / 경제부장