앤드루 응 "생각하고 판단하는 AI가 온다"

“인공지능(AI)에 대한 단 하나의 트렌드만 기억해야 한다면 단연코 ‘생각의 사슬(Chain of Thought)’입니다. 생각의 사슬, 곧 추론이 AI 발전 한계의 돌파구가 될 것입니다.”

AI 4대 석학 중 한 명으로 꼽히는 앤드루 응 스탠퍼드대 교수는 이달 10일(현지 시간) 서울경제신문과 만나 “빅데이터 학습량에 비례해 AI 성능이 향상되는 ‘규모(스케일링)의 법칙’은 한계를 맞았다”면서도 “단계적으로 답을 찾아나가는 생각의 사슬 기법과 이에 기반한 추론 모델의 등장으로 AI 발전이 벽에 부딪혔다는 주장이 무너졌다”고 진단했다.

딥러닝으로 사전 학습한 빅데이터를 확률에 기대 그럴듯하게 풀어놓는 ‘암기형’ AI의 시대가 끝나고 학습한 데이터를 단계적으로 차근차근 이해해 ‘창발적 사고’를 풀어내는 추론 모델이 향후 AI 발전을 이끌 것이라는 관측이다. 실제 막대한 연산량 투입으로 빅데이터를 사전 학습하는 전통적 AI 발전론은 한계에 다다른 상태다. 생성형 AI의 폭발적인 발전을 이끌어온 규모의 법칙이 무너지고 있는 것이다.

테크계에서는 오픈AI와 구글이 막대한 자본을 들여 각각 GPT-5와 제미나이 2.0을 학습시켰으나 기대 이하의 결과물을 받아들이는 데 그쳤고 이때문에 정식으로 새 버전을 내놓지 못하고 있다는 평가가 지배적이다. 응 교수는 “오픈AI GPT-3는 2020년에, GPT-4는 2023년 3월에 출시됐으나 2년이 지난 현재까지 GPT-5가 출시되지 않았다”고 지적했다.

실리콘밸리는 학습량 증가 대신 수십 초~수 분간 단계적인 생각, 즉 추론을 거쳐 질 높은 답변을 내놓는 추론하는 AI 모델로 우회로를 찾고 있다. 오픈AI가 지난해 하반기에 선보인 ‘o1’ 모델 등이 대표적인 사례다. 응 교수는 “생각의 사슬을 적용한 추론 모델은 인간조차 매우 어려워하는 선형적 작업을 놀라울 정도로 잘해낸다”며 “오픈AI-o1 등 추론 모델이 대부분의 사람들이 생각하는 것보다 더 큰 영향을 미칠 것”이라고 강조했다.