[이내찬교수의 광고로보는 통신역사]〈43〉챗GPT 수학, 어디서 가르쳐야 하나?

정부는 2030년까지 공공 분야 인공지능(AI) 전문가 2만명을 양성하겠다는 계획을 세웠지만, 정작 수학교육은 반대의 길을 걷고 있다. 2009년 고등 교육에서 벡터·행렬을 다루는 선형대수가 제외됐고 2028학년도부터는 미적분을 배우지 않아도 이공계를 진학할 수 있게 된다. 그런데 과연 대학에서 AI 수학 몇 과목 수강하고 기초를 습득할 수 있을까?

2009년 개편 사유는 행렬식이 단순 계산에 불과하다는 것이었다. 실상 소년 천재 김웅용은 NASA에 근무하면서 선형 해를 도출하는 단순 계산에 투입됐던 당시의 고통을 회상한다. 그러나 문제는 AI 수학의 본질을 제대로 전달하지 못하는 교육방식에 있다.

누구나 한 번쯤 접해봤을 2원 1차 연립방정식은 2차원 공간에서 두 직선의 교차점 (x, y)를 구한다. 직선과 직교하는 경사 벡터(gradient vector)는 방향을 나타내면서 변수의 상대적 중요도(가중치)를 나타낸다. 선형대수는 수를 순서대로 묶은 벡터를 모아 행렬을 구성해 다변수 해법을 분석하는 분야로 연산의 기하학적 도식은 직관적 이해를 돕는 데 유용하다.

인공신경망(ANN)의 원형인 '퍼셉트론'은 해를 구하지는 않지만, 선의 경사를 조정하거나 평행이동하면서 개·고양이(대상)를 몸집·꼬리 길이(속성)로 분류한다. 귀 모양이 추가되면 직선은 3차원 평면이 된다. ANN은, 퍼셉트론이 XOR 문제를 해결하지 못하는 한계를 극복하기 위해 은닉층과 층별 경계면을 늘리며 복잡한 경계 곡면을 생성하도록 진화했다.

핵심은 미분 정보를 이용한 경사 하강법이다. 윤곽이 부드러운 함수로 데이터 출력값과 실제값의 차이(손실함수)를 최소화하도록 학습한다. 이는 마치 밤에 항아리 모양의 산중에서 플래시를 비추며 접하는 (선·)면을 참고삼아 아래로 발걸음을 옮기다 보면 결국 지면에 도달하는 원리와 흡사하다. 이때 층별 경계면은 역전파법에 따라 함께 조정된다.

챗GPT의 알고리즘 '트랜스포머'는 단어를 토큰 단위로 쪼개 다차원 공간의 벡터로 변환한 거대한 '말 구름'을 가지고 있다. 의미가 가까운 단어 벡터가 서로 가깝게 위치하는 속성을 반영한 행렬 연산 과정을 거쳐 질문에 가까운 의미의 개념이 잘 반영될 수 있도록 문맥 벡터를 생성해 ANN에 투입한 후 예상 답변 문장을 순차적으로 산출한다.

유학 시절 세미나 발표에서 큰 선생이 돌연 '지금 설명한 내용, 그림으로 그려 볼 수 있어?'라고 물었다. 단순 암기가 아닌 논리를 제대로 이해했다면 기하로도 설명할 수 있어야 한다는 의미로 필자에게는 자신의 이해도를 확인하는 평생 버릇으로 남아 있다. 이제는 챗GPT로 손쉽게 알고리즘을 시각화한 애플리케이션(앱)을 손쉽게 만들어 직접 조작해보면서 이용자 스스로가 개념을 체화할 수 있는 환경도 마련되었다.

챗GPT 시대에 필요한 교육 혁신은 교재를 단순히 디지털화하는 형식적 변환이 아니라 본질을 직관적으로 알기 쉽고 흥미를 유발하는 내용물의 재구축이다.

이내찬 한성대 경제학과 교수 nclee@hansung.ac.kr