인공지능과 수학

인공지능(AI)과 빅데이터 등에서 새로운 기술과 아이디어 개발의 필요성이 점점 커져 가는 상황에서 수학의 중요성도 같이 커지고 있다. 몇년 전에 일본에서 경제산업성과 문부과학성이 공동으로 펴낸 ‘수리자본주의의 시대: 수학의 힘이 세상을 바꾼다’라는 제목의 보고서는 매우 획기적이다. 그 내용도 획기적이고 정부의 두 부처가 공동으로 학문의 어느 한 분야를 키워야 한다는 보고서를 낸 것도 매우 이례적이다. 이 보고서에는 “AI, 빅데이터 등을 중심으로 일어날 4차 산업혁명의 승자가 되기 위해 필요한 것은 첫째도 수학, 둘째도 수학, 셋째도 수학”이라고 하는 대목이 나온다.

수학이 AI와 연관성이 높고 AI를 개발하는 데에도 수학이 필요하다고 하니까 사람들은 쉽게 ‘수학 교육을 강화해야 한다’는 생각을 할 수 있을 것 같다. 그래서인지 교육부는 발 빠르게 움직여 2022년 고등학교 개정교육과정에 이미 ‘인공지능 수학’이라는 수학 과목을 미적분II, 기하 등과 함께 선택과목으로 편성해 놓았다.

그 교과 내용을 살펴보면 AI와 연관된 유익한 것들이 들어가 있기는 하지만 나는 그런 과목이 수학 교육 본연의 목적에 부합하지 않을 뿐 아니라 우수한 AI 개발자를 양성하는 데에도 별 도움이 되지 않을 것이라고 생각한다. 게다가 준비도 제대로 되지 않은 채 내년부터 디지털교과서를 이용하여 교육한다고 한다. 우수한 소프트웨어 개발자들을 많이 양성해야 한다며 초등학생들을 대상으로 코딩을 필수 과목으로 만든 것도 이와 유사한 정책인데 교육부의 일련의 성급한 결정에 찬성하기 어렵다. 실용과 시류를 좇는 것보다는 기본 소양 교육에 충실한 편이 낫다는 게 합리적인 교육철학 아니던가.

AI와 수학

AI의 개발에 참여하고 있는 전문인력이나 AI라는 도구 플랫폼의 특성과 능력을 활용하는 법을 연구하는 사람들에게는 어떤 수학적 소양이 필요하고, 우리 사회는 어떻게 수학 교육을 통하여 전문가들을 양성할 수 있을까? 실은 AI나 빅데이터에 대한 연구에 직접 활용되는 수학적 지식은 많지 않은 편이다. 행렬(선형대수)이나 미분방정식 정도의 내용이 활용될 뿐이고 수학의 어떤 고차원적이고 전문적인 내용이 활용되고 있지는 않다. AI 연구에는 구체적인 수학적 지식보다는 수학적 사고능력과 문제 해결 능력을 갖추는 것이 필요하다.

현재 AI 및 머신러닝 기술의 주요한 접근법은 원하는 문제의 해결을 위해 수학적 최적화 문제를 만들고, 그 최적화 문제를 해결하는 알고리즘을 설계해서 수행하는 방식이다. 이러한 최적화 문제를 보다 합리적으로 설계하는 데에, 그리고 설계된 최적화 문제를 해결하는 알고리즘을 디자인하는 데에는 심도 있는 수학적 이해가 요구된다. 수학적으로 탄탄한 학습 및 연구 경험을 지닌 사람들은 AI의 새로운 개념을 개발하고 근본적인 연구를 하는 데에 그만큼 장점을 갖기 때문에 앞으로 AI 분야에서 핵심적 역할을 담당할 것으로 전망한다.

수학 영재 출신의 한 AI 연구원이 AI와 수학의 연관성에 대한 나의 질문에 다음과 같은 답을 보내주었다. “지금까지 나온 머신러닝이나 딥러닝의 수많은 기법은 그 이론적 토대를 전부 수학에 두고 있고, 새로운 방향을 제시하는 논문은 항상 그 방향성을 수학적으로 뒷받침하는 과정을 필요로 합니다. 컴퓨터과학이나 엔지니어링 쪽으로 커리어를 쌓으며 수학적 배경과는 거리가 먼 사람들의 경우 이 부분에 어려움을 표하는 경우가 많지만 수학자나 수학적 배경이 있는 사람들은 강점을 드러내는 경우가 많고, 자신이 갖고 있던 수학적인 개념을 이용해 AI 연구 문제를 해결하는 경우도 있습니다.”

수학전문인력 활용이 핵심

정부는 전국 주요 대학의 산업(AI)수학연구센터를 지원하고 있다. 물론 이것은 필요한 정책이지만 그런 연구소들은 AI 수학 연구 그 자체에 힘쓰는 것보다는 졸업 후 AI 쪽으로 진출할 수학 전문인력의 양성에 주력해야 한다. 학생들은 반드시 AI 연구에 쓰이는 구체적인 수학이 아니더라도 그냥 자신이 전공하는 고급 수학을 열심히 공부하면 된다. 심도 있는 AI 연구에 필요한 것은 그들의 수학적 실력이지 그들의 머리에 담긴 어떤 특정한 수학적 지식이 아니기 때문이다. 미국처럼 대학은 순수하게 수학적 능력을 갖춘 인재를 양성하고, 기업은 그들을 활용하는 구도가 우리나라에도 정착되면 좋겠다.