[통신칼럼] 인공지능 시대의 수학

20세기 동안 인류가 쌓아 올린 지식의 양은 인류 태동기부터 20세기 전까지 이룬 양보다 수십에서 수백배 많고 시간이 갈수록 기하급수적으로 늘어나고 있다. 지식 발전의 원동력은 여러가지가 있을 수 있으나 확실한 것은 그 저변에 수학이 자리잡고 있다는 점이다.

갈릴레이가 처음 수학을 자연과학에 적용한 후 뉴턴이 이를 체계화했다. 그 후 가우스에 의해 엄밀성이 더해진 수학적 방법론은 자연철학을 자연과학으로 전환시키는 토대가 됐다. 점차 수학은 자연과학을 기술하는 보편적 언어로 받아들여 졌고 산업혁명을 거쳐 짧은 시간에 체계화된 수학적 방법론의 보편성과 효용성이 검증됐다.

20세기에 들어 이 방법론은 자연과학을 넘어 인문과학분야에도 널리 적용되기 시작했다. 기존에는 연구자가 사용하는 언어로 기술되던 분야들이 점점 수학을 공통으로 사용해 기술되면서 급격한 연구의 질적·양적 성장이 가능해졌다.

초기에는 복잡한 계산을 수행할 수 있는 아날로그 계산기로부터 출발해, 현재 컴퓨터는 디지털 기술의 발전으로 수학 계산뿐 아니라 인간 생활의 편의성을 높이는 모든 분야에서 사용되고 있다.

엑셀과 같은 소프트웨어(SW)를 처음에는 전문가그룹에서만 사용했으나 지금은 일반인들도 많은 분야에서 필수적으로 사용하고 있다. 이 외도 학문 발전에서 파생된 수학 언어를 효율적으로 계산해주는 툴의 정확도 및 효율성이 높아지고 적용 분야는 계속 넓어지고 있다.

2000년대 초만 해도 각 연구기관에서는 인하우스 컴퓨터 지원 설계 툴(CAD)을 개발하고 배타적으로 사용해 왔다. 그러나 최근에는 상업용 툴이 이를 대체하면서 전보다 쉽게 사용해 결과를 도출할 수 있어 툴을 사용하는데 필요한 학습의 수준이 점차 낮아지고 있다.

일반적으로 컴퓨터를 사용하기 위해서는 인간 언어를 컴퓨터가 이해하는 C/C++과 같은 로레벨 프로그램 언어나 매트랩, 파이썬 등과 같은 스크립트 언어로 변환해야 한다. 수학 언어를 계산하는 데는 점차 로레벨 언어보다 간단하고 쓰기 쉬운 스크립트 언어 비중이 높아지고 있어 컴퓨터 언어 학습의 어려움이 줄고 있다. 또 수치 계산 외에도 울프람 알파와 같은 심볼릭 계산 툴의 발전으로 인간과 같은 수식계산도 컴퓨터를 이용해 가능하다. 이런 툴들은 인간 친화적인 전개 과정 및 결과를 보여주는 방향으로 계속 발전하고 있어 과거에 비해 계산 결과의 이해 및 활용이 쉬워지고 있다.

챗GPT를 필두로 급속한 인공지능(AI)의 발전으로 컴퓨터가 인간의 언어를 이해하기 시작했다. 인간의 언어를 알아듣고 이에 반응을 보이는 과정으로 직접 인간과 컴퓨터의 소통이 시작됐다.

덕분에 과학계에서는 정보수집·분석 및 논문 작성하는 방법에 큰 혁신을 이뤘다. 앞으로 AI의 발전이 어디로 향할지 예측하는 것은 매우 어려우나 확실히 컴퓨터와 인간의 소통은 크게 바뀔 것이다. 현재까지 개발되고 사용되는 수많은 공학적 툴과 AI의 결합은 필연이며 이로 인해 공학적 아이디어를 검증 및 구현하는 허들이 크게 낮아질 것이다.

AI와 같이 생활하고 작업해야 하는 시대가 점점 가까워지고 있는 지금, AI와 소통에 인간의 언어보다 수학 언어를 사용하는 것이 중요해졌다. 현재 초·중·고등학교의 수학교육은 마치 인간이 컴퓨터가 되는 것처럼 수학 문제를 빨리 틀리지 않고 푸는데 초점이 맞춰져 있다. 이러한 교육체계에서는 AI 시대에 필요한 수학능력을 확보하는데 어려움이 있을 것이다.

갑자기 찾아온 AI 시대에는 인간언어가 가진 모호성을 줄이는 언어로서 수학의 중요성이 더욱 부각된다. 즉 계산의 정확성을 높이는 교육보다 생각을 수학으로 표현하는 교육을 지향하는 것이 미래에 보다 적합할 것이다.

고일석 인하대 교수·한국전자파학회 집행이사 ikoh@inha.ac.kr