'가중치 수송 문제'에 대한 해답 제시... 발달신경과학 적용
[녹색경제신문 = 이지웅 기자] 카이스트가 인공지능 기술 발전을 위해 풀어야 하는 난제에 대한 해답이 나왔다고 주장했다.
인공지능 기술은 ‘오류 역전파’ 학습에 기반해 발전해 왔다. 이는 신경망이 출력한 답과 실제 기대 출력 사이에 오류를 줄여 신경망이 기대했던 출력을 만들어낼 수 있는 방향으로 시냅스의 결합 세기를 조정하는 알고리즘이다. 이를 통해 신경망의 연결 설계 없이도 데이터를 통한 학습이 가능해졌다.
다만 이를 생물학적 뇌에 적용하지는 못했다. 학습을 위한 오류 신호를 계산하기 위해 개별 뉴런들이 다음 계층의 모든 연결 정보를 알고 있어야 한다는 ‘비현실적’ 가정이 전제되기 때문이다. 이를 ‘가중치 수송 문제’라고 부른다.
지난 2016년에는 영국 옥스퍼드대학과 딥마인드(DeepMind) 공동 연구진이 가중치 수송을 사용하지 않고도 오류 역전파 학습이 가능하다는 개념을 최초로 제시했었다. 다만 가중치 수송을 사용하지 않는 생물학적으로 타당한 오류 역전파 학습은 학습 속도가 느리고 정확도가 낮아 효율성이 떨어졌다.
이러한 상황에서 백인범 카이스트 뇌인지과학과 교수 연구팀이 생물학적 뇌 신경망에서 자원 효율적 학습이 가능한 원리를 설명하면서 가중치 수송 문제를 해결했다고 밝혔다.
연구팀은 생물학적 뇌가 외부적인 감각 경험을 하기 이전부터 내부의 자발적인 무작위 신경 활동을 통해 이미 학습을 시작한다는 점에 주목했다. 이를 모방해 연구팀은 가중치 수송이 없는 생물학적으로 타당한 신경망에 의미 없는 무작위 정보(random noise)를 사전 학습시켰다.
그 결과, 오류 역전파 학습을 위해 필수적 조건인 신경망의 순방향과 역방향 신경세포 연결 구조의 대칭성이 만들어질 수 있음을 보였다.
연구팀은 실제 데이터 학습에 앞서 무작위 정보를 학습하는 것이 ‘배우는 방법을 배우는’메타 학습(meta learning)의 성질을 가진다는 것을 밝혔다. 무작위 정보를 사전 학습한 신경망은 실제 데이터를 접했을 때 훨씬 빠르고 정확한 학습을 수행하며 가중치 수송 없이 높은 학습 효율성을 얻을 수 있다.
해당 연구에 대해 백 교수는 “데이터 학습만이 중요하다는 기존 기계학습의 통념을 깨고 학습 전부터 적절한 조건을 만드는 뇌신경과학적 원리에 주목하는 새로운 관점을 제공하는 것”이라며 “발달 신경과학으로부터의 단서를 통해 인공신경망 학습의 중요한 문제를 해결함과 동시에 인공신경망 모델을 통해 뇌의 학습 원리에 대한 통찰을 제공한다는 점에서 중요한 의미를 가진다”고 전했다.
이번 연구는 12월 10일부터 15일까지 캐나다 벤쿠버에서 열리는 세계 최고 수준의 인공지능 학회인 제38회 신경정보처리학회(NeurIPS)에서 발표될 예정이다.
이지웅 기자 game@greened.kr
▶ 기사제보 : pol@greened.kr(기사화될 경우 소정의 원고료를 드립니다)
▶ 녹색경제신문 '홈페이지' / '페이스북 친구추가'
