[칼럼] AI, 어디까지 허용해야 하지?

교육현장

얼마 전 한 교수님에게서 들은 이야기다. 학술지에서 논문 심사를 요청받아 원고를 읽어보니, 구성도 나쁘지 않고 문장도 제법 매끄러워서 “요즘 연구자들, 잘 쓰네” 하고 생각하며 넘어갔다고 한다. 그런데 참고문헌 목록을 훑어보던 중 이상한 기분이 들었다. 낯익은 이름도 아닌데, 제목과 저널명이 묘하게 그럴듯하면서도 어딘가 어색했던 것이다. 해당 분야의 전문가였던 그 교수님은 “내가 모르는 논문이 이렇게 많을까?” 하는 의심이 들어 실제로 하나하나 검색해보았고, 그제야 깨달았다. 참고문헌 상당수가 존재하지 않는, 말 그대로 ‘유령 논문’이었다. 논문은 있었지만, 정작 그 논문이 기대고 있다는 학문적 세계는 빈 껍데기였다.

학생들이 제출한 보고서를 읽을 때도 비슷한 경험을 하게 된다. 문장만 놓고 보면 맞는 말이고, 문법적으로도 틀린 구석이 없는데, 읽고 나면 묘하게 아무것도 남지 않는 글이 있다. 빠르게 훑어내려갈 수 있을 만큼 매끄럽지만, 정작 그 글을 쓴 사람이 어떤 고민을 했는지, 무엇을 중요하게 여기는지 전혀 느껴지지 않는다. 과제라면 그나마 웃어넘길 수 있지만, 가끔은 학위논문 초고에서도 그런 느낌이 스쳐 지나간다. “이게 혹시 AI가 대신 써준 문장일까?” 하는 생각이 머리를 스치지만, 지금의 제도로는 그것을 끝까지 파헤치는 것이 또 하나의 커다란 노동이 된다. 결국 우리는 어딘가 사람의 체온이 빠져나간 글을 앞에 두고, 이 글의 진짜 주인이 누구인지 알 수 없는 시대를 살고 있는지도 모른다.

지난 11월 미국 교육 전문지 에듀케이션 위크(Education Week)는 최근 학교와 교육청이 인공지능(AI) 활용 정책을 만들 때 지켜야 할 다섯 가지 원칙을 제안했다. 첫째, 교사·학생·학부모가 함께 참여하는 공동 설계, 소수의 행정가가 책상머리에서 규정을 만드는 것이 아니라, 실제로 AI를 사용하는 교실의 목소리를 듣고 반영해야 한다는 것이다. 둘째, 기술과 환경이 빠르게 변하는 만큼 유연성과 수정 가능성을 열어 둔 정책이어야 한다. 한 번 만든 지침을 ‘규정집’으로 고정하는 것이 아니라, 시범 적용과 피드백을 거쳐 계속 다듬어 가는 문서로 바라보자는 제안이다. 셋째와 넷째는 데이터 보호와 편향에 대한 경계로, 학생의 학습 데이터, 상담 기록, 건강 정보가 AI 도구를 통해 외부로 유출되거나, 특정 집단을 불리하게 만드는 편향된 결과가 반복되지 않도록 안전장치를 촘촘히 설계해야 한다. 마지막으로 다섯째는 교사의 전문성 개발이다. 교사들이 AI를 금지하거나 두려워하기만 하는 위치가 아니라, 교실 안에서 직접 설계하고 실험하고 평가할 수 있는 주체가 되어야 한다는 것이다.  

흥미로운 점은, 이 글을 소개한 또 다른 교육자는 “좋은 AI 정책이 중요하지만, 그보다 먼저 어떤 학교를 만들고 싶은지에 대한 전략이 필요하다”고 덧붙였다는 점이다. 많은 학교가 “무엇을 금지할 것인가”를 먼저 정하다 보니, AI 정책이 ‘위험을 막는 울타리’에만 머무른다는 지적이다. 정작 우리가 먼저 물어야 할 질문은 “AI 시대에 우리 학교의 수업, 평가, 관계, 윤리는 어떤 모습이어야 하는가”에 가깝다. 그 질문이 분명해질 때, 데이터 보호도, 편향에 대한 경계도, 공동 설계와 교사 연수도 비로소 방향을 갖는다. 다시 말해 정책은 출발점이 아니라 결과물에 가깝다. 우리가 원하는 교육의 상이 먼저 있고, 그다음에야 AI 정책이 제 자리를 찾는다.

이 논의를 한국 현실에 가져와 보면, 상황은 더 복잡하다. 이미 많은 학생이 과제와 보고서, 심지어 학위논문까지 AI의 도움을 받는 시대지만, 학교나 대학 차원의 AI 가이드라인은 아직 초기 단계이거나, “사용 금지”와 “표절 금지” 수준의 안내에 머무르는 경우가 많다. 가짜 논문을 아무렇지 않게 참고문헌에 넣는 사례, 사람의 손을 거의 거치지 않은 채 제출되는 과제는 단지 ‘부정행위’의 문제가 아니라, 우리가 AI를 무엇을 위해, 어디까지 허용할 것인가를 제대로 논의하지 않았다는 증거이기도 하다. 학생에게는 어떤 사용을 ‘학습의 과정’으로 인정하고, 어디서부터는 학문적 정직성을 해치는 선이라고 말해 줄 것인지, 교사에게는 어떤 도구를 수업 설계와 평가에 활용해도 좋은지, 최소한의 공감대와 안내가 필요하다. 에듀케이션 위크가 제안한 다섯 가지 원칙은 결국 한국 학교에도 그대로 적용된다. 교실 안 사람들의 목소리를 모으고, 데이터를 지키고, 편향을 경계하며, 교사의 전문성을 키우는 일. 이 기본을 놓치면, AI 정책은 또 하나의 ‘서류’로만 남게 된다.

결국 우리가 두려워해야 할 것은 AI 그 자체라기보다, 어떤 질문도 없이 결과만 가져다 쓰는 태도일지 모른다. 존재하지도 않는 논문을 참고문헌에 넣는 손쉬운 습관, 읽어보지도 않은 글을 인용하는 문화. 이것은 기술의 문제가 아니라, 학문 공동체가 공유해야 할 최소한의 윤리와 책임의 문제다. 반대로 말하면, 교실에서 우리가 할 수 있는 일도 분명하다. 학생들에게 AI를 쓰지 말라고만 할 것이 아니라, 어떻게 썼는지 투명하게 밝히게 하고, 그 과정에서 무엇을 배우고 무엇을 놓쳤는지 함께 점검하는 것이다. AI 정책은 거창한 문구보다, 이런 작은 수업의 장면 속에서 비로소 현실이 된다.