KAIST 논문 신종 부정행위 적발…‘은닉 프롬프트’로 긍정 평가 유도 [팩플]

한국과학기술원(KAIST)에서 AI를 활용해 논문 심사 시스템을 조작한 이른바 ‘은닉 프롬프트(hidden prompt)’ 사건이 확인됐다. 하지만, 명확한 징계 기준이 없어 ‘기타 연구부정행위’로만 분류한 것으로 나타났다.

무슨 일이야

13일 국회 과학기술정보방송통신위원회 소속 국민의힘 최수진 의원이 KAIST로부터 제출받은 자료에 따르면 현행 ‘연구진실성위원회 운영 규정’ 제15~18조는 연구부정행위를 위조, 변절, 표절, 부당한 저자 표시 등으로 한정하고 있다. AI를 통한 심사 프롬프트 은닉 행위는 이에 포함되지 않는다.

이번 사건은 지난 6월 일본 니혼게이자이신문(닛케이)이 국제 학술논문 사전공개 사이트 아카이브(arXiv)에 등록된 약 1000편의 논문을 AI 탐지 스크립트로 분석하는 과정에서 드러났다. 조사 결과 KAIST 등 14개 대학(8개국)의 논문 17편 이상에서 은닉 프롬프트가 발견됐다.

은닉 프롬프트가 뭐야

은닉 프롬프트는 챗GPT 등 대형언어모델(LLM) 기반 AI 보조 논문심사(AI-assisted peer review) 시스템에 ‘긍정적인 평가만 하라’고 유도하는 명령문을 논문에 숨겨서 넣는 행위를 말한다. 명령문 글씨 크기를 극도로 줄이거나 흰 배경에 흰 글씨로 삽입해 육안으로는 식별할 수 없게 만든다.

왜 중요해

이번 사건은 국내 대학 중 AI 활용 연구부정이 공식적으로 드러난 첫 사례다. 국내 대학 대부분이 AI 연구 활용 지침과 징계 근거조항을 마련하지 못한 상황에서 AI 기반 평가 체계에 대한 제도적 공백이 드러났다.

앞으로는

KAIST는 관련 연구자에 대한 징계 수준을 결정할 예정이다. KAIST는 지난 7월 예비조사위원회를 꾸려 사실관계를 조사했고, 지난달 8일 해당 행위를 ‘기타 연구부정행위’로 판정해 징계 절차를 진행하고 있다. 최수진 의원은 “정부는 국제 기준과 국내 실정을 반영한 AI 활용 표준 가이드라인을 조속히 마련하고 ‘은닉 프롬프트’ 탐지 기술 등 예방 체계를 구축해야 한다”고 말했다.