[ET단상]인간을 위한 AI, 미래 디지털 철도안전을 기대한다

2025년 우리나라를 포함한 전 세계는 인공지능(AI) 열풍으로 뜨겁다. 챗GPT, 클로드, 제미나이 등 다양한 대규모언어모델(LLM)이 우리 일상 업무에서 활발히 사용되고 있다. 이제 누구나 하나쯤은 마법사 지니, 아이언맨의 자비스와 같은 언어모델 서비스를 자연스럽게 이용하는 시대로 전환하고 있다.

한편 올해 8월 발생했던 청도 선로작업 중의 사고는 인명 손실과 더불어 열차서행 운전으로 인한 지연, 운행감소 등 사회적·경제적으로 큰 파문을 불러왔다. 안타깝게도 인명 사고는 철도 현장에서 반복되고 있다. 이런 사고를 선제적으로 예방하는 기술이 계속 개발되고 있으나, 다양하고 복잡한 현장 조건을 모두 수용하기에는 한계가 있다.

그래서 철도 안전에 '만능의 재주꾼인 AI를 적용할 수 없을까' 하는 상상을 해본다. 항상 곁에 두고 어려운 문제에 닥치거나, 위험 상황이 발생하기 전에 스스로 미리 감지하고 나를 지켜주는 든든한 조력자, 이를 AI로 구현 가능하지 않을까. 한국철도기술연구원은 언어모델과 AI 에이전트 기술을 기반으로 미래 디지털 철도 안전 기술을 개발하고 있다. 주요 기술, 그리고 철도현장 적용을 위한 정책을 제시하면 다음과 같다.

첫째, 인적오류 주된 원인으로 현장 상황에 대한 오해, 잘못된 가정으로 인한 결정 오류, 지식이 부족해 발생한 오류 등이 있다. 이를 예방하기 위해 언어모델, 음성인식 모델 및 검색증강생성(RAG) 기술 등을 기반으로 철도 현장에서 꼭 필요한 작업절차, 제품 제원, 작업 방법 및 비상 대응 절차 등의 전문지식을 AI 에이전트와 실시간 음성 대화를 통해 지원하는 기술을 개발하고 있다.

둘째, 현장 작업환경, 열차 운행 시간 변경, 선로 상태변화 등 위험정보를 현장 카메라로부터 스스로 인식하는 에이전트, 열차 운행계획 데이터베이스(DB)에 접속해 운행 시간을 확인하는 에이전트, 선로 조건 등에 따라 예상되는 위험도를 계산해서 알려주는 에이전트 등 여러 AI 에이전트가 협업해 작업자를 지원하는 기술을 개발하고 있다. 이를 통해 다양하고 복잡한 현장 상황에서도 꼭 필요한 정보만을 전달해 인명 사고를 사전 예방할 것으로 기대한다.

셋째, 인간-AI 협업을 가능하게 하는 양질의 경험 DB 수집 기술도 개발하고 있다. 작업자가 성공적으로 완수한 작업내용은 자동으로 마스터 DB에 저장되며, 더 나은 AI를 위한 학습자료로 활용하고, 이런 일들이 선순환되는 미래 안전데이터센터도 구상하고 있다. 이를 통해 지속해서 데이터를 확보, 더 똑똑한 협력파트너를 만드는 기술이 개발될 것으로 기대한다.

AI 기술은 인간을 위해 존재한다. AI 기술은 만능 재주꾼일 수 있지만 아직은 안전을 전적으로 책임지는 전문가 수준 의사결정을 맡기기 어렵다.

하지만, 가까운 시일 내에 진정한 조력자로서 인간-AI 협력을 위한 기술 발전이 예상된다. 다만 AI에 전적으로 의존하기보다 인간과의 협업을 통한 의사결정이 병행돼야 한다. 이를 통해 AI가 사실이 아닌 정보를 확신 있게 생성하는 오류, 할루시네이션을 극복할 수 있다. 이를 위해 인간-AI의 협업을 수용할 수 있는 범위에서 관련 법, 제도가 세심하게 준비돼야 한다.

AI는 철도분야에서도 사고를 미리 예방하는 안전을 위한 필수 기술이며, 인간을 위한 기술로서 인간과 함께 협업하는 접근으로 미래 디지털 철도안전이 필요하다. 미래 철도를 위해 AI 기술 적용, 그리고 이에 대한 의사결정 과정의 책임성과 합리성을 제고하는 제도 마련이 함께 요구되며, 이를 위한 국민의 관심, 정책적 지원이 필요한 시점이다.

전현규 한국철도기술연구원 철도안전환경본부장 hkjun@krri.re.kr