"외인·기관 참여 기폭제"…"알고리즘으로 시세 왜곡" 불만도

대체거래소(ATS) 출범에 따라 알고리즘을 활용한 초단타매매(HFT)가 더욱 빈번해질 것으로 예상되는 것은 두 거래소 간 거래 시간, 호가 방식 등 매매 체결 속도 차이를 이용한 거래가 가능해지기 때문이다. HFT는 프로그램 매매의 일종으로 2008년 미국 시카고상품거래소(CME)에서 처음 사용된 매매 전략이다. 방대한 양의 시장 데이터를 밀리초·마이크로초 단위로 분석해 수익을 낼 수 있는 미세한 가격 변동이나 패턴을 찾는다. ATS가 한국거래소보다 빠른 매매 체결 속도를 추구하는 만큼 업계에서는 두 거래소 간 차익 거래로 HFT의 새로운 장이 열린 것으로 보고 있다. ATS의 매매 수수료가 거래소 대비 20~40%가량 낮다는 점도 HFT 투자자에게는 반길 만한 대목이다.

3일 한국거래소에 따르면 한국 주식시장에서 HFT의 거래 규모는 지난해 2072조 7047억 원으로 2023년(1665조 4390억 원) 대비 24.45% 증가했다. 거래 비중도 큰 폭으로 늘었는데 2023년 전체 거래 대금 대비 HFT가 차지하는 비중은 29.40%에서 지난해 37.17%로 7.77%포인트나 높아졌다. 주식시장의 전체 거래 대금이 2023년 5663조 원에서 2024년 5574조 원으로 감소한 가운데 HFT의 거래 규모는 크게 증가했기 때문이다.

HFT는 증권사를 거치지 않고 거래소와 전산 시스템을 직접 연결하는 직접전용주문선(DMA)을 이용한다. DMA는 외국인과 기관투자가들이 인공지능(AI) 알고리즘으로 설계한 주문을 거래소에 곧바로 전송할 수 있는 초고속 매매 시스템으로 모바일트레이딩시스템(MTS)과 홈트레이딩시스템(HTS)의 주문 처리 속도(0.02~0.05초)보다 훨씬 빠르다.

HFT는 거래소 간 매매 시간 차이를 이용하는 ‘지연 차익 거래’ 외에도 여러 유형이 있다. 가격이 함께 움직이는 경향이 있는 종목 중 저평가된 주식을 빠른 속도로 매수(통계적 차익 거래)하기도 하며 알고리즘으로 사건·사고를 분석하고 특정 모멘텀이 있을 때 매매(이벤트 기반 거래)에 참여해 차익을 내기도 한다.

복수 거래 체제가 본격적으로 막을 올리면서 상당수 기관은 넥스트레이드에서 HFT를 위한 준비에 돌입했다. 넥스트레이드는 증권사들을 대상으로 DMA 거래자 등록 절차를 진행 중이다. 김태홍 그로쓰힐자산운용 대표는 “특정 모멘텀이 발생했을 때 알고리즘으로 차익을 내는 HFT가 야간에도 가능해지고 거래소 간 시세차익을 노릴 수 있기 때문에 HFT는 늘어날 수밖에 없다”고 말했다.

우선 증권가에서는 HFT의 활성화를 긍정적으로 보고 있다. HFT로 매수와 매도 주문이 늘어나고 시장의 유동성이 증가한다는 건 자본시장에 활력을 불어넣는다는 점에서 가장 큰 장점으로 평가된다. 가격 발견 기능도 향상된다. 초고속으로 정보를 처리하는 과정에서 증권의 가격이 실제 가치(적정가)에 더욱 수렴하게 되고 이 같은 과정을 촉진해 시장의 효율성을 높일 수 있다. 차익 거래로 두 거래소 간 가격 불균형을 해소할 수 있다는 점도 긍정적인 요인이다.

반면 개인들의 우려는 여전한 상황이다. 일각에서는 기관들이 알고리즘을 바탕으로 시장 조작이 가능하다는 점을 지적한다. 이달 31일 공매도가 전면 재개되면 무차입 공매도를 이용한 고빈도 단타 매매에 대한 불신이 커질 수 있다.

초단타 매매에 따른 주문 급증으로 가격 왜곡과 시장 변동성을 유발해 개인들이 손해를 볼 가능성도 제기된다. 실제 미국 헤지펀드 시타델의 계열사 시타델증권은 2017년 10월부터 2018년 5월까지 허수성 주문을 내고 치고 빠지는 단타 거래로 시세를 조종하고 시장을 교란한 것이 적발되기도 했다.

지난해 한국증권학회지에 실린 ‘고빈도 알고리즘 매매의 데이트레이딩 성과 분석’에 따르면 HFT가 변동성을 키우고 시장을 교란할 수 있어 금융 당국의 주의가 필요하다고 지적했다. 시장에서는 외국계 헤지펀드들이 HFT 규제 강화로 인해 증시 주요국을 떠나 아시아로 이동했다고 분석했다. 이 같은 우려로 금융 당국과 거래소 시장감시위원회는 지난달부터 불공정거래 감시 기준을 별도로 마련하고 이를 수정·보완하는 작업을 진행 중이다. 이효섭 자본시장연구원 금융산업실장은 “두 거래소 간 차익 거래를 할 기회가 생기면서 HFT의 영향력이 확대될 것”이라며 “시세조종 등 불공정 거래를 신속히 조사하고 엄중히 제재할 수 있는 제도적 기반이 필요하다”고 강조했다.