'1000분의 1초' 초단타 치는 대체거래소…개미, 눈 뜨고 코 베이나

[MT리포트]주식거래, 듀얼 거래소 시대가 온다-③
대체거래소 설립 후 활성화 전망…"개미에게 불리" 지적도

[편집자주] 금융당국이 한국거래소의 증권매매체결 기능을 대신할 수 있는 대체거래소 인가 절차에 본격 나섰다. 대체거래소 설립 근거가 생긴 지 10년 만이다. 대체거래소 출범으로 주식거래소 경쟁 체제가 시작되면 자본시장 확대, 투자비용 감소 등 선순환 효과를 창출할 것이란 기대가 크다. 68년간 한국거래소 독점 체제가 이어졌기 때문에 대체거래소의 메기 효과가 크지 않을 것이란 회의적인 시각도 존재한다.

뉴욕 월가 표지판 /로이터=뉴스1

대체거래소(ATS)의 설립으로 국내 증시에서도 고빈도 알고리즘 매매와 같은 선진 거래 기법이 활성활 것이란 분석이 나온다. 증시 유동성 증가 등 기대요인이 있지만 개미(개인투자자)에게 불리한 '기울어진 운동장'이 더 심화할 수 있다는 점에서 보완책을 마련해야 한다는 목소리도 높다.

6일 금융투자업계에 따르면 대체거래소 설립으로 기대되는 요인 중 하나는 매매 체결 속도의 향상이다. 자본시장법상 '다자간매매체결회사'로도 불리는 대체거래소는 이름 그대로 증권의 매매 또는 중개를 전문적으로 하는 업체를 의미한다. 기존에 증권 매매 업무는 한국거래소 독점 체제였는데 대체거래소가 설립됨으로써 매매 속도 향상을 위한 거래소 간 경쟁은 치열해질 전망이다.

한국거래소는 앞서 올해 초 '2023년 핵심전략' 발표를 통해 대체거래소와의 경쟁에 대비한 매매제도 개선과 인프라 서비스 경쟁력 강화를 강조했다. 올해 1월에는 새로운 시장시스템인 '엑스추어3.0'(EXTURE3.0)을 가동해 거래처리 속도를 기존 70㎲(1마이크로초=100만분의 1초)에서 50㎲로 30% 향상시켰다.

대체거래소 인가를 준비 중인 넥스트레이드 역시 빠른 매매 체결 속도를 목표로 IT 인프라 확충을 준비 중이다. 넥스트레이드 관계자는 "목표는 한국거래소보다 더 빠른 매매 체결 속도를 구현하는 것"이라며 "IT 인프라 확대를 위한 투자를 준비 중"이라고 말했다.

대체거래소 설립으로 거래소 간 매매 속도 경쟁이 붙으면 투자자들의 편익은 그만큼 올라간다. 특히 거래 속도에 민감한 고빈도 알고리즘 투자자들이 가장 큰 수혜를 받을 것으로 예상된다.

고빈도 알고리즘 매매란 컴퓨터 프로그램을 이용해 1000분의1초 단위로 매우 빠르게 매매 주문을 내면서 다른 투자자보다 조금이라도 더 유리한 가격에 거래가 체결되도록 하는 매매 기법이다.

주식 매매의 경우 가격우선의 원칙과 시간우선의 원칙에 따라 매매가 체결된다. 가격우선의 원칙은 높은 가격을 제시한 매수자 혹은 낮은 가격을 제시한 매도자의 주문이 먼저 체결되는 것이다. 시간우선의 원칙은 같은 가격으로 주문을 낸 투자자 중 먼저 주문을 낸 순서대로 거래가 이뤄지는 방식이다.

고빈도 알고리즘 거래자들은 짧은 시간에 수 없이 많이 이뤄지는 주문의 양상을 포착하고 보다 유리한 가격에 남들보다 빨리 주문을 낸다. 이 과정은 한 번에 그치지 않고 하루에도 수백, 수천번 주문과 취소를 반복하면서 이익을 취한다. 고빈도 알고리즘 매매로 얻을 수 있는 이익은 고작 1~2틱(호가단위) 정도지만 수천번 반복하면 상당한 이익이 쌓인다.

수십곳의 대체거래소가 운영 중인 미국과 유럽은 고빈도 거래가 전체 거래에서 상당 비중을 차지한다. 자본시장연구원에 따르면 2020년 기준 미국 주식 거래량의 50%, 유럽 주식 거래량의 20~40%는 고빈도 거래로 추정된다.

이런 점 때문에 미국의 주요 기관 투자자들은 고빈도 알고리즘 매매를 위해 거액의 투자를 아끼지 않는다. 미국의 알고리즘 매매 전문가인 다니엘 스파이비는 2008년 2억달러를 들여 시카고와 뉴욕의 거래소를 연결하는 기존 광섬유보다 왕복 161km를 단축하는 새로운 회선을 설치했다. 체결속도는 기존 1000분의 17초에서 1000분의 4초로 크게 단축됐다. 월가의 주요 투자은행과 헤지펀드들은 고빈도 매매의 주도권을 빼앗기지 않기 위해 고액을 주고 이 회선을 임대했다.

짧은 시간의 매매에서도 이익을 얻기 위한 고빈도 알고리즘 거래자들의 노력(?) 덕분에 시장에는 유동성 공급이라는 긍정적 효과가 생기기도 한다. 고빈도 거래로 활발하게 매수·매도 호가를 제시하다보면 다른 투자자들 역시 원활하게 거래를 할 수 있다.

국내에도 대체거래소가 설립되면 고빈도 거래는 더 늘어날 것으로 보인다. 국회입법조사처 연구에 따르면 대체거래소 도입으로 국내 증시에서 프로그램 매매 비중은 현재 약 10~15%에서 20% 이상으로 증가할 전망이다.

고빈도 알고리즘 매매는 긍정적 효과 만큼 부작용도 상당하다. 시세 조종을 일으키키도 하고 대규모 투자가 가능한 기관의 전유물이라는 점에서 개인 투자자에게 불리한 시장을 조장한다는 비판을 받기도 한다.

고빈도 알고리즘이 시장을 교란한 대표적인 사례가 미국의 '플래시 크래시'(Flash Crash) 사건이다. 2010년 5월6일 한 투자 운용사가 거액(41억달러)의 S&P500 미니선물 매도 계약을 내자 다수의 알고리즘 투자자들은 이날 오후 2시41분부터 2시44분까지 3분 간 71억6000만달러의 거래를 했다. 이 과정에서 매수가 실종되면서 주가는 급격히 하락했다. 이날 다우지수는 5분 동안 998포인트 폭락했다 다시 600포인트가 오르는 극심한 변동성을 겪었다.

국내에서는 시타델증권이 고빈도 거래를 통해 시장을 교란했다는 혐의로 118억8000만원의 과징금을 받았다. 시타델증권은 2017년 10월부터 2018년 5월까지 총 264개 종목, 총 6796개 매매구간에서 시장을 교란했다는 혐의를 받았다.

고빈도 거래의 특성상 불공정 거래 여부를 밝히는 일은 쉽지 않다. 대체거래소의 도입으로 거래 속도가 더 빨라지는 만큼 불공정 거래를 막기 위한 감시체계 강화의 중요성도 커진다.

한국거래소 관계자는 "고빈도 거래 자체가 불법은 아니지만 알고리즘 매매를 하는 과정에서 시세에 영향을 주려는 의도가 있거나 자전거래, 통정매매 등이 의심된다면 불공정 거래로 볼 수 있다"며 "거래소가 매매 속도 개선에 노력하는 만큼 불공정 거래 방지를 위한 시장감시시스템도 강화하고 있다"고 설명했다.

김사무엘 기자 samuel@mt.co.kr