[중소기업뉴스=이준상 기자] 세계적인 증권사 메릴린치의 초단타 매매에 대한 한국거래소의 제재 여부가 조만간 결정된다.

거래소는 오는 19일 시장감시위원회를 열어 미국 시타델증권의 초단타 매매 창구 역할을 한 메릴린치에 대해 제재금 부과 또는 주의·경고 등 회원사 제재 조치를 결정할 예정이라고 18일 밝혔다.

만약 메릴린치에 대한 제재가 확정되면 국내에서는 초단타 매매로 대형 금융기관이 제재를 받는 첫 사례가 된다.

앞서 지난 2014년 미국 트레이딩업체 '타워리서치'가 코스피200 야간선물시장에서 초단타 매매로 시세조종을 해 부당이득을 취한 혐의로 증권선물위원회에 의해 검찰에 고발된 적이 있다.

거래소 관계자는 "타워리서치의 경우 검찰에서 미국 현지 혐의자를 특정하지 못해 기소유예 상태로 미국 상품선물거래위원회(CFTC)에 통보해 현지에서 조사가 진행 중인 것으로 안다"고 말했다.

이번에 문제가 된 시타델증권은 지난해 메릴린치를 통해 코스닥에서 수백 개 종목을 초단타 매매해 상당한 차익을 얻은 것으로 알려졌다.

고빈도 매매(High Frequency Trading·HFT)로도 불리는 초단타 매매는 컴퓨터가 짧은 시간에 수많은 주문을 내는 알고리즘 매매의 일종이다. 고속 전용선과 고성능 컴퓨터로 주문 시간을 1000분의 1초 미만으로 단축해 1초에 수백~수천 번의 주문을 초고속으로 낼 수 있는 점이 특징이다.

시타델증권이 초단타 매매로 어떻게 차익을 얻었는지 자세한 기법이나 매매에 적용한 구체적인 알고리즘은 공개되지 않았다.

다만 대략적으로는 현재 가격보다 미세하게 높은 호가로 대량 매수주문을 낸 뒤 다른 투자자의 추격매수로 가격이 오르면 주문을 순식간에 취소하고 이미 보유한 주식을 매도하거나, 또는 반대로 낮은 호가로 매도주문을 내 가격이 내리면 주식을 사들이는 방식을 쓴 것으로 알려졌다.

한 개인투자자는 지난해 4월 청와대 국민청원 게시판에 올린 청원에서 "메릴린치가 현재 매도 호가창에 매도 물량을 무더기로 쌓아둬 개인투자자를 위협한 뒤 그 아래 호가에서 다시 매수를 반복하고 이후 약간의 주가 상승시 무더기 매도를 반복하는 식으로 호가창 교란 행위를 저지르고 있다"고 주장했다.

거래소는 이 같은 행위가 명백한 위법인지는 아직 확실하지 않지만, 일단 거래소 자체 시장감시 규정에는 위반된 것으로 볼 수 있다는 판단에서 심의를 벌여왔다.

거래소 시장감시규정 제4조(공정거래질서 저해행위의 금지)는 '거래성립 가능성이 희박한 호가를 대량 제출하거나, 직전가격 또는 최우선 가격 등으로 호가를 제출한 뒤 반복적으로 정정·취소해 시세 등에 부당한 영향을 미치거나 미칠 우려가 있는 행위'를 금지하고 있다.

또 '과도하게 거래해 시세 등에 부당한 영향을 주거나 오해를 유발하게 할 우려가 있는 호가를 제출하거나 거래를 하는 행위', '동일 가격 호가를 일정 시간에 분할 제출해 수량 배분 또는 시세 등에 부당한 영향을 미치거나 미칠 우려가 있는 행위' 등도 금지 대상이다.

위탁사인 시타델증권이 이런 '불건전 주문·매매' 행위를 할 경우 주문 창구가 된 메릴린치는 거래소 회원사로서 이를 막아야 할 의무가 있는데도 막지 않았다는 논리다.

거래소는 특히 시타델증권이 적용한 알고리즘이 단순 차익거래 목적의 일반적인 초단타 매매가 아니라 허수성 주문을 통해 시세에 영향을 미치려는 의도가 있었다고 의심하고 있다.

거래소의 한 관계자는 "단순히 초단타 매매로 거래량이 많다고 문제가 되는 것은 아니다"라며 "지난 2010년 '플래시 크래시' 사태처럼 알고리즘 자체가 시세에 영향을 미치기 위해 설계됐다면 제재 대상"이라고 말했다.

실제로 2010년 5월 다우존스 30 산업평균지수가 약 15분 만에 9% 이상 폭락한 플래시 크래시(flash crash·일시 급락) 사태 이후 미국 법무부는 플래시 크래시를 일으킨 영국의 선물거래인 나빈더 사라오를 기소, 유죄 인정을 받아냈다.

그는 대량의 허수 주문을 내 가격에 영향을 미친 뒤 즉시 취소하는 스푸핑(spoofing) 방식의 알고리즘 매매를 통해 약 4천만 달러(약 474억원)의 부당이득을 챙긴 것으로 나타났다.

다만 거래소는 이번 초단타 매매가 시세조종 등 자본시장법 위반에 해당하는지 판단은 금융위원회 등 관련 당국에 맡기기로 하고 심리 결과를 금융위에 통보할 방침이다.

금융감독원도 시타델증권에 대해 매매패턴 분석 등을 통해 자본시장법 위반 소지가 있는지 살펴보고 있다.