고빈도거래(HFT), 시장을 구원할까 파괴할까? 마이크로초 단위 거래의 명암

현재 글로벌 주식시장에서 전체 거래량의 약 50-60%를 차지하는 고빈도거래(HFT). 마이크로초 단위로 이뤄지는 이 거래는 과연 시장을 더 효율적으로 만들까, 아니면 일반 투자자들에게 불리한 환경을 조성할까? 이 문제를 제대로 이해하려면 시장미시구조론의 렌즈를 통해 살펴봐야 합니다.

시장미시구조와 HFT의 작동 메커니즘

시장미시구조론은 거래가 실제로 어떻게 이뤄지는지, 호가 스프레드는 왜 존재하는지, 유동성은 어떻게 공급되는지를 연구하는 분야입니다. 이 관점에서 HFT는 단순한 '빠른 거래'가 아닌, 시장조성자(Market Maker) 역할을 수행하는 정교한 시스템으로 이해됩니다.

HFT 업체들은 매수호가와 매도호가 사이의 스프레드에서 수익을 창출합니다. 예를 들어, 삼성전자 주식이 매수호가 70,000원, 매도호가 70,100원에 형성되어 있다면, HFT 알고리즘은 70,050원에 매수주문과 매도주문을 동시에 내어 양쪽에서 거래를 성사시키며 스프레드를 좁힙니다. 이 과정에서 호가 스프레드가 줄어들고 거래 비용이 낮아지는 효과가 나타납니다.

하지만 이는 단순한 차익거래가 아닙니다. HFT는 주문서 불균형, 뉴스 이벤트, 다른 시장의 가격 변화 등을 실시간으로 분석해 정보 비대칭을 활용한 거래를 수행합니다. 이때 일반 투자자들보다 수 밀리초 빠른 정보 처리 능력이 결정적 우위를 제공합니다.

시장 효율성 향상 vs 구조적 불평등

HFT의 긍정적 영향부터 살펴보면, 실증 연구들은 유동성 공급과 가격 발견 효율성 측면에서 상당한 개선을 보여줍니다. SEC 연구에 따르면, HFT 도입 후 S&P 500 종목들의 평균 호가 스프레드가 약 30% 감소했으며, 거래량 증가로 인한 시장 깊이(Market Depth) 개선도 확인되었습니다.

특히 뉴스나 경제지표 발표 시 HFT는 새로운 정보를 가격에 신속하게 반영시켜 시장 효율성을 높입니다. 전통적인 펀더멘털 분석이나 기술적 분석으로는 포착하기 어려운 미세한 가격 불균형을 즉시 차익거래로 해소하는 것입니다.

그러나 문제는 이런 이익이 누구에게 귀속되느냐입니다. HFT의 순간적 유동성 제거 현상이 대표적인 부작용입니다. 시장이 불안해지면 HFT 알고리즘들은 동시에 거래를 중단하거나 한쪽 방향으로 쏠리며, 이때 일반 투자자들은 급격한 가격 변동에 노출됩니다. 2010년 플래시 크래시(Flash Crash)가 대표적 사례로, 불과 몇 분 만에 다우지수가 1,000포인트 급락했다가 회복되는 극단적 변동성을 보였습니다.

정보 우위와 인프라 경쟁

더 근본적인 문제는 기술적 인프라 경쟁입니다. HFT 업체들은 거래소와 물리적으로 가까운 곳에 서버를 설치하는 '코로케이션(Colocation)' 서비스를 이용하고, 광케이블을 통해 밀리초 단위의 속도 우위를 확보합니다. 이는 사실상 정보 접근에서의 구조적 불평등을 만들어내며, 일반 투자자들에게는 보이지 않는 비용으로 작용합니다.

또한 HFT는 대형 기관투자자들의 주문을 사전에 감지하고 앞서 거래하는 '프런트 러닝(Front Running)' 유사 행위의 가능성도 제기됩니다. 물론 직접적인 내부정보 이용은 아니지만, 알고리즘이 대형 주문의 패턴을 학습해 선점 거래를 수행할 수 있다는 우려입니다.

규제와 시장 구조의 미래

이러한 딜레마에 대응해 각국 규제당국은 다양한 정책을 시험하고 있습니다. 유럽은 MiFID II를 통해 HFT 업체에 대한 시장조성 의무를 부과했으며, 프랑스와 이탈리아는 금융거래세를 도입해 초단타 거래를 억제하려 시도했습니다.

미국은 'Speed Bump' 제도를 통해 모든 주문을 수십 마이크로초 지연시켜 순수한 속도 경쟁을 무력화하는 실험을 진행 중입니다. 한국도 2021년부터 호가 취소 수수료를 도입해 무의미한 주문 남발을 제한하고 있습니다.

하지만 근본적 해법은 기술적 규제보다는 시장 투명성 제고에 있다는 시각이 우세합니다. HFT 거래 내역의 실시간 공개, 알고리즘 전략의 등록 의무화, 시장조성 의무와 혜택의 연계 등을 통해 HFT의 긍정적 기능은 살리되 부작용은 최소화하는 방향입니다.

결론: 균형점을 찾는 시장 진화

시장미시구조론의 관점에서 볼 때, HFT는 시장 효율성을 높이는 동시에 새로운 형태의 불균형을 만들어내는 이중적 존재입니다. 완전히 금지하기에는 그 경제적 기능이 너무 크고, 방치하기에는 구조적 불평등이 우려되는 상황입니다.

핵심은 HFT가 진정한 유동성 공급자로서 기능하도록 하되, 순간적 유동성 제거나 정보 우위 남용을 방지하는 스마트한 규제 프레임워크를 구축하는 것입니다. 이는 기술 발전과 규제가 함께 진화해야 하는 지속적인 과제이기도 합니다.

다음 편에서는 '실물옵션 이론 - 스타트업 투자는 왜 옵션과 비슷할까?'를 통해 불확실성하에서의 투자 의사결정 이론을 살펴보겠습니다. 금융옵션 이론이 어떻게 실물 투자에 적용되는지, 특히 스타트업 생태계에서 이 이론이 갖는 함의를 분석해보겠습니다.