[뉴스스페이스=이종화 기자]

 

<편집자주> 유튜브, 인스타 등에서 활동하는 인플루언서들이 '협찬을 받지 않았다', '광고가 아니다'라는 사실을 보이기 위해 "내 돈 주고 내가 샀다"라는 뜻의 '내돈내산'이라는 말이 생겼다. 비슷한 말로 "내가 궁금해서 결국 내가 정리했다"는 의미의 '내궁내정'이라고 이 기획코너를 명명한다. 우리 일상속에서 자주 접하는 소소한 얘기거리, 궁금증, 호기심, 용어 등에 대해 정리해보는 코너를 기획했다.

 

 

"나는 천체의 움직임은 계산할 수 있지만, 사람들의 광기는 계산할 수 없다." (I can calculate the motion of heavenly bodies, but not the madness of people.)

 

1720년, 역사상 가장 위대한 과학자 중 한 명인 아이작 뉴턴(Isaac Newton)이 '남해회사(South Sea Company) 버블' 사태로 전 재산의 3분의 1에 달하는 거액(현재 가치 약 4000만 파운드, 한화 수백억원 이상 추정)을 잃고 난 후 남긴 것으로 알려진 탄식이다.

 

뉴턴은 우주를 지배하는 중력의 법칙을 수학적으로 완벽하게 증명해 냈지만, 탐욕과 공포가 뒤엉킨 인간의 마음, 즉 '금융 시장의 무작위성' 앞에서는 철저히 무너지고 말았다.

 

그러나 뉴턴의 실패 이후 약 300년이 흐른 지금, 현대의 과학자들은 뉴턴이 불가능하다고 여겼던 바로 그 작업, 즉 '시장의 광기'를 수학과 물리학의 언어로 길들이는 데 성공했다. 고대 그리스의 철학자 탈레스부터 블랙-숄즈 방정식을 거쳐 짐 사이먼스의 르네상스 테크놀로지에 이르기까지, 과학은 어떻게 월스트리트를 점령했을까?

 

뉴스스페이스는 국내외 학술 논문, 시장 통계, 그리고 최신 AI 트렌드를 바탕으로 과학과 금융이 융합해 온 역사적 궤적과 그 이면에 숨겨진 철학적, 문화적 의미를 심층 분석한다.

 

1. 예측 불가능성과의 싸움…탈레스에서 바슐리에까지

 

금융 시장에서 미래의 불확실성을 통제하려는 시도는 고대부터 존재했다. 기록상 최초의 '옵션(Option)' 거래자는 만물의 근원을 물이라 주장했던 고대 그리스의 철학자 탈레스(Thales of Miletus)다. 기원전 600년경, 그는 별들의 움직임을 관찰하여 이듬해 올리브가 대풍작을 이룰 것을 예측했다.

 

탈레스는 이 예측을 바탕으로 겨울철에 미리 적은 돈을 지불하고 올리브 압착기를 독점적으로 빌릴 '권리(콜옵션)'를 사두었고, 실제로 풍년이 들자 막대한 부를 거머쥐었다. 이는 시장의 불확실성 속에서 '권리'를 매매하여 리스크를 제한하고 이익을 극대화하는 파생상품의 본질을 보여주는 역사적 사건이다.

 

그러나 시장의 가격 변동을 본격적으로 수학적 무대에 올린 인물은 1900년, 프랑스의 수학자 루이 바슐리에(Louis Bachelier)였다. 그의 박사 학위 논문 «투기 이론(Theory of Speculation)»은 주식 시장의 가격 움직임이 마치 액체 속 입자가 무작위로 움직이는 '브라운 운동(Brownian Motion)'과 같다고 가정했다.

 

바슐리에는 주가가 상승할 확률과 하락할 확률이 동일한 '랜덤 워크(Random Walk)'를 따른다고 보았으며, 이를 열전도 방정식(Heat Equation)과 같은 물리학적 확산(Diffusion) 모델을 통해 설명하려 했다. 알베르트 아인슈타인이 브라운 운동을 물리적으로 규명하기 무려 5년 전의 일이었다.

 

당시 바슐리에의 논문은 너무 시대를 앞서간 탓에 학계의 큰 주목을 받지 못했다. 그러나 1950년대 폴 사무엘슨(Paul Samuelson) 등에 의해 재발견되면서, 바슐리에의 '랜덤 워크' 개념은 현대 금융 수학의 초석이 되었다. 시장의 움직임은 근본적으로 무작위적이라는 이 통찰은 훗날 '효율적 시장 가설(Efficient Market Hypothesis)'로 발전하며, 시장을 예측하려는 모든 시도가 부질없다는 비관론과 동시에 그 무작위성 속에서 리스크의 '가격'을 정확히 매기려는 새로운 도전을 낳았다.

2. 물리학, 월스트리트의 언어가 되다…블랙-숄즈 방정식의 탄생

 

1960년대, 에드 소프(Ed Thorp)라는 물리학자가 등장하며 상황은 급변한다. 그는 확률론을 이용해 블랙잭 게임에서 카드를 카운팅하여 카지노를 이기는 방법을 수학적으로 증명한 «딜러를 이겨라(Beat the Dealer)»를 출간했다. 이후 소프는 이 원리를 금융 시장에 적용, 주식과 옵션을 적절한 비율로 조합해 주가 등락에 관계없이 안정적인 수익을 내는 '동적 헤지(Dynamic Hedging)' 기법을 선구적으로 고안해 냈다.

 

소프의 실전적 성공은 1973년, 피셔 블랙(Fischer Black), 마이런 숄즈(Myron Scholes), 그리고 로버트 머튼(Robert Merton)에 의해 완벽한 수학적 모델로 집대성된다. 이들이 발표한 '블랙-숄즈-머튼 방정식(Black-Scholes-Merton Equation)'은 주가, 변동성, 이자율, 만기 등의 변수를 입력하면 옵션의 적정 가격을 산출해 내는 편미분 방정식이다.

 

이 방정식의 구조는 열이 물체 속으로 퍼져나가는 과정을 설명하는 물리학의 '열전도 방정식'과 수학적으로 동일하다. 즉, 입자의 무작위적 확산(Diffusion)을 다루는 물리학의 법칙이, 불확실성이라는 리스크가 금융 시장으로 퍼져나가는 과정을 정확히 계산해 낸 것이다.

 

블랙-숄즈 모델의 등장은 단순한 학술적 성취를 넘어 자본주의의 패러다임을 바꾼 '혁명'이었다. 눈에 보이지 않는 '위험(Risk)'을 수학적으로 계량화하고 가격을 매겨 사고팔 수 있게 됨으로써, 파생상품 시장은 폭발적으로 성장했다. 국제결제은행(BIS)에 따르면, 2025년 6월 기준 전 세계 장외파생상품(OTC)의 명목 잔액은 무려 846조 달러(현재 기준 한화 약 125경원)에 달한다. 1997년, 마이런 숄즈와 로버트 머튼은 이 공로로 노벨 경제학상을 수상했다. (피셔 블랙은 1995년 작고하여 수상하지 못했다.)

 

3. 효율적 시장을 넘어서…짐 사이먼스와 퀀트(Quant)의 지배

 

블랙-숄즈 모델이 '시장은 무작위적이고 효율적'이라는 전제하에 위험을 헤지(Hedge)하는 데 집중했다면, 수학자이자 암호 해독가였던 짐 사이먼스(Jim Simons)는 정반대의 접근을 택했다. 그는 시장이 완벽하게 효율적이지 않으며, 방대한 데이터 속에 인간의 눈에는 보이지 않는 미세한 '패턴'이 숨어 있다고 믿었다.

 

사이먼스는 1988년 헤지펀드 '르네상스 테크놀로지(Renaissance Technologies)'를 설립하고, 경제학자나 금융 전문가 대신 물리학자, 수학자, 컴퓨터 과학자들을 대거 채용했다. 이들은 '은닉 마르코프 모델(Hidden Markov Model, HMM)'과 같은 고도화된 머신러닝 기법을 활용해 시장의 숨겨진 규칙성을 찾아내는 알고리즘을 구축했다.

 

그 결과는 금융 역사상 전무후무한 기적이었다. 르네상스의 시그니처인 '메달리온 펀드(Medallion Fund)'는 1988년부터 2018년까지 30년간 수수료 차감 전 연평균 66%, 차감 후 39%라는 경이로운 수익률을 기록했다. 1988년에 100달러를 투자했다면 2018년에는 약 210만 달러(약 29억원)로 불어났을 수치다.

 

워런 버핏이나 피터 린치조차 범접할 수 없는 이 성과는, 고도의 수학적 모델링과 데이터 분석 능력을 갖춘 이른바 '퀀트(Quant)'들이 전통적인 가치 투자자들을 밀어내고 월스트리트의 새로운 지배자로 등극했음을 알리는 신호탄이었다.

4. 과학과 금융의 융합이 남긴 그림자…결정론과 무작위성의 끝없는 변증법

 

금융 시장을 향한 과학의 도전은 본질적으로 철학적 논쟁을 내포하고 있다. 시장은 바슐리에나 파마(Eugene Fama)의 주장처럼 완벽한 무작위(Randomness)의 세계인가, 아니면 짐 사이먼스가 증명했듯 고도의 알고리즘으로 해석 가능한 숨겨진 질서(Determinism)의 세계인가?

 

흥미롭게도, 최근 인공지능 분야에서 혁명을 일으키고 있는 이미지 생성 AI의 핵심 기술인 '디퓨전 모델(Diffusion Model)'은 블랙-숄즈 방정식의 근간이 된 브라운 운동과 열전도 방정식(확산)의 수학적 원리를 그대로 차용하고 있다. 데이터를 완전한 노이즈(무작위성)로 붕괴시킨 뒤, 이를 역산하여 정교한 이미지(질서)를 복원해 내는 AI의 작동 방식은, 혼돈의 시장 속에서 패턴을 찾아내어 수익을 창출하는 퀀트 펀드의 철학과 놀랍도록 맞닿아 있다.

 

5. '로켓 사이언티스트'의 오만과 꼬리 위험(Fat Tail)

 

그러나 수학적 모델에 대한 맹신은 종종 파국을 부른다. 블랙-숄즈 모델은 주가 수익률이 정규분포(종 모양)를 따른다고 가정하지만, 실제 금융 시장은 극단적인 이례적 사건이 예상보다 훨씬 자주 발생하는 '두터운 꼬리(Fat Tail)' 현상을 띤다.

 

1998년, 마이런 숄즈와 로버트 머튼 등 노벨상 수상자들이 직접 참여했던 천재들의 펀드 '롱텀캐피털매니지먼트(LTCM)'는 러시아 모라토리엄이라는 극단적 변수를 모델이 예측하지 못하면서 순식간에 파산 위기에 처했고, 글로벌 금융 시스템 전체를 뒤흔들었다.

 

2008년 글로벌 금융위기 역시 복잡한 파생상품을 통제할 수 있다고 믿었던 월스트리트 '로켓 사이언티스트(Rocket Scientists)'들의 오만이 빚어낸 참사였다. 완벽해 보이는 수학 공식도 결국 '인간의 광기'와 시장의 구조적 비이성성을 완전히 통제할 수는 없음을 보여주는 뼈아픈 사례다.

 

6. 게임스톱 사태와 문화적 저항

 

금융 공학의 고도화는 자본의 집중과 불평등을 심화시켰다는 비판에서도 자유롭지 못하다. 2021년 1월 발생한 '게임스톱(GameStop) 숏 스퀴즈 사태'는 거대 자본과 알고리즘으로 무장한 헤지펀드에 대한 개인 투자자들의 반란이었다.

 

레딧(Reddit)의 r/wallstreetbets 게시판에 모인 개인 투자자들은 옵션의 레버리지를 역이용하여 게임스톱 주가를 단기간에 1,500% 이상 폭등시켰고, 공매도를 쳤던 헤지펀드(멜빈 캐피털 등)에 막대한 손실을 안겼다. 이 사건은 파생상품이라는 수학적 도구가 더 이상 소수 엘리트만의 전유물이 아니며, 소셜 미디어로 연대하는 군중의 힘이 정교한 퀀트 모델을 붕괴시킬 수 있음을 보여준 문화적 충격이었다.

 

7. 뉴턴의 탄식은 여전히 유효한가

 

물리학과 수학은 지난 한 세기 동안 월스트리트를 근본적으로 개조했다. 위험을 가격으로 환산하는 블랙-숄즈 방정식은 파생상품 시장을 폭발시켰고, 짐 사이먼스의 머신러닝 알고리즘은 무작위성 속에 숨겨진 부의 지도를 그려냈다. 오늘날 퀀트 금융은 AI 디퓨전 모델과 같은 최첨단 과학 기술과 교감하며 진화를 거듭하고 있다.

 

그러나 LTCM(롱텀캐피털매니지먼트)의 몰락과 2008년 금융위기, 그리고 게임스톱 사태가 증명하듯, 금융 시장의 기저에는 여전히 수식으로 환원되지 않는 '인간의 본성'이 자리 잡고 있다. 모델이 아무리 정교해지더라도, 시장은 끊임없이 진화하며 새로운 형태의 무작위성과 광기를 만들어낸다.

 

우주의 법칙으로 돈의 흐름을 풀려는 과학자들의 도전은 경이로운 성취를 이루었지만, 시장을 완벽히 지배하겠다는 꿈은 어쩌면 영원히 닿을 수 없는 신기루일지 모른다. "사람들의 광기는 계산할 수 없다"던 뉴턴의 탄식은, 알고리즘과 AI가 지배하는 21세기의 월스트리트에서도 여전히 가장 무거운 경고로 남아 있다.