브누아 만델브로, 해안선이 무한하다고 증명한 수학 이단아

삼촌이 가르쳐준 수학을 삼촌이 가장 먼저 부정했다

그에게 수학이라는 세계를 처음 보여준 사람이, 훗날 그의 수학을 가장 격렬하게 부정했다.

브누아 만델브로는 나치를 피해 프랑스 시골을 전전하며 자랐다.
정규 학교 교육은 거의 받지 못했고, 그를 수학의 세계로 이끈 건 삼촌 솔렘 만델브로트였다.
삼촌은 당시 프랑스 수학계에서 이름 높은 해석학자였다.

그런데 만델브로가 자신만의 방식을 찾아가기 시작하자 문제가 생겼다.
그는 수식 대신 그림을 그렸고, 직관으로 생각했다.
삼촌은 "그건 수학이 아니다"라며 고개를 저었다.

당시 프랑스 수학계는 부르바키라는 운동이 지배하고 있었다.
부르바키는 수학을 철저히 추상적이고 엄밀하게 만들자는 흐름이었는데, 오늘날로 치면 모든 코드를 설계도 없이 수식만으로 짜야 한다는 규칙 같은 것이었다.
그 세계에서 그림을 그려서 수학을 한다는 건 유치한 짓으로 여겨졌다.

요리를 가르쳐준 부모님이 정작 당신이 만든 새 레시피를 "이건 요리가 아니야"라고 말하는 상황.
만델브로는 그 상황에서 레시피를 접지 않았다.

영국 해안선의 길이를 재려 할수록 답이 무한대로 발산했다

영국 해안선의 길이는 얼마일까.
정답은 "잴 수 없다"이고, 그 이유가 수학의 판을 뒤집었다.

1967년, 만델브로는 〈영국 해안선의 길이는 얼마인가?〉라는 논문을 발표했다.
핵심은 단순했다.
자를 짧게 바꿀수록 해안선의 길이가 끝없이 늘어났다.

구글 지도를 떠올려보자.
서울 둘레를 넓은 시야로 재면 대략 어떤 숫자가 나온다.
하지만 축척을 당겨 확대하면 골목이 드러나고 굽이가 생기면서 길이가 늘어나고, 계속 확대할수록 계속 늘어난다.

해안선은 이 현상의 극단적인 버전이었다.
초등학교에서 배우는 둘레 구하기는 해안선 앞에서 완전히 무너졌다.
그 수업은 네모와 원을 재는 방법이었지, 자연의 실제 모양을 재는 방법이 아니었다.

만델브로는 이것을 수학적으로 증명하며, 2000년 넘게 믿어온 유클리드 기하학이 자연 앞에서 얼마나 한계가 있는지를 선언했다.
그리고 이 울퉁불퉁함에 이름을 붙였다.
프랙털. 확대해도 확대해도 같은 패턴이 반복되는 구조다.

대학이 아닌 IBM 연구소의 컴퓨터가 '추한 수학'을 아름답게 만들었다

수학사에서 가장 유명한 이미지는 대학 연구실이 아니라, IBM 사무실 컴퓨터 모니터에서 태어났다.

만델브로는 35년을 IBM 토머스 J. 왓슨 연구소에서 보냈다.
어떤 대학 학과에도 속하지 못한 채로.
동료 수학자들이 "그건 수학이 아니다"라고 밀어내는 동안, 그는 기업 연구소에서 컴퓨터를 붙잡고 있었다.

1980년, 그는 아주 단순한 수식을 컴퓨터에 반복시켰다.
z에 z²을 더하고, 거기에 또 z²을 더하고, 끝없이 반복했다.
그런데 그 결과를 화면에 점으로 찍었더니, 무한히 복잡하면서도 자기 자신을 닮은 도형이 나타났다.

이것이 만델브로 집합이다.
이 이미지는 과학 잡지 표지를 장식했고, 포스터로 팔렸고, 전 세계 사람들이 복사하고 공유했다.
수학자들이 "수학이 아니다"라고 밀어낸 그 연구가, 수학 역사상 가장 많이 복제된 이미지가 된 것이다.

회사에서 본업과 관계없다며 무시당하던 사이드 프로젝트가 결국 팀 전체를 먹여 살리는 히트작이 된 경험을 해본 사람이라면, 이 아이러니가 얼마나 달콤한지 알 것이다.

주가 폭락과 폐의 기관지는 같은 수식으로 설명된다

브로콜리 한 송이, 주가 차트, 당신의 허파.
이 셋은 같은 수학으로 만들어져 있다.

만델브로는 1960년대에 목화 가격 데이터를 들여다보다가 이상한 걸 발견했다.
경제학자들이 "이상치"라며 버린 급등락 데이터가 있었는데, 그 패턴이 해안선의 울퉁불퉁함과 똑같은 구조였다.
결국 그는 시장의 폭락이 우연한 사고가 아니라, 자연의 프랙털 패턴이 경제에도 나타나는 것임을 주장했다.

그런데 여기서 더 나아갔다.
폐의 기관지는 큰 관에서 작은 관으로 나뉘고, 또 나뉘고, 계속 나뉜다.
혈관도, 은하의 분포도, 브로콜리를 잘라보면 나오는 작은 조각도 모두 전체와 똑같이 생겼다.

이 모든 것이 같은 원리인 자기유사성으로 연결되어 있었다.
그가 60년간 "잡음"으로 버려진 데이터에서 이걸 읽어낼 수 있었던 이유가 있다.
어떤 학과에도 소속되지 못했기 때문에, 오히려 모든 분야를 가로질러 볼 수 있었다.

경제학자는 경제 데이터만 봤고, 생물학자는 생물만 봤다.
만델브로는 둘 다 봤다.
그리고 2008년 금융위기 이후, 세상은 그가 옳았다는 걸 뒤늦게 알아챘다.

75세가 되던 해, 예일대 스털링 석좌교수직이 그에게 왔다.
평생 제도권 밖을 떠돌던 사람에게 제도권이 건넨 뒤늦은 초대였다.

그가 그 자리를 받아들였을 때, 어떤 표정을 지었을지 궁금하다.