만델브로는 도형으로 대수 시험을 풀었다

1944년 파리, 한 청년이 프랑스 최고 공과대학 입학시험에서 대수 문제를 그림으로 풀어 1등을 했어요.

그림으로 수학 시험을 푼다는 게 어떤 건지 감이 안 오나요? 영단어를 한 번도 외운 적 없는 아이가 시험장에서 그림을 그려 정답을 맞히는 것과 같아요.
그 청년이 바로 브누아 만델브로예요.

그렇게 풀 수밖에 없던 이유가 있었어요. 만델브로는 14살에 폴란드에서 프랑스로 도망친 유대인 난민이었어요.
전쟁 내내 시골에 숨어 빌린 책으로만 공부했기 때문에, 정규 수학 교육의 기호 체계를 제대로 배울 기회가 없었어요.

기호를 모르니 모든 문제를 머릿속에서 도형으로 바꿔 풀었어요.
그런데 그게 오히려 빨랐어요.
결국 폴리테크니크 입학시험에서 1등으로 합격했어요. 폴리테크니크는 나폴레옹이 세운 프랑스 최고 공과대학으로, 프랑스 수학·과학계의 정상을 배출하는 곳이에요.

만델브로는 삼촌의 정통 수학을 거절했다

만델브로의 삼촌은 그를 20세기 프랑스 수학의 정상으로 직행시킬 수 있었어요.
만델브로는 거절했어요.

삼촌 숄렘 만델브로는 콜레주 드 프랑스의 수학 교수였어요. 콜레주 드 프랑스는 프랑스 최고 권위의 국립 연구기관으로, 거기서 수학 교수라는 건 오늘날로 치면 필즈메달리스트 수준의 무게를 가진 자리예요.
게다가 숄렘은 부르바키의 창립 멤버이기도 했어요.

부르바키는 20세기 프랑스 수학을 지배한 비공개 그룹이에요. 그림과 직관을 버리고 순수 추상 기호로만 수학을 해야 한다는 원칙을 내세웠어요.
오늘날로 치면, 코드 한 줄 안 짜고 이론 알고리즘만 다루는 최고 엘리트 집단이라고 보면 돼요.

삼촌은 조카를 그 세계로 데려가려 했어요.
만델브로는 거절했어요. "내 머리는 그림으로만 작동해"가 이유였어요.
가업으로 잘 나가는 회사가 있는데 거기 들어가지 않고, 차고에서 혼자 다른 일을 시작하는 것과 같았어요.

만델브로는 학계가 아닌 IBM에서 35년 일했다

그가 IBM에 들어간 1958년, 컴퓨터로 수학을 한다는 건 수학이 아니었어요.

당시 학계 수학자들에게 진짜 수학은 종이 위의 증명이었어요.
컴퓨터로 그림을 그리는 건 장난이거나 공학이지, 수학이 아니었어요.
만델브로는 그 반응에 아랑곳하지 않고 IBM 왓슨 연구소로 들어갔어요. 뉴욕 외곽에 있는 기업 부설 연구소였어요.

그는 IBM의 거대 컴퓨터로 이상한 것들을 그리기 시작했어요.
면화 가격의 변동 패턴, 전화선의 잡음, 영국 해안선의 길이 같은 것들이었어요.
서로 전혀 다른 분야처럼 보이지만, 만델브로는 여기서 모두 같은 구조가 반복된다는 걸 발견했어요.

1975년, 그는 이 구조에 이름을 붙였어요. 프랙탈이에요.
아무리 확대해도 처음과 똑같은 패턴이 반복되는 도형을 말해요.
해안선을 1킬로미터 단위로 재든 1미터 단위로 재든, 울퉁불퉁한 복잡함이 끝없이 나타나는 것처럼요.

1980년에는 만델브로 집합의 이미지를 컴퓨터로 처음 출력했어요.
자기 자신을 무한히 닮은, 놀랍도록 복잡한 도형이었어요.
학계가 35년 동안 무시한 컴퓨터 그림이 결국 수학의 새로운 분야가 됐어요.

만델브로는 75세에 예일대 정교수가 됐다

1999년, 만델브로는 75세에 처음으로 정교수가 됐어요.

예일대 종신 정교수직이었어요.
예일 역사상 종신직을 받은 최고령 교수였어요.
그 시점에 그는 이미 울프상을 받은 사람이었어요. 울프상은 노벨상이 없는 수학·물리학 분야에서 노벨상에 가장 가깝다고 꼽히는 상으로, 1993년에 받았어요.

그의 이름이 붙은 도형은 전 세계 교과서에 실려 있었고, 그가 만든 단어 '프랙탈'은 수학을 넘어 일상 언어가 돼 있었어요.
학계가 35년 동안 외면한 사람을 마지막에 받아들인 셈이었죠.
하지만 시각을 바꿔 보면, 학교가 그를 인정한 게 아니에요. 학교가 그를 따라잡은 거예요.

만델브로의 수학은 IBM 시절에 이미 완성돼 있었어요.
예일의 정교수직은 그냥 세상이 늦게 도착한 영수증 같은 거였어요.

그래서 남는 질문이 하나 있어요.
만약 삼촌의 말을 들었다면, 만약 부르바키의 추상 기호 세계로 들어갔다면 어떻게 됐을까요?
아마 훌륭한 수학자가 됐을 거예요. 하지만 프랙탈은 없었겠죠.