콜모고로프, 우연을 80쪽에 가둔 소련 수학자의 네 장면

확률론의 창시자는 원래 역사학자가 되려 했다

20세기 확률론을 새로 쓴 사람은 처음에 농민 호구조사를 분석하던 역사학도였다.

1920년, 17살의 안드레이 콜모고로프는 모스크바국립대에 들어와 역사학과 수학을 동시에 수강하고 있었다.
그해 그가 제출한 첫 논문의 주제는 수식이 아니었다.
중세 러시아 도시국가 노브고로드의 토지대장, 그러니까 누가 어느 밭을 얼마나 가졌는지 기록한 문서를 통계적으로 분석한 작업이었다.

그런데 역사학 지도교수 바흐루신이 어느 날 한 마디를 던졌다.
"수학에서는 증명 하나면 충분하지만, 역사에서는 다섯 개가 필요해."

그 말을 들은 콜모고로프는 결국 수학과로 완전히 옮겼다.
나중에 돌아보면 아이러니한 선택이다.
훗날 '우연'을 인류 역사상 가장 엄밀하게 정의할 사람이, 처음에는 텍스트를 해석하고 맥락을 읽는 학문에 마음을 뺏겼던 것이다.

힐베르트가 33년 묶어둔 문제를 콜모고로프는 80쪽으로 풀었다

1933년까지 인류는 확률을 계산할 줄은 알아도, 확률이 무엇인지는 누구도 엄밀히 말하지 못했다.

동전을 던져서 앞면이 나올 확률이 절반이라는 건 누구나 안다.
하지만 그 "절반"이 수학적으로 정확히 무엇인지, 어떤 규칙 위에 서 있는지는 아무도 정의하지 못한 상태였다.
마치 덧셈을 매일 쓰면서 숫자 자체가 무엇인지는 한 번도 묻지 않는 것처럼.

1900년, 수학자 다비드 힐베르트는 파리에서 23개의 미해결 문제를 발표했다.
힐베르트는 당시 세계 수학계를 이끌던 인물로, 그가 "이걸 풀어야 수학이 앞으로 나아간다"고 선언하면 전 세계가 집중했다.
그 여섯 번째 문제가 바로 "확률론과 물리학을 공리로 만들어라"였다.

공리화란, 모든 것이 따라야 하는 최소한의 규칙 몇 개를 먼저 세우고 나머지를 그 위에서 논리적으로 쌓아 올리는 방식이다.
유클리드 기하학에서 "두 점을 연결하는 직선은 하나뿐이다" 같은 공리가 모든 것의 출발점이 되는 것처럼.

그리고 33년간 아무도 풀지 못했다.

1933년, 콜모고로프가 독일어로 쓴 얇은 책 한 권이 나왔다.
"확률론의 기초 개념(Grundbegriffe der Wahrscheinlichkeitsrechnung)", 단 80쪽이었다.
그 안에는 세 개의 공리만 있었다.

콜모고로프가 한 일은 확률을 측도론 위에 올려놓은 것이다.
측도론이란 넓이나 길이 같은 개념을 추상적으로 다루는 수학 분야인데, 어떤 사건이 일어날 "가능성의 크기"를 면적처럼 엄밀하게 재는 방법이라고 생각하면 된다.
이 세 공리만 있으면 나머지 확률론의 모든 정리가 논리적으로 따라왔다.

80쪽짜리 책 한 권이 33년짜리 문제를 닫아버린 것이다.

콜모고로프는 전쟁 한복판에서 폭풍의 수학을 발견했다

독일 전차가 모스크바 외곽까지 밀려오던 1941년, 콜모고로프는 폭탄 궤적이 아니라 폭풍의 모양을 계산하고 있었다.

정확히는 둘 다였다.
포병 사격 정확도를 높이는 군사 연구를 하면서, 동시에 난류 이론을 세상에 내놓았다.
난류란 공기나 물이 규칙 없이 소용돌이치며 흐르는 현상으로, 비행기를 갑자기 흔드는 난기류나 강물이 바위를 만날 때 일렁이는 물결이 모두 여기 해당한다.

당시 과학자들은 난류를 너무 복잡해서 수식으로 잡을 수 없다고 여겼다.
하지만 콜모고로프는 질문을 바꿨다.
"개별 소용돌이가 어떻게 생기는지는 몰라도, 에너지가 어떻게 흘러가는지는 알 수 있지 않을까?"

그가 찾아낸 답이 K41 이론이다.
큰 소용돌이는 에너지를 작은 소용돌이로 넘겨주고, 작은 소용돌이는 더 작은 소용돌이로 넘겨준다.
이 흐름에는 단 하나의 지수, 5/3 법칙이 성립한다.

대기 중 폭풍이든, 커피 잔에서 피어오르는 김이든, 소용돌이가 있는 곳이라면 이 비율이 나타난다.
가장 무질서해 보이는 현상 안에 가장 단순한 규칙이 숨어 있었던 것이다.
그것을 전쟁터 옆 연구실에서 찾아낸 사람이 콜모고로프였다.

콜모고로프는 60세에 책상을 떠나 중학생 교실로 갔다

확률론의 거장은 환갑이 되던 해, 연구실을 두고 14살 아이들 앞 칠판으로 걸어갔다.

1963년, 60세의 콜모고로프는 모스크바국립대 부설 물리수학 기숙학교를 직접 세웠다.
지금도 그의 이름을 딴 학교로 남아 있다.
그는 설립에 그치지 않고 직접 시골 마을을 돌아다니며 재능 있는 학생을 찾았다.

강의 시간표를 손수 짰고, 수학 외에 음악과 시 수업도 집어넣었다.
매주 직접 칠판 앞에 섰다.
20세기 최고의 수학자 중 한 명이 14살짜리 아이들의 시험지를 채점하며 오후를 보냈다.

그가 왜 그랬는지는 그의 믿음이 말해준다.
수학적 재능은 어릴 때 발견하지 않으면 묻혀버린다는 것, 그 낭비를 그는 견딜 수 없었던 것이다.
결국 그의 제자들은 훗날 소련과 러시아 수학의 다음 세대가 됐다.

어쩌면 콜모고로프가 가장 오래 기억될 방식은 80쪽짜리 책이 아니라, 그가 직접 시골까지 찾아가 데려온 수백 명의 학생들일지도 모른다.