콜모고로프 확률론 공리화, 수학이 아니라던 것을 수학으로 만든 이야기

어머니의 장례식 날 세상에 도착한 아이가 수학의 지도를 다시 그렸다

1903년 러시아 탐보프에서 한 아기가 태어났을 때, 어머니는 이미 숨을 거둔 뒤였다.
아버지는 처음부터 없었다.
안드레이 콜모고로프는 태어나자마자 고아나 다름없는 상태로 세상에 던져졌다.

그를 키운 건 이모들이었다.
이모들은 특이한 사람들이었는데, 아이들을 위해 손으로 직접 잡지를 만들었다.
그 잡지 안에는 수학 퍼즐이 실려 있었다.

오늘날로 치면, 학원 한 번 가지 않고 부엌 식탁에서 독학한 셈이다.
그런데 이 아이는 열네 살에 급수의 수렴 조건, 즉 어떤 숫자들의 합이 무한히 더해도 특정 값에 가까워지는 조건을 혼자서 증명해냈다.
훗날 그는 확률론, 난류 이론, 정보 이론 등 수학의 거의 모든 분과에 자신의 이름을 남기게 된다.

수학자들이 '확률은 수학이 아니다'라고 비웃던 시대가 있었다

1900년대 초, 확률을 연구한다고 말하면 수학자들은 고개를 저었다.
"그건 도박사의 일이지, 수학자의 일이 아니야."
실제로 그랬다. 확률론은 카드 게임과 보험료 계산에 쓰이는 실용 도구였을 뿐, 엄밀한 수학으로 인정받지 못했다.

당시 수학계를 이끌던 독일의 수학자 다비트 힐베르트조차 확률론의 공리적 기초, 즉 "확률이란 무엇인가"를 수학적으로 정확하게 정의하는 일을 '아직 해결되지 않은 과제'로 공개 목록에 올려놓았다.
공리적 기초란 건물의 기둥과 같다. 기둥 없이 세운 건물은 아름다워 보여도 언제 무너질지 모른다.
확률이 바로 그 상태였다.

그런데 오늘날 인공지능이 "이 사진이 고양이일 확률은 93%"라고 말할 수 있는 것, 금융공학이 리스크를 숫자로 계산하는 것, 양자역학이 입자의 위치를 확률로 기술하는 것 모두 확률론 위에 서 있다.
불과 90년 전에는 이 모든 것의 토대가 "진짜 수학인지조차 논쟁거리"였던 셈이다.

62페이지짜리 얇은 책 한 권이 과학의 언어를 바꿔버렸다

그 책은 겨우 62페이지였다.
하지만 그 안에 담긴 다섯 줄의 공리는 '확률'이라는 단어의 의미를 영원히 바꿔놓았다.

1933년, 서른 살의 콜모고로프는 독일어로 된 소책자 『확률론의 기초개념』을 출판했다.
핵심은 단 다섯 개의 공리였다. 공리란 "이것만큼은 참이라고 가정하자"고 선언하는 출발점이다.
그는 이 다섯 가지 선언만으로 확률이라는 개념 전체를 수학적으로 정의해버렸다.

비유하자면 이렇다. 스마트폰 잠금 비밀번호 네 자리가 폰 전체를 지키듯, 다섯 줄의 공리가 확률이라는 거대한 세계 전체의 문을 열었다.
그것도 수백 년간 수많은 수학자들이 정리하지 못한 분야를 서른 살 청년이 얇은 책 한 권으로.

콜모고로프가 사용한 방식은 측도론이었다.
측도론이란 길이, 넓이, 부피 같은 개념을 아주 일반적인 형태로 확장한 이론이다. 쉽게 말해 "무언가의 크기를 재는 방법"을 수학적으로 극도로 정밀하게 만든 것이다.
그는 확률을 이 측도론 위에 얹어놓음으로써, 확률이 더 이상 "느낌"이나 "경험"이 아니라 계산 가능한 수학이 되게 했다.

이 다섯 줄은 지금 이 순간에도 작동하고 있다.
머신러닝 모델이 학습할 때, 보험 회사가 보험료를 산정할 때, 통신 기술이 신호를 주고받을 때, 그 모두의 바닥에 콜모고로프의 다섯 줄이 깔려 있다.

확률을 정복한 수학자는 마지막에 교실로 돌아갔다

난류도, 복잡도도, 위상도 정복했다.
그런데 콜모고로프가 인생의 마지막 에너지를 쏟은 곳은 열여덟 살짜리들이 앉아 있는 교실이었다.

그는 확률론 이후에도 멈추지 않았다.
공기나 물이 흐르다가 소용돌이치는 현상인 난류의 수학적 구조를 밝혔다.
그리고 콜모고로프 복잡도라는 개념을 만들었는데, 이것은 어떤 데이터를 가장 짧게 설명하는 프로그램의 길이를 뜻한다. 오늘날 정보 이론과 인공지능의 핵심 개념 중 하나다.
그야말로 수학의 봉우리를 하나씩 오른 사람이었다.

그런데 그 사람이 말년에 가장 심혈을 기울인 일은 영재학교 설립과 수학 교육과정 개혁이었다.
그것도 이론만이 아니었다. 그는 모스크바 근교 기숙학교에서 직접 학생들과 하이킹을 했다.
함께 시를 읽고, 음악을 들었다.

업계 최고가 된 셰프가 미슐랭 레스토랑 대신 동네 요리 교실을 여는 것처럼, 그는 정상이 아니라 베이스캠프로 돌아간 셈이다.
수학의 거의 모든 분과에 자신의 이름을 새긴 사람이, 마지막으로 선택한 과업은 "다음 세대가 생각하는 방법을 배우게 하는 것"이었다.

어머니 없이 태어나 이모의 부엌 식탁에서 수학을 배운 아이가 결국 다른 아이들의 이모가 된 것인지도 모른다.
그가 그 교실에서 무슨 말을 했는지, 궁금하지 않은가.