르베그 측도론, 200년 된 적분을 26살에 다시 쓴 이야기

르베그는 26살에 적분을 다시 발명했다

1902년, 26살의 무명 수학자가 200년 동안 아무도 손대지 않은 적분을 처음부터 다시 쓰겠다고 선언했어요.
이름은 앙리 르베그, 파리의 조용한 연구실에서 박사 논문 한 편을 완성한 청년이었죠.
그런데 당시 수학계 분위기는 "적분? 이미 다 끝난 이야기잖아"였어요.

200년 전 뉴턴과 라이프니츠가 적분을 만들었고, 19세기에 리만이 그것을 엄밀하게 다듬었으니까요.
아무도 의심하지 않던 기초를 갈아엎겠다는 건, 요즘으로 치면 "사칙연산을 다시 설계하겠다"는 말과 비슷했어요.
그 논문의 제목은 Intégrale, longueur, aire, 우리말로 "적분, 길이, 면적"이었죠.

어떻게 바꿨냐고요? 동전 세는 방식을 떠올려보면 돼요.
동전 더미를 받았을 때 순서대로 하나씩 세는 사람이 있고, 먼저 100원끼리, 500원끼리 분류한 뒤 묶음으로 세는 사람이 있잖아요.
르베그는 후자를 선택했고, 그게 수학의 판을 바꿨어요.

리만 적분은 들쭉날쭉한 함수 앞에서 무너졌다

리만의 적분은 매끄러운 곡선 앞에서는 우아했지만, 점프투성이 함수 앞에서는 손도 못 댔어요.
리만 적분은 고등학교에서 배우는 그 방법이에요. 곡선 아래 넓이를 구할 때 얇은 직사각형으로 잘게 잘라 다 더하는 거죠.
곡선이 매끄럽게 이어지면 직사각형이 딱 들어맞아요. 하지만 곡선이 이곳저곳에서 갑자기 튀어오르거나 뚝 끊기면, 직사각형이 맞지 않아서 계산 자체가 불가능해요.

19세기 말, 수학자들은 무수히 많은 점에서 튀는 이른바 "병적인 함수"들을 발견했어요.
이 함수들은 리만 적분으로는 정의조차 되지 않았고, 수학자 대부분은 그냥 외면하고 싶어 했죠.
그런데 르베그는 질문 자체를 바꿨어요. "x축을 잘게 나누지 말고, y축을 잘게 나누면 어떨까?"

동전을 들어온 순서대로 세면 헷갈리지만, 액면가별로 모아서 세면 깔끔해지는 것과 같은 원리예요.
함수가 어디서 얼마큼 "높은" 값을 갖는지를 먼저 분류하고, 그 묶음의 크기를 따로 재는 방식이죠.
그 "크기를 재는" 도구로 르베그가 만든 것이 바로 측도론(measure theory)이에요. 울퉁불퉁하고 이상하게 생긴 집합의 넓이를 정확하게 재는 방법이에요.

결국 수학자들이 외면하고 싶었던 괴물 함수들이 오히려 새 적분의 출발점이 된 거예요.
"그걸 왜 다루냐"는 의문이 "그걸 어떻게 다루냐"로 바뀐 순간, 수학의 지형이 달라졌어요.

측도론을 만든 르베그가 추상화를 경계했다

르베그는 자기 이론이 너무 추상적으로 흘러가는 걸 보며 평생 불만을 품었어요.
아이러니하죠. 현대 수학에서 가장 추상적인 도구 중 하나를 만든 사람이, 정작 후배들의 추상화를 비판했으니까요.

르베그의 측도론은 금세 확률론, 푸리에 해석, 양자역학의 기반으로 퍼져 나갔어요.
푸리에 해석은 소리나 전파처럼 복잡한 파동을 단순한 성분들로 분해하는 방법이에요. 현대 신호 처리 기술의 핵심이죠.
수학자들은 르베그의 아이디어를 점점 더 일반적인 형태로 확장하기 시작했어요.

그런데 르베그는 이 흐름을 보며 이렇게 썼어요. "나는 일반화 그 자체를 위한 일반화는 싫다."
새 요리법을 만든 셰프가 후배들이 그걸 알아볼 수 없게 변형하는 걸 보며 한숨 쉬는 상황과 같아요.
그는 수학이 구체적인 문제에서 출발해야 한다고 믿었고, 추상이 목적 자체가 되는 건 끝까지 경계했어요.

가장 추상적인 도구를 만든 사람이 추상화를 가장 경계한 사람이었다는 것, 그게 르베그를 단순한 천재 이야기로 끝내기 어렵게 만드는 부분이에요.

르베그 적분은 지금 당신의 와이파이 안에 있다

지금 이 순간 당신이 보고 있는 화면 픽셀과 와이파이 신호 안에는 르베그가 1902년에 쓴 논문이 살아 있어요.
100년 전에 "괴물 함수"를 다루려고 만든 순수수학이, 지금 인류가 가장 많이 쓰는 기술의 뼈대가 됐거든요.

경로를 따라가 볼게요.
르베그 적분은 푸리에 해석을 엄밀하게 만들었어요.
그리고 그 푸리에 해석이 JPEG 이미지 압축, 와이파이, LTE 무선 통신의 수학적 토대예요. 사진을 찍을 때마다, 유튜브를 스트리밍할 때마다 이 계산이 돌아가고 있어요.

한 가지가 더 있어요.
우리가 "확률"을 엄밀하게 다루는 방식, 현대 확률론의 공리 체계는 콜모고로프라는 수학자가 1933년에 세웠는데, 그 기반도 르베그 측도예요.
이 체계는 지금 AI 모델 설계, 보험 계리, 금융 파생상품까지 구석구석 퍼져 있어요.

"점프투성이 함수를 어떻게 적분하지?"라는 질문 하나가 이 모든 것의 시작이었어요.
르베그는 그 질문이 어디까지 이어질지 알았을까요.