디리클레 정수론, 아무도 못 읽은 가우스 노트를 풀어낸 수학자

천재의 노트를 아무도 읽지 못했다

학교에서 수학 시험을 본 적이 있다면, 이런 경험 한 번쯤 있을 것이다.
풀이를 쓴 친구의 노트를 빌렸는데, 도무지 무슨 말인지 모르겠는 경험.
답은 맞는데 과정이 마치 외계어 같다.
"이걸 어떻게 이 단계에서 저 단계로 넘어간 거지?"

19세기 초, 수학계 전체가 정확히 이 상황이었다.

그 외계어 같은 노트의 주인은 카를 프리드리히 가우스.
역사상 가장 위대한 수학자 중 한 명이다.
가우스는 1801년에 《산술 연구(Disquisitiones Arithmeticae)》라는 책을 썼다.
정수론이라는 분야의 바이블이 된 책이다.

문제는, 이 책이 너무 어려웠다는 것이다.
가우스는 증명 과정을 극도로 압축했다.
중간 단계를 건너뛰고, 결과만 딱 던져놓는 스타일이었다.
마치 요리 레시피에서 "1. 재료를 준비한다. 2. 완성된 요리를 접시에 담는다."라고 쓴 것과 비슷했다.

동료 수학자들조차 이 책을 제대로 이해하지 못했다.
가우스 본인은 설명해 줄 생각이 별로 없었다.
그는 "건물이 완성되면 비계(발판)는 치운다"는 말을 즐겨 했다.
멋진 결과만 보여주면 되지, 땀 흘린 과정을 왜 남기느냐는 것이다.

그래서 가우스의 위대한 발견들은 한동안 소수의 천재들만 이해하는 비밀처럼 남아 있었다.

그런데 이 비밀의 문을 활짝 열어젖힌 사람이 나타났다.
이름은 페터 구스타프 르죈 디리클레.
그는 천재의 노트를 세상이 읽을 수 있는 언어로 번역한 사람이었다.

열여섯 살, 주머니에 수학책 한 권을 넣고 파리로

디리클레는 1805년, 지금의 독일 서부에 있는 작은 도시 뒤렌에서 태어났다.
아버지는 우체국장이었고, 집안은 넉넉하지 않았다.

하지만 이 소년에게는 남다른 점이 하나 있었다.
수에 미친 듯이 빠져 있었다는 것이다.
열두 살 때 이미 용돈을 모아 수학책을 사 모았다.
다른 아이들이 장난감을 갖고 놀 때, 디리클레는 숫자의 패턴을 들여다보고 있었다.

열여섯 살이 되던 해, 디리클레는 큰 결심을 한다.
당시 수학의 중심지는 독일이 아니라 프랑스 파리였다.
그곳에는 라플라스, 푸리에, 르장드르 같은 당대 최고의 수학자들이 있었다.
디리클레는 가우스의 《산술 연구》를 가방에 넣고 파리로 떠났다.

이 책을 그는 평생 곁에 두고 읽었다.
닳고 닳아 너덜너덜해질 때까지.

파리에서의 생활은 쉽지 않았지만, 디리클레의 재능은 금방 빛을 발했다.
스무 살이 되기도 전에, 그는 수학계를 깜짝 놀라게 할 논문을 발표한다.

페르마의 마지막 정리라는 유명한 문제가 있다.
"n이 2보다 클 때, x^n + y^n = z^n을 만족하는 자연수는 없다"는 것.
이 문제는 350년 동안 아무도 완전히 풀지 못한 수학 역사상 최대의 난제였다.
디리클레는 이 문제를 n=5인 경우에 대해 증명해냈다.
완전한 해결은 아니었지만, 스무 살 청년이 이 거대한 문제에 의미 있는 한 걸음을 내디딘 것이다.

파리의 대가들은 이 젊은이의 이름을 기억하기 시작했다.

소수는 정말로 골고루 퍼져 있을까

이제 디리클레의 가장 유명한 업적 이야기를 해보자.
먼저 소수가 뭔지부터 짚고 가자.

소수란, 1과 자기 자신으로만 나누어지는 수다.
2, 3, 5, 7, 11, 13, 17, 19…
약수가 딱 두 개뿐인, 고집스러운 숫자들이다.

소수는 수의 세계에서 원자 같은 존재다.
모든 자연수는 소수들의 곱으로 쪼갤 수 있다.
12 = 2 × 2 × 3처럼.

그런데 소수에는 이상한 점이 있다.
규칙 없이 들쭉날쭉 나타난다는 것이다.
어떤 구간에는 소수가 바글바글하고, 어떤 구간에는 한참 동안 하나도 없다.
마치 밤하늘의 별처럼, 패턴이 있는 듯 없는 듯 흩어져 있다.

여기서 한 가지 질문이 떠오른다.

사탕을 한 줄로 나열했다고 상상해 보자.
빨간 사탕, 파란 사탕, 노란 사탕이 섞여 있다.
이 사탕들을 3개씩 묶어서 나눈다.
첫 번째 묶음에서 1번 자리, 두 번째 묶음에서도 1번 자리, 세 번째 묶음에서도 1번 자리…
이렇게 "3으로 나눴을 때 나머지가 1인 자리"만 쭉 뽑아보면?

그 자리에도 소수가 무한히 많을까?

직감적으로는 "글쎄…"라고 고개를 갸웃하게 된다.
소수 자체도 불규칙한데, 특정 패턴에 속하는 소수가 무한히 많다니.

디리클레는 1837년에 이것을 증명했다.
"등차수열 안에 소수가 무한히 존재한다."

좀 더 쉽게 말하면 이렇다.
숫자를 일정한 간격으로 뽑아나가면 — 예를 들어 3, 7, 11, 15, 19, 23… 처럼 4씩 더해가면 — 그 줄 안에도 소수가 끝없이 나타난다는 것이다.
(단, 시작 숫자와 간격이 공통 약수를 갖지 않아야 한다.)

이 정리가 왜 대단하냐면, 증명 방법이 혁명적이었기 때문이다.
디리클레 이전까지, 정수론은 말 그대로 정수(1, 2, 3…)만 가지고 싸우는 분야였다.
그런데 디리클레는 완전히 다른 도구를 꺼내 들었다.
해석학 — 미적분, 무한급수, 연속함수 같은 도구를.

이건 마치 바둑 대회에서 체스 전략을 가져온 것과 비슷하다.
"그게 여기서 통한다고?" 싶었는데, 놀랍게도 통했다.
그것도 아름답게.

이 순간, 해석적 정수론이라는 완전히 새로운 분야가 탄생했다.
수학의 두 세계 — 이산적인 정수의 세계와 연속적인 해석학의 세계 — 가 처음으로 손을 잡은 것이다.

함수란 무엇인가 — 기계가 아니라 약속이다

디리클레가 수학에 남긴 또 하나의 거대한 선물이 있다.
바로 함수라는 개념을 새로 정의한 것이다.

함수라는 말을 들으면 뭐가 떠오르는가?
아마 f(x) = 2x + 1 같은 수식이 먼저 떠오를 것이다.

디리클레 이전에도 사람들은 함수를 그렇게 생각했다.
함수란 수식으로 쓸 수 있는 것, 그래프로 그릴 수 있는 매끈한 곡선이라고.

그런데 디리클레가 물었다.
"꼭 수식이어야 하나?"

그는 이런 기묘한 예를 하나 만들었다.
x가 유리수이면 1, 무리수이면 0.
그래프로 그릴 수도 없고, 하나의 수식으로 표현할 수도 없다.
하지만 x값 하나를 넣으면 y값 하나가 확실하게 정해진다.

자판기를 떠올려 보자.
동전을 넣으면 음료가 나온다.
어떤 동전을 넣느냐에 따라 어떤 음료가 나오는지 딱 정해져 있다.
자판기 안에서 무슨 일이 벌어지는지는 중요하지 않다.
수식이 있든 없든, 톱니바퀴가 돌든 마법이 일어나든.
중요한 건 "입력 하나에 출력 하나가 대응된다"는 약속뿐이다.

디리클레는 함수를 바로 이렇게 재정의했다.
수식이 아니라, 대응 관계 자체가 함수라고.

이 정의가 왜 중요할까?

이전의 좁은 정의를 고집했다면, 수학은 수식으로 표현 가능한 세계 안에 갇혔을 것이다.
디리클레의 정의 덕분에 수학자들은 수식 너머의 세계를 탐험할 수 있게 되었다.
확률, 양자역학, 컴퓨터 과학에서 쓰이는 함수들 중 상당수는 깔끔한 수식으로 쓸 수 없다.
하지만 디리클레의 정의 아래에서는 모두 당당한 함수다.

오늘날 전 세계 수학 교과서에 실린 함수의 정의.
그 출발점이 바로 이 사람이다.

조용한 사람이 남긴 가장 큰 울림

디리클레는 화려한 사교가가 아니었다.
말수가 적고, 강의실에서만 빛나는 사람이었다.
그런데 그의 강의는 전설적이었다.

당시 독일의 수학 강의는 대부분 교수가 자기 노트를 읽어주는 방식이었다.
디리클레는 달랐다.
그는 학생들에게 생각의 흐름을 보여주었다.
결과를 던져주는 게 아니라, 왜 이 질문을 하게 되었는지, 어떤 시행착오를 거쳤는지를 함께 걸었다.

그의 제자 중 한 명이 훗날 이렇게 회상했다.
"디리클레 선생님은 수학을 처음 배우는 사람도 따라올 수 있게 만드는 희귀한 재능이 있었다."

사생활에서도 흥미로운 이야기가 있다.
디리클레는 레베카 멘델스존과 결혼했다.
그녀는 유명한 작곡가 펠릭스 멘델스존의 여동생이었다.
수학의 세계와 음악의 세계가 한 가정에서 만난 것이다.

1855년, 가우스가 세상을 떠났다.
그의 후임으로 독일 최고의 수학 중심지 괴팅겐 대학교에 부임한 사람이 바로 디리클레였다.
수학계의 왕좌를 물려받은 셈이다.

하지만 안타깝게도, 그 자리를 오래 지키지 못했다.
1859년, 디리클레는 심장마비로 쓰러진다.
나이 쉰셋.
아내 레베카도 같은 해에 세상을 떠났다.

디리클레가 남긴 것은 화려한 공식들만이 아니다.
그가 진짜로 남긴 것은 "명확하게 설명하는 것이 진짜 이해"라는 철학이다.

가우스가 비계를 치워버린 자리에, 디리클레는 누구나 올라갈 수 있는 계단을 놓았다.
가우스가 높이 쌓아 올린 탑에, 디리클레는 문을 달았다.

수학사에는 새로운 정리를 증명한 천재가 많다.
하지만 그 천재들의 발견을 세상에 전달해 준 사람은 드물다.
디리클레는 수학을 발견한 사람이자, 수학을 번역한 사람이었다.

당신이 학교에서 배운 함수의 정의.
소수의 신비로운 분포에 대한 이야기.
복잡한 것을 명확하게 설명해야 한다는 원칙.
그 모든 것의 뿌리에, 조용히 책을 읽던 이 사람이 서 있다.