데데킨트는 강의실에서 실수의 빈틈을 보았다

데데킨트가 처음 의심한 것은 어려운 공식이 아니라, 모두가 안다고 믿던 수직선이었어요.

1858년, 리하르트 데데킨트는 취리히 폴리테크니쿰에서 미적분을 가르치고 있었어요.
취리히 폴리테크니쿰은 오늘날로 치면 공학자와 과학자를 길러내는 스위스의 최고급 기술 학교였어요.
그런데 강의실 칠판 앞에서 그는 이상한 불편함을 느껴요.

학생들에게 연속성을 설명하려면 보통 선을 그으면 됐어요.
연속성이란 끊어진 계단이 아니라 물 흐르듯 이어지는 성질이에요.
하지만 데데킨트는 속으로 이렇게 물었을 법해요.
"우리가 선을 그렸다고 해서, 정말 수가 빈틈없이 이어진다는 걸 설명한 걸까?"

이건 줄자로 책상 길이를 재면서도 정작 "길이란 뭐야?"라는 질문에는 멈칫하는 상황과 비슷해요.
우리는 1미터, 1.4미터, 1.414미터를 말할 수 있어요.
하지만 그 사이가 왜 꽉 차 있는지는 말하지 못할 수 있어요.

수학자들이 믿던 수직선은 너무 익숙해서 오히려 의심받지 않았어요.
그런데 데데킨트에게 그 익숙함이 문제였어요.
그림은 눈을 설득하지만, 수학은 눈이 아니라 이유를 설득해야 하거든요.

그래서 그는 질문을 바꿔요.
"선을 보고 수를 이해하는 게 아니라, 수만으로 선의 빈틈없음을 만들 수는 없을까?"
이 질문 하나가 나중에 실수의 바닥을 다시 까는 일이 돼요.

1872년 데데킨트는 유리수를 둘로 갈랐다

그는 새로운 숫자를 발명하기보다, 기존 숫자들의 줄을 둘로 갈랐어요.

1872년 데데킨트는 『연속성과 무리수』라는 짧은 글을 내요.
이 글은 제목 그대로, 끊김 없는 수의 세계와 분수로 딱 떨어지지 않는 수를 다룬 수학 논문이에요.
그런데 방식이 아주 이상하게 단순해요.

그가 붙잡은 것은 유리수였어요.
유리수란 1/2, 3/4, 7처럼 분수 꼴로 쓸 수 있는 수예요.
데데킨트는 이 수들을 전부 한 줄로 세운 뒤, 어떤 기준으로 왼쪽과 오른쪽으로 나누자고 해요.

마치 지하철 개찰구 앞에 사람들이 길게 줄 서 있다고 해봐요.
어떤 기준으로 앞쪽 사람들과 뒤쪽 사람들을 나누면, 두 무리 사이에 딱 하나의 자리가 생겨요.
아직 사람이 서 있지 않아도, 그 자리는 분명히 있어요.

데데킨트가 말한 절단이 바로 그거예요.
절단은 칼로 자르는 행동이 아니라, 이미 있는 수들을 두 무리로 나눠서 경계를 만드는 방법이에요.
그 경계가 바로 새 수가 돼요.

이게 놀라운 지점이에요.
그는 무리수를 더 복잡한 공식으로 붙잡지 않았어요.
오히려 "새 수가 필요하다면, 기존 수들이 갈라지는 자리에서 태어나게 하자"고 본 거예요.

제곱해서 2가 되는 수가 경계에서 태어났다

√2는 데데킨트에게 더 이상 흐릿한 길이가 아니라, 두 숫자 무리 사이의 정확한 경계였어요.

√2는 제곱하면 2가 되는 수예요.
정사각형의 한 변이 1일 때 대각선 길이로 등장하는 바로 그 수예요.
그런데 이 수는 분수로 딱 쓸 수 없어서 오래전부터 사람들을 당황하게 만들었어요.

옛날 사람들에게 √2는 이상한 손님 같았어요.
눈앞의 대각선에는 분명히 있는데, 숫자로 쓰려 하면 잡히지 않았거든요.
그래서 무리수라는 이름이 붙어요.

무리수는 "말이 안 되는 수"라는 뜻이 아니에요.
분수로 정확히 표현할 수 없는 수라는 뜻이에요.
오늘날로 치면 지도 앱에는 위치가 찍히는데, 주소 검색창에는 딱 맞는 주소가 안 나오는 느낌이에요.

데데킨트는 여기서 시선을 바꿔요.
"그 수를 직접 쓰려고 애쓰지 말고, 그 수보다 작은 쪽과 큰 쪽을 나누면 되잖아."
이렇게 보면 √2는 흐릿한 대각선이 아니라 아주 정확한 경계가 돼요.

한쪽에는 제곱하면 2보다 작은 유리수들이 모여요.
다른 쪽에는 제곱하면 2보다 큰 유리수들이 모여요.
그 사이의 경계가 바로 √2예요.

주소가 없어도 두 동네의 경계선으로 위치를 찍을 수 있어요.
마찬가지로 분수로 못 써도, 두 숫자 무리 사이의 경계로 수를 정확히 잡을 수 있어요.
그제야 무리수는 "대충 있는 수"가 아니라 "정확히 정의된 자리"가 돼요.

브라운슈바이크의 조용한 교수가 실수의 기초를 바꿨다

데데킨트의 혁명은 큰 학회장이 아니라 브라운슈바이크의 조용한 책상 위에서 굳어졌어요.

브라운슈바이크는 데데킨트의 고향이에요.
그는 그곳에서 오래 가르치며 수의 밑바닥을 계속 파고들어요.
대도시의 화려한 무대보다, 그의 수학은 책상 하나와 원고 더미 사이에서 자라요.

이 장면이 의외로 중요해요.
현대 수학의 기준이 바뀌는 일이 언제나 번쩍이는 발표장에서 일어나는 건 아니거든요.
때로는 한 사람이 같은 질문을 오래 놓지 않을 때 바뀌어요.

데데킨트는 1888년에 『수란 무엇이며 무엇이어야 하는가』를 내요.
이 책은 자연수, 그러니까 1, 2, 3처럼 세는 수가 무엇인지 다시 묻는 글이에요.
아이도 아는 숫자를 어른 수학자가 다시 묻는다는 점이 이상하죠.

하지만 바로 그 이상함이 데데킨트의 힘이에요.
그는 당연한 것을 당연한 채로 두지 않아요.
"우리가 매일 쓰는 수가 정말 무엇인지 설명할 수 있어야 하지 않을까?"

그의 절단은 수학자들에게 한 가지 버릇을 남겨요.
그림이 예쁘다고 믿지 말고, 말이 익숙하다고 넘기지 말자는 버릇이에요.
수를 세우려면 바닥부터 세워야 한다는 감각이에요.

그래서 데데킨트를 알고 나면 수직선이 예전처럼 보이지 않아요.
그 선은 그냥 칠판 위에 그은 선이 아니에요.
누군가가 "정말 빈틈이 없다는 걸 어떻게 알아?"라고 끝까지 물은 흔적이에요.