줄자 위에 구멍이 있다고?

집에 줄자 하나쯤은 있을 겁니다.
책상 길이를 재거나, 키를 잴 때 쓰는 그 줄자요.
줄자를 자세히 들여다보면, 숫자들이 빼곡하게 새겨져 있죠.
1, 2, 3… 그 사이에 1.5도 있고, 1.25도 있고, 1.333…도 있습니다.

숫자가 워낙 촘촘하니까, 우리는 당연히 이렇게 생각합니다.
"줄자 위에는 빈틈이 없겠지."
"숫자가 꽉 차 있으니까."

그런데요.
아닙니다.

19세기 독일에 한 수학자가 있었습니다.
이름은 리하르트 데데킨트.
그는 어느 날, 모두가 당연하다고 여기던 숫자의 줄에서 아무도 눈치채지 못한 구멍을 발견했습니다.

그 구멍은 눈에 보이지 않았습니다.
줄자로도 잴 수 없었습니다.
하지만 분명히, 거기 있었습니다.

이 이야기는 그 보이지 않는 틈을 찾아내고, 그걸 메우기 위해 "가위질" 하나를 생각해낸 사람의 이야기입니다.

분수만으로는 세상을 다 잴 수 없다

아주 오래전, 고대 그리스로 가봅시다.

피타고라스라는 유명한 수학자가 있었습니다.
그와 그의 제자들은 세상의 모든 것이 "비율"로 설명된다고 믿었습니다.
음악의 아름다운 화음도 줄의 길이 비율이고, 별의 움직임도 숫자의 비율이라고요.

비율이란 뭘까요?
쉽게 말해 분수입니다.
1/2, 3/4, 7/5 같은 것들이요.
두 정수를 위아래로 쌓으면 세상 모든 수를 만들 수 있다고 그들은 확신했습니다.

그런데 어느 날, 사건이 터집니다.

누군가가 정사각형 하나를 그렸습니다.
한 변의 길이가 1인 정사각형.
그리고 그 대각선의 길이를 재보려 했죠.

피타고라스의 정리에 따르면, 대각선의 길이는 1² + 1² = 2의 제곱근.
즉 √2입니다.

문제는, 이 √2를 분수로 표현하려고 아무리 애를 써도 불가능하다는 것이었습니다.
1.414…로 시작하는 이 수는 끝없이 이어지면서도 절대 반복되지 않았거든요.

피타고라스 학파는 충격에 빠졌습니다.
전설에 따르면, 이 사실을 발견한 제자를 바다에 빠뜨렸다는 이야기까지 있을 정도입니다.

이렇게 분수로 표현할 수 없는 수를 무리수라고 부릅니다.
"이치에 맞지 않는 수"라는 뜻이에요.

자, 여기서 문제가 생깁니다.
분수들만 모아서 수직선 위에 쭉 늘어놓으면, 아무리 빽빽하게 채워도 √2가 들어갈 자리에 텅 빈 구멍이 생긴다는 뜻입니다.
분수는 어마어마하게 많지만, 그래도 수직선을 완전히 채우지는 못하는 거죠.

마치 촘촘한 그물처럼 보이지만, 사실은 물이 줄줄 새는 것과 같습니다.
2천 년이 넘도록, 수학자들은 이 구멍을 알면서도 정확히 어떻게 메워야 할지 몰랐습니다.

데데킨트, 칼 대신 가위를 들다

시간을 훌쩍 뛰어넘어, 1858년 스위스 취리히.

서른 살의 젊은 교수 리하르트 데데킨트는 학생들에게 미적분학을 가르치고 있었습니다.
데데킨트는 조용하고 꼼꼼한 사람이었습니다.
독일 브라운슈바이크에서 태어나, 대수학자 카를 프리드리히 가우스의 마지막 제자 중 한 명이 되었죠.

가우스는 "수학의 왕"이라 불리던 인물입니다.
그런 거장 밑에서 배웠지만, 데데킨트 자신은 화려하기보다는 묵묵한 스타일이었습니다.

그런데 강의를 하다가, 데데킨트는 멈칫합니다.

"연속이란 무엇인가?"

학생들에게 수직선이 "끊김 없이 이어져 있다"고 설명해야 하는데, 정작 본인도 이걸 정확히 정의할 수가 없었던 겁니다.

"이어져 있다"는 게 대체 뭘까?
우리는 직감적으로 알 것 같지만, 수학에서 "느낌"은 증명이 아닙니다.

데데킨트는 이 문제에 매달렸습니다.
그리고 놀랍도록 단순한 아이디어 하나를 떠올립니다.

"수직선을 가위로 한 번 자르면 어떻게 될까?"

종이 테이프를 떠올려 보세요.
기다란 종이 테이프 위에 분수들이 빼곡히 적혀 있습니다.
이 테이프를 가위로 "싹둑" 한 번 자릅니다.
그러면 왼쪽 조각과 오른쪽 조각, 두 묶음이 생기죠.

데데킨트는 말했습니다.
이 "자르기" 자체가 하나의 수를 정의한다고.

왼쪽에 있는 분수들은 전부 그 수보다 작고, 오른쪽에 있는 분수들은 전부 그 수보다 큽니다.
그리고 그 경계, 바로 그 "잘린 지점"이 하나의 수라는 것이죠.

이것이 바로 데데킨트 절단입니다.
영어로는 Dedekind cut.
이름은 거창하지만, 핵심은 정말 단순합니다.
"어디서 자르느냐가 곧 수다."

가위질 한 번으로 실수가 태어났다

구체적으로 어떻게 작동하는지, √2를 예로 들어봅시다.

분수들을 쭉 늘어놓고, 이런 기준으로 두 묶음으로 나눕니다.

왼쪽 묶음: 제곱해서 2보다 작은 분수들.
예를 들어 1, 1.4, 1.41, 1.414… 이런 것들이요.

오른쪽 묶음: 제곱해서 2보다 크거나 같은 분수들.
예를 들어 2, 1.5, 1.42, 1.415… 이런 것들이요.

자, 이렇게 나누면 신기한 일이 벌어집니다.

왼쪽 묶음에는 "가장 큰 수"가 없습니다.
1.414에 가까워지지만, 아무리 가까이 가도 딱 그 끝에 도달하지 못해요.

오른쪽 묶음에도 "가장 작은 수"가 없습니다.
마찬가지로 1.414… 근처까지 내려오지만, 정확히 닿지는 못합니다.

두 묶음 사이에 아무 분수도 없는 빈 경계가 존재하는 겁니다.
바로 그 빈 경계가 √2입니다.

데데킨트는 이렇게 선언했습니다.
"이 경계를 하나의 수로 인정하자."
"분수에는 없지만, 이 '자르기'가 만들어낸 위치에 새로운 수가 산다."

이렇게 분수의 구멍을 전부 메운 수의 체계를 우리는 실수라고 부릅니다.
분수(유리수)에 무리수를 합친 것, 그것이 실수입니다.

데데킨트의 가위질이 혁명적이었던 이유는 이겁니다.
그는 √2를 "소수점이 끝없이 이어지는 수"로 정의하지 않았습니다.
대신, 분수들의 배치만으로 새로운 수를 만들어냈습니다.

마치 퍼즐 조각들이 빈 공간을 에워싸고 있으면, 그 빈 공간의 모양을 정확히 알 수 있는 것처럼요.
조각들 사이의 빈틈이 곧 새로운 조각의 형태를 알려주는 셈입니다.

이 아이디어가 나온 건 1858년이었지만, 데데킨트는 꼼꼼한 성격답게 14년을 더 다듬은 끝에 1872년에야 논문으로 발표했습니다.
제목은 "연속과 무리수".
단 48쪽짜리 작은 책자였지만, 수학의 기초를 완전히 바꿔놓았습니다.

데데킨트가 남긴 것 — 수학은 발명인가 발견인가

데데킨트에게는 절친한 친구가 한 명 있었습니다.
이름은 게오르크 칸토어.
무한의 크기를 비교할 수 있다는 놀라운 이론을 만든 사람이죠.

두 사람은 수십 년간 편지를 주고받으며 서로의 아이디어를 발전시켰습니다.
데데킨트가 "수직선의 구멍을 메우는 법"을 고안했다면, 칸토어는 "무한에도 크고 작음이 있다"는 것을 증명했습니다.
둘의 우정은 현대 수학의 토대인 집합론을 탄생시켰습니다.

집합론이란 쉽게 말해, 수학의 모든 것을 "묶음"으로 설명하는 방법입니다.
숫자도 묶음, 도형도 묶음, 함수도 묶음.
데데킨트 절단도 결국 "분수들을 두 묶음으로 나눈 것"이니까, 집합론의 언어와 딱 맞아떨어졌죠.

오늘날 대학에서 수학을 전공하면, 1학년 때 가장 먼저 배우는 것 중 하나가 바로 이 데데킨트 절단입니다.
"실수란 무엇인가?"라는 질문에 대한 가장 깔끔한 대답이거든요.

그런데 여기서 한 가지 흥미로운 질문이 남습니다.

데데킨트는 √2를 발견한 걸까요, 아니면 발명한 걸까요?

√2는 데데킨트가 태어나기 전에도 대각선 위에 존재했습니다.
하지만 그것을 "두 묶음의 경계"로 정의한 건 전적으로 인간의 창작물이죠.

데데킨트 자신은 이런 말을 남겼습니다.
"수는 인간 정신의 자유로운 창조물이다."

그는 수가 자연에 원래 있는 것이 아니라, 인간이 만들어낸 도구라고 생각했습니다.
아이러니하게도, 그가 만든 도구는 너무나 완벽해서 마치 원래 있었던 것처럼 느껴집니다.

데데킨트는 1916년, 85세의 나이로 조용히 세상을 떠났습니다.
재미있는 일화가 하나 있는데, 살아생전에 학술 잡지가 실수로 그의 부고를 실은 적이 있습니다.
그러자 데데킨트는 편집자에게 이렇게 편지를 보냈다고 합니다.

"날짜는 틀릴 수 있겠지만, 그날 제가 아주 건강하게 아침을 먹은 것은 확실합니다."

수직선 위의 보이지 않는 구멍을 찾아내고, 가위질 하나로 수학의 기초를 다시 세운 사람.
그가 남긴 질문은 아직도 유효합니다.

지금 이 순간 당신이 사용하는 숫자들.
그것은 우주에 원래 있던 것일까요?
아니면 누군가가, 아주 정교하게, 발명한 것일까요?