칸토어와 무한의 크기, 만실 호텔에 손님을 더 넣을 수 있다

호텔 방이 꽉 찼는데 손님을 더 받을 수 있다고?

상상해 보세요.
어떤 호텔이 있습니다.
방이 1호, 2호, 3호… 끝없이 이어집니다.
방이 무한 개인 호텔이죠.

어느 날 밤, 이 호텔의 모든 방에 손님이 들어찼습니다.
빈 방이 하나도 없어요.
그런데 새 손님 한 명이 로비에 나타납니다.

"죄송합니다, 만실입니다."
보통 호텔이라면 이렇게 말하겠죠.

그런데 이 호텔의 프런트 직원은 미소를 짓습니다.
"잠깐만요, 방법이 있습니다."

직원은 방송을 합니다.
"모든 손님께서는 지금 계신 방 번호에 1을 더한 방으로 옮겨 주세요."
1호 손님은 2호로, 2호 손님은 3호로, 100호 손님은 101호로.
방이 무한 개니까 밀려날 마지막 손님은 존재하지 않습니다.
그리고 1호실이 텅 비죠.

새 손님은 유유히 1호실에 들어갑니다.

이 이야기는 수학자 다비트 힐베르트가 만든 유명한 사고 실험입니다.
"무한"이라는 녀석이 우리의 상식을 얼마나 뒤집어 놓는지 보여주기 위해서요.

우리는 일상에서 "무한"이라는 말을 꽤 쉽게 씁니다.
"무한 리필", "무한 스크롤", "무한한 가능성".
그런데 누군가 이렇게 묻는다면요?

"무한에도 크기가 있을까?"
"어떤 무한이 다른 무한보다 클 수 있을까?"

대부분의 사람은 고개를 갸웃합니다.
무한은 그냥… 무한 아닌가?

바로 이 질문에 평생을 바친 사람이 있습니다.
그리고 그 대답 때문에 수학계 전체가 뒤집어졌고, 그 자신은 무너져 내렸습니다.
그의 이름은 게오르크 칸토어입니다.

상트페테르부르크에서 온 아이, 숫자의 끝을 묻다

1845년, 러시아 상트페테르부르크에서 한 아이가 태어났습니다.
아버지는 덴마크계 상인, 어머니는 음악가 집안 출신.
칸토어의 집은 예술과 학문이 공존하는 곳이었습니다.

아버지는 아들이 공학자가 되길 바랐습니다.
안정적인 직업, 먹고사는 데 걱정 없는 삶.
하지만 어린 칸토어의 머릿속에는 다른 것이 들어 있었습니다.

숫자요.

열한 살 때 가족은 독일로 이주합니다.
칸토어는 학교에서 수학에 빠져들었고, 결국 아버지를 설득해 수학을 전공하게 됩니다.
베를린 대학에서 당대 최고의 수학자들에게 배웠죠.

그런데 젊은 칸토어의 관심은 조금 이상한 방향으로 흘러갑니다.
당시 수학자들은 무한을 "쓰긴 쓰되, 진지하게 다루지 않는" 대상으로 여겼습니다.
계산할 때 편의상 쓰는 기호일 뿐, 실제로 존재하는 어떤 것은 아니라고요.

"무한은 도구지, 실체가 아니다."
이것이 수학계의 상식이었습니다.

칸토어는 이 상식에 물음표를 붙였습니다.
"정말 그런가?"
"무한을 진짜로 다룰 수는 없는 건가?"

이 질문이 그의 인생을 완전히 바꾸게 됩니다.

사과와 바나나를 짝짓는 방법 — 집합론의 탄생

칸토어가 발명한 도구는 놀라울 정도로 단순합니다.
이름은 "일대일 대응".
어려운 말처럼 들리지만, 실은 우리가 매일 하는 일입니다.

교실에 아이들이 들어옵니다.
의자가 충분한지 알고 싶어요.
가장 쉬운 방법은?
아이 수를 세고, 의자 수를 세고, 비교하는 거죠.

그런데 수를 세지 않고도 알 수 있는 방법이 있습니다.
"모두 앉아 보세요."
아이마다 의자 하나씩 딱 짝이 맞으면, 수가 같은 겁니다.
남는 아이가 있으면 의자가 모자란 거고, 빈 의자가 있으면 아이가 적은 거죠.

이것이 일대일 대응입니다.
하나씩 짝을 지어서, 남는 게 있는지 보는 것.

칸토어는 이 단순한 원리를 무한에 적용했습니다.

자연수를 생각해 봅시다.
1, 2, 3, 4, 5… 끝없이 이어지죠.

이번엔 짝수만 모아 봅시다.
2, 4, 6, 8, 10…

상식적으로 짝수는 자연수의 "절반"이니까 더 적어야 할 것 같습니다.
그런데 짝을 지어 볼까요?

1 → 2, 2 → 4, 3 → 6, 4 → 8, 5 → 10…

모든 자연수에 짝수 하나씩 딱 대응됩니다.
남는 것도 없고, 빠지는 것도 없어요.

결론: 자연수 전체와 짝수 전체는 같은 크기입니다.

"절반인데 같다고?"
네, 무한의 세계에서는 그렇습니다.
이게 바로 무한이 상식을 깨는 첫 번째 순간입니다.

칸토어는 여기서 멈추지 않았습니다.
분수, 그러니까 1/2, 3/7, 15/4 같은 유리수 전체도 자연수와 짝지을 수 있다는 걸 보였습니다.
대각선으로 지그재그를 그리며 하나도 빠짐없이 번호를 매기는 기발한 방법을 고안했죠.

그렇다면 모든 무한은 크기가 같은 걸까요?
바로 이 지점에서 칸토어는 역사적인 발견을 합니다.

대각선 하나가 세상을 뒤집다

1891년, 칸토어는 짧지만 강력한 증명 하나를 발표합니다.
대각선 논법이라 불리는 이 증명은, 수학 역사상 가장 아름다운 논증 중 하나로 꼽힙니다.

핵심을 쉽게 풀어 볼게요.

소수점 아래로 끝없이 이어지는 수들이 있습니다.
0.141592…, 0.333333…, 0.278183… 같은 것들이요.
이런 수를 실수라고 부릅니다.

칸토어는 이렇게 물었습니다.
"실수도 자연수처럼 번호를 매겨 하나씩 나열할 수 있을까?"

그리고 "절대 불가능하다"는 것을 증명해 버립니다.

방법은 이렇습니다.
누군가 자신 있게 "실수를 전부 목록으로 만들었다!"고 주장한다고 칩시다.

1번: 0.141592…
2번: 0.333333…
3번: 0.278183…
4번: 0.500100…
5번: 0.92847…

칸토어는 이 목록의 대각선을 봅니다.
1번의 첫째 자리, 2번의 둘째 자리, 3번의 셋째 자리…
위 예시에서는 1, 3, 8, 1, 7.

이제 각 숫자를 하나씩 바꿉니다.
1→2, 3→4, 8→9, 1→2, 7→8.
새로운 수: 0.24928…

이 수는 목록에 있을까요?
1번과는 첫째 자리가 다르고, 2번과는 둘째 자리가 다르고, 3번과는 셋째 자리가 다릅니다.
모든 번호와 최소 한 자리씩 다르니까, 이 수는 목록에 없습니다.

"전부 나열했다"는 주장이 거짓이 되는 거죠.
아무리 노력해도 실수 전부를 목록으로 만들 수 없습니다.

이것은 곧 이런 뜻입니다.
실수의 무한은 자연수의 무한보다 크다.
무한에도 크기가 있고, 더 큰 무한이 존재한다.

이 발표 이후 수학계는 둘로 갈라졌습니다.

한쪽은 경탄했습니다.
"무한의 구조를 처음으로 밝힌 천재적 발견이다!"

다른 한쪽은 분노했습니다.
그 중심에 칸토어의 옛 스승 레오폴트 크로네커가 있었습니다.
크로네커는 칸토어를 "수학의 부패자", "젊은이를 타락시키는 자"라고 공개적으로 비난했습니다.
학술지 게재를 방해하고, 베를린 대학 교수직을 가로막았습니다.

칸토어는 평생 작은 지방 대학인 할레 대학에 머물러야 했습니다.
인정받고 싶었던 무대에는 끝내 오르지 못한 채.

무한을 본 사람의 대가, 그리고 뒤늦은 박수

크로네커의 공격은 칸토어에게 깊은 상처를 남겼습니다.
1884년, 칸토어는 처음으로 심각한 우울증에 빠집니다.
서른아홉 살이었습니다.

이후 그의 삶은 연구와 입원의 반복이었습니다.
병원에서 나오면 다시 무한을 연구하고, 쓰러지면 다시 병원으로.

그런데도 그는 포기하지 않았습니다.
무한에는 크기가 있을 뿐 아니라, 무한의 크기들이 끝없는 계단처럼 이어진다는 것을 보였습니다.
첫 번째 무한 위에 더 큰 무한이 있고, 그 위에 또 더 큰 무한이 있고…
이 무한의 계단에도 끝이 없다는 것.

그는 이 크기들에 히브리 문자 알레프(ℵ)를 붙여 이름을 지었습니다.
ℵ₀(알레프 영)은 자연수의 무한.
ℵ₁은 그다음 크기의 무한.
무한 자체에 체계적인 지도를 그린 것입니다.

당대의 많은 수학자들이 이 모든 것을 "광기"라고 불렀습니다.
하지만 한 사람이 분명하게 말했습니다.

다비트 힐베르트.
20세기 수학계의 거인이 된 사람입니다.

"칸토어가 만든 낙원에서 아무도 우리를 추방할 수 없다."

시간이 흐르면서 수학계는 칸토어 편으로 기울었습니다.
집합론은 현대 수학의 기초 언어가 되었습니다.
수학을 건물에 비유하면, 칸토어가 만든 집합론은 그 건물의 기초 콘크리트입니다.
논리학, 컴퓨터 과학, 위상수학, 해석학.
이 모든 분야가 칸토어의 아이디어 위에 서 있습니다.

칸토어는 1918년, 일흔두 살에 할레의 한 요양원에서 세상을 떠났습니다.
가난하고 외로운 죽음이었습니다.

하지만 그가 던진 질문은 지금도 살아 있습니다.
"무한이란 정말 무엇인가?"

그리고 그가 찾은 답은 한 가지 사실을 우리에게 알려줍니다.
세상에는 끝이 없는 것들이 있고, 그 끝없음에도 구조가 있다는 것.
끝이 없다는 것이 곧 같다는 뜻은 아니라는 것.

어쩌면 그것은 수학을 넘어서, 이 세상을 바라보는 꽤 근사한 방식일지도 모릅니다.