칸토어는 무한에도 더 큰 무한이 있음을 보였다

칸토어가 발견한 것은 무한이 하나가 아니라는 사실이었다.

무한은 그냥 끝없이 큰 것 같잖아요.
그런데 게오르크 칸토어는 말하듯 보여 줍니다.
“끝이 없다고 다 같은 크기는 아니야.”

방법은 무시무시한 공식이 아니었어요.
콘서트장 좌석과 관객을 하나씩 맞춰 보는 방식입니다.
좌석마다 관객이 딱 한 명씩 앉으면, 좌석 수와 관객 수는 같다고 말할 수 있죠.

칸토어는 이 생각을 숫자에 가져옵니다.
자연수는 1, 2, 3처럼 물건을 셀 때 쓰는 숫자예요.
자연수는 끝이 없지만, 줄을 세울 수는 있어요.

그런데 실수는 다릅니다.
실수는 0.1, 0.333..., 루트 2처럼 수직선 위의 모든 숫자예요.
자연수 사이사이에 먼지처럼 박힌 숫자까지 전부 포함합니다.

칸토어는 자연수와 실수를 짝지어 보려고 합니다.
1번 자연수에 실수 하나, 2번 자연수에 실수 하나.
끝없이 이어지는 명단을 만든 셈이에요.

그런데 여기서 반전이 나옵니다.
그 명단이 아무리 길어도, 칸토어는 명단에 없는 실수를 새로 만들어 냅니다.
이게 대각선 논법이에요.

대각선 논법은 복잡한 마술이 아닙니다.
명단의 첫 번째 숫자에서 첫 번째 자리, 두 번째 숫자에서 두 번째 자리, 세 번째 숫자에서 세 번째 자리를 골라요.
그리고 그 자리의 숫자를 하나씩 바꿉니다.

그러면 새 숫자는 명단의 어떤 숫자와도 최소 한 자리에서 다릅니다.
첫 번째 숫자와는 첫 번째 자리에서 다르고, 두 번째 숫자와는 두 번째 자리에서 달라요.
결국 명단 밖에 남는 숫자가 생깁니다.

이 말은 이상하게 들리지만 무섭도록 단순합니다.
자연수도 무한히 많고 실수도 무한히 많아요.
하지만 실수의 무한은 자연수의 무한보다 더 큽니다.

칸토어는 무한을 안개처럼 보지 않았어요.
그는 무한에게 번호표를 나눠 주었습니다.
그리고 번호표를 다 나눠 줬다고 믿은 순간, 아직 줄 밖에 서 있는 무한을 발견한 거예요.

당대 수학자들은 칸토어의 무한을 위험한 장난으로 봤다

칸토어의 가장 큰 적은 무지가 아니라 당대 수학의 권위였다.

오늘날 칸토어의 생각은 현대 수학의 바닥에 깔려 있습니다.
그런데 처음에는 박수보다 의심을 더 많이 받았어요.
심지어 수학을 망치는 위험한 장난처럼 보기도 했습니다.

그 중심에 레오폴트 크로네커가 있었습니다.
크로네커는 19세기 독일의 강력한 수학자였고, 베를린 수학계에서 큰 힘을 가진 인물이었어요.
오늘로 치면 회사의 핵심 결재권자가 “그 아이디어는 안 돼”라고 공개적으로 막는 상황에 가깝습니다.

크로네커는 칸토어의 무한을 불편해했습니다.
그에게 수학은 손으로 셀 수 있고 만들 수 있는 것에 가까웠어요.
그런데 칸토어는 눈에 보이지 않는 무한을 비교하고, 더 큰 무한까지 말하고 있었습니다.

칸토어 입장에서는 답답했을 겁니다.
“나는 장난을 치는 게 아니야.
무한을 제대로 세고 있는 거야.”

하지만 권위는 느리게 움직입니다.
칸토어는 베를린 대학으로 옮기고 싶어 했지만 뜻을 이루지 못했습니다.
당시 베를린은 독일 수학의 중심지 같은 곳이었어요.

이 장면이 씁쓸한 이유는 따로 있습니다.
나중에 수학의 공통 언어가 될 생각이, 그때는 수학 바깥으로 밀려나는 생각처럼 취급됐다는 점이에요.
미래의 표준이 현재의 이단처럼 보인 겁니다.

그래서 칸토어의 이야기는 천재가 번쩍 성공하는 이야기가 아닙니다.
그는 수학의 문법을 바꾸려 했고, 문법을 지키던 사람들이 그를 막았습니다.
새 문장을 처음 쓴 사람은 늘 맞춤법 위반자처럼 보이니까요.

칸토어는 신에게 무한의 자리를 묻고 또 물었다

칸토어에게 무한은 계산 문제가 아니라 신의 자리와 맞닿은 문제였다.

우리는 수학자를 차가운 칠판 앞의 사람으로 떠올립니다.
하지만 칸토어의 무한은 칠판에서만 살지 않았어요.
그 무한은 책상 위 편지, 성직자와의 대화, 신학적 고민 속에서도 계속 움직였습니다.

칸토어는 초한수를 말했습니다.
초한수는 끝이 있는 수를 넘어선 무한의 크기를 다루는 수예요.
쉽게 말하면, 무한에도 이름표와 크기표를 붙이려 한 겁니다.

하지만 그는 모든 무한을 같은 자리에 두지 않았습니다.
절대무한이라는 개념을 따로 생각했어요.
절대무한은 인간이 계산하고 비교하는 대상이 아니라, 신과 맞닿은 가장 큰 무한에 가까운 자리였습니다.

이 구분이 중요합니다.
칸토어는 “내가 신의 영역을 빼앗겠다”고 말한 게 아니었어요.
오히려 “내가 다루는 무한은 수학 안의 무한이고, 신의 무한은 따로 있다”고 선을 그으려 했습니다.

오늘로 치면 새 과학기술을 만든 사람이 윤리위원회 앞에서 계속 설명하는 장면과 비슷합니다.
“이건 인간의 한계를 넘자는 오만이 아닙니다.
우리가 다룰 수 있는 범위를 정확히 나누려는 겁니다.”

그래서 칸토어의 수학은 이상하게 뜨겁습니다.
가장 추상적인 숫자 이야기가 종교적 확신과 떨어져 있지 않았거든요.
그에게 무한은 계산기 안의 기호가 아니라, 인간이 어디까지 생각할 수 있는지 묻는 문이었습니다.

그는 무한을 세려 했지만, 동시에 무한 앞에서 멈출 자리도 찾으려 했습니다.
수학자가 칠판 앞에서 하는 일이 때로는 기도와 닮을 수 있다는 사실.
이 지점에서 칸토어는 갑자기 낯선 사람이 아니라, 불안할 만큼 가까운 사람이 됩니다.

그가 세운 집합론은 수학의 바닥을 다시 깔았다

칸토어가 놓은 바닥 위에서 현대 수학은 올라섰고, 동시에 흔들렸다.

칸토어의 집합론은 물건들을 한 묶음으로 보고 다루는 수학의 언어입니다.
사과 한 묶음, 학생 한 반, 숫자들의 모임처럼 “무엇들이 들어 있는가”를 기준으로 생각하는 방식이에요.
처음엔 낯설었지만, 훗날 현대 수학은 이 언어 위에서 말을 배우게 됩니다.

집합론은 수학의 책상을 새로 정리한 일이었습니다.
숫자, 함수, 공간 같은 것들을 한 언어로 설명할 수 있게 해 줬어요.
그래서 수학은 더 높이 올라갈 수 있었습니다.

그런데 바닥을 새로 깔자 금도 더 잘 보였습니다.
대표적인 것이 러셀의 역설입니다.
러셀의 역설은 “자기 자신을 포함하지 않는 집합들의 집합은 자기 자신을 포함하는가”라는 문제예요.

말장난처럼 들리지만 폭탄에 가깝습니다.
예를 들어 “자기 자신을 목록에 넣지 않는 목록들의 목록”이 있다고 해 봅시다.
그 목록은 자기 자신을 넣어야 할까요, 빼야 할까요.

넣으면 조건을 어깁니다.
빼면 조건에 맞으니 넣어야 합니다.
결국 넣어도 문제고 빼도 문제예요.

이 역설은 칸토어가 틀렸다는 단순한 결론이 아닙니다.
오히려 칸토어가 너무 깊이 파고들었기 때문에, 수학의 바닥에 숨어 있던 균열이 드러난 겁니다.
기초 공사를 하다가 건물이 더 높아졌는데, 동시에 바닥의 금까지 선명해진 상황입니다.

그래서 칸토어의 유산은 편안하지 않습니다.
그는 수학을 단단하게 만들었고, 동시에 수학이 스스로를 의심하게 만들었습니다.
확실함의 왕국처럼 보이던 수학이 “나는 정말 모순 없이 서 있는가”라고 묻게 된 거예요.

칸토어가 한 일은 무한을 크게 만든 일이 아닙니다.
우리가 무한을 보는 눈을 바꾼 일입니다.
끝이 없다는 말 하나로 덮어 두던 세계에, 그는 조용히 물었습니다.

“정말 전부 같은 끝없음일까?”