린데만의 증명 한 편이 2000년 도전을 끝냈다

린데만은 원적문제를 푼 사람이 아니다.
그는 그 문제를 영원히 풀 수 없도록 봉인한 사람이다.

1882년, 독일 수학자 페르디난트 린데만은 단 한 편의 논문으로 2000년짜리 도전을 끝냈다.
그런데 그 방식이 특이했다.
누군가가 마침내 정답을 찾은 것이 아니라, "애초에 정답이 존재할 수 없다"는 사실을 증명해 게임 자체를 종료시킨 것이다.

비유하자면 이렇다.
2000년 동안 사람들이 "이 자물쇠를 열 열쇠를 찾자"며 달려들었는데, 린데만은 "이 자물쇠에 맞는 열쇠는 물리적으로 만들어질 수 없다"고 입증한 셈이다.
열쇠를 찾은 게 아니라, 찾는 행위 자체를 무의미하게 만들어버린 것이다.

고대 그리스부터 시도된 원적문제의 정체

2000년 동안 수많은 천재가 같은 문제에 매달렸다.
그런데 그들이 실패한 진짜 이유는 실력이 아니라 도구였다.

원적문제(Squaring the Circle)는 이런 질문이다.
자와 컴퍼스만 사용해서 주어진 원과 정확히 같은 넓이의 정사각형을 그릴 수 있는가?
기원전 5세기 철학자 아나크사고라스가 감옥 안에서 이 문제를 붙잡고 씨름했다고 전해진다.

그 이후로 아르키메데스, 레오나르도 다빈치, 아이작 뉴턴까지 손을 댔다.
그래도 아무도 풀지 못했다.
문제가 너무 어려워서가 아니었다.

핵심은 도구의 한계에 있었다.
자와 컴퍼스로 만들 수 있는 수에는 눈에 보이지 않는 천장이 있다.
정수, 분수, 제곱근처럼 깔끔하게 표현되는 수들만 그 도구로 만들어낼 수 있다.

그런데 π(파이)는 그 천장 위에 있는 수였다.
π는 3.14159...로 끝없이 이어지는데, 어떤 방정식의 해로도 딱 떨어지지 않는다.
오늘날로 치면, 가위와 자만 가지고 무한소수를 정확히 재려는 것과 같다.
손재주가 부족한 게 아니라, 도구 자체가 그 일을 못 하도록 설계돼 있었던 것이다.

린데만은 1882년 π가 초월수임을 증명했다

린데만은 π를 정면으로 마주하지 않았다.
그는 π의 그림자가 다른 자리에 떨어질 수 없다는 것을 보여 끝냈다.

당시 서른 살이었던 린데만은 프라이부르크에서 'Über die Zahl π(π라는 수에 대하여)'라는 논문을 발표했다.
논문의 핵심 아이디어는 우회였다.
그는 π가 초월수가 아니라고 가정했을 때, 이미 참으로 알려진 다른 수학적 사실과 모순이 생긴다는 것을 보여줬다.

초월수란 어떤 다항방정식으로도 표현되지 않는 수다.
쉽게 말하면, 덧셈 뺄셈 곱셈 나눗셈과 제곱근을 아무리 복잡하게 조합해도 그 값에 닿을 수 없는 수다.
자와 컴퍼스로 만들 수 있는 수들은 모두 그 조합으로 표현되는 수들이라서, π가 초월수라면 작도 자체가 불가능하다는 결론이 자동으로 따라온다.

추리소설의 결말과 비슷하다.
범인이 그 시각 그 장소에 있었다는 것을 직접 목격한 사람이 없어도, "범인이 거기 있었다면 다른 알리바이가 전부 무너진다"는 것을 보여 사건을 종결시키는 방식이다.
린데만은 π의 알리바이를 하나씩 지워갔고, 결국 π는 초월수일 수밖에 없다는 구석에 몰렸다.

이 증명법은 훗날 린데만-바이어슈트라스 정리로 불리게 된다.
0이 아닌 대수적 수(방정식의 해로 표현되는 수) a에 대해 e^a는 반드시 초월수라는 정리인데, 린데만은 이것을 이용해 오일러 항등식 e^(iπ) = -1로부터 역으로 π의 정체를 밝혔다.
수학계는 이 논문을 받아들이는 데 오래 걸리지 않았다.

증명 후에도 풀었다는 편지가 계속 쏟아졌다

린데만이 문제를 봉인한 뒤에도, 학계에는 같은 봉인을 풀었다고 주장하는 편지가 끝없이 쌓였다.

19세기 말부터 20세기 내내, 아마추어 수학자들은 두꺼운 원고를 들고 대학과 학술원의 문을 두드렸다.
"원적문제를 마침내 해결했다"는 내용이었다.
영국 수학회는 이런 원고를 자동으로 돌려보내는 양식 편지까지 따로 마련해야 했다.

이미 정답이 발표된 시험 문제에, "내 풀이가 더 맞을 거야"라며 계속 답안지를 들이미는 사람들과 다를 게 없었다.
수학사에서는 결판이 났지만, 인간의 마음에서는 결판이 나지 않았던 것이다.

한편 린데만의 제자 중에는 다비트 힐베르트가 있었다.
힐베르트는 훗날 1900년에 20세기 수학이 풀어야 할 23가지 난제를 직접 선별해 발표한 인물로, 근대 수학의 방향 자체를 설계한 사람으로 평가받는다.
그 스승의 증명법을 곁에서 지켜본 제자가, 다음 세기의 문제 지도를 그렸다는 것은 어쩐지 자연스러운 흐름처럼 보인다.

린데만의 증명은 어떤 의미에서는 수학의 한 시대를 닫은 것이었다.
그런데 인간에게 봉인된 문을 그냥 두는 법이 있었던가.
열쇠가 존재하지 않는다는 증명이 나온 뒤에도, 사람들은 계속 열쇠를 깎아 문 앞으로 걸어갔다.