그리스인들이 2000년 동안 못 푼 퍼즐이 있었다

1775년, 프랑스 과학 아카데미는 한 주제에 대한 논문을 더 이상 받지 않겠다고 선언했어요.
원을 사각형으로 만들겠다는 증명이었어요.

이 문제의 이름은 원적 문제(squaring the circle)예요.
컴퍼스와 자만으로, 주어진 원과 넓이가 똑같은 정사각형을 그리는 것이에요.
기원전 5세기 그리스 수학자 아낙사고라스부터 아르키메데스까지, 2000년이 넘도록 전 세계 수학자들이 매달렸어요.

그런데 아카데미가 이 선언을 한 이유가 흥미로워요.
수학자들이 답을 못 찾아서가 아니라, 엉터리 풀이를 들고 오는 아마추어가 너무 많아서였어요.
2000년간 전 세계 수학자가 손을 못 댄 루빅스 큐브 앞에, 구경꾼들이 줄을 서서 "제가 풀었어요"를 외치고 있었던 셈이에요.

그리고 정말 이상한 점이 하나 있어요.
2000년 동안 아무도 이 문제를 풀지 못했을 뿐 아니라, 아무도 이 문제가 풀 수 없음을 증명하지도 못했어요.
답이 있는지 없는지조차 모르는 채로, 인류는 2000년을 보낸 거예요.

린데만은 1882년 논문 한 편으로 이 모든 걸 끝냈다

린데만은 원적 문제를 풀지 않았어요.
대신, 아무도 풀 수 없음을 증명해 문제 자체를 끝내버렸어요.

1882년, 독일 프라이부르크 대학의 수학자 페르디난트 린데만은 논문 한 편을 발표해요.
제목은 「Über die Zahl π」, 우리말로 「수 π에 관하여」였어요.
당시 그의 나이는 서른 살, 아직 학계에서 이름을 알리지 못한 무명의 젊은 교수였어요.

비유하자면 이런 거예요.
법정이 100년 넘게 "이 사람이 범인인가 아닌가"를 두고 다퉜는데, 어떤 검사가 갑자기 나타나 "이 사건은 애초에 성립할 수 없습니다"라고 판결을 받아낸 것이에요.
풀이를 찾은 게 아니라, 풀이가 존재할 수 없음을 보여준 거예요.

그런데 린데만은 어떻게 그걸 증명했을까요.
그 핵심이 바로 π의 정체에 있어요.

π는 어떤 방정식에도 들어맞지 않는 수였다

원의 가장 단순한 비율인 π는, 수학이 만들 수 있는 어떤 방정식에도 들어맞지 않는 수였어요.

조금 더 풀어서 얘기할게요.
수학에는 방정식으로 잡을 수 있는 수와 없는 수가 있어요.
예를 들어 √2는 x² = 2라는 방정식을 풀면 나오니까 "방정식으로 잡을 수 있는 수"예요.

이런 수들을 대수적 수(algebraic number)라고 불러요.
"방정식의 답으로 나올 수 있는 수"라고 이해하면 돼요.
스마트폰 공장 초기화 암호처럼, 정해진 규칙을 따르면 꺼낼 수 있는 수예요.

그런데 린데만이 증명한 건, π가 대수적 수가 아니라는 것이었어요.
어떤 방정식을 세워도, 그 답으로 π가 나오는 방정식은 존재하지 않아요.
이런 수를 초월수(transcendental number)라고 불러요. 말 그대로 "방정식의 세계를 초월해 있는 수"예요.

아무리 정교한 열쇠 세트를 만들어도 맞지 않는 자물쇠가 있잖아요.
π는 수학이 가진 모든 열쇠를 거부하는 자물쇠였어요.

그리고 여기서 결정적인 연결이 나와요.
컴퍼스와 자로 그릴 수 있는 수는 대수적 수뿐이에요.
π가 초월수인 순간, 컴퍼스와 자로 원적 문제를 풀 가능성은 수학적으로 완전히 사라져요.

린데만이 이 증명에 쓴 방법은 혼자 발명한 게 아니었어요.
1873년, 프랑스 수학자 샤를 에르미트가 자연상수 e(2.718...)가 초월수임을 먼저 증명했어요.
린데만은 그 기법을 확장해서 π에 적용한 거예요.

결국 원을 사각형으로 만들겠다는 2000년의 꿈은, 그냥 못 풀었던 게 아니라 처음부터 불가능했던 거였어요.

린데만의 제자는 20세기 수학을 다시 썼다

π를 증명한 3년 뒤, 린데만은 쾨니히스베르크에서 한 학생의 박사 논문을 심사했어요.
그 학생의 이름은 다비트 힐베르트였어요.

힐베르트가 나중에 어떤 사람이 됐는지 알면 놀랄 거예요.
1900년 파리 국제수학자대회에서 힐베르트는 "앞으로 수학이 풀어야 할 23개의 문제"를 발표해요.
이른바 힐베르트의 23문제예요.

그 23개의 문제는 20세기 수학자 수천 명의 나침반이 됐어요.
그 문제들을 향해 달려가는 과정에서 현대 수학의 절반이 만들어졌어요.
힐베르트 한 명이 세기 전체의 방향을 바꾼 거예요.

린데만은 수학사에 "원적 문제를 끝낸 사람"으로 한 줄 남았어요.
그런데 그가 키운 단 한 명의 제자가 세기 전체의 주인공이 됐어요.
1885년 쾨니히스베르크 강의실에서 청년 힐베르트의 논문을 들여다보던 린데만은, 그때 무슨 생각을 했을까요.