리베가 와일즈에게 건넨 페르마의 열쇠

리베는 페르마 정리를 직접 풀지 않았다

베르나르 리베는 페르마의 마지막 정리를 풀려고 한 적이 없어요.
그런데도 그가 없었다면, 350년 동안 수학자들을 좌절시킨 그 난제는 지금도 풀리지 않았을 거예요.

1637년, 피에르 드 페르마라는 프랑스 법관이자 아마추어 수학자가 책 여백에 한 줄을 남겼어요.
"a의 n제곱 더하기 b의 n제곱이 c의 n제곱과 같은 정수 해는 n이 2보다 크면 절대 없다. 놀라운 증명을 발견했지만 여백이 좁아 적지 못한다."
그 한 줄이 350년짜리 사냥을 시작했어요.

오일러, 가우스 같은 수학 역사상 가장 위대한 천재들이 정면으로 달려들었지만 모두 실패했어요.
결국 풀이의 길을 열어준 사람은, 페르마를 풀려고 한 적이 없는 사람이었어요.
350년 동안 모두가 금고를 도끼로 부수려 했는데, 누군가 "옆방 열쇠만 찾으면 이 금고 자동으로 열린다"는 걸 먼저 증명한 격이에요.

리베가 1986년 두 추측을 잇는 다리를 놓았다

1986년 리베는 페르마를 풀지 않고도 페르마의 풀이 경로를 증명해버렸어요.

시작은 1984년 독일 수학자 게르하르트 프라이의 아이디어였어요.
프라이는 "만약 페르마의 정리가 거짓이라면, 그 반례로 아주 기묘한 타원곡선을 만들 수 있다"고 주장했어요.
타원곡선이란 y²=x³+ax+b 형태의 방정식으로 그려지는 곡선인데, 수론과 기하가 교차하는 현대 수학의 핵심 대상이에요.

그런데 프라이의 가상 곡선은 너무 이상해서, 타니야마-시무라 추측이 허용하는 범위 밖에 있을 것 같았어요.
타니야마-시무라 추측은 1955년 일본 수학자 타니야마와 시무라가 제안한 가설로, "모든 타원곡선은 모듈형이라는 대칭 구조와 본질적으로 같다"는 주장이에요.
쉽게 말하면, 겉보기엔 전혀 다른 두 수학 세계가 사실은 같은 언어로 쓰였다는 뜻이에요.

리베는 여기서 결정적인 한 수를 뒀어요.
그는 엡실론 정리를 증명해서, "타니야마-시무라 추측이 참이면 페르마의 마지막 정리도 자동으로 참"임을 보였어요.
목적지를 찾은 게 아니라, 다리를 먼저 완성한 셈이었어요.

보물의 위치는 몰라도 괜찮았어요.
"이 지도만 있으면 어디에 있든 보물을 찾을 수 있다"는 걸 먼저 증명한 거니까요.
이제 누군가 타니야마-시무라 추측만 풀면, 페르마는 저절로 따라오는 구조가 완성됐어요.

와일즈는 리베의 발표를 듣고 7년 칩거에 들어갔다

리베의 짧은 발표 한 번이, 와일즈의 7년을 송두리째 가져갔어요.

앤드루 와일즈는 영국 출신 수학자로, 어린 시절부터 페르마 정리에 매혹된 프린스턴 대학 교수였어요.
그는 1986년 리베의 증명 소식을 듣자마자 다른 모든 연구를 멈췄어요.
타니야마-시무라 추측만 풀면 페르마도 자동으로 풀린다는 그 사실이, 와일즈를 7년의 고독으로 밀어 넣었어요.

그 뒤 7년 동안 와일즈는 프린스턴 자택 다락방에서 홀로 타니야마-시무라 추측을 파고들었어요.
동료들에게도 거의 알리지 않았어요.
중간 결과를 발표했다가 경쟁에서 밀릴지 모른다는 두려움, 그리고 이 문제는 자신이 끝까지 풀어야 한다는 확신이 그를 그렇게 만들었어요.

1993년 케임브리지 강연에서 마침내 발표했을 때, 강의실의 수학자들은 그 의미를 단번에 알아챘어요.
와일즈가 세 번의 강연 끝에 칠판에 마지막 결론을 쓰고 "이 정도면 충분할 것 같다"고 말하자 박수가 터졌어요.
페르마의 마지막 정리가 풀린 순간이었어요.

와일즈가 박수받을 때 리베는 강의실에 남았다

1995년 와일즈가 페르마 정리를 풀었다는 소식이 세계에 퍼졌을 때, 리베는 그날도 버클리의 작은 강의실에 있었어요.

와일즈의 1993년 증명은 발표 직후 한 가지 오류가 발견됐어요.
그는 혼자 1년을 더 씨름해 1994년 수정본을 완성했고, 1995년 학계의 최종 인정을 받았어요.
세계 언론이 수학자의 얼굴을 1면에 실었는데, 그건 보기 드문 일이었어요.

그런데 리베의 이름은 대중에게 거의 전달되지 않았어요.
그는 UC 버클리에서 평소처럼 학부 수업을 계속했고, 수학계 안에서만 "리베의 정리"로 그의 공헌이 기록됐어요.
결승골을 넣은 사람의 이름은 세계가 기억하지만, 어시스트한 사람의 이름은 경기 기록을 꺼내야만 보이는 것처럼요.

페르마 정리의 역사에는 사실 세 겹의 이야기가 있어요.
1637년 페르마가 "증명은 있지만 여백이 좁다"고 남긴 그 여백, 1986년 리베가 "이 문만 열면 페르마가 따라온다"고 증명한 다리, 그리고 1995년 와일즈가 그 문을 실제로 열어젖힌 7년의 고독이에요.
세 겹 중 하나라도 없었다면 나머지는 의미를 잃었어요.

리베는 자신의 이름이 각주에 남는다는 걸 알면서도 다리를 놓았어요.
그렇다면, 우리가 기억하는 역사는 얼마나 많은 '리베'들을 각주 속에 두고 있는 걸까요.