앤드루 와일스 페르마의 마지막 정리, 7년 다락방 끝에 찾은 증명

열 살짜리가 도서관에서 집어 든 책 한 권이 인생 전체를 결정했다

1963년 어느 오후, 영국의 열 살짜리 소년이 도서관 선반에서 뽑은 책 한 권이 그의 인생 전부를 삼켜버렸다.

앤드루 와일스는 케임브리지의 동네 도서관에서 에릭 템플 벨의 『최후의 문제』를 발견했다.
이 책이 다루는 건 1637년 프랑스 수학자 피에르 드 페르마가 어느 책의 여백에 남긴 낙서 한 줄이었다.
"나는 경이로운 증명을 찾아냈다. 다만 여백이 너무 좁아 여기에는 적을 수 없다."

그 한 줄 때문에 이후 358년간 세계 최고의 수학자들이 달려들었다가 전부 손을 놓았다.
열 살의 와일스는 그 사실을 알면서도 이렇게 생각했다. "나도 풀 수 있을 것 같은데."
무모한 생각이었다. 그런데 그 무모함은 30년 뒤에 현실이 됐다.

초등학생 때 다큐멘터리 한 편에 꽂혀 "나도 저거 해봐야지" 했다가 일주일 만에 잊어버린 경험, 누구나 한 번쯤 있을 것이다.
와일스는 그걸 잊지 않았다. 30년 동안.

아내에게도 말하지 않은 7년간의 다락방 작업이 있었다

프린스턴 대학의 동료들은 앤드루 와일스가 슬럼프에 빠졌다고 생각했다.
논문이 뜸해졌고, 세미나에도 잘 나오지 않았다.
아무도 그가 다락방에서 무슨 일을 하고 있는지 몰랐다.

1986년, 동료 수학자 켄 리벳이 중요한 연결고리를 발견했다.
타니야마-시무라 추측, 쉽게 말하면 "서로 완전히 달라 보이는 두 종류의 수학적 구조가 사실은 같은 것"이라는 가설이 페르마의 정리와 이어진다는 사실이었다.
와일스는 그 소식을 듣자마자 다른 모든 연구를 멈추고 다락방 문을 닫았다.

현대 학계에서 7년간 눈에 띄는 성과 없이 비밀 연구를 한다는 건 커리어 자살에 가깝다.
실패하면 40대를 통째로 날리는 도박이었다.
와일스는 의심을 피하기 위해 관련 없는 논문을 간간이 발표하며 연기까지 했다.

아내에게도 말하지 않았다.
혼자였다.
7년 동안.

세기의 증명을 발표한 다음 날, 증명에 구멍이 뚫렸다

1993년 6월 23일, 강연장을 가득 채운 수학자들이 기립박수를 쳤다.
그로부터 두 달 뒤, 와일스는 자신의 증명에 구멍이 있다는 사실을 알게 됐다.

와일스는 케임브리지 대학 뉴턴 연구소에서 사흘에 걸쳐 강연했다.
358년의 문제가 풀렸다는 소식은 그날 바로 전 세계 언론을 탔다.
수학계 바깥에서도 "인류가 불가능한 걸 해냈다"는 식으로 대서특필됐다.

그런데 동료 수학자 닉 카츠가 심사 과정에서 증명의 핵심 부분에 치명적 오류를 발견했다.
회사 전체 앞에서 큰 프레젠테이션을 성공적으로 마친 뒤, 다음 날 핵심 데이터에 오류가 있었다는 이메일을 받는 상황이라고 생각해보면 감이 올 것이다.
다만 와일스의 경우, 그 프레젠테이션을 전 세계가 보고 있었다.

와일스는 1년 넘게 오류를 수정하려 했다.
번번이 실패했다.
포기 직전까지 갔다.

포기하기로 한 바로 그 아침에 답이 보였다

와일스가 포기를 결심한 날 아침, 쓰레기통에 버렸던 종이 위의 낡은 아이디어가 눈에 들어왔다.

1994년 9월 19일이었다.
와일스는 제자 리처드 테일러와 함께 오류를 잡으려 했지만 이미 한계였고, 공식적으로 포기를 선언하려던 참이었다.
그런데 그 아침, 이전에 막다른 길이라 판단해 폐기했던 접근법인 이와사와 이론, 쉽게 말하면 수 사이의 특정 패턴을 추적하는 정수론 기법을 다시 들여다봤다.

그 순간 와일스는 깨달았다.
버렸던 이 방법이 지금 자신이 쓰는 방법과 합쳐지면, 오류가 완벽하게 메워진다는 것을.
나중에 와일스는 그 순간을 이렇게 표현했다. "믿을 수가 없을 만큼 아름다웠어요. 너무 경이로워서 한동안 그냥 바라보고 있었습니다. 그렇게 20분을 멍하니 있다가 다시 확인했죠. 아직도 거기 있었어요."

358년짜리 문제의 마지막 열쇠는, 와일스가 스스로 버렸던 아이디어 속에 있었다.

최종 증명은 129쪽이었고, 1995년 수학 최고 권위지 『수학연보』에 실렸다.
그런데 수학의 노벨상이라 불리는 필즈상은 40세 미만에게만 수여되는데, 당시 와일스는 41세였다.
딱 한 살 차이로 자격이 없었다.

그러자 국제수학연맹은 전례 없는 결정을 내렸다.
와일스를 위해 특별 은판상을 새로 만들어 수여한 것이다.
규칙에 딱 한 발짝 어긋났을 때, 세상이 규칙 대신 상을 새로 만들어주는 경우는 얼마나 될까.