아티야가 89세에 도전한 리만가설과 지표 정리의 일생

수학자 아티야가 89세에 리만가설을 들고 무대에 올랐다

2018년 9월 24일, 마이클 아티야는 독일 하이델베르크에서 전 세계 수학자들 앞에 섰어요.
그의 나이 89세였고, 손에는 160년 동안 아무도 풀지 못한 문제의 증명이 담긴 원고가 들려 있었어요.

그 문제는 리만 가설이에요.
1859년 수학자 베른하르트 리만이 제기한 추측으로, 소수(1과 자기 자신으로만 나누어지는 수: 2, 3, 5, 7…)가 수직선 위에서 어떤 규칙으로 분포하는지를 설명하려는 명제예요.
클레이 수학연구소가 100만 달러짜리 난제 7개 중 하나로 지정할 만큼, 수학에서 가장 유명하고 가장 오래된 미해결 문제예요.

하이델베르크 수상자 포럼은 필즈상과 튜링상 수상자들이 모이는 학술 행사예요.
쉽게 말해, 수학과 컴퓨터과학에서 가장 영예로운 상을 받은 사람들만 초청되는 자리예요.
그 무대에서 아티야가 "내가 풀었다"고 선언한 거예요.

청중은 숨을 죽였어요.
60년 경력의 거장이 마지막 무대에서 가장 큰 도박을 꺼낸 장면이었으니까요.

수단에서 자란 아티야는 영국 수학계의 정상에 올랐다

아티야는 1929년 런던에서 태어났지만, 정작 어린 시절은 북아프리카에서 보냈어요.
레바논 출신 아버지를 따라 수단의 수도 카르툼으로 이사했는데, 카르툼은 당시 영국과 이집트가 함께 통치하던 식민지 도시였어요.

집에서는 아랍어, 학교에서는 영어, 가끔은 프랑스어까지 써야 했어요.
세 언어 사이를 오가며 자란 소년은 결국 언어보다 훨씬 보편적인 도구, 즉 수학 쪽으로 끌렸어요.
그리고 그 선택이 그를 영국 수학계의 정점으로 데려갔어요.

케임브리지대학교를 거쳐 수십 년을 연구한 끝에, 아티야는 필즈상(1966년)과 에이블상(2004년)을 모두 받았어요.
필즈상은 40세 미만 수학자에게 주는 상으로, 흔히 수학의 노벨상이라 불려요.
에이블상은 살아 있는 수학자 전체를 대상으로 평생의 업적을 기리는 상이고요.

두 상을 모두 받은 사람은 전 세계에 손가락으로 꼽을 정도예요.
수단에서 세 언어 사이를 헤매던 그 소년이요.

아티야와 싱어가 수학의 세 분야를 하나로 묶었다

1963년, 아티야는 미국 수학자 이저도어 싱어와 함께 수학사에 남을 결과를 발표했어요.
바로 아티야-싱어 지표 정리예요.

이걸 이해하려면, 먼저 수학의 세 분야가 수백 년 동안 서로 전혀 다른 언어를 써왔다는 걸 알아야 해요.
해석학은 미적분처럼 연속적으로 변하는 것을 다루고, 위상학은 공간이 어떻게 연결되어 있는지 모양을 연구하고, 기하학은 도형과 거리를 다뤄요.
마치 요리사, 건축가, 음악가가 각자의 세계에서 100년씩 따로 발전한 것처럼, 이 세 분야는 서로 무관해 보였어요.

그런데 아티야-싱어 지표 정리가 이렇게 말했어요.
"그것들이 사실 같은 이야기야. 표현만 다를 뿐이야."
한국어, 일본어, 중국어가 서로 다른 언어처럼 보이지만 사실 같은 한자 어원을 공유한다는 걸 발견한 것과 비슷한 충격이었어요.

이 정리는 수학 내부의 이야기로 끝나지 않았어요.
물리학자들이 소립자 이론을 연구할 때 이 정리가 예상치 못한 곳에서 계속 튀어나왔어요.
20세기 수학에서 이렇게 넓은 범위에 걸쳐 다리를 놓은 결과는 드물어요.

동료 수학자들은 아티야의 마지막 증명을 받아들이지 않았다

2018년의 발표 직후, 수학계는 조용히 아티야의 원고를 검토하기 시작했어요.
그리고 결론은 냉정했어요.

핵심 보조정리에 결함이 있다는 지적이 잇따랐어요.
보조정리란 더 큰 증명을 받치는 작은 전제인데, 그 기초가 흔들린다는 거였어요.
아티야는 포기하지 않고 추가 원고를 작성해 반박하려 했지만, 학계의 동의를 얻지 못했어요.

그리고 2019년 1월 11일, 89세로 세상을 떠났어요.

평생 거장으로 인정받은 화가의 마지막 그림이 비평가들에게 외면당하는 장면, 딱 그랬어요.
필즈상과 에이블상을 모두 받은 사람의 마지막 작품이 그의 동료들에 의해 거절된 거예요.

하지만 이상하게도, 이 실패가 아티야를 더 크게 보이게 만드는 것 같아요.
89세에 100만 달러짜리 난제에 도전한 사람이 얼마나 되겠어요.
거절이 두려워서 멈춘 것이 아니라, 마지막 순간까지 가장 어려운 문제를 붙잡고 있었다는 사실, 그게 어쩌면 아티야의 진짜 정체성이었을지 몰라요.