스웨덴 왕 오스카 2세가 1887년 수학 현상금을 걸었다

1887년, 스웨덴 국왕은 누구도 풀지 못한 수학 문제 하나에 자기 생일 상금을 걸었다.
오스카 2세가 60세 생일을 기념해 연 콘테스트였는데, 문제는 네 가지였다.
그중 첫 번째가 단연 압도적이었다.

"태양계는 영원히 안정한가?"

이 질문, 얼핏 들으면 철학 같지만 실제로는 수학 문제다.
태양과 지구, 달처럼 세 천체가 서로 중력으로 끌어당길 때 그 궤도를 정확히 예측할 수 있는가를 묻는 거다.
이걸 3체 문제라고 부른다.

두 천체는 뉴턴이 이미 풀었다.
하지만 셋이 되는 순간 방정식이 폭발적으로 복잡해진다.
두 사람의 대화는 기록할 수 있지만, 세 사람이 동시에 끼어드는 순간 전체 흐름을 따라가기가 불가능해지는 것과 같다.

1889년, 앙리 푸앵카레가 우승했다.
프랑스 출신의 이 수학자는 2,500크라운의 상금과 함께 메달을 손에 쥐었다.
그런데 진짜 시험은 그다음에 시작됐다.

수학자 푸앵카레는 상을 받고서야 자기 논문의 오류를 발견했다

상금은 이미 그의 손에 있었다.
그리고 인쇄소에서는 그의 오답이 막 책장으로 묶이고 있었다.

콘테스트를 주관한 스웨덴 수학자 미타크-레플러가 편집장으로서 논문을 학술지에 싣는 작업을 진행하고 있었다.
교정 과정에서 미타크-레플러가 몇 가지를 물어왔다.
그 대화 속에서 푸앵카레는 자신이 치명적인 계산 오류를 범했다는 걸 알아챘다.

이미 사본은 유럽 곳곳으로 발송되고 있었다.
만점 답안지가 발표된 다음 날, 내가 한 문제를 틀렸다는 걸 나만 알아버린 상황이라고 생각해봐.
침묵하면 아무도 모른다.

그런데 푸앵카레는 침묵하지 않았다.
그는 곧장 미타크-레플러에게 연락했다.
오류가 있으니 인쇄를 멈춰달라는 내용이었다.

그는 자기 돈 3,500크라운으로 이미 풀린 사본을 모두 회수했다

받은 상금보다 더 많은 돈을 자기 손으로 토해냈다.
그 대가로, 한 세기를 앞선 발견을 얻었다.

상금이 2,500크라운이었는데, 회수 비용은 3,500크라운이었다.
이미 배포된 학술지 사본을 한 권씩 거둬들이는 데 받은 것보다 천 크라운이 더 들었다.
베스트셀러를 자기 돈으로 시장에서 전부 사들여 폐기한 작가가 개정판을 새로 쓰는 셈이었다.

그런데 논문을 처음부터 다시 쓰다가 이상한 걸 발견했다.
오류를 수정하려고 방정식을 다시 들여다보던 푸앵카레는, 결정론적인 법칙을 따르는데도 결과를 예측할 수 없는 궤도를 마주쳤다.
뉴턴 법칙은 분명한데, 시간이 지나면 어디로 갈지 도무지 계산이 안 됐다.

바로 혼돈 이론의 출발점이다.
초기 조건의 아주 작은 차이가 시간이 지나면서 완전히 다른 결과를 만들어낸다는 발상이다.
나중에 '나비 한 마리의 날갯짓이 반대편에 태풍을 일으킨다'는 비유로 유명해지는 그 개념이다.

인쇄소에 수거 명령을 내리지 않았다면 이 발견은 없었다.
오류를 덮고 넘어갔다면 그 방정식을 다시 뜯어볼 이유가 없었다.
실수를 인정한 대가로 완전히 새로운 수학 영역이 열린 거다.

푸앵카레가 1904년 던진 한 문장은 100년 뒤에야 풀렸다

1904년, 푸앵카레는 단 한 문장의 질문을 남겼다.
그 문장을 푸는 데 인류는 100년을 썼다.

짧은 논문 끝에 그는 이렇게 물었다.
"3차원 공간에서 구멍이 없는 닫힌 곡면은 모두 구와 같은가?"
이것이 이른바 푸앵카레 추측이다.

풀어서 이야기하면 이렇다.
어떤 3차원 도형의 표면에 고무줄을 감았을 때, 끊지 않고 한 점으로 오므릴 수 있다면 그 도형은 결국 구와 같다고 볼 수 있는가라는 질문이다.
도넛은 구멍에 고무줄이 걸려서 안 되지만, 구는 어디서 감아도 오므라든다.

이 한 줄짜리 질문에 20세기 최고의 수학자들이 덤볐다.
그리고 2003년, 그리고리 페렐만이 마침내 증명해냈다.
러시아 상트페테르부르크 출신의 이 수학자는 논문을 인터넷에 조용히 올리고 수학계에서 사라졌다.

클레이 수학연구소가 그에게 밀레니엄 수학 난제 해결 상금으로 100만 달러를 수여했다.
수학계 최고 영예인 필즈상 수상자로도 선정됐다.
페렐만은 둘 다 거절했다.

"나는 진리에 관심이 있지, 돈이나 명예에는 관심이 없어."

100년 전, 푸앵카레는 받은 상금을 자기 손으로 토해냈다.
100년 뒤, 그의 질문을 푼 사람은 상금 자체를 거부했다.
이 두 사람이 가장 닮은 지점은, 수식이 아니라 그 태도였는지도 모른다.