보에보드스키 수학 형식화, 필즈상 받고도 자기 손을 믿지 않았다

대학에서 쫓겨난 학생이 하버드 박사과정에 초청받았다

졸업장이 없었다.
성적표도 없었다.
그런데 하버드가 먼저 전화를 걸었다.

블라디미르 보에보드스키는 모스크바 국립대학교 재학 시절, 수업에 거의 나타나지 않았다.
교수의 강의를 듣는 대신 혼자 논문을 썼다.
결과는 사실상 퇴학이었다.

그런데 그가 혼자 써서 돌린 논문들이 이상하게도 서방 수학계에 흘러들어갔다.
읽은 사람들이 하나같이 같은 반응을 보였다. "이게 누구야?"
결국 1990년, 하버드 대학원이 그를 정식 학위 없이 박사과정에 받아들였다.

오늘날로 치면 이력서 한 줄 없이, 깃허브 포트폴리오만으로 구글 본사에서 직접 연락이 온 것과 같다.
제도가 거부한 사람을 제도의 정점이 끌어올린 셈이었다.

아무도 반박하지 못한 증명으로 수학계의 왕관을 썼다

30년 동안 수학자들이 풀지 못한 문제 앞에서, 보에보드스키는 답을 찾는 대신 질문의 언어 자체를 바꿔버렸다.

당시 수학계에는 밀너 추측이라는 난제가 있었다.
대수적 구조들 사이의 숨겨진 관계를 기술한 이 문제는, 1970년대에 제기된 이후 30년간 아무도 건드리지 못하고 있었다.
보에보드스키가 선택한 무기는 기존 수학 언어가 아니었다.

그는 동기 코호몰로지라는 완전히 새로운 수학적 도구를 직접 만들었다.
코호몰로지란 쉽게 말해, 어떤 공간의 구멍이나 뒤틀림을 수치로 포착하는 방법이다.
보에보드스키는 이 개념을 대수기하학이라는 전혀 다른 세계로 가져와, 기존에 없던 언어로 30년 묵은 문제를 해독했다.

외국어 시험에서 기존 사전이 부족하다고 느끼자, 아예 새 사전을 만들어 시험을 통과한 격이었다.
그 공로로 보에보드스키는 2002년 필즈상을 받았다.
필즈상은 4년마다 한 번, 40세 미만의 수학자에게만 주어지는 수학계의 노벨상이다.

졸업장 없이 시작한 사람이, 수학계가 반세기 동안 풀지 못한 문제를 새 언어를 발명해서 풀어버렸다.

왕관을 쓴 직후, 자기 왕국이 모래 위에 세워졌음을 알았다

수학은 절대 틀리지 않는다고 우리는 배웠다.
필즈상 수상자 본인이 자기 증명에서 오류를 찾기 전까지는.

필즈상을 받고 얼마 지나지 않아, 보에보드스키는 자신이 1998년에 발표했던 핵심 논문을 다시 들여다보기 시작했다.
그리고 심각한 오류를 발견했다.
더 충격적인 건 그다음이었다.

수년 동안 전 세계 수학자들이 그 논문을 읽고 인용했는데, 아무도 그 오류를 발견하지 못했다.
그는 거기서 멈추지 않고 다른 유명 수학자들의 논문들도 뒤지기 시작했다.
결과는 더 암울했다. 검증되지 않은 오류들이 곳곳에 조용히 자리를 잡고 있었다.

건물을 다 지은 뒤, 설계도에 계산 실수가 있었다는 걸 아무도 몰랐던 상황이다.
그런데 그 설계도를 제대로 검토할 자격이 있는 사람이 지구에 열 명뿐이라면?
그게 수학의 최전선이 처한 현실이었다.

증명이 워낙 복잡하고 고도화되다 보니, 틀렸는지 맞았는지조차 확인할 수 있는 사람이 사실상 없는 구조가 만들어진 것이다.
수학은 가장 엄밀한 학문이라 불리지만, 그 정상에서는 신뢰가 아니라 믿음으로 돌아가고 있었다.

인간 대신 기계에게 수학을 맡기겠다는 필즈상 수상자의 선언

동료들은 물었다.
왜 세상에서 가장 아름다운 수학을 버리고 컴퓨터 앞에 앉아 있느냐고.
그의 대답은 간단했다. "아름다운 증명이 틀렸으면 아무 소용이 없으니까."

보에보드스키는 결심했다.
남은 경력 전부를 수학의 검증 문제에 쏟겠다고.
그가 택한 방향은 단가 기초론이었다. 호모토피 유형 이론에 기반해 수학 전체의 토대를 새로 쌓으려는 시도로, 한마디로 수학이라는 건물의 설계도 자체를 다시 쓰겠다는 선언이었다.

그는 Coq라는 증명 보조 소프트웨어를 사용해 수학적 명제를 컴퓨터가 한 줄씩 검증할 수 있는 형태로 변환하는 작업에 몰두했다.
추상대수기하학의 영광을 뒤로하고, 그는 프로그래머처럼 코드를 짰다.
동료들 눈에 그건 퇴보처럼 보였다.

미슐랭 3스타 셰프가 어느 날 "사실 우리 모두 식중독 위험을 무시하고 있다"며 주방 문을 닫고 식품 안전 시스템을 만들기 시작한 것과 같았다.
가장 아름다운 요리를 하던 사람이, 요리보다 안전을 택한 것이다.

그는 2017년, 51세에 갑작스럽게 세상을 떠났다.
작업은 미완으로 남았다.
하지만 그가 던진 질문은 지금도 수학계 안에서 살아 움직이고 있다.

"우리가 옳다고 믿는 것들 중에, 실제로 검증된 건 얼마나 될까?"