세상에서 가장 유명한 묘비명

방탈출 카페에 가본 적 있나요? 문을 열려면 곳곳에 숨겨진 힌트를 모아 암호를 풀어야 합니다. 그런데 약 1700년 전, 누군가 자기 묘비에 이런 퍼즐을 새겨 넣었습니다. 죽어서까지 사람들에게 문제를 낸 겁니다.

그 주인공은 디오판토스. 고대 그리스의 수학자입니다.
묘비에는 이런 내용이 적혀 있었습니다.

"이 사람은 인생의 6분의 1을 소년으로, 12분의 1을 청년으로 보냈다. 그 뒤 인생의 7분의 1이 지나서 결혼했고, 결혼 5년 후 아들을 얻었다. 그 아들은 아버지 수명의 절반만 살고 세상을 떠났다. 아들을 잃고 4년 뒤, 이 사람도 생을 마감했다."

이걸 읽고 가만히 생각해보면, 디오판토스가 몇 살까지 살았는지 알 수 있습니다.
한번 풀어볼까요? 디오판토스의 나이를 x라고 놓겠습니다.

소년 시절(x/6) + 청년 시절(x/12) + 결혼까지(x/7) + 결혼 후 아들 탄생(5년) + 아들의 생애(x/2) + 아들 사후(4년) = x
이걸 계산하면 x = 84입니다. 디오판토스는 84세까지 살았다는 뜻이죠.

놀랍지 않나요? 묘비 하나가 수학 문제집이 된 겁니다. 이 사람은 살아서도, 죽어서도 수학이었습니다. 그리고 이 묘비의 주인공이 남긴 업적은 묘비의 퍼즐보다 훨씬 더 대단합니다.

대수학의 아버지가 산 시대

디오판토스는 대략 서기 200~290년경, 이집트 알렉산드리아에서 활동했습니다. 정확한 생몰년은 아무도 모릅니다. 아이러니하게도, 묘비 퍼즐이 그의 나이에 대한 거의 유일한 단서입니다.

당시 알렉산드리아는 지금으로 치면 실리콘밸리 같은 곳이었습니다. 지중해 무역의 중심지이자, 세계 최대의 도서관이 있던 학문의 수도. 유클리드, 에라토스테네스 같은 천재들이 이곳에서 연구했습니다.

그런데 이 시대의 수학에는 치명적인 불편함이 하나 있었습니다.
기호가 없었습니다.

지금 우리는 "2x + 3 = 7"이라고 쓰면 끝입니다. 하지만 디오판토스 이전 시대의 수학자들은 이걸 이렇게 썼습니다.
"어떤 수의 두 배에 셋을 더하면 일곱이 된다."
문장으로요. 마치 소설을 쓰듯이 수학을 했습니다.

이게 왜 문제냐고요? 카카오톡이 없던 시절을 생각해보세요. "내일 3시에 강남역 2번 출구에서 만나자"를 편지로 써야 했던 시대. 내용은 같은데 전달 속도와 정확성이 완전히 다릅니다.

디오판토스는 여기에 혁명을 일으켰습니다. 그는 미지수를 나타내는 약어를 만들고, 거듭제곱을 표현하는 기호를 도입했습니다. 완벽한 기호 체계는 아니었지만, "수학을 문장이 아니라 기호로 쓸 수 있다"는 아이디어를 처음 실천에 옮긴 사람이었습니다.

이것이 그가 "대수학의 아버지"라 불리는 이유입니다. 대수학(algebra)이라는 단어 자체는 나중에 아랍의 수학자 알콰리즈미에게서 왔지만, 그 씨앗을 뿌린 건 디오판토스였습니다.

그리고 그는 자신의 연구를 한 권의 책에 담았습니다. 《산술론(Arithmetica)》. 원래 13권이었다고 전해지지만, 현재 남아 있는 것은 6권뿐입니다. 나머지 7권은 역사 속에서 사라졌습니다.

하지만 남은 6권만으로도 충분했습니다. 이 책은 1700년 뒤에 수학 역사상 가장 유명한 사건을 일으키게 됩니다.

x를 찾아라 — 디오판토스가 바꾼 게임의 규칙

디오판토스가 특별한 이유를 이해하려면, 먼저 그가 다룬 문제의 종류를 알아야 합니다.

피자 한 판을 친구들과 나눈다고 생각해보세요. 3명이서 나누면 1인당 2.67조각? 그런 건 없습니다. 피자는 1조각, 2조각, 3조각처럼 깔끔하게 나눠야 합니다. 소수점이 붙은 피자 조각은 현실에 존재하지 않으니까요.

디오판토스가 관심을 가진 건 바로 이런 문제였습니다. 답이 반드시 정수(1, 2, 3 같은 깔끔한 수)여야 하는 방정식. 이걸 오늘날 디오판토스 방정식이라고 부릅니다.

예를 들어볼까요.
"사탕 30개를 형과 동생에게 나눠주는데, 형이 동생보다 정확히 6개 더 많이 받게 하라."

형이 받는 사탕을 x, 동생이 받는 사탕을 y라고 하면:

x + y = 30

x - y = 6

풀면 x = 18, y = 12. 깔끔합니다. 사탕 18.5개 같은 괴상한 답은 나오지 않습니다.
이게 뭐가 대단하냐고요?

디오판토스 방정식은 쉬운 것도 있지만, 어려운 것은 정말 악랄합니다. 겉보기엔 간단한 식인데, 정수로 된 답이 있는지 없는지조차 판별하기 어려운 경우가 있습니다.

가장 유명한 예가 이겁니다.
x² + y² = z²
이건 피타고라스 정리의 모양입니다. 정수로 된 답이 있을까요? 네, 있습니다. x=3, y=4, z=5가 되죠. 3² + 4² = 9 + 16 = 25 = 5². 완벽합니다.

그런데 여기서 제곱을 세제곱으로 바꾸면 어떨까요?
x³ + y³ = z³
정수로 된 답이 있을까요?
없습니다.

네제곱은요? 다섯제곱은요? n이 3 이상인 모든 경우에 답이 없습니다.
이걸 증명하는 데 인류는 350년이 걸렸습니다. 그리고 이 이야기의 시작은, 디오판토스의 책 여백에 끼적인 한 줄의 메모였습니다.

책 여백에 끼적인 한 줄이 350년을 태웠다

1637년, 프랑스의 법관이자 아마추어 수학자였던 피에르 드 페르마는 디오판토스의 《산술론》 라틴어 번역본을 읽고 있었습니다.

페르마는 특이한 습관이 있었습니다. 책을 읽다가 아이디어가 떠오르면 책 여백에 메모를 했습니다. 요즘으로 치면 전자책에 하이라이트하고 메모 남기는 것과 비슷합니다. 다만 그의 메모는 수학 역사를 바꿀 폭탄이었습니다.

피타고라스 정리(x² + y² = z²) 관련 문제를 읽던 페르마는 여백에 이렇게 적었습니다.

"n이 2보다 큰 정수일 때, xⁿ + yⁿ = zⁿ을 만족하는 양의 정수 x, y, z는 존재하지 않는다. 나는 이에 대한 경이로운 증명을 발견했으나, 여백이 너무 좁아 여기에 적지 못한다."

이 한 줄이 수학사에서 가장 유명한 미해결 문제가 되었습니다. 페르마의 마지막 정리.

"증명을 찾았는데 여백이 좁아서 못 적는다." 이게 말이 됩니까? 마치 "나 로또 1등 당첨됐는데 복권을 잃어버렸어"와 같은 느낌입니다.

학자들은 페르마가 정말 증명을 가지고 있었는지 의심합니다. 아마 본인이 착각했을 가능성이 높습니다. 왜냐하면, 이 문제를 실제로 증명하는 데는 페르마 시대에는 존재하지도 않았던 수학 도구가 필요했기 때문입니다.

그 뒤 350년 동안, 세계 최고의 수학자들이 이 문제에 도전했습니다. 오일러, 르장드르, 쿠머, 소피 제르맹... 천재들이 부분적인 성과를 냈지만, 완전한 증명은 아무도 해내지 못했습니다.

그리고 1995년, 영국의 수학자 앤드류 와일스가 마침내 증명에 성공합니다.

와일스는 10살 때 도서관에서 이 문제를 처음 접했습니다. 그리고 30년을 기다렸습니다. 프린스턴 대학 교수가 된 뒤, 7년 동안 다락방에 틀어박혀 비밀리에 연구했습니다. 가족과 동료에게도 말하지 않았습니다.

1993년, 와일스는 케임브리지에서 열린 강연에서 증명을 발표합니다. 강연장은 난리가 났습니다. 하지만 기쁨은 오래가지 않았습니다. 검증 과정에서 치명적인 오류가 발견된 것입니다.

와일스는 절망했습니다. 포기할 뻔했습니다. 하지만 1년간의 사투 끝에 오류를 수정하고, 1995년 최종 증명을 완성합니다. 논문 분량은 129쪽. 페르마가 "여백이 좁아서"라고 했던 것을 생각하면, 350년의 무게가 느껴집니다.

디오판토스의 책 한 권이, 페르마의 메모 한 줄이, 와일스의 인생 30년이. 이렇게 수학은 세대를 넘어 이어집니다.

당신의 카드 결제를 지키는 고대 수학

"그래서 디오판토스 방정식이 내 삶과 무슨 상관인데?"
아주 큰 상관이 있습니다.

지금 이 순간에도 당신의 스마트폰은 디오판토스의 후예들이 만든 수학으로 보호받고 있습니다.

온라인 쇼핑을 할 때, 카드 번호를 입력하면 그 정보는 암호화되어 전송됩니다. 이때 사용되는 대표적인 암호 체계가 RSA 암호입니다.
RSA의 원리를 아주 간단히 말하면 이렇습니다.

큰 수 두 개를 곱하는 건 쉽습니다. 계산기로 1초면 됩니다. 하지만 그 결과를 보고 원래 두 수가 뭐였는지 역추적하는 건 엄청나게 어렵습니다.

비유하자면, 달걀 두 개를 깨서 섞는 건 3초면 됩니다. 하지만 섞인 달걀을 보고 원래 달걀 두 개로 되돌리는 건 불가능합니다. RSA는 이 "한쪽 방향은 쉽지만 반대 방향은 거의 불가능한" 수학적 성질을 이용합니다.

그리고 이 과정의 핵심에 정수론이 있습니다. 소수의 성질, 나머지 연산, 그리고 디오판토스가 연구했던 "정수로만 답이 나오는 방정식"의 세계. RSA에서 키를 생성하는 과정은 본질적으로 디오판토스 방정식을 푸는 것과 같은 구조입니다.

암호학만이 아닙니다. 디오판토스 방정식은 컴퓨터 과학에서도 핵심적인 역할을 합니다. 1970년, 러시아의 수학자 유리 마티야세비치는 "디오판토스 방정식의 해가 존재하는지 판별하는 일반적인 알고리즘은 없다"는 것을 증명했습니다.

이건 무슨 뜻이냐면, 아무리 뛰어난 컴퓨터를 만들어도 모든 디오판토스 방정식을 풀 수 있는 만능 프로그램은 존재하지 않는다는 뜻입니다. 컴퓨터에도 한계가 있다는 걸 보여주는 결과입니다.

1700년 전 알렉산드리아의 수학자가 던진 질문들이 오늘날 우리의 비밀번호를 지키고, 컴퓨터의 한계를 알려주고 있습니다.

디오판토스의 묘비에 새겨진 퍼즐은 84라는 숫자로 끝났습니다. 하지만 그가 시작한 질문은 끝나지 않았습니다. 페르마를 거쳐 와일스에게, 와일스를 거쳐 현대 암호학에, 그리고 지금 이 글을 읽는 당신의 스마트폰까지. 좋은 질문은 답보다 오래 삽니다.