프랑수아 비에트 대수학, x 하나로 수학의 언어를 바꾼 이야기

x가 없던 시대를 상상해 보라

학교에서 수학 시간에 이런 문제를 풀어본 적 있을 것이다.

"x + 3 = 7일 때, x는?"

너무 쉽다. x는 4다. 우리는 x라는 글자 하나로 "아직 모르는 수"를 표현할 수 있다. 너무 당연해서 이게 대단한 일이라고 느끼지 못한다.

그런데 만약 x라는 개념 자체가 없다면 어떨까?

1500년대의 수학자들은 진짜로 그렇게 살았다. 그들은 이 문제를 이렇게 써야 했다.

"어떤 수에 3을 더하면 7이 된다. 그 수를 구하라."

한 줄이면 될 것을 한 문단으로 써야 했다. 조금만 복잡해지면 문장이 소설처럼 길어졌다. 미지수가 두 개면? 세 개면? 머리가 아프다. 문장으로 수학을 하는 건, 말로 그림을 그리는 것과 비슷했다. 할 수는 있지만, 끔찍하게 비효율적이다.

이 답답한 세상에 혁명을 일으킨 사람이 있다. 놀랍게도 그는 수학 교수가 아니었다. 변호사였다.

그의 이름은 프랑수아 비에트.

낮에는 변호사, 밤에는 수학자

1540년, 프랑스 서부의 작은 도시 퐁트네르콩트에서 한 아이가 태어났다. 아버지는 변호사였고, 아들도 당연히 법학을 공부했다. 비에트는 푸아티에 대학에서 법학 학위를 받고, 변호사로 일하기 시작했다.

하지만 그에게는 비밀이 있었다. 낮에는 법정에서 변론을 하고, 밤에는 촛불 아래에서 숫자와 씨름했다. 수학은 그의 직업이 아니었다. 취미였다. 오늘날로 치면, 낮에는 회사에 다니고 밤에는 유튜브 채널을 운영하는 직장인과 비슷하다.

그의 실력이 어찌나 뛰어났는지, 프랑스 국왕 앙리 3세가 그를 궁정으로 불러들였다. 처음에는 법률 고문으로서였다. 하지만 왕은 곧 비에트의 진짜 재능이 어디에 있는지 알게 된다.

전쟁이 터졌기 때문이다.

스페인 왕의 비밀편지를 깨부수다

16세기 유럽은 전쟁의 시대였다. 프랑스와 스페인은 끊임없이 다투고 있었다. 전쟁에서 가장 중요한 것 중 하나는 정보다. 적의 작전을 미리 알면 전투에서 이길 수 있다.

스페인의 펠리페 2세는 자신만만했다. 그의 군대는 500개가 넘는 기호로 이루어진 암호 체계를 사용하고 있었다. 당시로서는 최첨단이었다. 글자를 단순히 다른 글자로 바꾸는 수준이 아니라, 단어 전체를 특수 기호로 치환하는 복잡한 방식이었다.

"이건 절대 깨지지 않아."

스페인은 그렇게 믿었다.

프랑스 궁정은 가로챈 스페인의 편지들을 비에트에게 건넸다. 비에트는 편지들을 펼쳐놓고 패턴을 찾기 시작했다. 암호 해독의 원리는 생각보다 단순하다. 예를 들어, 한국어에서 가장 자주 쓰는 글자는 "이"와 "는"이다. 암호문에서 가장 자주 등장하는 기호가 있다면, 그것이 자주 쓰이는 단어일 가능성이 높다. 이런 식으로 실마리를 하나씩 풀어간다.

비에트는 해냈다. 몇 주에 걸쳐, 500개가 넘는 기호의 의미를 하나씩 밝혀냈다. 프랑스는 스페인의 군사 작전을 미리 알 수 있게 되었다.

여기서 재미있는 일이 벌어진다.

스페인의 펠리페 2세는 자신들의 작전이 번번이 새나가는 게 이상했다. 조사를 해봐도 스파이는 없었다. 그의 암호는 완벽했으니 해독당했을 리가 없었다. 그렇다면 남은 설명은 하나뿐이었다.

마법.

펠리페 2세는 교황 클레멘스 8세에게 정식으로 항의했다. "프랑스가 악마의 마법을 써서 우리 암호를 읽고 있습니다!" 교황청에 프랑스를 이단으로 고발한 것이다. 물론 교황청은 이 주장을 심각하게 받아들이지 않았다. 하지만 이 에피소드는 비에트의 능력이 얼마나 경이로웠는지를 보여준다. 적국의 왕이 "이건 인간이 할 수 있는 일이 아니다"라고 판단할 정도였으니까.

"문자로 생각하라" — 수학의 언어가 태어난 순간

비에트의 진짜 위대함은 암호 해독이 아니다. 그것은 전쟁 중의 부업이었을 뿐이다. 그의 본업 — 아니, 본취미 — 은 수학의 언어를 발명하는 것이었다.

1591년, 비에트는 《분석술 입문(In Artem Analyticem Isagoge)》이라는 책을 펴낸다. 이 책에서 그는 혁명적인 제안을 한다.

"모르는 수는 모음(A, E, I, O, U)으로, 아는 수는 자음(B, C, D, F, G…)으로 쓰자."

이게 왜 혁명인지, 비유로 설명해 보겠다.

요리 레시피를 상상해 보자. 비에트 이전의 수학은 이런 식이었다.

"밀가루 이백 그램에 설탕 오십 그램을 넣고 달걀 두 개를 깨뜨려 넣은 뒤 우유 백 밀리리터를 부어 섞는다."

비에트가 한 일은, 이것을 이렇게 바꾼 것이다.

"A그램의 밀가루 + B그램의 설탕 + C개의 달걀 + D밀리리터의 우유"

첫 번째 레시피는 팬케이크 하나만 만들 수 있다. 하지만 두 번째 레시피는 A, B, C, D에 다른 숫자를 넣으면 쿠키도, 빵도, 케이크도 만들 수 있다. 하나의 공식으로 무한한 문제를 다룰 수 있게 된 것이다.

이것이 비에트의 혁명이다. 구체적인 숫자 대신 문자를 사용함으로써, 수학은 "하나의 문제를 푸는 도구"에서 "모든 문제를 한꺼번에 다루는 언어"로 진화했다.

비에트는 이 새로운 방법을 "종의 계산(logistice speciosa)"이라고 불렀다. 구체적인 숫자가 아니라 "종류(species)" — 즉, 문자로 계산한다는 뜻이다. 오늘날 우리가 "대수학(algebra)"이라고 부르는 것의 근대적 출발점이 바로 여기다.

물론, 비에트의 표기법이 바로 오늘날의 x, y, z가 된 것은 아니다. 그가 모음과 자음을 사용한 체계는 나중에 데카르트가 알파벳 끝쪽 문자(x, y, z)는 미지수로, 앞쪽 문자(a, b, c)는 기지수로 쓰는 방식으로 다듬었다. 하지만 "문자로 수를 대신하자"는 핵심 아이디어는 비에트가 처음 제안한 것이다. 데카르트는 비에트가 놓은 철로 위를 달린 기차였다.

비에트는 또 하나의 업적을 남겼다. 원주율 π를 무한곱으로 표현하는 공식을 최초로 발견한 것이다. 수학 역사상 처음으로 무한히 이어지는 계산을 통해 π에 다가간 사람이 비에트였다. 이 공식은 수학에서 "무한"이라는 개념을 다루기 시작한 이정표로 평가받는다.

당신의 스마트폰 속에 살아있는 비에트

지금 당신의 주머니 속 스마트폰을 꺼내 보자.

엑셀이나 구글 시트를 열면, 셀에 "=A1+B1"이라고 적는다. A1과 B1은 아직 무슨 숫자가 들어올지 모르는 칸이다. 어떤 숫자를 넣든 공식은 작동한다. 이것이 비에트의 아이디어다.

프로그래밍을 배운 적이 있다면, 변수를 선언하는 순간을 기억할 것이다.

# 가격을 담는 변수
price = 1000
# 수량을 담는 변수
quantity = 5
# 총액을 계산
total = price * quantity

price, quantity, total. 이 변수들은 비에트가 400년 전에 시작한 생각의 직계 후손이다. "구체적인 숫자 대신 이름을 붙여 생각하자." 이 단순한 아이디어가 스프레드시트를 만들었고, 프로그래밍 언어를 만들었고, 인공지능 알고리즘을 만들었다.

비에트가 없었다면 어땠을까? 아마 누군가 다른 사람이 비슷한 생각을 했을 것이다. 하지만 그 "누군가"가 나타나기까지 수십 년, 어쩌면 수백 년이 더 걸렸을 수도 있다. 수학의 발전이 그만큼 늦어졌을 것이고, 과학혁명도, 산업혁명도, 디지털 혁명도 지금과는 다른 타임라인 위에 놓였을 것이다.

1603년, 비에트는 63세의 나이로 세상을 떠났다. 그는 끝까지 수학 교수가 되지 않았다. 공식 직함은 여전히 왕의 법률 고문이었다. 수학은 끝내 그의 "취미"로 남았다.

하지만 그 취미가 세상을 바꿨다.

오늘 밤, 수학 숙제를 하면서 x를 쓸 때, 엑셀에서 수식을 입력할 때, 혹은 코드에서 변수를 선언할 때, 잠깐 떠올려 주면 좋겠다. 400년 전, 프랑스의 어느 변호사가 촛불 아래에서 이 모든 것의 씨앗을 심었다는 것을.