딥러닝의 아버지 제프리 힌턴은 왜 자기가 키운 인공지능을 걱정할까요

컴퓨터에게 고양이를 가르치는 일

어린아이에게 고양이를 알려 줄 때 우리는 규칙을 외우게 하지 않아요. 그냥 길에서, 그림책에서, 영상에서 고양이를 수십 번 보여 줄 뿐이죠. 그러면 아이는 어느 순간 처음 보는 고양이도 "고양이!" 하고 알아챕니다.

그런데 옛날 컴퓨터는 이게 정말 안 됐어요. 사람이 "귀가 뾰족하고, 수염이 있고, 털이 있으면 고양이"라고 규칙을 하나하나 적어 줘야 했거든요. 하지만 귀가 접힌 고양이, 털 없는 고양이도 있잖아요. 규칙은 금방 한계에 부딪혔습니다. 제프리 힌턴이라는 과학자는 평생 이 질문에 매달렸어요. 컴퓨터도 아이처럼 그냥 보면서 스스로 배우게 할 수 없을까 하고요.

뇌를 살짝 흉내 낸 계산기

힌턴이 주목한 건 우리 머릿속 뇌였어요. 뇌에는 신경세포가 수백억 개나 있는데, 서로 손을 잡듯 연결되어 신호를 주고받아요. 어떤 연결은 세게, 어떤 연결은 약하게요.

그래서 그는 이걸 컴퓨터 안에 흉내 내 봤어요. 작은 계산 단위 수천, 수만 개를 층층이 쌓고 서로 연결한 거예요. 이걸 신경망이라고 불러요. 앞층이 "여기 뾰족한 선이 있네" 하고 알아채면, 뒷층이 "아, 그럼 귀인가 보다" 하고 이어받는 식이죠. 층이 깊게 쌓였다고 해서 이런 방식을 깊은 학습, 곧 딥러닝이라고 불러요. 지금 우리가 쓰는 인공지능의 뿌리가 바로 여기예요.

틀리면서 배우는 법

문제는 이 연결의 세기를 어떻게 맞추느냐였어요. 수만 개의 연결을 사람이 일일이 조절할 수는 없으니까요.

힌턴이 동료들과 찾아낸 답은 의외로 단순했어요. 자전거를 배울 때를 떠올려 보세요. 왼쪽으로 넘어지면 다음엔 오른쪽으로 살짝 힘을 주죠. 넘어진 만큼 거꾸로 되짚어서 몸을 고치는 거예요. 신경망도 똑같이 했어요. 답을 틀리면, 틀린 만큼 거꾸로 거슬러 올라가며 연결의 세기를 조금씩 고칩니다. 이걸 수없이 반복하면 점점 정답에 가까워져요. 1986년에 정리된 이 방법 덕분에, 컴퓨터는 처음으로 스스로 배우기 시작했어요.

2012년, 세상이 깜짝 놀란 순간

그런데 이 아이디어는 한참 동안 빛을 못 봤어요. 컴퓨터가 느렸고, 보여 줄 사진도 부족했거든요. 사람들은 "신경망은 안 된다"며 거의 포기했죠.

그러다 2012년, 힌턴과 두 제자가 사진 알아맞히기 대회에 신경망을 들고 나왔어요. 결과는 충격이었어요. 다른 팀들을 큰 차이로 따돌리고 우승했거든요. 30년 가까이 묵묵히 믿어 온 길이 갑자기 옳았다고 증명된 순간이었어요. 이때부터 전 세계가 딥러닝에 뛰어들었고, 오늘날의 챗봇과 이미지 인공지능이 줄줄이 태어났습니다.

노벨상, 그리고 뜻밖의 걱정

공로를 인정받아 힌턴은 2024년 노벨 물리학상을 받았어요. 신경망이 어떻게 정보를 기억하고 배우는지를 물리학의 원리로 풀어낸 점을 높이 산 거예요.

그런데 정작 그는 상을 받기 한 해 전, 다니던 큰 회사를 그만뒀어요. 그때 나이가 일흔다섯이었죠. 이유가 뜻밖이었어요. 자기가 평생 키운 인공지능이 너무 빨리, 너무 똑똑해져서 무섭다는 거였어요. 회사에 매여 있으면 마음껏 경고할 수 없으니, 자유롭게 위험을 말하려고 나왔다고 했죠. 불을 처음 만든 사람이 "이거 잘못 쓰면 다 태운다"고 외치는 셈이에요. 인공지능이 사람을 속이거나, 나쁜 사람 손에 들어가면 어떡하냐는 그의 걱정은 지금도 큰 논쟁거리예요.

정리

제프리 힌턴은 컴퓨터에게 규칙을 외우게 하는 대신, 아이처럼 보면서 틀리면서 스스로 배우게 하는 길을 열었어요. 뇌를 흉내 낸 신경망과, 틀린 만큼 거꾸로 고치는 학습법이 그 핵심이었죠. 오래 외면받던 이 생각은 2012년에 증명됐고, 2024년 노벨상으로 이어졌어요. 흥미로운 건, 그 길을 가장 멀리 걸어간 사람이 지금은 그 끝을 가장 걱정한다는 점이에요. 새로운 도구는 늘 두 얼굴을 가진다는 걸, 힌턴은 자기 인생으로 보여 주고 있어요.