존 설의 중국어방에서 그 사람이 끝내 모르는 것

중국어방 논증은 컴퓨터가 규칙대로 기호를 척척 바꿔 그럴듯한 답을 내놓아도 그 뜻을 정말로 이해하는 건 아니라는 점을 보여 주는 사고실험이에요. 미국 철학자 존 설이 1980년에 내놓았어요.

방 하나를 상상해 볼까요

1980년, 철학자 존 설은 우리에게 묘한 방 하나를 상상해 보자고 했어요. 여러분이 그 방 안에 앉아 있다고 해 볼게요. 단, 중국어는 한 글자도 모르는 채로요.

방에는 작은 창구가 두 개 있어요. 한쪽으로 중국어가 적힌 쪽지가 들어와요. 여러분 손에는 아주 두꺼운 규칙책이 한 권 있고요. 거기엔 ‘이런 모양의 글자가 들어오면 저런 모양의 글자를 내보내라’고 자세히 적혀 있어요. 뜻풀이는 단 한 줄도 없어요. 오직 글자 모양만 보고 짝을 맞추는 거예요.

여러분은 규칙책대로 글자를 골라 다른 창구로 내보내요. 그런데 놀랍게도, 밖에 있는 중국 사람은 그 답을 보고 감탄해요. ‘와, 이 방 안에 중국어를 잘하는 사람이 있구나!’ 하지만 여러분은 그 쪽지에 뭐라고 적혔는지 전혀 몰라요. 점심 메뉴를 물었는지, 안부를 물었는지조차요.

규칙을 따르는 일과 이해하는 일은 달라요

여기서 설이 던지는 질문은 간단해요. 방 안의 여러분은 중국어를 이해하나요? 아니죠. 그저 글자 모양을 보고 규칙대로 짝지었을 뿐이에요.

낯선 나라로 여행을 가서, 뜻은 모른 채 여행책에 적힌 인사말을 소리 그대로 읽어 본 적 있나요? 상대는 활짝 웃지만, 정작 나는 내가 무슨 말을 했는지 몰라요. 중국어방의 사람도 딱 그래요. 소리는 맞지만 뜻은 텅 비어 있어요.

설은 컴퓨터가 하는 일이 바로 이것이라고 봤어요. 컴퓨터에게 글자란 그냥 0과 1로 된 모양일 뿐이에요. 정해진 규칙, 즉 프로그램에 따라 입력을 출력으로 바꿀 뿐, 그 내용이 무슨 뜻인지는 만지지 못해요. 철학에서는 이걸 두 단어로 나눠요. 규칙에 따라 기호를 다루는 일은 ‘통사론’, 그 기호가 가리키는 뜻을 아는 일은 ‘의미론’이라고 해요. 설의 핵심 주장은 한 문장으로 줄어들어요. 통사론만으로는 의미론이 생기지 않는다. 아무리 규칙을 빠르고 완벽하게 따라도, 거기서 저절로 이해가 솟아나지는 않는다는 거예요.

그래서 인공지능의 무엇을 겨눈 걸까요

1980년 그 시절에도 컴퓨터가 사람처럼 생각한다고 말하는 학자들이 있었어요. 설은 이런 입장에 ‘강한 인공지능’이라는 이름을 붙였어요. 프로그램을 제대로 돌리기만 하면 컴퓨터가 마음을, 진짜 이해를 갖게 된다는 주장이죠.

중국어방은 이 주장을 정면으로 겨눠요. 방은 시험을 완벽하게 통과해요. 밖에서 보면 중국어를 아는 것처럼 보여요. 그런데도 방 안 어디에도 이해는 없어요. 그렇다면 똑같이 시험을 통과하는 컴퓨터 역시, 겉모습만 그럴듯할 뿐 정말로 이해하는 건 아닐 수 있다는 거예요.

요즘 챗봇이 사람처럼 매끄럽게 대화하는 모습을 떠올리면 더 와닿아요. 술술 나오는 답이 곧 이해의 증거냐고, 설은 40여 년 전에 미리 물어 둔 셈이에요.

존 설은 어떤 철학자였나요

존 설은 1932년에 태어난 미국 철학자예요. 사실 그는 인공지능보다 ‘말’을 먼저 파고들었어요. ‘약속할게’라고 말하는 순간, 약속이라는 행위가 실제로 생겨나죠. 이렇게 말이 곧 행동이 되는 방식을 다루는 언어 행위론을 다듬은 사람으로 먼저 유명했어요.

그다음 그의 관심은 마음으로 옮겨 갔어요. 마음이란 무엇이고 이해란 무엇인지 묻는 분야를 심리철학이라고 해요. 중국어방은 바로 이 심리철학과 언어에 대한 오랜 고민이 만난 자리에서 나온 거예요. 그래서 단순한 컴퓨터 비판을 넘어, 마음에 대한 질문으로 읽혀요.

반론도 만만치 않아요

물론 모두가 설에게 고개를 끄덕인 건 아니에요. 가장 유명한 반박은 ‘시스템 논변’이에요. 방 안의 사람 한 명은 이해하지 못해도, 사람과 규칙책과 방 전체를 하나의 시스템으로 보면 그 시스템은 중국어를 이해하는 것 아니냐는 거죠.

설은 이렇게 받아쳐요. 그럼 규칙책을 통째로 외워서 방 없이 머릿속에서만 처리해 보라고요. 그래도 여전히 뜻은 모르지 않냐고요. 이 논쟁은 지금도 깔끔하게 끝나지 않았어요. 다만 설 덕분에 우리는 답을 잘하는 것과 뜻을 아는 것을 따로 떼어 묻게 됐어요.

정리

중국어방은 비유 하나로 묵직한 질문을 열었어요. 규칙을 완벽히 따르는 일과 뜻을 정말로 이해하는 일은 다르다는 거예요. 컴퓨터가 아무리 그럴듯한 답을 내놓아도, 그것이 곧 이해라고 단정할 수는 없어요. 다음에 인공지능이 똑똑하게 대답하는 모습을 볼 때, 저 방 안에서 글자 모양만 맞추던 사람을 한 번 떠올려 보세요. 답을 맞히는 일과 뜻을 아는 일은 늘 같은 자리에 있지는 않으니까요.