존 설이 컴퓨터의 이해력을 의심한 이유

존 설은 '중국어방'이라는 상상 실험으로, 컴퓨터가 규칙에 따라 기호를 바꿔 그럴듯한 답을 내놓아도 그 뜻을 진짜로 이해하는 건 아니라고 주장했어요. 사람의 마음에는 기계가 흉내 낼 수 없는 '무언가를 향하는 힘', 곧 지향성이 있다고 본 거죠.

스마트폰은 '날씨'를 정말 알까요

여러분이 스마트폰에게 "오늘 날씨 어때?"라고 물으면 척척 답이 나오죠. 그런데 그 기계가 '날씨'라는 게 뭔지 진짜로 알고 있을까요? 미국 철학자 존 설은 1932년에 태어나 캘리포니아 버클리 대학에서 가르친 사람인데, 1980년에 바로 이 질문을 정면으로 파고들었어요. 이 글에서는 그가 만든 유명한 상상 실험과, 사람 마음이 가진 특별한 점을 하나씩 풀어 볼게요.

중국어방에 갇힌 사람

이렇게 상상해 봐요. 중국어를 한 글자도 모르는 사람이 방 안에 갇혀 있어요. 문틈으로 중국어가 적힌 쪽지가 들어와요. 방 안에는 두꺼운 규칙책이 있는데, '이런 모양 글자가 들어오면 저런 모양 글자를 내보내라'고 자기 나라 말로 적혀 있죠. 그 사람은 뜻은 하나도 모른 채 모양만 맞춰서 답을 내보내요.

방 밖에서 보면 어때요? 안에 있는 사람이 중국어를 척척 이해하는 것처럼 보여요. 하지만 정작 그 사람은 아무것도 이해하지 못했어요. 그저 그림 맞추기를 했을 뿐이죠. 설은 "컴퓨터가 하는 일이 바로 이거다"라고 말했어요. 글자를 규칙대로 바꿔 답을 내놓는 것과, 그 뜻을 아는 것은 전혀 다른 일이라는 거예요. 읽을 줄 모르는 글자로 된 요리법을 모양만 보고 따라 한다고 그 요리를 이해한 건 아니듯이요.

마음은 늘 무언가를 향해요

설이 컴퓨터에 없다고 본 것이 바로 '지향성'이에요. 어렵게 들리지만 뜻은 단순해요. 우리 생각은 언제나 무언가를 '향하고' 있다는 거예요. 화살이 과녁을 향하듯, "나는 사과가 먹고 싶어"라는 생각은 저기 있는 사과를 가리켜요.

반면 컴퓨터 속 기호는 그 자체로는 아무것도 향하지 않아요. 화면에 '사과'라고 떠도, 기계에게 그건 그냥 까만 점들의 배열일 뿐이죠. 거기에 사과라는 의미를 붙여 주는 건 그걸 보는 우리예요. 마음은 스스로 의미를 향하지만, 기계는 우리가 의미를 빌려줘야 한다는 점, 설은 이 차이를 아주 중요하게 봤어요.

의식은 뇌가 만드는 진짜 현상

그럼 그 '향하는 마음'은 어디서 올까요? 설의 답은 의외로 담백해요. 의식은 유령 같은 신비한 게 아니라, 뇌가 실제로 만들어 내는 자연스러운 현상이라는 거예요. 위가 음식을 소화시키듯, 뇌가 의식을 일으킨다고 본 거죠.

그래서 설은 이렇게 비꼬았어요. 컴퓨터로 소화 과정을 아무리 똑같이 흉내 내도 그 컴퓨터가 피자를 진짜로 소화시키지는 못하잖아요? 마찬가지로 뇌를 흉내 낸 프로그램이 돌아간다고 해서 거기에 진짜 의식이 생기는 건 아니라는 거예요. 흉내와 진짜는 다르니까요.

말은 그 자체로 행동이에요

설은 마음뿐 아니라 '말'도 깊이 파고들었어요. 스승 격인 영국 철학자 J.L. 오스틴의 생각을 이어받아, 1969년에 펴낸 책에서 '언어 행위론'을 다듬었죠. 핵심은 이래요. 우리는 말로 사실을 전달만 하는 게 아니라, 말로 '행동'을 한다는 거예요.

예를 들어 "약속할게"라고 말하는 순간, 약속이라는 행동이 실제로 일어나요. "사과합니다"라고 하면 사과가 이뤄지고요. 야구 심판이 "아웃!"이라고 외치면 그 말 한마디로 정말 아웃이 되죠. 말이 단순한 소리가 아니라, 세상을 바꾸는 힘을 가진다는 점을 설은 차근차근 정리해 보여 줬어요.

정리

존 설은 한 가지를 끈질기게 물었어요. 흉내가 진짜와 같은가? 중국어방의 사람도, 똑똑해 보이는 컴퓨터도, 규칙대로 답을 잘 내놓지만 뜻을 이해하지는 못해요. 사람 마음에는 무언가를 스스로 향하는 힘인 지향성이 있고, 의식은 뇌가 만드는 진짜 현상이며, 우리가 내뱉는 말은 그 자체로 행동이 되죠. 다음에 인공지능이 똑똑하게 답할 때, '이게 이해하는 걸까, 모양만 맞추는 걸까' 한 번쯤 떠올려 보면 설의 질문이 가깝게 느껴질 거예요.