존 설은 왜 똑똑한 컴퓨터를 의심했을까

존 설은 컴퓨터가 사람처럼 척척 대답해도 그 말을 진짜로 이해하는 건 아니라고 봤어요. 이걸 보여주려고 그는 '중국어방'이라는 상상 실험을 만들었지요.

방 안에 갇힌 한 사람을 떠올려 볼까요

1980년, 미국 철학자 존 설은 아주 이상한 방 하나를 상상해 보자고 했어요. 이 방 이야기 하나로 우리는 '똑똑해 보이는 것'과 '진짜 아는 것'이 어떻게 다른지 알게 될 거예요.

방 안에는 중국어를 한 글자도 모르는 사람이 앉아 있어요. 문틈으로 중국어가 적힌 쪽지가 들어와요. 다행히 그 사람 손에는 두꺼운 규칙책이 있어요. "이런 모양 글자가 들어오면, 저런 모양 글자를 내보내라." 그는 뜻은 하나도 모른 채, 모양만 보고 규칙대로 글자를 골라 답장을 내보내요.

밖에 있는 중국 사람은 깜짝 놀라요. "이 방, 중국어를 진짜 잘하네!" 하지만 방 안 사람은 자기가 무슨 대화를 했는지 전혀 몰라요. 그냥 모양을 맞춰 줬을 뿐이에요.

이 방이 사실은 컴퓨터예요

존 설이 진짜 하고 싶었던 말은 이거예요. "방 안 사람이 컴퓨터랑 똑같아요."

방 안 사람은 컴퓨터의 두뇌이고, 규칙책은 프로그램이고, 들어오고 나가는 쪽지는 우리가 컴퓨터에 입력하고 받는 글자예요. 컴퓨터도 글자의 뜻을 아는 게 아니라, 정해진 규칙대로 기호를 이리저리 바꿔 줄 뿐이라는 거죠.

그래서 그는 두 가지를 나눠요. 컴퓨터가 도구로서 사람 흉내를 잘 내는 건 인정해요. 이걸 '약한 인공지능'이라고 불러요. 하지만 컴퓨터가 사람처럼 진짜로 마음을 갖고 이해한다는 주장, 즉 '강한 인공지능'은 받아들이지 않아요. 규칙을 따르는 것과 뜻을 아는 것은 다르니까요.

문법을 안다고 뜻을 아는 건 아니에요

조금 더 들어가 볼게요. 존 설은 컴퓨터가 잘하는 일은 '문법'이라고 했어요. 글자가 어떤 모양이고 어떤 순서로 놓이는지, 그 규칙을 다루는 일이에요.

그런데 우리가 말을 '이해한다'는 건 거기서 한 걸음 더 나가요. 글자가 가리키는 진짜 뜻, 이걸 '의미'라고 해요. 예를 들어 '사과'라는 글자의 모양과 순서를 아는 것과, 빨갛고 새콤한 그 과일을 떠올리는 것은 다르잖아요. 앞은 문법이고, 뒤가 의미예요.

존 설은 아무리 문법을 완벽하게 다뤄도 거기서 저절로 의미가 솟아나지는 않는다고 봤어요. 마음에는 '무언가를 향하는 힘', 어떤 대상을 마음속으로 가리키는 능력이 있는데, 기호만 바꾸는 기계에는 그게 없다는 거예요.

말에는 행동이 담겨 있어요

존 설이 평생 깊이 파고든 또 하나의 주제가 있어요. 우리가 말을 할 때 사실은 '행동'을 한다는 생각이에요. 이걸 언어 행위론이라고 불러요.

생각해 보세요. "내일 꼭 갈게"라고 말하면, 그건 단순히 사실을 설명하는 게 아니라 '약속'이라는 행동을 하는 거예요. "미안해"는 사과라는 행동이고요. 존 설은 스승 격인 오스틴의 생각을 이어받아 이 이론을 한층 발전시켰어요.

여기서 중국어방과 연결돼요. 진짜 말에는 말하는 사람의 마음과 의도, 그리고 세상 속 행동이 함께 들어 있어요. 규칙책만 넘기는 방은 약속도 사과도 할 수 없어요. 모양만 맞추니까요.

정리

존 설의 중국어방은 우리에게 한 가지 질문을 남겨요. 사람처럼 대답한다고 해서 사람처럼 이해하는 걸까요?

그는 똑똑하게 흉내 내는 것과 진짜로 뜻을 아는 것은 다른 일이라고 했어요. 컴퓨터는 문법을 다루지만 의미를 품지는 못하고, 말 속에 담긴 마음과 행동까지 갖지는 못한다는 거죠. 다음에 인공지능이 술술 대답하는 걸 볼 때, 방 안에서 규칙책을 넘기던 그 사람을 한 번쯤 떠올려 보세요.