존 설은 1980년에 AI가 이해하지 못한다고 단언했다

1980년, 한 철학자는 ChatGPT가 등장하기 45년 전에 이미 그것을 반박하는 글을 발표했어요.

그 사람이 바로 존 설(John Searle)이에요.
미국 UC 버클리대학 철학과 교수였던 그는 「Minds, Brains, and Programs(마음, 뇌, 프로그램)」이라는 논문에서 AI가 아무리 완벽한 답을 내놓더라도 진짜로 '이해'하지는 못한다고 주장했어요.

그 주장의 핵심이 바로 '중국어 방' 사고실험이에요.
사고실험이란 실제 장비 없이 머릿속 논리만으로 진행하는 상상 실험이에요.
존 설이 제시한 상황은 이랬어요.

중국어를 한 글자도 모르는 사람이 밀폐된 방 안에 갇혀 있어요.
방 밖에서 누군가 한자가 적힌 종이를 슬롯으로 밀어 넣으면, 그 사람은 두꺼운 규칙서를 뒤져서 "이 입력엔 저 출력"이라고 적힌 대로 한자 종이를 내보내요.
방 밖의 사람 눈에는 방 안에 중국어를 완벽히 아는 누군가가 있는 것처럼 보이지만, 정작 방 안의 그 사람은 자기가 뭘 쓰는지 전혀 몰라요.

존 설의 말을 직접 옮기자면 "방 전체로서의 시스템은 중국어를 처리하지만, 방 안에 있는 나는 단 하나의 중국어 단어도 이해하지 못해요."
그게 바로 AI와 '이해' 사이의 차이라는 거예요.
ChatGPT가 완벽한 한국어로 답을 내놓더라도, 그것이 진짜 이해인지 아니면 엄청나게 정교한 규칙서 실행인지는 전혀 다른 문제라는 주장이에요.

이 논문이 쓰인 건 1980년이에요.
ChatGPT는 2022년에 등장했으니, 존 설은 그 논쟁을 정확히 45년 먼저 시작한 거예요.