존 설은 1980년에 AI가 이해하지 못한다고 단언했다

1980년, 한 철학자는 ChatGPT가 등장하기 45년 전에 이미 그것을 반박하는 글을 발표했어요.

그 사람이 바로 존 설(John Searle)이에요.
미국 UC 버클리대학 철학과 교수였던 그는 「Minds, Brains, and Programs(마음, 뇌, 프로그램)」이라는 논문에서 AI가 아무리 완벽한 답을 내놓더라도 진짜로 '이해'하지는 못한다고 주장했어요.

그 주장의 핵심이 바로 '중국어 방' 사고실험이에요.
사고실험이란 실제 장비 없이 머릿속 논리만으로 진행하는 상상 실험이에요.
존 설이 제시한 상황은 이랬어요.

중국어를 한 글자도 모르는 사람이 밀폐된 방 안에 갇혀 있어요.
방 밖에서 누군가 한자가 적힌 종이를 슬롯으로 밀어 넣으면, 그 사람은 두꺼운 규칙서를 뒤져서 "이 입력엔 저 출력"이라고 적힌 대로 한자 종이를 내보내요.
방 밖의 사람 눈에는 방 안에 중국어를 완벽히 아는 누군가가 있는 것처럼 보이지만, 정작 방 안의 그 사람은 자기가 뭘 쓰는지 전혀 몰라요.

존 설의 말을 직접 옮기자면 "방 전체로서의 시스템은 중국어를 처리하지만, 방 안에 있는 나는 단 하나의 중국어 단어도 이해하지 못해요."
그게 바로 AI와 '이해' 사이의 차이라는 거예요.
ChatGPT가 완벽한 한국어로 답을 내놓더라도, 그것이 진짜 이해인지 아니면 엄청나게 정교한 규칙서 실행인지는 전혀 다른 문제라는 주장이에요.

이 논문이 쓰인 건 1980년이에요.
ChatGPT는 2022년에 등장했으니, 존 설은 그 논쟁을 정확히 45년 먼저 시작한 거예요.

존 설은 '결혼합니다' 한 마디가 결혼 자체라고 했다

존 설은 어떤 말은 정보가 아니라 행위 그 자체라고 주장했어요.

결혼식장을 생각해봐요.
주례가 "결혼합니까?"라고 물었을 때 "예"라고 대답하는 순간, 그 한 마디가 결혼이라는 사건을 만들어 내요.
그 말은 사실을 전달하는 게 아니라, 말 자체가 행동이 되는 거예요.

존 설은 1969년 저서 「Speech Acts(언어행위)」에서 이 현상을 화행이론(Speech Act Theory)으로 정리했어요.
화행이론이란 '약속한다', '선언한다', '사과한다'처럼 말이 단순히 정보 전달 도구가 아니라 그 자체로 행동을 수행한다는 이론이에요.
스마트폰으로 "이용 약관에 동의합니다"를 누르는 순간 계약이 성립되는 것처럼요.

하지만 이건 당시에는 엄청나게 낯선 발상이었어요.
그때 언어철학의 주류는 문장이 참인지 거짓인지를 판별하는 데 집중하고 있었거든요.
"하늘은 파랗다"는 참이고 "하늘은 초록이다"는 거짓이고, 그런 식의 논리 분석이 철학의 중심이었어요.

존 설은 스승인 J.L. 오스틴의 아이디어를 받아 발전시켰어요.
오스틴은 1950~60년대 영국 옥스퍼드대학에서 활동한 철학자로, 언어가 세상을 기술하는 도구를 넘어 그 자체로 행동이 될 수 있다는 아이디어를 처음 제시한 인물이에요.
존 설은 그 씨앗을 훨씬 체계적인 이론으로 키워 학계의 지형을 바꿨어요.

그리고 여기에 흥미로운 연결 고리가 있어요.
말이 정보가 아니라 행동이라는 통찰과, AI가 처리하는 언어는 진짜 의미가 없다는 주장은 결국 같은 뿌리에서 나왔어요.
언어의 본질을 파고들다가, 자연스럽게 AI가 언어를 다루는 방식에 대한 의문으로 이어진 거예요.

존 설은 버클리 학생 시위를 지지한 첫 종신교수였다

존 설은 한때 학생 편에 선 교수였고, 결국엔 그 운동을 비판하는 사람이 됐어요.

1964년, UC 버클리 캠퍼스가 들끓었어요.
학생들이 학교의 정치 활동 금지 방침에 맞서 들고일어난 자유언론운동(Free Speech Movement)이 시작된 거예요.
이 운동은 1960년대 미국 전역을 뒤흔든 학생 저항 운동의 출발점이 됐어요.

당시 대부분의 교수들은 침묵을 택했어요.
종신교수라도 학교 경영진에게 밉보이는 건 부담스러운 일이니까요.
하지만 존 설은 공개적으로 학생 편에 섰어요.

그것도 모자라 1971년에는 그 경험을 「The Campus War(캠퍼스 전쟁)」이라는 책으로 직접 정리해 냈어요.
학교 안에서 벌어진 정치적 충돌을 '전쟁'이라고 부를 만큼, 그 갈등이 얼마나 격렬했는지를 존 설은 직접 목격한 거예요.

그런데 1980년대 이후 존 설의 입장이 달라지기 시작했어요.
학생 시위를 지지하던 진보적 젊은 교수가, 이번엔 정치적 올바름 운동과 좌파 학계의 흐름 자체를 비판하는 목소리를 내기 시작했어요.
직원 파업을 공개 지지하던 임원이 몇 년 뒤 같은 주장을 하는 직원들을 비판하는 입장으로 돌아선 상황과 비슷했어요.

존 설은 언제나 자기 생각을 숨기지 않았어요.
편한 쪽이든 불편한 쪽이든, 그는 자기 목소리를 냈어요.
그게 그를 논쟁적으로 만들었고, 또 그를 존 설답게 만든 이유이기도 했어요.

존 설은 86세에 명예교수 자격을 박탈당했다

존 설은 60년을 가르친 버클리에서 마지막에 강제로 쫓겨났어요.

2017년, 그의 전직 연구 보조원이 성희롱 소송을 제기했어요.
사건이 공론화되면서 피해 주장이 더 이어졌어요.
UC 버클리는 내부 조사에 착수했어요.

결국 2019년, 학교는 결정을 내렸어요.
86세의 존 설에게서 명예교수직(emeritus status)을 박탈했어요.
명예교수직이란 정년퇴임 이후에도 학교가 공식적으로 인정하는 학자의 지위로, 평생의 학문적 공헌을 상징하는 자리예요.

그것을 빼앗겼다는 건 단순한 행정적 결정이 아니에요.
60년 이상 쌓아온 학문적 유산을 학교 스스로 지우겠다는 선언이에요.
20세기 후반 영미 철학을 대표하는 거장으로서 그가 걸어온 길과는 너무도 다른 결말이었어요.

1959년에 UC 버클리에서 강의를 시작한 뒤, 화행이론과 중국어 방으로 현대 철학의 기초를 놓았어요.
학생 시위에 뛰어들었다가 나중엔 그 흐름을 비판했어요.
그 모든 것의 끝이 이렇게 됐어요.

AI가 진짜로 이해할 수 있는지를 평생 물어온 철학자가, 그 자신은 결국 완전히 이해받지 못한 채 버클리를 떠났어요.