데닛은 의식을 설명하려다 의식을 지웠다

의식을 평생 파고든 철학자가 도달한 결론은, 우리가 의식이라 부르는 그것이 실제로는 존재하지 않는다는 것이었어요.

영화관에서 빨간 장미를 볼 때 마음속에 피어오르는 그 '빨강의 느낌'이 있죠.
철학자들은 이걸 감각질(qualia)이라 부릅니다.
눈이 빛을 받아들이는 물리 현상이 아니라, 내가 내면에서 경험하는 바로 그 생생한 느낌 말이에요.

그런데 다니엘 데닛은 1991년에 600쪽짜리 책 『의식의 설명(Consciousness Explained)』을 세상에 내놓으며 이렇게 말했어요.
"빨강의 빨강스러움 같은 느낌, 그건 뇌가 만들어낸 사용자 인터페이스야."

그는 이 주장을 설명하기 위해 '다중 원고(multiple drafts)' 모델을 제시했어요.
뇌 속 여러 곳에서 동시에 수많은 처리 과정이 돌아가고, 그것들이 경쟁하고 수정되면서 하나의 '경험'이 만들어진다는 거예요.
마치 여러 기자가 같은 사건을 취재해 각기 다른 기사를 쓰고 있는데, 그중 하나가 '최종 보도'로 선택되는 것처럼요.

결국 '빨강의 느낌'은 뇌 어딘가에 실재하는 게 아니라, 우리가 세계를 효율적으로 처리하도록 뇌가 만들어낸 표현 방식이에요.
비평가들은 책 제목을 비틀어서 "의식이 지워졌다(Consciousness Explained Away)"라고 비꼬았어요.
하지만 데닛은 흔들리지 않았습니다. 그게 정확히 자신이 하고 싶었던 말이었으니까요.

데닛은 온도조절기에도 마음이 있다고 말했다

데닛에게 마음은 신비가 아니었어요.
마음은 우리가 누군가의 다음 행동을 맞히기 위해 빌려 쓰는 가장 편리한 안경이었습니다.

1987년 출간한 『지향적 입장(The Intentional Stance)』에서 데닛은 세계를 보는 세 가지 방식을 정리했어요.
물리적 입장은 원자와 전자 단위로 분석하는 것이고, 설계적 입장은 그 대상이 어떻게 설계됐는지로 보는 것이에요.
그리고 세 번째가 지향적 입장, 어떤 대상이 믿음과 욕구를 가진 존재라고 가정하고 행동을 예측하는 방식이에요.

우리가 "이 강아지는 산책을 원한다"고 말할 때, 강아지의 뇌세포를 분석한 건 아니잖아요.
그냥 '원한다'고 가정하고 다음 행동을 예측한 거예요.
그게 이미 지향적 입장입니다.

그런데 데닛은 여기서 한 발 더 나아갔어요.
체스 프로그램도, 온도조절기도 "원한다"는 표현을 쓰는 게 정당하다고 했습니다.
바깥 온도가 내려가면 온도조절기는 "온기를 원한다"고 말할 수 있다는 거예요.

이건 "기계에도 의식이 있다"는 말이 아니에요.
마음을 신성한 특별 영역에서 끌어내려서, 자연 현상의 한 갈래로 집어넣은 것입니다.
마음이 사라진 게 아니라, 마음이 어디에나 있게 된 거예요.

데닛은 결정론 안에서도 자유는 진짜라고 했다

자유의지가 없다면 책임도 없다. 데닛이 같은 무신론자 진영과 등을 돌리면서까지 지킨 한 줄이었어요.

결정론이란, 우주의 모든 사건이 이전 상태에 의해 완벽히 결정된다는 생각이에요.
오늘 내가 커피를 고른 것도 사실은 내 뇌의 신경세포들이 물리법칙대로 발화한 결과라는 거죠.
그 논리를 끝까지 따라가면, '내가 선택했다'는 느낌 자체가 착각처럼 보이기 시작해요.

신경과학자 샘 해리스는 "맞다, 자유의지는 없다"고 단호히 말했어요.
그는 데닛과 같은 무신론자이자 친구였지만, 이 지점에서 갈라섰습니다.

데닛은 달리 생각했어요.
1984년 『팔꿈치 여유(Elbow Room)』와 2003년 『자유는 진화한다』에서 그는 결정론과 자유의지가 충돌하지 않는다는 양립론(compatibilism)을 옹호했습니다.
양립론이란 물리법칙이 모든 것을 결정하더라도, 그 안에서 인간이 숙고하고 통제하는 능력은 진짜라는 주장이에요.

카페에서 메뉴를 고를 때 느끼는 그 '내가 정한다'는 감각, 데닛은 그게 진화가 인간에게 부여한 실제 기능이라고 말했어요.
그 기능 덕분에 우리는 미래 결과를 시뮬레이션하고, 다른 선택지를 비교하고, 결과에 책임을 질 수 있어요.
마법 같은 초자연적 힘이 없어도 그 능력은 충분히 '자유의지'라 부를 수 있다는 거죠.

데닛에게 자유의지를 포기하는 건 철학적 양보가 아니었어요.
자유의지가 없다면 책임도 없고, 책임이 없다면 도덕도 없어지니까요.
그래서 그는 공개 논쟁에서도 한 발도 물러서지 않았습니다.

데닛은 죽기 전 AI를 인류 최대 위협이라 불렀다

평생 마음의 신비를 부정했던 사람이 마지막 글에서 경고한 것은, 마음을 흉내내는 기계였어요.

2023년 데닛은 잡지 The Atlantic에 「가짜 사람들의 문제(The Problem With Counterfeit People)」를 기고했어요.
챗GPT 같은 대형 언어모델이 막 세상에 퍼지던 시기였습니다.
그는 이 글에서 AI가 '가짜 인격'을 대량으로 생산해 인간 사회의 신뢰 기반을 무너뜨릴 것이라고 경고했어요.

가짜 인격이 위협인 이유는 신뢰 때문이에요.
우리가 사회를 유지하는 건 서로를 진짜 사람으로 믿기 때문이고, 그 믿음은 상대가 인간이라는 전제 위에 서 있어요.
내가 대화하는 상대가 사람인지 AI인지 구분할 수 없게 되면, 그 전제 자체가 흔들린다는 겁니다.

여기서 반전이 있어요.
데닛은 평생 "기계도 지향적 입장의 대상이 될 수 있다"며 마음의 영역을 기계 쪽으로 넓혀온 사람이었거든요.
그런데 정작 그렇게 행동하는 기계가 실제로 등장하자, 가장 큰 경계 신호를 보낸 겁니다.

그는 같은 해 회고록 『I've Been Thinking』을 출간했고, 2024년 4월 82세로 세상을 떠났어요.
마지막 저작들은 두 방향을 동시에 가리키고 있어요.
한쪽은 "마음이란 자연이 만든 메커니즘에 불과하다"는 평생의 주장이고, 다른 쪽은 "그 메커니즘을 아무나 복제해서는 안 된다"는 만년의 경고예요.

챗GPT가 다정하게 말을 걸어올 때 느끼는 그 묘하게 따뜻하면서도 불편한 감각, 아직 버리지 않으셨나요?
데닛이라면 그 불편함이 중요하다고 했을 거예요.
그 감각은 진짜와 가짜를 구분하려는 우리 뇌의 마지막 직관인데, 우리는 지금 그것을 지키고 있나요?