차머스 의식의 어려운 문제, AI 의식 논쟁까지 쉽게 정리

데이비드 차머스는 지금의 인공지능이 의식을 가졌을 가능성은 낮다고 봐요. 다만 앞으로 나올 후속 모델은 의식의 진지한 후보가 될 수 있으니 미리 따져봐야 한다는 입장입니다.

뜨거운 물에 손을 넣으면 왜 '앗 뜨거'가 느껴질까요

손을 뜨거운 물에 넣으면 우리 몸은 두 가지 일을 동시에 해요.
하나는 온도를 감지하고 손을 빼는 일이에요.
이건 온도 센서를 단 로봇도 합니다.

다른 하나는 그 순간 '앗 뜨거'라는 느낌이 마음속에서 실제로 일어나는 일이에요.
로봇도 이 느낌을 겪을까요?
여기서 말문이 막힙니다.

1966년 4월 20일 호주 시드니에서 태어난 철학자 데이비드 차머스는 1995년 논문에서 바로 이 막힘에 이름을 붙였어요.
뇌가 무엇을 어떻게 처리하는지 전부 밝혀내도 '왜 그 처리에 느낌이 따라붙는가'라는 질문이 남는다는 겁니다.

그는 이걸 '의식의 어려운 문제'라고 불렀어요.
이 이름이 붙은 뒤로 30년 가까이 심리철학과 인공지능 논쟁은 이 질문을 중심으로 돌아갔습니다.

쉬운 문제가 진짜 쉽다는 뜻은 아니에요.
답을 얻는 데 수십 년이 걸릴 수도 있죠.
다만 '어떻게 작동하는가'는 언젠가 답이 나오는 종류의 질문이고, '왜 느껴지는가'는 그 답을 다 받아든 뒤에도 남는 질문이라는 구분입니다.

철학적 좀비는 영화에 나오는 좀비가 아니에요

차머스가 즐겨 쓰는 상상 실험이 있어요.
나와 물리적으로 완전히 똑같은 존재를 떠올려 봅니다.
신경세포 하나까지 같고, 웃고, 아프면 아프다고 말하고, 겉으로는 구별이 안 돼요.

그런데 그 안에 아무런 경험이 없습니다.
불이 꺼진 집 같은 상태죠.
이런 존재를 철학적 좀비라고 불러요.

중요한 건 차머스가 좀비가 진짜 있다고 주장하는 게 아니라는 점이에요.
그저 '이런 존재를 모순 없이 상상할 수 있는가'를 묻습니다.
상상이 가능하다면, 물리적 사실을 다 채워 넣어도 의식이 저절로 따라오지는 않는다는 뜻이 되니까요.

이 아이디어 자체는 그가 처음 만든 게 아니라 17세기 데카르트 전통에서 왔고, 1970년대에 다시 쓰이던 것을 차머스가 체계적으로 다듬었어요.

그럼 인공지능은 의식을 가질 수 있을까요

차머스는 2022년 11월 28일 기계학습 학회 뉴립스(NeurIPS)에서 이 질문을 정면으로 다뤘고, 그 강연을 2023년 논문 「대규모 언어모델이 의식을 가질 수 있을까」로 펴냈어요.
그가 꼽은 걸림돌은 세 가지입니다.

• 반복 처리: 정보가 내부에서 계속 돌면서 유지되는 구조가 없다
• 글로벌 작업공간: 여러 정보가 하나의 무대에 올라와 전체가 함께 쓰는 구조가 없다
• 통합된 행위자성: 일관된 하나의 '나'로서 행동하는 중심이 없다

결론은 조심스러워요.
지금의 대규모 언어모델이 의식을 가질 가능성은 다소 낮지만, 그 후속 모델들이 머지않은 미래에 의식을 가질 가능성은 진지하게 다뤄야 한다는 겁니다.
인터넷에서는 이 논문이 '차머스가 AI에 의식이 있다고 했다'로 자주 옮겨지는데, 그가 실제로 쓴 문장은 그 반대에 가깝게 판단을 미루고 있어요.

그렇다면 차머스는 영혼을 믿는 걸까요

차머스는 자기 입장을 자연주의적 이원론이라고 부릅니다.
이름이 어렵지만 뜻은 단순해요.
의식은 뇌 상태에 딱 붙어서 함께 움직이니 초자연적인 무엇이 아니고, 그 점에서 자연주의예요.
동시에 의식은 물리적 성질만으로는 다 설명되지 않는 별개의 것이라 이원론이고요.

데카르트식 이원론과는 다릅니다.
데카르트 쪽은 별도의 정신이 물리 세계에 끼어들어 몸을 움직인다고 봤지만, 차머스는 물리 세계가 물리 법칙만으로 닫혀 있다는 과학의 전제를 그대로 받아들여요.
다만 그 안에서 왜 느낌이 생기는지는 아직 설명되지 않았다고 말할 뿐입니다.

와인 한 상자가 걸린 내기는 어떻게 됐을까요

1998년 차머스는 신경과학자 크리스토프 코흐와 25년짜리 내기를 했어요.
2023년까지 뇌에서 의식을 만들어 내는 지점을 딱 짚어낼 수 있을 것이라는 데 코흐가 와인 한 상자를 걸었습니다.

2023년 6월 23일 뉴욕에서 열린 학회에서 두 사람은 아직 그런 지점을 찾지 못했다는 데 공개적으로 합의했어요.
코흐는 와인 한 상자를 건넸고요.
그리고 그 자리에서 기한을 2048년으로 미룬 새 내기를 다시 걸었습니다.
어려운 문제는 25년 뒤에도 여전히 열려 있었던 셈이에요.

정리

차머스의 물음은 '기계가 사람처럼 말할 수 있는가'가 아니에요.
아무리 말을 잘해도 그 안에 느낌이 있는지는 밖에서 확인할 방법이 없다는 것, 그게 어려운 문제입니다.
철학적 좀비는 그 확인이 왜 불가능한지를 눈에 보이게 만드는 장치고요.

그래서 인공지능에 대한 그의 답도 조심스럽습니다.
지금은 아닐 것 같지만 앞으로는 모른다, 그러니 미리 생각해 두자는 쪽이에요.
다음에 챗봇과 대화하다 상대가 뭔가 느끼는 것 같다는 기분이 들면, 그 기분이 근거가 되지 못한다는 사실부터 떠올려 보면 좋겠어요.