중국어 방
더 많은 작업
- Chinese room; 중국어 방
- 규칙대로 기호를 다루어 완벽한 답을 내더라도 의미를 이해했다고 할 수 없다는 것을 보이려는 존 설의 사고 실험
중국어 방(Chinese room)은 미국 철학자 존 설(John Searle, 1932~2025)이 1980년 논문 〈마음, 뇌, 프로그램〉(Minds, Brains, and Programs)에서 제시한 사고 실험과 그 논증이다. 중국어를 전혀 모르는 사람이 방 안에서 규칙집만 보고 중국어 질문에 중국어 답을 내보낸다면, 밖에서는 중국어를 아는 것처럼 보여도 방 안의 사람은 아무것도 이해하지 못한다. 설은 컴퓨터 프로그램도 같은 처지이므로, 프로그램을 돌리는 것만으로는 이해나 마음이 생기지 않는다고 주장했다.[1]
이 논증은 행동이 사람과 구별되지 않으면 생각한다고 보자는 튜링 테스트의 발상, 그리고 마음을 일종의 프로그램으로 보는 계산주의를 정면으로 겨냥했다. 발표 직후부터 반론이 쏟아져 심리철학과 인지과학에서 가장 많이 논의된 논증 가운데 하나가 되었고,[2] 2020년대 대형 언어 모델이 등장한 뒤 "LLM은 정말 이해하는가"라는 물음과 함께 다시 자주 언급된다.
- 영어만 아는 사람(설 자신)이 방에 갇혀 있다. 그에게 중국어 글자는 의미 없는 꼬부랑 기호일 뿐이다.
- 방 안에는 중국어 기호가 든 상자들(데이터베이스)과, 어떤 기호 묶음이 들어오면 어떤 기호 묶음을 내보내라는 영어 규칙집(프로그램)이 있다. 규칙은 기호의 모양만 따지며 뜻은 전혀 알려 주지 않는다.
- 밖의 중국어 사용자가 문 밑으로 질문을 써서 넣으면, 방 안의 사람은 규칙집을 따라 기호를 찾아 맞춰 답을 내보낸다.
- 규칙집이 충분히 잘 짜여 있다면 답은 중국어 원어민의 답과 구별되지 않는다. 그래도 방 안의 사람은 중국어를 한 글자도 이해하지 못한다.
설은 컴퓨터가 하는 일이 바로 이것, 곧 형식적 기호를 구문(syntax)에 따라 조작하는 일이라고 보았다. 사람이 프로그램을 손으로 실행해도 이해가 생기지 않는다면 컴퓨터가 실행해도 마찬가지라는 것이다. 설은 중국어를 고른 이유로, 자신이 전혀 모르는 언어라 글자가 그저 기호로만 보인다는 점을 들었다.
설은 논증의 표적을 강한 AI(strong AI)라는 입장으로 정했다. 강한 AI는 적절히 프로그래밍된 컴퓨터가 단지 마음을 연구하는 도구가 아니라 그 자체로 마음이며, 말 그대로 이해하고 다른 인지 상태를 가진다는 주장이다. 반면 약한 AI(weak AI)는 컴퓨터가 마음을 연구하는 데 쓸모 있는 도구라는 온건한 주장이며, 설은 이를 문제 삼지 않았다.[1] 설은 또 기계가 생각할 수 없다고 주장한 것도 아니다. 뇌도 기계이고 뇌는 생각하므로, 문제는 '형식적 기호 조작만으로 생각이 생기는가'라는 것이다.[2] 이 용어 구분은 강인공지능 문서 참고.
당시 설이 직접 겨냥한 예는 로저 섕크(Roger Schank) 연구진의 이야기 이해 프로그램이었다. 이 프로그램은 식당에 관한 짧은 이야기를 읽고 이야기에 명시되지 않은 질문(손님이 햄버거를 먹었는가 등)에 답할 수 있었고, 연구진은 이를 이야기를 '이해한다'고 표현했다.[2]
SEP는 좁은 의미의 논증을 다음과 같은 귀류법으로 정리한다.[2]
- 강한 AI가 참이라면, 어떤 계산 체계든 실행하기만 하면 중국어를 이해하게 되는 중국어 프로그램 C가 있다.
- 나는 C를 실행하면서도 중국어를 이해하지 못할 수 있다. (중국어 방 사고 실험)
- 따라서 강한 AI는 거짓이다.
설은 1990년 《사이언티픽 아메리칸》 기고 〈뇌의 마음은 컴퓨터 프로그램인가?〉에서 이를 더 일반적인 공리 형태로 다시 썼다. 요지는 "프로그램은 형식적(구문적)이다", "마음은 의미 내용(semantics)을 가진다", "구문만으로는 의미가 생기지 않는다"에서 "프로그램만으로는 마음이 생기지 않는다"를 끌어내는 것이다. 같은 호에는 폴 처칠랜드와 퍼트리샤 처칠랜드의 반박 〈기계가 생각할 수 있을까?〉가 함께 실렸다.[2]
설의 배경 개념은 지향성(intentionality)이다. 그는 생각이나 믿음처럼 무언가에 관한 내용을 갖는 정신 상태의 '본래적 지향성'과, 글자나 기계 상태처럼 누군가 해석해 줄 때만 의미를 갖는 '파생적 지향성'을 나누고, 컴퓨터의 상태는 후자일 뿐이라고 보았다.[2] 마음은 뇌의 생물학적 인과력에서 생긴다는 그의 입장은 '생물학적 자연주의'로 불린다.
설은 1980년 논문을 내기 전 여러 대학에서 발표하며 들은 반론을 논문 안에서 미리 다루었고, 《행동과 뇌 과학》(BBS)에는 논문과 함께 연구자 27명의 논평과 설의 재반론이 실렸다.[2]
| 반론 | 주장 | 설의 답 |
|---|---|---|
| 시스템 반론 (Systems reply) | 방 안의 사람은 중앙 처리 장치(CPU)에 해당하는 부분일 뿐이다. 사람, 규칙집, 데이터, 메모지를 합친 시스템 전체는 중국어를 이해한다. 네드 블록, 대니얼 데닛, 더글러스 호프스태터 등이 지지했다. | 사람이 규칙집과 데이터를 모두 외워 머릿속에서 계산하면 시스템 전체가 그 사람 안에 들어오지만, 그는 여전히 기호에 아무 의미도 붙이지 못한다. 방 밖 들판을 걸으며 중국어로 대화해도 마찬가지다. |
| 가상 마음 반론 (Virtual mind reply) | 이해하는 주체는 사람도 시스템 전체도 아닌, 실행 중인 프로그램이 만들어 낸 별개의 가상 존재일 수 있다. | 설은 이 방향을 따로 크게 다루지 않았고, 하너드와 펜로즈 등이 이를 비판했다. |
| 로봇 반론 (Robot reply) | 컴퓨터를 카메라와 마이크, 팔과 바퀴가 달린 로봇 몸에 넣어 세계와 인과적으로 연결하면, 기호가 실제 사물과 이어져 의미를 얻는다. 마거릿 보든, 대니얼 데닛, 제리 포더, 한스 모라벡 등이 지지했다. | 감각 기관에서 오는 신호도 방 안의 사람에게는 또 다른 기호 묶음일 뿐이다. 사람은 여전히 규칙대로 기호를 조작할 뿐 무엇을 보는지 모른다. |
| 뇌 시뮬레이터 반론 (Brain simulator reply) | 프로그램이 중국어 원어민 뇌의 신경 발화를 뉴런 하나하나까지 그대로 모사한다면 그 프로그램은 이해한다고 봐야 한다. | 방 안의 사람이 뉴런 배치대로 연결된 수도관과 밸브를 규칙에 따라 여닫는다고 해도 중국어 이해는 생기지 않는다. 뇌 활동의 시뮬레이션은 실제 뇌가 아니다. |
| 결합 반론 (Combination reply) | 로봇 몸, 뇌 모사, 시스템 전체를 모두 합친 경우라면 이해를 인정해야 한다. | 작동 원리를 모를 때는 그렇게 보는 것이 합리적이지만, 속이 기호 조작임을 아는 순간 지향성을 부여할 이유가 사라진다. |
| 다른 마음 반론 (Other minds reply) | 다른 사람이 이해하는지도 행동으로만 안다. 행동으로 사람의 이해를 인정한다면 기계에도 같은 기준을 써야 한다. | 문제는 우리가 어떻게 아느냐가 아니라 남에게 무엇을 귀속하느냐이며, 계산 과정과 행동만으로는 정신 상태가 있다고 할 수 없다. |
| 직관 반론 (Intuition reply) | 방이 실제로 얼마나 거대하고 느린지 고려하면, "이해가 없다"는 직관 자체를 믿을 수 없다. 데닛은 사고 실험을 '제대로 상상'하면 그 규칙 체계의 복잡성이 이미 이해라 부를 만한 것을 담고 있다고 보았다. | 1980년 논문 이후 나온 반론이다. 설은 문제가 규모나 속도가 아니라 구문만으로 의미가 생기느냐는 원리에 있다는 입장을 유지했다. |
처칠랜드 부부는 1990년 '빛나는 방'(luminous room) 비유로 반박했다. 어두운 방에서 자석을 흔들어도 눈에 보이는 빛이 나오지 않는다는 이유로 "빛은 전자기파"라는 맥스웰 이론이 틀렸다고 결론 내리는 것과 같다는 것이다. 이들은 중국어 방이 이해하지 못한다는 데에는 동의하지만, 논증이 인지와 의미 현상에 대한 우리의 무지를 이용한다고 비판했다.[2]
- 구문적 의미론: 윌리엄 래퍼포트는 기호가 다른 기호(개념 표상)와 맺는 관계망 자체가 이해의 한 형태라는 '구문적 의미론'(syntactic semantics)을 오랫동안 주장했다.[2] 그는 한국어 번역본만 읽고 셰익스피어 연구의 권위자가 된, 영어를 모르는 한국인 교수를 예로 든 '한국어 방' 사고 실험을 제시했다. 원문의 구문을 다루지 못해도 내용을 이해할 수 있다는 점을 들어 구문과 의미의 관계를 다시 생각하게 하려는 것이다.[3] 다만 그 교수는 이미 한국어로는 구문과 의미를 모두 갖춘 해석자라는 점에서 설의 원래 설정과 다르다는 지적도 있다.
- 기호 접지 문제: 스티븐 하너드는 중국어 방 논쟁에서 출발해, 기호가 다른 기호에만 기대지 않고 지각과 행동을 통해 세계에 '접지'되어야 의미를 얻는다는 기호 접지 문제(symbol grounding problem)를 정식화했다.[2]
| 이름 | 제시자, 연도 | 내용 |
|---|---|---|
| 라이프니츠의 방앗간 | 고트프리트 라이프니츠, 1714년 《모나드론》 17절 | 생각하는 기계를 방앗간만큼 키워 그 안을 걸어 다녀도 서로 미는 부품만 보일 뿐 지각을 설명할 것은 보이지 않는다.[2] |
| 튜링의 '종이 기계' | 앨런 튜링, 1940년대 말 | 사람이 종이와 연필로 규칙표를 따라 체스 프로그램을 손으로 실행할 수 있다는 착상. 설의 방도 일종의 종이 기계다.[2] |
| 〈게임〉 | 아나톨리 미케비치(필명 A. 드네프로프), 1961년 | 경기장의 학생 1,400명이 각자 이진수 계산 조각만 하며 디지털 컴퓨터 역할을 했는데, 다음 날 자기들이 포르투갈어 문장을 러시아어로 번역했다는 사실을 알게 된다는 단편 소설.[2] |
| 중국 국민(중국인 뇌) | 네드 블록, 1978년 〈기능주의의 문제들〉 | 중국 인구 전체가 전화로 서로 연락하며 뉴런의 기능적 역할을 수행할 때, 그 집단이 고통 같은 정신 상태를 가진다고 할 수 있는가를 묻는다. 주로 감각질(qualia)을 겨냥했다.[2] |
| 박쥐가 된다는 것은 어떤 것인가 | 토머스 네이글, 1974년 | 박쥐에 대한 물리적 사실을 모두 알아도 박쥐로서의 주관적 경험은 알 수 없다는 논증. 의식의 주관성 문제와 관련된다. |
| 메리의 방(지식 논증) | 프랭크 잭슨, 1982년 | 색에 관한 물리 지식을 모두 갖춘 채 흑백 방에서 자란 과학자 메리가 처음 빨간색을 볼 때 새로 배우는 것이 있는가를 묻는다. |
네이글과 잭슨의 논증은 '의식의 주관적 성질'을 다루고, 중국어 방은 '이해와 의미'를 다룬다는 점에서 초점이 다르지만, 모두 물리적·기능적 설명만으로 마음을 다 설명할 수 있는가를 묻는다는 공통점이 있다.
설이 논증을 낸 1980년의 AI는 사람이 손으로 짠 규칙과 데이터베이스로 몇 문장을 답하는 수준이었다. 2022년 말부터 웹 규모의 데이터로 학습한 대형 언어 모델이 개발자도 예상하지 못한 긴 글을 만들어 내자, 중국어 방은 다시 논쟁의 중심에 섰다.[2]
- 닮은 점: LLM은 문장을 토큰으로 쪼갠 숫자 열을 받아 다음 토큰의 확률을 계산한다. 기호의 형식만 다루고 세계와 직접 접촉하지 않는다는 점에서 중국어 방의 규칙집과 비슷하다는 해석이 있다. 이런 시각에서는 환각이 '의미 없이 형식만 맞춘' 결과의 예로 거론된다.
- 다른 점: LLM의 '규칙'은 사람이 쓴 것이 아니라 학습으로 형성된 수십억 개 이상의 매개변수이며, 문맥을 반영해 새로운 문장을 만든다. 시스템 반론이나 기호 접지 논의에 기대어, 이미지·음성·행동을 함께 다루는 멀티모달 인공지능이나 로봇과 결합한 모델은 로봇 반론의 조건에 가까워진다는 주장도 있다.
- SEP 개정판은 LLM이 질병 진단, 글쓰기, 법률 논증에서 사람보다 나은 결과를 낸다면 "그래도 아무것도 이해하지 못한다"고 말하는 것이 신 포도처럼 들릴 수 있다고 하면서도, 설의 핵심 물음(구문에서 의미가 나오는가)은 여전히 열려 있다고 정리한다.[2]
결론은 '이해'를 어떻게 정의하느냐에 달려 있으며, 기능과 행동으로 정의하는 쪽은 이미 이해의 상당 부분이 있다고 보고, 의식과 본래적 지향성을 요구하는 쪽은 여전히 없다고 본다.
중국어 방은 원래 튜링 테스트식 행동 기준을 반박하려는 논증이었지만, 결과적으로는 행동 기준이 무엇을 보여 주고 무엇을 보여 주지 못하는지를 더 분명히 하는 데 기여했다. 1991년 컴퓨터과학자 팻 헤이즈는 인지과학을 "설의 논증을 반박하려는 지속적인 연구 사업"이라고 농담처럼 정의했고, 스티븐 핑커는 1990년대 중반까지 이 사고 실험을 다룬 논문이 100편을 넘었다고 적었다.[2] 설은 2025년 9월 세상을 떠났다.[4] 말년에는 연구 조교에 대한 성희롱 소송(2018년 합의)과 관련해 2019년 캘리포니아 대학교 버클리가 그의 명예교수 지위를 박탈해 공적 활동이 사실상 끝났다.[4]
- ↑ 1.0 1.1 1.2 J. R. Searle, 〈Minds, Brains, and Programs〉, Behavioral and Brain Sciences 3(3), 1980, pp. 417~457. doi:10.1017/S0140525X00005756
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 2.11 2.12 2.13 2.14 2.15 2.16 2.17 D. Cole, 〈The Chinese Room Argument〉, Stanford Encyclopedia of Philosophy, 2004년 초판, 2024-10-23 개정. [1]
- ↑ W. J. Rapaport, 〈Syntactic Semantics: Foundations of Computational Natural-Language Understanding〉, J. H. Fetzer (ed.), Aspects of Artificial Intelligence, Kluwer, 1988, pp. 81~131.
- ↑ 4.0 4.1 John Searle, philosopher who wrestled with AI, dies at 93, The Boston Globe (The New York Times 부고 전재), 2025-10-13.