중국어 방 논변 (Chinese Room Argument)

어느 컴퓨터 프로그래머가 중국어의 이해를 모방(simulation)할 수 있는 프로그램을 작성한다고 상상하자. 가령, 컴퓨터에게 중국어로 된 질문이 주어지면, 컴퓨터는 그 질문된 바를 그 기억이나 데이터베이스에 대조해 보고 그에 적절한 해답을 중국어로 산출하도록 하는 것이다. 컴퓨터의 답변이 중국 본토인의 답변만큼 훌륭하다고 가정하자. 그렇다면 이런 사실을 기반으로 하건대, 그 컴퓨터는, 중국사람들이 중국어를 이해하는 것처럼, 글자 그대로 중국어를 이해한다고 할 것인가?

자, 그럼 당신이 어느 방 안에 갇혀 있고 그 방에는 중국어의 기호들을 가득 담은 바구니들이 몇 개 있다고 하자. 당신이 나처럼 중국어의 단어 하나도 이해하지 못하지만, 중국어 기호들을 다루기 위한 영어로 된 규정집이 당신에게 주어졌다고 가정하자. 그 규정집의 규칙들은 기호들을 세분화해 다루도록 되어 있는데 그것은 의미론(semantics)에 의한 것이 아니라 구문론(syntax)에 의해 순수형식적으로 다루도록 된 것이다. 말하자면 그것은 '1번 바구니의 특정한 기호를 꺼내서 2번 바구니의 기호 다음에 놓으라는 식'의 규칙일 것이다.

이제 몇몇 다른 중국어 기호들이 그 방으로 들어온다고 하고 당신이 이를 받아 중국어 기호들을 방 밖으로 내보낼 수 있는 다른 어떤 규칙들을 가졌다고 가정하자. 방밖에 있는 사람들은 당신의 방 안으로 들어온 알지 못하는 기호들을 '질문'이라고 하고 당신이 방 밖으로 내보낸 기호를 '그 질문에 대한 응답'이라고 호칭한다고 가정하자. 더욱이 프로그래머들은 그 프로그램을 매우 잘 작성하고 당신도 기호들을 잘 다루어 멀지 않아 당신의 응답이 중국 본토사람의 응답과 구별할 수 없게 되었다고 가정하자.

썰이 이 중국어 방 사고실험을 통해서 보이고자 하는 것은 이렇게 요약된다. "당신이 형식적 컴퓨터 프로그램을 작동함으로써, 밖에 있는 관찰자가 보기에, 마치 중국어를 정확하게 이해한 것처럼 기호처리를 잘하지만 실상 당신이 중국어를 한 자도 이해하지 못하고 있다는 점에서는 아무것도 달라진 것이 없다는 것이다. 그러므로 중국어 이해에 적절한 컴퓨터 프로그램의 수행이 당신에게 중국어를 이해시키는 데 충분하지 못하다면, 그것은 다른 어떤 디지털 컴퓨터에게 중국어를 이해하도록 하는 데에도 충분하지 않다."

이 주장은 디지털 컴퓨터 프로그램이 아무리 발달한다고 해도 그것은 형식적(formal)이고 구문론적(syntactic)이므로 중국어를 이해하는, 즉 의미론(semantics)을 포함하는 인간의 마음과 같이 될 수 없음을 함축한다. 따라서 강한 AI는 잘못된 것이다.

— 썰의 중국어 방 논변은 50년대 이래로 인공지능 분야에서 지능을 판가름하는 기준으로서 널리 채용해 온 튜링 검사(Turing test)에 대한 반증 논변으로 간주되어 왔다. (이초식 1993)