기계의 인공지능의 여부를 파악하기 위해 과학자들은 여러 가지 실험을 행했다. 그 과정에서 존 설(John Searle)은 기계가 판단할 수 있는지 없는지 확인하기 위해서 사고실험을 실시했던 것이다. 그 실험에서 그가 고안한 것이 중국어방이다. 중국어방의 메커니즘은 이러하다.
어느 방에 중국어를 전혀 모르는 사람을 투입시키고 중국어로 된 질문들과 그에 대한 답변을 함께 주는 것이다. 그래서 중국어로 질문이 들어오면 질문과 답변 목록에 적혀 있는 대로 그에 대한 적절한 대답을 주는 것이다. 이에 따르면 실험의 원리는 피실험자는 주어진 목록을 순서에 맞게 읽는다면 중국어에 능통하다고 할 수 있는 것이다. 이 원리를 다른 관점에서 바라본다면, 이 실험만으로는 피실험자가 중국어에 능통한지 아닌지 정확히 판단하기에는 모호한 점이 있다는 것이다. 왜냐하면 피실험자는 주어진 문제에 주어진 답변만을 하기 때문이고, 다른 질문이 주어지면 가장 적절한 답을 줄지도 미지수이기 때문이다. 그래서 존 설의 중국어방이라는 사고실험엔 한계가 명확하다고 주장한 바 있다. 개인적인 생각으로, 나는 중국어방을 통한 결론이 피실험자가 중국어를 잘 한다는 의견에 반대한다.
이 실험의 한계 중 하나는 답변에 대한 실험자의 개입이 필수적이라는 것이다. 중국어방에 들어간 중국어를 모르는 실험자를 인공지능으로 치환해서 생각한다면, 인공지능은 인간의 만들어낸 답변만을 할 뿐인 것이다. 만약 모범답안을 잘못 설정한다면, 예를 들면 논란의 여지가 있는 답변이거나 대답 자체가 동문서답인 경우에는, 메커니즘 자체가 잘못되었다는 것을 증명하는 셈이다. 이 중국어방을 발전시켜서 지금까지 여러 가지 프로그램들이 개발되었다. 대표적인 것으로는 한국에서 만들어진 심심이, 삼성 사에서 만든 S보이스, 그리고 애플 사에서 만든 시리(SIRI) 등이 있다. 심심이의 경우는 온라인 채팅 인공지능 로봇이고, 시리는 음성인식 인공지능 어플리케이션이다. 심심이는 중국어방과 작동원리가 매우 비슷했다. 그렇기 때문에 문제점도 동일하다고 할 수 있다.
인풋과 아웃풋을 사용자가 자유롭게 조작할 수 있었기 때문에, 심심이는 질문에 대한 적절한 대답을 할 때도 있었지만, 엉뚱한 대답을 한 경우도 있었고, 말투가 좋지 않은 경우도 잇었고, 심지어 육두문자를 표현한 적도 있었다. 심심이가 제공하는 답변들은 인간이 심심이에게 가르쳤다고 할 수 있다. 적절한 답변도, 재치 있는 답변도, 동문서답도, 비속어로 가득한 답변도 모두 네티즌들이 가르친 것이다. 다시 말하면 심심이는 인풋된 빅데이터를 출력하는 것에 불과한 것이다. 시리와 S보이스도 초창기 버전보다는 훨씬 발전했지만, 여전히 문맥 인식 기능이 불완전하다는 평가를 받는다. 즉, 정확도 측면에선 개선해야 할 점이 많다고 할 수 있다. 중국어방의 상위 호환이라고 할 수 있는 심심이, 시리, S보이스에도 고쳐야 할 숙제들이 있기 때문에 중국어방은 지능과 이해능력이 완전한 상태라고 주장하는 것은 섣부르다고 생각한다.
나의 생각과 존 설의 주장한 중국어방에 대한 의견이 비슷한 두 번째 이유는 중국어방의 데이터베이스를 실험자가 필수적으로 관리해줘야 한다는 것이다. 처음에 투입한 정보와 나중에 투입한 정보가 서로 상충되는 정보라고 가정한다면, 사용자가 특정 정보의 출력을 요구할 때 중국어방에 있는 사람은 혼란스러워 할 것이다. 만약, 사용자를 인공지능을 구성하는 핵심 프로그램으로 바꿔서 생각한다면, 프로그램은 오류 메시지를 출력할 것이다. 그나마 개선된 프로그램은 예전 정보와 현재 정보를 나열하는 데서 그칠 것이다. 즉, 실험자 혹은 프로그래머는 끊임없이 변인통제 혹은 프로그램 업데이트를 신경 써야 한다는 것이다. 일부 정보가 개정되거나 새로 나왔다고 한다면 인간은 자율적으로 그 정보를 뇌에 주입하거나 혹은 그 정보를 거부하는 등의 반응을 보인다. 새로운 정보에 대해 스스로 반응할 수 있는 것이다. 반면에 프로그램 혹은 중국어방의 피실험자는 누군가가 그것을 알려주지 않으면 표출 정보에 오류가 있을 것이라고 예측할 수 있다.
결론적으로, 중국어방에는 의의도 있지만 한계점이 명확하다는 것에 주목해야 한다. 소프트웨어, 즉 인공지능 자체로서는 아무런 기능을 할 수 없고, 인풋 과정과 아웃풋 과정을 거쳐야 비로소 정보처리가 가능해진다. 이는 데이터베이스가 탑재된 중국어방이 중국어에 능통하다고 주장하기 이전에 지능과 이해의 본질적인 측면을 심사숙고해야 한다. 심심이의 예에서 볼 수 있었지만, 같은 질문이라도 의도적으로 답변을 여러 가지를 알려주고 수정작업을 병행한다면, 심심이는 한 질문에 대한 대답이 계속 바뀔 것이라는 것을 알 수 있다. 일상적인 질문을 했을 때 다양한 답변이 나오는 것은 정상적이라고 할 수 있지만, 특정 개념의 사전(事典)적 정의를 물어볼 때 일관성이 없는 답변을 하게 된다면 그것은 프로그램의 결함이자 프로그램의 명확한 단점이라고 할 수 있다. 따라서, 나는 중국어방이 언어에 능통하다고 생각하지 않는다.