인공지능

로봇의 행진 : Kevin Warwick 지음, KAIST 시스템 제어 연구실 옮김, 변증남 감수, 한승 (청문각), 1999 (원서 : March of the Machines, 1997), Page 91~119

인간은 생물학적인 존재이다. 인간 신체의 각 기관처럼 인간 두뇌도 생물학적인 존재이다. 두뇌는 눈, 코, 귀 등으로부터 정보를 위해서 결정을 내리고 우리 몸을 통해 행동으로 표현한다. 또한 인간 두뇌는 연속된 생각을 기반으로 하여, 행동하기 전에 순전히 내부적으로 인식하고 계획해서 몸에 어떤 반응을 일으킬 수 있는 매개체로 발전시킨다. 인간 두뇌는 두뇌 안의 한 지점에서 다른 지점으로 정보를 전달하는 데에 전기 화학적인 신호를 사용한다.
인간 두뇌가 진화 과정을 통해서 현재의 상태까지 발전하는 데에는 수백만 년이 걸렸다. 두뇌의 움직임이 신비롭다고 해서 두뇌가 무슨 마법의 힘을 갖고 있는 것은 아니다. 두뇌는 매우 복잡하긴 하지만 생물학적인 시스템이다. 인간 두뇌가 움직이는 방법을 정확히 모르는 경우, 그것을 마술적이거나 신비로운 것으로 여기기를 좋아하는 사람들이 있을 수 있다. 우리가 아직 이해하지 못하는 것을 수용하기 위해서는 생각의 방식을 바꿀 필요가 있다고 믿고 있지만, 나도 위에서 말한 그런 사람 중에 하나가 아닐까 염려스럽다.
신체기관이 어떻게 동작하는지를 자세히 조사할 수도 있고, 원래의 신체기관과 비슷하게 동작하도록 인공적으로 만들 수도 있다. 예를 들어, 인공 심장은 인간 심장을 대신하여 심장의 모든 기능을 수행할 수가 있다. 그러나 인공 심장은 인간 심장과 완전히 같지는 않다.
다시 말해서 이것은 원래 심장과는 다른 물질인 금속과 플라스틱으로 만들어졌기 때문에 생물학적인 것은 아니다. 처음부터 생물학적으로 자랐다면 같을 수 있겠지만, 그렇다 하더라도 완전히 똑같지는 않을 것이다. 인공 심장이 인간 심장의 움직임을 99.99% 까지 감당해낼 수 있는데, 남은 0.01% 가 매우 결정적인 요소라면 심장은 제대로 동작하지 않을 것이며, 그렇지 않다면 아무런 문제도 생기지 않는다.
인공 심장이 인간 심장과 같은 방식으로 동작한다고 해서 이것이 인간 심장과 겉모양까지 똑같을 필요는 없지만, 크기가 똑같을 필요는 있다. 너무 크면 신체에 안 맞아서 주머니에 넣거나 서류 가방 같은 곳에 넣고 다녀야만 하고, 너무 작으면 덜렁거려서 그 틈을 채워야 하기 때문이다. 그밖에 인공 심장은 신체에 거부감이 없는 한 색깔, 질감, 모양, 형태 등이 달라도 된다. 인공 심장이 10년 정도 지나 낡아서 고장이 난다면 새것으로 바꿔주어야 한다.
그러나 200년 정도 고장이 없어서 병에도 영향받지 않는다면, 버릴 때까지 여러 사람이 사용할 수도 있다. 이 경우 인공 심장은 인간 심장과 완전히 똑같지는 않고 오히려 우수하다고 할 수 있다.
그러면 인간 두뇌에 대해서는 어떠한가? 이 경우에도 비슷하게 얘기할 수 있을까? 두뇌는 매우 복잡해서 동작하는 방법을 이해하기가 쉽지 않지만, 심장이나 다른 기관처럼 생물학적인 시스템이라고 우리는 알고 있다. 자신의 두뇌가 동작하는 방법을 알려면 자신의 두뇌를 써야 한다는 점이 특별하다. 두뇌를 인공적으로 복제할 수는 없을까? 인간 두뇌가 동작하는 방식과 완전히 같은 방식으로 동작하는 인공 두뇌를 만들 수는 없을까?
인간 두뇌가 매우 특별한 기관이라는 사실에 주목해야 한다. 심장, 폐와 같은 다른 신체기관이나 신체의 일부분과는 달리, 두뇌는 원형과 완전히 똑같은 방식으로 동작하는 대용품을 지금 당장 생각해내기란 어렵다. 불가능하다는 말이 아니라 단지 생각하기에 어렵다는 뜻이다. 즉 두뇌를 제외한 신체의 나머지 부분은 물리적으로 생활 주변과 반응하는 데에만 사용되기 때문에, 한 개인으로서 인간은 본직적으로 한 개의 두뇌만을 가지고 있다. 그래서 두뇌를 제외한 신체의 나머지 부분을 인공적으로 만들어 이식하는 것이 신체의 나머지 부분에 인공두뇌를 이식하는 것보다 더 적절해 보인다.
심장과 같은 여러 신체기관들처럼 인간 두뇌의 기능을 조사할 수도 있고, 같은 기능을 수행하도록 인공적으로 만들 수도 있다. 이전에 언급한 튜링 테스트는 두뇌에 관한 한 인간 두뇌와 인공 두뇌에서 같은 결과가 나오게끔 만들어져 있다.
실제로 인공 두뇌를 인간 신체에 연결하려면 몇 가지 신체적으로 고려해야 할 점이 있다. 즉 척수와 같은 신경 계통에 연결할 때 고려해야 할 방법을 말한다. 그러나 그렇게 할 수 있을 거라고 여겨지지도 않지만, 가까운 장래에 두뇌 이식을 할 생각이 없으면 신체적인 연결은 그리 중요하지 않다. 단지 우리는 독립형의 블랙박스와 같은 인공 두뇌에만 주의를 기울여서 이것이 인간 두뇌처럼 동작하기를 바랄 뿐이다. 그렇지만 블랙박스와 같은 인공 두뇌를 설치할 때의 신체적인 제약을 잊어서는 안된다.
어릴 때 들었던 매우 심술궂은 우스갯소리가 기억난다. 그 이야기는 다음과 같다.
자니란 어린 소년이 거미를 훈련시켜서 명령을 하면 이리저리 움직이도록 하였다. "앞으로 가!" 라고 소리치면 거미는 앞으로 갔다. 이것도 점점 따분해지자 (여기서부터가 심술궂다), 자니는 무슨 일이 일어나나 보기 위해서 거미의 다리를 몽땅 뽑아 버렸다. 다음나 자니는 학교에 거미를 가지고 가서 자기가 큰 발견을 하였다고 주장했다.
자니는 거미를 교실 앞에 놓고 거미에게 "앞으로 가!" 라고 외쳤다. 그러나 거미는 꿈틀거릴 뿐 아무것도 하지 못했다. 그러자 "뒤로 가!" 라고 소리쳤다. 이번에도 거미는 약간 꿈틀거릴 뿐이었다. 이를 지켜보던 선생님이 "네가 발견한 게 도대체 뭐냐?" 라고 물었다. 그 질문에 자니는 "거미는 다리가 없으면 바보가 돼요" 하고 답했다.
아이들의 우스갯소리에 나오는 자니처럼 우리도 이런 행동을 자주하지 않는지 모르겠다. 당신은 책상 위에 있는 컴퓨터에다 대고 "정말 믿을 수 없어. 이 컴퓨터가 하는 짓 좀 봐" 라고 할 때가 있을 것이다. 그런 행동을 보고 어떤 사람은 "그래오. 하지만 컴퓨터가 당신에게 커피까지 만들어줄 수는 없지 않소?" 이렇게 말할 수도 있다.
컴퓨터에게 팔이나 다리가 주어지지 않는다면, 컴퓨터는 물론 그런 일을 할 수가 없다. 신체적으로나 정신적으로 건강해서 커피를 끓일 수 있는 사람이라 할지라도 차와 찻잔이 어디 있는지를 모른다면 당장 할 수는 없다. 어떤 사람은 이전에 차를 끓여 본 경험이 없어서 무엇을 할지 모를 수도 있고, 이런 저런 이유 때문에 '차' 라는 단어를 이해하지 못하는 경우도 있을 것이다.
그렇기 때문에 인공 두뇌 블랙박스와 인간 두뇌를 비교하는 경우에는 무척 주의를 기울여야 한다. 신체적인 제약이나 대화 방식의 차이를 가지고 판단해서는 안 될 것이다. 인공 시스템이 인간의 것과는 다르다라는 사실을 간과해서는 안 된다. 이것은 인간이 아니기 때문에 인간 두뇌보다 '좋지 만은 않은' 특징을 가지고 있을 수도 있다. 어떤 것은 '더 좋을' 수도 있다. 우리는 어떤 사물이 좋지 않은 특징을 가진 경우, 그것의 더 좋은 면은 전혀 고려하지 않고 사물 전체를 경시하는 경향이 있다.
그렇다면 인간 두뇌의 기본적인 반응과 비교하면서 인공 두뇌에서 찾고자 하는 것은 무엇인가? 그것은 바로 "인간 두뇌가 얼마나 지능적인가?" 하는 문제와 "어떻게 인공 지능과 인간 지능을 비교할 것인가?" 하는 문제이다. 그러나 지능 이외에도 인간 두뇌에는 많은 기능들이 있다. 의식, 자각, 의지, 감정, 창조성, 추상력과 같은 기능들이다. 이들은 실제로 간과해서는 안 될 중요한 특징이기 때문에 나중에 다시 고려하겠지만, 인공 지능이 이 책의 핵심이므로 잠시 이 주제에만 머물고자 한다. 여기서는 인간 지능으로 생물학적인 시스템을 조사하고, 인공 지능으로는 '특별히 다른 것'을 조사하려고 한다. '특별히 다른 것' 이란 반드시 컴퓨터를 기반으로 한 것은 아니다.
인공 지능이란 무엇인가? 또한 인공 지능을 만들어서 무엇을 얻고자 하는가? 가장 많이 인용되는 인공 지능에 대한 정의는 민스키 (Minsky) 가 한 다음과 같은 구절이다.
"인간의 지능이 필요한 작업을 기계가 할 때, 그런 기계를 만드는 과학이 인공 지능이다"
분명히 이 인용문은 당신의 생각을 모두 다 말한 것도 아니고, 지능을 정의한 것은 더더욱 아니다. 이 정의는 상당히 폭넓은 개념이라 논쟁의 여지조차 없지만, 그럼에도 인공 지능에 대한 정확한 측면을 말하고 있다.
인공 지능에 대한 또다른 정의가 있다. 켈리 (Kelly) 가 최근에 민스키의 정의를 다음과 같이 수정하였다.
"인간 지능과 관련된 특징이 컴퓨터 시스템에 있다면, 이것은 지능적이다."
이 말은 튜링 테스트와 매우 비슷하다. 그렇지만 여기서는 컴퓨터 시스템이라고 구체적으로 언급하고 있는데, 나는 이 부분이 유감스럽다. 왜 컴퓨터 시스템뿐이겠는가? 내가 이해하기로는 컴퓨터는 전자적인 방법에 의해서 매우 빠른 속도로 정보를 처리하는 장치일 뿐이다. 게다가 대중에게 널리 보급된 컴퓨터는 디지털이나 논리 컴퓨터의 개념일 뿐이다. 따라서 이 개념이 인간의 두뇌조차 컴퓨터라고 말할 수 있을 정도로 넓은 개념이라고 여겨지지는 않는다. 글로스 (Gloess) 는 인공 지능을 이렇게 정의하였다.
"인간이 어느 정도 사고력을 가져야 할 수 있는 작업을 기계가 할 때, 그 기계 장치에 의해서 수행되는 작업 과정이 인공 지능이다."
그러나 여기서는 기계 장치나 지능에 비해 상대적으로 제한된 관점일 수밖에 없는 작업 수행만을 이야기하고 있다. 바르 (Barr) 와 파이겐 바움 (Feigenbaum) 이 그들의 저서 「인공 지능의 안내서」에서 언급한 인공 지능에 대한 최악의 정의는 다음과 같다.
"인공 지능이란 지능적인 컴퓨터 시스템을 설계하는 전산학의 일부분이며, 이 시스템은 언어 이해, 학습, 추론, 문제 해결 등과 같이 인간 행동 내의 지능과 관련된 특징을 보이는 시스템이다."
위 정의는 두 가지 문제를 안고 있다. 첫째, 인공 지능을 섣불리 전산학의 주제로만 연결하려고 하고 있다. 왜 그랬을까? 둘째, 이 정의는 다른 것은 제외하고 오직 지능적인 컴퓨터 시스템만을 지적하고 있다. 게다가 이 정의를 가지고 지능의 다른 면까지 확정하려는 대담함까지 가지고 있다.
바르와 파이겐 바움이 말한 정의 중에서 한 가지 중요한 점은 지능적 시스템의 특징으로서 '언어 이해'를 포함시키고 있다는 점이다. 그들이 "정상적이고 자연적인 인간 언어" 라고 말하지 않았다는 점에 주목해야 한다. 즉 기계가 우리 인간의 자연어로 대화할 수 있는지의 여부로 기계의 지능을 판단하지 않는다는 것이다.
예를 들어 기계가 영어나 체코어를 이해하고 반응하도록 만드는 것도 멋진 일이긴 하지만, 그런 일을 할 수 없다고 해서 그것이 지능이 없다라고 말할 수는 없는 것이다. 이것은 인간에게도 마찬가지이다. 중요한 것은 기계가 어떤 언어든 이용해서 통신이 가능한가 하는 것이다. 대부분의 컴퓨터 시스템은 이미 그러한 능력을 가지고 있다. 보통 기계들의 언어는 이진 코드로 된 신호의 형태이며, 이 언어는 마침 디지털 컴퓨터에 적당한 것이었다.
내가 일부 선호하는 인공 지능에 대한 정의는 마가렛 보던 (Margaret Boden) 의 「인공 지능과 자연인」이란 책에 실려 있다. 이 정의는 민스키의 정의를 기초로 하고 있지만 그것을 멋지게 부풀렸다. 보던의 정의를 기초로 하고 있지만 그것을 멋지게 부풀렸다. 보던의 정의를 한두 자 고치고 내 아이디어를 첨가해 아래와 같이 적어 보았다 (이 일로 마가렛이 나를 나쁘게 생각하지 않았으면 좋겠다).
"인공 지능이란 컴퓨터에 관한 학문이 아니고 사고와 행동 내에 있는 지능에 관한 학문이다. 만일 사람의 지적 사고 능력이 필요한 작업을 기계가 할 수 있게끔 만들려면, 보통 기계가 이해할 수 있는 컴퓨터 처리 과정으로 표현되어야 하기 때문에 컴퓨터는 흔히 인공 지능의 수단이 된다."
인공 지능에 대한 이러한 정의는 우리가 이루고자 하는 두 가지 목표를 언급하고 있다. 하나는 인간 지능의 특징을 이해하는 것이고, 다른 하나는 기계를 영리하게 만들기 위해 기계 안에 더 많은 특징을 부여하는 것이다. 그리고 나면 두 번째 것의 결과를 첫 번째 것과 비교할 수가 있을 것이다. 이 둘을 비교할 때 불평등한 조건을 달지 말아야 한다는 점을 잊지 말자. 내가 레딩 대학교에서 관여한 대부분의 작업은 두 번째 목적과 관련이 있다. 흥미롭게도 그 결과는 첫 번째 목적에 직접적으로 영향을 주고 있다.
그러나 지능 자체에 대한 개념도 확장될 필요가 있다. 펜로즈 (Penrose) 는 '지능은 이해 (understanding) 가 뒷받침돼야 하는 것' 이라고 지적하면서 이해와 협조하는 지능을 '진짜 지능' 이라고 칭하였다. 또한 진짜 지능 안에는 '이해' 와 '인식' 이 존재하며, 이해가 없는 지능은 잘못된 명칭일 뿐이라고 하였다. 그는 지적하기를, 어떤 사람들은 그들이 어느 정도 이해력이 있는 것처럼 우리를 잠시 동안 믿게 할 수는 있지만, 결국은 아무것도 모른다는 사실이 드러나게 된다고 했다. 1장에서 지적한 바와 같이 인간에 대한 많은 지능 테스트는 이해력의 표시를 찾는 것이 아니라, 기억이라든가 규칙 준수와 같은 또다른 지능의 특징을 찾고 있다고 말할 수 있다.
그러면 어떻게 이해력을 측정할 수 있을까? 튜링 테스트 같은 것이 아니라 만족할 만한 대답과 설명이 나올 때까지 단순히 더 많은 질문을 계속 해대는 것인가? "이해하십니까?" 라고 질문만 하면 직접적인 대답을 얻을 수가 없다. 어떤 사람은 아주 정직하게 "예" 라고 대답할 수 있을 것이다. 하지만 "아니오" 라고 대답한 사람이 사실은 그 문제를 더 잘 이해하고 있는지 모른다. 이것은 자니 내시 (Johnny Nash) 의 노래 가사와 매우 유사하다.
"나는 많이 찾아내면 찾아낼수록 더 적게 안다."
나는 이 노래가 다음과 같이 수정돼야 한다고 생각한다.
"더 많이 찾아내면 찾아낼수록 확실히 이해하는 것이 더 적어진다."
어떤 문제에 대해서 적게 알고 있을 때에는 많이 이해하고 있다고 생각할 수가 있다. 그러나 많이 알면 알수록 더 적게 이해하고 있다고 생각하게 된다.
나는 진짜 지능이 '이해' 의 뒷받침이 있어야 한다는 범위까지는 펜로즈의 말에 어느 정도 동의할 수 있지만, 나는 '인식' 에는 큰 의미를 두지 않는다. 탁자 위에 놓여 있는 컴퓨터는 사용자가 직접 키보드를 누를지라도 그를 인식하는 것 같아 보이지는 않는다. 게다가 컴퓨터는 자신조차도 인식하지 못하고 있는 것처럼 보인다.
그럼에도 불구하고 인식이라는 것은 우리 인간이 타인과 자신을 지각하는 방법과 관련한 매우 큰 문제이다. "나는 생각한다. 고로 나는 존재한다" 라는 순수한 철학적인 개념은 제쳐놓고라도, 인식은 우리의 감각 시스템이나 감정과는 별개이다. 비유하자면 자니가 거미한테 한 것과 같이, 기계의 다리를 뽑아 버렸다는 이유로 기계가 인식을 못 할 것이라고 결론을 내려서는 안 된다.
인간 지능에 대해 이론적으로 깊이 이해해야만 인공 지능에 대해서도 깊이 알 수 있을 것이라고 믿는 사람들이 있다. 3장에서 지적한 바와 같이 하이데거 (Heidegger), 비트겐슈타인 (Wittgenstein), 로젠블랫 (Rosenblatt : 드레퓌스 Dreyfus 참조) 등이 말한 것처럼, 인간은 자기 주변 세계에 대한 이론적 지식이 없어도 지능적으로 행동할 수 있으며, 수학 이론을 사용하지 않고도 코를 긁고 음식을 집을 수 있다.
이론은 지능적인 행동을 설명하는 데 필수 불가결한 것이 아니며, 인공 지능적인 기계를 창조하는 데 제한 조건이 되지는 않는다. 따라서 "아, 나는 인간 지능에 대해서 이론적으로 깊이 이해하고 있지 못하기 때문에 오늘부터 지능적인 방법으로 생각할 수가 없다. 나는 지능적인 방식으로 생각하기를 원하며, 다른 사람들도 그렇게 되도록 서둘렀으면 좋겠다" 라고 말하는 사람은 아무도 없다.
인간이 깊은 이론을 토대로 생각하지 않는다고 해서, 인간이 만든 인공 지능 기계 안에 반드시 정지 메커니즘을 넣어야 할까? 실생활에 유용한 많은 과학적인 영역을 보더라도 그것을 뒷받침하는 이론은 아직도 부족하고 열악한 상태이다.
덴넷 (Dennett) 이 「무대 마술사」라는 자신의 글에서 제기한 중요한 문제를 나는 여기서 더 확장해 보고자 한다. 방청석에서 주의 깊게 앉아 매처럼 주의 깊게 관찰만해서는 마술사의 기법이 잘 파악되지 않는다. 너무 많은 것들이 시야 밖에서 이루어지기 때문이다. 약간의 정보라도 얻으려면 무대 뒤편이나 소품으로 쓰는 날개 사이를 뒤지는 편이 더 나을 것이다.
집에서 안락 의자에 앉아 마술사의 행동을 곰곰이 따지고 있노라면, 어떤 마술은 완전히 불가능해 보여서 진짜 마술이라고 여기거나, 우리가 알고 있는 물리학적인 수단으로는 설명할 수 없다라는 결론을 내리고 만다. 우리는 마술사의 묘기를 (컴퓨터에 복사해서) 시뮬레이션 프로그램으로 만들 수는 없다. 그렇다고 마술사들이 요술지팡이를 흔들 때 마술이 일어난다고 생각하지도 않는다. 비록 우리는 설명할 수 없지만 마술사는 이미 알고 있을 것이라고만 믿고 있다. 다른 것들도 이와 같은 방식으로 생각할 수가 있다.
예를 들어 많은 사람들이 자동차 엔진이나 진공 플라스크나 인간의 심장이 동작하는 방법을 모르고 있지만 그렇다고 그곳에 무슨 마술이 있다고는 생각하지 않는다.
그러면 우리는 인간 두뇌에 관해 무엇을 배워야 할 것인가? 2장에서 언급한 '전문가 시스템' 을 적용해 본다면, 인간이 두뇌를 동작시키는 방법을 관찰하고, 이 방법을 컴퓨터나 기계로 복제함으로써 인간 두뇌의 특별한 동작 방법을 알 수가 있다. 그렇게 되면 컴퓨터나 기계는 어떤 특별한 작업에서 인간을 대신할 수가 있다. '행동하는 방법', '이해력' 과 '상식을 사용하는 방법' 등은 인간이 행하는 모든 것이라고 할 수 있는데, 이러한 인간 행동을 외부에서 관찰하고, 이것을 인공적으로 복제하는 일이 진정 가능한 것일까?
대체로 이것은 두뇌의 입장에서 보면 매우 긴 과정이 필요하다. 특히 인간이 상식을 사용하는 방법만 보더라도 그러하다. 이것은 안락 의자에 앉아서 마술사들을 관찰하고 그들의 비법을 반복하는 것과 매우 유사한 경우이다. 아마 당신은 마술사의 묘기 일부분을 흉내낼 수도 있을 것이고, 좀더 생각한 후 한두 가지의 비법을 알아낼 수도 있다. 그렇지만 당신은 마술사의 핵심 마술은 흉내낼 수 없을 것이다. 부분적으로는 마술하는 방법을 정확히 모르거나 사용하는 장비가 마술사의 것과 완전히 같지는 않기 때문이다.
따라서 외부에서 두뇌의 동작을 관찰하고 복제품으로 만들려고 하면 몇 가지 결과를 얻겠지만, 두뇌의 동작이 무척 복잡하기 때문에 완성까지는 요원하다. 이것이 고전적인 인공 지능의 분야에서 과거 여러해 동안 해왔던 일이며, 지금도 여전히 많은 사람들이 일하고 있다. 나의 전임자로 레딩 대학 인공두뇌학과의 교수로 있는 피터 펠지트 (Peter Fellgett) 는 "나무에 올라 달에 이르려는 것이다" 라는 말로 이 상황을 적절히 묘사하였다.
인간의 상식을 인공적으로 표현하는 것은 그 중에서도 특별한 문제이다. 드레퓌스가 말하기를 "인간은 정상적으로 상식을 사용하고 있지는 않다" 라고 했으며, 비트겐슈타인은 "상식에 대한 이해력의 총량은 매일 매일 쌓은 노하우이다" 라고 말했다. 즉 우리는 수많은 특별한 경우에 해야 할 일을 정확히 알고 있다. 사실과 규칙의 입장에서 상식추론을 이해하고자 한다면, 여러 특별한 경우를 포함하면서 같은 환경이라도 다양한 일들을 하기 위해서는 더 많은 사실과 규칙이 필요하며, 때로는 수학을 적용해야 한다. 그러나 팔과 다리를 이리저리 움직이는 것과 같은 일상의 행동에서는 상식에 비해 수학은 거의 사용되지 않고 있다.
본질적으로 두 가지 측면을 가지고 있는 인간 두뇌의 개념으로 다시 돌아가 보자. 첫째, 초기의 유전자 프로그램이 두뇌를 탄생시켰다. 둘째, 두뇌는 특정한 신체 안에서 탄생할 때부터 현재에 이르기까지 축적된 산물로부터 경험을 얻는다. 인공 두뇌에 대한 고전적인 접근 방법에서는 단순히 외부에서 두뇌의 동작을 관찰하여 각 개인이 갖는 독특한 초기 유전자 프로그램과 경험으로 만들어진 동작 특성을 얻으려고 한다. 2장에서 지적한 바와 같이 유전자 프로그램의 결과물인 '본능' 은 우리 인생 전반에 걸쳐서 고려될 만하고, 우리가 상상하는 것보다도 그 영향력이 훨씬 클지 모른다. 따라서 이미 만들어진 두뇌를 외부에서 경험적으로 관찰한 것에 관심을 두고 있는 인공 지능에 대한 고전적인 방법으로 얼마나 많은 것을 얻을 수 있겠는가?
'두뇌의 구조' 와 '생각하는 방식' 은 행동에 대한 책임의 문제를 야기한다. 어린아이로 인생을 시작할 때 두뇌는 유전자 프로그램에 의해 초기화되다가 부모의 영향과 주위의 사건에 의해서 정확한 성질이 결정된다. 아이가 경험하는 것과 이를 통해서 배우는 방법은 경험을 제공하는 사람과 아이의 초기 프로그램에 의해 영향을 받는데, 초기 프로그램의 경험을 나름대로의 방식으로 다루어 학습시킨다. 어떤 이는 우연도 모종의 역할을 한다고 생각한다. 그러나 나는 이러한 주장을 지지하지는 않는다. 결국 아이는 말할 것도 없고, 어른도 개인으로서 갖는 행동이 자신의 통제밖에 있다고 말할 수 있다.
우리가 하는 어떤 행동, 실은 모든 행동이 궁극적으로 부모님과 우리가 접촉한 사람들의 책임이다. 반대로 생각하면, 전적으로 책임이 있는 사람은 부모님도 아니고 부모님의 부모님이다. 이런 식으로 계속 거슬러 올라가면 아담과 이브까지 가는데, 그들은 유전자를 통해서 우리가 하는 모든 행동에 부분적으로 책임이 있어 보인다. 혹은 그들 자신의 유전자를 선택한 책임이 있다.
부모나 스승, 또는 친척들 모두가 불가피하게 아이에게 영향을 주는데도, 법의 눈으로 보면 부모는 아이의 행동에 어느 정도 책임이 있다고 여기지만 다른 사람들까지 쉽게 연루시키지는 않는다. 게다가 인간은 성인이 되면 특별한 경우를 제외하고 모든 행동에 대해 스스로가 책임을 진다. 법 역시 성인의 경우 행동에 대한 초기 유전자 프로그램의 효과는 점차 없어지거나 더 이상 중요하지 않다는 쪽으로 해석하는 경향이 있다. 또한 개인에게 직접적인 영향을 준 사람조차도 강제로 시켰다는 것이 증명되지 않는 한 즉각적인 책임을 지지 않는다. 그는 자기방어로 행동을 했거나 '더 지능적이고 강력한 개인' 에게 속아서 대통령을 쏘았던 것이다.
나는 법도 과학처럼 관찰해서 그 의미를 이해할 수 있다거나 그래야만 한다고도 생각하지 않는다. 법이 나라마다 다르다는 사실을 잊지 말아야 한다. 반면에 과학적 사실은 보편적인 사실이다. 잠시라도 법으로부터 과학적 사실을 잊지 말아야 한다. 반면에 과학적 사실은 보편적인 사실이다. 잠시라도 법으로부터 과학적 사실을 결론 짓는다면, 펜로즈가 말한 대로 누구도 자신의 행동 때문에 비난받지 않을 것이고, 해를 거듭해 출현하여 개인의 행동을 지배하는 특별한 존재가 두뇌 안에 반드시 있다는 사실에 동의하게 된다. 펜로즈의 주장은 다음과 같은 것을 의미한다.
"현재 물질적으로 사물을 이해하는 데는 무언가 빠진 것이 있다. 이 요소를 발견한다면, 아마도 우리 과학의 견해는 상당히 크게 바뀔 것이다."
이 말은 우리가 최종의 물질적인 요소를 아직 발전하지 못했다는 뜻이다. 만일 펜로즈의 말이 사실이라면, 두뇌 안에 있는 최종의 물질적인 고리를 발견하게 된 바로 그 순간부터 개인은 자신의 행동에 대해 더 이상 책임지지 않아도 된다. 그래서 만일 이러한 요소가 실제로 존재하고 법과 연계시켜 적용된다면, 과학자가 내릴 수 있는 결론은 두뇌 구조라는 직소 퍼즐 (조각 맞추기 퍼즐 : Jigsaw) 속의 그 마지막 조각을 인해 범죄자들이 석방되고, 부모는 말할 것도 없고 친구나 친척까지 즉시 감옥에 들어가야 한다는 것이다.
한 범죄자가 범죄를 저지르려는 순간 그의 가장 가깝고 사랑하는 주변 사람들을 감옥에 보냄으로써 무죄가 될 수도 있다. 만약 당신이 아버지를 폭행하면 부친 폭행이라는 죄목으로 당신의 아버지를 감옥에 보낼 수 있다. 왜냐하면 당신의 아버지는 당신의 유전자 프로그램에 어느 정도 책임이 있기 때문이다. 이 경우는 당신의 아버지가 먼저 구타하지 않은 경우인데, 만약 당신의 아버지가 먼저 구타했다면 그 자리에 없는 당신의 할머니가 모든 폭행을 책임져야 한다.
그러나 법 조항은 '마법적인' 요소가 18세 정도의 나이에 인간 두뇌에 나타나거나, 물질을 이해하는 데 빠진 요소가 있다고 생각하지 않는다. 하지만 법은 어려운 판단을 잘하고 있으며, 범죄자에게 유죄를 선고하는 것은 합리적인 방법으로 정당해 보인다. 그러나 두뇌에 마법적인 요소가 조금도 없고 빠진 요소도 없다고 한다면, 현장법으로 잡혔을 때 우연히 저질렀다고 하면 놀림감이 되므로 우리는 정당하게 자신의 책임이 아니며, 부모나 친한 사람들에게 책임이 있다고 주장할 수 있게 된다.
사람들이 자신은 약한 개인에 불과하며, 다른 사람의 영향을 받았기 때문에 자신이 저지른 범죄를 합법적으로 다른 사람에게 전가할 수 있다고 여기거나 실제로 그렇게 한다면, 이것은 우리가 변명할 수 있든지 없든지 간에 공정하지 못하다. 찰스 디킨스 (Charles Dickens) 의 「올리버 트위스트」에 나오는 말이 있다. 범블 씨가 말하기를, "만일 법이 이것을 인정한다면, 법은 바보 멍청이다" 라고 했다.
어느 정도 범위의 인공 지능을 가진 기계를 생각한다면 문제는 약간 까다롭게 된다. 이것의 행동은 일부는 유전자 프로그램을 기초로 하며, 부분적으로는 경험으로부터 배운 것을 기초로 하고 있다. 어떤 마법적인 요소도 조금도 없으며, 빠진 요소도 없다는 데 동의하자. 이 경우, 기계가 지금 범죄를 저질렀다면 누가 비난을 받아야 할까?
첫 번째 간으성으로, 사람에게 하듯 기계에게도 같은 법을 적용시켜서 기계에게 전적인 책임을 지울 수 있다. 두 번째, 기계를 훈련시켜 그러한 경험을 갖도록 한 사람에게 책임을 지울 수 있다. 세 번째, 현재의 법적인 상황에서는 초기의 유전자 프로그램을 준 인간이 책임을 질 수 있다. 네 번째, 기계의 '질이 나쁜' 성격을 모르고 있지만 기계를 담당하고 있는 사람이 책임을 지는 것이다. 이 책의 후반부에서 우리는 어떻게 기계가 스스로 '질이 나쁜' 성격을 발전시켜 나가는지 볼 수 있을 것이다. 마지막으로, 이전 기계가 그 기계에게 초기 프로그램을 입력할 수 있었다면, 궁극적으로 누구에게 책임이 있는지 알아내기 위해서 기계의 조상으로 거슬러 올라가야 한다. 분명히 기계의 책임과 권리에 관한 분야는 가까운 장래에 법조계 관련 종사자들에게 흥미로운 수많은 법률 사건을 제공해줄 것이다.
이제 다시 실험적이고 행동 생태학적인 방법으로 순수하게 외부에서 인간 두뇌를 조사해 보자. 두뇌는 물질적이고 생물학적인 존재이므로 우리가 아직 물질적인 용어로 모든 동작을 묘사할 수 없다고 해서, "두뇌는 마법적이고 신비한 방법으로 동작하기 때문에 이것을 과학 용어로 설명할 수는 없다" 라고 말하는 것은 분명히 옳지 않다.
여기서 다음과 같은 질문을 한번 해보자. "인간 두뇌와 거의 같은 방식으로 동작하는 인공 기계 두뇌를 만드는 것이 가능한가?" 이러한 질문은 블랙박스 같은 인공 두뇌란 의미로 말한 것이지만, 감각기관이나 통신에 제한을 두지 않았으므로 단순한 기계의 지능보다는 더 넓은 범위를 가진 것에 대한 질문이다. 그러면 인공 두뇌가 인간 두뇌와 같다는 것을 확인하기 위해서 인간 두뇌에서 찾아야 할 것은 무엇일까? 오늘날 과학적 사고는 이것을 '의식' 이라고 부른다.
"당신은 의식이 있습니까?" 라는 질문을 한다면 의식은 이상한 용어로 보일 수도 있다. 옆에 서 있는 사람에게 이런 질문을 한다면 그는 "예" 라고 대답할 것이다. 당신이 책상 위에 있는 컴퓨터에게 동일한 질문을 하면 컴퓨터는 반응이 없을 것이다. 이 경우 어떠한 결론을 내려야 하는가?
공정한 질문과 대답을 원한다면, 이러한 대답에서 바로 결론으로 비약해서는 안 된다. 당신이 만족할 때까지 튜링 테스트의 방식으로 질문하는 것도 하나의 방법이 될 수 있다.
당신은 조금 전 그 사람에게 "당신은 의식이 있습니까?" 라고 다시 묻는다. 그는 당신을 돌아보고 웃으며 "물론이죠" 하고 대답할 것이다. 그러면 당신은 어떤 결론을 내려야 할까? 십중팔구 그 사람은 의식이 있다고 결론내릴 것이다. 당신 앞에 있는 개에게 같은 질문을 해보자. 영어로 하든지, 할 수 있다면 개의 언어를 사용해도 좋다. 아마도 개는 같이 산책하기를 원하거나 비스킷을 달라는 뜻으로 당신을 향해 짖을 것이며, 이것으로 당신은 개도 의식이 있다고 결론내릴 것이다.
이번에는 벌에게 같은 질문을 해보라. 벌은 당신이 무슨 말을 하기 전에 뭔가를 하는 듯 주의를 윙윙거리며 날아다닌다. 당신이 둘둘 말은 신문으로 벌을 때리려고 하는데 벌이 때마침 날아가 버린다. 이것을 보고 당신은 벌 역시 의식이 있다고 결론내릴 것이다. 당신은 이번에는 기계에게 질문을 한다.
"너에게도 의식이 있니?"
이 기계는 이전 사람보다 훨씬 친절하게 답변한다.
"예, 그렇습니다. 질문해 주셔서 고맙습니다. 당신은 어떠십니까?"
그러면 이러한 질문으로부터 어떤 결론을 내릴 것인가? 더 많은 질문이 필요하다고 느낍니까? 그래요? 왜 그렇죠? 당신은 개가 당신을 향해 짖을 때에도 흡족해했고, 인간에게도 한 가지 질문만 했을 것이다. 당신이 처음에 말을 걸었던 그 사람이 기계에 연결되어 있다고, 가정하고, 기계가 그에게 말하는 대로 당신의 질문에 대답할 경우를 상상해 보자. 그러면 우리는 어떤 결론을 내려야 할까?
효과적인 테스트를 위해 당신 자신이 눈을 감고 튜링 테스트를 하면 어떨까? 이 말은 인간, 개, 벌, 기계를 각각 다른 방에 두고 개별적으로 더 많은 질문을 하는 것을 의미한다. 그런데 이것이 우리의 질문을 더욱 분별력 있게 해줄 것인가? 우리가 가지고 있는 감각과 지식을 사용하지 않는다면 결코 그렇지 않다. 우리가 앞에 있는 사람을 바라보고 있고, 그 역시 우리를 바라보며 웃고 대답한다면, 우리의 지식을 바탕으로 그는 의식이 있다라고 할 수 있다. 그러나 인간에게 적용했던 것과 동일한 테스트를 기계나 개, 벌에게 적용한다면 그 테스트가 튜링이든 뭐든 간에 그것은 어리석은 행동이다.
인간과 기계는 매우 다르기 때문에 인간에게는 인간과 관련된 질문을 하고, 기계에게는 그에 걸맞는 질문을 해야 한다고 말한 것이 이번이 처음은 아니다. 인간의 두뇌는 생물학적인 반면, 컴퓨터 형태로 되어 있는 기계 두뇌는 보통 전자적이고 실리콘 칩을 기초로 하고 있다.
인간 두뇌는 발생 초기에 세포 분열로 인생을 출발하지만, 현재처럼 동작하기까지 생물학적인 발달과 학습이 사회 안에서 함께 이루어져 왔다. 그러나 단순히 프로그램되는 것이 아닌 학습 컴퓨터 같은 기계 조차도 배우고 있는 동안 성장하거나 발달하지는 않는다. 의식과 마찬가지로 지능도 고정된 성질을 정의하기가 어렵고, 측정하는 일은 더욱 어려운 인간의 특징이다. 1장에서 지적한 대로, 지능에 대한 많은 특징은 실제로는 모두 측정될 수 없고, 다만 테스트의 대상이 되는 능력만이 측정될 뿐이다. 그렇다면 인간의 지능을 측정하는 데 사용하는 테스트로서 기계에게 질문한 후 그 대답으로부터 기계에게 지능이 없다고 결론내리는 것은 합당한가? 이 말은 기계가 대답을 실제로 이해할 수 있는가라고 펜로즈가 제기한 더 어려운 문제에 이르게 된다.
한 가지 중요한 점은 인공 두뇌가 반드시 컴퓨터에 기초한 시스템일 필요는 없다는 것이다. 인공 지능에 대해 마가렛 보던이 지적한 대로, 컴퓨터는 주로 사용되는 도구일 뿐이다. 컴퓨터는 결코 인공 지능이나 인공 의식에서 사용될 최후의 단어는 아니다.
의식은 무엇이고, 지금까지 생각된 것처럼 의식은 어떻게 지능과 연결되었는가? 처음부터 의식은 생물학적인 인간 두뇌의 상태이다. 설 (Searle) 은 다음과 같이 의식을 묘사하였다.
"우리가 포도주를 음미할 때, 하늘을 볼 때, 장미의 향기를 맡을 때, 콘서트의 음악을 들을 때, 이러한 자극들은 연속적으로 일어나서, 통일되고 잘 정돈되어 의식이라는 주관적인 상태를 만든다."
한편 펜로즈는 의식에 관해 이렇게 말한다.
"색이 빨갛다는 것을 감지하고, 고통을 느끼고, 멜로디를 감상하고, 침대에서 일어나는 것과 같은 의지를 가진 행동, 어떤 정력적인 활동을 단념하는 결정이나 이전 행동을 기억하는 것이 의식이다."
그는 수동적인 감각 (퀄리아 : quala) 과 자유의지를 보이는 능동적인 사고를 의식이라고 묘사하였다. 설은 이런 묘사에 다른 것을 덧붙였는데, 의식은 "소득세를 걱정하는 것이나 당신 장모의 전화 번호를 기억하는 것" 과 같은 거라고 했다.
의식의 상태는 당신이 깨어 있을 때부터 시작하여 당신이 잠들거나 죽거나 혹은 무의식이 될 때까지 지속된다. 꿈은 우리가 깨어 있을 때의 의식과는 또다른 형태의 의식이다. 의식은 단순히 점등ㆍ소등 스위치가 아니다. 깨어 있다는 것은 일반적으로 의식이 있다는 것을 의미하지만, 걸으면서 점차로 완전한 의식을 회복하는 과정을 겪을 수도 있다. 설은 인간과 같은 고등동물은 의식이 있고, 그런 상태는 아래로 벼룩까지 모든 종에 존재할 수 있지만, 이런 것을 논하는 것은 의미가 없다고 생각했다. 곤충의 행동 전반을 모델링해서 전체 행동을 인공적으로 복제하는 것이 훨씬 쉽다는 사실은 매우 흥미로운 일이다.
인간 두뇌가 인간 신체의 다른 부분처럼 생물학적인 기관이란 것은 분명한 사실이다. 두뇌는 많은 수의 뉴런이라고 불리는 신경세포로 이루어졌는데 뉴런의 동작 과정이 두뇌의 의식 특성을 만든다. 어떤 시기에는 뉴런이 두뇌의 본질적인 특징일 때도 있다. 우리는 6장에서 뉴런에 대해 자세히 조사할 것이다.
컴퓨터가 두뇌의 과정을 시뮬레이션하는 유용한 도구가 될 수 있다는 것은 가치 있는 지적이다. 그러나 설은 "폭발의 시뮬레이션이 폭발 그 자체가 아닌 것처럼 정신 상태를 시뮬레이션하는 것이 정신 상태 자체는 아니다" 라고 한다.
그러나 인공 지능이나 인공 의식이 있는 기계와 관련하여 우리는 특별히 인간 두뇌와 동일한 무언가를 찾으려하는 것이 아니다. 우리는 질퍽질퍽한 회색의 생물학적인 두뇌를 제작하려는 것도 아니다. 그보다는 인간 두뇌의 특징적인 행동이나 활동을 시뮬레이션하는 것과 같은 인공적이고 비생물적인 것을 만들려고 한다. 모든 면으로 볼 때 시뮬레이션이 원형과 같은 방식으로 행동한다면 우리는 성공한 것이다.
의식에 대한 또다른 중요한 사실은, 의식이란 우리 자신의 존재를 깨닫는 상태라는 것이다. 그런데 우리 자신을 생각하고 있을 때, 이런 자각조차도 두뇌 안 뉴런의 특별한 상태가 빚은 결과일 뿐이라는 것을 아는 것도 매우 어려운 일이다. 우리가 가지고 있는 이런 '사적인' 생각과 느낌이 어떻게 마음의 상태가 되어 뉴런의 상태로 구현되는가? 이것이 바로 우리의 있는 그대로의 모습이다. 우리는 주어진 자극에 유전자 프로그램과 경험을 결합하여 어떠한 방식으로 사물을 느낀다. 이것은 지극히 단순하다. 장미 냄새를 맡으면 뉴런은 두뇌 안에서 자극과 관련된 기억을 일으킨다.
어떤 사람은 인간의 두뇌는 형태가 다른 디지털 컴퓨터이며, 인간과 컴퓨터는 모두 상징을 다룸으로써 사물을 이해하기 때문에 지능은 컴퓨터 프로그램일 뿐이라고 말하기도 한다. '중국어 방 이야기' 가 이런 가능성을 반박하는 데 자주 인용된다. 컴퓨터는 본질적으로 0과 1이라는 기호를 사용하는 반면, 인간은 영어와 같이 우리에게 의미를 주는 단어로 구성된 언어를 사용한다는 것이 이 주장의 기초가 된다.
중국어 방 이야기는 당신은 중국어를 모르며, 중국어가 적힌 상자가 가득한 방에 가두어져 있다는 가정으로부터 시작한다. 중국어가 적힌 상자들이 소집단을 이뤄 당신 앞으로 지나간다. 그러면 당신은 그것들을 가지고 무엇을 해야 할지 결정하기 위해 일련의 규칙들을 조사한다. 그리고 규칙에 대한 대답으로서 다른 상자 소집단을 돌려준다. 중국어로 된 질문에 답할 줄 아는 컴퓨터 프로그램에 대한 효과적인 인간 시뮬레이션이라고 할 수 있다. 그러나 당신은 중국어를 알지 못한다. 당신이 중국어를 알지 못한다면, 당신이 컴퓨터가 동작하는 방식을 흉내냈기 때문에 컴퓨터도 모른다는 주장을 할 수 있다. 여기서 인간 두뇌에 내가 배제한 어떤 점이 있다는 것이 암시된다 해도 컴퓨터 프로그램과 인간 두뇌는 다르다는 결론을 이끌어낼 수 있다.
인간과 컴퓨터는 두 가지 면에서 다르다고 할 수 있다. 첫째, 인간으로서 우리는 상징을 단어의 형태로 표현하는 자연 언어로 대화를 한다. 반면 컴퓨터는 0과 1이 소집단으로 된 이진법으로 통신을 한다. 둘째, 인간이나 컴퓨터 모두 초기 유전자 프로그램을 가지고 있다. 그러나 인간의 행동과 느낌은 경험을 통해서 배운 것에도 의존을 한다. 중국어 방 이야기를 더 자세히 살펴보기로 하자. 이것을 어떻게 컴퓨터와 같은 기계와 비교할 수 있을까? 중국어 방의 경우를 컴퓨터 기계와 비교하는 것이 불합리할지도 모른다. 왜냐하면 첫째로 컴퓨터 기계는 인간 언어를 '이해' 하지 못하며, 둘째로 컴퓨터 기계도 인간처럼 경험에 의해서 학습하는 능력이 있어야 하기 때문이다. 우리는 기계의 학습을 후에 더 깊이 조사할 것이다.
이제부터 중국어 방 문제를 기계 입장에서 바라보도록 하자. 이 이야기는 컴퓨터 시스템이 자신의 경험으로부터 배운 방식으로 응답하는 상황을 설정하고 있다. 컴퓨터는 0과 1의 소집단을 통해 정보를 받으면, 응답으로서 다른 0과 1의 집단을 내보내야 한다는 것을 배웠다. 그런데 지금 이 시스템은 새로운 0과 1의 소집단을 받으면서 그 전에 배운 것은 무시하고 새로운 규칙에 맞는 0과 1의 집단을 내보내라고 요구받는다. 자, 이제 우리는 이 시스템과 인간을 비교하고자 한다.
여기서 인간은 유전적으로 새로운 규칙과 같은 방식으로 동작하도록 프로그램되어 있지만, 태어나면서부터 학습의 기회가 전혀 없었다고 하자. 그러면 컴퓨터가 새로운 규칙을 이해할 수 없기 때문에 인간도 마찬가지라는 주장을 제기할 수 있다. 여기서 컴퓨터에 어떤 능력이 있다는 것이 암시된다 하더라도 컴퓨터 두뇌와 인간의 유전자 프로그램은 매우 다르다는 결론을 내릴 수 있다.
이러한 유사관계를 상정하는 것은 분별력 있는 일이 아닐 수 있다. 왜냐하면 인간은 학습을 통해서 언어를 포함한 사물에 대한 이해를 얻고 있기 때문이다. 여기서 인간은 이해력이 있고 기계는 부족하다는 예로서 중국어 방 이야기를 사용하지는 않겠다. 이전 문단에서처럼 기계의 관점에서도 같은 문제를 볼 수 있으며, 그 경우 정확히 반대의 암시로 끝맺을 수 있기 때문이다.
중국어와 같은 인간의 언어를 통한 대화를 살펴보는 일 또한 가치 있는 일이다. 중국어를 사용해서 개를 가르칠 수 있을까? 아마도 개는 단어와 행동 간의 몇몇 관계를 만들어서 언제 음식이 준비되고, 언제 산책하는지를 알 수 있을 것이다. 그러나 중국어로는 대답하지 못할 것이다. 벌의 경우를 생각해 보자. 벌이 중국어로 대답하고 말뜻을 이해하는 듯한 행동을 할 수 있을까? 이들이 할 수 없는 만큼 인간 형태의 대화에서는 인간이 유리하다. 이러한 대화에서 유리한 순서는 첫째 인간, 둘째 기계, 셋째 개, 넷째 벌이다.
기계가 유리하게 하려면, 네 경쟁자에게 0과 1을 이어서 말을 하도록 시키고, 개도 0과 1의 연속으로 된 명령에 응답하는 훈련을 받을 수 있다는 가정이 필요하다. 이 대화에서 유리한 순서는 다음과 같을 것이다. 첫째 기계, 둘째 인간, 셋째 개, 넷째 벌. 반면 선택된 언어가 개의 언어 (짖기, 킁킁거리기 등) 라면, 개가 첫 번째이고, 벌이 네 번째일 것이다. 그러면 두 번째는 누구일까?
위의 가정들은 도대체 무엇을 말하고 있는 것일까? 만약 자연 언어 이해가 의식이나 지능을 가늠하는 지표라면, 인간에게 유리하므로 현재로서는 기계나 인간이 최고의 자리를 차지할 것이고 개나 벌은 순위에서 밀릴 것이다. 요즘 우리도 알다시피 인간을 제외하고는 기계가 그 누구보다도 수위에 놓일 것이다.
컴퓨터는 인간 두뇌의 처리 과정을 시뮬레이션하기에 매우 유용하다. 그러나 시뮬레이션은 실제의 것과는 분명히 다르다. 펜로즈가 쉽게 지적했듯이, "인간이 다양한 사물을 가시화하는 것은 컴퓨터가 그 사물들을 시뮬레이션하는 것보다 '좋다', 혹은 '나쁘다' 라고 말하는 것이 아니라 다만 무언가 확실히 다르다" 라는 것이다.
두뇌를 인공적으로 '시뮬레이션' 한 모델이 주어졌으면, 이것이 무엇을 기초로 했건 간에 (컴퓨터로 했건 무엇으로 했건 간에 두뇌가 아니면 된다) 중요한 질문은 "인공 기계 시스템을 가지고도 인간 두뇌가 하는 것과 같은 결과를 얻을 수 있을까?" 하는 것이다.
컴퓨터에 대한 입장은 여러 가지이다. 첫째로, 인간의 두뇌는 단지 디지털 컴퓨터이고 의식은 컴퓨터 프로그램이라 믿는 데닛과 같은 사람들이 있다. 그들은 두뇌가 할 수 있는 모든 것을 컴퓨터에 그대로 복사할 수 있다고 생각한다. 때로는 이를 '강한 인공 지능' 이라고 일컫는다. 둘째, 설과 같은 사람들은 컴퓨터가 다른 사물들의 동작을 시뮬레이션하듯이 인간 마음의 동작도 잘 시뮬레이션하듯이 인간 마음의 동작도 잘 시뮬레이션할 수 있으리라고 믿고 있다. 이것을 '약한 인공 지능' 이라고 일컫는다. 셋째, 펜로즈와 같은 사람들은 컴퓨터는 인간의 마음을 적절히 시뮬레이션할 수 없다고 믿고 있다. 그렇다면 무엇이 진실일까? 실제의 경우는 어떠한가?
이 주제와 관련된 많은 사람들은 철학과 이론의 세계에 살고 있으며, 인간 두뇌가 실제로 동작하는 방법을 찾거나 동작 방식을 시뮬레이션하면서 실제 세계로부터 격리되어 있다. 인간 두뇌처럼 동작하는 '사물'을 만들려는 시도를 하면서 얼마만큼 도달할 수 있을지는 모르겠지만, 도달 정도를 판단하는 우리 나름대로의 이론과 철학을 제시할 수는 있다. 사실 독자인 당신도 자기만의 의견이 있으리라 생각한다.
오랫동안 인간은 지능적인 기계를 만들고자 노력해 왔다. 1950년대는 컴퓨터의 출현과 함께 큰 도약이 있었는데, 이때 과학자들은 컴퓨터를 이용해서 두뇌의 행동을 모델링 할 수 있으리라 생각했다. 컴퓨터에서 사용되는 0 과 1 의 집합으로 많은 것들을 표현할 수가 있었다. 코드를 통해서 숫자나 문자가 실제 세계의 사물들을 표현해냈다.
예를 들어 00 은 문자 A 를, 01 은 문자 B 를, 10 은 문자 C를 나타낼 수가 있다. 그 후로도 컴퓨터는 여전히 0 과 1 을 다루었지만 외부 세계에는 이것이 문자나 단어로 표현된다. 이것이 중국어 방 문제의 핵심이다. 프로그램을 통해서 컴퓨터의 행동은 숫자나 문자들을 결합함으로써 나타난다.
고전적인 인공 지능의 분야에서는 인간의 행동 양식과 그에 대한 두뇌 반응을 전체적으로 외부에서 조사하고, 이를 컴퓨터를 통해서 인공적인 방식으로 재창조한다. 인간 두뇌 행동의 많은 특징은 복제가 가능하며 적어도 재구성될 수 있다. 특히 수학적 계산과 퍼즐 풀기에 대해서 그렇고, 때로는 의사 결정까지 어느 정도 복제나 재구성이 가능하다. 그러나 1970년대 중반쯤 되자, 인간 두뇌의 작업 중 많은 부분이 복제나 재구성이 매우 어렵다는 것을 깨닫게 되었다.
나는 이론이나 철학적인 관심으로 사물을 보기보다는, 매일 매일의 관찰에 근거하여 실제적이고 실험적인 관점으로 사물을 보고자 한다. 어떤 사물을 모델링하고 시뮬레이션할 경우, 합리적으로 그 특징을 복제하기 위해서는 어느 정도의 수준으로 모델링할지를 먼저 정해야 한다. 너무 간단하게 모델링하면, 이해하기 쉬운 사물임에도 중요한 특징이 빠져서 이해할 수 없을 수도 있다.
예를 들어 사무실 건물의 방의 온도를 시뮬레이션한다고 생각해 보자. 먼저 사무실 건물의 외부에서 시작해 보자. 우리는 건물에서 사용되는 전체 전기에너지를 알고 있다. 우리는 이러한 자료를 토대로 모델을 만들 수 있고, 우리의 모델이 몇몇 방에는 잘 들어맞을 것이다. 하지만 어떤 방에서는 상당히 틀렸다는 것도 알 게 된다.
왜 그럴까? 공급되는 전기량을 정확히 계산했고, 이것은 측정된 것이었다. 일기에 대한 기술은 정확했고 외부 온도와 건물 주변의 모든 위치에서 바람의 세기도 정확히 알고 있었다. 그러나 우리는 건물 내부에서 무슨 일이 일어나는지를 모르고 있었다. 어떤 난방기가 켜져 있고 어떤 난방기는 꺼져 있는지, 어떤 문이 열리고, 어디에 화장실이 있는지, 어디에 컴퓨터가 놓여 있는지 등을 모른다. 이 경우 '우리의 초기 시뮬레이션은 너무 간단했다' 라고 말할 수 있다. 문제가 워낙 복잡하기 때문에 사무실 방의 열 시스템을 시뮬레이션하려면 더 자세히 모델링해야 했다.
반대로, 훨씬 더 자세히 조사할 수도 있다. 건물 주변과 난방기 내의 물 흐름을 조사하고, 열린 문과 창문을 통해 흐르는 공기의 흐름을 기술하기 위해 수학을 이용하는 방법이다. 그러나 이러한 접근은 우리가 모델링하는 사물에 관한 시뮬레이션을 너무나 복잡하게 만들 수가 있다. 첫째, 모델링의 대상이 사무실 전체일 필요는 없으며, 둘째, 이런 복잡한 모델은 너무나 자세해서 특정한 방의 온도를 조절하기가 무척 어렵다. 사물의 행동을 근사하게 잡아내기 위해서는 사물에 대한 적당한 수준의 모델링이 필요하다.
이것은 인간 두뇌의 작업을 모델링하고 시뮬레이션하는 데도 적용이 된다. 두뇌를 잘 시뮬레이션하기 위해서는 두뇌를 모델링하는 가장 좋은, 적어도 가장 적당한 수준이 무엇인가를 결정해야 한다. 고전적인 인공 지능에서는 특정한 행동과 응답만을 학습해서 모델링하려고 했지 전체 행동에 대해서는 하지 않았다. 그러므로 두뇌 안에 무엇이 있는지를 알려면, 좀더 자세히 모델링할 필요가 있다.
의학적으로 두뇌에 대해서 배울 것은 아직도 많다. 대부분의 정신 의학은 고전적인 인공 지능과 비슷하다. 정신 의학에서는 외부에서 인간 행동에 대해 깊이 관찰하려고 한다. 따라서 고전적인 인공 지능처럼 인간 행동에 대해서는 알 수 있지만, 인간 두뇌와 관련된 특별한 상황이나 행동의 원인을 정확히 알 수는 없다.
1장에서 나는 간질에 대해 간단히 언급하였다. 간질은 두뇌의 내부 특징이므로 외부에서 이것을 분석해내기란 매우 어렵다. 정신 분열증에 대해서도 같은 말을 할 수가 있다. 인간 두뇌의 행동과 근접하게 시뮬레이션하기 위해서는 고전적인 인공 지능에서 취하는 태도보다는 더 자세히 모델링해야 한다.
우리가 시뮬레이션하려는 것이 무엇인지 분명히 알아야 한다. 지능이건 의식이건, 혹은 다른 특징이건 간에 모델링이나 시뮬레이션하려는 것은 완전한 인간 두뇌이지 전형적인 두뇌가 아니다. 아마도 우리는 자신의 두뇌를 시뮬레이션하려고 할 것이다 (대부분의 대학 교수의 의견에 의하면 완전한 두뇌이다). 당신의 두뇌만큼이나 좋은 인공 두뇌를 우리가 만들었다면, 그것은 많은 사람들의 두뇌보다 우수할 것이고, 다른 모든 동물보다도 분명히 뛰어날 것이다.
완전히 '정상적' 이고 '완벽한' 인간 두뇌는 실제로는 존재하지 않는다. 우리 모두는 행동만 보더라도 '정상' 으로부터 약간씩 벗어나 있고, 어떤 행동은 약간 이상하기도 하며, 우리 중 일부분은 '정상'에서 훨씬 벗어나 있다. 어떤 사람은 '정상'에서 너무 많이 벗어난 나머지 대하기가 무척 어렵기도 하다. 다른 사람들이 이해하는 방식으로는 대화가 불가능하게 보이는 사람들도 있다. 소위 천재들도 있고 미치광이 살인자도 있다. 고대 그리스인들이 실존하지 않은 인간의 육체를 동상으로 이상화했듯이, 우리도 인간 두뇌의 이상화된 개념을 가져야 할까? 그러면 무엇과 인공 두뇌를 비교해야 하는가? '이상화된' 것과 비교해야 하는가? 혹은 '전형적인' 두뇌를 정의해야 하는가?
이 책을 다 읽고 나면, 당신은 자신의 두뇌를 전형적인 두뇌로 자진해서 제공할 수도 있을 것이다.
일찍이 나는 인공 두뇌가 인간 두뇌와 거의 같은 방식으로 동작할 수 있는지 여부를 물었다. 인간 두뇌는 생물학적이며, 인공 두뇌는 그렇지 않지만 나의 대답은 다시 말하지만 분명 "예!" 이다. 그러나 질문의 핵심 단어는 '거의 같은' 인데, 이는 인공 두뇌가 인간 두뇌와 완전히 똑같게 동작하지는 않는다는 것을 의미한다. 인간 두뇌를 잘 모델링하기 위해서는 적당한 수준을 취할 필요가 있다.
여기서 남은 문제는 우리가 수준을 어디로 정하느냐는 것이다. 뉴런 수준보다 더 깊이 원자 수준까지 내려가야 하는가? 도이치가 지적한 대로 양자 물리학까지 조사해서, 펜로즈가 말한 것처럼 두뇌에 대한 원자 모델까지 만들어야 하는가? 뉴런 수준이면 적당한가? 혹은 원자 수준에서 동작하는 것을 설명하기 위해서 양자 물리학까지 적용할 필요가 있는가?
나는 부분적으로는 펜로즈의 말이 맞다고 느끼지만, 우리는 아직도 인간 두뇌와 거의 같은 방식으로 모두 정의하지 못했다. 그러나 오래지 않아 두뇌의 기본 요소를 정의하고 인공 모델을 정의하면, 인공 두뇌는 인간 두뇌와 거의 비슷하게 동작할 것이다. 그러나 전체 모델을 다 얻을 것도 아니고, 특정한 것만 매우 근사적으로 얻고자 한다면, 우리는 이미 기본적인 모델 블록을 가지고 있다. 기본적인 블록이란 무엇일까? 이것은 두뇌가 지금처럼 동작하도록 하는 세포의 기본 단위 뉴런이다.
인간의 뉴런은 매우 복잡하게 서로 연결되어 두뇌의 전체적인 동작을 만든다. 몇몇은 감각을 담당하고, 몇몇은 기억 등을 담당하고 있다. 그래서 우리는 하나의 뉴런에 대해 하나 혹은 수많은 다양한 모델을 얻을 수 있다. 그런 다음 그들을 서로 연결해서 (모델화된) 뉴런들의 네트워크인 신경망을 구성해서 일어나는 일을 관찰한다.
이러한 접근 방법은 로젠블랫에 의해서 다음과 같이 기술되었다 (내가 조금 수정하였다).

그림

"두뇌의 행동을 두뇌가 가진 특징으로 생각해서 이들 특징으로 두뇌를 조사하는 것보다는, 두뇌를 뉴런으로 생각하고 이를 통해서 두뇌를 면밀히 조사하는 것이 훨씬 쉽고 적절하다."
이것은 신경망에 대한 주장이며, 고전적인 인공 지능에 반대되는 주장이다. 고전적인 인공 지능은 외부에서 두뇌의 동작 방법을 관찰하고 다양한 방법에 의해 행동과 응답을 모델링하는 것으로서 한 예로 '태양이 빛나면 나는 행복하다' 라는 것이다. 이것을 상위 수준의 모델 방식이라고 한다면, 인공 신경망은 이와 달리 하위 수준의 세포인 뉴런의 입출력 관계로 두뇌를 모델링한다 (이것은 6장에서 논의하겠다).  
신경망 모델은 뉴런을 서로 연결하는 것에 지나지 않는다. 신호는 어떤 뉴런의 입력이 되고, 그들의 출력은 다른 뉴런의 입력에 해당된다. 이 과정은 전체 출력이 나올 때까지 반복된다. 현재 인공 신경망에서는 단순화를 위해 모델 뉴런의 몇 가지 층만을 사용한다. 신경망은 입력되는 적당한 신호에 의해서 학습이 되는데, 위의 예에서는 '태양이 빛난다' 라는 신호이다. 그러면 신경망은 출력에서 '나는 행복하다' 라는 신호가 나올 때까지 뉴런과 뉴런 사이의 연결을 조절하게 된다.
두뇌에 대한 연구를 신경망의 관점에서 살펴보는 것은 매우 복잡한 집을 재구성하는 것에 비유할 수 있다. 집을 허물면, 다양한 모양과 크기의 벽돌이 기묘한 방식으로 연결되어 집을 구성하고 있다는 것을 알 게 된다. 우리가 색다른 재료로 벽돌을 만들고 이를 연결해서 무슨 일이 일어나는지 관찰해 보면 다음과 같은 공통점을 얻을 수 있다. '원래 모습과 거의 비슷한 다섯 개의 방과 수영장을 원한다' 는 것이다. 물론 계속 진행할 계획이 없다면 원형과 같은 집을 재구성할 수는 없다. 그렇다고 하더라도 원형과 비슷한 특징들을 가질 수는 있을 것이다. 인간 두뇌와 신경망의 경우가 바로 이렇다.
레딩 대학에서 취한 접근 방법은 상향식 방법이다. 집 짓기에 비유하자면, 뉴런 벽돌로 궁전을 만들기보다는 뉴런 벽돌로 구성된 한 개의 침실을 최고 수준으로 만드는데 더 관심이 있다. 한 개의 침실은 방구조의 문제, 작동의 어려움, 날씨에 대한 내성 문제 등이 있을 수 있지만 매우 '살 만한' 곳일 수도 있다. 그래서 인공 신경망의 관심의 초점은 벌레나 생물체를 닮았어도 잘 동작하는 인공 지능을 개발하는 데 있다.
위에서 언급한 방법은 인공 지능 기계의 존재를 실제로 살아가는 실 세계로 한정하고 있다. 그러나 인공 지능 기계가 응답할 수 있는 것은 인간처럼 지능과 물리적인 성질에 의해 제한된다. 기계는 초기 유전자 프로그램에 의해 동작 방식이 결정되지만, 능력이 주어진다면 다른 방식에 적응할 수도 있다.
드레퓌스가 지적한 것처럼, 신경망이 일반화에 대한 인간의 관념을 공유하려면 크기, 구조, 초기의 연결 구성을 인간 두뇌와 공유해야 한다. 그러나 신경망이 자신의 경험으로부터 인간과 비슷한 연상하는 법을 배우기 위해서 근사화 생리적 욕구, 욕망과 감정까지 공유할 필요는 없다고 생각한다. 게다가 인간의 신체적 특성인 운동 능력이나 다치기 쉬운 성질까지 가질 필요는 없다 - 이 부분이 드레퓌스의 의견에 반대하는 나의 생각이다.
기계는 인간과 다르지만, 신경망을 이용하면 인간 두뇌와 비슷하게 동작하는 기계 두뇌를 만들 수 있다. 기계 두뇌가 인간 두뇌와 흡사하게 동작할 수 있는지 비교하고 조사하는 일은 흥미롭다. 일단 비교해보면 인간 두뇌와는 다른 동작 특징을 많이 갖는다는 것을 알 게 되는데, 그 중 몇몇은 7장에서 자세히 다룰 것이다. (신경망) 두뇌는 독립된 존재로 다뤄져야 하고, 그것 스스로 할 수 있는 것에 대해서만 다뤄져야 한다.
특정한 기계 두뇌가 인간 두뇌와 완전히 같지 않다고 해서 필연적으로 열등하거나 수행 능력이 떨어지는 것은 아니라는 점을 다시 한번 강조하고 싶다. 오히려 훨씬 우수할 수 있으며, 의식에서는 그렇지 않더라도 지능에서는 상당히 뛰어날 수 있다. 초기의 인간 두뇌는 현재 문화의 목표에 맞도록 생물학적으로 진화해서 현재의 유전자 프로그램으로 전달되었다. 인간 개인은 문화 안에서 경험하고 학습한다.
그러므로 인간 두뇌는 특정한 문화와 환경 안에서 동작하도록 알맞게 조정된 생물학적인 기관이라고 말할 수 있다. 이 부분이 드레퓌스가 지적한 것처럼 인공 신경망 두뇌가 가야할 긴 여정을 예시한다고 생각한다. 그러나 인공 두뇌도 반드시 인간 두뇌와 같은 길을 걸어야 하는가? 위에서 언급한 문화와 환경은 인간에게는 중요하지만 기계에게도 중요한 것일까?
드레퓌스가 제안한 것처럼, 우리 자신을 여러 뉴런과 그들의 초기 관계로 구성된 인공 신경망으로 만들어 보자. 신체의 다른 부분에는 기계 세포를 넣도록 하자. 신체의 다른 부분은 다리일 수도 있고, 바퀴일 수도 있으며, 팔도 좋다. 두뇌의 스위치를 켜고, 기계의 스위치도 켜자. 어떻게 느끼고 어떻게 행동하게 될까? 15세 나이로 당신의 두뇌에 갑자기 전원이 들어오고, 기계 상자로 된 신체를 가진다고 상상해 보라. 이런 상황은 대처하기가 무척 힘들 것이다.
우리의 인공 존재도 대부분의 가상 생물체처럼 정상이긴 하지만 약간 단순할 것인가? 그 인공 존재는 그렇게 되고자 하는 우리의 바람으로 생긴 결과물이니 큰 문제는 없을 것이다. 행여 이것은 미치광이 살인자가 되지는 않을까? 그들이 왜 그렇게 행동하는지 우리는 아직도 완전히 이해하지 못하고 있다. 따라서 기계가 그렇게 되지 않으리라 누가 장담하겠는가? 왜 이것은 지능적일 수가 없으며, 우리보다 더 지능적일 수는 없는가?