(Learning and learnability)
컴퓨터와 마음 : Philip N. Johnson-Laird 지음, 이정모. 조혜자 옮김, 민음사, 1991, Page 151~168 (원서 : The Computer and the Mind: An Introduction to Cognitive Science, Harvard Univ. Press, 1988)
이제 우리는 왜 뇌의 중앙 통제의 문제가 장기기억의 문제와 관련되는지를 알 수 있다. 인간은 물론 어떤 동물에게서도 뇌를 자극하는 입력정보에 대해 단순하고 예견 가능한 순서로 뇌의 조작이 수행되지 않는다는 것은 자명하다. 따라서 우리는 뇌의 조작에 영향을 미치는 통제가 입력정보의 성질 뿐 아니라 과거 조작들의 결과에 따라서도 달라질 수 있다고 가정해야만 한다. ...... 브로드벤트 (Donald Broadbent)
어떤 유기체들은 환경 내에서 특정 생활범위 (niche) 에 대처할 수 있는 행동 목록을 생득적으로 가지고 태어난다. 그들은 특정 자극들에 의해 자동적으로 유발되는 생득적인 반응들을 기초로 생존할 수 있고, 번식할 수 있다. 그러한 반응들은 학습되어야 할 필요가 없으며 그래서 유기체가 세상으로 나오자마자 반응할 수 있는 준비상태에 있다는 이점이 있다. 그러나 그 반응들은 특정 상황에 잘 맞게 준비되어 있다는 것 이외에는, 환경이 그 반응들을 다시 발생하도록 유발시킬 때는 항상 무조건적으로 반응이 반복될 수 있다는 불리한 점도 있다. 모래 말벌은 연쇄적인 생득적 반응들을 수행함으로써 자신의 둥지를 만들어내는데, 만약에 둥지의 일부가 없어지면 그 말벌은 자동적으로 둥지 짓는 연쇄반응들 중 적절한 앞 단계로 되돌아와 반응을 한다. 어떤 실험자가 말벌이 짓고 있는 둥지를 부분적으로 계속 파괴하면 그 말벌은 둥지짓기를 계속 반복한다. 그 말벌은 자신의 시지프스적 노력이 쓸데없다는 것을 결코 배우지 못한다. 그러나 모든 생득적인 행동들이 이러한 불운한 성질을 갖는 것은 아니다.
유기체들은 모두 어떤 생득적인 행동들을 가지고 있다. 예를 들어 신생아는 자신의 몸무게를 지탱할 만큼 강한 손으로 꽉 쥐는 반사능력을 지니고 있다. 이 반사는 후에 사라지지만, 눈을 보호하는 눈깜박 반사 같은 것은 일생 동안 지속된다. 그러나 생득적인 행동은 단순한 세계의 생활에서만 적합하다. 생득적인 행동만을 하는 종은 환경이 극단적으로 바뀌면 멸종하는 반면, 학습할 수 있는 종은 적응할 수 있는 새로운 행동들을 획득할 수가 있다. 그리고 인간은 아주 적응적이어서 거의 어떤 환경에서건 생존하는 것을 학습할 수 있다.
그러나 학습이란 무엇인가? 모든 사람들이 학습이란 개념에 친숙하기는 하지만, 정의를 내리기는 어렵다. 학습은 경험의 결과로 여러분이 이전에는 할 수 없었던 어떤 일을 할 수 있게 되거나 더 잘 할 수 있게 될 때 일어나는 비교적 영속적인 변화를 말한다. 여러분은 어떤 사람의 이름과 같은 사실들을 학습할 수 있고, 상대성 이론과 같은 일반개념이나 원리들, 그리고 운전과 같은 습관이나 기술들을 학습할 수 있다. 학습은 또한 다양한 상황들 안에서 일어난다. 즉 여러분은 시행착오를 거쳐 자물쇠를 여는 방법을 학습할 수 있고, 지시문에 따라 워드 프로세서의 사용법을 배울 수 있으며, 스키 선생을 모방함으로써 스키 타는 법을 배울 수 있다.
여러분이 어떤 일이 일어나야 할 것인가에 대한 내적인 모델을 갖게 되면, 자신의 수행이 바라는 모델에 수렴될 때까지 그 기술을 훈련함으로써 학습할 수 있다. 여러분은 학습을 시작할 때에는 자신이 무엇을 하기 위해 노력하고 있는가에 주의를 기울이게 된다. 그러나 여러분이 더 숙련되면 미묘한 부분들 외에는 거의 주의를 기울이지 않고 수행을 할 수 있다. 많은 기술들은 아주 자동적이 되어 전혀 의식적인 주의를 기울이지 않고도 수행할 수 있다. 철학자 화이트헤드 (Alfred North Whitehead)는 다음과 같이 말한다 :
우리가 무엇을 행하고 있는지를 생각하는 습관을 길러야 한다는 것은 아주 잘못된 사실이다. 우리에게 필요한 것은 정반대의 경우이다. 문명은 우리가 의식적으로 생각하지 않고 수행할 수 있는 중요한 조작들의 수를 확장함으로써 진보해 가는 것이다.
자동적 수행이 보여주는 것은 뇌가 병렬적으로 각기 다른 일들을 행할 수 있다는 것이다 : 뇌의 한 부분이 기술적인 일을 하는 동안 다른 부분은 의식 경험을 중재한다. 나는 후에 여러 경우들을 통해 이러한 현상을 언급할 것이다.
학습의 다양성에도 불구하고 이론가들은 전통적으로 학습의 기본적인 < 기초 단위 요소 (building blocks) >가 무엇인지를 찾으려 해왔다. 아리스토텔레스의 서재나 심리학자들의 실험실에서 나온 대답은 모든 학습이 연합에 근거한다는 것이다. 하나의 경험은 또 다른 경험과 연합된다. 유기체는 두 경험들에 대한 수동적인 관찰자가 되거나, 자신의 특정한 행동조각을 후속 사건들 유형과 연결시킬 수 있게 된다. 연합은 하나에서 다른 하나로 이어지는 두뇌상의 연결이라고 간주된다. 연합은 동일한 자극을 연결관계의 강도에 근거하여 각기 다른 확률로 여러 다른 반응들과 연결시킬 수 있다.
심리학자들은 동물들이 환경 내에서 어떤 사건에 대해 예상하는 것을 학습한다고 제안해 왔다. 한 사건과 다른 사건과의 관계에서, 두 번째 사건이 어떤 의미를 지니거나 놀라움을 주며, 그 사건이 첫 번째 사건으로부터 예상 가능한 것이면 동물들은 두 사건 사이에 연합적 연결을 형성한다. 그러한 학습의 전형적인 경우가 파블로프 (Ivan Pavlov) 의 < 고전적 조건화 > 이다. 그의 실험에서 동물은 벨 소리 같은 사건이 음식 올 것을 예언한다는 것을 학습한다. 따라서 벨 소리만으로도 침반사가 유발된다. 버나드 쇼 (George Bernard Shaw) 는 파블로프가 개로 하여금 저녁식사를 알리는 벨 소리가 들리면 입에서 침 나오는 것을 보이도록 괴롭혔을 것이라고 말했다 (그는 덧붙여 그러한 비열한 행동에 대한 최선의 예방책은 자신의 어머니로부터 노래부르는 레슨을 받는 것일 것이라고 말했다) . 사실상 파블로프가 조건반사를 발견한 것은 아니다. 조건반사는 약 한 세기 이전부터 알려져 왔던 것이고 파블로프는 조건반사의 좀더 미묘한 원리들을 발견했을 뿐이다.
연합관계는 또한 자발적인 반응과, 보상으로 작용하는 어떤 사건간에도 형성될 수 있다. 표본적인 예는 < 조작적 조건화 > 에서 볼 수 있다. 조작적 조건화에 대해서는 스키너 (B. F. Skinner) 가 많은 연구를 했다. 예를 들어 배고픈 한 마리의 비둘기를 원판 모양의 단추가 있는 상자에 집어 넣으면, 언젠가 그 비둘기는 원판을 쪼게 되고, 그렇게 하자마자 음식물이 뒤따름으로써 그 반응은 강화된다. 이러한 제도는 비둘기가 원판을 쪼는 속도를 증가시킨다. 쪼는 반응과 보상되는 사건 간의 연합이 형성되는 것이다.
단순한 연합이론은 여러 다른 측면의 연구가 진척됨에 따라 도전을 받게 되었다. 야생에서 동물들을 연구하는 동물행동학자들의 입장에서는, 행동은 종의 수만큼 다양하고, 또한 동물의 신체구조가 그들의 환경에 밀접히 관련될 수 있는 만큼 환경과 관련된다는 것을 발견하였다. 그 들은 한 종이 학습할 수 있는 데에는 생득적인 제약이 있음에 주의를 기울였다. 쉽게 학습이 될 수 있는 행동들이 있는가 하면 그렇지 못한 행동들이 있었다. 예를 들어 만약에 한 마리의 쥐가 달콤한 맛이 나는 용액을 먹고 후에 아프게 되면, 그 쥐는 그 용액을 다시는 먹지 말아야 한다는 것을 즉시 학습한다. 그러나 만약 그 용액이 아무 맛도 나지 않고, 그 독성이 동시에 일어난 어떤 다른 사건, 즉 불빛 같은 것으로 신호되었다면 그 동물은 그 용액을 피하는 것을 학습하는 데 실패한다. 자연선택 (도태) 은 동물로 하여금 특정한 인과관계에 대해서는 민감하게 만들었으나 다른 관계들에 대해서는 그렇지 못하였다. 비슷하게, 갓 부화된 새끼거위는 자기가 맨 처음으로 보게 되는 움직이는 물체를 따라다니는 것을 학습한다. 새끼거위는 이 사물을 어미거위로 대한다. 비록 움직이는 물체가 동물행동학자인 로렌츠 (Konrad Lorenz) 였을 때도 그를 따라다녔다. < 각인 (imprinting) > 이라고 알려진 이러한 빠른 학습 유형 기저에도 생득적인 제약이 있는 것이다.
다른 측면에서, 현대 동물심리학자들은 자극과 반응 간의 직접적인 연합에 대해서 의심하기 시작했고, 점차 학습에 대한 인지적인 관점을 취하는 입장이 증가하였다. 동물에게서조차도 행동에 어떤 직접적인 변화가 없이 학습이 일어날 수 있다는 것이다. 학습은 내적인 인지상태를 변화시키며, 그 효과는 즉시 일어나는 것이 아니라 후에 가서야 분명하게 된다는 것이다.
그 외에도 또 다른 문제도 있다. 여러분은 두 불빛 가운데 어느 것이든 하나가 켜지면 단추를 누르고 두 불빛이 다 들어올 때는 단추를 누리지 않아야 한다는 것을 학습할 수 있다. 그러나 이러한 배타적인 선접 (exclusive disjunction), 두 불빛 중 어느 하나가 켜졌을 때만 반응하고 두 불빛 모두에 의해 만들어 질 수 있는 방도가 없다. 만약에 연합관계가 단일 불빛에 반응을 불러일으킬 만큼 충분히 강하다면 그 연합은 두 불빛 모두에 대한 반응을 억제할 수 있도록, 자극과 반응들 사이를 중재하는 내적인 표상을 요구한다.
연합주의에 대한 회의는 인지과학자들로 하여금 보다 추상적인 다른 관점에서 학습에 접근하도록 했다. 어떤 학자들은 어떻게 학습이 일어나는가를 다루는 포괄적 이론을 설정했다. 또 어떤 학자들은 인간 학습에 대한 계산모형을 발전시켜 왔다. 그리고 또 다른 학자들은 인공지능의 맥에서 어떤 사실이나 개념, 또는 기술을 학습할 수 있는 보편적인 절차를 탐색해 왔다. 만약에 사람이 컴퓨터를 프로그램하는 대신, 어떤 일이든 수행방법을 기계 스스로 학습할 수 있는 학습 프로그램이 기계에 장치되어 있다면, 아주 편리할 것이다. 그러한 설계의 실행가능성에는 여러 제한점이 있고, 그러한 제한점들이 학습의 제한성에 대해 많은 정보를 줄 수 있다. 우리는 그 점들을 검토해 보기 전에 계산활동으로서의 학습을 고려해 볼 필요가 있다.
여러분은 어떤 사실을 학습할 때, 그것에 대해 다른 방식으로 생각하는 것을 배운다. 생각하는 방식의 차이는 어떤 때는 사소하지만 어떤 때는 그렇지 않다. 여러분이 하나의 개념을 학습할 때에는 각기 다른 사물들을 어떻게 동일한 범주의 사례들로서 다루는가를 학습한다. 각각의 사물은 독특하기 때문에 이러한 분류절차 없이 사고하기는 불가능하다. 여러분이 하나의 기술을 학습할 때에는 전에 할 수 없었던 어떤 일을 행할 수 있는 하나의 프로그램을 획득하는 것이다. 따라서 일반적으로 말해, 학습이란 경험적인 요소들에서 새로운 프로그램을 구성하는 것이라고 할 수 있다. 즉 이 말은 여러분이 어떤 기존의 능력들을 가지고 있지 않으면 아무것도 학습할 수 없다는 뜻을 내포한다. 프로그램은 아무것도 없는 것에서 구성되어 나올 수는 없다. 구성방법은 그 자체가 특수한 프로그램이거나 일련의 프로그램들로서, 경험을 입력으로 취하여, 수행을 지배하는 프로그램들을 만들거나 수정한다. 학습 프로그램은 그것 자체가 학습된 것일 수 있다. 여러분은 학습방법을 학습할 수 있다. 그러나 그 학습은 또 다른 프로그램에 의존할 것이다. 궁극적으로 학습은 프로그램을 만들어내는 생득적인 프로그램에 의존해야만 한다.
가능한 어떤 프로그램을 구성하기 위한 기초로는 단지 소수의 절차들만 생득적으로 있으면 된다. 이러한 결론은 적은 수의 기초재료 (building blocks) 만 있으면 보편적으로 튜링 (Turing) 기계, 즉 계산 가능한 어떤 것이건 계산할 수 있는 장치를 구성할 수 있기 때문에 가능하다 (제 3 장 참조). 더욱이 학습할 수 있는 프로그램은 앞으로 이야기될 단 세 가지 유형만이 가능하다.
학습 가능한 어떤 임의적인 과제를 생각해 보고, 어떤 원리에 의해 그 학습이 진행될 수 있는지를 자신에게 질문해 보자. 학습은 그 과제를 수행하는 하나의 프로그램에 수렴해야만 하고, 따라서 진전이 이루어지고 있는지를 측정하는 것이 누군가 (학습자나 교사) 에게 가능해야만 한다. 이러한 < 피드백 > 이 없으면 학습자는 자신이 무엇을 어떻게 하는지를 전혀 알 수 없을 것이다. 한 가지 가능한 학습방법은 임의적으로 기존요소들을 조합함으로써 하나의 프로그램을 구성하고 그 결과의 유용성을 측정하는 피드백을 사용하는 것이다. 이런 순수한 < 시행착오 > 방법은 현대의 신 다윈주의 이론에 따른 종의 진화와 유사하다. 이것은 일련의 점진적인 단계들에 의해 요구되는 프로그램에 수렴될 확률이 높을 때에만 작동할 것이다. 이러한 각각의 단계들은 우연적으로 일어날 확률이 상당히 있고, 다음 단계로 진보되어 나갈 때까지 성공적으로 유지될 수 있는 그러한 단계들이다. 비제약적인 과정을 강조하는 신 다윈주의 이론에 입각하여 어떤 중요한 능력을 획득할 가능성은 거의 없다. 이는 1960년대에 인공지능을 연구하던 연구자들이 발견했던 것으로, 그 방법에 기초한 프로그램들은 진보해 나가는 데 실패했었다.
두 번째의 구성방법은 경쟁에서 살아남을 프로그램만 그 산출을 보장하는 정보에 의해 지배되는 것으로서, 이는 신 라마르크 진화이론과 유사하다. 그러한 프로그램은 아주 효율적이긴 하지만, 한 영역에 대해 많은 지식 (아니면 지침) 이 요구된다. 실제로 그것은 과제가 사소한 것이거나 개인이 학습방법을 학습한 경우에만 가능하다. 예를 들어 만약에 과제가 새로운 댄스 스텝을 배우는 것이라면 숙련된 댄서는 그것을 빨리 숙달할 수 있다.
세 번째의 구성방법은 기존 정보에 의해 부분적으로만 제약을 받는 것이다. 일상생활에서 이 방법은 가장 일반적이다. 여러분이 시행착오로 자물쇠를 여는 것을 학습했을 때, 여러분은 이미 그 기술의 주요 요소들뿐 아니라 그 요소들이 조합되는 방식에 대한 제약들도 함께 학습하여 아는 것이다. 여러분이 선택하는 가능성들의 집합은 아주 제한된 것이다. 여러분이 스키 타는 것을 학습한다면, 여러분은 일련의 구성과 평가의 반복적인 주기들로 이루어진 긴 연속적인 과정을 거치게 되고, 그것은 여러분의 능력을 점진적으로 개선시킨다. 그리고 여러분은 능력의 고착단계 (plateau) 에 도달하게 될 것이며, 이는 지속적인 연습을 통해서만 단계를 벗어나 수행을 올릴 수 있다. 즉 각각의 연속적인 프로그램을 재조직하는 것이 점차 더 어려워지는 것이다.
이제 나의 목표는 원칙적으로 학습될 수 있는 영역에 대한 어떤 경계를 설정하기 위해 계산분석을 사용하는 것이다. 그 영역의 한 끝에서, 개념들은 학습될 수 없다는 회의적인 철학적 명제를 반박해야 할 것이다. 다른 한 끝에서 어떤 상상 가능한 과제를 학습할 수 있는 보편절차란 사실상 환상에 불과하다는 것을 보여야만 할 것이다. 학습은 단지 가능한 개념들의 유목이나 획득되어야 하는 기술들의 유목에 제약이 있을 때에만 가능한 것이다.
학습에 대한 가장 비관적인 관점은 단순한 사실의 획득이나 기술의 획득 이외에는 학습이란 것은 불가능하다는 것이다. 이러한 명제는 철학자인 포더 (Jerry Fodor) 에 의해 아주 도전적으로 전개되었다. 그는 모든 개념들은 생득적이라고 주장한다. 아마도 이것은 지금까지 제안되어 온 합리주의적 생득설 중 가장 극단적인 것 같다. 포더의 논의는 현명하고 시사하는 바가 많다. 그러나 나는 그것이 의심의 여지가 있음을 보이고자 한다.
포더는 초보적인 형태의 논의를 알고 있는 아동들이 어떻게 보다 강한 논리를 학습할 수 있는가 하는 가설적인 문제를 가지고 논의를 시작한다. 그는 아동들이 < 그리고 (and) , < 또는 (or) >, < 아니다 (not) >, < 만약에 (if) > 와 같은 단어들의 논리를 습득하였고, 그것들은 아동들로 하여금 다음과 같이 추론을 할 수 있도록 허용한다고 생각한다 :
만약에 비가 오지 않는다면, 말은 풀밭에 있다. (If it isn't raining, then the horse is in the meadow.)
말은 풀밭에 있지 않다. (The horse isn't in the meadow.)
따라서 비가 오고 있다. (Therefore : it's raining.)
보다 강한 논리는 < 어떤 것도, 하나도 (any) >, < 약간, 어느 정도 (some) > 와 같은 단어 사용을 허용하며, 다음과 같은 종류의 추론들을 가능케 한다 :
만약에 오늘 어떤 시간에도 비가 오지 않았다면 약간의 말들이 모든 풀밭에 있을 것이다. (If it hasn't rained at any time today, then there will be some horses in all the meadows.)
어느 풀밭에는 말이 하나도 없다. (There aren't any horses in some of the meadows.)
따라서 오늘 어느 시간에는 비가 왔다. (Therefore : it has rained at some time today.)
포더는 아동들이 하나의 논리에서 다른 논리로 전환하는 것을 학습할 수 없다고 논의한다. 보다 강한 논리를 배우기 위해서 아동들은 먼저 그러한 표현들 즉,
어느 풀밭에는 말이 하나도 없다.
는 것이 무엇을 의미하는지를 학습해야만 한다. 그러나 포더에 의하면, 그러한 한 문장의 의미는 초기단계에는 아동의 마음속에서 형성될 수조차 없다는 것이다. 그 이유는 아동에게 가능한 개념들은 초보적인 논리 개념들일 뿐이고 이런 개념들은 < 어떤 것도, 하나도 (any) > 나 < 약간, 어느 정도 (some) > 의 의미를 표현할 만큼 강력하지 않다는 것이다. 만약에 아동들이 더 강한 논리적인 진술들의 의미를 표상할 수조차 없다면 그들은 그것을 학습할 수 없을 것이다.
이 논의의 아주 일반적인 것으로서, 단순개념들은 복합개념들이 표상되는 것을 허용할 만큼 (의미가) 풍부하지 않기 때문에 복합개념은 단순개념에서부터 구성되어 나올 수 없다는 결론을 이끈다. 불가피하게 포더는 모든 개념들을 생득적이라는 극단적인 관점을 내세우게 되었다. < 사실상 어떤 사람이 이미 아는 것보다 더 풍부한 하나의 개념체계를 학습한다는 견해는 있을 수 없다 > 는 것이다.
포더의 논의가 틀리다는 하나의 표시로, 그의 논의는 너무 많은 것을 증명한다는 점을 들 수 있다. 즉 논리와 개념들을 진화해 올 수 없었기 때문에 생득적일 수는 없다는 것이다. 만약에 옛것에서부터 새로운 생각들을 구성하는 것과 환경으로부터의 피드백이 새로운 개념들을 학습하도록 이끌 수 없다면, 진화 단계상에서 이와 유사한 신 다윈주의 과정들 역시 작용할 수 없는 것이다. 그러나 반대로 신경회로 (neural hardware) 가 성숙이나 돌연변이, 우주광선이나 어떤 다른 인자의 대량 투하로 변화된다면, 그런 과정을 보편 튜링기계의 능력을 갖춘 기계에 의해서는 계산적으로 모사될 수 없다고 가정해야 하는데, 그렇게 가정하는 근거는 무엇인가?
포더의 논의가 잘못된 길로 가는 것은 학습이 능력 (power) 을 증진시킬 수 없다는 주장의 모호성에 놓여 있다. 학습은 계산능력을 증진시킬 수는 없지만 학습은 논리적이고 개념적인 능력을 증진시킬 수 있다 : 이 두 견해들은 다음에 설명하는 바와 같이 아주 차이가 있다.
학습체계는 총체적으로 어떤 강도의 계산능력을 갖는다. 그것이 유한 상태의 기계가 갖는 능력을 갖는다고 가정해 보자. 그러면 후속적으로 일어나는 것은 어느 것도 학습에 의해서는 그 계산능력을 증진시킬 수 없을 것이다. 계산능력이 증진되려면 더 좋은 기억력을 갖추는 것이 필요하다. 그러나 그러한 체계는 어떤 단계에서는 덧셈을 수행할 수 없는 반면 뒷단계에서 그런 능력에 숙달할 수도 있다. 이러한 점을 보이기 위해 나는 학습체계가 초기단계에는 어떤 정수 (integer) 에 대해 후속수 (successor) 를 산출하는 단일한 수리조작만을 계산할 수 있다고 가정한다 :
후속수 (0) = 1
후속수 (1) = 2
후속수 (2) = 3
그것은 기존의 기초재료들을 올바로 조합함으로써 더하기 조작을 구성할 수 있다. 예를 들어 그것은 어떤 임의의 새로운 상징 < + > 를 사용하여 더하기를 표상할 수 있고, 그 의미를 다음 두 절 (공식) 의 정의에서 둘째 회귀 공식에 의하여 표착될 수 있다 (제 3 장 참조) :
x + 0 = 0
x + 후속수 (y) = 후속수 (x + y)
이 체계는 이미 어떤 정수의 후속수를 계산할 수 있기 때문에 어떤 두 정수의 더하기를 수행하기 위해 이러한 정의를 사용할 수 있다.
예를 들어 어떻게 1 + 1 을 계산할 수 있는지를 보자 :
1 = 후속수 (0) (후속수 조작에서)
따라서 1 + 1 = 1 + 후속수 (0)
1 + 후속수 (0) = 후속수 (1 + 0) (두 번째 절에서)
1 + 0 = 1 (첫 번째 절에서)
따라서 1 + 후속수 (0) = 후속수 (1)
후속수 (1) = 2 (후속수 조작에서)
따라서 1 + 1 = 2
이와 같이 학습체계는 초보적인 데서 더 진전된 개념까지 진보되었다.
이러한 모든 수리적 엮음의 교훈은 고정된 계산능력을 지닌 어떤 체계도 결국은 그 개념적 능력을 증진시킬 수가 있다는 것이다. 이 주장은 아주 보편적인 것이다 : 더 복잡한 개념들로 학습하는 것이 가능하다.
계산분석에서 끌어져 나오는 두 번째 교훈은 학습될 수 있는 것에는 제한이 있다는 것이다 : 어떤 절차도 모두 획득될 수 있는 것은 아니다. 그것은 가장 강력한 학습체계, 즉 보편 튜링기계의 능력을 가진 것이라도 한계가 있다. 이러한 점을 보기 위해 프로그램과 문법들 간의 관계를 다시 생각해 보기로 하자.
제3장에서는 각기 다른 종류의 프로그램들이 어떻게 계산력에서 차이가 나는지를 보여주었다. 그것들은 중간 계산들의 결과를 담을 수 있는 기억 사용에서 차이가 있었다. 나는 또한 어떤 프로그램의 행동이건 문법으로 규정될 수 있다는 것과 그래서 문법들 역시 능력에 차이가 있다는 것을 보였었다. 따라서 우리는 다음과 같이 물을 수 있다 : 문법은 그것이 무엇이든 간에 모두 학습이 가능한가? 만약 아니라면, 그에 대응되는 프로그램 역시 학습될 수 없다는 말이 된다. 요약건대 논의는 프로그램과 문법들 간의 밀접한 관계에 초점이 맞추어지게 된다.
문법의 학습가능성에 대한 물음이 처음 제기된 것은 촘스키에 의해서였다. 그는 어떻게 아이들이 모국어의 문법을 획득할 수 있는가에 관심을 가졌었다. 그러나 나는 여기에서 모든 종류의 문법을 학습하는 것에 대한 일반적인 물음을 다룰 것이고, 여기에는 프로그램의 기저기술들을 규정하는 문법도 포함된다. 두 개의 문법 A와 B가 있고, 여러분은 그것들 중 하나가 특정 음악가의 즉흥곡들을 규정한다는 것을 안다고 가정하자. 몇 개의 음악 마디들은 두 문법들 중 한 문법으로는 분명히 생성될 수 없는 다른 배열을 내포할 수가 있고, 그렇다면 다른 문법이 맞는 것임에 틀림없다. 그 문법들이 얼마나 강력한가와는 상관없이 여러분은 둘 중 정확한 문법이 어떤 것인가를 아주 쉽게 결정할 수가 있을 것이다. 그러나 불행히도 그것들만이 유일한 적합한 후보들이라고 선험적으로 알려진 그러한 작은 수의 문법집합이 있는 경우는 거의 없다. 또한 특정 상징열이 어떤 한 문법에 의해 생성될 수 있는지의 여부를 발견하는 것도 어려울 수 있다. 그러므로 여러분은 단지 특정한 유목 (class)의 문법이 적합하다는 것만을 안다고 가정해 보자. 그런데 각기 다른 계산력을 가진 프로그램에 대응되는 각기 다른 유목들 내에는 무한히 많은 문법들이 있기 때문에, 어떻게 진행해야 할지 분명하지 않다. 그러나 골드 (E. M. Gold)는 아주 적합한 원리를 증명하였다.
골드는 일련의 시행들 (trials) 을 통해 일어나는 이상적인 형태의 학습을 가정했다. 각 시행에서 여러분은 하나의 상징열을 제시받는다. 단순 학습상황에서는 그 열들을 항상 문법적이다. 그러나 여러분의 과제가 어떤 유목의 문법들 중 임의로 선정된 하나의 문법을 학습하는 것이라면, 이러한 상황은 유한한 수의 문법열들만을 허용하는 문법들에만 적합하다는 것을 골드는 증명하였다. 그러나 사용되는 대부분의 문법들은 잠재적으로 무한한 수의 문법열들을 허용한다. 모든 문법적인 문장들을 내포하고 있다고 가정되는 유한한 목록이 있다면, 항상 그 목록에서 가장 긴 문장에다가 < 그리고 > 를 첨가하여 한 절을 붙임으로써 또 다른 목록을 첨가할 수 있을 것이다.
보다 강력한 학습제도 내에서는 문법적인지 여부가 규정된 문법열이나 비문법열 중 어느 하나가 여러분에게 제시되고, 여러분은 이 정보를 문법열을 규제하는 문법에 대한 가설을 형성하는 데 사용한다. 여러분은 평생 동안 단지 유한한 수의 문자들이나 상징열들만을 검토할 수 있고, 그러나 자료는 항상 정해지지 않은 수의 상이한 문법들에 의해 특정지어질 수 있다. 이들 문법들은 모두 여러분이 보아 왔던 상징열들의 상태 (문법적이냐 아니냐) 에 대해서는 일치하지만, 다른 상징열들의 상태에 대해서는 일치하지 않는다. 그렇기는 하지만 유한한 수의 상징열들이 주어진 다음에는 여러분은 항상 동일한 문법만을 가정할 것이다. 이러한 것이 흥미로운 것이다. 사실상 여러분은 특정 언어를 숙달 (master) 한 셈이고, 골드는 여러분의 그러한 성취에 대한 이름을 붙이기 위해 < 제한 내의 (in the limit) > 라는 용어를 도입하였다 : 여러분은 < 제한 내의 > (주석 : 제한된 시각 내의 제한된 경험을 통해 긍정적 예들을 반복 경험하다 보면 참값에 점근된 (극한값의) 문법을 습득한다는 의미이다.) 언어를 파악해 온 것이다. 여러분은 그 언어의 문법에 대해 지니고 있는 여러분의 마음을 다시 변경하지는 않을 것이다. 물론 여러분은 자신이 숙달상태에 도달했다 해도 실제로 자신이 도달했는지 (아니면 언제 도달했는지) 를 결코 알지 못할 것이다. 그렇지만 실상 자신이 어떤 언어건 간에 그 언어에 완전히 숙달했다는 것을 결코 확신할 수는 없는 노릇이 아닌가? 그러나 여기에는 뚜렷한 두 가지 오류가 있다. 즉 여러분은 잘못된 문법에 고착 (안정) 되어 있을 수도 있고, 아니면 한 문법에 고착하지 못하고 계속 마음을 바꿀 수도 있다.
골드는 하나의 보편적인 학습 프로그램을 제안했다. 그것은 아주 가설적인 것이기는 하지만, 어떠한 유형의 학습될 수 있는지에 대한 몇 가지 원리들을 증명할 수 있었다. 어떤 문법도 유한한 수의 규칙들로 이루어져 있기 때문에, 특정한 계산력을 가진 가능한 모든 문법들의 무한 집합은 단일 수열로 쓰여질 수 있다 (예컨대, 우리는 규칙들을 이전 숫자로 전환하고, 각 문법을 전체로 표상하는 하나의 대형 숫자로 그것들을 연결시키며, 숫자들을 크기대로 순서짓는다). 이러한 목록은 무한 (ad infinitum) 하지만, 그것은 수열적인 것이다. 학습 프로그램은 학습하려고 노력하고 있는 한 문법이 그 목록 내의 첫 번째 문법과 대응한다는 가정으로 시작한다. 이러한 가정은 그 문법이 어떤 상징열의 정확한 상태 (문법적이냐 아니냐) 를 예언하는 데 실패할 때까지 유지된다. (실패하면) 이 시점에서 그 프로그램은 그 목록 내에 있는 다음 문법을 그것이 실패할 때까지 채택한다. 정확한 문법은 그 목록 내의 어딘가에는 존재하기 때문에 일단 접근이 되면 그것이 결코 버려지게 되지는 않을 것이다. 그 언어는 < 제한 내 > 에서 파악된 것이다.
가장 단순한 문법들은 중간 결과들을 담을 기억을 필요로 하지 않는 유한 상태의 프로그램들에 해당한다. 계산력이 다음 수준으로 올라가면, 로봇의 항해체계를 위한 것과 같은 문법들이 있다. 즉 그 문법들은 더 미식의 (stack - like) 기억에의 접근을 필요로 하는 프로그램에 해당한다. 이러한 두 유형의 문법들은 모두 제한 속에서 파악될 수 있다. 그러나 만일 보편 튜링기계의 능력을 가진 프로그램에 해당하는 문법들의 집합에서 하나의 문법이 임의적으로 선택된다면, 제한 속에서 그것이 학습될 것임을 보장할 제도 (상황들) 란 있을 수 없다. 만약에 어떤 문법의 학습가능성이 보장되지 않는다면, 그 문법이 규정하는 프로그램의 학습 가능성 역시 보장되지 않는 것이다. 따라서 학습이 보장될 수 없는 과제들이 존재한다 : 보편적인 학습절차란 존재하지 않는 것이다.
이러한 순수 수학 영역적인 분위기는 다소 고답적이다. 이제는 실제적인 영역으로 내려와 보자. 여러분의 과제가 예를 들어 일련의 점들과 선들에 대한 예상을 학습하는 것이고, 이러한 상징들을 산출해 내는 기구가 다소 결정론적인 (deterministic) 장치라고 하자. 그렇다면 여러분이나 그 어느 누구의 학습도 성공이 보장되지 않으며, 가장 진보된 계산설비의 도움을 받을 때조차도 성공은 보장되지 않는다. 그 기호들을 산출하는 기구는 보편 능력을 가진 집합에서 임의적으로 선택된 하나의 튜링기계일 수도 있을 것이다. 만약에 우리가 외계로부터 무선 신호들을 포착하는 데 성공한다 해도 그것들을 송신해 오는 체계의 문법을 학습할 수 있으리라는 보장은 없다.
계산적 분석에서 나오는 마지막 교훈은 학습되어야 하는 것에는 제약조건이 필요하다는 것이다. 이러한 필요성은 직접적으로는 보편 학습절차가 존재하지 않는다는 데에서부터 비롯된다. 골드의 원리들에 대해 여러 가지 반응이 있을 수 있다 : 즉 그의 학습과정에 대한 이상화는 심리학적으로는 비현실적이다 : 그의 학습절차는 단순한 문법을 학습하는 것에도 불가능할 만큼 긴 시간을 요구한다 : 그의 성공적인 학습의 범주, 즉 제한 내에서의 파악이라는 것은 너무 강하다는 것들이다. 학습은 합당한 시간 내에 일어나야 하기 때문에 다음들 중 하나가 그 이상의 조건을 필요로 한다 :
- 보다 효율적인 학습 프로그램
- 학습되어야 할 문법이 나온 집합에 대한 강한 제약
- 무엇이 성공을 구성하는 것인지에 대한 약한 견해
그러나 만약에 학습되어야 하는 문법이 특정 계산력을 가진 문법들 중 하나일 가능성이 있다면, 일반적으로 골드의 프로그램을 능가할 방법은 없다. 따라서 우리는 다른 두 가니 가능성들을 검토할 필요가 있다.
만약에 관련 문법들의 유목에 대한 제약이 단지 유한한 (finite) 수의 후보만 남기고 다른 것을 모두 제거하는 것이라면, 관련 문법의 능력과는 관계없이 하나의 문법을 획득하는 것이 가능하다. 골드의 프로그램은 유한한 수의 시행이 있은 후에는 정확한 문법에 분명히 수렴될 것이고, 그것은 또한 가장 강력한 문법들에 대해서도 그럴 것이다. 따라서, 학습되어야 하는 문법이 추출될 수 있는 후모 문법들, 즉 각기 다르지만 유한하게 많은 후보 문법들에 대한 하나의 표상에 접근할 수 있어야 한다는 것이 바람직하다.
촘스키는 아동들의 모국어 습득과 연결시켜 그러한 결론을 끌어내었다. 그의 연구 프로그램의 주요 목적은 자연언어의 문법의 다양성이 아주 단촐하다는 것을 보이는 것이다. 그는 인간언어의 가능성은 유한할 뿐이며, 그것은 생득적인 원리들의 집합 (소위 < 보편 문법 (universal grammar) >) 에 내재되어 있다는 것이다. 어떤 특정 언어도 이러한 일반적인 틀 안에서의 특정 선택들에 의해 표현되며, 어린이들은 이 선택들 (또는 모수치들 (parameters)) 을 적절한 값과 연결시킴으로써 자기들의 특정 언어에 적응하게 된다.
유한한 수의 후보들만이 있다면, 학습이란 연역의 한 종류가 된다. 즉 증거가 생기면, 그것은 단일한 후보가 생존해 남을 때까지 가설들을 제거해 가는 데 사용된다. 그러나 몇몇 경우들에서 학습은, 훨씬 덜 분명하고 따라서 제한 속의 파악보다도 더 약한 성공기준을 만족시키는, 귀납적인 형태를 띠기도 한다. 결국 제약이란 성공적인 학습을 위해서는 핵심적인 것이고, 동물 행동학 연구들이 보여주었듯이 제약의 성질이 무엇이 학습 가능한 것인지를 결정한다.
이 장에서 나는 학습가능성에 대한 계산분석을 개관하고, 학습될 수 있는 것과, 학습될 수 없는 것의 성질에 대해 몇 가지 결론을 내렸다. 그리고 학습이 발생할 수 있는 절차의 세 가지 일반적인 유목들을 기술하였다. 인지과학자들이 제안해 오고 있는 몇 가지 특수한 절차들을 논의하기 전에 나는 기억의 성질을 고려하려고 한다. 모든 형태의 학습이 기억에 의존한다. 따라서 나는 사실들을 기억하기 위해 요구되는 기억의 구성요소들은 무엇인지부터 다루어 나갈 것이다.
읽을거리
생득적인 행동들과 학습의 동물행동학적 연구들은 힌데 (Hinde, 1982) 의 책에서 논의되고 있다. 학습에 대한 기본적인 심리학 교과서는 힐가드 (Hilgard) 와 바워 (Bower) (1974)의 것으로 신간이 출판 예정이다. 동물들의 학습방법에 대한 초기 심리학적 연구들에 관해서는 복스 (Boakes, 1987) 의 책에서 다루어지고, 디킨슨 (Dickinson, 1980) 은 최신연구들을 훌륭하게 설명하며 인지 표상의 역할을 강조한다. 모사적이고 무제약적인 진화로 인공지능을 성취시키려는 시도는 포겔 (Fogel) 과 오웬 (Owens), 월쉬 (Walsh) (1966) 에 의해 개관되고 있다. 학습가능성의 이론은 핑커 (Pinker, 1979) 에 의해 비형식적으로 소개되고, 오셔슨 (Osherson) 과 스톱 (Stob), 바인슈타인 (Weinstein)(1986) 에 의해 기술적인 내용들이 확장되었으며, 자연언어 획득에의 적용이 핑커 (1984) 와 베르윅 (1985) 에서 논의되고 있다.