뇌의 소프트웨어를 찾아서
바이오 컴퓨터 : 아마리 슝이찌 저서, 21세기 과학시리즈 편찬회 역, 대광서림, 1993 Page 97~140
정보처리 장치로서 뇌를 본 경우, 컴퓨터와는 근본적으로 다른 특징을 어느 정도 들 수가 있다. 우선, 뇌의 하드웨어는 뉴런 회로망으로 된 병렬처리 머신이다. 뇌는 이 머신을 이용해서, 병렬 정보처리, 분산 정보처리를 하고 있으며, 계산기처럼 CPU (중앙처리장치) 가 모든 정보의 흐름을 돌보는 일은 하고 있지 않다. 그럼, 병렬처리 머신을 잘 활동하도록 시키는 소프트웨어는 어떻게 공급되는 것일까? 뇌의 소프트웨어는 학습 및 자기조직에 의해서 자동적으로 만들어진다. 즉, 뇌는 학습능력을 갖고 있으며, 자기의 구조를 필요에 따라서 바꾸어 간다는 점에 특징이 있다. 물론, 뇌의 하드웨어와 소프트웨어는 일체가 되어서 일하고 있고, 이것을 분리하는 것을 있을 수는 없다. 이점 때문에도, 뇌는 알고리즘에 따라서 논리연산을 실행하는 컴퓨터와는 다르다는 사실을 알았다.
뇌를 조사하는데는 여러 가지 방법이 있다. 앞장에서 본 것처럼, 생리학을 중심으로, 생물과학은 뇌의 구조를 해명하기 위해 많은 노력을 기울여 왔다. 그러나 정보처리 장치로서 뇌를 보는 경우에는, 단지 생물학적인 실재로서의 뇌를 조사하는 것만으로는 불충분하다. 뇌의 정보처리 기능은 물론 그 생리적 기능에 지탱되어서 실현하고 있지만, 생리적 기능만으로 뇌의 정보처리 양식, 더구나 그 소프트웨어의 실태를 알 수는 없다. 컴퓨터의 경우에도, 트랜지스터의 물리기능을 아무리 조사해보더라도 소프트웨어의 성질은 알 수 없는 것과 비슷한 것이다. 뇌의 정보처리 기능을 이해하려면, 대담하게 가설을 세우고, 논리적인 사고에 의해서 뇌의 모델을 만들며, 그 모델의 동작을 조사함으로써 그 기능을 추측하는 방법이 오히려 지름길일지도 모른다. 이와 같은 방법을 「구성적 방법」혹은「신경 Modeling」이라고 부르고 있다.
그림 1 맥카록과 피츠의 형식 뉴런
1943 년, 미국의 수리과학자, 맥카록과 피츠 두사람은 뉴런의 동작을 보여주는 모델을 제출했다. 그림 1 에서 보는 것처럼, 하나의 뉴런에는 입력신호가 다수 들어간다. 이 입력신호를 종합해서 계산한 결과로서, 뉴런은 흥분하는가 아닌가로 답을 낸다. 흥분하면 1, 하지 않으면 0 으로 하자. 입력신호쪽도, 전기 pulse 가 오지 않을 때는 0 으로 생각해도 좋기 때문에, 하나의 뉴런은 입력신호로서 다수의 1, 0 을 수취하며, 출력신호로서 1, 0 의 어느 한쪽을 내게 된다. 1, 0 이라 하면 앞에서 말한 것처럼 논리적인 명제의 기본적인 값이었다. 때문에, 뉴런은 논리연산을 실행하는 소자라고 생각해도 상관이 없어진다.
그렇다면, 어떤 논리연산을 실행하는 것일까? 맥카록과
피츠는, 뉴런은 먼저 입력신호 
의 덧셈을 한다고 생각했다. 단지 단순한 덧셈이 아니라 무게가 붙은 덧셈이다.
즉, 하나하나의 입력섬유는 각각 적당한 무게 
를 갖고 있고, 입력섬유에 1 의 신호가 주어지면, 이 무게가 더해진다. 이렇게
해서 더해진 무게의 총화가 어떤 값을 넘는지 아닌지로, 답이 1 이 되거나 0 이 되거나
한다. 이것은 앞에서 말한 「다수결원리」라는 것이다. 맥카록과 피츠는, 뉴런으로
논리연산의 기본인 AND 소자, OR 소자, NOT 소자를 만들 수 있음을 보여 주었다.
이것은 무엇을 의미하는 것일까? 논리연산은 이 세가지 소자의 조합으로 전부 실행할 수 있기 때문에, 신경계는 논리적인 완전계를 이루게 된다. 즉 툴링ㆍ머신과 동등한 능력을 가질 가능성이 있다는 것을 보여주었다.
1940 년대라고 하면, 정보과학이 성립한 시기이다. 수를 세어보더라도, 위너의 cybernetics, 샤논의 정보이론, 컴퓨터, 뇌의 모델 등, 모두 이 시기에 출발했다. 정보과학에 대한 기대와 열기에 차있던 시대라고 해도 좋을 것이다. 이 시기에 뇌와 컴퓨터를 연결해서 동시에 생각하려고 하는 움직임이 나온 것도 무리가 아니다. 뇌도 컴퓨터도 모두 지적인 동작을 실행하는 장치이기 때문에, 무언가 공통 논리를 갖고 있는 것은 틀림없다. 이것을 함께 조사해 가면, 무언가 새로운 지능 과학이 성립하지는 않을까 하고 생각되었던 것이다. 그러나 연구의 역사는 그와 같이는 진행하지 못했다.
맥카록과 피츠에서 시작된 형식 뉴런의 이론은, 그 후 오트매튼의 이론, 형식언어의 이론과 결합하여 발전하며, 컴퓨터의 기초 이론이 됐으나, 뇌의 이론과는 오히려 멀어져 버렸다. 뇌와 컴퓨터의 차이는, 이미 폰ㆍ노이만이 간파하고 있었던 것이다.
폰ㆍ노이만은, 컴퓨터는 직렬 동작을 하지만, 뇌는 병렬 동작을 한다는 사실을 간파하고 있었으며, 뇌에서 일어나는 정보처리는 컴퓨터와는 달리, 신뢰성이 나쁜 부정확한 동작을 하는 소자를 다수 모아서, 신뢰성이 있는 계산을 실행하는 장치, 결국 통계 역학과 같은 논리가 일하고 있는 것이라고 생각했다. 즉, 뇌의 병렬 정보처리는 일종의 협동현상과 같은 것에 지탱되고 있다고 직감했던 것이다.
여기서, 간단한 예를 사용해서, 직렬과 병렬의 정보처리의 차이를 조사해 보자. 작은 망점으로 나누어진 화면상에 흑과 백으로 그림 2 와 같은 패턴이 그려져 있다. 검은 부분의 패턴이 전체적으로 하나의 이어진 도형인지, 아니면 어딘가에서 두 개로 나누어져 있는지, 이것을 판정하는 문제를 생각해 보자.
그림 2 패턴의 연결성 판정
현재의 컴퓨터는 어떻게 판정할까? 이 패턴이 이어져 있는지 어떤지를 보는데, 컴퓨터 (의 프로그램) 는 도형의 망을 하나씩 순서대로 본다. 한 망이 흑이며, 옆의 망이 흑이라면, 그 둘은 이어져 있다. 또 그 밑이 흑이라면, 그 셋도 이어져 있다. 컴퓨터는 이렇게 망을 한번에 하나씩 보면서, 지금 그려진 패턴이 전체적으로 하나인지, 아니면 어딘가에 절단면이 있어서 두 개로 나누어져 있는지를 판정하지 않으면 안된다. 이것은 말은 쉽지만 실제는 상당히 어려운 일이다. 패턴이 복잡하게 갈라져 있거나, 일견 떨어진 것처럼 보이는 부분이 먼 쪽에서 이어져 있을지도 모르기 때문이다.
이 도형의 망의 소인이 한사람 서있고, 지금 서있는 망의 색만 보인다고 하자. 망에서 망으로 이동하면서 흑백을 조사하는데, 어떤 조사법을 이용해야 패턴이 하나로 종합해 있는지 어떤지를 판정할 수 있을까? 패턴이 이어져 있다면, 이 인간은 차례로 검은 망을 돌면서 모두 까만 망으로 갈 수 있다. 그러나 패턴이 두 개로 분리해 있으면, 패턴이 끊어진 하얀 부분을 건너지 않으면 까만 망 전부에는 갈 수 없다. 물론 보조로서 메모리는 사용한다고 해도, 이것을 한번에 하나씩 논리동작으로 판정하는 것은 상당히 어렵다.
한편, 병렬 정보처리라면 어떻게 할까? 우리들은 이 패턴을 한 눈에 보고서, 아 이것은 두 개의 부분으로 이루어져 있구나하고 알 수 있다. 이것은 도형 전체를 동시에 보고 정보처리를 하고 있기 때문이다.
더욱 정확하게 말하면, 뇌의 시각야에서는 여러 부분이 도형의 각종 부분을 동시에 보고 있음이 분명하다. 그리고 각 부분을 받아들인 요소끼리 상담을 하고, 결국 이것은 하나에 지나지 않는다. 또는, 두 개로 나누어져 있다는 답을 일거에 내는 것이다. 이 방식으로 하면 답은 아주 빨리 나온다. 그러나 상담이라고 해도 그 방법이 문제이며, 일은 그렇게 용이하지 않다. 도형이 아주 복잡한 경우에 틀린 가능성이 나오는 것은 쉽게 알 수 있을 것이다. 사실, 이와 같은 문제에 정확하게 대답하는 병렬처리 방식을 발견해 내는 일은 아주 어려운 문제다. 인간의 경우에도, 복잡한 도형의 경우에는 경계면을 더듬는 등, 부분적으로 직렬방식을 병용하고 있다.
그림 3 병렬 정보처리
병렬 정보처리의 원리를 간단화해서 생각해 보자 (그림 3). 외계에서 정보가 다수의 뉴런을 경유해서 들어온다. 한편, 뇌안에서는, 이 정보를 처리하는 소자가 병렬로 많이 늘어서 있다. 그러나, 하나의 소자는 정보의 전부는 아니며, 자기의 분담범위 일부분만을 볼 수가 있다. 이렇게 해서, 각각의 소자가 부분적인 정보를 보고서 계산하며, 자기 나름대로의 답을 낸다. 이렇게 하면 각각의 소자는 서로 모순된 답을 낼지도 모른다.
여기서 소자끼리의 상호작용이 시작된다. 서로 이웃하는 몇 개의 소자가 서로 상담을 반복하며, 상호 협력하여 무언가 공통된 답을 내려고 할지도 모른다. 또는 서로 경쟁하고, 자기 의견을 관철하며, 다른 소자의 답을 억압하려고 할 지도 모른다. 이런 상호작용을 통해서 최종적으로 한가지 답을 낸다. 필요하다면, 하나 위에 있는 조정자 역할을 하는 소자를 두어도 좋다. 이것이 병렬 정보처리이다.
직렬 정보처리의 경우는, 소자간의 직접 상호작용은 허용되지 않으며, 그 대신 모두에게 개입할 수 있는 CPU 가 있어서, 이것이 각 소자의 얘기를 한번에 하나씩 듣고, 필요하면 기억장치를 이용해서, 복잡한 알고리즘에 따라서 최종적인 답을 하나낸다. 병렬인 경우에는, 서로 상호작용을 하여, 말하자면 쌍방이 호흡을 맞추어 답을 하나만 내 버린다고도 할 수 있다. 때문에 답은 빨리 나온다. 그러나 같은 입력정보에 대해서, 소자간의 상호작용 속도의 약간의 차이 때문에, 이번에는 틀린 답이 나오는 일도 있다. 따라서, 답은 반드시 재현성이 있지는 않으며, 뭔가 조금이라도 내부 상황이 다르면 그 답도 달라지기 때문에, 무드에 쫓아가기 쉽다고도 말할 수 있다. 병렬 정보처리에는 이점도 있으며 결점도 있다.
뉴런끼리의 상호작용은 어떻게 일어나는 것일까? 단순한 모델을 이용하면, 이 메카니즘을 수학적으로 조사할 수가 있다. 무엇보다도 단순한 모델은, 뉴런의 집단이 있고, 그 안에 각 뉴런이 어느 정도 엉켜서 결합하여, 상호작용을 하고 있는 경우이다. 이 동작을 조사하려면 뉴런집단의 통계역학을 고찰하면 좋고, 여기에서도 몇 가지 흥미있는 현상이 나온다.
강하게 결합한 뉴런 집단은, 외계에서 어느 정도이상으로 자극을 받으면 흥분하며, 자극이 사라진 후에도, 물론, 억제신호를 넣어서 이 흥분을 멈추면 전체는 통상의 정지 레벨로 되돌아간다. 즉, 뉴런집단은 정지와 흥분의 두 가지 상태 어느 쪽도 보존할 수 있다. 앞에서, 인간사회의 집단은 뉴런집단과 비슷한 점이 있다고 했는데, 인간집단에서도 상호 결합이 강하면, 약간의 자극에 민감하게 반응하여 집단 히스테리에 빠질 가능성을 갖는 것과 같다. 이것은 단기기억의 기초가 될 수 있는 것이다.
또, 이런 뉴런집단은, 진동현상을 발생하며, 여러 가지 생체리듬 발생의 기초가 될 수도 있다. 이 밖에, 뉴런집단이 만드는 다수의 발진기를 나열해 두면, 끌어들이는 현상이 일어나서, 전체적으로 뭔가 협조한 동작을 하도록 조정할 수가 있다.
그런데 신경집단의 통계역학은 실제의 뇌를 생각하기에는 지나치게 단순하다. 실제 뇌에서는, 뉴런이 2 차원의 seat 를 형성하는 것처럼, 빽빽하게 늘어서서 피질을 이루고 있다. 이 seat (피질) 은 두께를 갖고 있고, 깊이에 따라서 종류가 다른 뉴런이 늘어서 있다. 이것을 2 차원의 공간 즉 장으로 생각하면, 뇌는 다층의 신경장 구조를 하고 있다고 생각해도 좋다. 또한 대뇌 등을 조사해 보면, 신경장은 장소에 관계없이 거의 같은 구조를 하고 있다고 생각할 수 있다.
신경장 안에서는 어떤 정보처리가 행해지는 것일까? 외계에서 입력이 오면 장의 여러 부분이 흥분하며, 이 정보를 장 전체에서 합세하여 협동작업으로 처리에 가는 것이 분명하다. 이 때, 신경장의 어딘가가 흥분하며, 어디가 흥분하지 않는다와 같은 흥분 패턴이 형성될 것이다. 흥분 패턴은 시간과 함께 변화해 가기 때문에, 신경장 안에서 시공간의 흥분 패턴이 형성된다고 해도 좋다. 흥분 패턴을 형성하여 변화 발전시키는 장치는, 뉴런끼리의 상호결합에 따른 협조작용, 즉 자신이 흥분했을 때는 자기에게 연결되어 있는 다른 뉴런도 흥분하라는 것과 같은 상호작용과, 또 하나는 경합작용 (Competitive), 즉 자기가 흥분했을 때는 자기와 이어져 있는 다른 것은 흥분하지 말라와 같은 억제작용, 이 두가지가 기본이다. 이 조합으로 여러 가지 정보처리가 가능해 진다.
물론 실제로 뇌의 정보처리 과정은 복잡하다. 입력정보는 시시각각 달라지며, 기억계와의 상호작용이 큰 역할을 해내고 있다. 그러나, 이런 것을 무시하고, 단순한 신경장의 흥분 패턴의 역학 과정을 수학적으로 조사해 보는 것만으로도, 신경장의 능력을 어느 정도 지적할 수가 있다. 예를 들면 신경장의 여러장소에 외계로부터 입력정보가 들어왔다고 하자. 이 때 신경장은 가장 강한 입력 자극만을 골라내서, 그 장소만이 흥분하도록 하는 패턴을 형성할 수가 있다. 예를 들면, 개구리의 신경계를 생각해 보자. 개구리는 곤충을 잡아 먹고 있다. 개구리의 안구에 비친 외계의 정보는, 무언가 곤충처럼 움직이는 부분만이 추출되어, 그것이 뇌의 신경장에 보내진다. 여기서 많은 움직이는 것 중에서 가장 곤충다운 것을 하나 선택하여, 개구리는 그것을 향해 뛰어들 게 된다.
가장 맛있을 것같은 곤충을 선택하는데 직렬의 정보처리를 실행하여, 장의 전체에 걸쳐서, 어느 쪽이 가장 맛있을까. CPU 가 하나씩 조사한다면, 시간이 걸리고 곤충은 그 사이에 위치를 바꾸어 도망가 버린다. 신경장에 비친 동적 패턴을 바탕으로, 협조와 경합의 상호작용에 의해서 비교적 단시간에 가장 곤충같은 것에만 흥분을 남기고, 다른 가능성을 없애 버린다면, 곤충에게 일거에 달려들 수 있지는 않을까? 실제 개구리가 이와 같은 일을 하고 있다라는 증거가 제시되고 있다.
이 밖에, 우리들의 시각정보처리계는, 시야에 비친 정보의 특징을 추출하거나, 오른쪽 눈과 왼쪽 눈의 정보 패턴의 미묘한 차이를 이용해서, 외계의 정경의 입체적인 구조를 인식하거나 할 수 있다. 이와 같은 처리도 직렬 정보처리를 실행한다면, 시간이 걸리고 비능률적이지만, 병렬의 상호 작용으로 실행한다면 비교적 단시간에 가능하다. 특징 추출과 입체시의 병렬처리 과정이 자주 연구되고 있다.
물론, 병렬 정보처리로 실행한 경우에는, 경우에 따라서 부정확한 응답이 나온다. 그러나, 인간이라도 때로 입체감을 잘 모를 수 있으므로, 이것은 오히려 당연하다고 말할 수 있을지도 모른다.
병렬성과 나란히, 학습 가능성이 뇌의 또 한가지 특징이다. 뇌는 아주 뛰어난 학습기계이다. 여러 가지 지식을 쌓고, 이것을 이용하며, 연습에 의해 운동 기능을 향상시킨다. 이와 같은 학습 가능성은, 신경회로망으로 어떻게 실현할 수 있을까? 신경회로망은 뉴런을 다수 상호로 결합한 것인데, 결합의 강도가 변하면 회로망의 동작도 변화한다. 이것이 기억과 학습을 지탱하는 생리학적 기초일 것이라고 옛부터 일컬어졌다.
1949 년에, 심리학자 헤브는, 뇌의 학습 모델을 제출했다. 지금 뇌안에서 하나의 뉴런이 흥분하고, 연결되어 있는 다음 뉴런에게 이 신호를 전달하고, 다음 뉴런도 흥분했다고 하자. 이 때, 이 두 개의 뉴런 결합은 전보다도 조금 강해졌다고 하자, 이 후에, 또 같은 자극이 오면, 결합이 강해진 것만큼, 나머지 뉴런은 이전보다 흥분하기 쉬워진다. 이와 같이 해서 뇌의 구조가 조금씩 변화해가는 것은 아닐까하고 생각했다. 즉, 한번 자극이 지나가는 길이 뇌에 형성되면, 그 지나가는 길에 따른 결합이 강화되어, 자극이 조금씩 지나가기 쉬워진다는 것이다. 마치 넓은 들판이 있고, 누군가 한사람이 지나가면, 그곳에 미약한 흔적이 생긴다. 다음 사람은 어디를 지나갈 것인가 할 때에, 이 흔적을 발견하면, 그 길을 더듬어 갈 것이다. 이렇게 해서 많은 사람이 지나가면, 점점 확실한 길이 된다. 뇌안에서도 이와 같은 길이 여러 방향에서 다수 만들어져 가는 것은 아닐까 하는 점이다.
1940ㆍ50 년대에 걸쳐, 뉴런의 생리적인 구조가 밝혀짐에 따라서, 뇌의 학습 모델도 조금 구체적인 것이 제출되게 되었다. 예를 들면, 이탈리아의 물리학자 카이아니에로는, 신경 회로망의 방정식을 세워 보았다. 뇌의 활동 상태는 신경회로망 안에서 한 뉴런이 흥분하고, 다른 것은 흥분하지 않는다는 무언가 흥분의 패턴으로 보여지고 있고, 그 패턴이 이 방정식에 따라서 변화한다고 생각한 것이다. 학습이란, 뉴런 사이의 연결 방법이 조금씩 변해가며, 그것에 따라서 방정식도 변화하는 것이다. 밖에서 입력 신호가 도착하고, 신경 회로망이 흥분해서, 활동상태가 되면, 그 상태에 따라서 회로의 결합 방법도 조금씩 변해간다. 이 변화를 다른 또 한 쌍의 방정식으로 나타내 본 것이다.
이 두쌍의 방정식을 보고 있으면, 여러 가지 것을 상상할 수 있다. 예를 들면, 입력 신호를 다수 주고서 많은 패턴을 외우면 신경회로망이 전체적으로 쉽게 흥분하게 된다. 이렇게 되면, 별것 아닌 일로 흥분하여, 혼란에 빠지기 쉽다. 이것을 식히는 것이 수면이다. 수면중에 전체의 활동도가 떨어지고, 주간에 외운 활동의 패턴이 보다 좋은 모습으로 자리잡는다고 생각한다. 또, 꿈을 꾸는 것은, 주간에 외운 활동 패턴을 반영하고 있기 때문에, 이것으로 기억이 강고한 것이 된다고 했다. 연상기억은 두 가지 활동상태의 상호작용에서 생긴다. 한편 신경회로망이 학습을 거듭해 가면, 뉴런간의 연결 방법이 점점 강해지지만, 물론 여기에는 한계가 있다. 어느 정도 이상 강해지면 결합이 고정화하여 새로운 패턴을 학습하기 어렵게 된다. 노인이 되면 완고해 지는 원인이 실은 여기에 있다는 것이다.
물론 카이아니에로는 방정식의 형태를 보여준 것 뿐이며, 방정식을 구체적으로 주어진 것도 아니며 해석을 실행한 것도 아니다. 말한다면, 큰 보자기를 넓혀서, 신경회로망에 여러 가지 풍부한 가능성이 있음을 시사한 것에 불과하다. 그러나 이 가능성을 전제로 해서 보다 구체적인 방정식을 생각하고, 수학적인 해석과 컴퓨터 시뮬레이션을 행함으로써, 보다 실증적인 연구로 나아갈 수 있다.
마찬가지로 1950 년대 말에 심리학자 로젠 브래드는, 신경회로망과 비슷한 장치를 사용하면, 패턴을 인식하는 장치, 그리고 학습에 따라 인식능력이 향상해 가는 장치를 만들 수 있음을 보여주었다. 이것이 학습기계 Perceptron이다. 물론 뇌의 인식기구의 원시적인 모델이기도 하다.
더욱 단순한 Perceptron은, 외부에서 두 종류의 신호가 주어졌을 때에, 이것을 정확하게 식별하는 일이 목적이다. 예를 들면, 사람의 얼굴을 입력신호로서 주자. 여기에는 남과 여의 두 종류가 있는데, 뉴런으로 이루어진 회로망에서는 어떻게 해서 남자인지 여자인지를 판정할 수 있을까? 화면에 A 와 B 두 종류의 문자를 여러 가지로 적었을 때, A 가 주면 A, B 가 주면 B 라고 대답하는 회로망도 원리는 마찬가지이다. 두 종류의 식별이 가능하다면, 이 장치를 사용하여 다종류의 식별을 시도해 보는 것은 문제없는 일이다.
Perceptron의 특징은, 무엇을 식별할지가 처음부터 정해져 있는 것은 아니며, 어떤 일이라도 일이 주어지면, 학습에 따라서 점차 이 일을 처리하는 방법이 수월해져 가는 점에 있다. 통상, 우리들이 패턴의 인식장치를 만들려고 하는 경우에는, 먼저 무엇과 무엇을 구별할 것인가? 그 차이를 확실히 시키도록 한다. 예를 들면, 남자는 무엇인가? 여자란 무엇인가? 를 명확하게 하는 작업부터 시작한다. 남자는 약간 거친 얼굴이며 머리카락이 짧고 우락부락하다든가, 여자는 상냥한 얼굴을 하고, 화장을 하고 있다든가, 따위의 미묘한 정의가 필요해 진다. 아무래도 이 정의만으로는 식별할 수 있을 것 같지 않다.
문자 패턴의 A 와 B 의 식별이라면 조금 더 간단하다. A 는 위에 거친 부분이 있고, 가로봉이 하나 있고, 밑에 벌어진 막대가 두 개 나와 있다. B 는 둥근 반월형의 것이 두 개 겹쳐진 형태이다. 이와 같이 패턴의 본질을 먼저 정의하고, 주어진 입력신호가 그 본질에 합치하는지 어떤지를 여러 가지 조사해 가면 좋다. 이것이 컴퓨터의 패턴 인식의 방식이다.
Perceptron은 이것과는 전혀 다른 행방을 취한다. 패턴의 본질 등에는 일체 접하지 않으며, 남자란 무엇인가? 여자란 무엇인가? A 란 무엇인가 따위의 의논은 전혀 하지 않는다. 그 대신 실례를 보여주고, 이것은 남자다, 이것은 여자다, 라고 가르친다. 이처럼 실례를 많이 주는 동안에, 자연스럽게 장치가 납득하여, 남자와 여자를 잘 구분할 수 있게 된다면, 가장 좋은 것이 아닐까?
인간이 학습하는 경우에도, 남자의 본질, 여자의 본질에 대한 해석을 듣기 보다는, 먼저 실례를 바탕으로 해두고 있고, 뉴런의 회로망을 조절해서 잘 분별하는 방법에 치우치고 있는 것이 분명하다. 게다가 이와 같은 장치는 범용이어서, A 와 B 를 구분하는데도, 남과 여를 분별하는데도, 같은 것을 사용할 수 있다.
그림 4 Perceptron
Perceptron은 그림 4 에 보이는 것처럼 세 가지 구성요소로 이루어진다. 하나는 감각층으로, 여기에는 뉴런이 다수 나열해 있다. 입력신호는 이곳이 받아들인다. 이것은 망막과 같은 것이라고 생각하면 좋다. 감각층의 뉴런이 수취한 입력 신호는, 다음의 연합층으로 불리는 신경회로망에 들어간다. 연합층에도 뉴런이 다수 늘어서 있고, 감각층이 수취한 뉴런군의 흥분 패턴을 연합층의 뉴런군의 흥분 패턴으로 패턴 변환한다. 이 후 정보는 응답층으로 부르는 뉴런 회로에 들어간다. 무엇보다도 단순한 Perceptron에서는, 응답층은 단지 하나의 뉴런으로 이루어진다. 이 뉴런이 흥분하는가 아닌가로, 남자인지, 여자인지, A 인지 B 인지를 답을 내게된다.
Perceptron에서는 식별결정은 최종적으로는 단지 하나의 응답층의 뉴런이 받아들인다. 이 뉴런의 동작을 학습에 의해서 바꾸어 가려고 하는 것이다. 물론 한 개의 뉴런을 사용해서 패턴을 식별하려면 능력에 한계가 있다. 한 개의 뉴런은, 입력신호의 다수결을 취할 수밖에 없기 때문에, 너무 복잡한 일을 할 수 없는 것은 어쩔 수 없다. 그러나, 이와 같은 단순한 모델을 사용하면, 역으로 한 개의 뉴런이 갖는 능력과 그 한계를 확실히 확인할 수가 있다.
그림 4 에서도 알 수 있듯이 이 뉴런에는, 외부에서 교사신호가 들어오고 선생 역할을 한다. 교사 신호는, 장치가 잘못 답을 냈을 때에, 자네 답은 틀렸다고 가르쳐준다. 이 때에, 뉴런은 입력신호에 대한 결합의 무게를 조금씩 바꾸게 되어 있다. 이렇게 함으로써, 만약 한 개의 뉴런으로 정해가 나온다면 반드시 정해에 도달할 수 있는, 이런 것이 수학적으로 증명된 것이다.
이와 같은 학습 방법은 인간과는 조금 다를지도 모른다. 인간은, 정해를 냈을 때에 적당하게 칭찬해 주고, 잘못을 했을 때에 조금 화를 낸다는 것이 능숙한 교육방법이라고 한다 (Reinforcement). 그러나, 단순한 Perceptron에서는, 잘못이 생겼을 때에만 동작을 수행한다는 점이 가장 효율좋은 방법임을 알았다.
그럼, 연합층에서 패턴 변환의 역할은 무엇일까? 앞서도 말한 것처럼 하나의 뉴런에서는 식별 결정 능력에 한계가 있다고 했다. 그러나, 감각층에 들어간 신호는 그대로 다수결한 것은 식별하기 어려운 형태라도, 연합층을 이용해서 이것을 능숙하게 변환해 가면, 최종적인 식별 능력이 현격하게 높아진다는 것을 알았다. 그리고도 연합층의 뉴런수가 많으면 많을수록, 이 능력은 높다.
이렇게 해서, Perceptron의 모델이 제출되자, 그 능력과 그 한계를 둘러싸고 수학적인 이론이 제출되었다. 이렇게 해서 신경회로망의 학습 능력의 일단이 나타나게된 것이다. 물론 뇌전체의 정보처리에 비하면, 이런 모델은 여전히 단순한 것에 불과하다. 그러나, 이렇게 해서 뇌의 학습능력의 다양한 가능성과 한계를 각종 모델을 이용해서 하나씩 분명히 해 가는 것은, 지금부터 만들어야 할 바이오 컴퓨터의 아키텍쳐와 소프트웨어를 생각하는데에 중요하다.
Perceptron은, 그 후 이외의 전개를 보였다. 1960 년대 말경, 마아와 알브스 두 사람은, 각자 독립적으로 소뇌는 Perceptron과 같은 학습동작을 하고 있는 것은 아닐까? 하는 설을 제창했다. 이 때까지, 생리학자의 노력에 의해서, 소뇌의 구조는 꽤 알려져 있었다. 이토오 교수는, 소뇌의 구조를 상세하게 조사한 사람이다. 그는 소뇌가 마치 컴퓨터를 다수 나열한 것같은 규칙이 정확한 구조를 하고 있다는데 놀랐다. 그리고, 이것을 수학자와 공학자에게 제시하고, 여기에서 뇌의 정보처리 메카니즘에 대해서, 그들이 무엇을 생각하는지 듣고자 했던 것이다. 이것에 대답한 것이 마아와 알브스였다.
그림 5 소뇌의 모식도
그림 5 에서 보는 것처럼, 소뇌는 태상 (= 이끼패턴) 섬유에서 입력 정보를 받아서, 그것을 정보변환하는 부분이 있으며, 이 정보를 바탕으로 플킨에 세포라는 대형 세포가 계산을 실행하고, 이 답이 출력정보가 되어 나간다. 그러나 플킨에 세포의 한 개 한 개에 대뇌에서 직접 들어가는 하나씩의 입력신호가 있음을 알았다. 이 그림을 앞의 Perceptron 그림과 비교해 보자. 소뇌는 태상 섬유로부터의 입력신호를 과립세포층에서 변환하고, 그곳에서 신호의 수를 늘려두고, 그것을 플킨에 세포에 넣는다. 플킨에 세포는 마치 Perceptron의 응답층 뉴런과 같은 역할을 하고 있는 것처럼 보이지는 않는가. 그리고 대뇌에서 오는 신호는 무언가 교사신호처럼 보인다.
이렇게해서, 마아와 알브스는, 소뇌는 Perceptron이며, 플킨에 세포는 대뇌로부터의 교사신호에 따라서 학습하는, 세포하는 설을 세웠다. 이 설에 대해서는 찬반 양론이 일어났는데, 이토오 교수는 이 설을 실증할 만한 생리학적인 기초 실험을 10 년에 걸쳐서 반복하고, 이어서 소뇌의 플킨에 세포는 학습을 하는 세포라는 점을 밝혀내어, 세계적인 반응을 불러 일으켰다. 이렇게 해서 뇌의 비밀이 또 한가지 밝혀졌다.
물론, 잘 생각해 보면, 소뇌는 패턴의 분류를 하는 장치는 아니다. 소뇌는 운동기능을 담당하는 적응제어계이다. 따라서, 여기서의 학습은, 제어시스템 학습이며, 감각입력을 어떻게 정리해서 운동 출력하면 좋은가를 대뇌가 소뇌에게 가르치고 있는 것이다.
바이오 컴퓨터도, 이와 같은 학습제어의 소프트웨어를 갖추고 있어야만 하는데, 소뇌의 Perceptron적인 구조는 그 때에 사용할 수 있는 하나의 설계원리가 되는 것이다.
인간은 외계의 정보를 묘하게 처리한다. 이를 위해서는 외계의 모델을 자기의 두뇌속에 만들어 넣어 두지 않으면 안된다. 외계로부터 신호를 수취하면, 자기 머리안의 모델을 이용해서 외계의 상황을 상정하여 그 안에서 여러가지 사물을 움직이며, 무엇을 하면 어떤 일이 일어나는지를 계산하고 있음이 분명하다.
그럼, 인간은 어떻게하여 외계의 모델을 자신의 머리 안에 만들어 두는 것일까? 뇌 안에서 이렇게 모델을 만들어라, 하고 학교에서 가르쳐 주는 것은 아니다. 외계에서 생활하여, 그 정보구조에 접하는 가운데, 특별한 교사신호등이 없어도, 외계의 세계상을 자신의 머리 속에서 정리하여 자동적으로 만들어간다. 인간은 정보처리를 하는 기구를 스스로 뇌안에서 만든다고 해도 좋다. 만일, 막대 패턴을 한 것이 아주 중요하다면, 이 막대를 봤을 때에, 그것을 재빨리 처리하는 기구를 뇌안에서 완성시킨다. 외계의 위험을 알리는 신호에 대해서는 그것을 보다 빨리 처리해야만 하기 때문에, 그것 전용의 빠른 기구를 만들어 두는 것이 유리하다.
이런 기능이 뇌의 자기조직이다. 자기조직의 원리를 탐색하는 것은, 새로운 컴퓨터를 만들 때에 중요한 설계 원리를 줄 것이다. 잘 만하면, 바이오 컴퓨터는 정보처리 기구를 일부는 자기조직에 의해서 완성하며, 또한 일부분이 파괴됐을 때는 자기조직에 의해서 완성하며, 또한 일부분이 파괴됐을 때는 자기조직에 의해 이것을 수리하거나, 한 부분이 다른 부분을 기능대상으로 보충할지도 모른다.
그런데, 뇌는 어떻게 해서 자기조직을 실행해 가는 것일까? 우선 개체가 발생한 후 성숙할 때까지의 사이에 뇌가 어떻게 만들어져 가는지를 보자.
뇌의 만드는 방법, 즉 뇌의 설계도는, 유전자 중에 유전정보로서 그려있는 것이다. 이 설계도대로 뇌를 제작하면 만사가 다 잘될 것인가? 이렇게 생각하는데는 약간 무리인 점이 있다. 인간의 유전자는 약 100 억 bit 의 정보량을 갖고 있다고 한다. 그러나 뇌는 뉴런의 수만도 100 억개를 넘고 있다. 100 억개의 뉴런의 상호결합을 전부 정하게 되면, 100 조배 bit 정도의 정보량이 필요해져 버린다. 따라서, 뇌의 상세한 배선도를 유전자에게 그려넣는 것은 아무래도 불가능하다.
그럼, 유전자는 뇌에 대해서 무엇을 지정하고 있는 것인가? 먼저 뇌의 대략적인 시스템 구성을 지정할 것이다. 여기에서 뇌의 만드는 방법을 적고 있음이 분명하다. 즉 발생초기에, 「이런 종류의 뉴런을 대개 몇 개정도 만드시오」라든가,「만든 뉴런을 대개 어느 부근의 장소에 두십시오」라든가,「각 뉴런에서 섬유를 내서 어느 부근에 연결하시오」등과 같은 것이 적혀있을 것이다. 이렇게해서 대뇌와 소뇌, 뇌간이 완성된다.
그러나, 한 개 한 개의 뉴런을 특정해서, 「이 뉴런은 저 뉴런에 연결하시오」와 같은 상세한 것까지는 적혀있지 않다. 그 대신에, 「대개 저 부근의 뉴런에 적당하니까 연결하시오」와 같은 것이 적혀있음에 분명하다. 실제 뇌의 형성과정을 보면, 뉴런은 어느 정도 무작위로, 결국 닥치는 대로, 상대의 뉴런을 발견하고 결합해 버리는 사실을 알았다.
이렇게 하면, 처음에 만든 것은 대략적인 시스템 구성은 맞지만, 세부에 이르면 아주 엉터리같은 연결방법으로 이루어진 뇌이다. 그 후에, 뇌는 불필요한 결합을 없애고, 필요한 결합을 늘려간다. 이것이 스스로 자신을 정확하게 만들어 가는 기능, 즉 자기 조직이다.
앞장에서 대뇌의 후두부 시각야에서는, 시야에 비친 다양한 각도의 막대를 인식하는 세포가 정연하게 나열해 있다는 것을 얘기했다. 이와 같은 규칙이 정확한 구조는, 유전자에 적혀 있는 것일까?
생리학자는 기묘한 실험을 고안하는 것을 좋아한다. 어떤 사람은, 막 태어난 고양이에게 스키안경같은 것을 씌우고, 안경에 세로막대를 그려서, 흰 방에서 사육했다. 이렇게 하자, 고양이는 어느쪽을 향해도 세로 막대밖에 보이지 않는다. 따라서, 이 세계는 세로 막대만으로 이루어져 있다고 느낄 것이다. 이런 고양이의 시각야에는, 가로막대에 느끼는 뉴런은 만들어지지 않고, 세로막대 또는 세로에 가까운 비스듬한 막대를 검출하는 뉴런만이 대량으로 만들어지는 것이 발견되었다.
이것은 놀랄 만한 발견이고, 뇌의 질서있고 정연한 구조가 유전자에서 선천적으로 정해지는 것인지, 후천적으로 학습에 의해 만들어지는가 하는 논쟁을 불러일으켰다. 여러 가지 조사한 결론으로서는, 대뇌의 상당한 시스템 구성은 유전자에 적혀져 있고, 막대의 검출세포도 어느 정도의 것은 유전자가 정하고 있다. 그러나, 이것은 상당히 모호한 구조이며, 생후의 시각체험에 의해서 이 구조를 수정하고, 정밀화하고, 고정해간다. 고양이의 경우에는, 생후 4 주간에서 6 주간의 체험이 아주 중요하다. 이 사이에 여러 가지 각도의 막대롤 보면, 그 각도의 막대에 대한 감도가 좋은 검출세포가 완성되며, 그것이 각도순으로 나란히, 그래서 정연한 구조를 고정할 수 있다. 그러나, 세로막대밖에 보지 못한다든가, 가로막대밖에 보지 못하는 환경에 두면, 이번에는 많은 세포가, 세로막대 (또는 가로막대) 에 맞춰서 자기조직으로 해 버리며, 세로막대 (가로막대) 를 보는데 편리한 뇌를 만들어 버린다.
이와 같은 자기조직의 예는 이밖에도 얼마든지 있다. 예를 들면, 물새의 인쇄현상이 유명하다. 아힐 등의 물새는 알에서 깨어나왔을 때에, 최초로 보는 것은 어미새라는 것이 통상이 되어 있다. 따라서, 태어나서 바로 보는 전형적인 것이 뇌에 새겨지며, 이것을 어미라고 생각하고 그 뒤를 쫓아 가도록 뇌의 구조가 정해져 버린다. 태어났을 때에 어미새가 아닌 빨간공을 옆에 두면, 이후 물새는 빨간공을 보면 뛰뚱뛰뚱 그 뒤를 따라가게 되며, 알이 깨졌을 때에 장난감 기차를 보게두면, 장난감 기차의 뒤를 따라간다.
이처럼, 뇌는 외계와의 상호작용에 의해서, 자기를 형성해 가는 능력이 있다. 이것을 조금 더 일반화해 보자.
무엇보다 세로막대, 가로막대에 한하지 않고, 외계에는 다수의 신호가 있다. 뉴런의 장과 같은 것이 뇌안에 있고, 이 신호를 받아 들여 처리한다고 하자. 어떤 신호를 보면 그것에 대응한 막연한 흥분 패턴이 뉴런의 장에서 만들어질 것이다. 외계의 신호를 몇 번이고 보는 동안에, 이 신호는 아주 잘 나타나며, 이것을 재빨리 정확하게 처리하는 것이 생존상 유리하다는 것을 알았을지도 모른다. 이때, 신경장안에, 이 신호를 대표하는 뉴런이 완성되며, 이 신호가 나타나면 그 뉴런이 흥분하지만, 이 뉴런은 다른 신호에 대해서는 흥분하지 않도록 되어 있다 (그림 6).
그림 6 외계에 대한 뇌내부 모델의 자기조직
이렇게 해서 외계에 신호가 다수 있으면, 그 각자에 대해서, 그것을 감지하고 흥분하는 세포가 뉴런의 장안에서 만들어질 것이다. 이런 구조의 단순한 것이 고양이의 세로막대, 가로막대의 검출세포를 형성하는 자기조직의 기구라고 생각할 수 있다.
수학적인 모델을 세우고, 자기조직기능을 갖는 뉴런의 장의 역학을 해석해보면, 이와 같은 것이 실제로 가능하다는 것을 알았다. 모델에서는, 뉴런간의 결합 무게가 학습에 의해서 변해간다고 한다. 또한 그 변화방법은 한 자극이 지나가면, 그 지나간 길은 점점 지나가기 쉬워진다고 하는, 심리학자 헤브가 말한 타입의 것으로 좋다. 그러나, 이것만으로는 길이 지나치게 만들어져 버리고, 잘 되지 않는다. 뉴런은 상호 서로 흥분한다는 활동과, 서로 억제한다는 활동의 두가지를 기본으로 하고 있기 때문에, 억제의 능력도 학습에 의해서 강해져야만 한다. 이런 학습의 기구와 동시에, 신경장 안에서의 뉴런간의 협조작용과 경합작용에 의한 다이나믹스가 중요하다. 이렇게하면, 외계 신호의 하나하나에 대해서, 그것을 뉴런장 내부에 표시하는 장치를 형성할 수 있다. 이것은 앞의 단어를 사용하면, 인식세포의 형성이라고 해도 좋다.
외계에는 신호가 단지 많이 있는 것만이 아니라, 신호에는 여러 가지 의미에서 구조가 있다. 한 신호와 또한 신호와는 관계가 깊게 닮아 있거나, 어떤 것과 다른 것은 정반대이거나 한다.
이 관계를 적어가면 아주 복잡한 네트워크가 가능할 것이다. 뇌안에 외계신호의 인식세포를 만들 때에, 이런 신호간의 복잡한 구조도 가능하다면, 그대로 보존하고 싶다. 결국, 서로 비슷한 신호의 인식세포는 뉴런장의 가까운 장소에 만들 수 있도록 하고 싶다, 라고는 해도 뇌의 신경장은 2 차원의 구조밖에 갖고 있지 않기 때문에, 너무나 복잡한 외계구조는 여기에서 묘사할 수도 없다. 그러나, 2 차원의 뉴런장을 사용해서 복잡한 구조를 묘사하기 좋은 방법이 실은 있는 것이다.
우선 뉴런장을 적당하게 세세하게 모자이크상으로 구분해 보자. 같은 모자이크의 블록 안에는 한 관점에서 하면 공통성을 갖고, 또한 조금씩 다른 신호의 표현세포를 나열한다. 이런 블록이 늘어서 있기 때문에 블록간의 원근으로 또 한가지의 관계를 나타낼 수가 있다. 이런 것을 반복하면, 상당히 복잡한 관계를 표현할 수 있다. 대뇌는 거의 동일한 구조의 신경장이지만, 장소를 몇겹으로 구분해서 기능을 국재화하며, 여러 가지 미세구조를 갖도록 하고 있다. 이것이 자기조직으로도 파괴되는 일없이 보존가능하다.
앞에서 말한 대뇌시각야의 특징 검출세포의 배치 (p74 그림 7) 를 보자. 뇌는, 이와 같이 망막상에 비친 물체의 위치에 따라서, 뉴런장을 모자이크 패턴으로 구분해서 표시한다.
또한, 각각의 위치를 표시하는 모자이크의 블록 중에서, 이번에는 검출하는 막대의 각도에 따라서 인식세포를 배열한다. 신호간의 연결방법을 수학의 언어로는 「신호의 토폴로지」라 부른다. 뉴런장은 외계신호의 토폴로지를 2 차원의 장 안에서 조각내서 표현하는 방법을 알고 있는 것이다.
이와 같은 자기조직 능력을 사용하면, 자기조직 능력이 있는 패턴인식장치를 만들 수가 있다. NHK 방송기연의 후꾸지마 박사는, 이와 같은 원리를 살려서, 다층의 패턴인식 장치 「코그니트론」을 만들었다. 이 장치는 특별한 교수가 교육하지 않아도, 입력신호로서 여러 가지 문자와 숫자를 주는 것만으로, 이것을 자동적으로 식별하는 기구를 내부에서 만들도록 되어 있다.
외계의 정보구조에 따라서 정보처리계를 스스로 만들어가는 자기조직 능력은, 컴퓨터로 말하면 소프트웨어를 자동적으로 만드는 능력이다. 이런 능력은, 병렬기계인 바이오 컴퓨터에게 아주 바람직한 것이라고 할 수 있다.
인간의 기억은, 앞에서도 말한 것처럼 아주 불가사의하다. 기억의 비밀이 알려지면, 뇌의 소프트웨어의 비밀을 알 수 있다고 해도 좋다.
기억은 단기기억과 장기기억으로 나누어지며, 장기기억은, 운동기억과 선언적기억으로 나눌 수 있음을 앞에서 말했다. 운동성 기억은, 소뇌 Perceptron 부분에서 말한 것처럼, 적응제어계 안에 보존되어 있다고 생각해도 좋다. 선언적 기억은 사실에 관한 기억과 에피소드 기억으로 나누어진 것이다. 우선 사실의 기억에 대해 생각해 보자.
우리들은 여러 가지 개념을 암기해야만 한다. 그 뿐만 아니라, 개념적 복잡한 관계를 암기해 간다. 그뿐만 아니라, 개념적 복잡한 관계를 암기해 간다. 예를 들면 A 와 B 와는 아주 비슷하다든가, A 의 일부분이 B 라든가, A 와 B 가 합치면 C 가 된다든가, 그런 여러 가지 관계를 합쳐서 외워야만 한다.
이와 같이, 많은 사항과 개념과 그 관계를 축적하려면, 기억은 대체 어떤 구조로 되어 있으면 좋을까. 직감적으로 말할 수 있는 것은, 기억은 연상방식으로 되어 있고, 한 항목에서 그것에 관련된 다른 항목이 다음에서 다음으로 연달아 이어지는 식으로 불러내면 편리할 것이다. 그리고 내용번지방식을 취해도 좋다. 즉, 기억장소에 번지를 달고, 번지순으로 사항을 축적해두며, 불려낼 때는 번지를 지정해서 그곳에 있는 기억사항을 끌어 내는 것 같은 방식은 아니며, 한 내용을 말하면, 그 내용에서 어디에 기억이 있는가 혼자서 알고 있고, 나머지는 연상으로 연달아 나오는 식으로 내용이 나온다는 방식이다.
먼저 컴퓨터의 기억에 대해서 생각해 보자. 컴퓨터에서는 기억장소 (메모리) 에 1 번, 2 번, 3 번 순으로 번지를 붙인다. 각 번지에 여러 가지 기억사항을 0, 1 의 계열을 사용해서 써 넣는다. 컴퓨터에서 기억을 불러내려면, 통상은 번지를 지정한다. 3085 번지의 정보와 6024 번지의 정보를 불러내고 이것을 서로 더한 답을 1053 번지에 저장하시오 라든가, 3050 번지의 정보와 2065 번지의 정보를 불러내서 이것이 같으면 다음에 5030 번지에 적혀있는 명령을 실행하시오 라든가, 번지를 사용해서 기억을 관리하는 것이다.
물론, 컴퓨터에서도 연상은 가능하다. 어떤 사항에서 연상에 의해 다른 사항을 불러냈다고 하자. 이 경우, 한 사항의 메모리 내용의 말미에 관계있는 사항으로서 몇 번지와 몇 번지를 참조하자 라는 정보를 써넣어 두는 것이다. 이렇게 하면, 어떤 사항을 불러내고 또한 관련있는 사항을 보았다면, 그 말미에 적혀있는 참조번지를 읽고, 그 번지에 적혀있는 정보를 뽑아내면 된다.
그러나, 이와 같은 방식은 인간의 연상과는 현저하게 다른 것이다. 우리들이 연상하는 경우에는, 어떤 사항에서 실로 각종 연상이 잇달아 나오는 식으로, 때로 비약하면서 일어난다. 컴퓨터 안에서, 번지를 차례대로 참조한다는 방법으로 방대한 양의 연상을 써넣어 두고자 하면, 메모리의 내용이 번지만이 되어서 펑크가 나 버리는 것이다.
게다가 계속 이어서 참조해 가는 항목이 늘어가면, 어디부터 먼저 참조해야 좋을지 알 수 없게 되 버린다.
컴퓨터는 번지방식의 기억이라고 했다. 그러나, 이것을 내용번지 방식으로 교체하고, 내용부터 어디에 저장해 있는가를 찾는 것도 불가능하지는 않다. 예를 들면, 지금 컴퓨터안에 사람 이름을 써넣었다고 하자. 아사이, 이시이, 다나까, 스즈끼, 이와 같은 인명을 컴퓨터안에 저장하고, 또한 각자의 인명뒤에 그 사람에 관한 다양한 기록을 써 넣도록 하자. 이런 기록을 컴퓨터안에 저장하려면, 인명을 알파벳 순으로 아니면, 아이 우에오 순으로 나열하는 방법이 있다. 이렇게 하면, 아사이가 가장 처음 번지에 오고, 다음이 이시이라는 순서가 된다.
이렇게 해서 다수의 인명을 축적한 후에, 사또오의 항을 불러내고 싶다고 하자. 사전을 찾는 것처럼, 알파벳 순으로 차례대로 메모리 항목을 조회해 하면, 언젠가는 사또오를 발견한다. 그러나, 이와 같은 방식으로, 아사이는 메모리의 처음 부분에 있기 때문에 상관없지만, 사또오까지 가려면 상당히 많은 쓸데없는 탐색을 하게 된다. 이것을 피한 것이 핫싱이라는 방법이다.
이것은 무엇인가 하면, 아사이라든가 이시이라든가 하는 인명을 우선 적당한 수치로 고친다. 이어서 그 수를 제곱하거나, 무언가로 나누거나 해서 계산을 행한다. 이렇게 해서 나온 수를 그 항목의 번지로 간주하고, 여기에 그 항목을 저장한다. 역으로 아사이를 빼내려면, 이것을 수치로 고쳐서 같은 계산을 하면, 아사이의 항목을 써넣은 번지가 나오는 것이다. 결국, 내용부터 계산에 의해서 그것을 저장할 만한 번지를 정한다는 방식이다.
그러나, 이 방식으로는, 두 개의 다른 인명에서 번지를 계산할 때에, 우연히 같은 번지가 계산의 답으로 나와 버리는 일도 일어난다. 이것을 충돌이라고 부르는데, 이런 충돌을 피하고 그리고 인명을 능숙하게 나열하는데 상당한 연구가 필요하다.
이렇게 해서 컴퓨터로도, 내용번지 방식, 연상방식의 기억은 불가능하지 않다. 그러나, 이것은 상당히 경직된 것이며, 가장 키가 큰 사람은 누구일까, 이전에 만난 저 인상이 좋은 사람은 누군가 등을 생각하고 그리고서 인명을 불러내는 것은 불가능하다. 인간의 경우 내용번지 방식은 어디부터라도 연상방식에 의해 자유롭게 불러내는 점에 특징이 있다.
그렇다면 신경회로망을 이용하여, 어떤 구조로 연상방식, 내용번지 방식을 만들 수 있는지, 그 원리를 생각해 보자.
뇌에서는 기억사항이 하나 하나의 뉴런에 할당되어 축적되는 것은 아니다. 한 가지 사항은 한 뉴런회로망의 전체에 흩어져서 축적된다. 이것을 분포기억방식, 또는 분산기억방식이라고 부른다. 더욱 정확하게 말하면, 뉴런간의 결합의 강약 패턴으로서 축적된다고 해도 좋다. 물론, 한가지 사항을 외우려면, 하나의 회로망을 사용해서 버린다면 효율이 나쁘다. 효율을 좋게 하려면, 하나의 회로망안에 많은 사항을 중첩시켜서, 다중으로 기억하면 좋다. 실은 그렇게 함으로써, 한가지 사항에서 다른 사항으로의 연상과 전환, 또한 추상화 일반화 등이 용이해지는 것은 아닐까하고 생각되어 진다. 이를 위해서는, 기억사항의 하나 하나를 뉴런회로망의 흥분 패턴으로서 표현해 두지 않으면 안된다. 그리고 흥분패턴의 모습을 회로망 결합중에 구조적으로 새겨넣고, 이 내용을 상기할 때는, 다시 회로망의 흥분 패턴으로서 나오도록 하면 좋다.
간단한 예로 설명하자. 지금 「바나나」「사과」「귤」이 세가지 과일을 한꺼번에 기억하고 싶다고 한다.「바나나」에는 여러 가지 속성이 있다. 「길고 가늘다」,「노란색이다」,「부드럽다」,「달다」,「크다」, 이와 같은 특징이 부수해 있을 것이다. 게다가 「바나나」라는 말도 부수하고 있다고 생각하면 좋다. 또, 「사과」라는 사항에는,「둥글다」,「붉다」,「딱딱하다」,「시고 달다」,「크다」, 그리고「사과」라는 단어가 부수해 있다. 「귤」에 대해서는, 「둥글다」,「오렌지색」,「부드럽다」,「달다」,「작다」, 그리고 「귤」이라는 단어가 부수해 있을 것이다.
이와 같은 복합 개념인 세가지 과일을 하나의 회로망 안에서 한꺼번에 외워서 보관하고 싶은 것이다. 「바나나」라는 사항을 상기할 때는, 뉴런회로망 안에서, 「가늘고 길다」를 표시하는 개념과 「노란색이다」를 표시하는 개념과, 「부드럽다」,「달다」,「크다」등의 개념을 표시하는 패턴이 일제히 흥분해서 하나의 활동상태를 보이면 된다. 이에 대해서 「사과」일 때는, 「가늘고 깊다」대신에 「둥글다」라는 흥분 패턴이 나타나는 것이며, 「황색」이 아니라 「붉다」라는 흥분 패턴이 나타나는 것이다.
지금 간단하게, 「가늘고 길다」는 것을 봤을 때에 흥분하는 인식세포와, 「둥근」것을 봤을 때에 흥분하는 인식세포가 있다고 하자. 어느쪽 세포가 흥분하는가로 가늘고 긴지 둥근지를 알 수 있다. 또 색을 나타내는 부분에서는, 「황색」,「적색」,「오렌지색」의 세가지 인식 세포 집단이 있다고 하자. 이런 인식 세포는, 우리들이 바나나와 사과 등을 보는 동안에, 자기조직에 의해서 자동적으로 형성된다고 생각해도 좋다. 보다 정확하게 말하면, 「황색」과 「적색」도 인식세포는 아니며, 하나의 뉴런회로망의 흥분 패턴으로 표시되고 있다고 보는 편이 좋지만, 여기서는 얘기를 단순화해서, 부분개념에 대해서는 그것을 나타내는 인식세포가 있다고 생각해 버리자.
그런데, 「바나나」를 보면, 「가늘고 길다」,「노란색이다」,「부드럽다」등의 인식세포 집단이 흥분을 시작한다. 「가늘고 길다」라는 인식세포와, 「노란색이다」라는 인식세포가 동시에 흥분하며, 이 양자를 잇는 뉴런간의 결합이 점점 강해진다고 하자. 「노란색이다」와 「부드럽다」사이의 결합도 강해지며, 「가늘고 길다」와 「부드럽다」간의 결합도 강해진다. 즉, 동시에 흥분하는 뉴런간의 결합은 강해지며, 동시에 흥분하지 않는 뉴런간의 결합은 약해진다는 것이다.
이렇게 해서 결합을 강화시킨 후에, 「가늘고 길다」를 나타내는 뉴런을 흥분시키는 입력이 왔다고 하자. 「가늘고 길다」가 흥분하면, 여기에 연결되어 결합이 강화된 「노란색이다」,「부드럽다」,「달다」,「크다」그리고 「바나나」라는 단어를 나타내는 뉴런군이 일제히 흥분을 시작할 것이다. 즉, 「가늘고 길다」라는 키워드만으로 「바나나」전체상이 떠오르게 된다. 물론, 「달다」를 흥분시켜도, 여기에서 다른 것 전부를 떠올려서, 흥분시킬 수가 있다 (그림 7).
그림 7 연상기억 모델
다음에 「사과」의 패턴을 이 뉴런회로망에 넣고 기억해보자. 이렇게 하면, 「둥글다」,「붉다」,「딱딱하다」,「시고달다」,「크다」간의 결합이 각각 강해진다. 또 그 다음에 「귤」을 이 회로안에 기억하고자 하면, 「둥글다」,「오렌지색」,「부드럽다」등이 서로 이어지게 된다.
이렇게 해서 많은 사항을 하나의 뉴런회로망의 결합안에 한꺼번에 넣어 버리면, 연상은 앞서와 같이 잘 되지 않는다. 예를 들면, 「크다」라는 부분을 흥분시켜보자. 「바나나」하나만 외우고 있다면, 「크다」를 흥분시키면, 여기에서 「가늘고 길다」,「노란색이다」,「부드럽다」,「달다」그리고 「바나나」라는 단어까지, 바나나의 전체상이 떠오르지만, 이번에는 「크다」에서 「바나나」를 생각해야 좋을지, 「사과」를 생각해야 좋을지, 혼란이 생기게 된다.
따라서, 이런 혼란을 피하고, 「크다」에서 「바나나」도 연상할 수도 있으며, 「사과」도 연상할 수 있는, 그러나, 이 두가지가 서로 섞여서 너저분하게 되지 않는 장치를 뉴런회로망 안에 만들어 두어야만 한다. 여기서는 상호 억제를 걸고 한가지 개념과 다른 개념이 섞이지 않도록 하는 장치가 중요해 진다.
하나의 뉴런회로망에 다수 패턴을 한꺼번에 저장하고, 그리고도 서로 혼란하는 일 없이 부분에서 각 패턴의 전체상을 상기하는 일이 정말로 가능할 것일까. 뉴런ㆍ모델의 연구자들은 어떻게 하면 이와 같은 혼란을 해소할 수 있는지, 그 수학적인 원리를 찾아서 여러 가지로 연구하여 한 조건하에서 연상기억을 잘 실현할 수 있음을 보여주고 있다. 여기서도 흥분과 억제에 의한 협조와 경합 작용이 중요해 진다.
그런데, 잘 혼란이 일어나지 않도록 만들려면, 여러 가지 재미있는 일이 생긴다. 예를 들면, 「둥글다」만으로는 「사과」인지 「귤」인지, 서로 섞이지 않고서 상기할 수 있는데, 처음에 「사과」를, 한참 후에 「귤」을 생각해 낼 수 있는데, 처음에 「사과」를 한참 후에 「귤」을 생각해 낼 수도 있다. 또, 「둥글다」와 「크다」를 넣으면 이번에는 틀림없이 「사과」의 전체상이 나온다.
또, 「둥글다」,「붉다」,「부드럽다」,「크다」라는 4 가지 부분을 흥분시켜 보자. 실은 그와 같은 것은 없지만, 뉴런회로망의 상호작용으로, 「부드럽다」라는 부분이 이상한 것이 되며, 이것을 「딱딱하다」로 자동적으로 정정하여 정확한 「사과」의 전체상이 떠오르게 된다. 이와 같이 불확실한 패턴, 잘못된 패턴에서 정확한 패턴을 상기할 수 있으며, 또 두가지 패턴에 공통 부분을 순서대로 전달하면서, 계속 이어서 관련된 새로운 패턴을 상기할 수도 있다.
연상기억의 구조는, 여러 가지 특징항목의 연합 뿐 아니라, 시간적인 패턴에도 확장할 수가 있다. 뉴런회로는 시간적으로 변화하는 패턴도, 신경회로망의 결합 구조에 짜 넣어서 공간적으로 정착하고 있는 것이 분명하다. 그리고, 여기에서 말한 장치를 조금 확장하며, 하나의 사항에서 다음 사항, 또 다음 사항이라는 식으로 패턴을 시간계열로서 순번대로 상기하는 것 같은 회로망을 만들 수도 있다.
이 경우에 재미있는 사실은, 이런 회로망에서는 시간의 순번으로 계속 이어서 생각해 낼 수는 있어도, 시간을 역방향으로 거슬러 올라가는 것은 아주 어려운 것이다. 현재, 우리들이 음악과 시 등을 생각해 낼 때도, 처음부터 순서대로 생각해 낼 수는 있지만, 반대로 향하는 것은 좀처럼 나오지 않는다. 이런 의미에서도, 뉴런회로에 의한 연상기억방식은, 인간에게 꽤 가까운 것이라고 말할 수 있는 것은 아닐까?
최근, 인지과학과 컴퓨터 과학의 입장에서, 이와 같은 연상기억의 회로 구성에 흥미를 갖는 사람들이 늘고 있다. 기억과 병렬정보처리의 새로운 방식을 여기에서 구하려고 하는 것이다. 또 물리학자도 이 분야에 커다란 관심을 보이고 있다. 유전자의 이중나선 발견으로 이름이 높은 클릭크는, 최근에는 신경계의 이론적 연구에 열을 올리고 있다. 클릭크는 최근, 꿈의 신해석을 발표했다. 기억을 다중으로 중첩함으로써 생기는 혼란과 망상을 정리하여, 소실시키는 것이 꿈의 역할이라는 것이다. 우리들은 꿈에서 깼을 때, 보통 꿈의 내용은 외우고 있지 않는다. 이것은 꿈이 중요한 기억내용을 고정하기 위해 있는 것이 아니라, 유해한 상호작용을 소거하기 위해 있는 것이므로, 꿈으로 인해 정리되고 삭제된 내용을 외우고 있지 않는 것은 당연한 것이 된다. 병렬처리와 분산 연상기억은, 지금 생리학자, 컴퓨터학자, 인지과학자들이 매우 주목하고 있는 영역이다.
그런데, 연상기억방식의 장점과 단점을 다시한번 정리해 보자. 장점으로는, 이와 같은 다중 분포계에서는, 사고계와의 연합이 아주 쉬워지고, 사고의 장과 기억의 장이 일체가 되어 동작할 수 있다는 점을 들 수 있다. 한편, 단점으로는 부정확함을 들 수 있다. 컴퓨터의 기억은 정확하다. 그러나 신경회로망의 연상기억은, 어느 부분과 어느 부분이 연합해서 무엇을 읽어낼 것인지 반드시 정확하게 정해져 있다고는 할 수 없다. 두가지 패턴이 경합하고 있을 때에는, 상호작용에 의해 어느쪽을 읽어내지만, 그 때 상호작용 여하에 따라서는 정확하지 않은 패턴이 나타나는 일이 있다. 우리들은 정확하게 읽을 수 있는 한자라도, 그것을 쓸 수 없는 것이 많이 있다. 알고 있을 뿐, 한자를 쓸 수 없다는 것은, 연상에 의해 세부까지 정확하게 패턴을 상기할 수 없다는 것을 의미하고 있을 것이다.
기억에 관해서는 아직 연구해야 할 것이 많다. 예를 들면 에피소드 기억은 어떻게 되어 있을까? 이것은 과거의 경험을 시공간적인 패턴으로서 정착한 것이다. 뇌 안에서 시공간적인 구조, 공간적인 구조를 어떻게 정착시키는 것일까? 생각해야 할 사항은 아직 아주 많다. 또한, 단기기억을 장기 기억에 정리해서 저장하는 구조, 사고계와의 연관 등이 이후 큰 문제로 남겨져 있다.