Determinism

일상적으로 쓰이는 카오스라는 단어는 긍정적인 의미를 갖는 말은 아니다. 무언가 알 수 없는 상태, 즉 혼란스럽고 복잡한 상태를 나타내는 말이다. 학문은 '의미의 체계'이므로 전혀 무의미한 혼돈 상태에서는 아무것도 얻어낼 것이 없다. 그러나 왜 이런 혼돈(카오스)이 일어나는가 하는 측면에서는 얼마든지 연구의 가치가 있다.

이전의 과학은 고립적인 대상의 움직임 그것에 대해서 주목했다. 그러나 카오스 이론은 홀로 존재하는 입자의 운동이나 변화에 주목하는 것이 아니라, 시스템(system : 조직, 구조)의 구성 요소들의 상호관계나 또는 집단이 변해가는 '과정'에 주목한다. 특히 관심을 끄는 것은 결정론적인 방정식의 해에서 나타나는 불규칙성인, 이른바 '결정론적 카오스'이다.

결정론적인 시스템은 아주 간단한 경우인데도 그 안에서 카오스가 일어날 수 있다. 도대체 간단한 시스템 속에서 어떻게 카오스가 일어나는지 궁금하다. 우선 시스템의 구성요소와 이것들 사이의 관계를 도식화해서 나타내면 다음과 같이 분류된다.

시스템이란 무엇인가? 시스템은 여러 개의 구성요소가 서로 어떤 관계를 가지면서 형성된 조직이며, 우리 말로는 계, 체계, 조직 등으로 번역된다. 시스템의 어원은 그리스어로 다음과 같은 복합어이다.

SYSTEM = SY(with) + STEM(to place : 함께 두다)

즉, 요소들을 함께 둠으로써 어떤 상호관계가 생겨서 하나의 단위가 이루어진다는 것이다. 이 생각은 전체는 부분에 의존하며, 부분은 전체 속에 존재한다는 고대 그리스의 인식론까지 거슬러 올라간다. 아리스토텔레스는 전체는 부분을 모아놓은 것 이상의 존재라고 말하고 있다. 부분을 단순하게 모아 놓은 것은 전부이지만, 전체는 부분을 단순히 모을 뿐만 아니라 조직해서 부분에 없는 무언가 새로운 기능을 만들어 내는 것이다. 예를 들면, 건축 자재인 벽돌이나 기둥 및 기와나 창문을 그저 모아둔 것과, 이것들을 적절하게 결합해서 집을 만드는 것은 전혀 다르다. 단순히 모아둔 것은 쓰레기 더미와 마찬가지로 아무것도 할 수 없다. 하지만 집은 하나의 거주 시스템으로서의 역할을 한다. 집은 부분을 모아놓은 것 이상의 새로운 특성의 창출인 것이다.

과학적 방법론으로서 시스템 개념을 다시 부활시킨 사람은 유기체론 (생체론) 을 주장한 베르탈란피 (L. von Bertalanffy, 1901~1972) 이다. 그는 오스트리아 출신의 생물학자로, 개체 발생에 관한 기계론과 생기론 (vitalism) 의 대립은 복잡한 시스템을 갖고 있는 유기체가 높은 조절기능을 갖는다고 생각함으로써 문제를 해결하였다. 유기체는 정상상태에 있는 개방계로서, 전체적ㆍ동적ㆍ능동적인 특성을 갖는다는 것이다.

수학에서는 역학계를 크게 두 가지로 구분한다. 역학계의 상태 변화를 결정론적인 법칙이 지배하는 역학계와, 확률적으로 역학계의 상태 변화가 결정되는 확률론적-즉, 비결정론적-인 역학계이다. 결정론적인 역학계는 매우 간단한 방정식으로 표현되는 법칙에 지배되어 있으므로 초기 상태만 안다면, 미래의 상태에 대해서 아주 정확히 말할 수 있다. 지구와 태양, 달과 지구의 관계 등이 그 좋은 보기이다. 간단한 결정론적 역학계에도 카오스적인 측면이 나타난다. 결정론적인 역학계가 보여주는 카오스의 한 예이다.

'시에르핀스키의 개스킷'은 삼각형을 차례로 분할해서 만든 단순한 fractal 이다. 이 선형의 자기닮음 도형 외에 '브라운 운동'과 같은 확률적인 과정을 거쳐서 만들어지는 fractal 이 있다. 그러나, 이보다 중요한 것은 카오스적 비선형인 fractal 이다. 이 카오스적인 fractal 은 컴퓨터 그래픽스를 이용하여 나타낼 수가 있다. 가령, 산맥의 fractal 모델을 바탕으로 지구의 기복을 나타내는 이론을 세우는 것 등은 복잡한 자연의 형태를 나타내는데 있어서 fractal 의 개념이 얼마나 효과적인지를 단적으로 말해 준다. 이 한 가지 사실만으로도 fractal 이 복잡한 역학계의 구조를 밝히는데 있어서 얼마나 중요한 구실을 하는지를 충분히 짐작할 수 있을 것이다.

초기값의 미묘한 차이가 역학계 내에서 증폭되어 커다란 차이로 발전한다는 현상은 결정론을 신봉하는 사람들에게는 도저히 믿어지지 않는다. 즉, 초기조건의 작은 차이는 결정론적인 역학계에서는 그다지 문제될 것이 없다고 생각했었다. 오늘 담배를 한 대 더 피웠기 때문에 10년 후에 폐암에 걸린다고 생각하는 애연가는 없을 것이다. 결정론자들의 믿음은 이런 것이었다. 그러나, 그 결정론적인 역학계에서 카오스가 발견된 것이다. 이 점은 결정론을 신봉하는 과학자들에게는 커다란 충격이었다. 한 대의 담배가 아니라, 경우에 따라서는 한 모금의 담배로도 폐암에 걸릴지 모른다.

결정론의 틀 속에서도 초기조건의 사소한 차이가 엄청난 결과를 초래할 수 있다. 그러므로 무한 번의 정밀관측을 하지 않는다면, 결정론적 사안이라 하더라도 확률론을 도입하지 않을 수 없는 것이다. 변증법의 논리인 정ㆍ반ㆍ합- 즉, 전제(명제)ㆍ반대(명제)ㆍ종합-과도 같이 결정론 또는 확률론의 양자 택일적인 대립도 '카오스'로 지양(통합)되는 셈이다. 결정론 대 확률론의 대립구도는 컴퓨터의 창시자 노이만과 그리고 cybernetics 의 창시자 위너의 입장 대결에서도 볼 수 있다. John von Neumann 은 실수가 없는 완전한 사고기계를 생각했었고,  Norbert Wiener 는 오히려 잡음과의 공존을 생각하고 있었다. 완벽하게 프로그램화된 시스템에서 「잡음」(카오스)이 생긴다는 사실은 이 두 사람의 입장을 새로운 차원의 세계로 지양하게 하는 결과가 된 것이다.