고대인은 우주를 혼돈으로 보았습니다.
카오스(chaos)라는 말은 원래 우주를 지칭하는 말이었지요.
이런 인식이 바뀌기 시작한 것은 중세시대 부터입니다.

중세에 들어서면서 인간은 우주로부터 여러 가지 규칙성을 발견하기 시작하였지요.
대표적인 예가 행성의 운동입니다.
이 규칙성에 기초하여 근대에는 세계가 혼돈이 아니라 질서라는 새로운 사고가 나타나기 시작했습니다.

그렇다면 질서란 도대체 무엇을 의미하는 것일까요?
질서가 있다는 것은 곧 예측을 할 수 있다는 뜻입니다.
따라서 세계를 질서로 생각한다는 것은 겉보기에 매우 다양하게 보이는 자연현상들이 어떤 규칙에 따라 일어난다고 믿는 것을 의미합니다.
그런 규칙에 의해서 우리가 자연현상을 예측할 수 있게 되는 것이죠.

우주를 예측할 수 있다는 입장에서 출발한 학문이 바로 자연과학입니다.
자연과학이란 결국 자연의 근본적인 이치를 탐구하는 학문인데, 그것의 목표는 아주 다양한 자연현상을 설명하고 예측하는 것이지요.
그래서 혼돈 얘기를 하려면 먼저 물리학 이야기부터 해야할 것 같습니다.
자연과학의 전형은 물리학이라고 할 수 있으니까요.

물리학은 자연현상을 비교적 간단한 하나의 모형으로 설정하여 설명하는 학문입니다.
그것을 보통 모형계라고 부르지요. 이 모형계를 다루는 물리학의 방법을 보통 역학이라고 합니다.
이런 의미에서 역학은 물리학의 방법론을 의미합니다.

역학에는 몇 가지 종류가 있습니다.
그 중 하나는 동역학(dynamics)입니다.
동역학도 다시 몇 가지 종류로 나뉘어 집니다.
가장 많이 알려져 있는 것은 소위 고전역학(classical mechanics)이라고 부르는 방법이죠.
20세기에 들어와서 알려진 양자역학(quantum mechanics)이라는 방법도 있습니다.

고전역학은 다시 두 가지로 나눌 수가 있는데 그 중 하나는 뉴턴(Newton)이 만들어낸 뉴턴역학입니다.
뉴턴역학은 질량 m인 물체가 힘 F를 받을 때 얻게 되는 가속도 a가 만족하는 운동방정식 F = ma 라는 식에 의해 표현됩니다.
한편 20세기에 들어와 상대론이 생겨났습니다.
이것은 아인슈타인(Einstein)이 많이 공헌해서 찾아낸 새로운 역학입니다.
이 둘을 합쳐서 고전역학이라고 부릅니다. 반면 양자역학은 이와 상당히 다른 새로운 방법입니다.

그런데 고전역학이든 양자역학이든 중요한 것은 이 동역학이 기본적으로 결정론적이라고 하는 점입니다.
그러니까 어떤 대상이 있을 때 이 대상의 초기조건이 정해지면, 즉 처음에 이 대상이 어떤 상태에 있었다는 것을 우리가 안다면, 일정한 시간이 흘렀을 때 어떤 상태로 변하리라는 것을 정확하게 예측할 수 있다는 것입니다.
결정론이란 이처럼 초기조건이 하나로 결정되면 나중의 상태도 정확하게 한가지로 결정된다는 논리이죠.
동역학은 모두 이런 결정론적인 성격을 가지고 있습니다. 모든 자연현상이 이러한 동역학에 의해 기술된다면 우주의 미래도 결정되어 있을 터인데, 오래 전 라플라스(Laplace)가 이미 이를 명시적으로 표명한 바 있지요.
그는 우주의 초기조건만 알려주면 우주의 미래를 완전히 다 예측해 보이겠다고 자신 만만하게 선언했습니다.
그런 자신감은 바로 결정론에 대한 믿음에서 얻어진 것입니다.

2. 실제 세계와 혼돈 현상

그러나 실제 세계에는 얼른 보기에 결정론적으로 움직이는 것 같지 않은 현상이 많이 있습니다.
물론 질서 있는 현상도 적지 않지만 혼돈스러워 보일 때도 많이 있다는 것입니다.

도박을 예로 들어봅시다.
도박의 재미는 예측 불가능성에 있습니다. 만일 도박의 다음 패가 처음부터 질서 있게 하나하나 결정되어 있다고 한다면 과연 누가 도박을 하겠습니까?
또 담배를 피우는 학생들은 담배연기가 아주 무질서하고 혼돈스럽게 움직이는 모양을 보았을 것입니다.

사실 그런 예는 굉장히 많습니다.
물을 데울 때 그릇의 바닥을 아주 뜨겁게 가열하면 물이 펄펄 끓는 현상이 생기는데 그것이 생기는 모양이라든지, 운동장 모양의 당구대에서 당구공이 움직이는 모양 등이 다 그런 예이지요.
다시 말해서 당구대가 직사각형으로 되어 있으니까 당구를 칠 수 있는 것이지 당구대를 운동장 모양으로 만들어 놓는다면 아무리 고수라도 당구공을 자기 마음대로 움직일 수 없다는 것입니다.
이런 예들을 보노라면 실제 세계가 결코 질서 있게만 구성되어 있지 않다는 점을 쉽게 알 수 있습니다.

그런데 여기서 문제를 더욱 복잡하게 만드는 것이 있습니다.
질서와 혼돈이 언뜻 보면 서로 반대 개념같이 보이지만 꼭 그렇지도 않다는 점이지요.
우리가 흔히 혼돈이라고 부르는 것도 자체로는 질서를 갖고 있는 경우가 보통이기 때문입니다.
그러니까 혼돈이란 완전한 마구잡이(random)가 아니라 사실은 이 안에도 놀랄만한 규칙성이 있다는 것입니다.
그 뿐만이 아닙니다. 조금 전에 물리학의 방법론은 전부 결정론이라고 했죠?
다시 한 번 말하자면 결정론은 질서를 의미하는 것입니다. 하지만 놀랍게도 이런 결정론으로부터 실제 얻어지는 결과를 보면 일반적으로 질서가 나오는 것이 아니라 혼돈이 나오게 됩니다.
다시 말해서 물리학에서 결정론이라는 것이 현실적으로는 혼돈을 준다는 말입니다.

자세한 의미는 앞으로 설명하겠지만 스스로 모순된 듯한 이런 사실은 최근에야 비로소 알려진 것입니다.
우리가 물리학의 방법론이 급격하게 변혁된 것을 혁명이라고 부른다면 물리학사에서 제일 중요했던 혁명은 "결정론"적인 뉴턴역학의 발견입니다.
그 다음 제 2의 혁명이라고 부를 수 있는 것은 20세기에 들어와서 발견된 (역시 결정론적인) 상대성 이론과 양자역학입니다.
여기에 더해서 혼돈 현상의 발견이 제 3의 혁명이라고 주장하는 사람들이 많이 있습니다.
그래서 이것이 새로운 패러다임(paradigm)이라고 생각하기도 합니다.
특히 이 패러다임은 단순히 물리학에만 적용되는 것이 아니라 화학이라든가 생물, 수학, 천문학, 공학 같은 이공계는 물론이거니와 경제학, 지리학, 사회과학 심지어 예술 같은 데에도 큰 영향을 줄 것이라고 생각을 하는 사람들이 많이 있습니다.

3. 결정론적 혼돈

앞에서 말했듯이 고전역학을 한마디로 표현하면 F = ma, 즉 힘은 질량 곱하기 가속도라는 식으로 표현됩니다.
이로부터 어떤 물체에 작용하는 힘이 주어지면 F = ma 의 운동방정식을 풀어서 가속도를 구할 수 있고, 가속도를 구하면 그로부터 속도나 위치를 구할 수 있습니다.
여기서 속도 v는 위치 r을 시간 t에 대해 미분하여 얻어지는 도함수, v = dr/dt 로 정의되고 가속도 a는 속도를 다시 시간에 대해 미분한 도함수, 곧 위치를 시간에 대해 두 번 미분한 이차 도함수, a = dv/dt = d²r/dt² 로 정의됩니다.
따라서 운동방정식은 F = m(d²r/dt²) 가 되어서 수학적으로 보면 미분방정식(differential equation)의 형태로 주어지죠.
여기서 혼돈 현상을 수치적으로 기술할 때에는 시간을 연속적이 아니라 띄엄띄엄하게 생각하는 것이 편리합니다.
이 경우에 예를 들어 위치의 변화는 도함수 dr/dt 대신에 시각 t와 t+1에서의 위치의 차이 r_t+1-r_t 로 나타내게 되고, 따라서 미분방정식 대신에 뺌방정식(difference equation)의 형태가 얻어집니다.

간단한 모형을 하나 들어봅시다.
밖과 완전히 고립된 섬이 좋겠군요. 이 섬에 벌레들이 많이 살고 있겠죠. 여름이 지나고 가을이 되면 벌레들은 알을 낳은 후 다 죽고, 다음해 봄에 알이 깨서 다시 벌레들이 생깁니다.
이 섬에서 해마다 벌레들의 수를 센다고 가정해 봅시다.
첫 해에 벌레가 X₀ 마리만큼 있었다고 하면 이듬해에 벌레가 X₁ 마리 생기고, 그 다음 해에 X₂ 마리가 있고, 이렇게 매년 벌레의 수가 변해 나가겠죠.
이 변화가 어떤 법칙을 따른다고 생각해 봅시다.
그렇다면 N+1 년 후 벌레의 수는 그 전 해의 벌레들이 알을 얼마나 깠느냐에 관계할 테니까 대개 X_N 에 비례한다고 할 수 있습니다.
다시 말해 해마다 각 벌레가 알을 c 개 낳는다면 이듬해의 벌레 수는 전 해의 벌레 수에 c를 곱한 만큼 된다는 것이죠.
그런데 이것을 풀면 N 번째 해의 벌레의 수 X_N 은 첫 해의 벌레의 수에다가 c의 N 제곱을 곱한 것으로 됩니다.
곧 X_N = c^N X₀ 가 되어서 c가 1보다 크다면 벌레의 수는 무한대로 늘어나게 되죠.
이것이 바로 사회과학에서 말하는 맬더스(Malthus)의 법칙입니다.
맬더스는 인구가 이런 식으로 증가하게 될까봐 걱정을 한 것입니다.

그렇다면 실제 세계에서는 어떤 일이 벌어질까요?
실제 세계에서는 이런 결과가 생기지 않습니다. 먹이가 한정되어 있는 상태에서 수가 너무 많아지면 벌레가 더이상 살 수 없게 되기 때문입니다.
뿐만 아니라 먹이가 충분히 있다 하더라도 벌레들이 너무 많이 살게 되면 서로 싸우게 되어 다시 그 수가 줄어들게 됩니다. 결코 벌레가 너무 많아지는 일은 생기지 않는다는 것이죠.
벌레에게나 인간에게나 그 숫자에는 어떤 적정선이 있다는 것입니다.

이 점을 고려하기 위해 편의상 x를 벌레의 수 X를 가능한 최대의 수 X_max로 나눈 비로 정의하겠습니다.
다시 말하면 x가 가질 수 있는 최대값은 1이고 최소값은 0이며 x = 1은 벌레가 최대로 많이 있는 상태로 생각하기로 하겠습니다.
여기서 x_N+1이 (1-x_N)에도 비례한다고 하면 이것은 벌레가 너무 많아졌을 때 서로 싸우고 먹이도 모자라고 해서 벌레의 수가 줄어들기도 한다는 것을 의미합니다.
이 두 가지 요소를 합쳐서 쓰면 x_N+1 = cx_N(1-x_N)이 되는데 이 식을 병참본뜨기(logistic map)라고 합니다.
x₀가 주어지면 이 식에 집어넣어서 x₁을 결정할 수 있고 그것을 다시 식에 넣으면 x₂가 또 얻어지고 하는 식이죠. 이를 반복하면 해마다 벌레 수가 얼마나 변하느냐 하는 것을 금방 알 수가 있습니다.

여기서 중요한 것은 이 공식이 어디까지나 결정론이라는 점입니다.
초기조건, 즉 첫 해에 벌레가 몇 마리였느냐 만 알면 해마다 벌레의 수가 어떻게 변하는지 정확하게 알 수 있다는 것입니다.
그렇다면 여기서 실제로 c에 적당한 값을 집어넣고 초기조건 x₀에도 적당한 값을 넣어서 다음에 x₁, x₂, x₃ 등이 어떻게 변해나가는가를 계산해 보도록 합시다.
이상하게도 c의 값에 따라서 그 움직임이 완전히 달라진다는 것을 확인할 수가 있습니다.

먼저 c가 1보다 작을 때에는 초기 조건에 관계없이 항상 0으로 가게 됩니다.
c가 1보다 작다는 것은 벌레 한 마리가 알을 한 개 이하로 낳는다는 이야기이죠.
사람으로 따지면 부부가 애를 하나씩만 낳을 경우입니다. 이 때에는 인구가 계속 감소해서 결국 인류는 멸망하게 됩니다.

한편 c가 1과 3 사이에 있으면 x_N이 유한한 값이 됩니다.
수식으로 쓰면 N이 클 때 x_N은 1-1/c 정도의 값으로 접근하게 되며, 예를 들어 c가 2, 곧 각 벌레가 알을 두 개씩 낳는다고 하면 x가 나중에 1/2이 된다는 것입니다.
첫 해에 적게 있었으면 두 번째 해에는 늘고 세 번째 해에는 다시 조금 줄고 해서 왔다갔다하게 되지만 한참 지나면 결국 어느 값에 접근하며 그 접근하는 값이 c에 따라서 결정된다는 것이지요. 따라서 그 수가 어떤 적정선을 유지하게 되는 것입니다.

그런데 만일에 c가 3보다 크고 3.569보다 작다고 해 봅시다.
이상하게도 그 때에는 충분히 여러 해가 지났을 때의 x_N, 곧 벌레의 수가 규칙적으로 커졌다 작아졌다 하는 것을 반복하게 됩니다.
그러니까 벌레의 수가 어느 해에는 많았다가 그 다음 해에는 줄었다가 하는 것을 반복한다는 것입니다.
때로는 아주 많았다가 확 줄었다가 조금 늘었다가 다시 줄었다가 다시 아주 많아졌다가 하는 식으로 되기도 합니다.
이것도 역시 주기적이긴 한데 두 해마다 제자리에 돌아오는 것이 아니라 4년이 주기가 되는 것입니다.
때로는 주기가 더 늘어날 수도 있습니다.

그러다가 c가 더욱 커져서 3.569보다 커지면 주기가 무한히 커져서 벌레 수의 변화는 완전히 불규칙하게 됩니다.
그러니까 c가 충분히 커지게 되면 x_N이 마구 변하므로 도저히 예측이 불가능하게 되는 것입니다.
우리가 보기에 완전히 마구잡이인 것처럼 보이는 이런 것을 보통 혼돈이라고 부릅니다.

그런데 여기서 조심할 점은 이것이 우리가 흔히 생각하는 완전한 마구잡이는 결코 아니라는 점입니다.
위의 결과들은 어디까지나 병참본뜨기 식에서 나오는 것이고 그 식 자체는 완전히 결정론적인 식입니다.
말하자면 초기조건이 정해지면 모든 결과가 정확하게 결정되어 있다는 것입니다.
이런 상태에서 발생하는 혼돈을 우리는 결정론적 혼돈(deterministic chaos)이라고 부르기도 합니다.

4. 혼돈의 의미

그렇다면 혼돈이란 도대체 어떤 의미를 지니고 있는 것일까요?
얼른 보기에는 혼돈스러운 것도 사실은 이미 그렇게 결정되어 있다는 점에서 실제로는 혼돈스럽지 않다고도 생각할 수 있으니 말입니다.

이것을 혼돈이라고 부르는 것은 다음의 의미에서입니다.
초기조건이 정해지면, 예를 들어 x₀ 값이 0.4라고 정해지면 이 식에 의해서 x₁, x₂ 등의 값이 정확하게 나오는 것은 사실입니다.
그러나 초기조건을 살짝 바꾸어서 0.4000001을 집어넣으면 어떻게 될까요? 0.4000001은 0.4와 거의 차이가 없으니까 x₁, x₂, 그리고 일반적으로 x_N 도 거의 차이가 없을 것 같지요. 하지만 실제로는 전혀 그렇지가 않습니다. 초기조건을 0.4로 하느냐 0.4000001로 하느냐에 따라서 x_N의 결과는 엄청나게 달라질 수가 있다는 것이지요.

이를 우리는 초기조건에 대해서 몹시 민감하다고 표현합니다.
언뜻 보면 모든 것이 원리적으로 결정되어 있는 것 같지만 현실적으로는 결코 그렇지 않다는 것입니다.
실제 자연세계에서 초기조건을 0.4로 하느냐 아니면 0.4000001로 하느냐는 우리가 조절할 수 없는 것이지만, 그 조그만 차이가 완전히 다른 결과를 가져올 수 있습니다.
이런 의미로 이것을 혼돈이라고 부르는 것입니다.

주사위를 던지는 것이 좋은 예가 됩니다.
주사위를 던질 때 어떤 때에는 1이 나오고 어떤 때에는 5가 나오죠. 주사위의 운동도 물론 뉴턴역학에 의해서 결정이 되는 것입니다. 다시 말하면 F = ma 라는 식에 의해서 결정이 되는 것이죠.
따라서 주사위는 철저히 결정론적으로 움직이는 것입니다.
문제는 주사위를 던질 때 아무리 똑같이 던지려고 하더라도 손의 각도도 조금 다를 터이고 던질 때의 속도도 조금 다를 수밖에 없다는 점입니다.
그런데 이 미세한 초기조건의 차이 때문에 결과는 서로 완전히 달라지게 되죠.
곧 한 번은 1이 나오고 한 번은 5가 나오는 것과 같은 완전히 다른 결과가 발생한다는 것입니다.
이를 현실적으로 보면 마구잡이라고 할 수밖에 없을 것입니다.
이것을 결정론적 혼돈이라고 부르는 겁니다.

날씨 역시 우리가 쉽게 접할 수 있는 대표적인 예 중 하나입니다.
어느 날 맑았던 하늘에 갑자기 비바람이 치는 경우가 있지요. 그 원인을 가만히 따져보니까 아마존 밀림에서 갑자기 나비 한 마리가 날아갔기 때문일 수도 있다는 것입니다.
나비가 날아가지 않았으면 날씨가 계속 맑았을 텐데 말이지요. 아마존 밀림에서 나비가 나느냐 안 나느냐는 정말로 조그만 차이에 불과합니다.
그렇지만 그 결과는 완전히 다를 수 있다는 것입니다.
이를 나비효과(butterfly effect)라고 부르며, 날씨 예측의 어려움을 우스개 소리로 표현한 것이죠.

물리학에서 날씨를 기술하는 모형으로 로렌츠방정식(Lorenz equation)이라는 것이 있습니다.
로렌츠라는 사람이 이 방정식을 연구하면서 적당한 처음값을 주고 (여기서 처음값이란 예를 들어 현재의 기온, 기압, 바람 등과 같은 조건을 말합니다) 결과를 얻어 보았더니 맑은 날씨가 나왔습니다.
그런데 그 다음에 똑같은 처음값을 주어서 계산해 보니까 이번에는 비오는 날씨가 나왔다고 합니다.
그래서 계산이 잘못된 줄 알고 아무리 다시 해 보아도 비오는 것이 나왔다가 맑은 날씨가 나왔다가 눈오는 날씨가 나오는 등 엉망이 되더라는 것이죠.
그래서 왜 그렇게 되는가 고민을 하다가 나중에야 그 이유, 곧 처음값을 아무리 똑같이 넣었다고 해도 조금은 틀리기 마련인데 그 미세한 차이가 완전히 다른 결과를 준다는 사실을 알아내었습니다.

쥬라기 공원이라는 소설에 보면 공룡들을 제어하지 못하게 되어 결국은 파국이 빚어지고 말죠.
이것도 바로 이런 이유에 의해서 생기는 것입니다.
처음에 초기조건을 정확히 주어서 제어를 해야 되는데 초기조건을 정확히 준다는 것이 불가능하기 때문에 우리가 미처 제어하지 못한 그 미세한 차이가 100마리만 있어야 될 공룡을 갑자기 10000마리로 만들었다는 것입니다.

이처럼 초기조건에 민감하다는 것은 한마디로 예측을 할 수가 없다는 의미입니다.
왜 예측이 불가능한가 하는 것은 자연과학 기초의 입장에서는 아주 흥미로운 현상인데, 수학의 관점에서 보면 수 자체, 즉 실수(real number) 자체의 성질 때문에 생기는 것입니다.
이를 보여주는 재미있는 예가 빵을 만들 때 밀가루 반죽을 하는 방법입니다.
밀가루 반죽에 설탕을 적당히 넣고 잘 섞기 위해 반죽을 먼저 눌러서 높이를 반으로 납작하게 한 다음에 세로로 반을 잘라서 한 쪽을 위에 갖다 붙이면 원래와 같은 모양이 되지요.
이것을 계속 반복하면 설탕이 완벽하게 섞이게 되는데, 이것이 병참본뜨기나 주사위 던지기와 동등하다는 사실을 수학적으로 증명할 수 있습니다.
그러니까 무언가를 균일하게 섞고자 할 때 이런 성질을 이용하는 것이지요.

5. 혼돈과 질서

이렇게 보면 모든 것이 혼돈스럽기만 한 것이 아니고 그 속에 사실은 놀라운 질서가 있음을 알 수 있습니다.
결정론적 혼돈이 만들어 내는 질서의 구조를 이른바 쪽거리(fractal)라고 부릅니다.
이는 얼른 보면 아주 복잡한 것처럼 보이지만 간단한 규칙을 가지고 있는 구조입니다.
결정론적 혼돈은 일반적으로 그런 구조를 갖고 있습니다. 또한 보편성(universality)이 존재한다는 것도 중요한 점입니다.
혼돈 현상이 마구잡이처럼 보이지만, 놀랍게도 여러 계들의 다양한 혼돈 현상이 많은 경우에 똑같은 정량적인 구조를 가지게 되는데, 이를 보통 보편성이라고 부르지요.
혼돈을 기술할 때 사용하는 간단한 모형을 보고 여러분은 이 모형이 과연 복잡한 자연현상을 제대로 설명할 수 있겠는가 하는 의문을 가질지도 모르겠습니다.
그러나 우리는 이렇게 간단한 모형이나 훨씬 더 복잡한 현실적인 계가 지니는 혼돈의 구조가 모두 똑같다는 것을 보편성의 원칙에 의해 알고 있습니다.
때문에 간단한 모형을 가지고 다양한 현상을 기술할 수 있는 것이지요.

물리현상 뿐아니라 생물계에도 혼돈현상이 많습니다.
우리 몸을 예로 들어봅시다.

심장 박동을 전기 신호로 보는 심전도(electrocardiogram; ECG)에서 신호가 주기적인 경우도 있고 혼돈스러운 경우도 있습니다.
그리고 뇌의 전기 신호를 보는 뇌파(electroencephalogram; EEG)에서도 신호가 주기적일 때도 있고 혼돈일 때도 있습니다.
그런 것들을 가지고 그 사람이 건강한지의 여부를 판단할 수가 있습니다.
이상하게도 건강한 사람의 심전도나 뇌전도는 혼돈을 보이는데 반하여, 곧 심장이 멈출 사람이나 간질병 환자들의 경우에는 특이한 주기적인 신호를 나타낸다고 알려져 있습니다.

사회현상 중에도 이런 혼돈을 보이는 현상들이 있다고 주장하는 사람이 많습니다.
특히 경제학에서 이런 주장을 많이 합니다. 이를테면 경기가 주기적으로 순환하지 않고 때로는 아주 혼돈스럽게 보일 때가 있다든지, 또 주식시세가 혼돈스러워 보일 때가 많다든지 하는 것들이 보기입니다.
또 자연재해들, 어떨 때 전염병이 갑자기 도느냐, 왜 병충해가 심해지느냐, 기상이변이 생기느냐 등도 이런 혼돈 현상에 의한 것으로 설명하려는 시도가 있습니다.

그런데 이런 혼돈스러운 현상들의 근원은 결국 두 가지입니다.
하나는 외적 강제력의 영향이고 다른 하나는 내재적인 요인입니다.
만일 내재적인 요인에 의해서 혼돈이 생기는 경우라면, 많은 경우 혼돈에도 불구하고 질서를 내부에 갖고 있습니다.
따라서 우리가 질서를 찾을 수 있고 그래서 어느 정도 단기적인 예측도 가능합니다.
뿐만 아니라 결정론적인 혼돈은 적당히 제어할 수 있기 때문에 이를 실생활에서 여러 가지로 응용하려는 시도도 많이 있습니다.

예를 들어 영상을 수치형(digital)으로 처리할 때 필요한 정보의 양을 효율적으로 줄이는 데에 쓰일 수 있고, 역학계의 불안정성 제어에도 적용할 수 있습니다.
이러한 가능성은 신호처리와 제어에서 혼돈이론을 적용하려는 이른바 혼돈공학(chaos engineering)이라는 용어를 낳기도 하였습니다.
이에 따라 혼돈제어를 이용한 로보트와 혼돈소자(chaos chip), 혼돈 신경세포(chaos neuron)를 이용한 신경그물얼개(neural network) 등이 발표되었고, 우리나라에서도 혼돈이론을 이용했다는 카오스세탁기라는 제품이 나왔었죠.

어떻게 보면 혼돈 현상은 인간의 한계성을 느끼도록 해 주는 주제이기도 합니다.
인간이 제아무리 애를 써도 초기조건을 완벽하게 통제한다는 것은 원리적으로 불가능한 것이지요.
이 때문에 결국 우리가 아무 것도 정확히 예측할 수 없게 된다면 이는 결국 인간의 능력이 유한하다는 것을 보여주는 증거라고 할 수 있다는 것입니다.

또 혼돈은 현대문명의 여러 병폐들이 어디에서 기인하는지를 알려 주기도 합니다.
흔히 현대문명이 뉴턴의 기계론 내지는 뉴턴적인 환원론에서 출발했다는 얘기를 많이 합니다.
뉴턴역학 자체는 결정론이지요. 그러나 혼돈이라는 현상 때문에 현실적으로는 뉴턴역학을 가지고 결정하거나 예측할 수 없다는 것이 드러납니다.
단순한 환원론이나 기계적인 세계관은 가능하지 않다는 것이지요.
이런 결정론에 기반 하는 한 현대문명은 여러 가지 병폐를 드러낼 수밖에 없습니다.
따라서 그 동안 지배적인 패러다임이었던 결정론을 대치할 새로운 패러다임이 형성되어야 하지 않을까 하는 생각을 해 봅니다.

요약하자면 질서와 혼돈의 문제는 동전의 양면과 같은 것입니다.
왜냐하면 아주 질서 있는 것처럼 보이는 계, 완전한 질서가 있는 결정론에서도 혼돈이 나오고, 그런가 하면 마구잡이 같이 보이는 혼돈도 그 내부에 상당한 질서를 가지고 있기 때문이지요.
뿐만 아니라 하나의 현상을 이해하는데 질서와 혼돈이라는 두 개념이 같이 필요하므로 이들은 서로 상호보완적이라고 이해할 수도 있습니다.
결정론과 예측 불가능성의 대비는 변증법적인 통일을 이룬다는 것이지요.

6. 복잡계와 사회현상

지금까지의 논의를 사회현상과 보다 가깝게 연결시키기 위해서는 물리학에서 말하는 복잡계(complex system)라는 개념을 도입할 필요가 있습니다.
물리학에서는 어떤 대상을 구성하고 있는 구성원이 아주 많은 계를 뭇알갱이계(many-particle system)라고 하지요. 여기서 알갱이란 자연현상을 구성하는 구성원 하나하나를 지칭하는 것입니다.
뭇알갱이계를 구성하는 알갱이끼리 서로 적당히 상호작용을 하면 그 상호작용에 의해서 알갱이 하나하나의 성질과는 관계가 없는, 계 전체로서의 집단적인 새로운 성질이 생겨날 수가 있습니다.
이를 협동현상(cooperative phenomenon)이라고 합니다.

대표적인 현상으로 컵에 담긴 물을 생각해 봅시다.
따지고 보면 물은 전형적인 뭇알갱이계입니다.
물은 H₂O 분자들로 이루어져 있는데 물 한 컵에 10²³ 개 정도라는 엄청난 수의 분자가 들어 있습니다.
물이 얼면 얼음이 되지요. 얼음도 마찬가지로 H₂O 분자로 구성되어 있으며 얼음을 구성하는 H₂O 분자나 물을 구성하는 H₂O 분자는 똑같습니다.
만일에 H₂O 분자가 예를 들어 서너 개 정도가 있다고 해 봅시다.
그 때 그것은 H₂O 분자들일 뿐이지 물이냐 얼음이냐를 구분할 수가 없습니다.
그런데 그러한 H₂O 분자가 많이 모이면 분자들끼리의 상호작용이 묘하게 일어나서 전체적으로 볼 때 물이 될 수도 있고 얼음이 될 수도 있다는 것입니다. 이러한 현상이 협동현상의 예라고 하겠습니다.

생명현상도 마찬가지로 생각할 수 있습니다.
생명체는 세포로 이루어져 있고 세포도 많은 분자들로 이루어진 것이지요.
분자 하나하나를 보면 생명현상이 전혀 존재하지 않습니다.
그런데 그와 같은 분자들이 모여서 만든 세포라고 하는 뭇알갱이계에서는 생명이라고 부르는 신비로운 현상이 생겨나게 됩니다.

비슷한 논의를 사회 현상에도 적용할 수 있지 않을까 추정해 봅니다.
개개인들이 모여서 이루는 집단이 사회라고 한다면, 그 개개인 사이의 상호작용에 의한 협동현상이 사회라는 집단의 성질을 생겨나게 한다는 것이지요.

이러한 현상을 탐구하는 물리의 방법을 통계역학(statistical mechanics)이라고 합니다.
이것은 고전역학이니 양자역학이니 하는 동역학과는 조금 다른 성격을 지닌 방법입니다.
여러 가지 사회현상들을 이러한 통계역학의 입장에서 보아 이해하려는 시도는 흥미로운데, 이 경우에 복잡계의 개념이 중요하다고 생각됩니다.

아주 간단한 예를 하나 들어봅시다.
서로 적인 A, B, C의 세 사람이 있다고 합시다. A와 B가 적이고 B와 C가 적인데 그러면 A입장에서 볼 때 적의 적은 같은 편이다라고 생각하면 A와 C가 친해야 되겠죠.
그런데 A와 C도 역시 적이거든요.
그럼 누구와 친해야 하는지 상당히 난처해지지요. 이런 상황을 물리학에서는 쩔쩔맴(frustration)이라고 부릅니다.
자연현상에서는 이런 일이 흔히 일어납니다.
그런데 이처럼 뭇알갱이계에서 알갱이끼리 쩔쩔맴이 많아지면 여러 가지 복잡하고 특이한 성질을 보이게 되므로 이러한 계를 물리학에서는 복잡계라고 부릅니다.
복잡한 사회현상을 포함하고 있는 사회계도 또한 복잡계라고 할 수 있겠습니다.

그런데 중요한 것은 이러한 복잡계도 결국 하나의 목적을 향해 나아간다는 점입니다.
여기서 목적이라는 용어를 사용했다고 해서 반드시 목적론을 뜻하는 것은 아닙니다.
다만 물리학에서는 에너지(또는 자유에너지)라고 하는 양이 있어서 그 전체 에너지를 최소화하려는 방향으로 항상 자연현상이 일어나게 된다는 의미입니다.
이런 논의를 굳이 사회현상에 대비시켜 본다면 사회현상은 곧 최대행복이라는 쪽으로 나아간다고 할 수 있겠죠.
그런데 때로는 나의 행복을 최대화하려는 움직임이 사이가 나쁜 다른 사람에게는 그의 행복을 적게 하는 것일 수가 있고, 따라서 전체의 행복이라는 관점에서 보았을 때 바람직한 방향이 아닐 수가 있습니다.

이처럼 난처한 일이 생길 때 전체 행복을 최대화하는 방법, 곧 전체 에너지를 최소화하는 방법으로는 두 가지를 생각할 수 있습니다.
하나는 반복이고 다른 하나는 외적인 강제력이지요.
우선 반복에 대해 살펴봅시다.
주어진 계에서 에너지를 최소화시키려면 어떻게 해야 할까요?
만일 계의 구성원들이 모두 다 서로 친하다면 모두가 협동할 때 에너지가 최소가 되겠죠.
따라서 이 경우에는 매우 간단하게 해결책이 나올 수 있습니다.
예를 들어 죄수의 딜레마에서 전부 다 자백을 안하는 것이 가장 좋은 방법이라는 점이 확실하다면 모두가 자백을 안할 것입니다.

하지만 실제로 복잡계에는 쩔쩔맴이 많이 존재하기 때문에 이렇게 간단하지가 않습니다.
그래서 어떤 것이 가장 유리한가를 판별하는 것이 사실은 매우 어렵고 오랜 시간이 걸리는 일입니다.
즉 여러 번 반복을 해야 한다는 것입니다.
반복을 많이 해서 아주 오랜 시간이 지나야 비로소 우리가 원하는 가장 이상적인 상태로 갈 수가 있게 됩니다.

잘 알려진 복잡계인 유리(glass)가 바로 그러한 경우이죠.
유리의 에너지가 최소가 되는 데에는 몇 억년 이상이 걸릴 것입니다.
다시 말해서 우리가 보고 있는 유리는 가장 행복한(안정한) 상태에 있는 것이 아닙니다.
그러나 복잡계가 안정한 상태를 이루는데 이처럼 오랜 시간이 걸린다면 그런 방법은 사회현상에서는 현실적인 방법이 되지는 못할 것입니다.
이 경우 외적인 강제력을 사용하면 그 시간을 크게 단축할 수 있지요.
물리학에서 외적인 강제력의 예로는 외부에서 적당히 걸어주는 전자기마당(electromagnetic field) 등의 건드림(perturbation)을 생각할 수 있겠습니다.
다시 말해서, 가만히 놓아두면 안정한 상태로 되는데 매우 오랜 시간이 걸리는 복잡계에 적당한 마당을 걸어주면 빨리 안정한 상태가 되게 할 수 있습니다.

7. 맺음말

이제 오늘 강의를 정리해 보기로 합시다.
오늘 저는 크게 두 가지 이야기를 했습니다.
하나는 복잡계, 즉 구성원이 아주 많아서 그 안에서 서로 싸우기도 하고 친하기도 하는 등 이른바 쩔쩔맴이 있는 계가 때로는 협동현상을 통해 스스로 짜임(self-organization), 규칙적 무늬 형성 등 질서를 보여줄 수도 있다는 이야기입니다.
그런가 하면 반대로 아주 간단한 계인데도 불구하고 복잡한 성질을 보이는 예를 들기도 했지요.
예를 들어 물이 담긴 그릇의 바닥을 뜨겁게 하면 처음에 H₂O 분자들은 충돌을 통해 에너지를 전달하며, 이러한 열전도 현상에서 각 분자들은 무질서한 마구잡이 운동을 합니다.
바닥이 어느 정도 뜨거워지면 분자들은 제각기 움직이는 대신에 전체적으로 결맞는 운동을 하는 엇흐름(대류)이 나타나는데 이는 적은 수의 유효 자유도(effective degrees of freedom)로 기술할 수 있어서 마치 뭇알갱이계가 아니고 간단한 계처럼 생각할 수 있으며, 특징적인 두루말이 무늬를 가지는 질서를 보입니다. 그러나 계속 가열하여 바닥을 매우 뜨겁게 하면 유효 자유도가 적음에도 불구하고 앞에서 말했듯이 물이 펄펄 끓는 막흐름(turbulence), 곧 혼돈이 나타나게 되지요.

결국 이런 예에서 볼 수 있듯이 질서와 혼돈은 서로 분리할 수 있는 것이 아니라 동전의 앞뒷면처럼 밀접한 관련이 있어서 어떻게 보면 상호보완적이라고 할 수 있습니다.
특히 결정론적인 질서와 달리 혼돈에서는 초기조건의 조그만 차이로 완전히 다른 결과를 얻을 수 있으므로, 예를 들어 환경 등 상황의 변화에 따른 적응에 유연성을 보일 수 있다고 생각됩니다.
따라서 해로울 것만 같은 혼돈이 알고 보면 생체계나 사회가 상황의 변화에 대처하는 데에 중요한 역할을 한다는 것이며, 이것이 앞에서 말했듯이 건강한 사람의 심전도나 뇌전도가 혼돈 현상을 보이는 근본 이유라고 추측하지요.
사회의 경우에도 상황이 결정되면 충분한 시간이 지난 후에 (단순 반복 또는 외적인 강제력을 통해서) 사회는 대체로 안정된 질서의 상태가 되겠지만, 너무 질서만 있는 (경직된) 사회는 적당히 혼돈이 있는 사회에 비해 상황 변화에 대한 대처 능력이 떨어진다는 이야기입니다.
곧 혼돈은 새로운 가능성을 의미한다고 할 수 있겠습니다.
물론 이런 논의를 곧바로 사회현상에 적용하는 것은 무리가 있겠지만 사회현상의 어떤 측면을 이해하는 데에는 도움을 줄 수 있으리라고 생각합니다.

참고문헌

일반인을 위한 혼돈의 소개서로는 번역판이 나온 J. Gleick, Chaos: Making a New Science (Viking, New York, 1987) 이 있고 쪽거리에 대해서는 B. Mandelbrot, The Fractal Geometry of Nature (Freeman, San Francisco, 1982) 가 있다. 생명 현상이나 사회 현상을 복잡계의 관점에서 이해하려는 시도는 일반인을 위한 것은 아니지만 Santa Fe Institute Studies in the Sciences of Complexity 시리즈가 대표적이라 할 수 있으며 예를 들어 5권이 P.W. Anderson, K.J. Arrow, and D. Pines (eds.), The Economy as an Evolving Complex System (Addison-Wesley, Redwood City, 1988)이다.

저자소개

최무영 교수
서울대학교 물리학과 졸업 (이학사),
서울대학교 대학원 (이학석사) 및 미국 스탠포드대학 (이학박사) 에서 공부함.
현재 자연대 물리학과 부교수.

'Phase transitions in the uniformly frustrated XY model', 'Quantum Hall effect in idealized superconducting arrays at zero temperature', 'Dynamic model of neural network', 'Traffic flow and 1/f noise' 등의 논문을 Physical Review 등의 학술지에 발표함.
복잡계의 상전이 및 동역학적 성질과 양자역학적 결맞음에 주로 관심이 있음.