SF소설 삼체에는 삼중항성계에 사는 외계인이 등장합니다. 이들이 사는 행성의 낮과 밤, 계절은 도무지 예측이 불가능합니다. 자연 현상을 이해할 수 없으니 과학도 발전하지 못합니다. 간신히 고도의 기술력을 갖추게 된 이들은 궤도가 안정적인 행성을 찾아 이주할 계획을 세웁니다. 천체 두 개가 서로 공전할 때의 궤도는 뉴턴 역학과 만유인력의 법칙으로 쉽게 예측할 수 있습니다. 이런 문제를 이체문제라고 합니다. 여기에 천체 하나가 더 끼어들면 어떻게 될까요? 단순히 생각하면 큰 변화가 없을 것 같지만, 천체 세 개의 궤도를 구하는 삼체문제는 이체문제보다 훨씬 복잡합니다. 아이작 뉴턴은 저서 ‘자연철학의 수학적 원리(프린키피아)’에서 삼체문제 해결을 시도했습니다. 조제프루이 라그랑주, 피에르시몽 드 라플라스, 레온하르트 오일러 같은 내로라하는 학자도 저마다 삼체문제의 일반해를 구하기 위해 골머리를 앓았습니다. 19세기에 들어서야 앙리 푸앵카레가 삼체의 궤도를 나타내는 일반해는 존재하지 않는다는 사실을 증명했습니다. 삼체 문제는 매우 특수한 경우에만 해가 존재합니다. 즉, 특정 조건에서만 천체 세 개의 궤도를 방정식으로 나타낼 수 있다는 뜻입니다. 그런 특수해의 한 사례가 라그랑주점입니다. 라그랑주점은 서로 공전하는 천체 a와 b가 있을 때 서로 끌어당기는 중력과 공전에 의한 원심력이 평형을 이루는 점입니다. 모두 다섯 곳이 존재하지요. 이곳에 물체 c가 자리 잡고 있는 경우 천체 a와 천체 b의 궤도는 이체문제로 나타낼 수 있습니다. 라그랑주점을 따라 도는 물체 c의 궤도 역시 쉽게 계산할 수 있지요. 단, 이 특수해가 성립하려면 물체 c의 질량이 천체 a와 천체 b와 비교해 무시할 수 있을 정도로 작아야 합니다. 목성 주변의 트로이 소행성군이 바로 이 원리에 따라 생겨났습니다. 소행성이 거대한 태양과 목성의 라그랑주점에 들어와 그대로 눌러앉은 겁니다. 일단 소행성이 들어오면 빠져나가지 않아 수십만 개의 소행성이 이 라그랑주점에서 무리를 짓게 되었지요. 라그랑주점은 태양과 지구의 공전 궤도, 지구와 달의 공전 궤도에도 있습니다. 각 라그랑주점의 안정성은 제각기 다르지만, 모두 두 천체로부터 같은 거리를 유지합니다. 우리는 라그랑주점을 인공위성과 우주망원경을 올려놓는 곳이나 로켓이 궤도를 바꾸는 기착지로 활용하고 있습니다. 이 외에도 세 천체가 2차원 평면에서 움직이는 경우, 세 천체의 질량이 모두 같고 각운동량의 합이 0인 경우, 세 천체의 질량과 위치, 속도가 특정한 비율을 갖는 경우 등의 특수해가 있습니다. 그러나 이런 특수해는 자연에 존재하기 매우 어렵습니다. 특수해 대신 참값에 가까운 근사해를 구해 세 천체의 운동을 나타내는 방법도 있습니다. 알고리즘의 정밀성을 높일수록 정확한 해에 더 가까이 다가갈 수 있지만, 근본적으로 오차가 있습니다. 오차가 작을 때는 참값과 근사해의 차이를 무시할 수 있습니다. 하지만 먼 미래의 궤도를 예측하는 건 불가능합니다. 세 천체의 운동이 초기값에 매우 민감하게 반응하기 때문입니다. 천체의 질량, 위치, 속도의 미세한 차이가 매우 큰 차이로 이어진다는 뜻입니다. 카오스 이론에서 이야기하는 현상과 같습니다. 흔히 나비 효과라고도 하지요. 삼체 문제를 맞닥뜨린 인류가 '세상엔 풀리지 않는 문제도 있는가 보다'하고 백기를 들었다면, 우주 탐사는 이뤄지지 않았을 겁니다. 탐사선의 궤적을 계산하려면 삼체문제를 풀어야 하거든요. 그 여파는 단지 탐사선의 궤도 계산에 그치지 않았을 겁니다. 삼체문제를 해결하기 위한 과정에서 카오스 이론, 위상공간, 라그랑주점, 수치해석 기법, 동역학적 시스템 이론, 시뮬레이션과 같은 중요한 개념과 이론이 탄생했기 때문입니다. 이는 천문학과 물리학뿐만 아니라, 기상 예측이나 경제 및 금융 시스템, 의료, 생명과학, 교통, 환경, 생태 시스템 등의 분야에 지대한 영향을 끼치고 있습니다.