천체역학의 한 분야로 세 질점이 뉴튼의 만유인력의 법칙을 따르는 힘의 작용을 받으면서 운동하면 어떤 궤도를 그리는가 하는 문제. 세 질점에 대해 두 질점만 존재할 때는 2체문제라고 하며, 그 해(解)는 케플러 운동으로 밝혀졌다.

태양 둘레의 행성의 운동은 실제로는 다체문제(多體問題)로 다루어야 하지만 제1근사로서 다른 행성들과의 인력을 무시하면 태양 둘레의 행성의 궤도는 케플러 운동으로 근사시킬 수 있다.

2체문제는 수학적으로 풀 수 있으나 3체문제는 풀리지 않아 예로부터 많은 학자들을 괴롭혀 왔다.

3체문제의 운동방정식은 18계(階) 미분방정식으로 표현되며 해명된 적분식은 에너지적분 · 무게중심적분(重心積分)·각운동량적분(角運動量積分) 등 127개이고 이외의 적분식은 존재하지 않는다는 것이 19세기말 J. H. 푸앵카레 등에 의해 증명됨으로써 3체문제의 정확한 풀이는 할 수 없음이 입증되었다.

그러나 세 질점이 일직선 상에 있고, 어떤 초건을 만족시켜 공통 무게중심의 둘레를 케플러 운동을 할 때와 정삼각형의 꼭지점에 있고 역시 케플러 운동을 할 때가 3체문제의 특수해가 된다는 것이 18세기말에 J. L. 라그랑주에 의해 밝혀졌다.

3체문제의 천문학상의 예로는 태양·목성·소행성의 3체와 태양·지구·달의 경우이다.

소행성은 질량도 매우 작고, 태양이나 목성의 운동에는 영향을 미치지 않는다.

태양이나 목성의 궤도가 원이며 소행성이 이것과 같은 평면내 운동을 할 때 소행성의 궤도를 푸는 문제를 제한3체문제〔制限三體問題〕라하며 이 때도 상세 한 풀이는 할 수 없다. 소행성 중에는 라그랑주의 정삼각형 풀이에 해당되는 트로이군(群)의 소행성이 실존하여 이들이 태양과 목성을 잇는 선분(線分)을 밑변으로 한 정삼각형의 꼭지점 부근을 운동하고 있는 것은 주목할 만하다.

한편 달은 지구의 둘레를 돌면서도 그 공통 무게중심은 멀리 떨어진 태양의 둘레를 근사적으로 케플러 운동을 계속하고 있다.

이것도 3체문제의 특수한 예이다.