범함수의 극값 문제를 연구하는 수학의 한 분야. 예를 들면 수직 평면의 점 P, Q가 주어지고 질점 가 중력에 의해 P에서 Q까지의 곡선을 따라 운동할 때 가장 짧은 소요시간을 따르려면 어떤 곡선을 따라 움직이면 되는가 하는 문제를 생각한다.

이것은 1696년 J. 베르누이가 제시한 문제인데, 수학적으로는 다음과 같이 표시된다.

점 P, Q를 포함하는 수직평면내에 [그림] 같은 좌표축을 취해 y축의 양의 방향이 밑을 향하게 한다.

P, Q의 좌표를 각기 (), ()이라 할 때, 질점 가 곡선 위를 중력만으로 P에서 Q까지 움직였다면 소요시간 는

(여기서 y′=)로 주어진다.

단, g는 중력가속도이다.

더구나 가 점 P를 출발할 때의 처음 속도는 0이다.

문제는 

인 함수 중에서 ①식의 값이 최소가 되는 것을 구하는 것이다.

문제를 일반적으로 기술하면 어떤 조건(예를 들어 위의 ②식)을 만족시키는 함수의 집합을 φ라 하면 ①식은 φ에 속하는 함수 에 대해 하나의 값 를 대응시킨 식으로서

의 형(形)을 하고 있다.

이와 같은 「함수의 함수」를 범함수라 하고, 주어진 함수의 집합 φ중에서 어떤 범함수의 값을 최대 또는 최소로 하는 문제를 변분법이라고 한다.

변분법은 미적분법과 거의 같은 시기에 나타난 것이며 베르누이 일가와 E. 오일러 등이 변분학의 여러 구체적인 문제들을 다루었고, 1760년에는 J. L. 라그랑주가 역학과 관련시킨 변분문제를 조사하는 일반적 방법을 발견했다.

이러한 고전이론은 19세기 말 K. T. 바이어슈트라스에 의해 정리되고, 최근에는 변분법에 오일러의 방정식을 이용하지 않는 직접법이 되어 해석학의 여러 분야에서 유력한 수단으로 발전했다.