Calculus of Variations
다음과 같은 함수 $J$를 고려하자. $$J = \int_{x_1}^{x_2} f\left( y(x), y'(x); x \right) \, dx$$ 즉 $J$는 구간이 $x_1 \sim x_2$로 고정되었지만, 그 안에 피적분함수가 결정되지 않은 적분으로 정의되는 함수이다. 이때 어떤 미분가능한 함수 $y$와 그 도함수 $y'$이 $J$의 변수이며, $y, y'$의 변수는 $x$이다. 이런 $y$들을 모아 놓은 집합에 적당한 연산을 주면 벡터 공간으로 취급할 수 있고, $J$의 값은 어떤 스칼라로 주어질 것이므로 $J$는 linear functional, 즉 범함수다.
이때 우리는 $J$가 어느 $y$를 대입할 때 극값을 가지는지 아는 것이 목표고, 그 방법 중 하나가 바로 '변분법'(calculus of variation)이다.
Euler's Equation
현재 $y$는 $x$를 변수로 가지는 일변수함수다. 즉 $y$의 그래프를 좌표평면 상에 그릴 수 있다. 이때 $x_1, x_2$는 고정되어서 $y$의 구간은 정해진 셈이다. 만약 어떤 $y$가 존재해서 $J$의 극값을 준다고 하면, 그 $y$에서 아주 조금 변화시킨 '인접한' 함수는 반드시 $J$의 값을 아주 조금이라도 변화시킬 것이다. 그 '인접한' 함수를 일반적으로 매개변수 $\alpha$를 도입해서 $y(\alpha, x)$라고 쓰고, 극값을 주는 함수를 $y(0, x)$고 쓰자. 그러면 일반적으로 다음과 같이 작성할 수 있다. $$y(\alpha, x) = y(0, x) + \alpha \eta(x)$$ 이때 $\eta(x)$는 $C^1$ 함수이다. 경계조건으로 함수의 구간 양 끝에서의 함수값은 고정되어 있다고 하자. 즉 $$y(\alpha, x_1) = y(0, x_1) \\ y(\alpha, x_2) = y(0, x_2)$$이다. 따라서 $\eta(x_1) = \eta(x_2) = 0$이다. 이를 그래프로 그린 것이 아래 Figure 1이다.
이제 인접한 함수로 기존 범함수 $J$를 나타내면 다음과 같이 $J$는 매개변수 $\alpha$의 함수가 된다. $$J(\alpha) = \int_{x_1}^{x_2} f\left( y(\alpha, x), y'(\alpha, x); x \right) \, dx$$ 따라서 가정에 의해 $J$는 $\alpha = 0$일 때 극값을 가진다. 즉, $$\frac{\partial J}{\partial \alpha} \Bigg|_{\alpha = 0} = 0$$이 성립한다.
이제 이 조건을 적용해서 구체적으로 계산하면 다음과 같다. $$\frac{\partial J}{\partial \alpha} = \frac{\partial}{\partial \alpha} \int_{x_1}^{x_2} f(y, y'; x) \, dx \\ = \int_{x_1}^{x_2} \left( \frac{\partial f}{\partial y} \frac{\partial y}{\partial \alpha} + \frac{\partial f}{\partial y'} \frac{\partial y'}{\partial \alpha} \right) dx \\ = \int_{x_1}^{x_2} \left( \frac{\partial f}{\partial y} \eta(x) + \frac{\partial f}{\partial y'} \frac{d \eta}{dx} \right) dx \\ = \int_{x_1}^{x_2} \frac{\partial f}{\partial y} \eta(x) \, dx
+ \left[ \frac{\partial f}{\partial y'} \eta(x) \right]_{x_1}^{x_2}
- \int_{x_1}^{x_2} \frac{d}{dx} \left( \frac{\partial f}{\partial y'} \right) \eta(x) \, dx \\ = \int_{x_1}^{x_2} \left( \frac{\partial f}{\partial y}
- \frac{d}{dx} \left( \frac{\partial f}{\partial y'} \right) \right) \eta(x) \, dx
$$ $\alpha = 0$일 때 위 값은 $0$이 되어야 하고, 이는 임의의 함수 $\eta$에 대해서 성립해야 하므로 피적분 함수는 0이 되어야 한다. 따라서 $$\frac{\partial f}{\partial y} - \frac{d}{dx} \left( \frac{\partial f}{\partial y'} \right) = 0$$이고, 이를 '오일러 방정식'(Euler's Equation)이라고 한다. 즉 어떤 함수 $y$가 오일러 방정식을 만족한다면, 그 함수는 주어진 범함수에 극값을 주는 함수인 것이다.
이 결과를 통해 최소 강하 곡선, 평면 상 최단 경로는 직선, 스넬의 법칙 등 많은 문제들을 해결할 수 있다.