Taylor and Maclaurin Series

Taylor Series

함수 $f$를 양수의 수렴 반경을 가지고 $$f(x) = \sum_{n=0}^{\infty} a_n(x-a)^n$$ 이라고 하자. 이 수렴 구간에서 미분하면 $$f'(x) = a_1 + 2a_2(x-a) + 3a_3(x-a)^2 + \cdots + na_n(x-a)^{n-1} + \cdots , \\ f''(x) = 1\cdot 2 a_2 + 2 \cdot 3 a_3 (x-a) + 3\cdot 4 a_4 (x-a)^2 + \cdots , \\ f'''(x) = 1 \cdot 2 \cdot 3 a_3 + 2 \cdot 3 \cdot 4a_4(x-a) + 3\cdot 4 \cdot 5a_5 (x-a)^2 + \cdots , \\ \vdots$$ 임을 알 수 있다. 각 등식에 $x=a$를 적용하면 $$a_n = \frac{f^{(n)}(a)}{n!}$$ 을 얻는다. 따라서 함수 $f$는 $$\sum_{n=0}^{\infty} \frac{f^{(n)}(a)}{n!} (x-a)^n = f(a) + f'(a)(x-a) + \frac{f''(a)}{2}(x-a)^2 + \cdots + \frac{f^{(n)}(a)}{n!}(x-a)^n + \cdots$$ 으로 표현됨을 알 수 있다. 

Definition 1. Let $f$ be a function with derivatives of all orders throughout some interval containing $a$ as an interior point. Then the Taylor series generated by $f$ at $x = a$ is $$\sum_{n=0}^{\infty} \frac{f^{(n)}(a)}{n!} (x-a)^n = f(a) + f'(a)(x-a) + \frac{f''(a)}{2}(x-a)^2 \\ + \cdots + \frac{f^{(n)(a)}}{n!}(x-a)^n + \cdots.$$ The Maclaurin series of $f$ is the Taylor series generated by $f$ at $x=0$. 

이제 위 정의의 조건을 만족시키는 함수와 그 함수의 taylor series가 같을 조건을 찾는 게 자연스럽다.

Taylor's Theorem

Theorem 1. If $f$ and its first $n$ derivatives $f', f'', ..., f^{(n)}$ are continuous on the closed interval between $a$ and $b$, and $f(n)$ is differentiable on the open interval between $a$ and $b$, then there exists a number $c$ between $a$ and $b$ such that $$f(b) = f(a) + f'(a)(b-a) + \frac{f''(a)}{2}(b-a)^2 + \cdots \\ + \frac{f^{(n)}(a)}{n!}(b-a)^n + \frac{f^{(n+1)}(c)}{(n+1)!}(b-a)^{n+1}.$$

Proof. 

이때 $b$를 $x$로 치환하고 마치 변수처럼 취급하여 다음과 같이 쓸 수도 있다.

Taylor's Formula

If $f$ has derivatives of all orders in an open interval $I$ containing $a$, then for each positive integer $n$ and for each $x$ in $I$, $$f(x) = f(a) + f'(a)(x-a) + \frac{f''(2)}{2!}(x-a)^2 + \cdots \\ + \frac{f^{(n)}(a)}{n!}(x-a)^n + R_n(x),$$ where $$R_n(x) = \frac{f^{(n+1)}(c)}{(n+1)!} (x-a)^{n+1}$$ for some $c$ between $a$ and $x$. The function $R_n(x)$ is called the remainder of order $n$.

이제 유한 개에 한해서는 함수 $f$를 taylor series와 동일한 형태로 표현할 수 있음이 밝혀졌다. 다만 $R_n(x)$, 즉 remainder 항이 생긴다. 우리가 원하는 것은 $n \to \infty$인 상황이므로, 만일 이때 $R_n(x)$ 가 0으로 수렴한다면 함수 $f$를 taylor series와 같다고 보장할 수 있게 된다. 이를 정리하면 다음과 같다.

If $R_n(x) \to 0$ as $n \to \infty$ for all $x \in I$, we say that the Taylor series generated by $f$ at $x=a$ converges to $f$ on $I$, and we write $$f(x) = \sum_{n=0}^{\infty} \frac{f^{k}(a)}{k!}(x-a)^k.$$

The Remainder Estimation Theorem

Theorem 2. If there is a positive constant $M$ such that $|f^{(n+1)}(t)| \leq M$ for all $t$ between $x$ and $a$, inclusive, then the remainder term $R_n(x)$ in Taylor’s Theorem satisfies the inequality $$|R_n(x)| \leq M \frac{|x - a|^{n+1}}{(n+1)!}.$$ If this inequality holds for every $n$ and the other conditions of Taylor’s Theorem are satisfied by $f$, then the series converges to $f(x)$.

그렇다면 문제는 $R_n(x)$가 0으로 수렴하는지 확인해야 하는데, 위 정리를 사용하면 이 작업을 간편하게 만들 수 있다.