Open Set
Definition 1. Given $a \in \mathbb{R}$ and $\epsilon > 0$, the set $$V_{\epsilon}(a) = \{x \in \mathbb{R} \,|\, |x-a| < \epsilon \}$$ is called the $\epsilon$-neighborhood of $a$.
$a$의 $\epsilon$-근방, 줄여서 근방은 주어진 점을 중심으로 일정 간격 내에 있는 점들의 집합이다. 직관적으로 1차원이라면 open interval, 2차원이라면 경계를 포함하지 않는 disk, 3차원이라면 표면을 포함하지 않는 ball을 생각하면 된다.
Definition 2. A set $O \subseteq \mathbb{R}$ is open if for all points $a \in O$ there exists an $\epsilon$-neighborhood $V_{\epsilon}(a) \subseteq O$.
어떤 집합이 open, 즉 열려있다는 말은 그 집합의 임의의 점을 택해서 아무렇게나 근방을 잡아도 그 집합에 속해있다는 말이다.
Figure 1을 보자. 쉽게 $\mathbb{R}^2$를 생각했을 때, 왼쪽과 같이 근방을 잡는다면 여전히 기존 집합 $V$에 근방이 완전히 포함되어 있다. 그러나 오른쪽과 같이 집합의 경계에 위치한 점에서 근방을 잡는다면 근방이 $V$에 완전히 포함되지 않는다. 즉 집합이 열려 있다는 말은 오른쪽과 같은 상황이 발생하지 않는 집합이라는 말이다.
왜 '열려 있다'라는 용어를 사용했는지는 $\mathbb{R}$에서의 open interval을 생각하면 된다. 직관적으로 어떤 open interval이든 그 안의 점에서 근방을 어떻게 잡든 간에 항상 interval에 포함됨을 알 수 있다. 그러나 closed interval이라면 각 끝점에서 근방을 잡을 시에 결코 완전히 포함될 수 없으므로, 이러한 이미지를 염두에 두고 open이라는 이름을 붙였음을 유추할 수 있다. 당연하게도 모든 근방은 열려있음을, 즉 임의의 $\epsilon$-neighborhood는 open임을 알 수 있다.
Limit Point
Definition 3. A point $x$ is a limit point of a set $A$ if every $\epsilon$-neighborhood of $x$ intersects $A$ at some point other than $x$.
직역하면 주어진 점 $x$의 모든 근방이 $A$와 $x$와는 다른 어떤 점에서 교차, 즉 공통 원소를 가진다는 말이다. 조금 더 수학적인 용어로 작성하면 다음과 같다. $$\forall \epsilon > 0, V_{\epsilon}(x) \cap (A \backslash \{x\}) \neq \emptyset$$ 이때 모든 $x$의 근방이 $A$와 함께 가지고 있는 하나의 고정된 점이 있다고 생각해선 안된다. 어떻게 근방을 잡아도 그저 $A$와 공통된 원소가 그때마다 존재하면 상관없다.
다시 Figure 1으로 돌아가자. 왼쪽이든 오른쪽이든, 위 점들에서 어떻게 근방을 잡아도 항상 그 근방과 기존의 집합 $V$는 겹치는 부분이 생긴다. 다시 말해 공통 원소를 항상 가지고 있다. 따라서 위 점들은 주어진 집합의 limit point, 즉 극한점이 되는 것이다.
정의에서 왜 하필 $x$가 아닌 점들을 공통으로 가지는 것이 조건으로 들어갔는지 잘 이해가 가지 않을 것이다. 이는 조금 아래에서 설명하겠다.
언뜻 보면 극한이나 수렴과는 일절 관계가 없어보이지만, $\epsilon$을 한없이 줄여나가도 $A$의 원소를 포함하고 있는 상황을 상상해 보면 일종의 수열이 주어진 극한점으로 수렴해 가는 이미지를 그려볼 수 있다. 이를 다음의 정리로 작성할 수 있다.
Theorem 1. A point $x$ is a limit point of a set $A$ $\iff$ $x = \lim a_n$ for some sequence $(a_n) \subseteq A$ satisfying $a_n \neq x, \forall n \in \mathbb{N}$.
즉 $x$가 $A$의 limit point라는 말은 $x$로 수렴하는 어떤 수열을 잡아낼 수 있다는 말과 동치이다. 따라서 limit point란 특정 집합에 속한 수열들이 수렴할 수 있는 모든 값들, 즉 일종의 '극한의 후보들'로 생각할 수 있다.
Proof. $(\Longrightarrow)$ $x$를 $A$의 limit point라 하자. 여기서 $x$로 수렴하는 어떤 수열을 구체적으로 잡아내기만 하면 된다. 우선 limit point의 정의를 그대로 써보자.
$$\forall \epsilon > 0, V_{\epsilon}(x) \cap (A \backslash \{x\}) \neq \emptyset$$ 여기서 어떻게 수열을 잡아낼 수 있을까? 모든 $\epsilon$에 대해서 위 조건을 만족하므로, $\epsilon$을 자연수 $n$에 대해서 표현해 볼 수 있다. 그럼 그렇게 표현된 각 $\epsilon$마다 위의 교집합된 집합은 공집합이 아니므로 어떤 원소들을 적어도 하나는 뽑아낼 수 있고, 그것들은 주어진 $\epsilon$, 즉 $n$에 의존하므로 하나의 수열로 만들어 낼 수 있다.
그럼 구체적으로 어떻게 $\epsilon$을 정의할까? 위에서 설명한 것처럼 limit point는 $\epsilon$을 한없이 줄여나가도 항상 그 근방이 $A$의 원소를 들고 있으므로, $\epsilon$을 줄여나갈수록 수열이 점점 나열, 즉 $n$이 커지면 된다. 이러한 조건을 만족하도록 잡는 제일 간단한 방법은 $\epsilon = \frac{1}{n}$이다. 따라서 $$V_{\frac{1}{n}}(x) \cap (A \backslash \{x\}) \neq \emptyset$$이므로 각 $n$마다 $$a_n \in V_{\epsilon}(x) \cap (A \backslash \{x\})$$을 만족하는 $a_n$을 잡아낼 수 있으므로, 이렇게 해서 수열 $(a_n)$을 만들어 낼 수 있다.
이제 실제로 $(a_n)$이 $x$로 수렴하는지만 확인하면 된다. 우선 위의 조건을 풀어보면 각 $n$마다 $$|a_n - x| < \frac{1}{n}$$을 만족한다. 정의에 의하면, 어떻게 $\epsilon$을 가져다주어도 어떤 항 이후부터는 $a_n \in V_{\epsilon}(x)$이면 된다. '어떤 항 이후부터'라는 말은, '어떤 $N \in \mathbb{N}$이 존재해서 $n \geq N$을 만족하는 $n$부터는'과 같다. 이때 $n \geq N \iff \frac{1}{N} \geq \frac{1}{n}$이므로, 자연스럽게 $\frac{1}{N} < \epsilon$을 만족하는 $N$을 잡아낼 수 있다. 임의의 $\epsilon$에 대해 $\frac{1}{N} < \epsilon$을 만족하는 $N$이 항상 존재함은 자명하다. 따라서 수열 $(a_n)$은 $x$로 수렴한다.
$(\Longleftarrow)$ 수열 $(a_n)$이 $x$로 수렴하고 정리의 조건을 모두 만족한다고 가정하자. 그러면 임의의 $\epsilon$에 대하여 $V_{\epsilon}(x) \cap (A \backslash \{x\})$에 속하는 $a_n$이 항상 존재함은 정의와 위 가정으로부터 자명하다. 따라서 $x$는 $A$의 limit point이다. $\blacksquare$
왜 하필 정의에서 '$x$가 아닌 점들'이라는 조건이 필요한지에 대해서 이제 설명하겠다. 위의 정의에서 만약 이 조건이 없다면, Theorem 1에서 $a_n \neq x$라는 조건도 필요없을 것이다. 이제 어떤 점이 집합 $A$의 limit point임을 보이고자 한다. 이때 문제가 되는 것이 다음과 같은 수열 $$a_n = x, \forall n \in \mathbb{N}$$이다. 이 수열의 존재로 인해 $A$에 속하기만 하면 어떤 점을 가지고 오더라도 그 점은 항상 limit point가 된다. 극단적으로 $\{0\} \cup (1, 2)$와 같은 상황을 상상할 수 있다.
limit point가 극한을 염두에 두고 정의한 개념임을 인지한다면, 위와 같은 상황은 배제시켜야 마땅하다. 위 집합에서 0처럼 홀로 고립되어 있는 점 근방에서는 어떠한 수렴성도 생각할 수 없다. 따라서 '$x$가 아닌 점들'이라는 조건이 필요하다.
참고로, Figure 2에서 1과 2는 주어진 집합에 속하진 않지만 집합의 limit point이다. 즉 어떤 점이 주어진 집합의 limit point라는 것은 그 점이 집합에 속해있을 것을 요구하지 않는다.
생각해보면 Figure 1과 같은 일반적인 집합에서는 위와 같은 고립되어 있는 점이 생기지 않지만, Figure 2와 같은 상황에서 이런 점들은 limit point가 아니다. 따라서 limit point가 아닌 점들을 isolated point라고 정의하자.
Definition 4. A point $a \in A$ is an isolated point of $A$ if it is not a limit point of $A$.
