Linearly dependence and independence

Generate

Definition 1. We say that $S \subseteq V$ generates (or spans) $V$ if <$S$> = $V$. In this case, we also say that the vectors of $S$ generate (or span) $V$.

    어떤 벡터 공간 $V$에 대해서 이를 생성하는 집합을 알 수 있다면 $V$를 다루는 것이 훨씬 수월해진다. 굳이 전체 공간인 $V$를 다룰 필요 없이 훨씬 더 작은 크기의 집합을 가지고 $V$를 표현할 수 있기 때문이다. 이때 이러한 generating set은 여러 개가 존재할 수 있기에 그중에서도 가장 크기가 작은 집합을 고르는 것이 자연스럽다. 
    예컨대 어떤 generating set 안의 한 벡터가 그 집합의 다른 벡터들의 linear combination으로 나타낼 수 있다면 표현된 벡터를 제거시켜도 무방하다. 그렇게 하여도 우리가 축소시킨 집합은 generating set이기 때문이다.

    그러나 어떤 벡터가 제거 가능한지 판별하는 과정은 상당히 지루하고 귀찮다. 하나하나 전부 골라내어 계산해야 하기 때문이다. 그런데 한 벡터가 다른 벡터들로 표현 가능하다는 말은, 다시 말해 $x = \sum a_iu_i$로 표현 가능하다는 말은 $\mathbf{0} = \sum a_iu_i + (-x)$, 즉 linear combination으로 영벡터를 나타낼 수 있다는 말과 동치이다. 따라서 주어진 집합이 축소 가능한지의 여부는 영벡터를 기준으로 쉽게 결정 가능하며 자연스럽게 다음의 정의를 제시할 수 있다.

---

Linearly dependence and independence

Definition 2. Let $S \subseteq V$.
(1) $S$ is called linearly dependent if $\exists$ distinct vectors $u_i \in S (i = 1, ..., n)$ and $a_i \in F (i = 1, ..., n)$, not all zero, such that $$\sum_{i=1}^{n} a_iu_i = \mathbf{0}.$$ In this case, we also say that the vectors of $S$ are linearly dependent.  
(2) $S$ is called linearly independent if $S$ is not linearly dependent. As before, we also say that the vectors of $S$ are linearly independent. 

    만일 주어진 집합이 linearly independent 하다면, 다시 말해 영벡터를 linear combination으로 표현할 때 모두 0이 아닌 계수들로 표현할 수 없다면, 남은 방법은 하는 수 없이 모든 계수를 0으로 주는 것이 유일하다. 이렇게 영벡터를 표현하는 방법을 the trivial representation of $\mathbf{0}$이라고 부른다. 즉 영벡터를 trivial하게 나타낼 수 밖에 없는 집합을 linearly independent라고 말할 수 있다.

Remark

Remark.  
(1) $\emptyset$ is linearly independent.
(2) A set consisting of a single nonzero vector is linearly independent.
(3) Let $u$ and $v$ be distinct vectors in $V$. Then $\{u, v\}$ is linearly dependent $\Longleftrightarrow$ $u$ or $v$ is a multiple of the other.
(4) If $\mathbf{0} \in S$, then $S$ is linearly dependent.

---

Theorem 1

Theorem 1. Let $S_1 \subseteq S_2 \subseteq V$. Then the following statements hold:
(a) If $S_1$ is linearly dependent, then $S_2$ is linearly dependent.
(b) If $S_2$ is linearly independent, then $S_1$ is linearly independent.

    $S_1$이 linearly dependent 하다면, 이미 $S_1$만 가지고도 영벡터를 nontrivial하게 표현할 수 있기 때문에 $S_2$는 자동으로 linearly dependent 하게 된다. 거꾸로 $S_2$가 linearly independent 하다면, 애초에 $S_2$의 선택지들을 가지고도 영벡터를 trivial하게만 표현할 수 있었는데, 거기서 더 선택지를 줄인 $S_1$에서 nontrivial한 표현을 만들어 낼 수 있을 리 없다. 

Proof.  
(a) Since $S_1$ is linearly dependent, $\exists u_i \in S, a_i \in F$, not all zero, such that $\sum a_iu_i = \mathbf{0}$. Since $u_i \in S_2$, $S_2$ is linearly dependent.
(b) By the contrapositive of (a), it also holds. $\blacksquare$

---

Theorem 2

Theorem 2. Let $S \subseteq V$ be linearly independent, and let $v \in V$ that $v \notin S$. Then $S \cup \{v\}$ is linearly dependent $\Longleftrightarrow v \in$ <$S$>.

    결국 우리가 찾는 집합, 즉 generating set 중 가장 작은 집합은 linearly independent 해야 한다는 사실을 자연스럽게 알 수 있다. 만약 linearly dependent 하다면 몇몇 벡터를 제거시킴으로써 크기를 줄일 수 있었다. 이 말을 뒤집어서, 만일 집합의 외부에서 가지고 온 벡터가 그 집합의 벡터들로 표현이 가능하다면 전체 집합은 linearly dependent 할 것이다. 위 정리는 이 사실을 보장해 준다.

    다른 한편으로는, 이런 식으로 우리는 linearly independent set을 확장시켜나갈 수 있다. 벡터들이 주어진 집합의 span에 속하지 않는다면 그 벡터를 포함시켜도 여전히 independent 하므로, 유한집합에 한해서 우리는 가장 크기가 큰 linearly independent set을 잡을 수 있다. 

Proof.
($\Longleftarrow$) Trivial.
$(\Longrightarrow)$ Suppose that $$\sum_{i=1}^n a_iu_i = \mathbf{0}$$ for $a_i \in F$, not all zero, $u_i \in S \cup \{v\} (i = 1, ..., n)$. Since $S$ is linearly independent, one of the $u_i's$, say $u_1$, equals $v$. Then $$v = \sum_{i=2}^n (-\frac{a_i}{a_1})u_i.$$ Thus $v \in$ <$S$>. $\blacksquare$

---

Reference is here: https://product.kyobobook.co.kr/detail/S000003155051

Linear Algebra | Stephen Friedberg - 교보문고