Rotation
2 dimesion Cartesian coordinate에 점 $(x, y)$가 주어졌다고 하자. 이때 기존 좌표계를 원점을 기준으로 반시계 방향으로 $\theta$만큼 회전했을 때 기존 점의 좌표와 변경된 점의 좌표 $(x', y')$는 다음의 관계식을 통해 기술된다. $$\begin{pmatrix} x' \\ y' \end{pmatrix} = \begin{pmatrix} \cos \theta & \sin \theta \\ - \sin \theta & \cos \theta \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix}$$ 이때 $$S = \begin{pmatrix} \cos \theta & \sin \theta \\ - \sin \theta & \cos \theta \end{pmatrix}, \\ S' = \begin{pmatrix} \cos \theta & - \sin \theta \\ \sin \theta & \cos \theta \end{pmatrix}$$라고 하자. 이러면 $$\begin{pmatrix} x \\ y \end{pmatrix} = S' S \begin{pmatrix} x \\ y \end{pmatrix}$$가 성립하므로 $S'S = I$, 즉 $S' = S^{-1}$이다. 그런데 $S' = S^T$이기도 하므로 결국 $S^{-1} = S^T$이다. 이처럼 transpose와 inverse가 동일한 특수한 경우의 행렬을 orthogonal matrix라고 부른다.
$n \times n$ orthogonal matrix의 중요한 성질 중 하나는 row들의 집합 혹은 column들의 집합이 $\mathbb{R}^n$의 orthonormal basis를 이룬다는 사실이다. 위에서 정의한 $S$는 사실 다음과 같이 작성할 수 있다. $$S = \begin{pmatrix} \hat{\mathbf{e}}'_x \cdot \hat{\mathbf{e}}_x & \hat{\mathbf{e}}'_x \cdot \hat{\mathbf{e}}_y \\ \hat{\mathbf{e}}'_y \cdot \hat{\mathbf{e}}_x & \hat{\mathbf{e}}'_y \cdot \hat{\mathbf{e}}_y \end{pmatrix}$$ 즉 위 행렬의 각 행은 기존 좌표계를 회전하여서 얻어진 새로운 축 방향 단위벡터의 $x, y$ 성분으로 이루어져 있다. 이 말은 서로 다른 행끼리 내적한 값은 $0$이고, 자기 자신과 내적한 값은 $1$이 나온다는 뜻이다.
그런데 이걸 일반화 시켜서 생각해 보면, 기존 직각 좌표계에 어떠한 작용을 하여서 새로운 직각 좌표계를 얻었다면 두 좌표계는 "orthogonal" matrix로 기술될 수 있다는 뜻이다. 이를 요약하면 다음과 같다.
The transformation from one orthogonal Cartesian coordinate system to another Cartesian system is described by an orthogonal matrix.
일반적으로 orthgonal matrix의 determinant는 $\pm 1$의 값을 가지지만, 위에서 살펴본 예시와 같은 rotation의 경우는 항상 $+1$의 determinant를 가진다. 이런 회전 행렬을 고유 회전(proper rotation)이라고 부른다.
$\mathbb{R}^3$의 rotation도 생각해 보자. 여기서부터는 성분이 많아서 표기가 복잡해지므로 기존 직각 좌표계의 축을 $x_1, x_2, x_3$로 표기하고 변환된 좌표계의 축을 $x'_1, x'_2, x'_3$으로 표기하자. 또한 $\lambda_{ij} = \hat{\mathbf{e}}'_i \cdot \hat{\mathbf{e}}_j$로 정의하자. 그러면 3차원 회전 행렬 $S$는 $$S =
\begin{pmatrix}
\lambda_{11} & \lambda_{12} & \lambda_{13} \\
\lambda_{21} & \lambda_{22} & \lambda_{23} \\
\lambda_{31} & \lambda_{32} & \lambda_{33}
\end{pmatrix}$$로 주어진다. 이러한 $\lambda_{ij}$를 direction cosine, 방향 코사인이라고 부른다. 사실상 $\lambda_{ij}$는 기존 $j$번째 축 방향 단위 벡터의 변환된 $i$번째 축 방향 단위 벡터만큼의 변화량이므로, 위 행렬은 다음과도 같이 작성할 수 있다. $$S =
\begin{pmatrix}
\frac{\partial x_1}{\partial x'_1} & \frac{\partial x_2}{\partial x'_1} & \frac{\partial x_3}{\partial x'_1} \\
\frac{\partial x_1}{\partial x'_2} & \frac{\partial x_2}{\partial x'_2} & \frac{\partial x_3}{\partial x'_2} \\
\frac{\partial x_1}{\partial x'_3} & \frac{\partial x_2}{\partial x'_3} & \frac{\partial x_3}{\partial x'_3}
\end{pmatrix}$$ 변화량의 관점에서 봤을 때 순서를 바꿔도 상관이 없으므로 $$\frac{\partial x_j}{\partial x'_i} = \frac{\partial x'_i}{\partial x_j}$$가 성립한다.
3차원에서 각각 $x, y, z$축을 기준으로 회전했을 때 나타나는 회전행렬은 다음과 같다. $$S_z = \begin{pmatrix} \cos \theta & \sin \theta & 0 \\ -\sin \theta & \cos \theta & 0 \\ 0 & 0 & 1 \end{pmatrix}, S_y = \begin{pmatrix} \cos \theta & 0 & -\sin \theta \\ 0 & 1 & 0 \\ \sin \theta & 0 & \cos \theta \end{pmatrix}, S_x = \begin{pmatrix} 1 & 0 & 0 \\ 0 & \cos \theta & \sin \theta \\ 0 & - \sin \theta & \cos \theta \end{pmatrix}$$ 유심히 꼴을 보면, -부호가 붙는 쪽은 회전했을 때 상대적으로 더 반시계 방향에 있는 축이다. 예를 들어 $z$축 회전인 경우 $x$축에서 $y$축으로 가는 방향이 반시계 방향이고, 따라서 $y$축에 해당하는 행에 -가 붙는다. 같은 논리를 $y$축 회전, $x$축 회전에도 적용할 수 있다. $y$축 회전인 경우 $z$축에서 $x$축으로 가는 방향이 반시계 방향이고, 따라서 $x$축에 해당하는 행에 -가 붙는다.
이렇게 생각할 수 있는 이유는 회전한 뒤 각 축에 대항하는 성분 중 어느 게 증가하고 감소했는지 생각하면 된다. $z$축 회전의 경우 회전한 뒤 고정점의 성분은 $x$는 증가하고 $y$는 감소했을 것이다. 감소했다는 뜻은 -가 붙어서 크기를 줄였다는 뜻이기에 $y$축 행에 -가 붙었다고 기억할 수 있다.
Reflection
그런데 기존 좌표계를 변형하는 방법이 rotation만 있지는 않다. 또 다른 가능성으로는 reflection이 있다. 예컨대 $\hat{\mathbf{e}}'_{\mu} = - \hat{\mathbf{e}}'_{\mu} (\mu = x, y, z)$와 같은 변환의 경우 $$S = \begin{pmatrix} -1 & 0 & 0 \\ 0 & -1 & 0 \\ 0 & 0 & -1 \end{pmatrix}$$로 기술된다. 이때 행렬식은 $-1$이 나온다. 이 외에도 특정 평면에 대해 reflection할 경우에도 determinant는 $-1$이 나온다. Rotation이 어떻게 해도 handdeness of the system을 바꿀 수 없는 반면에, reflection은 바꾼다.
Pseudovector
Reflection에 대해서 pseudovector라는 요상한 object를 정의할 수 있다. 일반적으로 reflection의 경우, 예컨대 $xy$-평면에 대해서 대칭이동하면 $x, y$ 성분은 부호가 그대로 유지되고 $z$ 성분은 부호가 반대로 바뀐다. pseudovector는 동일한 변환을 했을 때 부호가 거꾸로 바뀌는 녀석이다. 즉 $xy$-평면 대칭이동 시 $x, y$ 성분의 부호가 바뀌고 $z$ 성분의 부호는 동일한 대상이다. 두 벡터의 연산들, 예컨대 합, 스칼라배, 내적 등은 어떻게 reflection을 하든 간에 "상식적으로" 부호가 바뀐다. 그런데 Cross product는 위에서 언급한 pseudovector의 성질을 그대로 따른다. 이 두 벡터를 구분하기 위해 일반적인 벡터를 polar vector, pseudovector는 axial vector라고도 부른다. 일반적인 벡터가 determinant가 $1$인 행렬 $S$에 대해 $A' = SA$와 같이 기술된다면, pseudovector까지 포함하여 관계식을 다시 작성하면 $A' = \det(S)SA$가 된다. 대표적은 pseudovector로 scalar triple product가 있다.