Rotation
2 dimesion Cartesian coordinate에 점 가 주어졌다고 하자. 이때 기존 좌표계를 원점을 기준으로 반시계 방향으로 만큼 회전했을 때 기존 점의 좌표와 변경된 점의 좌표 는 다음의 관계식을 통해 기술된다. 이때 라고 하자. 이러면 가 성립하므로 , 즉 이다. 그런데 이기도 하므로 결국 이다. 이처럼 transpose와 inverse가 동일한 특수한 경우의 행렬을 orthogonal matrix라고 부른다.
orthogonal matrix의 중요한 성질 중 하나는 row들의 집합 혹은 column들의 집합이 의 orthonormal basis를 이룬다는 사실이다. 위에서 정의한 는 사실 다음과 같이 작성할 수 있다. 즉 위 행렬의 각 행은 기존 좌표계를 회전하여서 얻어진 새로운 축 방향 단위벡터의 성분으로 이루어져 있다. 이 말은 서로 다른 행끼리 내적한 값은 이고, 자기 자신과 내적한 값은 이 나온다는 뜻이다.
그런데 이걸 일반화 시켜서 생각해보면, 기존 직각 좌표계에 어떠한 작용을 하여서 새로운 직각 좌표계를 얻었다면 두 좌표계는 "orthogonal" matrix로 기술될 수 있다는 뜻이다. 이를 요약하면 다음과 같다.
The transformation from one orthogonal Cartesian coordinate system to another Cartesian system is described by an orthogonal matrix.
일반적으로 orthgonal matrix의 determinant는 의 값을 가지지만, 위에서 살펴본 예시와 같은 rotation의 경우는 항상 의 determinant를 가진다.
의 rotation도 생각해보자. 여기서부터는 성분이 많아서 표기가 복잡해지므로 기존 직각 좌표계의 축을 로 표기하고 변환된 좌표계의 축을 으로 표기하자. 또한 로 정의하자. 그러면 3차원 회전 행렬 는
로 주어진다. 사실상 는 기존 번째 축 방향 단위 벡터의 변환된 번째 축 방향 단위 벡터 만큼의 변화량이므로, 위 행렬은 다음과도 같이 작성할 수 있다. 변화량의 관점에서 봤을 때 순서를 바꿔도 상관이 없으므로 가 성립한다.
Reflection
그런데 기존 좌표계를 변형하는 방법이 rotation만 있지는 않다. 또 다른 가능성으로는 reflection이 있다. 예컨대 와 같은 변환의 경우 로 기술된다. 이때 행렬식은 이 나온다. 이 외에도 특정 평면에 대해 reflection할 경우에도 determinant는 이 나온다. Rotation이 어떻게 해도 handdeness of the system을 바꿀 수 없는 반면에, reflection은 바꾼다.
Pseudovector
Reflection에 대해서 pseudovector라는 요상한 object를 정의할 수 있다. 일반적으로 reflection의 경우, 예컨대 -평면에 대해서 대칭이동하면 성분은 부호가 그대로 유지되고 성분은 부호가 반대로 바뀐다. pseudovector는 동일한 변환을 했을 때 부호가 거꾸로 바뀌는 녀석이다. 즉 -평면 대칭이동 시 성분의 부호가 바뀌고 성분의 부호는 동일한 대상이다. 두 벡터의 연산들, 예컨대 합, 스칼라배, 내적 등은 어떻게 reflection을 하든간에 "상식적으로" 부호가 바뀐다. 그런데 Cross product는 위에서 언급한 pseudovector의 성질을 그대로 따른다. 이 두 벡터를 구분하기 위해 일반적인 벡터를 polar vector, pseudovector는 axial vector라고도 부른다. 일반적인 벡터가 determinant가 인 행렬 에 대해 와 같이 기술된다면, pseudovector까지 포함하여 관계식을 다시 작성하면 가 된다. 대표적은 pseudovector로 scalar triple product가 있다.