#2. Basis of Linear Algebra : Matrix Notation

Keywords

• Matrix Notation
• Square matrix
• Rectangle matrix
• Transpose matrix
• Matrix Operations

---

Ⅰ. Matrix Notation

Matrix(=행렬)는 linear algebra 및 machine learning에서 가장 많이 사용되는 기본 자료형으로 그 쓰임새나 종류 또한 매우 다양하다. 그렇기에 이들을 정리하고 잘 파악할 필요가 있다.
가장 간단한 2개의 Vector를 예시로 들어보자.

아래 Column vector x를 보자.
$$\textbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \cdots \\ x_n \\ \end{bmatrix} \in \mathbb{R}^n = \mathbb{R}^{n \times 1}$$
Column vector는 행이 1로 고정된 벡터이다.

다음 Row vector a를 보자.
$$\textbf{a} = \begin{bmatrix} x_1  x_2  \cdots  x_n  \end{bmatrix} \in \mathbb{R}^n = \mathbb{R}^{1 \times n}$$ 
Row vector는 열이 1로 고정된 벡터이다. 

위의 2개 예시처럼,
어떠한 행렬 $A$를 표기할 때 $A \in \mathbb{R}^{m \times n}$으로 표기될 경우 $A$는 $m \times n$형태의 행렬임을 알 수 있다. 

Ⅱ. Category of Matirx and expression

1. Square Matrix
  - 행의 갯수와 열의 갯수가 동일한 정사각행렬을 의미한다. (#rows $=$ #colums)
  - $A \in \mathbb{R}^{n \times n}$

2. Rectangle Matrix
  - 행의 갯수와 열의 갯수가 동일하지 않은 행렬을 의미한다. (#rows $\not=$ #columns)
  - $A \in \mathbb{R}^{m \times n}, (m \not= n)$

3. Transpose Matrix
  - 주 대각선(main diagonals)을 축으로 하는 대칭(mirroring)을 가하여 얻은 행렬을 의미한다.
  - 기본 행렬 $A$에 대하여 전치행렬은 $A^T$와 같이 표기한다. 
  - $A = \begin{bmatrix} 1 & 6 \\ 3 & 4 \\ 5 & 2  \end{bmatrix},    A^T = \begin{bmatrix} 1 & 3 & 5 \\ 6 & 4 & 2  \end{bmatrix}$

Ⅲ. Matrix Operations

1. Matrix Sum (행렬덧셈) : 각각의 모든 entry를 더하면 된다.
$$C = A+B : \begin{bmatrix} 1 \\ 0 \\ 2  \end{bmatrix} + \begin{bmatrix} 2 \\ 3 \\ 4  \end{bmatrix} = \begin{bmatrix} 3 \\ 3 \\ 6  \end{bmatrix}$$

2. Scalar Multiple (스칼라 곱) : r 스칼라와 A 행렬이 있으면 스칼라 곱 rA를 할 수 있다.
$$2B = 2\begin{bmatrix} 1 & 1 & 1 \\ 3 & 5 & 7  \end{bmatrix} = \begin{bmatrix} 2 & 2 & 2 \\ 6 & 10 & 14  \end{bmatrix}$$
$$A - 2B = \begin{bmatrix} 4 & 0 & 5 \\ -1 & 3 & 2  \end{bmatrix} - \begin{bmatrix} 2 & 2 & 2 \\ 6 & 10 & 14  \end{bmatrix} = \begin{bmatrix} 2 & -2 & 3 \\ -7 & -7 & -12  \end{bmatrix}$$

3. Matrix Multiplication (행렬 곱) : mxn matrix A 와 nxp matrix B를 곱하면 mxp matrix AB를 생성합니다.
$$C_{i,j}=\Sigma_{k}A_{i,k}B_{k,j}$$
$$\begin{bmatrix} 3 & 2 & 1  \end{bmatrix}\begin{bmatrix} 1 \\ 3 \\ 5  \end{bmatrix} = [14]$$