[선형대수] System of Linear Equations이란?

Linear Equation?

Linear Equation은 선형 방정식을 말합니다.
이렇게 $a_1x_1+a_2x_2 +\cdots+a_nx_n = b$ 일차식으로 나타나는 값을 의미합니다.
$x$가 1차가 아닌 다른 차수를 갖는다면 선형방정식이라고 할 수 없습니다.

이 때 앞에 표시되는 계수 $a_1, a_2, \cdots a_n$은 실수혹은 허수가 올 수 있습니다. 그리고 이러한 계수들을 coefficient라고 부릅니다.

System of linear Equations?

System of linear Equation(줄여서 linear system이라고도 합니다.)은 선형방정식들의 해를 구하기 위해 하나 이상의 선형방정식들을 모아놓은 것을 의미합니다.
$$
x_1 - 2x_2 = 7
$$
$$
x_2 - 3x_2 = 5
$$
위와같이 두개의 방정식을 함께 모아놓은 것을 system of linear equations라고 할 수 있습니다.

위 방정식의 경우 $x_1 = 11,x_2 = 2$로 하나의 해를 구할 수 있습니다.
이렇게 해가 존재하는 경우를 consistent라고 합니다.
consistent한 경우는 하나의 해를 가지는 경우도 있을 수 있고, 무수히 많은 해를 가지는 경우(동일한 선형방정식으로 이루어진 linear system)도 있습니다.

그 반대로 만약 두 선형 방정식이 평행한 경우에는 해가 없을 수 있는데 그 경우에는 inconsistent하다고 말합니다.

다른 linear system가 가지고 있는 해가 동일한 경우 두개의 linear system은 equivalent하다고 합니다.

Matrix로 표현하기

linear system을 matrix로 간단하게 표현할 수 있습니다.
표현하는 방법은 coefficient matrix와 augmented matrix 두가지 방법이 있습니다. 아래 linear system 활용하여 설명하도록 하겠습니다.

$$
a_1x_1 - b_1x_2 - c_1x_3 = d_1
$$
$$
a_2x_1 - b_2x_2 - c_2x_3 = d_2
$$
$$
a_3x_1 - b_3x_2 - c_3x_3 = d_3
$$

1. coefficient matrix
   coefficient는 위에서 계수를 의미합니다. 즉 계수들을 행렬로 표현하는 방법입니다.
   $$
   \begin{bmatrix} a_1 & a_2 & a_3 \\
   b_1 & b_2 & b_3 \\
   c_1 & c_2 & c_3 \\
   \end{bmatrix}
   $$
   위 행렬처럼 표현해 줄 수 있으며 1행에는 첫번째 선형방정식의 계수들을 2행에는 두번째 선형방정식의 계수를 3행에는 3번째 선형방정식의 계수를 넣어주면 됩니다.
2. augmented matrix
   augmented matrix는 coefficient matrix에서 선형방정식 = 뒤에 있는 bias 값들까지 포함하여 행렬로 표현하는 방법을 의미합니다.
   $$
   \begin{bmatrix}
   a_1 & a_2 & a_3 & d_1\\
   b_1 & b_2 & b_3 & d_2\\
   c_1 & c_2 & c_3 & d_3\\
   \end{bmatrix}
   $$
   각 coefficient matrix에서 각 행을 표현하는 선형방정식의 bias를 뒤에 넣어주어 표현할 수 있습니다.

Linear System 풀이

linear System을 풀이하는 방법을 예시의 linear system을 풀이하며 알아보도록 하겠습니다.
$$(1) \quad x_1 - 2x_2 - 3x_3 = 5
$$
$$(2) \quad x_1 - 4x_2 - 1x_3 = 3
$$
$$(3) \quad x_1 - 3x_2 - 5x_3 = 10
$$

(1)식을 활용하여 (2)와 (3)식의 $x_1$을 제거하기 위해 - 연산을 수행합니다.
$$(1) \quad x_1 - 2x_2 - 3x_3 = 5
$$
$$(2) \quad - 2x_2 + 2x_3 = -2
$$
$$(3) \ \ \ \quad -x_2 - 2x_3 = 5
$$

(2)식을 활용하여 (3)식의 $x_2$를 제거하려고 합니다. 이를 위해 (2)식에 $\frac{1}2$를 곱하도록 하겠습니다.

$$(1) \quad x_1 - 2x_2 - 3x_3 = 5
$$
$$(2) \quad \ \ \ - x_2 + x_3 = -1
$$
$$(3) \ \ \ \quad -x_2 - 2x_3 = 5
$$

(3)식에서 (2)식을 -하여 $x_2$의 값을 제거하겠습니다.
$$(1) \quad x_1 - 2x_2 - 3x_3 = 5
$$
$$(2) \quad \ \ \ - x_2 + x_3 = -1
$$
$$(3) \qquad \qquad - 3x_3 = 6
$$

구해진 $x_3$를 활용하여 (2)식에 대입하고 (1)식에 대입하면 $x_1, x_2, x_3$값을 구할 수 있습니다.

이렇게 linear system을 해결하는 과정을 살펴보았습니다. 이 과정을 agumented matrix를 활용하여 표현하게 된다면 행에 대한 연산으로 이 과정을 구할수 있게 됩니다. 따라서 선형방정식을 풀이하기 위해 사용되는 operation들을 row operations라고 부릅니다.

row operations

row operation은 replacement, scaling,ìnterchange가 있습니다.

• replacement는 각 행으로 - 혹은 +연산을 해주어 $x$값을 제거해주는 것을 의미합니다.
• scaling은 예시로 보여주었던 연산에서 $x_2$의 값을 제거하기 위해 (2)식에 $\frac{1}2$를 곱하여 주는 과정과 같이 곱셈을 통해 값을 조정해주는 것을 의미합니다.
• interchange는 linear system을 좀 더 편하게 풀 수 있도록 행의 위치를 변경해주는 것을 의미합니다.