내적

Chapter 2 : Inner Products

Edited by / 석주영 (scottsuk0306)

목차
1. 내적

내적

내적을 통해 벡터의 길이, 벡터 간의 각도, 거리를 직관적으로 이해할 수 있다. 그 중 내적의 가장 큰 목적은 벡터가 직교하는지 판단하는 것이다.

스칼라 곱 (Dot Product)

두 벡터 $x, y \in \mathbb{R}^n$에 대해서 스칼라 곱은 다음과 같이 정의된다. 스칼라 곱은 내적의 가장 익숙한 형태로, 두 벡터 간의 연산으로 하나의 스칼라 값이 나온다.

\[\begin{align} x^{\mathsf{T}}y = \sum_{i=1}^{n}x_iy_i \end{align}\]

내적의 일반적인 정의

내적을 엄밀하게 정의하기 전에, 쌍선형사상(Bilinear Mapping)을 짚고 넘어가야 할 필요가 있다. 쌍선형사상 $\Omega$는 두 개의 인자를 가지며, 각 인자에 대해서 선형성을 가진다. 따라서 다음 두 식이 성립한다.

\[\begin{align} \Omega(\lambda x + \psi y, z)=\lambda \Omega(x,z) + \psi \Omega(y,z)\\\Omega(x,\lambda y + \psi z)=\lambda \Omega(x,z) + \psi \Omega(y,z) \end{align}\]

쌍선형사상에서 대칭과 양의 정부호에 관한 개념도 함께 살펴보자.

\[\begin{align} \text{대칭(Symmetric)}: \forall x, y \in V \quad \Omega(x,y) = \Omega(y,x) \end{align}\] \[\begin{align} \text{양의 정부호(Positive Definite)}: \forall x \in V-\{0\} \quad \Omega(x,x) \geq 0, \ \Omega(0,0)=0 \end{align}\]

위의 설명과 함께 일반적인 벡터 공간 $V$에 대한 내적은 다음과 같이 정의된다. 양의 정부호이고 대칭인 쌍선형사상 $\Omega:V \times V \mapsto \mathbb{R}$을 벡터 공간 $V$에 대한 내적이라고 하며, 일반적으로 $\Omega(x,y)$ 대신 $<x,y>$로 표기한다. 또한, $(V, \langle \cdot, \cdot \rangle)$을 내적공간이라고 한다. 내적을 스칼라 곱을 사용해서 연산한다면, 내적 공간을 유클리디안 벡터 공간이라고 한다.

대칭 (Symmetric) 행렬, 양의 정부호 (Positive Definite) 행렬

대칭 행렬과 양의 정부호 행렬은 머신러닝에서 중요한 역할을 하는데, 내적을 통해 정의할 수 있다.

먼저 다음 조건을 만족하는 두 벡터 $x,y$에 대하여 내적을 계산해보자.

$n$차원 벡터 공간 $V$의 내적 $\langle \cdot, \cdot \rangle: V \times V \mapsto \mathbb{R}$
$V$에 대한 순서 기저 $B = (b_1, \cdots, b_n)$
$x, y \in V$
$ x = \sum_{i=1}^{n} \psi_i x_i \in V, y = \sum_{j=1}^{n} \lambda_j y_j \in V$

\[\begin{align} \langle x, y \rangle = \langle \sum_{i=1}^{n} \psi_i x_i, \sum_{j=1}^{n} \lambda_j y_j \rangle = \sum_{i=1}^{n} \sum_{j=1}^{n} \psi \langle b_i, b_j \rangle \lambda_j = \hat{x}^{\mathsf{T}} A \hat{y} \end{align}\]

이 때, $\hat{x}, \hat{y}$는 기저 $B$에 대한 $x,y$의 좌표를 뜻한다. 여기서 우리느 내적의 대칭성과 양의 정부호 성에 의해서 $A$는 대칭 행렬이고 양의 정부호 행렬임을 알 수 있다. $A$의 영공간은 오직 0으로 구성되고, 대각선의 원소 $a_{ii}$는 $a_{ii}={e_i}^{\mathsf{T}}Ae_i > 0$이기 때문에, 양수이다.

'해석기하학' 카테고리의 다른 글