29.27 선형 함수 공간(Linear Function Space)과 쌍대 공간(Dual Space)

1. 선형 범함수의 정의

체 $\mathbb{F}$ 위의 벡터 공간 $V$ 에서 스칼라 체 $\mathbb{F}$ 로의 선형 사상을 선형 범함수(linear functional) 또는 **선형 형식(linear form)**이라 한다. 즉, $\varphi : V \to \mathbb{F}$ 가 선형 범함수일 조건은

$\varphi(\alpha x + \beta y) = \alpha \varphi(x) + \beta \varphi(y), \quad \forall x, y \in V, \; \forall \alpha, \beta \in \mathbb{F}$

이다. 선형 범함수는 벡터를 입력으로 받아 스칼라를 출력하는 선형 변환의 특수한 경우로, 공역이 $\mathbb{F}$ ( $\mathbb{R}$ 또는 $\mathbb{C}$ )인 것이 특징이다.

2. 선형 범함수의 예시

2.1 $\mathbb{R}^n$ 에서의 선형 범함수

$\mathbb{R}^n$ 위의 모든 선형 범함수는 다음의 형태를 취한다.

$\varphi(x) = a^T x = a_1 x_1 + a_2 x_2 + \cdots + a_n x_n$

여기서 $a = (a_1, a_2, \ldots, a_n)^T \in \mathbb{R}^n$ 은 고정 벡터이다. 이는 $\varphi$ 의 행렬 표현이 $1 \times n$ 행 벡터 $a^T$ 임을 의미한다.

2.2 다항식 공간에서의 선형 범함수

다항식 공간 $P_n(\mathbb{R})$ 위의 선형 범함수의 예시:

점 평가(point evaluation): 고정된 $c \in \mathbb{R}$ 에 대하여

$\text{ev}_c(p) = p(c)$

적분: 고정 구간 $[a, b]$ 에 대하여

$\varphi(p) = \int_a^b p(t) \, dt$

미분 계수: $\varphi(p) = p'(0)$

이들 각각이 선형성을 만족함은 다항식의 덧셈과 스칼라 곱에 대한 점 평가, 적분, 미분의 선형성으로부터 확인된다.

3. 쌍대 공간의 정의

벡터 공간 $V$ 위의 모든 선형 범함수의 집합을 $V$ 의 **쌍대 공간(dual space)**이라 하며, $V^*$ 로 표기한다.

$V^* = \mathcal{L}(V, \mathbb{F}) = \{\varphi : V \to \mathbb{F} \mid \varphi \text{는 선형}\}$

4. 쌍대 공간의 벡터 공간 구조

$V^*$ 는 다음의 연산에 의하여 벡터 공간을 이룬다.

선형 범함수의 덧셈: $(\varphi + \psi)(x) = \varphi(x) + \psi(x)$

스칼라 곱: $(\alpha \varphi)(x) = \alpha \cdot \varphi(x)$

이 연산들이 벡터 공간의 공리를 만족함은 $\mathbb{F}$ 의 체 구조로부터 직접 확인된다. 영 벡터는 영 범함수 $0(x) = 0$ ( $\forall x \in V$ )이다.

5. 쌍대 공간의 차원

정리. $V$ 가 유한 차원 벡터 공간이면 $\dim(V^*) = \dim(V)$ 이다.

증명. $\dim(V) = n$ 이라 하고, $\mathcal{B} = \{v_1, v_2, \ldots, v_n\}$ 을 $V$ 의 기저라 하자. 각 $i = 1, 2, \ldots, n$ 에 대하여 선형 범함수 $\varphi_i : V \to \mathbb{F}$ 를

$\varphi_i(v_j) = \delta_{ij} = \begin{cases} 1 & \text{if } i = j \\ 0 & \text{if } i \neq j \end{cases}$

로 정의하라. 기저에서의 값이 지정되면 선형성에 의해 $\varphi_i$ 가 유일하게 결정된다.

$\{\varphi_1, \varphi_2, \ldots, \varphi_n\}$ 이 $V^*$ 의 기저임을 보인다.

일차독립: $\sum_{i=1}^n c_i \varphi_i = 0$ 이면, 모든 $v_j$ 에 대하여

$0 = \left(\sum_{i=1}^n c_i \varphi_i\right)(v_j) = \sum_{i=1}^n c_i \varphi_i(v_j) = c_j$

따라서 $c_1 = c_2 = \cdots = c_n = 0$ .

생성: 임의의 $\varphi \in V^*$ 에 대하여, $\varphi = \sum_{i=1}^n \varphi(v_i) \varphi_i$ 임을 보인다. 임의의 $v_j$ 에 대하여

$\left(\sum_{i=1}^n \varphi(v_i) \varphi_i\right)(v_j) = \varphi(v_j)$

기저에서의 값이 일치하므로 선형성에 의해 모든 $x \in V$ 에서 일치한다.

따라서 $\dim(V^*) = n = \dim(V)$ . $\blacksquare$

위에서 구성한 $\{\varphi_1, \varphi_2, \ldots, \varphi_n\}$ 을 $\mathcal{B}$ 에 대한 **쌍대 기저(dual basis)**라 하며, $\mathcal{B}^* = \{\varphi_1, \ldots, \varphi_n\}$ 으로 표기한다.

6. $\mathbb{R}^n$ 에서의 쌍대 공간

$\mathbb{R}^n$ 의 표준 기저 $\{e_1, \ldots, e_n\}$ 에 대한 쌍대 기저는

$\varphi_i(x) = e_i^T x = x_i$

즉, $i$ 번째 좌표 추출 함수이다. $\mathbb{R}^n$ 의 임의의 선형 범함수 $\varphi(x) = a^T x$ 는

$\varphi = a_1 \varphi_1 + a_2 \varphi_2 + \cdots + a_n \varphi_n$

으로 표현된다. 이는 $a^T x = a_1 x_1 + a_2 x_2 + \cdots + a_n x_n$ 과 동일하다.

이 관찰은 $\mathbb{R}^n$ 의 쌍대 공간 $(\mathbb{R}^n)^*$ 가 $1 \times n$ 행 벡터의 공간 $\mathbb{R}^{1 \times n}$ 과 자연스럽게 동형임을 보여준다. 열 벡터 $a \in \mathbb{R}^n$ 와 행 벡터 $a^T \in \mathbb{R}^{1 \times n}$ 의 대응은 $V$ 와 $V^*$ 사이의 동형 사상을 구현한다.

7. 이중 쌍대 공간과 자연적 동형

쌍대 공간의 쌍대 공간 $(V^*)^*$ 를 **이중 쌍대 공간(double dual space)**이라 하며 $V^{**}$ 로 표기한다.

유한 차원에서는 $\dim(V^{**}) = \dim(V^*) = \dim(V) = n$ 이다. 더 나아가, $V$ 와 $V^{**}$ 사이에는 기저의 선택에 의존하지 않는 **자연적 동형 사상(natural isomorphism)**이 존재한다.

각 $v \in V$ 에 대하여, $\hat{v} : V^* \to \mathbb{F}$ 를

$\hat{v}(\varphi) = \varphi(v)$

로 정의하면 $\hat{v} \in V^{**}$ 이다. 사상 $\Phi : V \to V^{**}$ , $\Phi(v) = \hat{v}$ 는 선형이고 단사이며, $\dim(V) = \dim(V^{**})$ 이므로 동형 사상이다.

이 동형은 “벡터 $v$ 를 ’선형 범함수에 $v$ 를 대입하는 연산’으로 보는” 관점의 전환이다. $V$ 와 $V^*$ 사이의 동형은 기저 선택에 의존하지만, $V$ 와 $V^{**}$ 사이의 동형은 기저 선택에 무관한 자연적(canonical) 동형이다.

8. 전치 사상(Transpose Map)

선형 변환 $T : V \to W$ 가 주어지면, 전치 사상(transpose map) 또는 쌍대 사상(dual map) $T^* : W^* \to V^*$ 가 다음과 같이 정의된다.

$(T^*\psi)(v) = \psi(T(v)), \quad \forall \psi \in W^*, \; \forall v \in V$

$T^*$ 는 $W^*$ 에서 $V^*$ 로의 선형 변환이다. 이 정의는 “먼저 $T$ 로 변환한 후 $\psi$ 로 평가“하는 합성 $\psi \circ T$ 를 형식화한 것이다.

$\mathbb{R}^n$ 과 $\mathbb{R}^m$ 에서 표준 기저를 사용할 때, $T$ 의 행렬 표현이 $A$ 이면 $T^*$ 의 행렬 표현은 $A^T$ 이다. 이는 전치 행렬이라는 명칭의 근원이다.

9. 쌍대 공간의 이론적 의의

쌍대 공간은 벡터 공간의 구조를 “관측“의 관점에서 분석하는 틀을 제공한다. 벡터 $v \in V$ 가 “상태“를 나타낸다면, 선형 범함수 $\varphi \in V^*$ 는 해당 상태에서 스칼라 값을 추출하는 “측정“에 해당한다.

딥러닝에서 어텐션 메커니즘(attention mechanism)의 쿼리-키 내적(query-key dot product) $q^T k$ 는 쿼리 벡터 $q$ 를 키 벡터 $k$ 에 대한 선형 범함수로 해석할 수 있다. 이 관점에서 어텐션 스코어는 쌍대 공간에서의 평가(evaluation) 연산이며, 쌍대 공간의 이론이 트랜스포머 아키텍처의 수학적 분석에 기초를 제공한다.