Chapter 25. 위치 인코딩(Positional Encoding)

• Chapter 25. 위치 인코딩(Positional Encoding)

• 25.1위치 인코딩의 필요성

• 25.2순서 불변성(Permutation Invariance)과 위치 정보

• 25.3절대 위치 인코딩(Absolute Positional Encoding)

• 25.4사인-코사인 위치 인코딩의 수학적 구조

• 25.5학습 가능한 위치 임베딩(Learnable Positional Embedding)

• 25.6상대 위치 인코딩(Relative Positional Encoding)

• 25.7회전 위치 임베딩(Rotary Position Embedding, RoPE)

• 25.8ALiBi(Attention with Linear Biases)

• 25.92차원 위치 인코딩과 비전 응용

• 25.10위치 인코딩 기법 간 비교 분석