Chapter 11. 인공 신경망의 구조와 원리

인공 신경망(Artificial Neural Network, ANN)은 생물학적 신경계의 기본 처리 단위로부터 영감을 받아 정의된 계산 모형으로, 여러 개의 단순한 처리 요소가 가중된 연결을 통하여 정보를 변환하는 함수의 집합이다. 이 장에서는 인공 신경망의 학술적 정의와 그 핵심 원리를 학습 순서에 따라 다룬다.

1. 학습 목표

• 인공 뉴런과 생물학적 뉴런의 학술적 차이와 유사성을 이해한다.
• 퍼셉트론과 다층 퍼셉트론의 수학적 구조와 그 표현력의 한계를 이해한다.
• 가중치, 편향, 순전파 연산의 정의와 계산 절차를 이해한다.
• 네트워크의 깊이와 너비, 범용 근사 정리의 학술적 의미를 이해한다.
• 가중치 초기화와 신경망 학습의 기본 절차를 이해한다.

2. 학습 순서

이 장은 생물학적 뉴런과 인공 뉴런의 학술적 비교에서 출발하여, 퍼셉트론과 다층 퍼셉트론의 정의로 진행한다. 그 후 가중치, 편향, 순전파 연산과 네트워크의 구성을 다루고, 깊이와 너비, 범용 근사 정리, 가중치 초기화, 학습 절차를 학습한다. 이러한 순서는 모형의 정의에서 학습 절차로 점진적으로 진행하는 학술적 전개이다.

3. 출처 및 버전 정보

• McCulloch, W. S., Pitts, W., A logical calculus of the ideas immanent in nervous activity, Bulletin of Mathematical Biophysics, 1943
• Rosenblatt, F., The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain, Psychological Review, 1958
• Goodfellow, I., Bengio, Y., Courville, A., Deep Learning, MIT Press, 2016
• Bishop, C. M., Pattern Recognition and Machine Learning, Springer, 2006
• Cybenko, G., Approximation by superpositions of a sigmoidal function, Mathematics of Control, Signals and Systems, 1989
• Hornik, K., Approximation Capabilities of Multilayer Feedforward Networks, Neural Networks, 1991