인공 신경망2 인공 신경망 학습 원리와 기울기 소실 문제 정의 및 해결법 한 글로 정리 목차 인공 신경망은 어떻게 학습하는 걸까? > 신경망 학습 원리: 경사 하강법 기울기 소실 문제(Vanishing Gradient Problem) > 연속형 활성 함수를 사용하는 이유 > 기울기 소실 문제의 원인 : 구조적인 문제 기울기 소멸을 해결하기 위한 다양한 방법들 > 첫 번째 해결 방법: 활성 함수를 변경하기 > 두 번째 해결 방법: 신경망의 구조 변경하기 오늘은 인공 지능의 2차 혹한기(AI Winter)를 초래한 기울기 소실(Vanishing Gradient) 문제의 정의와 이를 해결하기 위한 노력들에 대해 알아보도록 하겠습니다. ■ 인공 신경망은 어떻게 학습하는 걸까? 신경망 학습: 경사 하강법(Gradient Descent), 산의 꼭대기에서 눈을 감고 하산하다. 기울기 소실(Vanish.. 2022. 10. 13. 최초의 신경망 모델 퍼셉트론: 정의, 동작 원리 그리고 한계점 안녕하세요! 모두의 IT 부케, 케빈입니다. :) 오늘은 최초의 인공 신경망 모델로 평가받는 퍼셉트론에 대해 설명드리고자 합니다. 함께 공부해 보실까요? ■ 퍼셉트론의 정의: 인공 뉴런 퍼셉트론(Perceptron)은 perception과 neuron의 합성어로 인공 뉴런이라고 불립니다. 퍼셉트론은 현대에 널리 알려진 인공 신경망의 초기 버전으로, 1958년 프랭크 로젠 블랫(Frank Rosenblatt)이 제안한 모델입니다. 퍼셉트론이 인공 뉴런이라고 불리는 이유는 인간 뉴런의 작동 방식을 모방했기 때문입니다. 즉, 퍼셉트론을 한 마디로 정의하면 생물학적 신경계의 기본 단위인 뉴런의 동작 과정을 수리적으로 모델링한 알고리즘이라고 할 수 있습니다. 따라서, 퍼셉트론을 이해하기 위해서는 먼저 인간 뉴런(.. 2022. 10. 11. 이전 1 다음
