기울기 소실 문제 해결1 인공 신경망 학습 원리와 기울기 소실 문제 정의 및 해결법 한 글로 정리 목차 인공 신경망은 어떻게 학습하는 걸까? > 신경망 학습 원리: 경사 하강법 기울기 소실 문제(Vanishing Gradient Problem) > 연속형 활성 함수를 사용하는 이유 > 기울기 소실 문제의 원인 : 구조적인 문제 기울기 소멸을 해결하기 위한 다양한 방법들 > 첫 번째 해결 방법: 활성 함수를 변경하기 > 두 번째 해결 방법: 신경망의 구조 변경하기 오늘은 인공 지능의 2차 혹한기(AI Winter)를 초래한 기울기 소실(Vanishing Gradient) 문제의 정의와 이를 해결하기 위한 노력들에 대해 알아보도록 하겠습니다. ■ 인공 신경망은 어떻게 학습하는 걸까? 신경망 학습: 경사 하강법(Gradient Descent), 산의 꼭대기에서 눈을 감고 하산하다. 기울기 소실(Vanish.. 2022. 10. 13. 이전 1 다음
