AI - Deep Learning12 인공 신경망 학습 원리와 기울기 소실 문제 정의 및 해결법 한 글로 정리 목차 인공 신경망은 어떻게 학습하는 걸까? > 신경망 학습 원리: 경사 하강법 기울기 소실 문제(Vanishing Gradient Problem) > 연속형 활성 함수를 사용하는 이유 > 기울기 소실 문제의 원인 : 구조적인 문제 기울기 소멸을 해결하기 위한 다양한 방법들 > 첫 번째 해결 방법: 활성 함수를 변경하기 > 두 번째 해결 방법: 신경망의 구조 변경하기 오늘은 인공 지능의 2차 혹한기(AI Winter)를 초래한 기울기 소실(Vanishing Gradient) 문제의 정의와 이를 해결하기 위한 노력들에 대해 알아보도록 하겠습니다. ■ 인공 신경망은 어떻게 학습하는 걸까? 신경망 학습: 경사 하강법(Gradient Descent), 산의 꼭대기에서 눈을 감고 하산하다. 기울기 소실(Vanish.. 2022. 10. 13. 최초의 신경망 모델 퍼셉트론: 정의, 동작 원리 그리고 한계점 안녕하세요! 모두의 IT 부케, 케빈입니다. :) 오늘은 최초의 인공 신경망 모델로 평가받는 퍼셉트론에 대해 설명드리고자 합니다. 함께 공부해 보실까요? ■ 퍼셉트론의 정의: 인공 뉴런 퍼셉트론(Perceptron)은 perception과 neuron의 합성어로 인공 뉴런이라고 불립니다. 퍼셉트론은 현대에 널리 알려진 인공 신경망의 초기 버전으로, 1958년 프랭크 로젠 블랫(Frank Rosenblatt)이 제안한 모델입니다. 퍼셉트론이 인공 뉴런이라고 불리는 이유는 인간 뉴런의 작동 방식을 모방했기 때문입니다. 즉, 퍼셉트론을 한 마디로 정의하면 생물학적 신경계의 기본 단위인 뉴런의 동작 과정을 수리적으로 모델링한 알고리즘이라고 할 수 있습니다. 따라서, 퍼셉트론을 이해하기 위해서는 먼저 인간 뉴런(.. 2022. 10. 11. 논리 연산의 그래프적인 해석과 Python 코드 안녕하세요! 모두의 IT부케, 케빈입니다. 오늘은 Python으로 논리 연산을 구현하는 시간을 가져보겠습니다. ■ 논리 연산과 논리 회로(게이트) 논리 연산(logical operation): 참과 거짓의 연산 & 논리 회로(logic gate): 논리 연산의 물리적 구현 학창 시절, True(1)와 False(0)의 연산을 배우신 기억이 나시나요? 우리는 이를 논리 연산(logical operation)이라고 부릅니다. 다른 말로 불 연산(Boolean expression)이라고도 하는데요. 이러한 불 연산은 컴퓨터 공학이나 전자 공학(또는 반도체)에 많이 활용되고는 합니다. 불 연산 또는 불 대수를 물리적 장치에 구현한 것이 바로 논리 회로(logic gate), 즉 논리 게이트라고 할 수 있습니다... 2022. 10. 10. 이전 1 2 3 4 다음
