Xavier 가중치 (1) 썸네일형 리스트형 [Deep Learning from Scratch] CHAPTER 6 학습 관련 기술들 신경망 학습의 핵심 개념 - 가중치 매개변수의 최적값을 탐색하는 최적화 방법 - 가중치 매개변수 초깃값 - 하이퍼파라미터 설정 방 오버피팅(overfitting, 과대적합)의 대응책 : 가중치 감소, 드롭 아웃 배치 정규화 → 딥러닝(신경망) 학습의 효율과 정확도를 높인다. 6.1 매개변수 갱신 신경망의 목적 : 손실 함수의 값을 가능한 한 낮추는 매개변수를 찾는 것 = 매개변수의 최적값 찾기 → 최적화(optimization) 이전까지 사용한 최적의 매개변수 값 찾는 방법 : 확률적 경사 하강법(SGD) 매개변수의 기울기(미분) 이용 매개변수의 기울기를 구해, 기울어진 방향으로 매개변수 값 갱신을 반복하여 최적의 값에 접근 6.1.1 모험가 이야기 최적의 매개변수를 탐색하는 것은 지도를 보지않고 눈을 .. 이전 1 다음
