Sigmoid(2)
-
Sigmoid
Sigmoid 정의 실함수로써 유계이고 미분가능하며, 모든 점에서 음이 아닌 미분값을 가지고 단 하나의 변곡점을 가진다. 성질 일반적으로 단조함수이며 종 모양의 1차 미분 그래프를 가진다. $x \to\pm \infty$ 일 때, 한 쌍의 수평 점근선으로 수렴한다. 시그모이드 함수는 0보다 작은 값에서 볼록하고 0보다 큰 값에서 오목하다. 로지스틱 함수 $f(x)=\frac {1} {1 + e^{-x}} = \frac {e^x} {e^x+1}$ def sigmoid(x): return 1 / (1+math.e**(-x))import numpy as np def sigmoid(x): return 1 / (1 + np.exp(-x))장점 not blowing up activation 0~1 사이의 범위여서 ..
2021.10.19 -
Naver Boostcamp AI Tech 2nd 12week_51day
1) 강의 [P] MRC [10/18] Closed-book QA with T5 (8) Closed-book QA with T5 2) 피어세션 정리 면접 스터디(경사하강법, sigmoid) 3) 학습 회고 유익한 면접 대비 시간 Gradient Descent Sigmoid
2021.10.19