1) 강의 [P] 모델 최적화 [11/22 ~ 11/26/] 모델 최적화 Week 1 (5강) 작은 모델, 좋은 파라미터 찾기: Data Augmentation & AutoML 결과 분석 2) 피어세션 정리 파이널 프로젝트 토의 멘토링 3) 학습 회고 주제선정의 어려움

1) 강의 [P] 모델 최적화 [11/22 ~ 11/26/] 모델 최적화 Week 1 (3강) 대회 및 데이터셋 소개 2) 피어세션 정리 파이널 프로젝트 토의 면접준비(collaborative filtering) 3) 학습 회고 저작권 문제없는 데이터 구하기도 힘들다.

1) 강의 [P] 모델 최적화 [11/22 ~ 11/26/] 모델 최적화 Week 1 (2강) 대회 및 데이터셋 소개 2) 피어세션 정리 파이널 프로젝트 토의 3) 학습 회고 파이널 프로젝트 주제 선정이 어렵다.

1) 피어세션 정리 tagtog, 자료 공유, 회고록 작성, 랜덤 피어세션 2) 학습 회고 대회 마무리

1) 피어세션 정리 말뭉치 대회 요약, MRC 대회 토론, 한 주 회고, 멘토링 2) 학습 회고 말뭉치 대회 조금 더 화이팅 이제 길이 보이기 시작했다

Batch Normalization Definition 인공신경망을 re-centering과 re-scaling으로 layer의 input 정규화를 통해 더 빠르고 안정화시키는 방법 Motivation Internal covariate shift Covariate shift : 이전 레이어의 파라미터 변화로 현재 레이어 입력 분포가 바뀌는 현상 Internal covariate shift : 레이어 통과시 마다 covariate shift가 발생해 입력 분포가 약간씩 변하는 현상 망이 깊어짐에 따라 작은 변화가 뒷단에 큰 영향을 미침 Covariate Shift 줄이는 방법 layer's input 을 whitening 시킴(입력 평균:0, 분산:1) whitening이 backpropagatio..