자료공유 Generalization과 Overfitting에 대한 정리글 공유

Moderator 베일쿤
2019-04-05 19:00:30 232 2 1

Deep Neural Network의 generalization과 overfitting과 관련하여 지금까지 나온 여러 논문들을 중심으로 잘 정리한 포스팅을 공유합니다.


Risk curve나 internal dimension 같은 것들은 reproduce 하는 코드까지 작성해서 테스트도 했네요.


그냥 단순하게 알던 underfitting과 overfitting 사이의 관계나 bias와 variance 사이의 관계가 딥러닝에서 어떻게 달라지고,

단순히 hyperparameter 수를 가지고 모델의 성능을 보거나 하면 안되는 이유 등도 잘 설명되어 있습니다.


딥러닝 이론에 관심을 가지는 분들이라면 꼭 보셔야 할 글 입니다.


https://lilianweng.github.io/lil-log/2019/03/14/are-deep-neural-networks-dramatically-overfitted.html



댓글 1개  
이전 댓글 더 보기
▼아랫글 Ian Goodfellow 애플로 이직 gamingryan235
광고
공지잡담최신뉴스자료공유연구/플젝Q&A
7
잡담
딥게더 죽지 않았다면 정답을 알려줘 [1]
공포게임초고수서나랑
10-29
1
잡담
질문하나 드립니다 [2]
유럽에서150날린원주은
09-25
13
08-22
1
잡담
캐글하는 트수들 있나요? [2]
이탈예측생존분석
06-02
3
05-21
3
잡담
Papers with Code [1]
참신한기획
04-29
11
04-22
8
자료공유
4월 16일 논문 리뷰 방송 [1]
Moderator 베일쿤
04-15
4
04-10
3
최신뉴스
Ian Goodfellow 애플로 이직 [2]
Global Moderator gamingryan235
04-05
7
04-05
4
잡담
수요일까지... [2]
Moderator 베일쿤
04-01
4
03-29
인기글 글 쓰기