AD

자료공유 Generalization과 Overfitting에 대한 정리글 공유

Moderator 베일쿤
2019-04-05 19:00:30 1125 2 1

Deep Neural Network의 generalization과 overfitting과 관련하여 지금까지 나온 여러 논문들을 중심으로 잘 정리한 포스팅을 공유합니다.


Risk curve나 internal dimension 같은 것들은 reproduce 하는 코드까지 작성해서 테스트도 했네요.


그냥 단순하게 알던 underfitting과 overfitting 사이의 관계나 bias와 variance 사이의 관계가 딥러닝에서 어떻게 달라지고,

단순히 hyperparameter 수를 가지고 모델의 성능을 보거나 하면 안되는 이유 등도 잘 설명되어 있습니다.


딥러닝 이론에 관심을 가지는 분들이라면 꼭 보셔야 할 글 입니다.


https://lilianweng.github.io/lil-log/2019/03/14/are-deep-neural-networks-dramatically-overfitted.html



후원댓글 1
댓글 1개  
이전 댓글 더 보기
TWIP 잔액: 확인중
▼아랫글 Ian Goodfellow 애플로 이직 gamingryan235
공지잡담최신뉴스자료공유연구/플젝Q&A
11
04-22
8
자료공유
4월 16일 논문 리뷰 방송 [1]
Moderator 베일쿤
04-15
4
04-10
3
최신뉴스
Ian Goodfellow 애플로 이직 [2]
Global Moderator gamingryan235
04-05
7
04-05
4
잡담
수요일까지... [2]
Moderator 베일쿤
04-01
4
03-29
2
03-28
4
최신뉴스
2018 Turing Award 수상자 [2]
Moderator 베일쿤
03-28
7
03-23
1
자료공유
강의 영상 목록 [1]
Moderator 베일쿤
03-22
2
03-21
3
최신뉴스
ICML 2019 워크샵들이 공개되었네요 [1]
Global Moderator gamingryan235
03-20
12
자료공유
Mathematics for Machine Learning [9]
Moderator 베일쿤
03-20
7
03-18
2
03-15
인기글 글 쓰기