본문 바로가기

ML&Deep Learning

[ML] 03 Bias-Variance Trade off

책 : 파이썬 머신러닝 완벽 가이드(p. 318)

 

회귀 분석은 볼 때마다 새로운 내용이 튀어나오는 것 같다. (내가 공부 제대로 안한 거 맞음)

 

편향-분산 트레이드 오프에서 편향과 분산의 차이가 뭔지 헷갈려서 정리.

 

분산 : 말 그대로 데이터가 퍼진 정도. 

편향 : 예측값과 실제값의 차이. 즉 잔차(residual)의 크기 정도로 생각하면 편할듯. 

이 그림이 잘 이해가 안됐던 거였는데 편향을 잔차의 크기 정도로 이해하니까 underfit과 overfit을 이해하는데 도움이 되었다. 

- underfit(과소적합) : 높은 편향 & 낮은 분산

- overfit(과대적합) : 낮은 편향 & 높은 분산

 

그래서 이 편향과 분산이 둘 다 낮아지는 지점을 잘 찾는게 핵심이다...

'ML&Deep Learning' 카테고리의 다른 글

[ML] 머신러닝 알고리즘  (0) 2024.03.28
[ML] 02 Introduction of Machine Learning  (0) 2022.09.06
[ML] 01 Introduction of Machine Learning  (1) 2022.09.06