책 : 파이썬 머신러닝 완벽 가이드(p. 318)
회귀 분석은 볼 때마다 새로운 내용이 튀어나오는 것 같다. (내가 공부 제대로 안한 거 맞음)
편향-분산 트레이드 오프에서 편향과 분산의 차이가 뭔지 헷갈려서 정리.
분산 : 말 그대로 데이터가 퍼진 정도.
편향 : 예측값과 실제값의 차이. 즉 잔차(residual)의 크기 정도로 생각하면 편할듯.
이 그림이 잘 이해가 안됐던 거였는데 편향을 잔차의 크기 정도로 이해하니까 underfit과 overfit을 이해하는데 도움이 되었다.
- underfit(과소적합) : 높은 편향 & 낮은 분산
- overfit(과대적합) : 낮은 편향 & 높은 분산
그래서 이 편향과 분산이 둘 다 낮아지는 지점을 잘 찾는게 핵심이다...
'ML&Deep Learning' 카테고리의 다른 글
[ML] 머신러닝 알고리즘 (0) | 2024.03.28 |
---|---|
[ML] 02 Introduction of Machine Learning (0) | 2022.09.06 |
[ML] 01 Introduction of Machine Learning (1) | 2022.09.06 |