lasso1 4-1. 회귀 모델 - 규제가 있는 선형 회귀 1. 다중 회귀(Multiple Regression) 종속변수에 영향을 미치는 다중의 독립변수가 있는 경우의 회귀분석을 말한다. 다중 회귀에서는 최적모델 결정을 위해 다양한 방법으로 변수를 선정하고, 모델이 복잡해지면 과적합의 가능성이 있어 이를 방지하고자 다양한 규제를 적용해 모델의 가중치를 제한한다. 1.1.릿지 Ridge 최소 제곱 적합식에 L2 페널티를 추가한 것이다. L2인 두 번째 항은 θ의 추정치를 0으로 수축하는 효과를 준다. 이 규제는 학습에만 사용되며 모델의 성능은 페널티가 없는 지표로 평가한다. α=0일 때 페널티항이 없어져 선형 회귀와 같아진다. α가 커질수록 규제항의 영향이 커져 릿지 회귀계수 추정치는 0에 가까워지므로 데이터의 평균을 지나는 선을 만든다. α가 증가하면 편향은 증.. 2024. 2. 19. 이전 1 다음
