상관 관계 변수에 대한 올가미 또는 릿지

Question

"상관 관계가있는 변수가있는 경우 리지 회귀를 선호 할 수 있습니다." 변수 a1, a2, b1, c2 및 2 a가 있다고 가정 해 보겠습니다. "우리가 올가미를 사용한다면, 그 중 하나를 제거 할 수 있습니다. 올가미와 릿지 모두 수축을 할 것입니다. 그래서 올가미는 이러한 조건에서 더 나을 수도 있습니다. 그러나 릿지 (Ridge)가 더 낫다는 견적이 나온다. 이것은 잘못된 견적입니까 아니면 뭔가 빠졌습니까? (아마도 너무 단순한 생각 일 수도 있습니다)

Answer 1

일반적으로 선호하는 방법이 없습니다. LASSO는 특정 계수를 0으로 유도하는 반면, Ridge는 그 값을 줄이지는 않을 것입니다.

또한 릿지는 L2 표준을 최소화하는 것이 L1 표준 (LASSO)보다 쉽기 때문에 계산이 더 빨라질 수 있습니다.

가능한 경우 두 방법을 모두 구현하고 교차 유효성 검사를 수행하여 어느 것이 더 나은 결과를 얻을 수 있는지 확인해보십시오.

마지막으로 LASSO와 Ridge의 하이브리드 유형 인 Elastic Net을 조사하는 것이 좋습니다.