1

저는 파이썬에서 scikit-learn을 사용하여 4 개의 분류자를 구현했습니다. 그러나 그들 모두에 대한 성과는 그리 좋지 않습니다. 이러한 분류 자의 앙상블을 구현하고 싶습니다. 나는 scikit-learn에서 앙상블을 찾았지만 Random Forests와 Adaboost가 있습니다. 약한 분류 자의 앙상블을 어떻게 만들어야합니까?Ensemble in Python

-Bagging을 :

+0

[VotingClassifier] (http://scikit-learn.org/stable/modules/generated/sklearn.ensemble.VotingClassifier.html)를 보셨습니까? – BrenBarn

+0

아니요. Adaboost 및 Random Forests를 보았습니다. – Hellboy

답변

1

당신은 당신의 약한 분류기를 사용하여 앙상블을 만들 수있는 다른 방법이 당신은 4 개 분류의 출력을 평균 할 수 있습니다.

-Stacking : 최종 출력은 4 개의 개별 출력의 선형 결합 일 수 있습니다. 4 가지 모델의 출력을 다른 알고리즘의 입력으로 사용하거나 다른 가중치를 더 정확하게 사용할 수 있습니다.

+0

개별 분류기의 정확도에 따라 선형 조합으로 가중치를 할당하는 것이 합리적입니까? – Hellboy

+0

선형 모델 출력 = x * w + b에서와 같이 0 또는 1을 결정하는 분류 기준의 출력이 필요하며 출력이 = w1 * output1 + w2 * output2 + w3 * 인 새 모델을 만들 수 있습니다. 출력 3 + w4 * 출력 4 + b. 그런 다음 개별 모델을 학습하는 데 사용 된 데이터에서 다른 데이터를 사용하여 W1, W2, W3, W4 및 b를 선택합니다. – Rob