xgboost R 패키지 early_stop_rounds가 트리거되지 않습니다.

Question

xgbostrain()을 xgboost R 패키지에 사용하여 분류 모델에 맞 춥니 다. 나는 나무를 멈추는 최선의 반복이 무엇인지 알아 내려고 노력 중이다. early_stop_rounds = 6을 설정하고 각 반복의 메트릭을 살펴봄으로써 유효성 검사 데이터의 auc 성능이 최대 값에 도달 한 다음 그 값이 감소 함을 분명히 볼 수 있습니다. 그러나 모델은 멈추지 않고 지정된 nround에 도달 할 때까지 계속 진행됩니다.

질문 1 : 유효성 검사 성능이 저하되기 시작하면 반복 할 때 정의 된 최상의 모델입니까?

질문 2 : 유효성 검사시 auc가 감소하기 시작하면 모델이 멈추지 않는 이유는 무엇입니까?

질문 3 : 매개 변수 최대화 = FALSE는 어떤 의미입니까? FALSE로 설정하면 멈출 것인가? early_stop_round가 설정되면 FALSE 여야합니까?

질문 4 모델은 주시 목록에서 유효성 검사 데이터가 어떤 모델인지 어떻게 알 수 있습니까? 나는 사람들이 test =, eval =, validation1 = 등을 사용하는 것을 보았는가?

감사합니다.

param<-list(
    objective="binary:logistic", 
    booster="gbtree", 
    eta=0.02, #Control the learning rate 
    max.depth=3, #Maximum depth of the tree 
    subsample=0.8, #subsample ratio of the training instance 
    colsample_bytree=0.5 # subsample ratio of columns when constructing each  tree 
) 

watchlist<-list(train=mtrain,validation=mtest) 

sgb_model<-xgb.train(params=param, # this is the modeling parameter set  above 
       data = mtrain, 
       scale_pos_weight=1, 
       max_delta_step=1, 
       missing=NA, 
       nthread=2, 
       nrounds = 500, #total run 1500 rounds 
       verbose=2, 
       early_stop_rounds=6, #if performance not improving for 6 rounds, model iteration stops 
       watchlist=watchlist, 
       maximize=FALSE, 
       eval.metric="auc" #Maximize AUC to evaluate model 
       #metric_name = 'validation-auc' 
       ) 

Answer 1

• 대답 1 :보기 아니, 바이어스 분산에서 출발하는 가장하지만 충분 트레이드 오프 포인트.
• 답변 2 : 작동합니다. 코드에 문제가있을 수 있습니다. 이것을 증명하기 위해 각 보강 단계에서 열차의 진행 출력을 공유하고 테스트 AUC를 설정하십시오. 100 % 확실하지 않다면 XGBoost git 프로젝트에서 오류 티켓을 제출할 수 있습니다.
• Answer 3 : Maximize=FALSE은 사용자 정의 최적화 기능입니다 (사용자 정의 merror 유형). 항상 AUC를 최대화/증가 시켜서 Maximize=TRUE이 더 좋습니다.
• 답변 4 : 주로 위치 기반입니다. 먼저 부분을 훈련 시키십시오. 다음은 검증/평가에 들어가야합니다.