Viola Jones AdaBoost가 시작하기 전에 메모리가 부족합니다.

Question

얼굴 검색을위한 Viola Jones 알고리즘을 구현 중입니다. 알고리즘의 일부를 학습하는 AdaBoost의 첫 번째 부분에 문제가 있습니다.

는

원래 논문은 다음

약한 분류 된 인터넷 ER 선택 알고리즘의 진행을 말한다. 각 기능에 대해 예제는 기능 값에 따라 정렬됩니다.

저는 현재 비교적 작은 양성 이미지 2000 개와 음화 이미지 1000 개로 작업하고 있습니다. 이 백서는 최대 10,000 개의 데이터 세트를 포함한다고 설명합니다.

AdaBoost의 주 목적은 24x24 창에서 기능의 수를 줄이는 것입니다.이 크기는 총 160,000+입니다. 이 알고리즘은이 기능들에 대해 작업하고 가장 적합한 알고리즘을 선택합니다.

이 신문은 각 기능에 대해 각 이미지에서 값을 계산 한 다음 값을 기준으로 정렬하는 것으로 설명합니다. 이것이 의미하는 바는 각 피쳐의 컨테이너를 만들고 모든 샘플의 값을 저장해야한다는 것입니다.

내 문제는 프로그램의 메모리가 부족하여 단지 10,000 개의 기능 만 평가 한 것입니다 (그 중 6 % 만). 모든 컨테이너의 전체 크기는 수십억에 달하는 160,000 * 3000으로 끝납니다. 메모리를 다 써 버리지 않고이 알고리즘을 어떻게 구현해야합니까? 나는 힙 크기를 늘렸고, 3 %에서 6 %로 늘렸다. 나는 그것을 더 많이 늘리면 효과가 없을 것이라고 생각하지 않는다.

이 백서는 이러한 정렬 된 값이 알고리즘 전체에 필요하다는 것을 암시하므로 각 기능을 수행 한 후에는이를 삭제할 수 없습니다.

다음은 지금까지

public static List<WeakClassifier> train(List<Image> positiveSamples, List<Image> negativeSamples, List<Feature> allFeatures, int T) { 
    List<WeakClassifier> solution = new LinkedList<WeakClassifier>(); 

    // Initialize Weights for each sample, whether positive or negative 
    float[] positiveWeights = new float[positiveSamples.size()]; 
    float[] negativeWeights = new float[negativeSamples.size()]; 

    float initialPositiveWeight = 0.5f/positiveWeights.length; 
    float initialNegativeWeight = 0.5f/negativeWeights.length; 

    for (int i = 0; i < positiveWeights.length; ++i) { 
     positiveWeights[i] = initialPositiveWeight; 
    } 
    for (int i = 0; i < negativeWeights.length; ++i) { 
     negativeWeights[i] = initialNegativeWeight; 
    } 

    // Each feature's value for each image 
    List<List<FeatureValue>> featureValues = new LinkedList<List<FeatureValue>>(); 

    // For each feature get the values for each image, and sort them based off the value 
    for (Feature feature : allFeatures) { 
     List<FeatureValue> thisFeaturesValues = new LinkedList<FeatureValue>(); 

     int index = 0; 
     for (Image positive : positiveSamples) { 
      int value = positive.applyFeature(feature); 
      thisFeaturesValues.add(new FeatureValue(index, value, true)); 
      ++index; 
     } 
     index = 0; 
     for (Image negative : negativeSamples) { 
      int value = negative.applyFeature(feature); 
      thisFeaturesValues.add(new FeatureValue(index, value, false)); 
      ++index; 
     } 

     Collections.sort(thisFeaturesValues); 

     // Add this feature to the list 
     featureValues.add(thisFeaturesValues); 
     ++currentFeature; 
    } 

    ... rest of code 

Answer 1

이 약한 분류 중 하나의 선택을위한 의사 코드해야 내 코드입니다 :

normalize the per-example weights // one float per example 

for feature j from 1 to 45,396: 
    // Training a weak classifier based on feature j. 
    - Extract the feature's response from each training image (1 float per example) 
    // This threshold selection and error computation is where sorting the examples 
    // by feature response comes in. 
    - Choose a threshold to best separate the positive from negative examples 
    - Record the threshold and weighted error for this weak classifier 

choose the best feature j and threshold (lowest error) 

update the per-example weights 

데도 당신이 기능 수십억을 저장해야하지 않는다. 각 반복에서 즉시 기능 응답을 추출하십시오. 당신은 완전한 이미지를 사용하고 있으므로 추출이 빠릅니다. 이것이 주 메모리 병목 현상이며, 모든 이미지의 모든 픽셀에 대해 단지 하나의 정수가됩니다. 기본적으로 이미지와 동일한 저장 공간이 필요합니다.

그냥 모든 이미지에 대한 모든 기능의 응답을 계산하고 당신이 할 필요가 없습니다 모든 있도록 저장할 않았더라도 그 모든 반복, 여전히 :

• 45396 * 3000 * 4 바이트 = ~ 520MB, 또는 160000 개의 가능한 기능이 있다고 확신하는 경우
• 160000 * 3000 * 4 바이트 = 1.78GB, 또는 10000 학습 이미지를 사용하는 경우
• 160000 * 10000 * 4 바이트 = ~ 5.96 GB

기본적으로 을 실행해도 메모리가 부족하지 않아야합니다.은 모든 기능 값을 저장합니다.