Naive 베이지안 및 제로 - 주파수 문제

Question

나는 대부분 올바르게 구현했다고 생각합니다. 한 부분으로 나를 혼란스럽게 만들었습니다.

제로 주파수 문제 : 모든 클래스 값에 속성 값이 발생하지 않으면 모든 속성 값 - 클래스 조합 (Laplace estimator)에 대한 개수에 1을 더하십시오.

//Clasify 
string text = "Claim your free Macbook now!"; 
double posteriorProbSpam = classifier.Classify(text, "spam"); 
Console.WriteLine("-------------------------"); 
double posteriorProbHam = classifier.Classify(text, "ham"); 

지금 단어 '무료'라고 어딘가에 훈련 데이터에

//Training 
classifier.Train("ham", "Attention: Collect your Macbook from store."); 
*Lot more here* 
classifier.Train("spam", "Free macbook offer expiring."); 

존재하지만 단어 카테고리 내 훈련 데이터에 존재 :

여기 내 클라이언트 코드의 일부입니다 '스팸'은 '햄'에만 없습니다. 그래서 posteriorProbam을 계산할 때 '무료'라는 단어를 발견하면 어떻게해야합니까?

Answer 1

또 하나를 추가 할 수 있습니다. 그 이유는 Naive Bayes가 P("free" | spam)과 P("free" | ham)을 완전히 독립적이라고 모델링하기 때문에 각각의 확률을 완전히 독립적으로 추정하고자합니다. P("free" | spam)에 사용중인 Laplace 견적 도구는 (count("free" | spam) + 1)/count(spam)입니다. P("ham" | spam)은 같습니다.

하나를 추가하지 않는다면 어떤 의미인지 생각해보십시오. 실제로는 의미가 없습니다. 한 번만 "무료"라고 표시하면 스팸에 "무료"가 표시 될 가능성이 줄어 듭니다.