EM 알고리즘에서 E 단계의 근사치로 ICM을 사용하는 것이 수학적으로 정당하다는 것을 알고 싶습니다.반복 된 조건부 모드 E 단계 EM
E 단계에서 생각한 것은 잠복 변수의 사후 분포와 동일한 분포를 찾는 것입니다.이 분포는 가능성이 증가하거나 배포본 중 가장 단순한 분포 집합에서 최상의 분포를 찾을 수 있음을 보장합니다. 우도 함수의 하한이 증가한다는 것.
이러한 전자 단계에서 ICM 사용을 수학적으로 정당화하는 방법은 무엇입니까? 모든 참조/파생물/메모는 매우 유용합니다.
도움 주셔서 감사합니다.
주어진 관찰 (x)에 대한 레이블링 (y)의 가능성을 나타내는 간단한 CRF를 생각해 봅시다. 또한 우도는 매개 변수 \ theta에 따라 달라집니다. 추론에서, 당신은 x만을 알고 y를 유추하려고합니다. E 단계가 라벨 y (argmax P (y | x, \ theta))를 찾고 M 단계가 매개 변수 \ theta (argmax P (\ theta | x, y))를 찾는 방식으로 EM 알고리즘을 적용하면됩니다. . M 단계는 \ theta가 일반적으로 높은 차원이 아니기 때문에 (적어도 y의 차원만큼 크지 않기 때문에) 모든 최적화 알고리즘을 사용하여 수행 할 수 있습니다. E 단계는 \ theta가 M 단계에서 독립적으로 최적화되기 때문에 숨겨진 변수가없는 MRF/CRF에 대한 단순한 추론입니다. ICM은 추론을 수행하는 데 사용되는 알고리즘입니다. 만약 당신이 참고 문헌을 원한다면 Murphy의 저서 http://www.cs.ubc.ca/~murphyk/MLbook/을 읽을 수 있습니다, 제 26 장은 상당히 관련이 있다고 생각합니다.
이미지 색상 관리? –
그가 반복 된 조건부 모델을 의미한다고 생각합니다. –