|
在統計的推估問題下，假設未知參數為Φ，而x為完全數據(complete data)，y不完全數據(incomplete data) .定義f(x│Φ) x的樣本機率密度函數，而其對應的y 的樣本機率密度函數為 g(y│Φ)。當{PΦ: Φ Ω}為常規指數族(regular exponential family)時，根據定義，我們有f(x│Φ) =b(x)exp{Φ[t(x)] ‘}/a(Φ)。定義Φ的對數概似函數(long-likelihood function)為L(Φ)=log g(y│Φ) , Ω。欲求參數Φ的MLE，經過推導，等於解下面的方程式:E[t(x)│Φ]= E[t(x)│y, Φ].
1977提出EM演算法,它有一個很大的缺點:收斂速度太慢.在本論文中,我們提出兩個改進的方法;牛頓演算法(the Newton algorithm)與最陡上昇演算法(the steepest-ascenting algorithm) .我們定義兩個矩陣函數F(Φ)與J(Φ)如下;F(Φ)=E[t│y,Φ]-E[t│Φ],J(Φ)=V[t│Φ]-V [t│y,Φ].令H( )=L(Φ + ▽L(Φ )), 唯一實數,而且定義 為H( )=0 之解.現在對p=0,1,2,……介紹這三種演算法如下;
(1) EM演算法
i.E-step:在Φ已知下求E[t(x)│y, Φ ].其值記為t(p).
ii. M-step:解方程式E[t(x)│Φ]= t(p),其解記為Φ(p+1)
(2)
牛頓演算法
Φ(p+1)= Φ +[J(Φ )]-1, F(Φ )
(3)
最陡上昇演算法
Φ(p+1)= Φ + , F(Φ )
最後介紹應用在醫學診斷的正電子放射斷層攝影術(positron emission tomography, 簡稱PET)的例子,然後根據其模擬出來的不完全數據,分別使用EM演算法,牛頓演算法,最陡上昇演算法.由模擬我們知道牛頓演算法,與最陡上昇演算法皆能有效改進EM演算法的緩慢收斂速度.
|