使用R語言做極大似然估計執行個體

原文連結：http://tecdat.cn/?p=18970

在普遍的了解中，最大似然估計是使用已知的樣本結果資訊來反向推斷最有可能導緻這些樣本結果的模型參數值！

換句話說，最大似然估計提供了一種在給定觀測資料的情況下評估模型參數的方法，即“模型已确定且參數未知”。

在所有雙射函數的意義上，極大似然估計是不變的  

，如果  

 是

的極大似然估計  

   。

讓  

，   

 等于  

中的似然函數。由于  

 是的最大似然估計  

，

是以，  

的最大似然估計  。

例如，伯努利分布為  

 ，  

給定樣本  

，機率是

則對數似然

與ICI

是以，一階條件

何時滿足  

。為了說明，考慮以下資料

> X
[1] 0 0 1 1 0 1 1 1 1 0 0 0 1 0 1           

（負）對數似然

> loglik=function(p){
+ -sum(log(dbinom(X,size=1,prob=p)))
+ }           

我們可以在下面看到

> plot(u,v,type="l",xlab="",ylab="")           

根據以上計算，我們知道的極大似然估計 

> mean(X)
[1] 0.53           

數值為

$par
[1] 0.53

$value
[1] 10.36

$counts
function gradient
20 NA

$convergence
[1] 0

$message
NULL           

我們沒有說優化是在區間内 

。但是，我們的機率估計值屬于 

。為了確定最優值在 

，我們可以考慮一些限制優化程式

ui=matrix(c(1,-1),2,1), ci=c(0,-1)
$par
[1] 0.53

$value
[1] 10.36

$counts
function gradient
20 NA

$convergence
[1] 0

$message
NULL

$outer.iterations
[1] 2

$barrier.value
[1] 6.91e-05           

在上一張圖中，我們達到了對數似然的最大值

> abline(v=opt$par,col="red")           

另一種方法是考慮  

 （如指數分布）。則對數似然

這裡

滿足

即

從數值角度來看，我們有相同的最優值

(opt=optim(0,loglik))
$par
[1] 0.13

$value
[1] 10.36

$counts
function gradient
20 NA

$convergence
[1] 0

$message
NULL

> exp(opt$par)/(1+exp(opt$par))
[1] 0.53           

最受歡迎的見解

1.Matlab馬爾可夫鍊蒙特卡羅法（MCMC）估計随機波動率（SV，Stochastic Volatility） 模型

2.基于R語言的疾病制圖中自适應核密度估計的門檻值選擇方法

3.WinBUGS對多元随機波動率模型：貝葉斯估計與模型比較

4.R語言回歸中的hosmer-lemeshow拟合優度檢驗

5.matlab實作MCMC的馬爾可夫切換ARMA – GARCH模型估計

6.R語言區間資料回歸分析

7.R語言WALD檢驗 VS 似然比檢驗