前言
參數估計問題分：點估計、區間估計。
點估計是适當地選擇一個統計量作為未知參數的估計（稱為估計量），若已取得一樣本，将樣本值代入估計量，得到估計量的值，以估計量的值作為未知參數的近似值（稱為估計值）。（另一種解釋：依據樣本估計總體分布中所含的未知參數或未知參數的函數。）
有很多求點估計的方法：最大似然估計法、矩估計法、最小二乘法、貝葉斯估計法。重點就是最大似然法。
最大似然估計法的基本思想：若已觀察到樣本（X1，X2，··· ，Xn）的樣本值（x1,x2,...,xn），而取得這一樣本值得機率為p（在離散型的情況），或（X1，X2，··· ，Xn）落在這一樣本值（x1,x2,...,xn）的鄰域内的機率為p（在連續型的情況），而p與未知參數有關，我們就取θ的估計值使機率p取得最大。
說說區間估計，因為點估計不能反映估計的精度，所有才用。
1 基本概念
似然：可以了解為“可能性”，這樣就有“機率”的意思了。
符号
：θ可能取值的範圍。
符号
：在不緻混淆的情況下統稱估計量和估計值為估計，記為
。
估計量：
估計值：
注：（X1，X2，··· ，Xn）是一個樣本，（x1,x2,...,xn）是相應的樣本值。
概念如下圖：
2 為什麼叫“最大”
費希爾（R.A.Fisher）的想法：固定樣本觀察值x1,x2,...,xn，在θ取值的可能範圍
内挑選使似然函數L(x1,x2,...,xn;θ)達到最大的參數
，作為參數θ的估計值。即取
使：
為了使似然函數的結果最大，所選的參數θ一定也要大，記為
。這個
被稱為最大似然估計（不單單是估計了），其中
是參數θ的最大似然估計值，
是參數θ的最大似然估計量。
3 求解過程
會遇到兩類求解：總體X是連續型，總體X是離散型。但是差不多，連續型的求解可以變成離散型的。
已知條件：總體X屬連續型，機率密度 f(x;θ)，θ∈
。
設X1，X2，··· ，Xn是來自X的一個樣本，則X1，X2，··· ，Xn的聯合密度為：
設x1,x2, ... ,xn是相應于樣本X1，X2，··· ，Xn的一個樣本值，則随機點（X1，X2，··· ，Xn）落在點（x1,x2, ... ,xn）的領域内的機率近似地為：
，其值随θ的取值而變化。
與離散型的情況一樣，我們取θ的估計值
使機率
取得最大值，但因子
不随θ而改變，故隻需考慮函數：
的最大值。這裡L(θ)稱為樣本的似然函數。
若
，
則稱
為θ的最大似然估計值，稱
為θ的最大似然估計量。
====================分割性===================================分割性====================================分割性=====================
到這，确定最大似然估計量的問題就歸結為微分學中的求最大值問題。
若 f(x;θ) 關于θ可微，這時
可以從下面的方程解得：
因為L(θ)與 lnL(θ) 在同一θ處取得極值，是以，θ的最大似然估計θ也可以從下面的方程解得:
，這個叫對數似然方程。
（我也不太懂大牛們為什麼取對數求解，需要學習。）
附：
其他同學的總結，最大似然估計法的一般步驟：
- 寫出似然函數；
- 對似然函數取對數，并整理；
- 求導數；
- 解似然方程。
參考資料：《機率論與數理統計（第四版）》 浙江大學 盛驟 謝式千 潘承毅 編
内容來自：谷震平的部落格，希望尊重版權，尊重原創。
連結：http://blog.csdn.net/guzhenping