試求參數μ 及σ^2 的最大概似估計式

f(xi) = (2πσ²)⁻¹´² exp[ -(xi-u)² / (2σ²)]

L(u,σ²) = f(x1,x2,x3, ... , xn) = (2πσ²)⁻ⁿ´² exp[-Σ(x-u)²/(2σ²)]
lnL(u,σ²) = -n/2 * ln(2πσ²) - Σ(x-u)² / (2σ²)

∂lnL(u,σ²) / ∂u = Σ(x-u)/σ² = 0
Σ(x-u) = 0 , Σx - nu = 0 , u = X̅

參數 μ 的最大概似估計式 : u = X̅

∂lnL (u,σ²) / ∂σ² = - n / (2σ²) + Σ(x-u)² / (2σ⁴) = 0
Σ(x-u)² / (2σ⁴) = n / (2σ²)
σ² = Σ(x-u)²/n

參數 σ² 的最大概似估計式 : σ² = Σ(x-u)²/n

E(X̅) = E(ΣXi / n) = ΣE(Xi) / n = Σu / n = nu / n = u ... 具有不偏性


2015-06-18 15:36:25 補充：
u = X̅ 代入 σ² = Σ(x-u)²/n , 得 σ² = Σ(x - X̅)²/n

E(σ²) = E[Σ(x - X̅)²/n]
　　　= σ²/n * E[Σ(x - X̅)²/σ²]
　　　= σ²(n-1)/n * E{ Σ(x - X̅)² / [(n-1)σ²] }
　　　= σ²(n-1)/n
　　　≠ σ² ..... 偏誤

N(μ, σ²) 的 兩個參數的 MLE 都是很常見的課本例題吧，一定很易找到參考的。

2015-07-10 03:55:52 補充：
慈信 大師，可以複製以下的字元待將來之用：

「x̄」

「p̂」

基本練習.

μ^ = Xbar, 不偏;
(σ^2)^ = Σ(Xi-Xbar)^2/n, 有偏, E[ (σ^2)^ ] = σ^2(n-1)/n.