統計(最大概度和unbias)

2013-09-29 1:17 am
Let X1, X2, ··· , Xn be a random sample from an exponential distribution (i.e., gamma distribution with α = 1 for f(x; α, θ) = (θ^α/Γ(α)) * x^(α−1) * e^(−θx)) with probability density function (p.d.f.)
f(x; θ) = θ * e^(−θx), 0 < x < ∞, θ ∈ Ω = {θ : 0 < θ < ∞}.
Let Y =Σ (i=1 to n) Xi = X1 + X2 + ··· + Xn.
(a) What is the distribution of Y ?
(b) Show that Y is a sufficient statistic for θ.
(c) Show that (n−1)/Y is an unbiased estimator of θ.
(d) Find the maximum likelihood estimator of θ.
(e) Use the following data to give a point estimate of
θ: 2.3 3.5 4.2 4.0 3.8
Please specify which estimator you decide to use and why.
----
謝謝幫忙~!
更新1:

老怪物你好,我統計最近才開始學,感覺用到很多機率的東西, 但是機率沒有學好,感覺很吃力,謝謝您的幫忙,能不能移到 回答區?

回答 (1)

2013-10-02 9:50 pm
✔ 最佳答案
(a) 先證明 gamma distribution 之 additive property.
然後可得此小題之答案: gamma distribution with
shape parameter n and scale parameter θ (或習慣
上 shape parameter 是放在分母, 所以是 1/θ).

(b) 應用 "因子分解定理" 立即可得.

(c) 簡單的計算, E[(n-1)/Y] 並不難算.

(d) Likelihood function 為 θ^n e^{-θΣx_i}.
取對數, 應用微分求極值.

2013-10-01 13:02:18 補充:
(e) 只是套用 (c) 之 unbiased estimator 及 (d) 之
maximum likelihood estimator 做計算. 而且事實
上都是 sample mean 的倍數.

2013-10-02 13:50:12 補充:

(a) 先證明 gamma distribution 之 additive property.
然後可得此小題之答案: gamma distribution with
shape parameter n and scale parameter θ (或習慣
上 shape parameter 是放在分母, 所以是 1/θ).


所謂 gamma function 的 additive prpperty, 是:
若 U, V 是相互獨立隨機變數, 各自服從 shape parameter α1, α2,
共同之 scale parameter β 的 gamma distribution, 則 U+V 服從
shape parameter α1+α2, scale parameter β 的 gamma distribution.

證明方式: 最簡便的是利用動差母函數(moment generating function)
或特性函數(characteristic function); 另法是直接積分:
 P[U+V≦w] = ∫_[0,w]∫_[0,w-u] f1(u)f2(v) dv du
其中 f1(u) = u^{α1-1}e^{-u/β}/(Γ(α1)β^{α1}), f2(v) 類似. 積分時可做個雙變數的積分變數變換 x=u/(u+v), y=u+v. 這個積分與在證明 gamma
function 與 beta function 時做的幾乎是完全一樣的.


當然有時答題時只需引用, 而不需去證明. 引用 gamma distribution
的 additive property, 則得證 Y = ΣXi 服從 gamma distribution,
如前述.



(b) 應用 "因子分解定理" 立即可得.
X1,...,Xn 之聯合 p.d.f. 為
 f(x_1,...,x_n;θ) = f_1(x_1)....f_1(x_n) = θ^n e^{-θ Σx_i}
故 f(x_1,...,x_n;θ) = g(y;θ)h(x_1,...,x_n;y), 其中 g(y;θ) = θ^n e^{-θy}, y>0; h(x_1,...,x_n;y) = 1 for all x_1,...,x_n, y.

由因子分解定理, 知 Y = Σ Xi = X1+...+Xn 是 θ 的充分統計量.




(c) 簡單的計算, E[(n-1)/Y] 並不難算.

由 (a) 得 Y 之 p.d.f. 為
g(y;θ) = [θ^n y^{n-1}/(n-1)!]e^{-θy}, y>0; = 0, elsewhere.
所以
E[(n-1)/Y] = ∫_(0,∞) [θ^n y^{n-2}/(n-2)!] e^{-θy} dy
提出一個 θ, 剩下的是一個 gamma p.d.f. 在其有效範圍的積分.
因此得 E[(n-1)/Y] = θ. 即: (n-1)/Y 是 θ 的一個不偏估計.



(d) Likelihood function 為 θ^n e^{-θΣx_i}.
取對數, 應用微分求極值.

log-likelihood:
 L(θ;x_1,...,x_n) = n ln(θ) - θ(Σx_i)
對 θ 微分, 很容易得臨界值 θ^ = n/(Σx_i), 並且很容易判斷出
這是 L(θ) 的唯一極大所在. 因此 θ 的 MLE 是 n/ΣXi.




(e) 只是套用 (c) 之 unbiased estimator 及 (d) 之
maximum likelihood estimator 做計算. 而且事實
上都是 sample mean 的倍數.



收錄日期: 2021-05-04 01:53:54
原文連結 [永久失效]:
https://hk.answers.yahoo.com/question/index?qid=20130928000016KK05090

檢視 Wayback Machine 備份