1、下下回回停停二、無(wú)偏估計(jì)二、無(wú)偏估計(jì)第二節(jié)第二節(jié) 估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn)三三、最小方差無(wú)偏估計(jì)最小方差無(wú)偏估計(jì) 四、有效估計(jì)四、有效估計(jì)五、五、相合估計(jì)相合估計(jì)( (一致估計(jì)一致估計(jì)) ) 一、問(wèn)題的提出一、問(wèn)題的提出一、問(wèn)題的提出一、問(wèn)題的提出 究竟采用哪一個(gè)估計(jì)量更好呢？這就究竟采用哪一個(gè)估計(jì)量更好呢？這就個(gè)數(shù)字特征出發(fā)，引入無(wú)偏性，有效性，個(gè)數(shù)字特征出發(fā)，引入無(wú)偏性，有效性， 對(duì)于總體分布中的同一個(gè)未知參數(shù)對(duì)于總體分布中的同一個(gè)未知參數(shù), , 若采用不同的估計(jì)方法，可能得到不同的若采用不同的估計(jì)方法，可能得到不同的估計(jì)量估計(jì)量 。產(chǎn)生了如何評(píng)價(jià)與比較估計(jì)量的好壞的問(wèn)產(chǎn)生了如何評(píng)

2、價(jià)與比較估計(jì)量的好壞的問(wèn)題，我們從估計(jì)量的數(shù)學(xué)期望及方差這兩題，我們從估計(jì)量的數(shù)學(xué)期望及方差這兩最小方差無(wú)偏估計(jì)和相合性等概念。最小方差無(wú)偏估計(jì)和相合性等概念。二、無(wú)偏性二、無(wú)偏性設(shè)設(shè) 是參數(shù)是參數(shù) 的一個(gè)的一個(gè) 12nXXX， ， 估計(jì)量，如果估計(jì)量，如果 ,E ，滿足關(guān)系式，滿足關(guān)系式 1 2n， ， 如果如果 12nnnXXX， ， 的一列估計(jì)的一列估計(jì)limnnE則稱則稱 是是 的漸近無(wú)偏估計(jì)量的漸近無(wú)偏估計(jì)量. n 估計(jì)量估計(jì)量 如果不是無(wú)偏估計(jì)量如果不是無(wú)偏估計(jì)量, 就稱這個(gè)估就稱這個(gè)估 計(jì)量是有偏的，稱計(jì)量是有偏的，稱 為估計(jì)量為估計(jì)量 的偏差的偏差 . E 則稱則稱 是是 的無(wú)

3、偏估計(jì)的無(wú)偏估計(jì)(量量).22221,nnnE XE SE Sn2222nnXSS證證明明：樣樣本本均均值值 是是 的的無(wú)無(wú)偏偏估估計(jì)計(jì). .樣樣本本方方差差是是的的漸漸近近無(wú)無(wú)偏偏估估計(jì)計(jì). .修修正正樣樣本本方方差差是是的的無(wú)無(wú)偏偏估估計(jì)計(jì). . 例例1證證所以，所以，X2nS和和均為無(wú)偏估計(jì)量，而均為無(wú)偏估計(jì)量，而2221limlimnnnE Sn故故 是是 的漸近無(wú)偏估計(jì)的漸近無(wú)偏估計(jì). 2nS2 ().2XE XD X設(shè)設(shè)總總體體的的一一階階和和二二階階矩矩存存在在，分分布布是是任任意意的的，記記， 例例2 設(shè)總體設(shè)總體 服從區(qū)間服從區(qū)間 上的均勻分布上的均勻分布,X0， 12nXX

4、X， ， 是總體是總體 的一個(gè)樣本的一個(gè)樣本 . X 試證：參數(shù)試證：參數(shù) 的矩估計(jì)量的矩估計(jì)量 是是 的無(wú)偏的無(wú)偏 12X 的漸近無(wú)偏估計(jì)的漸近無(wú)偏估計(jì). 證證 12222EEXE X 故故 的矩估計(jì)的矩估計(jì) 是無(wú)偏估計(jì)量是無(wú)偏估計(jì)量. 1 估計(jì)估計(jì); 的最大似然估計(jì)的最大似然估計(jì) niniLXX 1max 是是 1,00,nnX nnxxpx其其他他 LnX nEE Xxpx dx 101nnnnxxdxn 所以所以.的有偏估計(jì)量的有偏估計(jì)量是是 L但是但是, limlim1LnnnEn即即 是是 的漸近無(wú)偏估計(jì)量的漸近無(wú)偏估計(jì)量. L 但只要修正為但只要修正為 2( )11LnnnXnn

5、 那么那么 也是也是 的無(wú)偏估計(jì)量的無(wú)偏估計(jì)量. 2 1一個(gè)未知參數(shù)可能有不止一個(gè)無(wú)偏估計(jì)量一個(gè)未知參數(shù)可能有不止一個(gè)無(wú)偏估計(jì)量 .1 12 2 都是無(wú)偏估計(jì)量都是無(wú)偏估計(jì)量. 2有時(shí)一個(gè)參數(shù)的無(wú)偏估計(jì)可能不存在有時(shí)一個(gè)參數(shù)的無(wú)偏估計(jì)可能不存在. 例如，設(shè)總體例如，設(shè)總體 則則 | | 就沒(méi)有無(wú)偏就沒(méi)有無(wú)偏 ,1 ,XN 估計(jì)估計(jì). 其中其中 . 2222 ( )12E Xe 12121, 設(shè)設(shè)和和為為滿滿足足的的任任意意常常數(shù)數(shù) 則則注注3有時(shí)無(wú)偏估計(jì)可能明顯不合理有時(shí)無(wú)偏估計(jì)可能明顯不合理. 例如，設(shè)例如，設(shè) 1X P 是來(lái)自泊松總體是來(lái)自泊松總體的一個(gè)的一個(gè) 12X3e 樣本，可以證明樣

6、本，可以證明是是的無(wú)偏估計(jì)的無(wú)偏估計(jì). 但這個(gè)無(wú)偏估計(jì)明顯不合理但這個(gè)無(wú)偏估計(jì)明顯不合理. 當(dāng)當(dāng) 1X 取奇取奇 數(shù)值時(shí)，估計(jì)值為負(fù)數(shù)數(shù)值時(shí)，估計(jì)值為負(fù)數(shù). 用一個(gè)負(fù)數(shù)估計(jì)用一個(gè)負(fù)數(shù)估計(jì) ， 3e 明顯不合理明顯不合理 .三、最小方差無(wú)偏估計(jì)三、最小方差無(wú)偏估計(jì) 定義定義6.4如果存在如果存在 一個(gè)無(wú)偏估計(jì)量一個(gè)無(wú)偏估計(jì)量 ,使對(duì)使對(duì) 的任意無(wú)偏的任意無(wú)偏 0 估計(jì)量估計(jì)量 ,都有都有 0DD 則稱則稱 是是 的最小方差無(wú)偏估計(jì)的最小方差無(wú)偏估計(jì)(量量). 0 縮寫為縮寫為MVUE.若對(duì)任意的無(wú)偏估計(jì)量均為和設(shè),21 .,2121有效比則稱有樣本容量 DDn最小方差無(wú)偏估計(jì)是一種最優(yōu)估計(jì)最小方

7、差無(wú)偏估計(jì)是一種最優(yōu)估計(jì). 例例3設(shè)總體設(shè)總體 服從區(qū)間服從區(qū)間 上的均勻分布上的均勻分布,X0 ， 的一個(gè)樣本，矩的一個(gè)樣本，矩 12nXXX， ，是總體是總體X估計(jì)估計(jì)12X 和修正的最大似然估計(jì)和修正的最大似然估計(jì) 21nnXn 的無(wú)偏估計(jì)的無(wú)偏估計(jì)， 和和 哪個(gè)更有效？哪個(gè)更有效？ 均為均為 1 2 解解 221()4244123D XDDXD Xnnn 22211nnnnDDXD Xnn 222( )2(1)()nnnE XEXn ,1nnE Xn 2212( )02nX nnnnnE Xx px dxxdxn 22222222111,22nnnDnn nnn 顯然當(dāng)顯然當(dāng) 時(shí)時(shí)2n

8、 221232DDnn n 即即 比比 有效有效.2 1 是是存在，存在，設(shè)設(shè)),(0)(,)(212XXXDXE ,4143211XX ,2121212XX .3132213XX 例例4來(lái)自總體來(lái)自總體X的樣本的樣本, 問(wèn)問(wèn): 下列三個(gè)對(duì)下列三個(gè)對(duì) 的無(wú)偏估計(jì)的無(wú)偏估計(jì)量哪一個(gè)最有效量哪一個(gè)最有效?解解,85)161169()(221 D,21)(22 D,95)(23 D)()()(132 DDD .2最有效最有效 注注)1(11 niiiniiCXC一般地，在一般地，在 的的 無(wú)偏估計(jì)量無(wú)偏估計(jì)量.最有效中，X可用求條件可用求條件極值的拉格極值的拉格朗日乘數(shù)法朗日乘數(shù)法證明證明定義定義6

9、.6設(shè)設(shè) 是未知參數(shù)是未知參數(shù)12,nnnXXX 的估計(jì)序列，如果的估計(jì)序列，如果 依概率收斂于依概率收斂于 ，即對(duì)，即對(duì) n 任意任意 , 有：有： 0 lim1nnP lim0nnP 或或則稱則稱 是是 的相合估計(jì)的相合估計(jì)(或一致估計(jì)或一致估計(jì)). n 四、相合估計(jì)四、相合估計(jì)(一致估計(jì)一致估計(jì)) 且且 lim()0nnD , 則則 是是 的相合估計(jì)的相合估計(jì)(或一致估計(jì)或一致估計(jì)). n 證明證明0nP由于由于定理定理6.2設(shè)設(shè)n 是是 的一個(gè)估計(jì)量的一個(gè)估計(jì)量, 若若,lim nnE221()nE ( )nP x dx 22()( )nnP x dx 22()( )nP x dx 令

10、令 , 由定理的假設(shè)得由定理的假設(shè)得 n lim0nnP 即即 是是 的相合估計(jì)的相合估計(jì) n 221nnnEEE 22212nnnnnnEEEEE 221nnDE 均值均值 的相合估計(jì)的相合估計(jì). EX 若總體若總體 的的 和和 都存在都存在 , 證明證明 是總體是總體 EXXDXX證證因?yàn)橐驗(yàn)镋XEX0D XD Xnn 故故 是總體均值是總體均值 的相合估計(jì)的相合估計(jì). XEX一般樣本的一般樣本的 階原點(diǎn)矩階原點(diǎn)矩 是總體是總體 階階 k11nkkiiAXnk原點(diǎn)矩的相合估計(jì)原點(diǎn)矩的相合估計(jì). 矩估計(jì)往往是相合估計(jì)矩估計(jì)往往是相合估計(jì). 例例9估計(jì)量的評(píng)選的四個(gè)標(biāo)準(zhǔn)，估計(jì)量的評(píng)選的四個(gè)標(biāo)準(zhǔn)

11、，但要求一下三個(gè)標(biāo)準(zhǔn)但要求一下三個(gè)標(biāo)準(zhǔn) 無(wú)偏性無(wú)偏性有效性有效性相合性相合性 相合性是對(duì)估計(jì)量的一個(gè)基本要求相合性是對(duì)估計(jì)量的一個(gè)基本要求, 不具備不具備 由最大似然估計(jì)法得到的估計(jì)量由最大似然估計(jì)法得到的估計(jì)量, 在一定條在一定條相合性的估計(jì)量是不予以考慮的相合性的估計(jì)量是不予以考慮的.有效性這兩個(gè)標(biāo)準(zhǔn)有效性這兩個(gè)標(biāo)準(zhǔn).件下也具有相合性件下也具有相合性.估計(jì)量的相合性只有當(dāng)樣本估計(jì)量的相合性只有當(dāng)樣本容量相當(dāng)大時(shí)容量相當(dāng)大時(shí),才能顯示出優(yōu)越性才能顯示出優(yōu)越性, 這在實(shí)際中這在實(shí)際中往往難以做到往往難以做到,因此因此,在工程中往往使用無(wú)偏性和在工程中往往使用無(wú)偏性和內(nèi)容小結(jié)內(nèi)容小結(jié)設(shè)總體設(shè)總體

12、X的方差的方差XD存在存在, 且且, 0XDnXXX,21為來(lái)自總體為來(lái)自總體X的樣本的樣本, 試選擇適試選擇適當(dāng)?shù)某?shù)當(dāng)?shù)某?shù)C, 使得使得1121niiiXXC為為D(X)的無(wú)偏估計(jì)的無(wú)偏估計(jì).備用題備用題例例2-1)(1121niiiXXCE 1121)(niiiXXEC )()(21111 niiiiiXXEXXDC)()(),()(XDXDXEXEii ), 2, 1(ni )(2)()()(11XDXDXDXXDiiii 0)()()(11 iiiiXEXEXXE解解nXXX,21而而相互獨(dú)立相互獨(dú)立, 且與且與X 同分布同分布)(1121 niiiXXCE )()(21111 n

13、iiiiiXXEXXDC 11)(2niXDC)()1(2XDnC 依題意，依題意，)()(1121XDXXCEniii )()()1(2XDXDnC 即即.)1(21 nC設(shè)設(shè)1 及及2 為為 的兩個(gè)獨(dú)立的無(wú)偏估計(jì)量的兩個(gè)獨(dú)立的無(wú)偏估計(jì)量, 且假定且假定 ,221 DD求常數(shù)求常數(shù),21CC 及及使使 .,2211達(dá)到最小達(dá)到最小并使并使的無(wú)偏估計(jì)的無(wú)偏估計(jì)為為 DCC解解 212211CCCCEE . 1,21CCE則則由由 222212221212 DCCDCDCD方差方差例例5-11222211,2,CCCCfD將將最小最小只需只需最小最小要使要使 有有代入代入 f123121212121CCCCf,最小時(shí)最小時(shí)當(dāng)當(dāng) f.32,3121CC則則 設(shè)總體設(shè)總體 的二階矩存在，的二階矩存在，X12nXXX， ，是來(lái)自總體是來(lái)自總體 X 的一個(gè)樣本的一個(gè)樣本 ， . 1,2,n 試證試證 是總體均值是總體均值 的相合估計(jì)的相合估計(jì). 121nniiiXn n 證證因?yàn)橐驗(yàn)?122()11nnniiiiEEiXiEXn nn n 1122112nin nin nn n 例例9-1222112411nnniiiiDDiXi D Xn nnn 222141nii D Xnn22121461n nn