效應(yīng)的最小二乘估計第一頁，共十八頁，編輯于2023年，星期三一、最小二乘分析法的原理和方法這里主要討論次級樣本容量不等的最小二乘分析法的基本內(nèi)容與其他方法相比，最小二乘分析法至少有以下幾個優(yōu)點：1、最小二乘分析法適用于線性和非線性數(shù)學(xué)模型2、最小二乘分析法與最重要的一個統(tǒng)計量——算術(shù)平均數(shù)發(fā)生關(guān)系3、適應(yīng)范圍廣第二頁，共十八頁，編輯于2023年，星期三最小二乘分析法特別適合于以下幾種情況：1、試驗條件復(fù)雜，成本太高、來源一致的大樣本資料不容易獲得2、來自各試驗單位的資料不平衡、需要進(jìn)行校正3、次要因素不容易控制4、資料需要校正合并5、資料次級樣本容量不等，而使得平方和的可加性遭到破壞目前，絕大多數(shù)統(tǒng)計軟件中的方差分析均為最小二乘方差分析法第三頁，共十八頁，編輯于2023年，星期三設(shè)有一批觀測值以下均以代替以前的根據(jù)最小二乘原理求出處理效應(yīng)的估計值，即取這樣一個y值,作為這批數(shù)據(jù)的最佳值，它應(yīng)當(dāng)與各個的平方和最小，即對求微分，并令之為0，則有

y即為算術(shù)平均數(shù)第四頁，共十八頁，編輯于2023年，星期三繼續(xù)求其二級微分，可知為極小即算術(shù)平均數(shù)是一批觀測值的最小二乘估計值在線性方程組中，如果，即方程組非齊次②X的秩=b的維數(shù)（即X為非奇異陣）③增廣矩陣|Xy|的秩=X的秩（即方程組相容）則方程組有唯一解：當(dāng)X不是方陣（即方程組中方程的個數(shù)與未知數(shù)的個數(shù)不等），必為一非奇異陣，則方程組的解可由其中，即為b的最小二乘估計值第五頁，共十八頁，編輯于2023年，星期三可以證明，是唯一的、無偏的任何數(shù)學(xué)模型均可用矩陣形式表示如線性模型的矩陣形式為其中，y為n維觀測值向量X為固定效應(yīng)的結(jié)構(gòu)矩陣b為固定效應(yīng)向量e為隨機(jī)誤差向量，且在中，絕大多數(shù)情況下，X不會是方陣，即方程個數(shù)與未知數(shù)個數(shù)不等，為使方程有解

第六頁，共十八頁，編輯于2023年，星期三方程可改寫成可以證明，該式必有解：當(dāng)滿秩時，必有存在，且為唯一，即其中，是唯一的，且是b的最小二乘估計值，是b的最佳線性無偏估計值當(dāng)不滿秩時，有無窮多個解為使方程有唯一解，可加入約束條件，從而使為滿秩，得出唯一解常用的約束條件有很多，如：和約束、相對約束（）等，但約束條件不同，解也不同第七頁，共十八頁，編輯于2023年，星期三二、單向分類資料的最小二乘分析法例：設(shè)計了三種草本植物添加劑作飼養(yǎng)試驗，得數(shù)據(jù)如下：添加劑種類增重效果Ⅰ1.21.01.11.1Ⅱ1.41.3Ⅲ1.00.91.2本例中，，，設(shè)三種添加劑的效應(yīng)值分別為每一觀測值完整的數(shù)學(xué)模型為：請回顧一下，用普通方差分析法該如何分析之？第八頁，共十八頁，編輯于2023年，星期三當(dāng)有k個組時，觀測值的一般通式為：本例每一觀測值的數(shù)學(xué)模型：第一組：……第二組：……第三組：……第九頁，共十八頁，編輯于2023年，星期三其結(jié)構(gòu)矩陣X為：

X=該結(jié)構(gòu)陣不是一個方陣，因此應(yīng)求X’X第十頁，共十八頁，編輯于2023年，星期三X’X=

=X’X的一般通式是：第十一頁，共十八頁，編輯于2023年，星期三而X’y=X’y=上式中：第十二頁，共十八頁，編輯于2023年，星期三因此，矩陣方陣為：其通式是：可以看出，X’X是不滿秩的，因此它無唯一解第十三頁，共十八頁，編輯于2023年，星期三由于是其約束條件，因此可以將該方程組減去一個（習(xí)慣上總是減去最后一個）首先作行相減，第一行是方程，因此不減從第二行逐行減去最后一個方程：然后作列相減，即除第一列外的各列均減去最后一列：第十四頁，共十八頁，編輯于2023年，星期三這一過程稱為矩陣的降階，降階后的矩陣稱為降階矩陣，降階矩陣與原矩陣相比，少了一行一列，即由原來的（k+1）行（k+1）列降為k行k列降階后的矩陣仍為對稱陣，且滿秩，因此有唯一解：第十五頁，共十八頁，編輯于2023年，星期三即（總體效應(yīng)值）=1.1611，此即為最小二乘均值LSM（leastsquaremean）（第一種中草藥添加劑效應(yīng)值）=-0.0611（第二種中草藥添加劑效應(yīng)值）=0.1889（第三種中草藥添加劑效應(yīng)值）==-（-0.0611+0.1889）=-0.1278三種中草藥添加劑的最小二乘均值（LSM）則分別為：第十六頁，共十八頁，編輯于2023年，星期三數(shù)據(jù)比較簡單時，手工計算和統(tǒng)計軟件運算兩者差別不大，但當(dāng)數(shù)據(jù)結(jié)構(gòu)比較復(fù)雜，或數(shù)據(jù)量很大時，則必須借助于統(tǒng)計軟件這里僅用單因素的數(shù)據(jù)結(jié)構(gòu)來說明最小二乘