第三章多元回歸分析關(guān)鍵要點理解多元回歸的概念以及可以處理的問題。掌握三種不一樣類型多元回歸的特點和區(qū)別，理解自變量的進入次序?qū)饬吭撟宰兞恐匾缘挠绊?。掌握檢查回歸方程整體明顯性和比較自變量重要性大小的指標(biāo)和措施。理解也許對回歸分析精確性產(chǎn)生影響的原因。多元回歸分析的一般目的和描述多元回歸分析重要回答的問題多元回歸分析的假設(shè)及模型多元回歸分析的類型多元回歸分析中自變量的重要性多元回歸分析中的記錄檢查多元回歸分析中的某些值得注意的問題回歸分析的局限性應(yīng)用案例及SPSS操作提綱多元回歸分析的一般目的和描述一元回歸分析：只有一種自變量，只能處理兩個變量之間的關(guān)系多元回歸分析：考察多種變量對一種變量的影響1多元回歸分析vs多元有關(guān)分析多元回歸分析重要回答的問題多元回歸分析重要回答四大類問題：（1）驗證自變量對因變量的影響；（2）檢查單個或一組自變量的重要性；（3）建立預(yù)測模型；（4）分析自變量之間的交互作用。2多元回歸分析重要回答的問題可細化為是個方面：第一，考察因變量和多種自變量之間關(guān)系的強度。第二，考察已經(jīng)有自變量的重要性。第三。考察增長自變量的必要性。第四，在記錄上預(yù)先控制協(xié)變量的影響。第五，基于假設(shè)的需要定義變量影響次序。第六，比較多組自變量的重要性。第七，尋找最佳的預(yù)測模型。第八，在新樣本上預(yù)測因變量分?jǐn)?shù)。第九，重新定義自變量以解釋非線性關(guān)系。第十，同步處理分類自變量和持續(xù)自變量對因變量的影響。2多元回歸分析的假設(shè)及模型33.1使用多元回歸分析的前提假設(shè)（1）存在兩個或兩個以上的自變量及一種因變量；（2）因變量服從正態(tài)分布；（3）自變量與因變量之間呈線性關(guān)系；（4）所有變量的觀測必須是彼此獨立的。多元回歸分析的假設(shè)及模型33.2多元回歸方程的建立多元回歸分析的假設(shè)及模型33.3多元回歸方程的參數(shù)估計最小二乘法根據(jù)最佳擬合的原則，最小二乘法規(guī)定估計得到的參數(shù)滿足殘差平方和最小求出參數(shù)使殘差平方和

取得最小值多元回歸分析的類型44.1原則多元回歸（standardmultipleregression）又稱為同步回歸（simultaneousregression）所有自變量同步進入回歸方程僅度量了每個自變量進入方程后增長的預(yù)測因變量的奉獻原則多元回歸在計算單個自變量的奉獻時，該自變量與其他所有自變量共同解釋的部分都被排除，僅計算剩余的可解釋的部分所有重疊的部分將不計入任何自變量的奉獻多元回歸分析的類型44.2序列回歸（sequentialregression）又稱分層回歸（hierarchicalregression）自變量將根據(jù)研究者指定的次序進入回歸方程由于存在前后次序，衡量一種（或一組）自變量的奉獻時，與其他變量共同解釋的部分會歸為先進入的變量。多元回歸分析的類型44.3記錄回歸（statisticalregression）完全以記錄原則決定進入自變量進入回歸方程的次序，沒有考慮變量的意義和理論解釋的問題，是一種帶有爭議的回歸類型。一種變量會進入或被排除出方程完全根據(jù)該樣本下計算出的記錄指標(biāo)，某些細微的差異將會對衡量變量重要性導(dǎo)致較大的影響。多元回歸分析的類型44.4三種回歸的比較原則回歸會剔除所有自變量的重疊部分，可以體現(xiàn)出每個自變量的單獨奉獻。序列回歸可以在某些變量進入方程的前提下探討另某些變量的奉獻。記錄回歸可以辨別具有多重共線性的變量，將為未來的研究剔除某些明顯冗余的變量。多元回歸分析中自變量的重要性55.1多元測定系數(shù)回歸平方和（regressionsumofsquares）總平方和（totalsumofsquares）多元回歸分析中自變量的重要性55.2調(diào)整的多元測定系數(shù)多元回歸分析中自變量的重要性55.3偏有關(guān)系數(shù)偏有關(guān)（partialcorrelation）指的是控制其他自變量后Y和X的有關(guān)，它等于從Y和X中都除去其他預(yù)測變量的影響之后，Y和X中剩余部分的簡樸有關(guān)。將偏有關(guān)系數(shù)平方后便可以得到偏測定系數(shù)（coefficientofpartialdetermination）偏測定系數(shù)是在控制其他自變量的條件下，單一自變量對因變量的邊際解釋力。多元回歸分析中自變量的重要性55.4半偏有關(guān)系數(shù)半偏有關(guān)（semi-partialcorrelation）又稱部分有關(guān)（partcorrelation）多元回歸分析中自變量的重要性5多元回歸分析中自變量的重要性55.5原則化回歸系數(shù)因為標(biāo)準(zhǔn)化的Z變量是無量綱的變量，所以此時的回歸系數(shù)就稱為標(biāo)準(zhǔn)化的回歸系數(shù)（standardizedregressioncoefficient）。多元回歸分析中的記錄檢查66.1回歸方程的明顯性檢查多元回歸分析中的記錄檢查66.2新加入變量的明顯性檢查

多元回歸分析中的記錄檢查66.3回歸系數(shù)的明顯性檢查多元回歸分析中的某些值得注意的問題77.1樣本量樣本量與一系列問題有關(guān)，包括規(guī)定的檢查力，α水平，自變量個數(shù)、預(yù)期的效應(yīng)量以及成果的泛化性等。當(dāng)樣本量非常大時，幾乎所有回歸系數(shù)都將明顯地不等于0，雖然不能很好預(yù)測因變量的自變量也是如此。多元回歸分析中的某些值得注意的問題77.2異常值模式異常的個案可以對回歸系數(shù)的估計精度產(chǎn)生巨大影響。單變量檢測的常用方式有Z分?jǐn)?shù)和盒式圖等雙變量下的散點圖多變量下的馬氏距離等在回歸的過程中可以同步檢測異常值最為常用的措施是殘差分析多元回歸分析中的某些值得注意的問題77.3多重共線性假如兩個自變量之間的有關(guān)系數(shù)很高，或者一種自變量可以由其他自變量線性表達，即認(rèn)為存在多重共線性問題。共線性現(xiàn)象的不良影響（1）回歸系數(shù)的置信區(qū)間變寬，系數(shù)變得不穩(wěn)定，由樣本推到總體的泛化性變差；（2）回歸系數(shù)不能很好地反應(yīng)單個自變量對因變量的獨立影響；（3）使變量的偏測定系數(shù)變??；（4）當(dāng)方程用于預(yù)測時，回歸成果變得不可靠。多元回歸分析中的某些值得注意的問題77.3多重共線性常用的指標(biāo)及其原則：（1）容忍度（Tolerance）（2）方差膨脹因子（VarianceInflateFactor，VIF）（3）條件指數(shù)（ConditionIndex，CI）消除多重共線性影響的補救措施：（1）去掉與y有關(guān)程度低、而與其他自變量高度有關(guān)的自變量；（2）根據(jù)容忍度或VIF刪除變量，去掉可以被其他自變量線性表達的變量；（3）增長樣本量；（4）采用新的樣本數(shù)據(jù)；（5）合并變量（6）換用其他形式的回歸（7）變量轉(zhuǎn)換多元回歸分析中的某些值得注意的問題77.4殘差分析多元回歸分析假設(shè)殘差具有正態(tài)性，線性和方差同質(zhì)性，同步假設(shè)誤差具有獨立性。殘差的正態(tài)性假設(shè)指的是殘差在每個因變量的預(yù)測分?jǐn)?shù)下都呈正態(tài)分布。線性假設(shè)指的是殘差與預(yù)測分?jǐn)?shù)呈直線關(guān)系。方差同質(zhì)性假設(shè)在所有預(yù)測分?jǐn)?shù)下殘差的方差相似。誤差的獨立性假設(shè)意味著每次觀測的成果都不應(yīng)受其他觀測的影響。一般的驗證措施是畫出殘差的散點圖，進行殘差分析，其中橫軸表達因變量的預(yù)測值，縱軸表達殘差。多元回歸分析中的某些值得注意的問題77.5分類自變量的虛擬編碼假如研究的自變量是分類變量，并但愿將分類自變量納入回歸，則需要對分類變量進行虛擬編碼（dummycoding）。假設(shè)該自變量有K個類別，則需要構(gòu)造K-1個新變量。將其中一種類別指定為對照類別，將對照類別在K-1個新變量上所有編碼為0，其他K-1個類別依次在K-1個新變量上編碼為1。假如將虛無編碼中對參照類別的編碼換為-1而不是0，形成的編碼方式稱為效應(yīng)編碼（effectcoding）。另一種常用的編碼方式稱為對照編碼（contrastcoding），對照編碼的一種長處在于編碼后生成的新變量互相正交。多元回歸分析中的某些值得注意的問題77.5分類自變量的虛擬編碼回歸分析的局限性8回歸分析意在揭示變量之間的關(guān)系，但并不能做出因果推斷。研究變量的選用同樣應(yīng)當(dāng)借助理論而不能僅靠記錄。回歸分析假