1、 例：16名學生的高考數(shù)學（X）和統(tǒng)計學（Y）成績如下表。某人高數(shù)80分，其統(tǒng)計成績可能為多少？ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50表* 高考數(shù)學成績與統(tǒng)計學成績 例：16名學生的高考數(shù)學（X）和統(tǒng)計學（Y）回歸分析第八章回歸分析第八章什么是回歸分析一元線性回歸方程的建立方程的檢驗方程的預測什么是回歸分析方程的建立1 什么是回歸分析“回歸”(regress

2、ion)一詞最早由高爾頓在研究身高和遺傳問題時提出的。兩種不同類型的變量關系： 完全確定性關系不確定關系如 s=vt ；U=IR如身高和體重；智商與未來成就；營養(yǎng)與壽命等共同特征：有密切關系，但不能由函數(shù)關系精確表達。1 什么是回歸分析“回歸”(regression)一詞最早由1 什么是回歸分析由于變量不確定性的存在，因而不能用確定的數(shù)學表達式來表示變量之間的關系，這種不確定關系即相關關系。這種不確定關系使變量的取值帶有一定的隨機性、偶然性，但在大量的偶然性中蘊含著必然性的規(guī)律，可用統(tǒng)計的方法在大量的實踐和觀察中找到這種規(guī)律。這種統(tǒng)計規(guī)律稱為回歸關系，在統(tǒng)計中有關這種回歸關系的計算理論與方法被

3、稱為回歸分析。1 什么是回歸分析由于變量不確定性的存在，因而不能用確定的數(shù)定義：研究變量與變量之間的關系，分析一 些變量對某個變量的影響，并進行預 測和控制的一種統(tǒng)計方法。目的：確定變量間共變關系的數(shù)學模型， 分析某一個變量的變異在多大程度 上可由其他變量的變異解釋和預測。1.1 回歸分析的意義定義：研究變量與變量之間的關系，分析一目的：確定變量間共變關1.2 回歸分析與相關分析的關系聯(lián)系：求解、應用回歸方程的前提是變量間存在相關關系；如果兩變量間無關聯(lián)，則求得的回歸方程無效，更不能由一個變量估計或預測另一個變量；兩個變量間相關程度越密切，則依一個變量預測另一個變量值時，結果越可靠。1.2 回

4、歸分析與相關分析的關系聯(lián)系：1.2 回歸分析與相關分析的關系區(qū)別相關分析研究的是變量間是否存在相互聯(lián)系，及其相互關聯(lián)的密切程度，可以用一個量數(shù)即相關系數(shù)來表示，此時，兩個變量處于平等地位，存在相關關系并不一定存在因果關系； 回歸分析是研究變量間的因果關系，通過建立的回歸方程，可依據(jù)自變量的已知值去估計或預測因變量的取值。1.2 回歸分析與相關分析的關系區(qū)別1.2 回歸分析與相關分析的關系區(qū)別相關分析研究兩個變量的關系時，兩個變量都是隨機變量，每個變量的取值都是隨機的； 回歸分析研究兩個變量的關系時，因變量是隨機變量，而自變量可以是隨機變量，也可以是非隨機的確定性變量，可以由實驗者選擇。1.2

5、回歸分析與相關分析的關系區(qū)別1.2 回歸分析與相關分析的關系區(qū)別相關系數(shù)是雙向對稱的，即X對Y的相關和Y對X的相關是一樣的； 回歸則不一樣，把X作自變量、 Y作因變量和把Y作自變量和X 作因變量，回歸方程是不一樣的，即回歸方程是不對稱的。1.2 回歸分析與相關分析的關系區(qū)別1.2 回歸分析與相關分析的關系區(qū)別聯(lián)系 r=0： 無回歸關系； 內 容 相關 回歸變量關系 雙向 單向因變量、自變量 有 無r=1：預測完全準確；r1： 預測越準確；1.2 回歸分析與相關分析的關系區(qū)別聯(lián)系 r=0： 1.1.2 回歸分析的類別類別線性回歸曲線回歸（非線性回歸）一元線性回歸多元線性回歸 2 一元線性回歸建立

6、回歸方程；檢驗回歸方程；預測因素分析2 一元線性回歸建立回歸方程；2 一元線性回歸定義：一個自變量的線性回歸。散布圖與回歸直線： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50表8-1 高考數(shù)學與心理統(tǒng)計成績表 2 一元線性回歸定義：一個自變量的線性回歸。散布圖與回歸直回歸直線：描述變量線性關系的直線。X60 70 80 90 100 110Y105 90 75 60

7、 45 30 15 0 回歸直線回歸直線：描述變量線性關系的直線。X60 70 （1）一元方程的通式定義：線性回歸方程中自變量的系數(shù)。含義：當其他自變量不變，該自變量變化 一個單位時，因變量變化的單位數(shù)。2.1 回歸方程與回歸系數(shù)（2）回歸系數(shù)截距（1）一元方程的通式定義：線性回歸方程中自變量的系數(shù)。含義：（3） 一元線性回歸的兩個方程 以X為自變量，Y為因變量的方程以Y為自變量，X為因變量的方程（3） 一元線性回歸的兩個方程 以X為自變量，Y為因變量的方2.2 b和a的求解原理和方法理論：最小二乘法直觀解釋最小二乘法：使誤差平方和最小。2.2.1 原理2.2 b和a的求解原理和方法理論：最小

8、二乘法直觀解釋最小2.2.2 公式及其推導（1）方程一2.2.2 公式及其推導（1）方程一 某一點殘值xy（X，Y）b1X公式推導b1=? 某一點殘值xy（X，Y）b1X公式推導b1=?代入 各點的殘值 各點殘值的平方代入 各點的殘值 各點殘值的平方xy（X，Y）b1b2ab2=？xy（X，Y）b1b2ab2=？回歸分析課件得 分別求a、b的偏導數(shù)，并令其為0，則有得 分別求a、b的偏導數(shù)，并令其為0，則有由得由得得代入得代入分子分母分子分母同理（2）方程二同理（2）方程二試建立由高考數(shù)學預測心理統(tǒng)計成績的回歸方程。表8-1 高考數(shù)學與心理統(tǒng)計成績表 1 2 3 4 5 6 7 8 9 10

9、11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50試建立由高考數(shù)學預測心理統(tǒng)計成績的回歸方程。表8-1 高 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50X2Y2XY 1 2 3 4 5

10、 6 方程方程試建立Y對X的回歸方程。表8-1 高考數(shù)學與心理統(tǒng)計成績表 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50試建立Y對X的回歸方程。表8-1 高考數(shù)學與心理統(tǒng)計成績回歸分析課件2.2.3 b的各種計算方法（1）定義式2.2.3 b的各種計算方法（1）定義式（2）計算式（2）計算式（3）相關法（3）相關法公式推導公式推導（4）其他公式（4）其他公式 1 2

11、3 4 5 6 7 8 9 10 11 12 13 14 15 16X 74 80 97 81 72 110 96 76 86 87 88 87 83 91 73 64 Y 60 63 72 83 67 98 85 61 71 80 93 72 72 71 62 50表8-1 高考數(shù)學與心理統(tǒng)計成績表 1 2 3 4 5 6 相關法X對Y的回歸系數(shù)Y對X的回歸系數(shù)相關法X對Y的回歸系數(shù)Y對X的回歸系數(shù)繪圖觀察分布趨勢；求回歸系數(shù)與截距；建立方程；繪出回歸直線；如：X1=74，X2=96小結繪圖觀察分布趨勢；如：X1=74，X2=96小結3 方程的檢驗目的：保證線性關系檢驗 方程 方差分析法 相

12、關系數(shù)法 回歸系數(shù) 截距回歸效果評價3 方程的檢驗目的：保證線性關系3.1 方程檢驗方差分析原理檢驗方法與過程3.1 方程檢驗方差分析原理自變量 取值 回歸變異剩余變異（1）原理因變量變異的原因及分解總變異組間變異組內變異實驗因素隨機誤差個體差異實驗誤差實驗誤差其他因素自變量回歸剩余（1）原理因變量變異的原因及分解總變異組間組內（2）檢驗方法與過程平方和的分解自由度的分解均方（2）檢驗方法與過程平方和的分解 平方和的分解總變異 平方和的分解總變異總平方和 回歸平方和 剩余平方和=總平方和 回歸 剩余=1）平方和的計算式總平方和1）平方和的計算式總平方和回歸平方和回歸平方和回歸分析課件殘余平方和

13、殘余平方和2）回歸平方和計算式推導2）回歸平方和計算式推導又又 自由度的分解 自由度的分解 均方與F值均方F值 均方與F值均方F值例8-1 假設 方差分析Ho：方程無顯著線性關系 Ha：方程有顯著線性關系1、方程建立2、方程檢驗例8-1 假設 方差分析Ho：方程無顯著線性關系 求平方和求平方和 比較與決策 接受Ha，拒絕Ho，說明所建方程存在差極顯著的線性關系。效果極顯著求F值 比較與決策 接受Ha，拒絕Ho，說明所建方程存在差極顯 列方差分析表變異源 SS df MS F 回歸 1588.61 1 1588.61 26.62* 剩余 835.39 14 59.67 總的 2424 15表11

14、-2 回歸方程方差分析表 列方差分析表變異源 SS df以例11-1為例，做X對Y方程的檢驗以例11-1為例，做X對Y方程的檢驗二、回歸系數(shù)的檢驗Ho：=0 （一）基本思想樣本b：在以=0為中心的回歸系數(shù)上抽 樣分布上出現(xiàn)的誤差概率的大小。誤差概率p較大時：0.05誤差概率p較小時：0.05b與=0無顯著差異無回歸關系b與=0存在顯著差異有回歸關系二、回歸系數(shù)的檢驗Ho：=0 （一）基本思想樣本b：在以（二）檢驗值（二）檢驗值（三）標準誤的求解殘值法相關法（三）標準誤的求解殘值法1、殘值法條件：都呈正態(tài)分布且方差齊性與所有自變量相應的因變量的殘值1）前提條件1、殘值法條件：都呈正態(tài)分布與所有自

15、變量相應的因變量的殘值12）標準誤公式預測標準誤標準誤：殘值的估計誤差及自變量離差 平方和的比值2）標準誤公式預測標準誤：殘值的估計誤差及自變量離差同理同理又又例11-1變異源 SS df MS F 回歸 1588.61 1 1588.61 26.62* 剩余 835.39 14 59.67 總的 2424 15例11-1變異源 SS df 建立假設 Ho：=0Ha：0求檢驗值統(tǒng)計決策df=n-2=16-2=14t0.01/2=2.977建立假設 Ho：=0求檢驗值統(tǒng)計決策df=n-2=12、相關法2、相關法例11-1 假設 Ho：=0 Ha：0 比較與決策 檢驗例11-1 假設 Ho：=0

16、比較與決策 檢驗2、150名6歲男童體重（X）與屈臂懸體（Y）的相關系數(shù)為-0.35，平均體重20公斤，標準差2.25公斤；屈臂懸體平均時間42.7秒，標準差8.2秒。試估計屈臂懸體為40秒的男童，體重為多少公斤？檢驗方程2、150名6歲男童體重（X）與屈臂懸體（Y）的相關系數(shù)為-三、回歸效果評價測定系數(shù)定義：回歸平方和與總平方和的比值。意義：回歸變異對總變異的貢獻率大小。r2=1：符號與公式r2=0：無誤差，回歸效果極好全誤差，回歸效果為0三、回歸效果評價測定系數(shù)定義：回歸平方和與總平方和的比值測定系數(shù)計算變異源 SS df MS F 回歸 1588.61 1 1588.61 26.62*

17、剩余 835.39 14 59.67 總的 2424 15測定系數(shù)計算變異源 SS df 第四節(jié) 預測含義標準誤置信區(qū)間第四節(jié) 預測含義一、預測的含義某人高數(shù)80分，其統(tǒng)計成績的估計值為 定義：自變量因變量的估計值及其范 圍的統(tǒng)計方法。第四節(jié) 預測一、預測的含義某人高數(shù)80分，其統(tǒng)計成績的估計值為 二、預測的標準誤定義式相關式二、預測的標準誤定義式若觀測值來自正態(tài)總體，則與每個X對應的若干Y值在 若預測接近完全正確時，則諸多Y值在相應的離差：（一）定義式周圍形成正態(tài)分布。周圍也形成正態(tài)分布1、原理若觀測值來自正態(tài)總體，則與每個X對應的若干Y值在 若預2、公式變異為：變異為：2、公式變異為：變異

18、為：同理又同理又（二）相關式使用前提： 公式：（二）相關式使用前提： 公式：SE與r關系r越大，SE_，預測_。r越小，SE_，預測_。越小越準越大越差SE與r關系r越大，SE_，預測_。r越小，例11-1例11-1三、預測的置信區(qū)間方程一：三、預測的置信區(qū)間方程一：例11-1例11-11、從數(shù)概括類比推理研究中隨機抽取6名兒童的成績如下。試問推理（Y）8分的學生，數(shù)學（X）成績如何？ 1 2 3 4 5 6X 90 80 60 64 70 85Y 11 9 7 6 10 12 2 S 449 34321 10.96 55 531 2.11 r0.851、從數(shù)概括類比推理研究中隨機抽取6名兒童的成績如下。試問推 建立方程 建立方程 檢