第7章模型選擇與正則化學(xué)習(xí)目標(biāo)理解為什么需要進(jìn)行模型選擇和正則化了解模型選擇的方法掌握正則化的幾種方法，以及如何使用程序?qū)嵭姓齽t化模型選擇決定使用哪些特征不同特征的排列組合產(chǎn)生多個(gè)模型主要介紹最佳子集選擇法和前向分步算法最佳子集選擇法

前向分步算法

正則化方法通過(guò)將參數(shù)向0收縮來(lái)達(dá)到減小點(diǎn)估計(jì)量方差的目的常見(jiàn)方法：嶺回歸套索回歸彈性網(wǎng)絡(luò)嶺回歸（RidgeRegression）修改線性回歸的代價(jià)函數(shù)引入正則化項(xiàng)正則化參數(shù)

??控制模型復(fù)雜度套索回歸（LassoRegression）

嶺回歸與套索回歸比較兩者都通過(guò)

??控制正則化套索回歸可使某些特征系數(shù)變?yōu)?彈性網(wǎng)絡(luò)（ElasticNet）結(jié)合嶺回歸與套索回歸的優(yōu)勢(shì)代價(jià)函數(shù)中同時(shí)包含兩個(gè)正則項(xiàng)模型訓(xùn)練

模型訓(xùn)練

超參數(shù)設(shè)置實(shí)驗(yàn)不同??值以找到最佳模型留出部分?jǐn)?shù)據(jù)進(jìn)行最終驗(yàn)證正則化使用注意事項(xiàng)先對(duì)特征進(jìn)行縮放縮放后的變量應(yīng)具有相似的標(biāo)準(zhǔn)偏差邏輯回歸中的正則化加入嶺回歸的正則化項(xiàng)加入套索回歸的正則化項(xiàng)正則化程序示例

導(dǎo)入相關(guān)庫(kù)數(shù)據(jù)讀取及處理正則化程序示例

刪除建立回歸模型不需要的列分割數(shù)據(jù)集中的特征變量和目標(biāo)變量標(biāo)準(zhǔn)化處理嶺回歸模型示例

創(chuàng)建一個(gè)Ridge對(duì)象使用fit方法訓(xùn)練模型使用predict方法對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行預(yù)測(cè)計(jì)算均方誤差嶺回歸模型示例

對(duì)驗(yàn)證數(shù)據(jù)進(jìn)行預(yù)測(cè)計(jì)算均方誤差評(píng)估模型的性能習(xí)題知識(shí)理解哪種正則化方法能達(dá)到類(lèi)似于模型選擇的方法？提高正則化超參數(shù)值

??對(duì)于模型擬合中的哪種問(wèn)題有幫助？闡述

??值對(duì)模型參數(shù)??的影響。以及，如果??>0會(huì)如何影響??的可解釋性。習(xí)題程序操作請(qǐng)使用每股收益預(yù)測(cè)數(shù)據(jù)進(jìn)行模型訓(xùn)練。在訓(xùn)練模型時(shí)，使用套索回歸進(jìn)行正則化。將

??值設(shè)為0.1,1,10,以及20。觀察在這些

??值時(shí)，哪些特征被從模型