第5章機(jī)器學(xué)習(xí)與實(shí)現(xiàn)邏輯回歸模型邏輯回歸模型應(yīng)用舉例邏輯回歸第5章

線性回歸模型處理的因變量是數(shù)值型變量。然而在許多實(shí)際問題中，我們需要研究的因變量y不是數(shù)值型變量，而是名義變量或者分類變量，如0、1變量問題。邏輯回歸模型是使用一個(gè)函數(shù)來歸一化y值，使y的取值在區(qū)間（0,1）內(nèi)，這個(gè)函數(shù)稱為Logistic函數(shù)，公式如下：其中這樣就將線性回歸預(yù)測問題轉(zhuǎn)化為一個(gè)概率問題，一般以0.5為界，如果預(yù)測值大于0.5，我們判斷此時(shí)y更可能為1，否則為y=0邏輯回歸應(yīng)用舉例第5章

取UCI公共測試數(shù)據(jù)庫中的澳大利亞信貸批準(zhǔn)數(shù)據(jù)集作為本例的數(shù)據(jù)集，該數(shù)據(jù)集共有14個(gè)特征，1個(gè)分類標(biāo)簽y（1—同意貸款，0—不同意貸款），共690個(gè)申請者記錄。x1x2x3x4x5x6x7x8x9x10x11x12x13x14y122.0811.462441.5850001210012130022.6772840.1650000216010029.581.751441.250001228010021.6711.51530111112011120.178.172641.96111402601591015.830.5852881.51120210011117.426.52340.12500002601010058.674.4621183.0411602435611……以前600個(gè)申請者作為訓(xùn)練數(shù)據(jù)，后90個(gè)申請者作為測試數(shù)據(jù)，利用邏輯回歸模型預(yù)測準(zhǔn)確率。邏輯回歸應(yīng)用舉例第5章

1．?dāng)?shù)據(jù)獲取

importpandasaspd

data=pd.read_excel('credit.xlsx')2．訓(xùn)練樣本與測試樣本劃分

訓(xùn)練用的特征數(shù)據(jù)用x表示，預(yù)測變量用y表示，測試樣本則分別記為x1和y1。

x=data.iloc[:600,:14]

y=data.iloc[:600,14]

x1=data.iloc[600:,:14]

y1=data.iloc[600:,14]邏輯回歸應(yīng)用舉例第5章

（1）導(dǎo)入邏輯回歸模塊（簡稱LR）。

fromsklearn.linear_modelimportLogisticRegressionasLR（2）利用LR創(chuàng)建邏輯回歸對象lr。

lr=LR()（3）調(diào)用lr中的fit()方法進(jìn)行訓(xùn)練。

lr.fit(x,y)（4）調(diào)用lr中的score()方法返回模型準(zhǔn)確率。

r=lr.score(x,y);#模型準(zhǔn)確率（針對訓(xùn)練數(shù)據(jù)）（5）調(diào)用lr中的predict()方法，對測試樣本進(jìn)行預(yù)測，獲得預(yù)測結(jié)果。

R=lr.predict(x1)3．邏輯回歸分析邏輯回歸應(yīng)用舉例第5章

邏輯回歸分析完整示例代碼如下：importpandasaspddata=pd.read_excel('credit.xlsx')x=data.iloc[:600,:14]y=data.iloc[:600,14]x1=data.iloc[600:,:14]y1=data.iloc[600:,14]fromsklearn.linear_modelimportLogisticRegressionasLRlr=LR()#創(chuàng)建邏輯回歸模型類lr.fit(x,y)#訓(xùn)練數(shù)據(jù)r=lr.score(x,y);#模型準(zhǔn)確率（針對訓(xùn)練數(shù)據(jù)）R=lr.predict(x1)Z=R-y1Rs=len(Z[Z==0])/len(Z)print('預(yù)測結(jié)果為：',R)print('預(yù)測準(zhǔn)確率為：',Rs)預(yù)測結(jié)果為：[0111100101100011000101101110100010010

00101101010111001