[22]。準(zhǔn)確率（Accuracy），它計(jì)算的是所有預(yù)測(cè)正確的短信（無(wú)論是垃圾短信還是正常短信）與模型處理的總短信數(shù)量之間的比例，反映了網(wǎng)絡(luò)在區(qū)分垃圾短信與非垃圾短信方面的整體準(zhǔn)確性，通過(guò)比較總預(yù)測(cè)正確的短信數(shù)目與總預(yù)測(cè)短信數(shù)目的比值來(lái)進(jìn)行量化。計(jì)算公式如下所示。A精確率（Precision），它通過(guò)計(jì)算模型正確標(biāo)識(shí)為垃圾短信的數(shù)量占模型預(yù)測(cè)為垃圾短信總數(shù)的比例來(lái)實(shí)現(xiàn)。換句話說(shuō)，這一指標(biāo)衡量的是在所有被模型標(biāo)記為垃圾短信中，實(shí)際上確實(shí)是垃圾短信的比例，從而反映了模型在識(shí)別垃圾短信任務(wù)上的精確程度。計(jì)算公式如下所示。Precision召回率（Recall）,通過(guò)計(jì)算模型準(zhǔn)確識(shí)別出的垃圾信息數(shù)與實(shí)際垃圾信息總數(shù)的關(guān)系得出的指數(shù)。這一度量標(biāo)準(zhǔn)說(shuō)明了在所有真正的垃圾信息之中，模型成功檢測(cè)到的比例，從而展現(xiàn)了該模型在識(shí)別垃圾信息任務(wù)上的有效性。計(jì)算公式如下所示。RF1分?jǐn)?shù)（F1-Scare）,是一個(gè)用于衡量模型精確性的統(tǒng)計(jì)指標(biāo)，尤其是在數(shù)據(jù)集類別不平衡時(shí)較為有用，可以平衡考慮精確率和召回率。該值的取值范圍從0到1，1表示模型的性能是完美的，而0表示模型的性能最差。具體的計(jì)算方法如下面的公式所示。F1?Scare表SEQ表\*ARABIC1混淆矩陣變量含義除此之外，為了更好的分析四種不同算法在垃圾短信識(shí)別中的優(yōu)略勢(shì)，本研究在實(shí)驗(yàn)過(guò)程中加入了時(shí)間和空間的效率分析，可以直觀地分辨出各自所花費(fèi)的時(shí)間和占用的空間。通過(guò)定義get_memory_usage函數(shù)來(lái)監(jiān)測(cè)并輸出關(guān)鍵步驟的內(nèi)存使用情況，這包括了程序啟動(dòng)時(shí)、數(shù)據(jù)加載和分詞完成后、每種模型訓(xùn)練完成后以及程序執(zhí)行結(jié)束時(shí)的內(nèi)存使用量。這樣的設(shè)計(jì)有助于對(duì)比分析不同模型在訓(xùn)練和預(yù)測(cè)過(guò)程中的內(nèi)存占用，從而評(píng)估它們的空間效率。函數(shù)代碼如下：defget_memory_usage(message=None):process=psutil.Process(os.getpid())mem_info=process.memory_info()usage=mem_info.rss/(1024*1024)#將字節(jié)轉(zhuǎn)換為MBifmessage:print(f"{message}——當(dāng)前內(nèi)存使用量：{usage:.2f}MB")returnusage而在統(tǒng)計(jì)時(shí)間上面，是通過(guò)記錄模型訓(xùn)練和預(yù)測(cè)的開(kāi)始時(shí)間和結(jié)束時(shí)間，計(jì)算出了每種模型的訓(xùn)練和預(yù)測(cè)耗時(shí)。這項(xiàng)分析能夠直觀展示不同算法在處理相同任務(wù)時(shí)的時(shí)間效率，幫助開(kāi)發(fā)者選擇在特定環(huán)境下性能更優(yōu)的模型。綜合上述，可以設(shè)計(jì)出訓(xùn)練并評(píng)估分類模型的函數(shù)：deftrain_and_evaluate(classifier,X_train,X_test,y_train,y_test):start_time=time.time()#記錄開(kāi)始時(shí)間vectorizer=TfidfVectorizer(min_df=5,max_df=0.9,ngram_range=(1,2),max_features=10000)X_train_transformed=vectorizer.fit_transform(X_train)#訓(xùn)練集轉(zhuǎn)換成TF-IDF矩陣X_test_transformed=vectorizer.transform(X_test)#測(cè)試集轉(zhuǎn)換成TF-IDF矩陣#使用管道進(jìn)行訓(xùn)練，將分類器包裝在管道中pipeline=make_pipeline(classifier)pipeline.fit(X_train_transformed,y_train)#訓(xùn)練模型y_pred=pipeline.predict(X_test_transformed)#使用模型進(jìn)行預(yù)測(cè)#輸出時(shí)間效率和模型性能time_taken=time.time()-start_time#計(jì)算總耗時(shí)get_memory_usage(f"{type(classifier).__name__}模型訓(xùn)練完成后")#測(cè)量并輸出內(nèi)存使用print(f"模型：{type(classifier).__name__}的訓(xùn)練和預(yù)測(cè)時(shí)間：{time_taken}秒")print(f"準(zhǔn)確率：{accuracy_score(y_test,y_pred)}")#打印準(zhǔn)確率print(classification_report(y_test,y_pred,target_names=['非垃圾短信','垃圾短信']))#打印詳細(xì)的分類報(bào)告這個(gè)函數(shù)代碼里，首先記錄當(dāng)前時(shí)間，這是為了在執(zhí)行結(jié)束時(shí)能夠計(jì)算整個(gè)訓(xùn)練和評(píng)估過(guò)程所消耗的時(shí)間，然后特征向量轉(zhuǎn)換，使用make_pipeline創(chuàng)建一個(gè)管道對(duì)象，該對(duì)象包含了從轉(zhuǎn)換特征到訓(xùn)練分類器的全過(guò)程。這種方法簡(jiǎn)化了處理流程并有助于防止數(shù)據(jù)泄露問(wèn)題，尤其是在預(yù)處理階段。之后使用同一個(gè)管道對(duì)象，調(diào)用predict方法對(duì)X_test_transformed進(jìn)行預(yù)測(cè)，得到預(yù)測(cè)結(jié)果y_pred。實(shí)驗(yàn)步驟常見(jiàn)的垃圾短信識(shí)別算法是對(duì)收集的數(shù)據(jù)進(jìn)行預(yù)處理，之后進(jìn)行特征提取，然后對(duì)數(shù)據(jù)進(jìn)行訓(xùn)練和建模，最后進(jìn)行評(píng)估與優(yōu)化，如下圖所示。圖SEQ圖\*ARABIC10垃圾短信識(shí)別流程本次實(shí)驗(yàn)具體的實(shí)驗(yàn)步驟如下：環(huán)境準(zhǔn)備與數(shù)據(jù)預(yù)處理。首先要先導(dǎo)入實(shí)驗(yàn)所需的Python庫(kù)，包括文本處理、數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等相關(guān)庫(kù)，然后設(shè)計(jì)實(shí)現(xiàn)一個(gè)函數(shù)來(lái)監(jiān)測(cè)并報(bào)告當(dāng)前進(jìn)程的內(nèi)存使用情況，以便在關(guān)鍵步驟了解資源消耗，并且話要設(shè)計(jì)一個(gè)清理文本的函數(shù)，去除非中文字符，以及一個(gè)并行執(zhí)行的中文分詞函數(shù)，加速文本的預(yù)處理。加載和準(zhǔn)備數(shù)據(jù)。通過(guò)一個(gè)專門(mén)的函數(shù)讀取標(biāo)記好的短信數(shù)據(jù)，這些數(shù)據(jù)包括短信文本及其對(duì)應(yīng)的標(biāo)簽即標(biāo)記為垃圾短信或非垃圾短信。接著對(duì)加載的短信文本進(jìn)行清洗和中文分詞處理，以便后續(xù)轉(zhuǎn)換為機(jī)器學(xué)習(xí)算法可處理的格式。然后將處理好的數(shù)據(jù)集分為訓(xùn)練集和測(cè)試集，為模型的訓(xùn)練和評(píng)估做準(zhǔn)備。模型訓(xùn)練與評(píng)估。在訓(xùn)練之前，要先定義一個(gè)包含多種分類器的列表，包括決策樹(shù)、樸素貝葉斯、支持向量機(jī)和多層感知器等不同的機(jī)器學(xué)習(xí)算法。然后使用TF-IDF向量化方法將文本數(shù)據(jù)轉(zhuǎn)換為特征向量，這是讓算法能理解的數(shù)據(jù)形式。同時(shí)利用線程池并發(fā)地對(duì)每種分類器進(jìn)行訓(xùn)練和評(píng)估，以提高實(shí)驗(yàn)的效率。之后輸出評(píng)估結(jié)果，包括計(jì)算模型的準(zhǔn)確率和生成分類報(bào)告。性能監(jiān)控與結(jié)束。在關(guān)鍵步驟監(jiān)控并報(bào)告內(nèi)存使用和計(jì)算模型訓(xùn)練及評(píng)估所需的時(shí)間，以評(píng)估模型的效率，并在實(shí)驗(yàn)結(jié)束時(shí)，再次檢測(cè)并輸出當(dāng)前的內(nèi)存使用情況，以評(píng)估整個(gè)過(guò)程的資源消耗。實(shí)驗(yàn)結(jié)果對(duì)上述10萬(wàn)條短信進(jìn)行訓(xùn)練和測(cè)試，四種算法的評(píng)價(jià)指標(biāo)和時(shí)間空間效率結(jié)果如下。AlgorithmAccuracyPrecisionRecallF1scoreMultinomialNB95.89%96%96%96%DecisionTreeClassifier96.08%96%96%96%SVC97.79%98%97%98%MLPClassifier96.91%97%96%97%表SEQ表\*ARABIC2四種模型算法的評(píng)價(jià)指標(biāo)準(zhǔn)確率：作為一項(xiàng)基本的評(píng)價(jià)標(biāo)準(zhǔn)，它直接代表了模型對(duì)樣本進(jìn)行正確劃分的頻率。在這次比較中，SVC以97.79%的準(zhǔn)確率領(lǐng)先，這意味著它在絕大多數(shù)情況下能正確區(qū)分垃圾短信和非垃圾短信。MLPClassifier以96.91%的準(zhǔn)確率位居第二，緊隨其后是DecisionTreeClassifier（96.08%）和MultinomialNB（95.89%）。高準(zhǔn)確率對(duì)于垃圾短信識(shí)別這樣的任務(wù)至關(guān)重要，因?yàn)闊o(wú)論是將垃圾短信錯(cuò)分為正常短信，還是將正常短信錯(cuò)分為垃圾短信都是屬于錯(cuò)誤分類,都會(huì)對(duì)用戶體驗(yàn)產(chǎn)生負(fù)面影響。精確率和召回率：SVC同樣在精確率和召回率上表現(xiàn)出色，高精確率意味著它不僅能準(zhǔn)確地識(shí)別出垃圾短信，同時(shí)它還擁有高召回率，表示還能在所有垃圾短信中識(shí)別出更多的垃圾短信。F1得分：F1得分綜合考慮了精確率和召回率，SVC也在這個(gè)指標(biāo)上領(lǐng)先，顯示了其綜合性能的優(yōu)勢(shì)。而在時(shí)間效率方面，SVC的訓(xùn)練與預(yù)測(cè)時(shí)間最長(zhǎng)，達(dá)到了624秒，這可能在實(shí)際應(yīng)用中成為一個(gè)限制因素。MLPClassifier雖然在準(zhǔn)確性上表現(xiàn)良好，但其訓(xùn)練時(shí)間極長(zhǎng)，需要2535秒，遠(yuǎn)超其他模型，這在需要快速迭代的場(chǎng)景下可能不是最佳選擇。DecisionTreeClassifier和MultinomialNB在時(shí)間上表現(xiàn)更優(yōu)，尤其是MultinomialNB，其訓(xùn)練和預(yù)測(cè)速度最快，僅需32.8秒，適合對(duì)時(shí)間敏感的應(yīng)用。程序啟動(dòng)時(shí)的內(nèi)存使用量為173.75MB，這包括了程序本身的加載以及所需庫(kù)的初始化內(nèi)存占用。在數(shù)據(jù)加載和分詞完成后，內(nèi)存使用量增加到415.60MB。這表明數(shù)據(jù)加載和分詞這一步驟占用了大約241.85MB的內(nèi)存。這一步驟的內(nèi)存占用相對(duì)較高，可能是由于原始數(shù)據(jù)集的大小以及分詞后數(shù)據(jù)結(jié)構(gòu)的內(nèi)存需求。在使用MultinomialNB模型完成訓(xùn)練后，內(nèi)存使用量顯著增加到1187.67MB。這表明MultinomialNB模型的訓(xùn)練過(guò)程占用了較大的內(nèi)存，大約增加了772.07MB。這是因?yàn)槟Ｐ托枰鎯?chǔ)大量的概率數(shù)據(jù)，特別是在處理大型詞匯表時(shí)。使用DecisionTreeClassifier模型后，內(nèi)存使用量稍微增加到1319.09MB。這個(gè)增量（131.42MB）相比于MultinomialNB模型較小，這可能是因?yàn)闆Q策樹(shù)模型在這個(gè)特定的數(shù)據(jù)集上更加內(nèi)存效率。在SVC模型訓(xùn)練完成后，內(nèi)存使用量反而減少到913.48MB。這個(gè)減少可能是因?yàn)樵谟?xùn)練SVC模型之前釋放了之前模型的一部分內(nèi)存，或者SVC模型的實(shí)現(xiàn)具有較高的空間效率。MLPClassifier的訓(xùn)練導(dǎo)致內(nèi)存使用量減少到811.93MB。這種減少同樣可能是因?yàn)樵谟?xùn)練開(kāi)始前釋放了一些內(nèi)存，或者是由于MLP的特定實(shí)現(xiàn)和參數(shù)設(shè)置導(dǎo)致的較低的內(nèi)存需求。從內(nèi)存使用的角度看，MultinomialNB和DecisionTreeClassifier模型在訓(xùn)練過(guò)程中導(dǎo)致了顯著的內(nèi)存增加，而SVC和MLPClassifier模型的訓(xùn)練過(guò)程中內(nèi)存使用量有所下降。這可能與不同模型的內(nèi)存管理和釋放機(jī)制有關(guān)。圖SEQ圖\*ARABIC12四種模型在時(shí)間和空間效率上所消耗的資源在所有模型訓(xùn)練和預(yù)測(cè)完成后，程序的最終內(nèi)存使用量為743.95MB。與數(shù)據(jù)加載和分詞完成后的內(nèi)存使用量相比，最終的內(nèi)存占用較低，這是因?yàn)樵诔绦蚪Y(jié)束前進(jìn)行了一些內(nèi)存清理工作。結(jié)論本文簡(jiǎn)單整理了垃圾短信識(shí)別的方法過(guò)程，說(shuō)明了短信數(shù)據(jù)的研究方法及處理過(guò)程，詳細(xì)介紹了決策樹(shù)、樸素貝葉斯、支持向量機(jī)、多層感知機(jī)四種機(jī)器學(xué)習(xí)模型的理論知識(shí)，并給出實(shí)現(xiàn)的方法，重點(diǎn)在于基于四種機(jī)器學(xué)習(xí)的垃圾短信識(shí)別算法實(shí)驗(yàn)設(shè)計(jì)與實(shí)現(xiàn)，并且根據(jù)時(shí)間和空間效率來(lái)綜合評(píng)價(jià)指標(biāo)進(jìn)行對(duì)比分析，這些模型各自基于不同的理論基礎(chǔ)，并在實(shí)際應(yīng)用中展現(xiàn)出了各自的特點(diǎn)和優(yōu)劣。決策樹(shù)模型以其簡(jiǎn)單直觀的決策過(guò)程和較快的訓(xùn)練速度在眾多領(lǐng)域得到了廣泛應(yīng)用。決策樹(shù)通過(guò)遞歸分割數(shù)據(jù)集，構(gòu)建一個(gè)樹(shù)狀的分類結(jié)構(gòu)，直至達(dá)到最大化分類準(zhǔn)確率的目的。決策樹(shù)算法最大的優(yōu)勢(shì)在于模型的解釋性好，容易理解及執(zhí)行。在垃圾短信識(shí)別任務(wù)中，該模型展現(xiàn)了平衡的性能，具有不錯(cuò)的準(zhǔn)確率和相對(duì)合理的時(shí)間和空間消耗，這使其成為一個(gè)在需要平衡計(jì)算資源和分類性能時(shí)的良好選擇。樸素貝葉斯分類器基于貝葉斯定理，假設(shè)所有特征之間相互獨(dú)立。這種假設(shè)條件在日常生活中較少能夠符合，但在文本分類，特別是垃圾郵件和短信識(shí)別任務(wù)中，樸素貝葉斯模型卻意外地表現(xiàn)良好。其主要特點(diǎn)在于簡(jiǎn)單、高效，特別是當(dāng)數(shù)據(jù)集很大或者特征維度高時(shí)，樸素貝葉斯仍能保持較低的訓(xùn)練和預(yù)測(cè)時(shí)間，以及較小的內(nèi)存占用，這些優(yōu)勢(shì)使得樸素貝葉斯成為資源受限環(huán)境下的首選模型。支持向量機(jī)是一種強(qiáng)大的分類模型，它通過(guò)構(gòu)建一個(gè)或多個(gè)超平面來(lái)分割不同的類別，尤其在高維空間中特別有效，能夠處理復(fù)雜的非線性關(guān)系。在垃圾短信識(shí)別任務(wù)中，SVC展現(xiàn)了出色的性能，尤其是在準(zhǔn)確率、精確率、召回率和F1得分上的全面優(yōu)勢(shì)。然而，這種高性能的背后是較長(zhǎng)的訓(xùn)練時(shí)間和較高的空間消耗，這在時(shí)間敏感或資源受限的環(huán)境中可能成為一個(gè)挑戰(zhàn)。多層感知機(jī)是一種前饋人工神經(jīng)網(wǎng)絡(luò)，通過(guò)一個(gè)或多個(gè)隱藏層連接輸入層和輸出層。MLP能夠?qū)W習(xí)輸入數(shù)據(jù)的復(fù)雜非線性表示，因此在許多復(fù)雜的分類任務(wù)中表現(xiàn)出色。在垃圾短信分類上，MLPClassifier顯示了與SVC接近的高準(zhǔn)確率，但與此同時(shí)，它也需要更長(zhǎng)的訓(xùn)練時(shí)間，且對(duì)計(jì)算資源的需求更高。通過(guò)對(duì)比分析，我們可以看到每種模型都有其獨(dú)特的優(yōu)勢(shì)和適用場(chǎng)景。對(duì)于追求最高準(zhǔn)確率且資源充足的應(yīng)用場(chǎng)景，SVC和MLPClassifier是優(yōu)先考慮的選擇，盡管它們?cè)跁r(shí)間和空間上的需求較大。在需要快速響應(yīng)或資源有限的環(huán)境下，樸素貝葉斯以其高效的性能成為更合適的選擇，盡管可能需要犧牲一定的準(zhǔn)確率。當(dāng)需要在計(jì)算資源和分類性能之間找到平衡點(diǎn)時(shí)，決策樹(shù)提供了一種既有不錯(cuò)的分類能力又相對(duì)節(jié)省資源的方案。總之，垃圾短信識(shí)別的最佳模型選擇應(yīng)基于具體的應(yīng)用需求、資源限制和性能要求。通過(guò)理解每種模型的特點(diǎn)和限制，我們可以更加明智地選擇最適合特定任務(wù)的模型，以實(shí)現(xiàn)最優(yōu)的性能和效率。參考文獻(xiàn)梁廳.基于深度學(xué)習(xí)的垃圾短信識(shí)別方法研究[D].成都理工大學(xué),2020.DOI:10.26986/ki.gcdlc.2019.000363.程小賢.Android平臺(tái)垃圾短信攔截系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D].西安電子科技大學(xué),2018.吳思慧,陳世平.結(jié)合TFIDF的Self-Attention-BasedBi-LSTM的垃圾短信識(shí)別.計(jì)算機(jī)系統(tǒng)應(yīng)用,2020,29(9):171–177.郝爽,李國(guó)良,馮建華,等.結(jié)構(gòu)化數(shù)據(jù)清洗技術(shù)綜述[J].清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2018,58(12):1037-1050.DOI:10.16511/ki.qhdxxb.2018.22.053.鐘昕妤,李燕.中文分詞技術(shù)研究進(jìn)展綜述[J].軟件導(dǎo)刊,2023,22(02):225-230.唐琳,郭崇慧,陳靜鋒.中文分詞技術(shù)研究綜述[J].數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn),2020,4(Z1):1-17.江銳鵬,鐘廣玲.中文分詞神器Jieba分詞庫(kù)的應(yīng)用[J].電腦編程技巧與維護(hù),2023,(09):87-89+110.曾寰,李金忠,付青.基于集合運(yùn)算特征提取及Stacking策略的新聞多分類方法[J].井岡山大學(xué)學(xué)報(bào)(自然科學(xué)版),2021,42(02):70-75.王貴新,鄭孝宗,張浩然,等.基于Word2vec的短信向量化算法[J].電子科技,2016,29(04):49-52.DOI:10.16180/ki.issn1007-7820.2016.04.013.吳思慧,陳世平.結(jié)合TFIDF的Self-Attention-BasedBi-LSTM的垃圾短信識(shí)別.計(jì)算機(jī)系統(tǒng)應(yīng)用,2020,29(9):171–177.BreimanL,FriedmanJH,OlshenRA,etal.ClassificationandRegressionTrees[J].Biometrics,1984,40(3):358.DOI:10.2307/2530946.欒麗華,吉根林.決策樹(shù)分類技術(shù)研究[J].計(jì)算機(jī)工程,2004,(09):94-96+105.Gelman,A.,Carlin,J.B.,Stern,H.S.,Dunson,D.B.,Vehtari,A.,&Rubin,D.B.(2013).BayesianDataAnalysis(3rded.).ChapmanandHall/CRC.Kohavi,R.,Longbotham,R.,Sommerfield,D.,&Henne,R.M.(2009).Controlledexperimentsontheweb:Surveyandpracticalguide.

DataMiningan