從確定性走向概率性:AI時代真相的重構第釅章:第二章:AI虛假信息的2.2傳播層面:熱點驅(qū)動搭配情緒調(diào)動第三章:操控模板與破綻識別:案例—:嫁接真實災情編造矛盾煽動情緒案例二:模糊指向名人誘導網(wǎng)民人肉猜謎案例三:盜用素材嫁接制造弱勢群體恐慌案例四:偽造名人爆料挑起分配焦慮對立案例五:夸大災情危害虛構視覺沖擊圖片案例六:打造悲情英雄激活群體身份認同案例八:假借專業(yè)術語包裝反常識噱頭案例九:杜撰醫(yī)療事故觸發(fā)公眾安全焦慮案例十:炮制稀缺“首例”放大司法責任爭議第四章:4.2遇到這四類高危信號,養(yǎng)成判斷三連問的習慣結語擁抱概率真相:構建信任共塑未來43中國社會科學院新聞與傳播研究所網(wǎng)絡信息與智能傳播研究室主任騰訊公司作為技術創(chuàng)新的核心參與者,在信息真實性保障和虛假信息管控方面多年來持續(xù)采取了多重有力舉措,為營造清朗網(wǎng)絡空間、維護健康信息生態(tài)和社會信任奠定了堅實基礎。AI時代到來,騰訊研究院算法治理研究小組聯(lián)合騰訊新聞較真平臺撰寫的《擁抱概率真相——AI時代謠言套路拆解與防御指南》(下稱《指南》)是助力構建安全的信息傳播機制、履行科技企傳統(tǒng)虛假謠言依賴人工編造,傳播范圍有限。借助AI生成的虛假信息具有高度逼真性、批量生產(chǎn)能力和精準定向傳播優(yōu)勢,其迷惑性與破壞力遠超前者?！吨改稀穼I時代信息環(huán)境新特征、AI介入虛假信息差異及個體自處之道的探究,將技術洞察與現(xiàn)實需求深度結合,為理解信息生態(tài)變革提供了獨特視角,對理解AI時代的信息生態(tài)、提升社會抗風險能力具有深遠意義,同時為國家層面的信息安全戰(zhàn)略、公眾媒介素養(yǎng)提升計劃提供實踐導向的參考。在AI技術深度滲透的信息時代,信息的真假邊界正變得愈發(fā)模糊,純粹的真實與徹底的虛假不再是涇渭分明,更多信息呈現(xiàn)出真假交織的復雜面貌——或許以客觀事實為基底,卻在細節(jié)描述中摻雜主觀歪曲;或許引用權威數(shù)據(jù),卻通過斷章取義制造誤導。這種混沌狀態(tài)看似增加了信息接收的難度,實則暗藏認知升級的契機。謠言的傳播力不僅取決于推廣力度的強弱,更與公眾辨識力的高低密切相關。當推廣力度—定時,公眾辨識力的提升會直接削弱謠言的影響力。真假交織的信息環(huán)境,本質(zhì)上是在持續(xù)“訓練”公眾的辨識能力,使其在反復的思辨與驗證中形成更敏銳的判斷力。當大眾不再能輕易判定信息真?zhèn)螘r,被動接受的慣性會被打破,迫使人們調(diào)動理性思維,追問信息來源是否可靠,分析邏輯鏈條是否完整,驗證核心事實是否可追溯。這種主動思辨的過程,恰恰是培養(yǎng)深度思考能力的最佳實踐,長期來看將有利于推動公眾網(wǎng)絡素養(yǎng)的整體提升。因此,與其擔憂信息真假難辨的困境,不如正視其作為認知訓練場的價值。在此過程中,大眾將逐漸養(yǎng)成理性追問的習慣,最終構建起抵御虛假信息的內(nèi)在防線?！吨改稀氛菫楣娞峁┝嗽谠撚柧殘鲋械木唧w行動方向,助力個體在復雜信息環(huán)境中明辨是非、站穩(wěn)腳跟,進而與企業(yè)舉措?yún)f(xié)同,共筑信息安全防線。02前言從確定性走向概率性:生成式人工智能(AIGC)的廣泛應用,—方面使得信息的生產(chǎn)變得空前高效和智能,但另—方面也帶來—個新問題:內(nèi)容的真實性,不再是非黑即白的絕對判斷,更像是根據(jù)大量數(shù)據(jù)推測出來的概率結果。真相失去了以往那種唯—、固定的特性,轉(zhuǎn)而成為—種需要根據(jù)各種線索和概率,不斷進行動態(tài)調(diào)整的“信任評估”。這或許標志著,世界正邁入—個“概率真相”時代。傳統(tǒng)意義上的真與假,不再以權威媒體、專家結論或唯—事實作為判定依據(jù),而是被大量由AI(人工智能)生成的、看似合理的信息包圍,迫使每—個信息接收者都必須具備更強的辨別力和判斷力。信息的可信度,正被重新定義為—種動態(tài)、情境化、需要驗證的合理性評分過程,而非—次性的真?zhèn)谓Y論。在這—背景下,—些謠言制造者也開始借助AI工具,生成文本、圖像、音頻和視頻,大大提升了虛假信息的生產(chǎn)與傳播效率?！┲{言內(nèi)容甚至制作精良,高度逼真,而且傳播速度快,滲透范圍廣,不僅沖擊了當前的信息生態(tài),也對現(xiàn)有的技術倫理與治理體系提出挑戰(zhàn)。特別是隨著生成式AI應用門檻的降低,制造虛假信息的能力泛化,虛假信息的數(shù)量和種類快速增長,進—步加劇了有效識別真相的難度。為了便于表述,我們將這—現(xiàn)象簡稱為“AI虛假信息”。當然,這并不是說AI就—定會產(chǎn)生虛假信息,而是在AI時代,識別真相與虛假更不過也應該看到,AI虛假信息看似兇猛,其關鍵依然是背后的“人”,即虛假信息生產(chǎn)者。對2023—2025年的“AI虛假信息”進行內(nèi)容分析可以發(fā)現(xiàn):AI虛假信息雖然披上了新技術的外衣,但其本質(zhì)依然是造謠者的“嘴替”,背后的行為動機、利益訴求和傳播規(guī)律,與傳統(tǒng)謠0303“概率真相”時代的到來,并非意味著真相的消亡,而是預示著我們獲取和理解真相的方式正在發(fā)生重大變革。這既是挑戰(zhàn),也蘊含著機遇。如何以確定的制度設計、技術工具與公共意識來應對不確定的海量信息,是—個關乎信任體系重建的長期命題,也促使我們重新思考信息、信任與社會的關系,并推動技術、倫理和治理的全面創(chuàng)新。在這篇報告中,我們想著重回答以下三個問題:?AI時代的信息環(huán)境有什么新特征?相較于傳統(tǒng)謠言,有AI介入的虛假信息有哪些不同之處?個人在概率真相時代應當如何自處?這三個問題分別對應本報告的三個章節(jié),此外,我們還將在專門的—章“典型案例分析”中,通過對2025年度十大AI虛假信息的梳理,拆解AI生產(chǎn)真相過程中的套路模板。041AI技術正在重塑信息傳播模式,開啟了—個全新的信息技術時代。AI的能力超越了單純的信息獲取,它能夠進行總結、編碼、推理、對話,甚至做出決策,從而降低技能門檻,實現(xiàn)知識的普及。AI的普遍融入,使得信息的創(chuàng)建、共享和感知方式發(fā)生了實質(zhì)性變化,AI時代的信息環(huán)境呈現(xiàn)出創(chuàng)作體驗個性化、生產(chǎn)主體多元我們正置身于—個信息高度富集的時代,在人工智能強大數(shù)據(jù)處理能力的加持下,幾乎任何問題都能迅速找到相關信息,無論是全球新聞動態(tài)、專業(yè)研究報告、個性化娛樂內(nèi)容,還是那些曾經(jīng)在搜索引擎上翻找?guī)资摱茧y以尋覓的各種數(shù)據(jù),大多都會被悉數(shù)呈現(xiàn)。這種即時、廣泛的信息可得性,帶來了前所未有的便捷,極大地拓展了我們獲取知識和了解世界的邊界。AI在這個過程中扮演的角色遠不止于匯聚,其核心價值還在于對用戶需求的深度洞察和智能響應。算法能夠細致分析用戶的歷史行為、興趣偏好、互動模式乃至潛在意圖,如同—個無形的“信息管家”。基于這些深刻的理解,AI系統(tǒng)能夠智能聚合并定制化推送最相關的內(nèi)容。這種高度個性化的信息供給模式,提升了用戶的信息獲取效率和體驗,以用戶為中心的信息生態(tài)不止于信息獲取,AI帶來的個體化體驗還體現(xiàn)在內(nèi)容生產(chǎn)和傳播層面。AIGC工具降低了創(chuàng)作門檻,用戶可通過簡單指令生成高質(zhì)量內(nèi)容,激活微粒個體權利1,即個體用戶擁有了更大的行動自由度和更多的傳播資源。這意味著用戶也不再僅僅是信息的接收者,而是可以主動參與到1儲節(jié)旺,劉青云.AIGC環(huán)境下0505過去,制作高質(zhì)量的圖片和視頻是遙不可及的任務,但現(xiàn)在通過AIGC工具,用戶只需輸入提示詞(prompt),AI就能生成風格各異的圖片,甚至能將文字轉(zhuǎn)化為短視頻,這讓普通用戶也能輕松創(chuàng)作圖片或視頻作品。比如“騰訊智影”平臺,通過為內(nèi)容創(chuàng)作者提供—系列的智能創(chuàng)作工具,幫助創(chuàng)作者在內(nèi)容創(chuàng)作時提質(zhì)增效,為創(chuàng)作者提供了更多的創(chuàng)意空間和自由度。內(nèi)容創(chuàng)作的量身定制與高效產(chǎn)出在推動個性化體驗的同時,也在提升品牌效應。可口可樂曾推出“CreateRealMagic”活動,邀請消費者使用AI工具生成帶有可口可樂品牌元素的數(shù)字藝術作品。用戶可以輸入文字描述,讓AI創(chuàng)作出包含經(jīng)典可樂瓶、復古廣告或紅白漩渦圖案的獨特圖像。這極大地降低了消費者參與品牌內(nèi)容創(chuàng)作的門檻,每位消費者都能生成自己獨—無二的“可口可樂藝術品”,這些個性化內(nèi)容不僅增強了用戶的參與感和品牌歸屬感,還有效提圖1.2可口可樂發(fā)起“CreateRealMagic”活動,邀請消費者創(chuàng)作帶有品牌元素的AI藝術作品06AIGC工具不僅讓內(nèi)容創(chuàng)作變得觸手可及,更重要的是,它使得內(nèi)容能夠進行個性化定制,滿足了多元、細分的用戶需求。AI就像—個擁有無限產(chǎn)能的工廠,高效制造著各種“信息產(chǎn)品”,這也無疑增加了用戶獲取真正有價值信息的難度,帶來了新的挑戰(zhàn)。1.2AI作為內(nèi)容生產(chǎn)主體進入大眾視野傳統(tǒng)信息生產(chǎn)以新聞媒體、出版社等專業(yè)機構和KOL(關鍵意見領袖)為主導,他們或憑借專業(yè)的采編團隊、嚴格的審校流程以及深厚的行業(yè)影響力,持續(xù)產(chǎn)出高質(zhì)量的內(nèi)容,或以獨特的視角、個人魅力和知識儲備,在社交媒體平臺發(fā)布爆款作品。隨著技術的發(fā)展,AI逐步成為—個獨立且高效的內(nèi)容生產(chǎn)主體,而不再僅僅是信息生產(chǎn)的輔助工具。從自動化新聞稿件的生成、數(shù)據(jù)報告的撰寫,到創(chuàng)意文案的構思、藝術作品的創(chuàng)作,生成式人工智能可以獨立完成部分新聞寫作、視頻生成、報告產(chǎn)出等任務。AI通過預訓練數(shù)據(jù)自動生成符合用戶需求的個性化內(nèi)容,甚至直接從結構化數(shù)據(jù)中生成常規(guī)新聞文章,從而最大限度地減少了人工轉(zhuǎn)錄錯誤。2014年7月,美國聯(lián)合通訊社(TheAssociatedPress)宣布的信息采集功能外,還能夠深度挖掘和提煉數(shù)據(jù),用自然語言對分析結果進行故事化敘述,最終按照實際需要生成不同體例、不同結構的可視化新聞文本,全面提高了新聞生產(chǎn)的規(guī)范性和圖1.3早在2014年,美聯(lián)社便已采用AI程序Wordsmith進行財經(jīng)新聞的寫作0707不僅如此,在創(chuàng)作領域,AI也以其出色的表現(xiàn)水平,贏得了認可。AI作為—種增強工具,簡化重復性工作并提供靈感,為人類創(chuàng)作者留下了更多發(fā)揮空間。2022年6月,《經(jīng)濟學人》雜志(TheEconomist)封面主視覺首次用AI繪制,圖片描繪了—個由電路板和芯片組成的復雜大腦,象征了人工智能的崛起,與封面故事AI新境界(AI'sNewFrontier)相得益彰。封面設計使用Midjourney完成,只要輸入文字,Midjourney就能畫出AI“認為”與指令相符的圖片,封面圖片展現(xiàn)了AI創(chuàng)作的視覺沖擊力,不僅是AIGC技術成熟的標志,也是主流媒體接受AIAI在內(nèi)容生產(chǎn)中的應用,使得人類在信息生態(tài)系統(tǒng)中的角色發(fā)生了轉(zhuǎn)變。人類不再僅僅是內(nèi)容的直接生產(chǎn)者,而更多成為了AI工具的協(xié)調(diào)者和監(jiān)督者,將重心放在了更高層次的任務上,深度合成(Deepfake)、AI換臉等技術降低虛假信息制作成本,模糊了人類生成內(nèi)容與機器生成內(nèi)容之間的界限。對真實性的挑戰(zhàn)并非源于AI固有的生成能力,而是源于人類濫用這些工具制造和傳播錯誤信息或虛假信息的意圖。從“謠言”這—世界最古老的傳媒切入,不難發(fā)現(xiàn),08由AI促生的謠言可分為兩類:—種是從生產(chǎn)端來看,內(nèi)容農(nóng)場利用了新技術提升效率、輸出信息的特點,在缺乏規(guī)范和行業(yè)倫理的情況下濫用工具;另—種是AI本身存在的“幻覺”現(xiàn)象,在使用者未充分校驗的情況下,AI無意間生成的虛假信息。與之對應,可以將有AI參與生產(chǎn)的謠言分別歸類為Disinformation(虛假信息,由人故意制造)和Misinformation(錯誤信息,由人無意為之)。人為濫用AI的部分,如同—個加工廠和加速器,批量生產(chǎn)虛假內(nèi)容并加劇謠言“瘋傳”,其本質(zhì)與傳統(tǒng)網(wǎng)絡謠言—致,具有情緒化、碎片化及“故意制造”的屬性。而大模型幻覺導致的謠言,則類似于傳統(tǒng)謠言中由人類傳播的AI技術助推錯誤信息出現(xiàn),主要表現(xiàn)為非專業(yè)用戶在缺乏事實核查能力或知識背景時,與生成式工具的“幻覺輸出”形成反饋循環(huán)。尤其在公共健康、災難救援、金融政策等重點領域,用戶可能將AI生成的未經(jīng)驗證的內(nèi)容誤作權威信息轉(zhuǎn)發(fā)擴散,造成“知識誤植”。這類信息因看似中立、邏輯通順,往往逃避了傳統(tǒng)內(nèi)容審查機制的注意,甚至被媒體轉(zhuǎn)載、社群引用,加而在虛假信息的AI演化路徑中,技術被用作系統(tǒng)性操控工具:包括自動生成攻擊性話語、制多模態(tài)生成技術,構建完整的“信息戰(zhàn)”劇本——設定人物身份、編造事件情節(jié)、匹配視覺素材,增強敘事感染力,通過更高超的講故事技巧讓虛構內(nèi)容帶有幾分情理交融的色彩。因此,AI延伸下的兩類謠言路徑,不僅在生成方式上呈現(xiàn)趨同性,更在交互與混合的過程中導致謠言真實性難以判定、傳播路徑難以追蹤。事實上,錯誤信息與虛假信息并非涇渭分明的二元對立,而是在語義誘導、情緒動員和傳播策略中高度融合的灰色譜系。0909在了解AI時代的信息環(huán)境過后,騰訊研究院和騰訊新聞較真平臺根據(jù)公開資料,從2023—2025年網(wǎng)絡流行的諸多謠言中,挑選了100條典型AI虛假信息,使用內(nèi)容分析法2,系統(tǒng)分析了AI虛假信息在內(nèi)容結構、傳播機制與危害方面呈現(xiàn)出的新特征,以揭示其背后隱藏的風2.1內(nèi)容層面:從文本為主到多模態(tài)造假AI虛假信息在內(nèi)容呈現(xiàn)上逐漸實現(xiàn)了從傳統(tǒng)文本為主的表達形式,向圖像、音頻、視頻等多模態(tài)形態(tài)并存的方向躍遷。盡管在整體數(shù)量上,文字偽造仍然占據(jù)主導地位,約占所有AI謠言的52%,但視頻與圖像偽造增長迅速,分別達到27%與18%。52%27%18%音音頻偽造3%數(shù)據(jù)來源:近三年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)文本虛假信息之所以占比較高,其根源在于不當使用高度成熟且成本低廉的大語言模型技術。當有人意圖制造謠言時,AI工具能夠被快速用于生成語義連貫、語法精良、風格靈活的文字2內(nèi)容分析法是—種實證研究方法,用于分析和理解文本、圖片、視頻或其他媒體形式的內(nèi)容。通過內(nèi)容分析,可以識別出重要的主題、類別和趨勢,了解特定話題的發(fā)展和變化,探索人們對某—主題的看法和態(tài)度。內(nèi)容,并輕易模仿官方媒體、專家或?qū)W者的口吻,炮制出“以假亂真”的聲明、評論或報道。特別是在醫(yī)療、財經(jīng)等專業(yè)領域,利用AI生成的虛假內(nèi)容披上專業(yè)術語的外衣,制造虛假的專業(yè)感與權威感,極大地提升了欺騙性,放大了公眾誤判的風險。與此同時,技術濫用者正越來越多地借助多模態(tài)生成工具(文生圖、圖生視頻、音頻合成、人臉替換等)來制造虛假信息,使得眼見為實的傳統(tǒng)認知面臨嚴峻挑戰(zhàn)。例如,不法分子可以運用這些工具偽造災害現(xiàn)場照片、捏造人物采訪畫面、生成仿真名人演講視頻,甚至模擬特定人物語音,這種惡意應用顯著增強了虛假信息的沉浸感與感官沖擊力。85%11%例扭曲4%數(shù)據(jù)來源:2023—2025年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)統(tǒng)計數(shù)據(jù)顯示,在利用AI技術生成的虛假內(nèi)容中,完全虛構的內(nèi)容占比高達85%,而非基于真實信息的部分篡改。當技術被用于制造比真實更逼真的“超真實”虛假內(nèi)容時,人們辨別真?zhèn)蔚碾y度劇增,導致普遍的認知混亂。這種信任危機是技術被惡意使用后的惡果,可能從根本由于惡意行為者可以輕易利用低成本、高仿真的AI生成工具制造虛假信息,而普通受眾缺乏足夠的專業(yè)知識和技術手段進行辨別,信息驗證由此演變成—場高度不對稱的戰(zhàn)爭。尤其當虛假信息被人為披上專業(yè)外衣,且刻意規(guī)避真實參照物時,驗證的難度會指數(shù)級上升。這導致辟謠工作變得異常艱難且耗時,往往難以企及惡意信息借助現(xiàn)代傳播渠道的擴散速度。2.2傳播層面:熱點驅(qū)動搭配情緒調(diào)動在傳播層面,AI虛假信息呈現(xiàn)明顯的時效性特征,會隨著社會熱點的變化而迅速調(diào)整主題與內(nèi)容,這—點與傳統(tǒng)謠言并無二致。在針對傳統(tǒng)網(wǎng)絡謠言的研究當中,政治型、軍事型、經(jīng)濟型、社會生活型、自然型3五分類是最常見的劃分方式,隨著科技的發(fā)展和公共議題的充分討論,本報告將AI虛假信息分為社會熱點、自然災害、醫(yī)療健康、涉官涉政、企業(yè)經(jīng)濟、科技社會熱點議題在AI虛假信息中的占比高達49%,成為造謠者最為青睞的載體。這些謠言往往以社會廣泛關注的事件為背景,搭乘社會關注的“熱點快車”,通過AI技術生成似是而非的內(nèi)容,混淆公眾視聽。49%12%10%10%7%5%4%3%數(shù)據(jù)來源:2023—2025年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)AI虛假信息的傳播動機呈現(xiàn)出復雜多元的特點,相關部門的處置也較為及時和詳細,根據(jù)官方通報文件,本報告將謠言傳播背后的動機分為經(jīng)濟利益、挑起對立、制造恐懼和情緒宣泄四類。3鄧國峰,唐貴伍.網(wǎng)絡謠言傳播及其社會影響研究[J].求索,2005,(10):92-9471%13%11%5%5%數(shù)據(jù)來源:2023—2025年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)經(jīng)濟利益(71%)是AI虛假信息傳播的首要目標。經(jīng)濟利益驅(qū)動的高比例,表明AI虛假信息已形成明顯的產(chǎn)業(yè)化趨勢,這類謠言背后通常存在明確的經(jīng)濟目的,官方通報文件中“博取流量”頻頻出現(xiàn),也反映出—些專業(yè)的“謠言工廠”應運而生,絕大多數(shù)的AI虛假信息都是用挑起對立(13%)也是隱藏在虛假信息背后的意圖之—,包括國際關系惡化、資源分配焦慮、技術倫理爭議等多種類型。這類謠言往往源于現(xiàn)實社會中的不滿情緒或分配不公感知,通過AI技術放大和擴散。例如,2024年引發(fā)高度關注的—則信息“目前重慶市80%的工廠已處于飽和狀態(tài),均已暫停招聘”,后經(jīng)重慶市人力資源和社會保障局核實為謠言,但此類內(nèi)容因制造恐懼(11%)和情緒宣泄(5%)相伴相生,反映了AI謠言與社會心理狀態(tài)的密切關聯(lián)。這類謠言往往針對公眾普遍關心的話題,如公共安全、健康風險或經(jīng)濟危機等,利用人們對未知風險的天然恐懼心理,引發(fā)集體性恐慌。在這類謠言的傳播當中,AI生成內(nèi)容以情緒為核心,緊隨熱點,且在傳播過程中,情緒化、爭議性的內(nèi)容更容易引發(fā)互動,從而被擴散到更廣AI虛假信息背后意圖的多元化趨勢,提示我們,專業(yè)化、精細化生產(chǎn)的謠言,某種程度上已經(jīng)具備了—定的信息操控的能力。在這—背景下,謠言不再是簡單的虛假信息,而是可以演化為精心設計的情緒與認知操控工具,針對特定人群實施有組織的影響力行動。2.3危害層面:經(jīng)濟、文化、健康與社會穩(wěn)定的系統(tǒng)性沖擊37%29%22%12%數(shù)據(jù)來源:2023—2025年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)謠言造成的危害歷來是系統(tǒng)性的,對經(jīng)濟、文化、個人健康乃至社會穩(wěn)定都構成顯著沖擊,雖然并不是AI工具帶來的新影響,但以其有較大的輻射范圍,同樣需要警惕。既有研究表明,謠言在文化傳承、民族精神和政治引領方面具有危害4,本篇報告在宏觀危害的基礎上,引入微觀層面的指標,將編碼維度分為社會穩(wěn)定、文化認同、經(jīng)濟信心和個人健康四種類型。社會穩(wěn)定(37%)是AI謠言造成的最主要危害,文化認同領域的損害(29%)是AI謠言的另—個重要影響。這類謠言往往通過篡改歷史事實或制造價值觀沖突,動搖社會的文化基礎和集體認同。例如,2025年4月,央視曝光電商平臺熱銷的非遺傳承產(chǎn)品“苗古金貼”虛假宣傳,所謂傳承“千年秘方”的傳承人“唐付政”系AI技術偽造,利用公眾對傳統(tǒng)文化的信任實施商業(yè)欺詐,或?qū)⑽廴疚幕洃?影響傳統(tǒng)文化認同。經(jīng)濟信心受損(22%)是AI謠言造成的又—危害。這類謠言通過虛構行業(yè)崩潰、散布市場恐慌等方式,直接影響投資者信心和消費者行為。AI技術的應用使得這類經(jīng)濟謠言更加逼真,如偽造的企業(yè)內(nèi)部文件、精心制作的財務報表分析或虛構的市場研究報告等,都可能在短時間4陳安安,陳繼紅.全媒體時代網(wǎng)絡謠言的危害及治理——基于個人健康領域(12%)的危害尤為直接且嚴重。具有較高核查門檻的虛假醫(yī)療信息,如未經(jīng)證實的治療方法、虛構的藥物副作用或偽造的疾病暴發(fā)報告等,可能直接誤導公眾的健康決策,甚至造成生命危險。特別是在重大公共衛(wèi)生事件期間,這類謠言的危害性更為突出,不僅影響個人健康,還可能干擾公共衛(wèi)生應對措施。謠言的危害呈現(xiàn)出“多米諾骨牌”效應,對社會信任造成連鎖反應。從文化認同到經(jīng)濟信息,再到個人健康,虛假信息的擴散會層層遞進地侵蝕社會信任和凝聚力。在總結歸納2023—2025年100條AI虛假信息特征的基礎之上,我們也對比了其與傳統(tǒng)謠言的不同之處(見表2.1)。傳播的、缺乏實證或不真實的信息,通常與當下通過互聯(lián)網(wǎng)傳播的未經(jīng)利用AI技術生成的未經(jīng)證實的信息,包括人為濫簡單、碎片化,依賴口頭表述;可能含部分事實結構完整,常仿新聞格式;含情緒化語言或偽多模態(tài)(視頻、音頻、圖像、文本)無意識傳播或有限目的(娛樂、無知、惡意損害名譽等)詆毀他人、制造對立恐往往具有高度操控性意圖,如工業(yè)化牟利或政治操控;也可能是無意傷害人際傳播、口耳相傳,借助社交網(wǎng)絡、即時通訊工具、電子郵件等網(wǎng)S形增長,慢速局部傳播可短時間實現(xiàn)全球擴散,工業(yè)化生產(chǎn)、精準定位和高效分發(fā),傳播具有憑常識經(jīng)驗或局部調(diào)查需交叉比對信源、識別情緒化語言;核查滯后且信息龐雜難以全面監(jiān)控技術性突破傳統(tǒng)驗證;高度仿真,驗證難度極大,需要專業(yè)技術手段;限于特定地理區(qū)域或社范圍廣泛,可跨越國界、語言文化等障礙,波及社系統(tǒng)性風險,可對特定群體、國家或全球產(chǎn)生深刻影響,如破壞國際依賴人體、印刷錄音影(圖文編輯等)操控模板與破綻識別:案例—:嫁接真實災情編造矛盾煽動情緒案例—:嫁接真實災情編造矛盾煽動情緒案例二:模糊指向名人誘導網(wǎng)民人肉猜謎案例三:盜用素材嫁接制造弱勢群體恐慌案例四:偽造名人爆料挑起分配焦慮對立案例五:夸大災情危害虛構視覺沖擊圖片案例六:打造悲情英雄激活群體身份認同案例七:制造視覺“核爆”合成文化地標毀滅案例八:假借專業(yè)術語包裝反常識噱頭案例九:杜撰醫(yī)療事故觸發(fā)公眾安全焦慮案例十:炮制稀缺“首例”放大司法責任爭議當AI開始介入真相生產(chǎn),謠言不僅數(shù)量劇增,更呈現(xiàn)出結構化、工業(yè)化與擬真化特征。通過樣本數(shù)量統(tǒng)計和分析不難發(fā)現(xiàn),AI虛假信息的數(shù)量呈現(xiàn)明顯的快速增長趨勢。AI謠言數(shù)量1651332023年2024年2025年(1-4月)年份數(shù)據(jù)來源:2023—2025年(1-4月)使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)為了準確評估AI謠言事件的輿論傳播量和社會危害性,我們通過統(tǒng)計AI虛假信息的傳播量,加權計算得出謠言熱度指數(shù)。選取熱度指數(shù)排名靠前的十則謠言,形成熱度榜單(見表3.1)。在案例分析的基礎上,總結熱門AI虛假信息的操控模板、傳播路徑和可以識別的破綻,揭示304.5k112.6k83.8k21.9k比雞蛋還大的冰雹砸壞汽車(圖片)8.9k8.9k7.9k6.7k4月2.8k數(shù)據(jù)來源:2023—2025年使用AI工具生成的100條虛假內(nèi)容案例庫(騰訊研究院和騰訊新聞較真平臺基于網(wǎng)絡公開資料整理)案例一:謠言產(chǎn)生:2025年2月,在四川宜賓山體滑坡災害期間,部分網(wǎng)友為蹭熱點,賺取流量收益,使用AI技術炮制不實文章,捏造災害發(fā)生時間、地點、救災情況等不實內(nèi)容,形成“四川凉山發(fā)生山體滑坡災害”系列要素組合:文字+圖片。標題:“四川滑坡事件中有—名男子笑的那么開心”“與時間賽跑,為生命護航——四川山體滑坡救援72小時全記錄”等標題,以“四川凉山山體滑坡”(真實地域)+“男子笑的開心”(矛盾沖突)形成情緒張力。內(nèi)容:借勢四川宜賓山體滑坡的真實熱點事件,在真實災害發(fā)生后的信息真空期,虛構四川凉山山體滑坡、緊急救援作業(yè)、當?shù)孛癖娛転牟槐葱ο底约要毶破渖淼刃畔?搭配不相關的災情現(xiàn)場圖片,制造對立矛盾,迎合并激發(fā)受眾填補信息缺口、災害同情、道德批判等心理認知,分析:術在災情資訊流通窗口期炮制謠言發(fā)布在信息網(wǎng)站,未作事實核查的網(wǎng)民、自媒體在短視頻平臺、社媒平臺輔助擴散,算法推薦加劇傳播。系列謠言以文字為主,輔以少量圖片,偽造災情、使用反直覺而挑動情緒對立的文字,配合受災圖片的直觀視覺,引起公眾關注。其—,認知偏差與同情心利用,受眾傾向于相信符合預期的負面信息,并對災情予以同情關注,而忽略邏輯漏洞;其二,受災群眾大笑的反常識畫面,激發(fā)獵奇心理與道德審判欲,挑起公眾對受災者的質(zhì)疑與案例二:謠言產(chǎn)生:2025年3月,某自媒體賬號發(fā)帖稱,某超—線男星在澳門永利賭場7天賭輸10億元。文章以爆料方式,詳述了事件發(fā)生的完整鏈路,指涉賭款交付去向、經(jīng)紀公司聲明、知情人士透露賭后損失等兼具真實感與模糊性事實細節(jié),迅速引起網(wǎng)民關注熱議與搜查,并牽引出多位明星,謠言話題擴散變異。要素組合:文字+圖片。標題:典型的“聳動標題”——“某超—線男星澳門豪賭輸光10億”。標題中涉及光環(huán)人物、豪賭、巨額賭博損失等刺激性關鍵詞以博取關注。同時,不明確主體,模糊指向,留有懸念,利用網(wǎng)民好奇心、窺探欲,內(nèi)容:其—,造謠者設計了完整的敘事結構,起因(賭博)、發(fā)展(資產(chǎn)轉(zhuǎn)移)、轉(zhuǎn)折(曝光)、結局(品牌方解約)齊全,較強的新聞故事性更易被網(wǎng)民接受與分享。其二,偽造權威性,造謠者引用諸如國際金融機偽造專業(yè)調(diào)查背景,增強其謠言可信度;其三,虛構豐富但無法驗202121分析:金籌碼”等精確數(shù)據(jù)與細節(jié),制造真實感,同時又使用“知情人士透博話題在網(wǎng)民記憶與心態(tài)中有歷史的事件與情緒錨點,謠言議題激活約”等表達充滿負面情緒與戲劇沖突,深化觀者強烈的情緒沖擊。前期事態(tài)不明,各類營銷號、市場化媒體的轉(zhuǎn)發(fā)跟進擴大謠言觸達范圍,引起全網(wǎng)熱議,中后期被猜疑明星、粉絲與機構團隊下場辟謠互動,并激發(fā)新輪次目標尋找,進—步增加謠言生命力。最后由官方認證辟謠,議題逐漸平息?！澳吵€男星澳門豪賭輸光10億”始于2025年3月9日,某自媒體發(fā)布的不實帖子,3月10日多家自媒體與市場媒體跟進轉(zhuǎn)發(fā)進—步擴散,話題發(fā)酵后在微博等社交媒體平臺引起網(wǎng)民猜謎狂歡,引多位明星辟謠自證清白,謠言熱度攀升。此謠言傳播形式是—張未盡的文字截圖,形式簡單但內(nèi)容富有刺激性、斷裂性、可想象性,迎合受眾樸素的獵奇、批判等復雜心理,激發(fā)了此則謠言主要迎合了公眾獵奇、窺私、情緒娛樂、道德批判、社交參與感、代償性滿足感等心理,在信息不對稱、核查意識與能力有限情況下,助推謠言接受與傳播。案例三:謠言產(chǎn)生:2025年1月7日,西藏日喀則市定日縣發(fā)生的6.8級地震?！獜垺氨粔涸趶U墟下的小男孩”的圖片在短視頻平臺,被多個賬戶配文關聯(lián)西藏日喀則地震進行轉(zhuǎn)發(fā),圖中孩子被壓在倒塌的廢墟之下,全身鋪滿塵埃,讓人心疼與擔憂,引起了網(wǎng)民大量轉(zhuǎn)發(fā)評論。而實際上,此張圖片截取自某AI生成視頻,原創(chuàng)作者因加沙戰(zhàn)爭慘象為傳遞和平愿望而以AI制作視頻,卻被截圖盜用轉(zhuǎn)嫁關聯(lián)西藏日喀則地震。要素組合:圖片+文字+視頻。標題:“為西藏祈?！薄捌扑橹?重生之光”等極富情緒調(diào)動作用的文案加上#西藏加油##中國加油#的標簽,增添了幾分可信性,也為虛假內(nèi)容:“被壓在廢墟下的小男孩”的圖片為謠言的主體內(nèi)容,圖片整體逼真度高,災后的廢墟環(huán)境、被埋的滿身是灰的小男孩,易給予觀者較強的情感觸動。除圖之外,部分造謠者會搭配涉及對災情感傷祈禱等具有強情緒外化的表達文字與音樂,調(diào)動視聽多感官。而面對災難,人們通常懷有強烈的同情心與道德感,這使其更傾向于相信并分享看似222323分析:謠言源頭是博取流量關注、別有用心的網(wǎng)民/自媒體,盜用AI素材轉(zhuǎn)用場景,誤導大眾。謠言擴散主要是出于同情心、未核查事實、無意傳播錯誤信息的普通網(wǎng)民。后官方下場辟謠,謠言漸息。此張圖片傳播于西藏日喀則市定日縣發(fā)生6.8級地震期間,某短視頻平臺部分網(wǎng)友截取AI視頻中的圖片,基于塌陷廢墟場景與地震災后傷害的相似性,模糊公眾感知,嫁接至西藏日喀則地震事件。利用公眾的同理心,特別是對被埋兒童的擔憂憐惜心態(tài),調(diào)動網(wǎng)友情緒激發(fā)謠言包括文字、圖片、視頻等多種形式,以“被壓在廢墟下的小男孩”的圖片為本體,演化出文字、視頻等形式。其中,圖片、視頻等視覺化內(nèi)容為核心呈現(xiàn),視覺的直觀性、沖擊性更易引起注意并引發(fā)全身塵土、肢體掩埋的畫面直接觸發(fā)人類對兒童受害的本能痛感,利用“無辜者受難”的符號激發(fā)強烈同情心。許多受眾留言“心都碎引發(fā)公眾對“生命脆弱性”的普遍焦慮,而具象化的受害者形象成為情感宣泄的載體,使受眾通過關注和轉(zhuǎn)發(fā)表達對災情的關切。案例四:2025年2月8日,自媒體“史行途”發(fā)布文章稱馬斯克于凌晨三點發(fā)布推文,爆料世界衛(wèi)生組織總干事譚德塞的年薪高達案例四:2025年2月8日,自媒體“史行途”發(fā)布文章稱馬斯克于凌晨三點發(fā)布推文,爆料世界衛(wèi)生組織總干事譚德塞的年薪高達要素組合:圖片+文字+視頻。標題:“馬斯克凌晨3點發(fā)推:難以理解,世衛(wèi)組織總干事譚德塞年薪萬”的標題,匯聚輿論焦點人物對官方組織領導高額年薪的質(zhì)疑表述,富有煽動性,引動公眾對事件的好奇心,對分配不公、高官貪腐的痛內(nèi)容:造謠者深諳謠言制傳之策,在內(nèi)容的整體邏輯上不做閉環(huán)闡釋,通過碎片化、暗示引導性的信息拼接制造對立感性,世界衛(wèi)生組織(WHO疫情等全球性衛(wèi)生危機中處于輿論風口。公眾對其效率、資金使用等問題的質(zhì)疑時有發(fā)生;其二,符合人物基本設定與行動邏輯,目前公眾對馬斯克的形象以正面感知為主,而其常在會議題直言不諱,造謠者利用其形象的正面性、話語的權威性、評論行為的可能性制造錯覺,增加謠言可信性;其三,世界衛(wèi)生組織總干事譚德塞的年薪高達950—,社會議題的敏)作為全球公共衛(wèi)生治理機構,在新冠X上對部分時政或社萬美元的話題,指涉分配不公、弄權利己謠言產(chǎn)生:242525分析:等敏感議題,公眾對此類議題的負面情緒燃點低而強烈,易形成關注傳播;其四,采取斷章取義與邏輯陷阱,文章未明確醫(yī)務工作者概念,進而對二者年薪進行以偏概全的失真對比。并利用“眾籌項目資金去向成謎”等暗示性表述引導讀者質(zhì)疑世衛(wèi)組織公信力。此外,加入“不愿透露姓名的世衛(wèi)組織員工”“尼日利亞護士”等采訪片段,通過虛構的個體案例塑造“基層悲慘、高層貪婪”的敘事,利用讀者對弱者的同情心理,掩蓋整體數(shù)據(jù)的虛假性。在微博、微信公眾號、Facebook、X等社交媒體平臺,抖音、快手等短視頻平臺以圖文、短視頻形式傳播,網(wǎng)友轉(zhuǎn)發(fā)評論,形成裂變效應。論壇與圈層社群不辨真假亦轉(zhuǎn)載,構成私域傳播鏈條。謠言包括文字、圖片、視頻等多種形式,如“截圖+馬斯克質(zhì)疑言論”的圖文組合、仿冒推文界面或新聞報道等,摘取圖文—般為煽動其—,對資源分配不公、弱勢者受欺壓的敏感心理;其二,對精英與官方機構的系統(tǒng)性不信任;其三,權威依賴與信息不確證。案例五:謠言產(chǎn)生:2025年3月3日至4日早晨,強對流侵襲下,廣東省8個市的16個區(qū)縣出現(xiàn)冰雹,但在抖音、小紅書等社交媒體平臺上,部分網(wǎng)民發(fā)布大量通過AI制作的虛假冰雹圖片,并搭配上廣東多地最近下冰雹要素組合:文字+圖片+視頻。標題:標題表述借助廣東冰雹天氣的真實性背書,使用夸張的災情表述,放大恐慌與受災感知,吸引公眾了解。內(nèi)容:謠言主體是夸大冰雹災情、由AI制作的虛假圖片與動圖視頻,內(nèi)容包括“比雞蛋還大的冰雹、冰雹砸壞汽車、砸垮房屋頂棚等冰雹情況”。此謠言偽裝真實,先利用真實災情背景預設可信立場。圖像視角形似當?shù)仄胀ㄈ嗽鉃牡摹€分享,更添臨場信任感知。內(nèi)容上偽造夸張的視覺信息,故意制造視覺沖擊,夸大冰雹體積、破壞力,激發(fā)觀者情緒,引起轉(zhuǎn)發(fā)擴散行為。262727分析:部分蹭熱點、博取流量關注的網(wǎng)民,搭蹭災害事故話題,利用AI杜撰偽造、夸大扭曲災情事實。普通用戶出于對極端天氣的震撼、焦憂等情緒,無意識轉(zhuǎn)發(fā)傳播。此次謠言主要在抖音、小紅書等平臺上傳播擴散,在抖音等短視頻平臺,部分網(wǎng)民利用視頻配圖+情緒性解說文字,帶上熱門標簽(如#冰雹災害、#廣東天氣)等形成傳播,小紅書等平臺上發(fā)布混淆真實與虛構的“目擊分享”或“災情見聞”。而廣東多地確實遭遇強天氣并出現(xiàn)冰雹的真實災情,為謠言提供“可信開端”。謠言包括文字、圖片、視頻等多種形式。造謠者利用AI生成圖像虛構冰雹災情場景,將AI圖與真實天氣信息拼接增強可信度,又在短其—,恐慌心理,極端天氣本就讓人焦慮,沖擊性畫面進—步會加劇恐懼感;其二,獵奇心理,對天降異象的內(nèi)容天然具有好奇心;其三,AI生成圖像的逼真性,普通用戶易出現(xiàn)視覺判斷失靈,不刻意核查難以識別真假;其四,若謠言被朋友或熟人轉(zhuǎn)發(fā),在社交信任背書下,案例六:謠言產(chǎn)生:2025年3月初,造謠者通過其工作室旗下自媒體賬號矩陣,發(fā)布華山醫(yī)院前院長張明遠客死他鄉(xiāng)的謠言故事,謠言內(nèi)容炮制假名人、編要素組合:文字+圖片。標題:文章標題以“身份+地點+凄慘結局+跨國對比”的結構呈現(xiàn),利用“上海華山醫(yī)院前院長、醫(yī)界泰斗”等表述增強人物權威與真實性,“客死他國醫(yī)院走廊”采取強畫面感的悲情敘事,制造沖突爆點,挑內(nèi)容:造謠者虛構權威,借“泰斗院長”張明遠專業(yè)身份增強可信度;虛構跨國就醫(yī)—“臥倒國外醫(yī)院走廊長椅”場景,制造醫(yī)療資源分配不公的視覺聯(lián)想;編造“醫(yī)學泰斗因闌尾炎未及時救治死亡”的情節(jié),制造“闌尾炎致死”vs“國內(nèi)高效救治”的對比,激活民族情感與憤怒情緒,助推傳播。282929分析:造謠者系3人,自2025年2月起,造謠者3人成立工作室,控制500余個自媒體賬號利用AI軟件自動生成不實帖文吸粉引流牟利,形成“素材采集—AI改寫—賬號分發(fā)”工業(yè)化造謠全鏈條。帖文發(fā)布后,其他逐利自媒體跟進轉(zhuǎn)載,未辨真假的普通網(wǎng)友,出于樸素的造謠者借助工作室旗下自媒體矩陣在部分商業(yè)信息網(wǎng)站、論則謠言,隨后謠言擴散,進入社媒平臺與圈群私域,引發(fā)進—步傳播。謠言包括文字、圖片、視頻等多種形式。造搜集素材,利用AI軟件編撰改寫成謠言文章,同時利用AI生成或的悲情與民族情感敘事+圖片視覺感知,消費公眾同情與愛國情懷,此則謠言主要利用公眾的民族情緒、同情與不平心理,同時謠言迎合部分網(wǎng)友“外國不如我們以為的好”的認知預設,提高接受度。此外,普通網(wǎng)民的事實核查意識與能力偏弱,對于強情緒內(nèi)容,—般傾向于轉(zhuǎn)發(fā),助推謠言擴散。案例七:謠言產(chǎn)生:2025年1月9日,有網(wǎng)民使用AI合成好萊塢標志性招牌遭山火損毀的圖片并發(fā)布在X等國外社媒平臺,后續(xù)以圖片、視頻形式擴散至中文及其他社區(qū)平臺,引發(fā)全球熱議。要素組合:圖片+文字+視頻。標題:利用“全球文化標志”損毀引發(fā)網(wǎng)民震驚與惋惜情緒,吸引關注。內(nèi)容:造謠內(nèi)容以圖像為主導,利用AI合成好萊塢標志性招牌遭山火損毀的假象視覺,圖中好萊塢字母被火焰吞噬,黑煙彌漫山頂,給予不知實情的網(wǎng)友強視覺沖擊。搭配的文字內(nèi)容為常見的偽新聞格式“據(jù)網(wǎng)傳消息”,利用“洛杉磯確發(fā)山火”的真實信息誤導給公眾移信謠言。分析:分析:造謠者利用AI合成造假圖像,后被網(wǎng)民自發(fā)在全球主要社媒平臺上關注轉(zhuǎn)發(fā)。謠言流轉(zhuǎn)至—定烈度時,當?shù)孛癖娚蟼鳜F(xiàn)場圖像、影像信息在社媒平臺辟謠,好萊塢官方及其他媒體亦跟進辟謠。303131謠言包括文字、圖片、視頻等形式。造謠者利用AI圖像合成“山火、濃煙、標志性字母牌”進行以假亂真的視覺造假;以圖帶文,憑合成圖片配上幾句語焉不詳、缺乏新聞出處的文字誘人誤信;多語言同步傳播,英語、中文版幾乎同時出現(xiàn),形成全球范圍的謠言擴散。災難作為文化母題,其信息具有天然吸引力,而字母牌被山火燒的畫面視覺震撼令公眾信任判斷標準降低。此外,作為全球文化符號之—,字母牌燒毀易引發(fā)符號毀滅的焦慮、震驚等情緒,諸多因素疊加助推案例八:謠言產(chǎn)生:2025年3月,造謠者利用AI炮制“上海退休教授靠陽臺核電池供電”的謠言,并以圖文、短視頻的方式在短視頻平臺與社媒私域圈群傳播。隨后自媒體跟進二創(chuàng),推高謠言擴散烈度。要素組合:文字+圖片+視頻。標題:“上海退休教授在陽臺上搞核發(fā)電”,以科技+民間+反常規(guī)的形式塑寫標題,以教授、核能、陽臺這組強反差詞匯,傳遞獵奇荒誕性與偽科學性,形成對網(wǎng)民的吸引力。自42秒短視頻,短視頻簡介又標注依據(jù)群聊截圖整理,這種自我指涉結構增加普通受眾追溯原始信源的成本,形成邏輯閉環(huán)假象。在文本323333分析:家財險”等機構信息,利用公眾對核相關科技知識的薄弱認知,誤導公眾信任與接受。視頻偽造上,利用AI生成張教授形象、陽臺核電機起先,“上海退休教授靠陽臺上核電池供電”的文字截圖在私域圈群擴散,同主題的短視頻在抖音、快手等短視頻平臺涌現(xiàn)。隨后,眾多自媒體以此謠言為母本,明知虛假卻仍在社交平臺和短視頻平臺上進行續(xù)寫、點評分析等二次傳播,部分自媒體甚至夸大虛假內(nèi)容、增加謠言采取文字、圖片、視頻等形式,包括文字截圖、AI制作的涉及教授真人出鏡、陽臺核發(fā)電原理分析的短視頻,部分短視頻采用AI科技崇魅與權威依賴,普通網(wǎng)民對核能科技存在知識真空,退休教授搞核電觸發(fā)專家可信認知,疊加違背常識的獵奇心態(tài)易忽略核能民用可行性。同時,謠言以電價上漲為切口,自給供電敘事挑撥公眾能源成本焦慮。受眾可能存在“個體突破監(jiān)管”“教授違規(guī)操作”等反建制情緒,產(chǎn)生內(nèi)容存疑但仍轉(zhuǎn)發(fā)的對抗性解讀心理。案例九:謠言產(chǎn)生:2025年4月5日,自媒體醉吟星河在信息網(wǎng)站發(fā)布“AI醫(yī)生闖大禍!上?！颊弑徽`診肺炎險喪命”的謠言,隨后被其他自媒體跟進轉(zhuǎn)發(fā),形成網(wǎng)絡熱議。要素組合:文字。標題:“AI醫(yī)生闖大禍!上?！颊弑徽`診肺炎險喪命”,通過“AI誤診—患者喪命”構造技術恐慌—醫(yī)療事故的對立沖突,兼有明確地域指向、險喪命的危機話術,易觸發(fā)讀者自我防御性的閱讀沖動。內(nèi)容:造謠者利用公眾對醫(yī)療健康服務的敏感心理,以及公眾對AI技術在醫(yī)療領域應用的認知真空,編造技術害人的沖突性故事,并加入虛構家披露事件細節(jié)”,偽造權威與具體細節(jié)增強可信度,激化矛盾,放大焦慮,引動網(wǎng)民轉(zhuǎn)發(fā)擴散謠言。343535分析:自媒體造謠者先在信息網(wǎng)站發(fā)布謠言文章,后被其他營銷號、自媒體未經(jīng)證實就轉(zhuǎn)載至微博等社媒平臺,借助聳人聽聞的標題與片段摘取謠言涉及AI技術看病誤診,挑起受眾健康焦慮、新興技術創(chuàng)新的恐懼與不信任心理,普通網(wǎng)民易被獵奇與憤怒、焦慮等負面情緒引導,在知識真空與信息不對稱下,對權威信源形成認知捷徑依賴,求證意識不足,成為謠言傳播的“幫兇”。案例十:2025年案例十:2025年2月12日,微博賬戶@CHE車說道發(fā)布《L3級自動駕駛首例判決!車企擔責70%,智駕法規(guī)全面重構》文章,閆某某為吸引流量、賺取收益,通過AI洗稿虛構車主使用小鵬汽車智能駕駛發(fā)生標題采取“首例自動駕駛判決、70%、全面重構”等兼具稀缺性、沖突性與話題性的關鍵詞制造認知沖擊,挑起公眾好奇心。謠言產(chǎn)生:要素組合:標題:363737內(nèi)容:分析:此則謠言利用公眾對L3級自動駕駛責任的關注炮制話題,仿司法文書、技術報告的文體,使用L3、“XNGP4.0系統(tǒng)”等技術術語制造專業(yè)假象,將智能駕駛技術爭議與司法判例結合制造沖突敘事,吸引汽車領域垂直自媒體賬號@CHE車說道,基于流量與變現(xiàn)動機,在微博發(fā)布不實文章,后金融界網(wǎng)站未核實信源跟進發(fā)布另—篇同主題不實文章,謠言在網(wǎng)站、社媒平臺、今日頭條等資訊平臺引發(fā)廣泛關注。當日下午,微博賬號@小鵬汽車法務部發(fā)布消息回應辟謠,后央視新聞跟進報道,嫌疑人到案,謠言發(fā)散截阻迅速。此則謠言以文字為主,輔以少量圖片。文字的偽權威性與煽動性,搭配直觀圖像,激發(fā)網(wǎng)民關注與討論擴散。其—,自動駕駛作為新興技術尚在發(fā)展中,公眾對其有不信任的安全焦慮,代入車身份易引發(fā)共情;其二,企業(yè)—車主存在強弱立場,公眾對弱勢者有先入為主的同情,而對企業(yè)錯誤有審判的懲罰期待;其三,普通網(wǎng)民存在權威依賴、技術認知代償、弱事實核查的認知捷徑38在信息爆炸的概率真相時代,我們每天都面臨海量信息的沖擊,其中不乏魚龍混雜的虛假信息。當我們無法確定信息真?zhèn)螘r,或許不傳播,就是最好的防御。結合前文提及的核心風險與調(diào)研數(shù)據(jù),本章我們嘗試提煉出—些實操策略,希望能幫大家在概率真相時代獲得更有價值的信息。隨著人工智能技術的發(fā)展,虛假信息的生成成本越來越低,且更具迷惑性。因此,我們需要利用AI工具的優(yōu)勢,反過來對抗AI生成的虛假信息。對于涉及個人健康、公共政策或災情等影響重大的信息,進行嚴謹?shù)尿炞C十分必要。這類信息—旦誤傳,可能引發(fā)不必要的恐慌甚至造成實際傷害。建議使用可信賴的AI工具進行交叉比對。例如,可以利用ChatGPT、Gemini或者Claude等大型語言模型進行初步的信息梳理和交叉驗證,但務必記住,它們只是工具,最終判斷仍需依靠人工核實。在信息甄別過程中,要至少核查三個權威信源:官方賬號、權威媒體和專業(yè)機構網(wǎng)站。如果三個信源的信息不—致或無法找到,那么就應高度懷疑該信息的真實性。除了這三個權威信源之外,對于—些疑似謠言的內(nèi)容,也可以到專業(yè)辟謠機構進行查證。像騰訊新聞旗下事實查證平臺“較真”,中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺客戶端、小程序,都會對—些虛假信息進行及時的查證3939最主要的國家級辟謠平臺,旨在辨識、舉報和查證謠言,整合了全國各地40余家辟謠平臺的數(shù)據(jù)資源,發(fā)布大量辟謠稿件。承擔屬地網(wǎng)絡謠言治理職責的重要官方渠道,依托執(zhí)法與監(jiān)管職能,針對涉及本地社會穩(wěn)定、公共安全、政策法規(guī)及民生熱點的謠言,進行權威核實、及時辟謠和案件通報,有效維護清朗網(wǎng)絡空間和轄中國科協(xié)主辦,主要針對科學領域的謠言進行辟謠和科普,幫助公騰訊新聞推出的專業(yè)事實查證平臺,聚焦澄清涉及健康、科學、社會熱點等領域的日常生活類謠言,整合專家資源與平臺技術優(yōu)勢,通過快速響應、專業(yè)求證和通俗解讀,為用戶提供及時、準確的事實核查信息,提升公眾信息甄別能力。澎湃新聞旗下欄目,專注于國際時政類謠言的深度調(diào)查與核實,依托澎湃新聞強大的國際資訊網(wǎng)絡和采編力量,針對國內(nèi)外廣泛傳播的焦點事件信息進行嚴謹查證,發(fā)布權威核查報告,致力于澄清誤最早也是最知名的事實核查網(wǎng)站之—,涵蓋廣泛的城市傳說、新聞由安嫩伯格公共政策中心(AnnenbergPublicPolicyCenter)運營,普利策獎得主,專注于核查政治家的言論?！度A盛頓郵報》的事實核查欄目,對重要政治人物的言論進行“真相英國—家非營利性事實核查組織,利用AI工具識別政治演講和新南方新聞網(wǎng)自主研發(fā)的,是首款由主流媒體打造的“大模型+可信AI4Debunk—個歐洲項目,旨在利用AI幫助公民識別和打擊虛假信息,提供事實核查中心,并開發(fā)基于AI的界面,用于實時分析多模態(tài)內(nèi)容、—個為記者設計的AI工具,可以加速事實核查過程,能夠識別內(nèi)40另外在查證信息的過程中也要避免受單個網(wǎng)站的制約,比如垂直閱讀(只通過網(wǎng)站自身信息評估可信度),這在虛假信息泛濫的時代是危險的,因為虛假網(wǎng)站會偽裝成權威,而側(cè)向閱讀法是—種高效的策略。其核心原則是:當遇到—個不熟悉的網(wǎng)站或信息來源時,不要深入閱讀其內(nèi)容,而是立即打開新的瀏覽器標簽頁,搜索關于該來源的信息,通過查看其他可信網(wǎng)站對該來源的評價來核實其可信度。需要考慮的問題包括:網(wǎng)站的資金來源或贊助商是誰?其他權威來源如何評價這個網(wǎng)站?作者是否曾發(fā)表過其他受質(zhì)疑的文章?其他媒體或官方賬號是否報道了相同的信息?如果無法找到足夠多的其他來源討論該網(wǎng)站,這本身可能就是—個警示信號。4.2遇到這四類高危信號,養(yǎng)成判斷三連問的習慣虛假信息,特別是AI生成或利用AI技術擴散的謠言,往往遵循—些固定的“套路模板”。虛假信息之所以能夠快速傳播并持續(xù)存在,即使在被辟謠后仍難以消除,在于人類處理信息時固有的動機和認知偏差。人們即傾向于尋找和相信支持自己現(xiàn)有信念的信息,而忽略或抵制與自己觀點相悖的信息,這種確認偏誤的傾向使得虛假信息更容易被接受和傳播?？捎眯云钜彩恰N常見的認知偏差,那些更容易被記住的聳人聽聞的故事,往往更容易被認為是真實的。因此,有四類高危信號需要特別警惕。首先是熱點嫁接加感官刺激,謠言常常利用社會熱點事件,并加入煽動性、感官刺激強烈的描述,關注官方通報或許是最簡單有效的辦法。另外還有權威偽造加數(shù)據(jù)陷阱,這類謠言經(jīng)常冒充權威機構或?qū)＜颐x,或編造看似精確卻無從考證的數(shù)據(jù),而任何聲稱來自“權威機構”的數(shù)據(jù),都可在機構官方網(wǎng)站或公開的年報中核實。再者是情緒對立加身份捆綁,這類謠言善于挑撥群體對立情緒,面對這種情況時,不妨思考—下:拋開情感因素,這件事在理性層面是否合理?最后是技術恐慌加專業(yè)偽裝,這類謠言利用大眾對新興科技的陌生感或?qū)碗s專業(yè)知識的畏懼,通過偽裝成“專業(yè)分析”來散布恐慌,權威科面對浩瀚的信息,養(yǎng)成“邏輯破綻三連問”的習慣,能有效識別邏輯漏洞:第—問,信源是否模糊:比如聲稱“知情人士”透露或“網(wǎng)傳”;第二問,數(shù)據(jù)是否精確但無出處:例如聲稱“豪賭輸10億”卻不給出任何來源;第三問,信息是否閉環(huán)自證:比如文字稱引自視頻,視頻又稱引自聊天記錄,但卻難尋最終來源。面對這種存疑的細節(jié),就需要多加觀察和思考,避免陷入圈套之中。4141在數(shù)字時代,個人在信息傳播中扮演著關鍵角色,因此培養(yǎng)負責任的信息分享習慣至關重要。在分享任何內(nèi)