i作者確認(rèn)如何引用本報告 1執(zhí)行摘要國內(nèi)治理2?中國強調(diào)人工智能安全和全球人工智能能力建設(shè)是其國際人工智能外交的關(guān)鍵主題。在專家對人工智能安全和治理的看法34導(dǎo)言和范圍55報告范圍6國內(nèi)治理關(guān)鍵要點關(guān)鍵要點14自716202189282934她39規(guī)定c中國社會科學(xué)院牽頭起草CUPL主導(dǎo)的草案對具有某些高風(fēng)險特征的“安全治理”研究或設(shè)備的稅收抵免對超過一定（未指定）尺寸的基礎(chǔ)模型進行保護舉報人45個部分，江蘇省對注冊模特進行了紅色組隊，在上海，一些重新激活被禁功能的公司面臨正式調(diào)查和法律處罰。50MOSTAI道德規(guī)范f 其中2001200620212022202320242025（1月至5 1313249強制性0000001 676870TC260h風(fēng)險相應(yīng)標(biāo)準(zhǔn)現(xiàn)狀（2025年5月）人工智能支持的網(wǎng)絡(luò)攻擊草75網(wǎng)絡(luò)安全大模型構(gòu)建指南（GuidelinesforBuildingCybersecurityFoundationModels）兩用產(chǎn)品中的濫用邊緣/設(shè)備上基礎(chǔ)模型網(wǎng)絡(luò)安全指南（端部大模型網(wǎng)絡(luò)安全指南）網(wǎng)絡(luò)安全大模型構(gòu)建指南（GuidelinesforBuildingCybersecurityFoundationModels）未來失去控制其他發(fā)布了77MIIT我JK人員重疊。該關(guān)鍵要點關(guān)鍵要點87在2.2中國在聯(lián)合國的行動 101美國），）：該全理心月全月欄會心至134任常心k團通信中人工智能的看員員該事件重點內(nèi)容聯(lián)大WAIC在上海合作。成一致。聯(lián)合國能力建設(shè)“之友小組”第一次會議中國和贊比亞在聯(lián)合國成立“人工智能能力建設(shè)之友小組”。牛”風(fēng)險。事件重點內(nèi)容二〇二五年四月聯(lián)合國能力建設(shè)“之友小組”第二次會議技術(shù)安全研究關(guān)鍵要點關(guān)鍵要點一0月月月月 161業(yè)業(yè)640名名C3.4顯著的研究貢獻166180專家對人工智能安全和治理的看法關(guān)鍵要點關(guān)鍵要點4.1頂級AI會議上的話語趨勢BF193H199j會議AI論壇數(shù)量AI安全和治理論壇選擇安全和治理論壇WAIC2023205?大模型時代人工通用智能產(chǎn)業(yè)的發(fā)展機遇?人工智能創(chuàng)新與治理論壇WIC202320620N/A70N/AWAIC2024208?2024年世界人工智能大會全球人工智能治理高層會議開幕式?類人機器人的法治與倫理WIC202420942發(fā)應(yīng)用論壇）0N/A4.2關(guān)鍵人工智能安全主題的話語趨勢211212223231232235關(guān)鍵要點關(guān)鍵要點的“安全即服務(wù)”行業(yè)。公司模型發(fā)布日arXiv技術(shù)模型卡安全性內(nèi)容安全性評價01.AI專門的安全/校準(zhǔn)部分介紹了“RAISE”（負(fù)責(zé)任的人工智能安全引擎）濾，獎勵工程SFT/RLHF，輸入和輸出過濾器。沒有提到。奇虎360360智腦據(jù)清理（色情/暴力過濾器，個人身份信息）。沒有提到。阿里巴巴Qwen3沒有提到。二五月沒有提到。號在網(wǎng)站上發(fā)布的簡短技術(shù)報告。據(jù)清理。沒有提到。沒有提到。公司模型發(fā)布日arXiv技術(shù)報告安全性內(nèi)容安全性評價V3法AI獎勵他們的獎勵模沒有提到。二〇二五年沒有MiniMax安全標(biāo)記提示，AI。節(jié)未披露。人工智能沒有提到。二〇二五年價值觀保持一致的必要性沒有提到。6二〇二五年沒有沒有騰訊二〇二四年十一月“符合人類價值觀”。沒有提到。公司模型發(fā)布日arXiv技術(shù)報告安全性內(nèi)容安全性評價騰訊沒有專門的安全部分，但在整個過程中多次詳細(xì)提及“安全”是13個包含了“無害”原則。沒有提到。豸浦據(jù)過濾，紅色分組&無害標(biāo)準(zhǔn)。AutoGLM二〇二月非常簡短地提到了“自主基金會代理人的潛在利益和風(fēng)險沒有提到。它C篇280283結(jié)果 287他在2025年4月的一次會議上說：“許多人認(rèn)為，隨著大型模型變得越來越強大，它們自然會變得更加安全和可控。我不同F(xiàn) 結(jié)論縮略詞AIChinaElectronicInformationIndustry最會注意到7《習(xí)近平敦促促進人工智能健康有序發(fā)展》，中華人民共和國政府，2025年4月28日，2025年7月2日訪問治局第二十次集體學(xué)習(xí)時強調(diào)：堅持自力更生突出應(yīng)用引領(lǐng)推動人工智能健康有序發(fā)展《中華人民共和國政府》，），31《關(guān)于我們（院簡介）》，中國現(xiàn)代國際關(guān)系研究院（中國現(xiàn)代國際關(guān)系研究院2025年7月17日訪問，/new/想為人工智能高質(zhì)量發(fā)展和高水平安全提供法治保障（深入學(xué)習(xí)習(xí)近平新時代中國特色社會主義思想《人民45國家互聯(lián)網(wǎng)信息辦公室關(guān)于發(fā)布生成式人工智能服務(wù)已備案信息的公告，2024年4月2日，2025年7月2日訪問，56《人工智能安全與超級對位北京市重點實驗室成立》，中國互聯(lián)網(wǎng)信息中心，2025年3月31日，2025年7月2日訪問，），66《工業(yè)和信息化部成立人工智能標(biāo)準(zhǔn)化技術(shù)委員會》，工業(yè)和信息化部，2024年12月30日，2025年7月13日訪問，/ab90《李強出席2024世界人工智能大會開幕式并致辭》，中華人民共和國外交部，2024年7月4日，2025年7月9日訪問，），113“首屆中國-新加坡數(shù)字政策對話機制第一次會議在北京舉行”，國家數(shù)），），arXiv：2505.16146[cs]，http2503.07660[cs]，http:2502.04675[cs]，/abs/250arXiv：2505.16831[cs]，httparXiv：2411.16736[cs]，http）：自強突出應(yīng)用導(dǎo)向推動人工智能健康有序發(fā)展”中華人民共和國政府，2025年4月26日，2025年7月2日訪問，），.2024年7月194《2023世界人工智能大會（WAIC）開幕式亮點：六大關(guān)鍵問.），