網(wǎng)絡(luò)安全技術(shù)向未成年人提供生成式人工智能服務(wù)安全指引編制說(shuō)明

目的意義隨著互聯(lián)網(wǎng)的普及和移動(dòng)設(shè)備的廣泛使用，未成年人更容易接觸到網(wǎng)絡(luò)世界。然而，生成式人工智能雖然能夠提供個(gè)性化的學(xué)習(xí)資源和娛樂(lè)體驗(yàn)，但由于未成年人的認(rèn)知能力和自我保護(hù)意識(shí)尚未成熟，也可能引發(fā)諸如誘導(dǎo)沉迷、接觸到不良內(nèi)容等問(wèn)題?！断蛭闯赡耆颂峁┥墒饺斯ぶ悄芊?wù)安全指引》（以下簡(jiǎn)稱“指引”）基于當(dāng)前技術(shù)進(jìn)步與社會(huì)需求，針對(duì)生成式人工智能服務(wù)在教育、娛樂(lè)等領(lǐng)域的廣泛應(yīng)用及其對(duì)未成年人使用安全與心理健康的影響進(jìn)行規(guī)范指導(dǎo)。《指引》旨在為生成式人工智能服務(wù)提供者確立一套全面的安全合規(guī)原則，確保相關(guān)產(chǎn)品和服務(wù)最大限度降低對(duì)未成年人所造成的任何形式的傷害。本指引通過(guò)指導(dǎo)企業(yè)在設(shè)計(jì)、開(kāi)發(fā)和運(yùn)營(yíng)階段識(shí)別潛在的權(quán)益侵犯、信息泄露、不當(dāng)內(nèi)容傳播等風(fēng)險(xiǎn)點(diǎn)，并鼓勵(lì)企業(yè)建立有效的未成年人保護(hù)機(jī)制，提供健康有益的內(nèi)容，引導(dǎo)未成年人正確使用生成式人工智能，從而促進(jìn)未成年人的健康成長(zhǎng)。此外，指引還希望通過(guò)統(tǒng)一的行為準(zhǔn)則，增進(jìn)公眾對(duì)相關(guān)技術(shù)的信任和支持，促使家庭、學(xué)校、社會(huì)和企業(yè)共同努力，為未成年人創(chuàng)造一個(gè)更加安全、健康、積極的成長(zhǎng)環(huán)境。為了進(jìn)一步強(qiáng)化這一指引的作用，我們強(qiáng)調(diào)其在促進(jìn)行業(yè)健康發(fā)展方面的導(dǎo)向性作用，通過(guò)明確規(guī)范和標(biāo)準(zhǔn)，鼓勵(lì)技術(shù)創(chuàng)新與道德責(zé)任并重，促進(jìn)企業(yè)間的合作與交流，共同構(gòu)建健康的生態(tài)系統(tǒng)，推動(dòng)行業(yè)朝著更加負(fù)責(zé)任和可持續(xù)的方向前進(jìn)。任務(wù)來(lái)源生成式人工智能技術(shù)在大模型、多模態(tài)與低門檻API的三重驅(qū)動(dòng)下，已具備實(shí)時(shí)對(duì)話、內(nèi)容創(chuàng)作、情感陪伴等能力，并在未成年人學(xué)習(xí)輔導(dǎo)、社交娛樂(lè)、心理健康等場(chǎng)景快速滲透。然而，未成年人身心尚未成熟，對(duì)虛假信息、誘導(dǎo)性內(nèi)容、隱私泄露及沉迷風(fēng)險(xiǎn)的識(shí)別與抵御能力顯著弱于成年人。例如“未成年人與AI交互時(shí)誘導(dǎo)自殺”“聊天軟件存在未成年人與虛擬角色互動(dòng)生成低俗內(nèi)容等”等案例，使AI成為未成年人的"危險(xiǎn)玩伴"，凸顯向未成年人提供生成式人工智能服務(wù)安全治理的緊迫性。當(dāng)前，國(guó)內(nèi)外未成年人網(wǎng)絡(luò)保護(hù)法規(guī)及標(biāo)準(zhǔn)體系在生成式人工智能服務(wù)方面仍有所缺失。例如歐盟《AI法案》雖將未成年人列為高風(fēng)險(xiǎn)群體，但未細(xì)化到AIGC交互場(chǎng)景。我國(guó)現(xiàn)行法規(guī)主要基于《中華人民共和國(guó)未成年人保護(hù)法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律法規(guī)提出保護(hù)要求，但在生成式人工智能技術(shù)應(yīng)用的具體治理路徑方面，尚缺乏行之有效的保護(hù)措施，不利于未成年人的人工智能素養(yǎng)培育和發(fā)展，急需平衡技術(shù)創(chuàng)新、安全治理與發(fā)展的技術(shù)指引。因此，本標(biāo)準(zhǔn)由中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)立項(xiàng)，在網(wǎng)信辦指導(dǎo)下，堅(jiān)持以社會(huì)主義核心價(jià)值觀為引領(lǐng)，堅(jiān)持最有利于未成年人的原則，遵循科技和道德倫理，堅(jiān)持保護(hù)與發(fā)展并重，填補(bǔ)我國(guó)針對(duì)未成年人生成式人工智能服務(wù)的安全標(biāo)準(zhǔn)規(guī)范，并與《中華人民共和國(guó)未成年人保護(hù)法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等形成法規(guī)配套，為產(chǎn)業(yè)合規(guī)提供可操作的技術(shù)路線圖，保障未成年人在網(wǎng)絡(luò)空間中的安全，引導(dǎo)行業(yè)健康有序地發(fā)展。編制過(guò)程1）2024年10月8日，指引研制正式啟動(dòng)會(huì)。協(xié)會(huì)組織專班進(jìn)行基礎(chǔ)調(diào)研和專家座談。邀請(qǐng)生成式人工智能企業(yè)、未成年人保護(hù)研究組織、科研機(jī)構(gòu)、法學(xué)研究機(jī)構(gòu)，圍繞未成年人保護(hù)和生成式人工智能安全進(jìn)行充分交流。討論了技術(shù)研發(fā)、應(yīng)用服務(wù)的現(xiàn)狀、趨勢(shì)和安全風(fēng)險(xiǎn)等多項(xiàng)內(nèi)容，確定了研編《向未成年人提供生成式人工智能服務(wù)安全指引》主題。2）2024年10月12日，完成草案初稿撰寫。3）2024年10月25日至2024年11月，期間進(jìn)行了多次標(biāo)準(zhǔn)工作組內(nèi)部討論，并針對(duì)標(biāo)準(zhǔn)大體框架與內(nèi)容方向進(jìn)行了修改與調(diào)整，形成標(biāo)準(zhǔn)草案。4）2024年11月至2025年2月，召開(kāi)企業(yè)座談會(huì)，邀請(qǐng)多家重點(diǎn)企業(yè)專家進(jìn)行研討，對(duì)其中的建設(shè)性意見(jiàn)進(jìn)行了吸納，對(duì)《指引》進(jìn)行了修改。5）2024年4月14日，邀請(qǐng)學(xué)界專家、教育一線專家開(kāi)展閉門研討會(huì)，并對(duì)《指引》進(jìn)行細(xì)節(jié)性完善。6) 2025年5月28日，報(bào)中央網(wǎng)信辦網(wǎng)安局、技術(shù)局征求意見(jiàn)并修改完善，形成《指引》草案。7）2025年6月10日，發(fā)布團(tuán)體標(biāo)準(zhǔn)立項(xiàng)公告。主要內(nèi)容技術(shù)指標(biāo)確立本指引的主要內(nèi)容分為8個(gè)章節(jié)和2個(gè)附錄，全面覆蓋了生成式人工智能服務(wù)對(duì)未成年人保護(hù)與發(fā)展的原則及相關(guān)要求。第一章明確《指引》要求范圍及適用情形；第二章為規(guī)范性引用文件說(shuō)明，明確制定的依據(jù)；第三章對(duì)主要的術(shù)語(yǔ)和定義進(jìn)行明確；第四章提出服務(wù)安全總體框架，包括服務(wù)總體原則、安全要求、服務(wù)全生命周期安全管理、組織與制度保障和行業(yè)發(fā)展與促進(jìn)；第五章提出向未成年人提供生成式人工智能服務(wù)的總體原則，并詳細(xì)說(shuō)明了服務(wù)提供者需履行的主體責(zé)任與義務(wù)；第六章則從服務(wù)生命周期各個(gè)階段提出落實(shí)未成年人保護(hù)要求的具體措施，從訓(xùn)練數(shù)據(jù)處理階段、模型訓(xùn)練階段、場(chǎng)景應(yīng)用階段、產(chǎn)品運(yùn)營(yíng)階段提出安全管理要求；第七章圍繞工作組織與制度建設(shè)展開(kāi)，制定了具體的工作組織架構(gòu)及專項(xiàng)制度建設(shè)標(biāo)準(zhǔn)，以確保各項(xiàng)措施得到有效落實(shí)；第八章則進(jìn)一步提出行業(yè)發(fā)展與促進(jìn)倡議，包括未成年人發(fā)展權(quán)益保障、人工智能素養(yǎng)提升、特色化發(fā)展和智能終端協(xié)同以及行業(yè)治理與協(xié)作等內(nèi)容，力求推動(dòng)行業(yè)的健康發(fā)展與持續(xù)創(chuàng)新；附錄A綜合主要法律法規(guī)要求，進(jìn)一步梳理未成年人保護(hù)工作規(guī)范，明確內(nèi)容安全要求、數(shù)據(jù)安全要求、個(gè)人信息保護(hù)要求；附錄B根據(jù)《移動(dòng)互聯(lián)網(wǎng)未成年人模式建設(shè)指南》進(jìn)一步梳理未成年人模式建設(shè)要點(diǎn)。本標(biāo)準(zhǔn)牽頭單位為中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)，參加單位包括杭州網(wǎng)易智企科技有限公司、阿里巴巴集團(tuán)、螞蟻集團(tuán)、北京三快在線科技有限公司（美團(tuán)）、深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司、杭州君同未來(lái)科技有限責(zé)任公司、維沃移動(dòng)通信有限公司(vivo）、小米科技有限責(zé)任公司、百度在線網(wǎng)絡(luò)技術(shù)（北京）有限公司、北京快手科技有限公司、科大訊飛股份有限公司、深信服科技股份有限公司、三六零安全科技股份有限公司、北京微夢(mèng)創(chuàng)科網(wǎng)絡(luò)技術(shù)有限公司、榮耀終端股份有限公司、天合光能股份有限公司、廈門美圖網(wǎng)科技有限公司、杭州安恒信息技術(shù)股份有限公司、第四范式（北京）技術(shù)有限公司、每日互動(dòng)股份有限公司、北京瑞萊智慧科技有限公司、廣東小天才科技有限公司、上海稀宇科技有限公司、深圳市和訊華谷信息技術(shù)有限公司、長(zhǎng)安通信科技有限責(zé)任公司、網(wǎng)易有道信息技術(shù)（北京）有限公司、上海小萌科技有限公司、合肥市追求卓越企業(yè)信息技術(shù)服務(wù)有限公司、廣州趣丸網(wǎng)絡(luò)科技有限公司湖北翊城科技發(fā)展有限公司、國(guó)科華盾（北京)科技有限公司、廣州市動(dòng)悅信息技術(shù)有限公司北京零一萬(wàn)物科技有限公司、北京猿力科技有限公司、北京師范大學(xué)出版社（集團(tuán)）有限公司、深圳躍然創(chuàng)新科技有限公司、上海怡佳雨科技有限公司成都每經(jīng)新視界科技有限公司、北京米連科技有限公司、蘑菇車聯(lián)信息科技有限公司、寧波中青華云新媒體科技有限公司、北京深言科技有限責(zé)任公司、北京力拓飛遠(yuǎn)科技有限公司、聯(lián)想（北京）有限公司、中通服咨詢?cè)O(shè)計(jì)研究院有限公司、南方都市報(bào)、中國(guó)質(zhì)量認(rèn)證中心有限公司、北京市中倫律師事務(wù)所、北京市競(jìng)天公誠(chéng)律師事務(wù)所、北京金網(wǎng)科律師事務(wù)所、北京市金杜律師事務(wù)所、京明稅律師事務(wù)所、公安部第三研究所、北京大學(xué)上海臨港國(guó)際科技創(chuàng)新中心、中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心、浙江大學(xué)、北京石油化工學(xué)院、北京郵電大學(xué)、鄭州科技學(xué)院、浙江省網(wǎng)絡(luò)空間安全協(xié)會(huì)。與相關(guān)法律法規(guī)和國(guó)家標(biāo)準(zhǔn)的關(guān)系本標(biāo)準(zhǔn)的總體結(jié)構(gòu)和編寫方法按照GB/T1.1-2020《標(biāo)準(zhǔn)化工作導(dǎo)則第一部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定執(zhí)行。本標(biāo)準(zhǔn)參考的相關(guān)法律、法規(guī)和標(biāo)準(zhǔn)文件如下：GB/T45654-2025網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)安全基本要求GB/T25069-2022信息安全技術(shù)術(shù)語(yǔ)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中