ICS35030

CCSL.80

中華人民共和國國家標(biāo)準(zhǔn)

GB/T45654—2025

網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)

安全基本要求

Cybersecuritytechnology—Basicsecurityrequirementsforgenerative

artificialintelligenceservice

2025-04-25發(fā)布2025-11-01實施

國家市場監(jiān)督管理總局發(fā)布

國家標(biāo)準(zhǔn)化管理委員會

GB/T45654—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語和定義

3………………1

訓(xùn)練數(shù)據(jù)安全要求

4………………………2

模型安全要求

5……………4

安全措施要求

6……………5

附錄資料性訓(xùn)練數(shù)據(jù)及生成內(nèi)容的主要安全風(fēng)險

A()………………7

附錄資料性安全評估參考方法

B()……………………9

參考文獻

……………………22

Ⅰ

GB/T45654—2025

前言

本文件按照標(biāo)準(zhǔn)化工作導(dǎo)則第部分標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請注意本文件的某些內(nèi)容可能涉及專利本文件的發(fā)布機構(gòu)不承擔(dān)識別專利的責(zé)任

。。

本文件由全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會提出并歸口

(SAC/TC260)。

本文件起草單位中國電子技術(shù)標(biāo)準(zhǔn)化研究院國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心浙江大學(xué)

:、、、

北京中關(guān)村實驗室上海人工智能創(chuàng)新中心復(fù)旦大學(xué)北京百度網(wǎng)訊科技有限公司阿里云計算有限公

、、、、

司北京快手科技有限公司華為云計算技術(shù)有限公司北京航空航天大學(xué)聯(lián)想北京有限公司螞蟻

、、、、()、

科技集團股份有限公司科大訊飛股份有限公司北京大學(xué)中國網(wǎng)絡(luò)安全審查認證和市場監(jiān)管大數(shù)據(jù)

、、、

中心北京深度求索人工智能基礎(chǔ)技術(shù)研究有限公司北京奇虎科技有限公司中國科學(xué)院自動化研究

、、、

所河南科技大學(xué)中國政法大學(xué)上海交通大學(xué)清華大學(xué)中國科學(xué)院軟件研究所廣東移動

、、、、、、OPPO

通信有限公司中國移動通信集團有限公司深信服科技股份有限公司北京面壁智能科技有限責(zé)任公

、、、

司北京瑞萊智慧科技有限公司國家工業(yè)信息安全發(fā)展研究中心公安部第三研究所國家信息中心

、、、、、

上海燧原科技股份有限公司深圳陸兮科技有限公司杭州網(wǎng)易智企科技有限公司貝殼找房北京科

、、、()

技有限公司北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司北京零一萬物科技有限公司上海稀宇科技有限公司

、、、、

廣州市動悅信息技術(shù)有限公司天翼安全科技有限公司

、。

本文件主要起草人姚相振郝春亮張妍婷張震任奎劉勇楊珉秦湛胡影夏文輝陳鐘

:、、、、、、、、、、、

王迎春賀敏張凌寒許曉耕劉建偉落紅衛(wèi)王鳳嬌徐恪陳洋張向征包沉浮謝安明彭駿濤

、、、、、、、、、、、、、

谷晨鄭子木吳少卿王姣王秉政郭建領(lǐng)孟令宇徐甲楊子祺王慶龍邱錫鵬黃晴石琳張宗洋

、、、、、、、、、、、、、、

邊松張志勇張謐洪賡潘旭東胡永啟林冠辰劉俊華喬玉平梅敬青賈開趙靜張嚴(yán)權(quán)高原

、、、、、、、、、、、、、、

譚知行楊光姚龍李琦王暉朱貴波周芃安勍沈俊成趙睿斌劉棟馬夢娜王俊張立堯

、、、、、、、、、、、、、、

賈雨萌王海棠彭韜李根邱勤江為強徐陽游建舟周呈輝劉楠丁治國王榮仕李大海朱曉芳

、、、、、、、、、、、、、、

王雨晨薛智慧肖博峰危嘉祺

、、、。

Ⅲ

GB/T45654—2025

引言

當(dāng)前生成式人工智能技術(shù)不斷發(fā)展相關(guān)服務(wù)已廣泛應(yīng)用為社會生產(chǎn)生活等各方面提供便利但

,,,,

也帶來大量網(wǎng)絡(luò)安全新風(fēng)險新挑戰(zhàn)亟需標(biāo)準(zhǔn)規(guī)范設(shè)立安全基線

、,。

本文件重點面向具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)支撐備案管理檢測評估

,、

等方面工作開展重點關(guān)注數(shù)據(jù)標(biāo)注安全時本文件可與網(wǎng)絡(luò)安全技術(shù)生成式人工智

。,GB/T45674《

能數(shù)據(jù)標(biāo)注安全規(guī)范結(jié)合使用重點關(guān)注預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全時本文件可與

》;,GB/T45652

網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范結(jié)合使用

《》。

Ⅳ

GB/T45654—2025

網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)

安全基本要求

1范圍

本文件規(guī)定了生成式人工智能服務(wù)在訓(xùn)練數(shù)據(jù)安全模型安全安全措施等方面的要求

、、。

本文件適用于服務(wù)提供者開展生成式人工智能服務(wù)相關(guān)活動也為相關(guān)主管部門以及第三方評估

,

機構(gòu)提供參考

。

注訓(xùn)練數(shù)據(jù)及生成內(nèi)容涉及的主要安全風(fēng)險見附錄生成式人工智能服務(wù)安全評估參考方法見附錄

:A,B。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

信息安全技術(shù)術(shù)語

GB/T25069

3術(shù)語和定義

界定的以及下列術(shù)語和定義適用于本文件

GB/T25069。

31

.

生成式人工智能服務(wù)generativeartificialintelligenceservice

利用生成式人工智能技術(shù)向公眾提供生成文本圖片音頻視頻等內(nèi)容的服務(wù)

、、、。

32

.

服務(wù)提供者serviceprovider

以交互界面可編程接口等形式提供生成式人工智能服務(wù)的組織或個人

、