ICS35030

CCSL.80

中華人民共和國(guó)國(guó)家標(biāo)準(zhǔn)

GB/T45674—2025

網(wǎng)絡(luò)安全技術(shù)

生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范

Cybersecuritytechnology—Generativeartificialintelligencedataannotation

securityspecification

2025-04-25發(fā)布2025-11-01實(shí)施

國(guó)家市場(chǎng)監(jiān)督管理總局發(fā)布

國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)

GB/T45674—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語(yǔ)和定義

3………………1

概述

4………………………2

數(shù)據(jù)標(biāo)注平臺(tái)或工具安全要求

5…………3

數(shù)據(jù)標(biāo)注規(guī)則安全要求

6…………………3

數(shù)據(jù)標(biāo)注人員要求

7………………………4

安全培訓(xùn)

7.1……………4

任務(wù)分配

7.2……………4

人員管理

7.3……………4

數(shù)據(jù)標(biāo)注核驗(yàn)要求

8………………………5

基本要求

8.1……………5

功能性標(biāo)注核驗(yàn)安全要求

8.2…………5

安全性標(biāo)注核驗(yàn)安全要求

8.3…………6

數(shù)據(jù)標(biāo)注安全評(píng)價(jià)方法

9…………………6

數(shù)據(jù)標(biāo)注平臺(tái)或工具安全要求評(píng)價(jià)方法

9.1…………6

數(shù)據(jù)標(biāo)注規(guī)則安全要求評(píng)價(jià)方法

9.2…………………7

數(shù)據(jù)標(biāo)注人員要求評(píng)價(jià)方法

9.3………………………8

數(shù)據(jù)標(biāo)注核驗(yàn)要求評(píng)價(jià)方法

9.4………………………10

附錄資料性生成式人工智能數(shù)據(jù)標(biāo)注示例

A()………12

附錄資料性人工智能標(biāo)注任務(wù)類(lèi)型示例

B()…………14

Ⅰ

GB/T45674—2025

前言

本文件按照標(biāo)準(zhǔn)化工作導(dǎo)則第部分標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請(qǐng)注意本文件的某些內(nèi)容可能涉及專利本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專利的責(zé)任

。。

本文件由全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)提出并歸口

(SAC/TC260)。

本文件起草單位國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院北京中關(guān)

:、、

村實(shí)驗(yàn)室北京快手科技有限公司北京百度網(wǎng)訊科技有限公司北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司

、、、、

阿里云計(jì)算有限公司北京大學(xué)國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心江蘇分中心公安部第三研究

、、、

所清華大學(xué)上海人工智能創(chuàng)新中心北京市公安局人工智能安全研究中心西安郵電大學(xué)浙江大學(xué)

、、、、、、

中國(guó)科學(xué)院信息工程研究所中國(guó)移動(dòng)通信集團(tuán)有限公司小米科技有限責(zé)任公司螞蟻科技集團(tuán)股份

、、、

有限公司華為云計(jì)算技術(shù)有限公司北京數(shù)安行科技有限公司北京晴數(shù)智慧科技有限公司北京零一

、、、、

萬(wàn)物科技有限公司北京奇虎科技有限公司科大訊飛股份有限公司聯(lián)想北京有限公司啟明星辰信

、、、()、

息技術(shù)集團(tuán)股份有限公司亞信科技成都有限公司杭州螢石軟件有限公司北京東方通網(wǎng)信科技有

、()、、

限公司廣東省信息安全測(cè)評(píng)中心廈門(mén)美柚股份有限公司北京瑞萊智慧科技有限公司天翼安全科技

、、、、

有限公司北京遠(yuǎn)鑒信息技術(shù)有限公司上海商湯智能科技有限公司蘇州核數(shù)聚信息科技有限公司

、、、、

南京領(lǐng)行科技股份有限公司江蘇滿運(yùn)軟件科技有限公司長(zhǎng)安通信科技有限責(zé)任公司廣東移

、、、OPPO

動(dòng)通信有限公司

。

本文件主要起草人張震譚知行張妍婷賀敏劉勇孫旭東徐恪陳鐘杜金浩郝春亮任奎

:、、、、、、、、、、、

劉楠落紅衛(wèi)葉曉俊安勍胡影王龑姚龍謝安明嵇程江為強(qiáng)丁治國(guó)雷曉鋒戴嬌谷晨

、、、、、、、、、、、、、、

張晴晴郭建領(lǐng)張勇羅磊劉玉紅廖雙曉蔣慧趙云張峰許曉耕王文宇陳洋張夏彭駿濤

、、、、、、、、、、、、、、

包沉浮王海棠孟凡芹趙麗麗劉俊華李家錕崔婷婷余瀚洋李峰風(fēng)臧嬌嬌林冠辰丁欣

、、、、、、、、、、、、

王士進(jìn)韓晗張向征胡嵩智徐怡悅管銘張?zhí)燹赛S喆劉俊周雪鄭榕劉棟羅旭鵬鄭鴻咚

、、、、、、、、、、、、、、

蔣發(fā)群馬夢(mèng)娜田偉麗胡月黃鵬華張小敏張中維周城李根李笑如張秉晟王和俊劉洞賓

、、、、、、、、、、、、。

Ⅲ

GB/T45674—2025

引言

數(shù)據(jù)標(biāo)注是生成式人工智能的關(guān)鍵活動(dòng)直接決定了訓(xùn)練數(shù)據(jù)以及生成內(nèi)容的質(zhì)量和安全水平但

,,

由于標(biāo)注規(guī)則不完善人員管理不規(guī)范核驗(yàn)標(biāo)準(zhǔn)不明確等原因在數(shù)據(jù)標(biāo)注過(guò)程中也可能為生成式人

、、,

工智能引入新的風(fēng)險(xiǎn)隱患亟需標(biāo)準(zhǔn)規(guī)范用于提高數(shù)據(jù)標(biāo)注的安全水平為加強(qiáng)生成式人工智能數(shù)據(jù)

,。

標(biāo)注活動(dòng)的安全管理采取有效措施防范和處置相關(guān)風(fēng)險(xiǎn)編制本文件旨在幫助服務(wù)提供者數(shù)據(jù)標(biāo)注

,,,、

組織方以及數(shù)據(jù)需求方明確數(shù)據(jù)標(biāo)注的安全基線提高服務(wù)安全水平

、。

Ⅳ

GB/T45674—2025

網(wǎng)絡(luò)安全技術(shù)

生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范

1范圍

本文件規(guī)定了生成式人工智能訓(xùn)練的數(shù)據(jù)標(biāo)注平臺(tái)或工具安全要求數(shù)據(jù)標(biāo)注規(guī)則安全要求數(shù)據(jù)

、、

標(biāo)注人員要求數(shù)據(jù)標(biāo)注核驗(yàn)要求描述了數(shù)據(jù)標(biāo)注安全評(píng)價(jià)方法

、,。

本文件適用于生成式人工智能數(shù)據(jù)標(biāo)注組織方開(kāi)展訓(xùn)練數(shù)據(jù)標(biāo)注活動(dòng)并為生成式人工智能數(shù)據(jù)

,

需求方對(duì)于數(shù)據(jù)標(biāo)注進(jìn)行檢查驗(yàn)收或第三方機(jī)構(gòu)對(duì)數(shù)據(jù)標(biāo)注進(jìn)行安全性評(píng)估提供參考

、。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對(duì)應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

人工智能面向機(jī)器學(xué)習(xí)的數(shù)據(jù)標(biāo)注規(guī)程

GB/T42755—2023

網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)安全基本要求

GB/T45654—2025

3術(shù)語(yǔ)和定義

下列術(shù)語(yǔ)和定義適用于本文件

。

31

.

提示信息prompt

引導(dǎo)生成式人工智能模型完成特定任務(wù)并提供合理輸出內(nèi)容的輸入信息

。

32

.

響應(yīng)信息response

在生成式人工智能數(shù)據(jù)標(biāo)注中按照提示信息要求形成的符合人類(lèi)認(rèn)知的應(yīng)答信息用于訓(xùn)練模型

,,

形成對(duì)提示信息輸出相應(yīng)內(nèi)容