中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

團(tuán)體標(biāo)準(zhǔn)《人工智能可信賴(lài)規(guī)范第3部分：

機(jī)器學(xué)習(xí)框架》（征求意見(jiàn)稿）編制說(shuō)明

一、工作簡(jiǎn)況

1、任務(wù)來(lái)源

根據(jù)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)2023年第二批團(tuán)體標(biāo)準(zhǔn)制修訂通知（中電

標(biāo)通〔2023〕007號(hào)），中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院負(fù)責(zé)《人工智能可信賴(lài)規(guī)范

第3部分：機(jī)器學(xué)習(xí)框架》（團(tuán)標(biāo)計(jì)劃號(hào)CESA-2023-025）的標(biāo)準(zhǔn)研制工作。

2、標(biāo)準(zhǔn)編制的主要成員單位

本項(xiàng)目由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、華為技術(shù)有限公司、中國(guó)科學(xué)院軟件

研究所、上海商湯智能科技有限公司、北京百度網(wǎng)訊科技有限公司、海信集團(tuán)控

股股份有限公司等等共同編制。

主要起草人包括：。

3、主要工作過(guò)程

1）2022年12月-2023年2月，調(diào)研機(jī)器學(xué)習(xí)框架安全及倫理實(shí)踐及相關(guān)工具、

平臺(tái)，形成研究報(bào)告；

2）2023年2月，成立編制組，撰寫(xiě)立項(xiàng)草案；

3）2023年2月24日，通過(guò)立項(xiàng)審查會(huì)；

4）2023年3月7日，中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)下達(dá)《人工智能可信賴(lài)規(guī)

范第3部分：機(jī)器學(xué)習(xí)框架》立項(xiàng)計(jì)劃；

5）2023年6月21日，召開(kāi)編制組第一次研討會(huì)，40余家單位近50位專(zhuān)家線

上討論；

6）2023年8-2024年4月，編制組多次召開(kāi)工作組會(huì)議，迭代形成征求意見(jiàn)

稿。

7）2024年4月25日，可信賴(lài)工作組會(huì)議在杭州市召開(kāi)，對(duì)《人工智能可信

賴(lài)規(guī)范第3部分：機(jī)器學(xué)習(xí)框架》展開(kāi)詳細(xì)討論，會(huì)后進(jìn)行標(biāo)準(zhǔn)迭代；

1

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

8）2024年7月2日，編制組在全國(guó)信標(biāo)委人工智能分委會(huì)可信賴(lài)工作組會(huì)議

上對(duì)標(biāo)準(zhǔn)進(jìn)行討論，根據(jù)專(zhuān)家建議進(jìn)一步完善標(biāo)準(zhǔn)征求意見(jiàn)稿。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題

1、編制原則

本標(biāo)準(zhǔn)的編制原則是：

a）通用性

按照本標(biāo)準(zhǔn)實(shí)現(xiàn)的機(jī)器學(xué)習(xí)框架，便于用戶使用，有利于主管部門(mén)的測(cè)評(píng)、

認(rèn)證和管理。

b）實(shí)用性

根據(jù)我國(guó)國(guó)情、實(shí)際應(yīng)用情況和國(guó)家有關(guān)政策編制本標(biāo)準(zhǔn)，使其在指導(dǎo)機(jī)器

學(xué)習(xí)框架可信賴(lài)方面具有很強(qiáng)的實(shí)用性。

c）符合性

符合國(guó)家有關(guān)法律法規(guī)和已有標(biāo)準(zhǔn)規(guī)范的相關(guān)要求。

2、確定主要內(nèi)容的依據(jù)

標(biāo)準(zhǔn)制定的依據(jù)為：

a）標(biāo)準(zhǔn)格式按照GB/T1.1—2020標(biāo)準(zhǔn)要求編寫(xiě)。

b）本標(biāo)準(zhǔn)制定參考以下標(biāo)準(zhǔn)：

GB/T35273—2020信息安全技術(shù)個(gè)人信息安全規(guī)范

GB/T40660—2021信息安全技術(shù)生物特征識(shí)別信息保護(hù)基本要求

GB/T41867—2022信息技術(shù)人工智能術(shù)語(yǔ)

3、解決的主要問(wèn)題

本標(biāo)準(zhǔn)基于《人工智能可信賴(lài)第1部分：通則》中對(duì)人工智能可信賴(lài)的通

用要求，結(jié)合機(jī)器學(xué)習(xí)框架在人工智能系統(tǒng)架構(gòu)中位置，針對(duì)機(jī)器學(xué)習(xí)框架自身

算法庫(kù)、構(gòu)建和訓(xùn)練、推理和部署等模塊提出可信賴(lài)技術(shù)要素，能夠解決缺乏規(guī)

范化可信賴(lài)特性技術(shù)要求、缺乏標(biāo)準(zhǔn)化可信賴(lài)保障支撐能力評(píng)估指標(biāo)及測(cè)試流程

的問(wèn)題，支撐人工智能系統(tǒng)對(duì)計(jì)算資源和算法模型的可信賴(lài)連接。

三、主要試驗(yàn)[或驗(yàn)證]情況分析

機(jī)器學(xué)習(xí)框架的可信賴(lài)要求在國(guó)內(nèi)外政產(chǎn)學(xué)研用等單位內(nèi)受到重視，相關(guān)研

究同步推進(jìn)，已逐步形成機(jī)器學(xué)習(xí)模型的可信賴(lài)要求和評(píng)價(jià)。本標(biāo)準(zhǔn)牽頭單位同

2

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

步關(guān)注國(guó)內(nèi)外機(jī)器學(xué)習(xí)框架領(lǐng)域可信賴(lài)研究，并對(duì)照現(xiàn)有標(biāo)準(zhǔn)文本，基于市面主

流機(jī)器學(xué)習(xí)框架做了分析和驗(yàn)證，標(biāo)準(zhǔn)條款合理且有效。

四、知識(shí)產(chǎn)權(quán)情況說(shuō)明

無(wú)。

五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟(jì)效果

本標(biāo)準(zhǔn)規(guī)定了機(jī)器學(xué)習(xí)框架涉及的各類(lèi)可信賴(lài)技術(shù)要素及其對(duì)應(yīng)的技術(shù)要

求和測(cè)試方法。適用于機(jī)器學(xué)習(xí)框架及其擴(kuò)展包的可信賴(lài)技術(shù)特性的規(guī)劃、設(shè)計(jì)、

實(shí)現(xiàn)和測(cè)試，也為利益相關(guān)方使用機(jī)器學(xué)習(xí)框架增強(qiáng)人工智能系統(tǒng)可信賴(lài)程度提

供指引。

六、轉(zhuǎn)化國(guó)際標(biāo)準(zhǔn)和國(guó)外先進(jìn)標(biāo)準(zhǔn)情況

無(wú)。

七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性

ISO/IECJTC1從術(shù)語(yǔ)、概念、定義等方面進(jìn)行標(biāo)準(zhǔn)化，提供了人工智能可

信賴(lài)的指導(dǎo)原則，但不涉及具體的技術(shù)要求和測(cè)試方法，在落地實(shí)施時(shí)缺乏具體

指導(dǎo)，本文件不與相關(guān)標(biāo)準(zhǔn)沖突，在可信賴(lài)指導(dǎo)原則上保持一致；

IEEEP7000系列標(biāo)準(zhǔn)提出了一系列面向人工智能倫理建設(shè)的標(biāo)準(zhǔn)和導(dǎo)則，

該系列標(biāo)準(zhǔn)提出的要求既不針對(duì)機(jī)器學(xué)習(xí)框架這樣具體的人工智能產(chǎn)品，也未規(guī)

定對(duì)倫理符合性測(cè)試。本文件不與P7000系列沖突，并在倫理要求方面結(jié)合我國(guó)

實(shí)際情況進(jìn)行取舍。

本文與TC28/SC42現(xiàn)行的人工智能術(shù)語(yǔ)、風(fēng)險(xiǎn)管理評(píng)估及TC260在編的人工

智能模型評(píng)估相關(guān)標(biāo)準(zhǔn)保持一致。本文標(biāo)準(zhǔn)化的產(chǎn)品-機(jī)器學(xué)習(xí)框架，作為人工

智能領(lǐng)域的成熟基礎(chǔ)產(chǎn)品，在現(xiàn)行的標(biāo)準(zhǔn)中缺乏可信賴(lài)技術(shù)牽引，也無(wú)對(duì)應(yīng)的測(cè)

試方法及評(píng)估指導(dǎo)。

ISO/IECTR24028:2020.該標(biāo)準(zhǔn)提出了人工智能可信賴(lài)的總體框架、可信賴(lài)

威脅和對(duì)應(yīng)的削減措施概述，未專(zhuān)門(mén)針對(duì)具體產(chǎn)品或系統(tǒng)。本文件中的機(jī)器學(xué)習(xí)

框架可信賴(lài)技術(shù)框架和要求，遵循24028提出的原則。

ISO/IEC38507:2022.該標(biāo)準(zhǔn)基于ISO/IEC38500，面向人工智能系統(tǒng)，提出

了治理的原則和一般過(guò)程。不針對(duì)具體人工智能產(chǎn)品。本文件提出的機(jī)器學(xué)習(xí)框

3

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

架的可信賴(lài)規(guī)范，可以作為人工智能系統(tǒng)治理過(guò)程中的可信賴(lài)水平評(píng)測(cè)工具要

求，不與38507沖突。

《人工智能可信賴(lài)規(guī)范》系列標(biāo)準(zhǔn)旨在確立適用于人工智能全棧技術(shù)體系

可信賴(lài)基礎(chǔ)類(lèi)技術(shù)要求和評(píng)測(cè)方法，擬由四個(gè)部分構(gòu)成。

——第1部分：通則。目的在于確立適用于人工智能全棧技術(shù)、應(yīng)用和系統(tǒng)

的技術(shù)要求、測(cè)試方法和可信賴(lài)等級(jí)。

——第2部分：計(jì)算設(shè)備。目的在規(guī)定包括人工智能服務(wù)器、人工智能加速

卡、人工智能加速模組等在內(nèi)的計(jì)算設(shè)備的可信賴(lài)技術(shù)邊界，包含計(jì)算設(shè)備涉及

的各類(lèi)可信賴(lài)技術(shù)要素對(duì)應(yīng)的技術(shù)要求和測(cè)試方法。

——第3部分：機(jī)器學(xué)習(xí)框架。目的在于規(guī)定機(jī)器學(xué)習(xí)框架涉及的可信賴(lài)技

術(shù)要素，包含機(jī)器學(xué)習(xí)框架對(duì)應(yīng)的可信賴(lài)技術(shù)要求及測(cè)試方法。

——第4部分：機(jī)器學(xué)習(xí)模型。目的在于規(guī)定機(jī)器學(xué)習(xí)模型的可信賴(lài)技術(shù)邊

界，包含機(jī)器學(xué)習(xí)模型涉及的各類(lèi)可信賴(lài)技術(shù)要素對(duì)應(yīng)的技術(shù)要求和測(cè)試方法。

八、重大分歧意見(jiàn)的處理經(jīng)過(guò)和依據(jù)

無(wú)。

九、貫徹標(biāo)準(zhǔn)的要求和措施建議

無(wú)。

十、替代或廢止現(xiàn)行相關(guān)標(biāo)準(zhǔn)的建議

無(wú)。

十一、其它應(yīng)予說(shuō)明的事項(xiàng)

無(wú)。

團(tuán)體標(biāo)準(zhǔn)編制起草組

2024-7-29

4

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

團(tuán)體標(biāo)準(zhǔn)《人工智能可信賴(lài)規(guī)范第3部分：

機(jī)器學(xué)習(xí)框架》（征求意見(jiàn)稿）編制說(shuō)明

一、工作簡(jiǎn)況

1、任務(wù)來(lái)源

根據(jù)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)2023年第二批團(tuán)體標(biāo)準(zhǔn)制修訂通知（中電

標(biāo)通〔2023〕007號(hào)），中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院負(fù)責(zé)《人工智能可信賴(lài)規(guī)范

第3部分：機(jī)器學(xué)習(xí)框架》（團(tuán)標(biāo)計(jì)劃號(hào)CESA-2023-025）的標(biāo)準(zhǔn)研制工作。

2、標(biāo)準(zhǔn)編制的主要成員單位

本項(xiàng)目由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、華為技術(shù)有限公司、中國(guó)科學(xué)院軟件

研究所、上海商湯智能科技有限公司、北京百度網(wǎng)訊科技有限公司、海信集團(tuán)控

股股份有限公司等等共同編制。

主要起草人包括：。

3、主要工作過(guò)程

1）2022年12月-2023年2月，調(diào)研機(jī)器學(xué)習(xí)框架安全及倫理實(shí)踐及相關(guān)工具、

平臺(tái)，形成研究報(bào)告；

2）2023年2月，成立編制組，撰寫(xiě)立項(xiàng)草案；

3）2023年2月24日，通過(guò)立項(xiàng)審查會(huì)；

4）2023年3月7日，中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)下達(dá)《人工智能可信賴(lài)規(guī)

范第3部分：機(jī)器學(xué)習(xí)框架》立項(xiàng)計(jì)劃；

5）2023年6月21日，召開(kāi)編制組第一次研討會(huì)，40余家單位近50位專(zhuān)家線

上討論；

6）2023年8-2024年4月，編制組多次召開(kāi)工作組會(huì)議，迭代形成征求意見(jiàn)

稿。

7）2024年4月25日，可信賴(lài)工作組會(huì)議在杭州市召開(kāi)，對(duì)《人工智能可信

賴(lài)規(guī)范第3部分：機(jī)器學(xué)習(xí)框架》展開(kāi)詳細(xì)討論，會(huì)后進(jìn)行標(biāo)準(zhǔn)迭代；

1

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

8）2024年7月2日，編制組在全國(guó)信標(biāo)委人工智能分委會(huì)可信賴(lài)工作組會(huì)議

上對(duì)標(biāo)準(zhǔn)進(jìn)行討論，根據(jù)專(zhuān)家建議進(jìn)一步完善標(biāo)準(zhǔn)征求意見(jiàn)稿。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題

1、編制原則

本標(biāo)準(zhǔn)的編制原則是：

a）通用性

按照本標(biāo)準(zhǔn)實(shí)現(xiàn)的機(jī)器學(xué)習(xí)框架，便于用戶使用，有利于主管部門(mén)的測(cè)評(píng)、

認(rèn)證和管理。

b）實(shí)用性

根據(jù)我國(guó)國(guó)情、實(shí)際應(yīng)用情況和國(guó)家有關(guān)政策編制本標(biāo)準(zhǔn)，使其在指導(dǎo)機(jī)器

學(xué)習(xí)框架可信賴(lài)方面具有很強(qiáng)的實(shí)用性