《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》解讀作者丨樊曉娟

印磊黃海逸2024年9月14日，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》（簡(jiǎn)稱“《標(biāo)識(shí)辦法》”）發(fā)布；作為配套，《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》強(qiáng)制性國(guó)家標(biāo)準(zhǔn)（征求意見(jiàn)稿）（簡(jiǎn)稱“《標(biāo)識(shí)方法標(biāo)準(zhǔn)》”與《標(biāo)識(shí)辦法》合成“標(biāo)識(shí)規(guī)范”）也于同日發(fā)布。人工智能生成內(nèi)容（簡(jiǎn)稱“AIGC”）標(biāo)識(shí)是中國(guó)人工智能治理的主要監(jiān)管措施之一，對(duì)標(biāo)識(shí)的要求規(guī)定較為原則。如今兩個(gè)征求意見(jiàn)稿的落地，意味著AIGC標(biāo)識(shí)不但有據(jù)可依，而且將有更為細(xì)致的規(guī)范。本文將通過(guò)解讀兩個(gè)征求意見(jiàn)稿，一覽AIGC標(biāo)識(shí)的具體規(guī)范與監(jiān)管趨勢(shì)。一、法律基礎(chǔ)中國(guó)對(duì)人工智能監(jiān)管，尤其是AIGC領(lǐng)域監(jiān)管的相關(guān)規(guī)定主要包括《網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》。而《標(biāo)識(shí)辦法》也開(kāi)宗明義地援引了前述規(guī)定。二、規(guī)制對(duì)象兩份標(biāo)識(shí)規(guī)范的規(guī)制對(duì)象均為AIGC。根據(jù)《標(biāo)識(shí)辦法》的定義，AIGC指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。這一定義與《生成式人工智能服務(wù)管理暫行辦法》中對(duì)于“生成式人工智能服務(wù)”的定義互相匹配。三、適用法域《標(biāo)識(shí)辦法》的規(guī)定僅適用于向境內(nèi)公眾提供服務(wù)的情形。因此，如服務(wù)提供者僅向境外用戶提供服務(wù)，無(wú)需遵守《標(biāo)識(shí)辦法》。但需要提醒的是，向境外用戶提供人工智能生成合成服務(wù)的服務(wù)提供者需要遵守相應(yīng)境外法域的法律規(guī)定。四、責(zé)任主體及其主要義務(wù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》均對(duì)AIGC標(biāo)識(shí)有所規(guī)定。但《標(biāo)識(shí)辦法》對(duì)于責(zé)任主體及其責(zé)任作出了細(xì)化，涉及了AIGC的多個(gè)行業(yè)。（一）生成服務(wù)提供者與既有規(guī)定一樣，根據(jù)《標(biāo)識(shí)辦法》第二條的規(guī)定，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者（簡(jiǎn)稱“生成服務(wù)提供者”）是責(zé)任主體，主要指人工智能生成合成服務(wù)的服務(wù)提供者。例如，AI繪畫(huà)、AI寫(xiě)作、AI音樂(lè)合成、AI視頻合成等服務(wù)的提供者等都在其列。

該等服務(wù)提供者有義務(wù)在對(duì)規(guī)制范圍內(nèi)的AIGC按照強(qiáng)制性國(guó)家標(biāo)準(zhǔn)的要求添加相應(yīng)標(biāo)識(shí)，包括根據(jù)不同情況添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)（下文詳述），并在履行算法備案、安全評(píng)估等手續(xù)時(shí)配合提供相關(guān)材料。例如，提供AI換臉視頻應(yīng)用時(shí)，服務(wù)提供者應(yīng)當(dāng)通過(guò)技術(shù)手段在合成后的視頻的指定位置添加必要的標(biāo)識(shí)。

值得注意的是，《標(biāo)識(shí)辦法》對(duì)生成服務(wù)提供者的責(zé)任予以了一定程度的松綁?！稑?biāo)識(shí)辦法》第九條規(guī)定：“如用戶需要服務(wù)提供者提供沒(méi)有添加顯式標(biāo)識(shí)的生成合成內(nèi)容，可在通過(guò)用戶協(xié)議明確用戶的標(biāo)識(shí)義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容，并留存相關(guān)日志不少于六個(gè)月?！备鶕?jù)該規(guī)定，如果用戶需要且通過(guò)用戶協(xié)議明確用戶的義務(wù)和使用責(zé)任后，服務(wù)提供者提供顯式標(biāo)識(shí)的義務(wù)可以豁免，但仍有義務(wù)留存日志。（二）網(wǎng)絡(luò)平臺(tái)服務(wù)提供者《標(biāo)識(shí)辦法》第六條、第七條進(jìn)一步明確提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)（簡(jiǎn)稱“網(wǎng)絡(luò)平臺(tái)”）也屬于該辦法的責(zé)任主體之一。例如，社交媒體平臺(tái)、網(wǎng)絡(luò)直播平臺(tái)、視頻分享平臺(tái)等都屬于該類(lèi)責(zé)任主體。

網(wǎng)絡(luò)平臺(tái)服務(wù)提供者有義務(wù)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)。根據(jù)《標(biāo)識(shí)辦法》第六條、第七條，網(wǎng)絡(luò)平臺(tái)在AIGC標(biāo)識(shí)方面的義務(wù)主要是兩方面。一方面是核驗(yàn)與提醒，在發(fā)現(xiàn)應(yīng)含未含標(biāo)識(shí)的情形時(shí)，采取適當(dāng)方式添加標(biāo)識(shí)，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容；另一方面是提供必要的標(biāo)識(shí)功能，提醒用戶主動(dòng)聲明其生成合成內(nèi)容。舉例而言，如果網(wǎng)絡(luò)直播平臺(tái)應(yīng)當(dāng)發(fā)現(xiàn)平臺(tái)有虛擬主播帶貨，但未標(biāo)識(shí)的，應(yīng)當(dāng)采取適當(dāng)方式添加標(biāo)識(shí)，以提醒用戶該內(nèi)容屬于或疑似生成合成內(nèi)容。再例如，手機(jī)應(yīng)用市場(chǎng)平臺(tái)在審核AI繪畫(huà)應(yīng)用上架時(shí)，應(yīng)核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。（三）用戶《標(biāo)識(shí)辦法》還明確了用戶也屬于AIGC標(biāo)識(shí)的義務(wù)主體之一。根據(jù)《標(biāo)識(shí)辦法》第十條的規(guī)定：“用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或服務(wù)，不得通過(guò)不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益?！蔽?、標(biāo)識(shí)要求和方法《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法標(biāo)準(zhǔn)》在現(xiàn)有規(guī)定的基礎(chǔ)上對(duì)標(biāo)識(shí)要求和方法作出了細(xì)化規(guī)定。（一）標(biāo)識(shí)分類(lèi)《標(biāo)識(shí)辦法》將標(biāo)識(shí)分為顯式標(biāo)識(shí)和隱式標(biāo)識(shí)?！稑?biāo)識(shí)方法標(biāo)準(zhǔn)》對(duì)顯式標(biāo)識(shí)和隱式標(biāo)識(shí)的定義與《標(biāo)識(shí)辦法》的定義一致。根據(jù)《標(biāo)識(shí)辦法》第二條，顯式標(biāo)識(shí)和隱式標(biāo)識(shí)的定義如下。

1、顯式標(biāo)識(shí)

顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)。

2、隱式標(biāo)識(shí)

隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。根據(jù)《標(biāo)識(shí)辦法》第五條的規(guī)定，隱式標(biāo)識(shí)應(yīng)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號(hào)等制作要素信息。（二）不同標(biāo)識(shí)的適用范圍不同標(biāo)識(shí)的適用范圍分別如下。

1、顯式標(biāo)識(shí)

根據(jù)《標(biāo)識(shí)辦法》服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照《標(biāo)識(shí)辦法》第四條的要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形指下列情形：

“（一）智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；（二）合成人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；（四）沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。”

而根據(jù)《標(biāo)識(shí)方法標(biāo)準(zhǔn)》顯式標(biāo)識(shí)的應(yīng)用場(chǎng)景還包括：

*文生圖片等圖片內(nèi)容生成服務(wù)；*音樂(lè)等音頻內(nèi)容生成服務(wù)；*文生視頻、圖生視頻等視頻內(nèi)容生成服務(wù)

《標(biāo)識(shí)方法標(biāo)準(zhǔn)》將顯式標(biāo)識(shí)具體分為文本內(nèi)容顯式標(biāo)識(shí)、圖片內(nèi)容顯式標(biāo)識(shí)、音頻內(nèi)容顯式標(biāo)識(shí)、視頻內(nèi)容顯式標(biāo)識(shí)和交互場(chǎng)景界面顯式標(biāo)識(shí)，與《標(biāo)識(shí)方法》第四條的要求互相匹配。

2、隱式標(biāo)識(shí)

除《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形外，服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定為：“深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息?！?/p>

《標(biāo)識(shí)方法標(biāo)準(zhǔn)》將隱式標(biāo)識(shí)分為元數(shù)據(jù)隱式標(biāo)識(shí)和內(nèi)容隱式標(biāo)識(shí)。但《標(biāo)識(shí)方法標(biāo)準(zhǔn)》僅詳細(xì)列舉了元數(shù)據(jù)隱式標(biāo)識(shí)的方法。（三）標(biāo)識(shí)方法標(biāo)識(shí)必須符合強(qiáng)制性國(guó)家標(biāo)準(zhǔn)的要求。

目前制定中的《標(biāo)識(shí)方法標(biāo)準(zhǔn)》從征求意見(jiàn)稿顯示的代號(hào)為GB/T。根據(jù)《國(guó)家標(biāo)準(zhǔn)管理辦法》，推薦性國(guó)家標(biāo)準(zhǔn)的代號(hào)為“GB/T”?！稑?biāo)識(shí)方法標(biāo)準(zhǔn)》生效時(shí)仍冠以GB/T為代號(hào)，則其應(yīng)屬推薦性國(guó)家標(biāo)準(zhǔn)而非強(qiáng)制性國(guó)家標(biāo)準(zhǔn)。至于AIGC標(biāo)識(shí)何時(shí)出臺(tái)強(qiáng)制性國(guó)家標(biāo)準(zhǔn)有待觀察。

1、顯式標(biāo)識(shí)的標(biāo)識(shí)方法

根據(jù)兩個(gè)標(biāo)識(shí)規(guī)范，標(biāo)識(shí)方法的具體要求如下。2、隱式標(biāo)識(shí)的標(biāo)識(shí)方法

根據(jù)兩個(gè)標(biāo)識(shí)規(guī)范，在生成合成內(nèi)容的文件元數(shù)據(jù)中應(yīng)添加隱式標(biāo)識(shí)?！拔募獢?shù)據(jù)”指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來(lái)源、屬性、用途、版權(quán)等信息內(nèi)容。

《標(biāo)識(shí)方法標(biāo)準(zhǔn)》規(guī)定的元數(shù)據(jù)隱式標(biāo)識(shí)方法如下：

“a)隱式標(biāo)識(shí)應(yīng)包括以下要素：

1)生成合成標(biāo)簽要素：內(nèi)容的人工智能生成合成屬性信息，包括確定、可能、疑似；2)生成合成服務(wù)提供者要素：生成合成服務(wù)提供者的名稱或編碼；3)內(nèi)容制作編號(hào)要素：生成合成服務(wù)提供者對(duì)該內(nèi)容的唯一編號(hào)；4)內(nèi)容傳播服務(wù)提供者要素：內(nèi)容傳播服務(wù)提供者的名稱或編碼；5)內(nèi)容傳播編號(hào)要素：內(nèi)容傳播服務(wù)提供者對(duì)該內(nèi)容的唯一編號(hào)。

b)元數(shù)據(jù)隱式標(biāo)識(shí)格式應(yīng)符合《標(biāo)識(shí)方法標(biāo)準(zhǔn)》附錄E。

c)確定、可能、疑似為人工智能生成合成的內(nèi)容文件中，應(yīng)僅保留一份元數(shù)據(jù)隱式標(biāo)識(shí)?！绷⑾嚓P(guān)企業(yè)的合規(guī)應(yīng)對(duì)作為人工智能生成合成內(nèi)容的服務(wù)提供者的企業(yè)，網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)運(yùn)營(yíng)企業(yè)和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)運(yùn)營(yíng)企業(yè)，都涉及相關(guān)主體的AIGC標(biāo)識(shí)義務(wù)。那么相關(guān)企業(yè)應(yīng)當(dāng)如何應(yīng)對(duì)呢？（一）識(shí)別首先，企業(yè)可以梳理正在運(yùn)營(yíng)的業(yè)務(wù)和計(jì)劃運(yùn)營(yíng)的業(yè)務(wù)，在專業(yè)律師指導(dǎo)下識(shí)別適用《標(biāo)識(shí)辦法》的業(yè)務(wù)范圍和業(yè)務(wù)體量，對(duì)業(yè)務(wù)涉及的人工智能生成合成內(nèi)容進(jìn)行分類(lèi)和評(píng)估。（二）制度建設(shè)其次，企業(yè)可以在專業(yè)律師指導(dǎo)下，對(duì)AIGC標(biāo)識(shí)的流程和審核建立內(nèi)部機(jī)制，確保AIGC被適當(dāng)標(biāo)識(shí)