2025年4月2025年4月11概述、關(guān)鍵概念和實(shí)施時(shí)間 2實(shí)質(zhì)范圍和地域范圍 3禁止人工智能實(shí)踐4高風(fēng)險(xiǎn)人工智能系統(tǒng)5通用人工智能模型6透明度義務(wù)7人工智能監(jiān)管沙盒8執(zhí)法和治理9《人工智能法案》：未來(lái)走向第一級(jí)別法律500強(qiáng)人工智能2123456789102第一章歐盟（EU）是人工智能（AI）監(jiān)管領(lǐng)域的先驅(qū)，其于GDPR（《通用數(shù)據(jù)保護(hù)條例》）的影響力。歐盟權(quán)。管。?本章提供了整個(gè)《人工智能法案》的概述、其關(guān)鍵概念及其條款的適用日期。?第2章探討了《人工智能法案》的地域范圍和實(shí)質(zhì)范圍。同類型人工智能的要求——被禁止的實(shí)踐做法；度的人工智能。?第7章解釋了《人工智能法案》在監(jiān)管沙盒中測(cè)試人工智能的安排。?第8章討論治理和執(zhí)行。?第9章總結(jié)了《人工智能法案》通過(guò)后必須采取的眾多進(jìn)一步措施。?最后，第10章列出了本指南的所有貢獻(xiàn)者。受到更嚴(yán)格的要求和監(jiān)管。的嚴(yán)格要求，確保用戶的個(gè)人信息安全。應(yīng)對(duì)其技術(shù)的潛在影響。智能系統(tǒng)時(shí)考慮人工智能系統(tǒng)對(duì)人類、其他企業(yè)、環(huán)境和我們生活的許多其他方面的影響。人工智能法案》。其中最典型的例證是，《人工智能法案》在眾多條款中直接援引了《歐盟基本權(quán)利3123456789103生重大不利影響的系統(tǒng)。已被嵌入到《人工智能法案》之中。作。《人工智能法案》規(guī)定，歐洲人工智能辦公室識(shí)的中央主管部門，在實(shí)施法律框架中發(fā)揮著關(guān)鍵作用。該辦公室將鼓勵(lì)開發(fā)可信賴人工智能系統(tǒng)并支持國(guó)際合作。歐洲人工智能委員會(huì)將由每個(gè)成員國(guó)的一名代表組成，歐洲數(shù)據(jù)保護(hù)監(jiān)督員將作為觀察員參與。以及專家的意見，包括科學(xué)領(lǐng)域的專家?！度斯ぶ悄芊ò浮返拇蟛糠謨?nèi)容適用于“《人工智能法案》的大部分內(nèi)容適用于“人工值得注意的是，《人工智能法案》并未定義“人（OECD）對(duì)人工智能系統(tǒng)的定義保持一致。該定義工智能法案》因技術(shù)發(fā)展而過(guò)時(shí)。的指南中被進(jìn)一步討論。人工智能法案適用于整個(gè)供應(yīng)鏈中的所有參與者，擔(dān)，其次是部署者。就可能成為高風(fēng)險(xiǎn)系統(tǒng)的提供者（見第5頁(yè)）。性和損害的嚴(yán)重程度的結(jié)合”。人工智能系統(tǒng)分為四個(gè)不同的風(fēng)險(xiǎn)等級(jí)：系統(tǒng)是不可接受的，因此被禁止。要求。險(xiǎn)，但有特定的透明度義務(wù)。能系統(tǒng)不受《人工智能法案》的監(jiān)管限制。放市場(chǎng)、投入服務(wù)。該清單禁止：?使用潛意識(shí)技巧或故意操縱或欺騙性技術(shù)，嚴(yán)重扭曲行為，導(dǎo)致重大危害；4123456789104?利用自然人或群體由于其特定特征而存在的弱點(diǎn)，造成重大危害；?社會(huì)評(píng)分系統(tǒng)，即根據(jù)自然人或群體的社會(huì)行為或不公平的對(duì)待；?僅根據(jù)個(gè)人特征或個(gè)人資料來(lái)評(píng)估某人實(shí)施刑事除外；?基于從互聯(lián)網(wǎng)或閉路電視（CCTV）無(wú)針對(duì)性采集信息面部識(shí)別數(shù)據(jù)庫(kù)；?在工作場(chǎng)所或教育機(jī)構(gòu)中做情緒推斷，但出于醫(yī)療或安全原因的情況除外；?生物特征分類系統(tǒng)根據(jù)敏感數(shù)據(jù)對(duì)人員進(jìn)行分據(jù)集（例如執(zhí)法領(lǐng)域的圖像）；?在公共場(chǎng)所用于執(zhí)法目的的實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別系統(tǒng)，某些特定情況除外。在某些情況下，《人工智能法案》包含例外條款，于禁止性AI實(shí)踐的指南。人員的健康、安全和基本權(quán)利產(chǎn)生重大不利影響，類：?擬用作歐盟統(tǒng)一立法所涵蓋的產(chǎn)品或產(chǎn)品安全組件的人工智能系統(tǒng)，例如民用航空、車輛安全、法案》附件一中）。會(huì)修訂。12345678910系統(tǒng)。險(xiǎn)和非高風(fēng)險(xiǎn)人工智能系統(tǒng)案例的綜合實(shí)例清單。高風(fēng)險(xiǎn)人工智能系統(tǒng)。時(shí)才會(huì)出現(xiàn)：?執(zhí)行狹義的程序性任務(wù)；?改進(jìn)先前完成的人類活動(dòng)的成果；?檢測(cè)決策模式或與先前決策模式的偏差，而不是?執(zhí)行與附件三所列用例目的相關(guān)的評(píng)估的準(zhǔn)備任務(wù)。然而，如果人工智能系統(tǒng)對(duì)自然人進(jìn)行特征分析，統(tǒng)的范圍。用之前仍必須在歐盟高風(fēng)險(xiǎn)系統(tǒng)數(shù)據(jù)庫(kù)中注冊(cè)。55者”的責(zé)任，也是系統(tǒng)的“進(jìn)口商”、“經(jīng)銷商”部署者承擔(dān)。供者。案》主要規(guī)范人工智能系統(tǒng)，而不是模型。但是，它確實(shí)包含有關(guān)通用人工智能模型的規(guī)則。能模型的附加規(guī)則。這些規(guī)則適用于以下情況：?通用人工智能模型提供者將其自身模型集成到使用；?通用人工智能模型的提供者僅向人工智能系統(tǒng)提供者提供自己的模型。工智能系統(tǒng)中，那么這種區(qū)分可能尤為重要。度義務(wù)：?旨在與自然人直接交互的人工智能系統(tǒng)；?包括通用人工智能系統(tǒng)在內(nèi)的生成合成音頻、圖像、視頻或文本內(nèi)容的人工智能系統(tǒng)；?情緒識(shí)別或生物識(shí)別分類系統(tǒng)；?生成或操縱深度偽造的圖像、音頻或視頻的人工智能系統(tǒng)。的?！度斯ぶ悄芊ò浮芬?guī)定了一個(gè)復(fù)雜的、多層次的監(jiān)構(gòu)。企業(yè)提供支持等方式為市場(chǎng)提供支持。工智能法案》的要求。要獲得該標(biāo)志，提供者必須采用一致的技術(shù)標(biāo)準(zhǔn)。此外，符合一致標(biāo)準(zhǔn)的高風(fēng)險(xiǎn)人工智能系統(tǒng)或通用人工智能模型應(yīng)被推定為符合《人工智能法案》的要求，只要這些標(biāo)準(zhǔn)涵蓋這些要求或義務(wù)。因此，《人工智能法案》中的一般性的規(guī)定將由技術(shù)標(biāo)準(zhǔn)補(bǔ)充，這些標(biāo)準(zhǔn)將提供符合《人工智能法案》的具體形式。因此，我們可期，CE標(biāo)志和技術(shù)標(biāo)準(zhǔn)將在《人工智能法案》的實(shí)際應(yīng)用中發(fā)揮非常重要的作用。規(guī)則。委員會(huì)還可以通過(guò)實(shí)施法案批準(zhǔn)行為準(zhǔn)則，6123456789106處罰，具體處罰取決于違規(guī)性質(zhì)和所涉實(shí)體的規(guī)模?？赡苷兄赂哳~處罰的行為包括：?不遵守第5條中有關(guān)禁止人工智能實(shí)踐的規(guī)定。歐元或最高全球年?duì)I業(yè)額7%的罰款（以較高者為準(zhǔn)）。?與數(shù)據(jù)、數(shù)據(jù)治理和透明度相關(guān)的違規(guī)行為：人款2000萬(wàn)歐元或全球年?duì)I業(yè)額的4%。），可達(dá)其上一財(cái)年全球營(yíng)業(yè)額的3%，以較高者為準(zhǔn)。性。企業(yè)必須充分了解這些處罰措施，并確智能系統(tǒng)符合該法案的要求?！度斯ぶ悄芊ò浮穼⒎蛛A段適用。對(duì)于在特定日期之前投放市場(chǎng)或投入使用的人工智能系統(tǒng)，該法案還設(shè)有過(guò)渡性安排?！度斯ぶ悄芊ò浮愤m用于2026人工智能系統(tǒng)的運(yùn)營(yíng)者，除非這些系統(tǒng)隨后的設(shè)計(jì)發(fā)生重大變化（這種情況下，下列規(guī)定將全面適用于重新設(shè)計(jì)后的系統(tǒng)）。具體適用日期如下?！度斯ぶ悄芊ò浮吩跉W盟官方公報(bào)上公布，確定了法規(guī)《人工智能法案》在歐盟官方公報(bào)上公布，確定了法規(guī)中具體條款的適用日期。禁止實(shí)踐禁令（第二章）。人工智能素養(yǎng)規(guī)則（第4條）。指定的國(guó)家主管部門（第三章第四節(jié)）。通用人工智能（GPAI）的義務(wù)（第五章）。治理（在歐盟和國(guó)家層面）（第七章）。保密和處罰（與通用人工智能無(wú)關(guān)）（第十二章）。《人工智能法案》的所有其他規(guī)定適用（除非下文適用更晚的日期）。投入服務(wù)，且旨在供公共部門使用的（第111條）。日附件X所列的大型信息系統(tǒng)組件，于2027年7123456789107第二章第二章智能模型和禁止的人工智能實(shí)踐。者也須履行透明度義務(wù)。人工智能系統(tǒng)的情形。采取措施遵守該法案的人工智能素養(yǎng)要求。8123456789108《人工智能法案》主要針對(duì)人工智能系統(tǒng)的“投放智能模型的供應(yīng)進(jìn)行監(jiān)管?！度斯ぶ悄芊ò浮愤€規(guī)定了市場(chǎng)監(jiān)測(cè)、監(jiān)督、治理動(dòng)國(guó)際合作。通用人工智能模型的供應(yīng)和部署方式。投入服務(wù)”。提供給歐盟市場(chǎng)進(jìn)行經(jīng)銷或使用；智能系統(tǒng)或通用人工智能模型；“投入服務(wù)”是指將人工智能系統(tǒng)直接提供的自用。禁止行為的相關(guān)限制。《人工智能法案》監(jiān)管的運(yùn)營(yíng)者包括：人，作為提供者的授權(quán)代表行事。其職責(zé)包括確?！度税浮芬蟮奈募商峁┙o主管當(dāng)局，并與這些當(dāng)局合作人工智能模型）。開發(fā)人工智能系統(tǒng)或通用人工智能模型，或擁系統(tǒng)或通用人工智能模型，并將其投放市場(chǎng)或標(biāo)投入服務(wù)，無(wú)論是否收費(fèi)。提供者可以是自然人或法人、公共機(jī)關(guān)、機(jī)構(gòu)或其他組機(jī)構(gòu)、組織、辦公室和代理機(jī)構(gòu)也可以作為人工智能系者。如果某人工智能系統(tǒng)已由其他提供者投放市場(chǎng)或投入服9123456789109在其權(quán)限下使用人工智能系統(tǒng)（不包括在個(gè)人用）的任何自然人或法人、公共機(jī)關(guān)、機(jī)構(gòu)或構(gòu)、組織、辦公室和代理機(jī)構(gòu)也可以作為人工智能系者。位于歐盟或在歐盟境內(nèi)設(shè)立的自然人或法人，將帶有者名稱或商標(biāo)的人工智能系統(tǒng)投放于歐盟市場(chǎng)。供應(yīng)鏈中除提供者或進(jìn)口商以外，向歐盟市場(chǎng)提供人工的自然人或法人。在某些情況下，如果符合以下條件，產(chǎn)品制造該人工智能系統(tǒng)是《人工智能法案》所涵蓋的產(chǎn)品的安全組件(）；制造商將該人工智能系統(tǒng)與該產(chǎn)品一起以自身歐盟市場(chǎng)或投入服務(wù)。組件供應(yīng)商施加了間接義務(wù)。向高風(fēng)險(xiǎn)人工智能系統(tǒng)供應(yīng)人工智能系統(tǒng)、工具、服務(wù)、組件或流程的供應(yīng)商，必須與高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者簽訂書面協(xié)議，并幫助后者遵守《人工智能法案》下的開源許可向公眾提供此類工具、服務(wù)、流程或組件（通用人工智能模型除外）的第三方。（GDPR）不同，《人工智能法案》賦予個(gè)人的權(quán)利與GDPR的自動(dòng)化決策條款（GDPR第22條）中使相同。測(cè)、內(nèi)容、建議或決策”。此定義旨在與OECD人工智能原則（OECDAI個(gè)關(guān)鍵特征是其推斷能力，即從輸入或數(shù)據(jù)中獲取據(jù)自然人定義的規(guī)則執(zhí)行操作，本身并不被視為人工智能系統(tǒng)。人工智能系統(tǒng)可以獨(dú)立使用，也可以作為產(chǎn)品的組件使用，無(wú)論該人工智能系統(tǒng)是物理集成到產(chǎn)品中還是以非集成的方式服務(wù)于產(chǎn)品的功能。用。12345678910下類別：?高風(fēng)險(xiǎn)人工智能系統(tǒng)；?具有透明度風(fēng)險(xiǎn)的人工智能系統(tǒng)（有限風(fēng)險(xiǎn)人工?其他所有人工智能系統(tǒng)。部分。這可能是由于該人工智能系統(tǒng)的某些功能，也可能是因?yàn)樵撊斯ぶ悄芟到y(tǒng)的使用方式。通過(guò)以下兩種方式被歸類為高風(fēng)險(xiǎn)系統(tǒng)：用，該產(chǎn)品受到某些歐盟產(chǎn)品安全立法（《人工并須根據(jù)此類立法與第三方評(píng)估機(jī)構(gòu)進(jìn)行符合性評(píng)估程序，或該人工智能系統(tǒng)自行構(gòu)成此類產(chǎn)品（例如，用于醫(yī)療診斷目的的人工智能系統(tǒng)本身將構(gòu)成受監(jiān)管的醫(yī)療器械）；或?第6(2)條：人工智能系統(tǒng)屬于《人工智能法案》風(fēng)險(xiǎn)。（包括前述所提到的產(chǎn)品制造商）承擔(dān)，而部署務(wù)則相對(duì)有限。請(qǐng)參閱本指南第4章了解更多詳細(xì)信息。務(wù)：?情緒識(shí)別系統(tǒng)或生物特征分類系統(tǒng)的部署者（第行為準(zhǔn)則?？睢Ｍㄟ^(guò)從互聯(lián)網(wǎng)或閉路電視（CCTV）中無(wú)差別地抓取法）中關(guān)于人工智能實(shí)踐的禁止性規(guī)定。?生成合成音頻、圖像、視頻或文本內(nèi)容的人工智12345678910《人工智能法案》并未對(duì)“人工智能模型”作出定智能模型的特征。《人工智能法案》對(duì)通用人工智能模型進(jìn)行監(jiān)管，現(xiàn)，例如通過(guò)庫(kù)、API、直接下載或物理副本。系統(tǒng)中，并將該系統(tǒng)在市場(chǎng)上提供或投入服務(wù)時(shí)，將該微調(diào)后的模型集成到自己的人工智能系統(tǒng)中(請(qǐng)參閱本指南第5章了解更多詳細(xì)信息?！度斯ぶ悄芊ò浮窞槠淙斯ぶ悄芟到y(tǒng)相關(guān)條款設(shè)定任一情況時(shí)，這些條款將適用：?被投放于歐盟市場(chǎng)、在歐盟投入服務(wù)、進(jìn)口到歐?由在歐盟設(shè)有機(jī)構(gòu)或位于歐盟的部署者使用。盟立法（例如GDPR）中類似，即范圍較為廣泛。款也將適用。類情況下仍適用?！度斯ぶ悄芊ò浮逢P(guān)于禁止的人工智能實(shí)踐的為更復(fù)雜的系統(tǒng)、流程或基礎(chǔ)設(shè)施的一部分。于何處。12345678910?歐盟法律范圍之外的領(lǐng)域（如涉及國(guó)家安全的活款的適用范圍非常有限；?專門用于軍事、國(guó)防和國(guó)家安全目的的人工智能系統(tǒng)，無(wú)論是否經(jīng)過(guò)修改以及從事這些活動(dòng)的實(shí)體類型為何，將其在歐盟投放市場(chǎng)、投入服務(wù)、使用或僅在歐盟境內(nèi)使用其輸出的情形均不適用人工智能系統(tǒng)既用于例外用途（軍事、國(guó)防或國(guó)家安全），又用于非例外用途（如民用或執(zhí)法目的），則仍需遵守《人工智能法案》，并由系統(tǒng)的提供者確保合規(guī)；?第三國(guó)公共機(jī)關(guān)或國(guó)際組織在與歐盟或歐盟成員盟法律；?專為科學(xué)研發(fā)目的而開發(fā)并投入服務(wù)的人工智能系統(tǒng)和模型，包括其輸出；?人工智能系統(tǒng)或模型在投放市場(chǎng)或投入服務(wù)之前除外；?個(gè)人部署者在純粹的個(gè)人非職業(yè)活動(dòng)中使用人工智能系統(tǒng)。這與GDPR的“家庭豁免”類似，但法案》；?在免費(fèi)和開源許可下發(fā)布的人工智能系統(tǒng)，除非涵蓋的系統(tǒng)。?作為一項(xiàng)條例，《人工智能法案》無(wú)需成員國(guó)轉(zhuǎn)））法律。?《人工智能法案》關(guān)于高風(fēng)險(xiǎn)人工智能系統(tǒng)的條款是圍繞歐盟產(chǎn)品的新立法框架（New該框架是一套關(guān)于產(chǎn)品投放于歐盟市場(chǎng)的規(guī)則，旨在強(qiáng)化市場(chǎng)監(jiān)督、符合性評(píng)估及CE標(biāo)志的規(guī)能系統(tǒng)中的具體適用方式。?同時(shí)，《人工智能法案》補(bǔ)充了歐盟統(tǒng)一立立法，某些人工智能系統(tǒng)將被歸類為高風(fēng)險(xiǎn)。?《人工智能法案》的義務(wù)是對(duì)GDPR、《電子隱影響后者的效力。?同時(shí)，《人工智能法案》補(bǔ)充了歐盟統(tǒng)一立立法，某些人工智能系統(tǒng)將被歸類為高風(fēng)險(xiǎn)。?《人工智能法案》的義務(wù)是對(duì)GDPR、《電子隱影響后者的效力。12345678910第三章第三章應(yīng)被禁止的實(shí)踐。別系統(tǒng)。年全球年?duì)I業(yè)額總額的7%（以較高者為準(zhǔn)）的罰款。用。被禁止的類別。表可能會(huì)隨著時(shí)間推移而發(fā)生變化。非絕對(duì)；許多都有例外情況。12345678910止實(shí)踐，即與歐盟價(jià)值觀相沖突并明顯威脅自由、的努力。），款，突顯了其重要性。），調(diào)整。情況，每項(xiàng)行為都應(yīng)根據(jù)具體情況進(jìn)行考慮。意識(shí)、操縱或欺騙技術(shù)：?這些技術(shù)的目的在于、或者實(shí)際上已經(jīng)產(chǎn)生了嚴(yán)重扭曲自然人或群體行為的效果；?明顯損害自然人或群體做出明智決定的能力；?導(dǎo)致他們做出原本不會(huì)做出的決定，并且導(dǎo)致或很可能導(dǎo)致他們?cè)馐苤卮髠?。件，例如人們無(wú)法感知的音頻、圖像、視頻刺激，論此類數(shù)據(jù)的使用。性設(shè)計(jì)都會(huì)落入這一條款的適用范圍。他要求。狀況而處于弱勢(shì)。時(shí)，才會(huì)被禁止。,則不構(gòu)成剝削。然而，在這種情況下，剝削行為定為利用了這些弱勢(shì)群體的脆弱性。保根據(jù)這一要求完成系統(tǒng)測(cè)試?？钸€指出，傷害可以隨著時(shí)間的推移而累積。12345678910評(píng)分。在兩種情況下禁止使用社會(huì)評(píng)分：?對(duì)特定自然人或群體產(chǎn)生有害或不利待遇，而這種待遇的社會(huì)場(chǎng)景與最初生成或收集數(shù)據(jù)的場(chǎng)景無(wú)關(guān)；以及?對(duì)特定自然人或群體產(chǎn)生有害或不利待遇，而這種待遇是不合理的，或與其社會(huì)行為或其嚴(yán)重性不成比例的。社會(huì)評(píng)分時(shí)首先想到的例子，但該規(guī)定更為廣泛，視。被視為非法的社會(huì)評(píng)分的例子。評(píng)估某人是否參與犯罪活動(dòng)的人工智能系統(tǒng)除外，第一條規(guī)定的人的尊嚴(yán)息息相關(guān)。公共權(quán)力行事或協(xié)助執(zhí)法，它們也可能受到禁止。據(jù)的私人公司可能會(huì)面臨禁止。受歐盟法院（CJEU）判例法的影響，判例法強(qiáng)調(diào)人初步豁免的范圍。如用于AI模型訓(xùn)練且不涉及個(gè)人身份的數(shù)據(jù)庫(kù)。場(chǎng)所倦怠或抑郁的系統(tǒng)將不被豁免。疲勞狀態(tài)以防止事故發(fā)生的系統(tǒng)不會(huì)受到影響）。定義中涵蓋的內(nèi)容。人的情緒或意圖的人工智能系統(tǒng)”。12345678910小或更準(zhǔn)確。斷或推算GDPR下某些（而非全部）特殊類別數(shù)據(jù)，或政治信仰、性生活或性取向。GDPR下的特殊類別數(shù)據(jù)不受該禁令的約束，包括種族來(lái)源、健康和遺傳數(shù)據(jù)的推斷。但是，推斷這類令不包括對(duì)合法獲取的生物識(shí)別數(shù)據(jù)集進(jìn)行標(biāo)記或篩選，也不包括執(zhí)法部門對(duì)生物識(shí)別數(shù)據(jù)進(jìn)行分類以搜尋嫌疑人）。然而，目前尚不清楚，使用生物識(shí)別分類進(jìn)行此類標(biāo)記和篩選的系統(tǒng)是否屬于高風(fēng)險(xiǎn)類別，因?yàn)樾蜓缘?4條暗示，旨在根據(jù)GDPR下的敏感屬性或特殊類別數(shù)據(jù)進(jìn)行生物識(shí)別分類的人工智能系統(tǒng)（只要這些系統(tǒng)未被《人工智能法案》禁止），應(yīng)被歸類為高風(fēng)險(xiǎn)，并且指南還指出，大多數(shù)符合《人工智能法案》第5條所列禁令例智能系統(tǒng)將被歸類為高風(fēng)險(xiǎn)。這意味著被豁免的標(biāo)簽和過(guò)濾系統(tǒng)可能會(huì)被歸入高風(fēng)險(xiǎn)類別。媒體過(guò)濾器）。行的分類。時(shí)遠(yuǎn)程生物特征識(shí)別系統(tǒng)（“RBI”）用于執(zhí)法目的。RBI系統(tǒng)是一種用于在未經(jīng)個(gè)人參與的情況下，出反應(yīng)時(shí)，通常可視為“顯著延遲”的情況。用于驗(yàn)證（即確認(rèn)某人是其聲稱的人，訪問(wèn)服務(wù)、設(shè)備或安全進(jìn)入場(chǎng)所）的生物特征識(shí)別系統(tǒng)與RBI特定安裝的位置，使其能夠積極參與驗(yàn)證過(guò)程。的情況下使用RBI用于執(zhí)法目的，但前提是使用RBI是以下嚴(yán)格必要的情形：?針對(duì)特定被綁架、人口販賣或性剝削受害者的有針對(duì)性搜索，以及尋找失蹤人員；?防止對(duì)生命或人身安全的特定、重大和迫切的威?定位或識(shí)別涉嫌刑事犯罪的人員，進(jìn)行刑事調(diào)行刑事處罰。豁免僅允許使用RBI來(lái)確認(rèn)特定目標(biāo)個(gè)人的身份。此外，使用RBI應(yīng)考慮所涉及情形的性質(zhì)，特別是措施除外）。此外，每次在公共場(chǎng)所使用RBI都必這些規(guī)定編制一份關(guān)于RBI使用情況的年度國(guó)家報(bào)告。的人遵守最高標(biāo)準(zhǔn)。12345678910然而，禁止實(shí)踐的規(guī)定與運(yùn)營(yíng)者無(wú)關(guān)。換句話說(shuō)，或使用從事禁止行為的人工智能系統(tǒng)）。侵犯基本權(quán)利或帶來(lái)不可接受風(fēng)險(xiǎn)的實(shí)踐的決心，面監(jiān)管。相當(dāng)于違法者上一財(cái)年全球年?duì)I業(yè)額7%或3500萬(wàn)歐元的罰款，以較高者為準(zhǔn)。們采取的措施。序言28&29序言28&29?EDPB關(guān)于通過(guò)視頻設(shè)備處理個(gè)人數(shù)據(jù)的指南?EDPB關(guān)于在執(zhí)法領(lǐng)域使用面部識(shí)別技術(shù)的指南?EDPB關(guān)于自動(dòng)決策和畫像分析的指南?EDPB關(guān)于人工智能法案提案的聯(lián)合意見?EDPB關(guān)于社交媒體欺騙性設(shè)計(jì)模式的指南12345678910第四章第四章高風(fēng)險(xiǎn)”系統(tǒng)：不同角色項(xiàng)下的合規(guī)義務(wù)。前進(jìn)行符合性評(píng)估。用于與原始提供者預(yù)期目的不同的用途）。險(xiǎn)范圍。查相應(yīng)的合規(guī)義務(wù)。12345678910險(xiǎn)人工智能系統(tǒng)主要分為兩類：相關(guān)立法需要進(jìn)行第三方符合性評(píng)估。用例范圍的系統(tǒng)。類別：?機(jī)械?玩具?娛樂(lè)船只和個(gè)人水上設(shè)備?用于潛在爆炸性環(huán)境中的設(shè)備和保護(hù)系統(tǒng)?無(wú)線電設(shè)備?壓力設(shè)備?纜道裝置?個(gè)人防護(hù)設(shè)備?燃燒氣體燃料的器具、醫(yī)療器械?體外診斷醫(yī)療器械?民航?兩輪或三輪汽車?農(nóng)林車輛?海事設(shè)備?鐵路系統(tǒng)?機(jī)動(dòng)車輛及其掛車?無(wú)人機(jī)技術(shù)作為人工智能應(yīng)用的另一個(gè)穩(wěn)步增長(zhǎng)的領(lǐng)域，統(tǒng)的要求息息相關(guān)。身構(gòu)成此類醫(yī)療器械，則根據(jù)《人工智能法案》，它屬于高風(fēng)險(xiǎn)人工智能系統(tǒng)。風(fēng)險(xiǎn)人工智能系統(tǒng)。構(gòu)成高風(fēng)險(xiǎn)系統(tǒng)的獨(dú)立清單目前包含以下類別：?生物識(shí)別：個(gè)人遠(yuǎn)程生物識(shí)別、個(gè)人生物識(shí)別特征分類或者個(gè)人情緒識(shí)別。?關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)行：與關(guān)鍵數(shù)字基礎(chǔ)設(shè)施（例如互聯(lián)網(wǎng)交換點(diǎn)、DNS服務(wù)、TLD注冊(cè)中心、云計(jì)算服務(wù)、數(shù)據(jù)中心、內(nèi)容分發(fā)網(wǎng)絡(luò)、產(chǎn)安全的安全部件。?教育和職業(yè)培訓(xùn)：教育和職業(yè)培訓(xùn)過(guò)程的決策(例如，對(duì)學(xué)生或申請(qǐng)成為學(xué)生的個(gè)人進(jìn)行篩選、評(píng)估、考核和監(jiān)控）。?就業(yè)和人力資源：招聘和人力資源管理過(guò)程中的12345678910控）。?基本服務(wù)：評(píng)估個(gè)人（繼續(xù)）獲得公共援助福利的資格（例如醫(yī)療保健服務(wù)、社會(huì)保障津貼、殘疾人福利）；評(píng)估個(gè)人信譽(yù)或確定其信用評(píng)分(用于檢測(cè)金融欺詐除外）；在人壽和健康保險(xiǎn)方面，對(duì)個(gè)人進(jìn)行風(fēng)險(xiǎn)評(píng)估和定價(jià)；對(duì)緊急呼叫進(jìn)行評(píng)估和分類或者作出與調(diào)度或確定調(diào)度緊急第（例如警察、消防員、醫(yī)療救助）有關(guān)的決策，以及緊急醫(yī)療病人分流。：（；（程中，對(duì)個(gè)人進(jìn)行畫像分析。?證據(jù)收集和評(píng)估：在調(diào)查或起訴刑事犯罪期間，護(hù)或者邊境管制的機(jī)關(guān)使用測(cè)謊儀或類似工具。?移民識(shí)別、移民風(fēng)險(xiǎn)和移民申請(qǐng)?jiān)u估：在移民、）；），投訴。?司法行政：協(xié)助司法機(jī)關(guān)或替代性爭(zhēng)議解決機(jī)構(gòu)研究和解釋事實(shí)與法律，并將法律適用于事實(shí)。響個(gè)人投票行為。場(chǎng)景和條件?！保?，）：果；代或影響先前完成的人工評(píng)估；評(píng)估的準(zhǔn)備任務(wù)；—示例：用于翻譯文檔的人工智能系統(tǒng)。2016/679號(hào)條例（《通用數(shù)據(jù)保護(hù)條例》，GDPR）實(shí)施的行為。國(guó)家主管部門的要求向其提供相關(guān)評(píng)估文件。將在《人工智能法案》生效后六個(gè)月內(nèi)發(fā)布。12345678910《人工智能法案》第三章第二節(jié)、第三節(jié)和第四節(jié)詳細(xì)列出了高風(fēng)險(xiǎn)人工智能系統(tǒng)提供者和部署者的義務(wù)：確保符合第2節(jié)的要求（見下文）。在人工智能系統(tǒng)上（如果無(wú)法實(shí)現(xiàn)，則在其包裝或隨附文檔上稱（或其品牌）及其聯(lián)系方式。方式將質(zhì)量管理體系的有關(guān)方面記錄下來(lái)，并列出了需要記錄的詳細(xì)內(nèi)容）。?經(jīng)通知機(jī)構(gòu)批準(zhǔn)變更的文檔（如適用）?通知機(jī)構(gòu)發(fā)布的決定和其他文件?歐盟符合性聲明（第47條）。條）。此類日志的留存期限必須與高風(fēng)險(xiǎn)人工智能系統(tǒng)的預(yù)期用途相少為六個(gè)月（除非任何個(gè)人數(shù)據(jù)保護(hù)條款另有規(guī)定）。程序（詳見下文）。起草一份歐盟符合性聲明（第47條）。詳見下文。將CE標(biāo)志加貼在高風(fēng)險(xiǎn)人工智能系統(tǒng)上（如果無(wú)法實(shí)現(xiàn)，則加貼在其包裝或隨附文檔上）。CE標(biāo)志將用以證明高風(fēng)險(xiǎn)人工智能系統(tǒng)符合《人工智能法案》第48條的規(guī)定。詳見下文。如果人工智能系統(tǒng)不符合《人工智能法案》的合規(guī)要求，則應(yīng)采取必要施，或者撤回、禁用或召回該系統(tǒng)。如果人工智能系統(tǒng)對(duì)安全或個(gè)人的基本權(quán)利構(gòu)成風(fēng)險(xiǎn)，則應(yīng)通知市場(chǎng)監(jiān)構(gòu)，并在適用的情況下，通知為該系統(tǒng)頒發(fā)合格證書的通知機(jī)構(gòu)（第7根據(jù)國(guó)家主管當(dāng)局的合理要求，證明人工智各項(xiàng)要求，并提供所有必要的信息和文檔?！度斯ぶ悄芊ò浮返?1條更為詳盡地規(guī)定了與主管當(dāng)局合與國(guó)家主管當(dāng)局共享的任何信息都應(yīng)被視為機(jī)密。確保高風(fēng)險(xiǎn)人工智能系統(tǒng)符合以下無(wú)障礙要求：12345678910將采取類似做法?；瘷C(jī)構(gòu)CEN/CELENEC發(fā)布了一份標(biāo)準(zhǔn)化請(qǐng)求（草第三章第二節(jié)要求的協(xié)調(diào)標(biāo)準(zhǔn)。如下）?！度斯ぶ悄芊ò浮犯攀隽朔闲栽u(píng)估的兩個(gè)主要程下進(jìn)行符合性評(píng)估。如果高風(fēng)險(xiǎn)人工智能系統(tǒng)落入附件一第A節(jié)所列的七的具體規(guī)定也應(yīng)適用。為了確保監(jiān)管的一致性，案》的某些要求。變更不被視為重大修改。第8條明確指出，高風(fēng)險(xiǎn)人工智能系統(tǒng)在其全生命周期），先考慮對(duì)人類產(chǎn)生重大影響的要求。若無(wú)法找到合適的權(quán)衡方人工智能系統(tǒng)。第9條要求人工智能系統(tǒng)的提供者建立風(fēng)險(xiǎn)管理體系。程，旨在識(shí)別、分析并降低可預(yù)見的風(fēng)險(xiǎn)。具體措施包括設(shè)計(jì)風(fēng)險(xiǎn)緩解施管控機(jī)制以及為用戶提供信息和培訓(xùn)。所有采取的措施都必須進(jìn)行記高風(fēng)險(xiǎn)人工智能系統(tǒng)應(yīng)在適當(dāng)時(shí)機(jī)接受測(cè)試，以確保其性能的穩(wěn)定一致性。集中可能導(dǎo)致禁止性歧視的偏見，包括在特定條件下處理特殊類別的個(gè)法案》的數(shù)據(jù)治理要求。志。提供者必須在系統(tǒng)部署前準(zhǔn)備好這些文檔，并定期更新。技術(shù)文檔統(tǒng)的各個(gè)方面，包括其特性、算法、數(shù)據(jù)、訓(xùn)練、測(cè)試險(xiǎn)人工智能系統(tǒng)還應(yīng)自動(dòng)記錄使用日志，以提供可追溯的修改。12345678910第13條要求為高風(fēng)險(xiǎn)人工智能系統(tǒng)的部署使部署者能夠正確理解和使用系統(tǒng)的輸出。系統(tǒng)的決策過(guò)程必須是可且需要提供有關(guān)其身份、特性、限制、目的、準(zhǔn)確性、風(fēng)險(xiǎn)、能力、和預(yù)期使用壽命的詳細(xì)信息。所有文檔都應(yīng)根據(jù)目標(biāo)部署者的需要和行定制。人工監(jiān)督措施必須防止或最小化對(duì)健康、安全和權(quán)利的風(fēng)險(xiǎn)。統(tǒng)的風(fēng)險(xiǎn)和自主性水平相稱。必要時(shí)，人工操作員應(yīng)能夠干預(yù)系統(tǒng)的決策。監(jiān)督可以通過(guò)以下方式實(shí)現(xiàn)：?系統(tǒng)內(nèi)置的約束機(jī)制以及對(duì)人工操作員的響應(yīng)能力。?提供者為部署者制定的措施，以幫助他們做出知情的、自主的決策。第15條規(guī)定，高風(fēng)險(xiǎn)人工智能系統(tǒng)必須達(dá)到平。準(zhǔn)確性指標(biāo)包括最小化預(yù)測(cè)誤差；魯棒性指標(biāo)是確保系統(tǒng)能夠處理穩(wěn)定情形；網(wǎng)絡(luò)安全措施則旨在防范未經(jīng)授權(quán)的系統(tǒng)篡改。對(duì)于受《歐法案進(jìn)行驗(yàn)證。者的義務(wù)作出規(guī)定：統(tǒng)所附的使用說(shuō)明使用高風(fēng)險(xiǎn)人工智能系統(tǒng)。的支持。入數(shù)據(jù)質(zhì)量的責(zé)任。智能系統(tǒng)的運(yùn)行情況進(jìn)行監(jiān)測(cè)。者、進(jìn)口商或分銷商以及相關(guān)市場(chǎng)監(jiān)督機(jī)構(gòu)。另有規(guī)定，尤其是在個(gè)人數(shù)據(jù)保護(hù)方面。1.人類積極參與并直接介入系統(tǒng)的決策過(guò)程。2.人類處于監(jiān)督角色，雖然不直接參與決策，但隨時(shí)準(zhǔn)備介入干預(yù)，以確保系統(tǒng)運(yùn)行符合預(yù)期。3.人類處于主導(dǎo)地位，系統(tǒng)完全由人類控制并下達(dá)指令。12345678910工智能系統(tǒng)使用的影響。法案》第49條規(guī)定的歐盟數(shù)據(jù)庫(kù)注冊(cè)義務(wù)。號(hào)條例（《通用數(shù)據(jù)保護(hù)條例》，GDPR）第35條或能法案》第13條提供的信息。請(qǐng)使用授權(quán)。基本權(quán)利影響評(píng)估（FRIA）：風(fēng)險(xiǎn)人工智能系統(tǒng)用于以下用途：括用于檢測(cè)金融欺詐的人工智能系統(tǒng)）；在此列。評(píng)估內(nèi)容包括以下方面：?描述高風(fēng)險(xiǎn)人工智能系統(tǒng)將如何按照其預(yù)期目的被使用；?明確該系統(tǒng)計(jì)劃使用的時(shí)間范圍和頻率；?識(shí)別可能在特定情境下受到系統(tǒng)使用影響的自然人或群體類別；?結(jié)合提供者根據(jù)《人工智能法案》第13條提供的害影響的具體風(fēng)險(xiǎn)；?描述根據(jù)使用說(shuō)明，人類監(jiān)督措施的實(shí)行情況；?包括內(nèi)部治理安排和投訴機(jī)制在內(nèi)的，針對(duì)上述人工智能系統(tǒng)的提供者。應(yīng)商的義務(wù)：12345678910及使用說(shuō)明；充分履行其義務(wù)。合性聲明；否已履行其各自義務(wù)。授權(quán)代表以及市場(chǎng)監(jiān)管機(jī)構(gòu)。全或基本權(quán)利構(gòu)成風(fēng)險(xiǎn)的情形，采取的糾正措施。危及第2部分的要求。危及第2部分的要求。行動(dòng)。動(dòng)。的副本：通知機(jī)構(gòu)頒發(fā)的證書(要求時(shí)，采取必要的糾正措施，用說(shuō)明和歐盟合格聲明。附文件上注明進(jìn)口商的名稱、地址。這些糾正措施。4.此處的“風(fēng)險(xiǎn)”是指：“可能對(duì)人員的健康和安全產(chǎn)生不利影響，且這種影響超出了與其預(yù)期用途或在的使用條件下（包括使用期限以及適用的投入使用、安裝和維護(hù)要求）被認(rèn)為合理和可接受的程度”（《人工12345678910系統(tǒng)的提供者：?在已經(jīng)投放市場(chǎng)或投入使用的高風(fēng)險(xiǎn)人工智能系統(tǒng)上使用自己的名稱或商標(biāo)；?修改目前不屬于高風(fēng)險(xiǎn)的人工智能系統(tǒng)的預(yù)期用途，使其成為高風(fēng)險(xiǎn)系統(tǒng)。如果發(fā)生上述三種情況中的任何一種，原提供者將不再被視為（新的或新使用的）人工智能系統(tǒng)的提類別的方式部署通用人工智能系統(tǒng)。因此，如果某人以高風(fēng)險(xiǎn)的方式部署通用人工智能系統(tǒng)，則該部擔(dān)提供者的責(zé)任。新提供者將承擔(dān)高風(fēng)險(xiǎn)人工智能系統(tǒng)提供商的所有義務(wù)。原提供者有義務(wù)與新提供者密切合），工智能系統(tǒng)，則原提供商沒(méi)有義務(wù)這樣做。如果不禁止高風(fēng)險(xiǎn)部署人工智能系統(tǒng)，則合作義務(wù)適用，應(yīng)是可能影響設(shè)備符合適用要求的修改，這些規(guī)定應(yīng)繼續(xù)適用于高風(fēng)險(xiǎn)人工智能系統(tǒng)，即《醫(yī)療器械條例》所定義的醫(yī)療器械。12345678910第五章第五章智能模型。新的通用人工智能模型。履行義務(wù)。注的重點(diǎn)領(lǐng)域。務(wù)。起生效。政策及訓(xùn)練數(shù)據(jù)義務(wù)方面。整。12345678910于的理解為：每個(gè)人工智能系統(tǒng)都是有特定目的，并且此目的與特定的風(fēng)險(xiǎn)潛能相關(guān)。這種分類未考慮到基礎(chǔ)模型，這些模型通過(guò)廣泛的數(shù)據(jù)訓(xùn)練，能供應(yīng)用于各種場(chǎng)景。這些人工智能模型不符合《人工智能法案》初稿中基于風(fēng)險(xiǎn)的分類方案。因此，分類需要擴(kuò)展，通過(guò)加入新的類別，以考慮此類基））法案》草案中。章節(jié)具有重要意義，主要有以下兩個(gè)原因：?首先，它涉及生成式人工智能，這是目前在商業(yè)別，并涵蓋了大多數(shù)企業(yè)用例；?其次，《人工智能法案》對(duì)通用人工智能的要求審慎。者而略有減弱。能力。），系統(tǒng)可能并不被視為通用人工智能系統(tǒng)。鏈中公平分配責(zé)任（有關(guān)高風(fēng)險(xiǎn)系統(tǒng)的更多信息，請(qǐng)參閱第4章）。務(wù)，包括提供技術(shù)文檔或所用訓(xùn)練數(shù)據(jù)的摘要。時(shí)，應(yīng)當(dāng)履行以下義務(wù)：件XI；b.編制、不斷更新并向下游人工智能系統(tǒng)提供模型相結(jié)合的主體）提供必要的信息和文檔，息和商業(yè)秘密的需要之間取得平衡；c.制定政策以遵守歐盟版權(quán)及相關(guān)權(quán)利的法規(guī)(），《關(guān)于數(shù)字單一市場(chǎng)的版權(quán)和相關(guān)權(quán)利指令》12345678910涵蓋的其他事項(xiàng)；行使其權(quán)利；）；f.如果提供者設(shè)立于歐盟以外：則需在歐盟內(nèi)指《人工智能法案》為具有“系統(tǒng)性風(fēng)險(xiǎn)”的通用人型對(duì)歐洲市場(chǎng)的影響、歐盟注冊(cè)用戶數(shù)量等。時(shí)，只有少數(shù)大語(yǔ)言模型似乎符合這一門檻。場(chǎng)之前及其整個(gè)生命周期內(nèi)，涉及：12345678910第六章第六章多詳細(xì)信息，請(qǐng)參閱本指南第4章。夠的信息。?免責(zé)聲明：旨在直接與個(gè)人互動(dòng)的人工智能系統(tǒng)正在與人工智能系統(tǒng)互動(dòng)。?標(biāo)記要求：人工智能系統(tǒng)提供者必須對(duì)人工智能記，將此類內(nèi)容同人類生成的內(nèi)容區(qū)分開來(lái)。?深度偽造標(biāo)記：對(duì)人工智能生成的，與真實(shí)實(shí)體容（圖像、音頻、視頻）必須予以標(biāo)記。統(tǒng)的部署者應(yīng)使個(gè)人了解這些系統(tǒng)的運(yùn)行。（GDPR）和《人工智能法案》在透明度要求方面有部分重疊，不過(guò)后者更偏技術(shù)性。智能生成內(nèi)容。的人工智能系統(tǒng)中添加適當(dāng)?shù)拿庳?zé)聲明。深度偽造：以清晰可辨的方式標(biāo)注“Deepfake”表明所涉內(nèi)容系人工創(chuàng)作或操縱。識(shí)到該系統(tǒng)正在運(yùn)行。12345678910責(zé)任的部署也至關(guān)重要。能造成的危害的認(rèn)知，特別是以下群體：?相關(guān)個(gè)人能夠更好地了解其在人工智能背景下的?部署者能夠以知情的方式部署人工智能系統(tǒng)。統(tǒng)進(jìn)行分類，風(fēng)險(xiǎn)等級(jí)越高，透明度要求就越高。特定類型產(chǎn)品的透明度要求如下所述。統(tǒng)互動(dòng)。影響。?形式：在實(shí)踐中，提供者可以設(shè)計(jì)不同形式（例表明個(gè)人正在與人工智能系統(tǒng)交互。?顯而易見：考慮到人工智能系統(tǒng)使用的情形和場(chǎng)景，如果對(duì)于一個(gè)合理知情、善于觀察和謹(jǐn)慎的個(gè)人來(lái)說(shuō)，其正在與人工智能系統(tǒng)互動(dòng)是顯而易見的，則該人工智能系統(tǒng)可免除該透明度要求。?合法用途：經(jīng)法律允許用于檢測(cè)、預(yù)防、調(diào)查或行為。費(fèi)者的風(fēng)險(xiǎn)。?標(biāo)記：只有人工智能系統(tǒng)的提供者被要求標(biāo)記人或其他用戶。?格式：必須以機(jī)器可讀的格式對(duì)輸出進(jìn)行標(biāo)記，以表明是人工生成或操縱的。?技術(shù)標(biāo)準(zhǔn)：標(biāo)記應(yīng)有效、可互操作、穩(wěn)定且可的技術(shù)標(biāo)準(zhǔn)。?水印：添加可見水印很簡(jiǎn)單——但是很容易被基件才能檢測(cè)和刪除。?元數(shù)據(jù)：提供有關(guān)文件創(chuàng)建和來(lái)源的信息，但是可以使用文件編輯工具輕松更改或刪除。?算法指紋：人工智能模型在其生成的內(nèi)容中留下音調(diào)變化。?加密簽名：使用加密方法嵌入的數(shù)字簽名，例如地驗(yàn)證內(nèi)容是否被修改。12345678910區(qū)塊鏈技術(shù)來(lái)追蹤數(shù)字藝術(shù)品的來(lái)源和修改。?編輯輔助：主要為日常編輯任務(wù)提供支持或不會(huì)需承擔(dān)標(biāo)記義務(wù)。?合法用途：經(jīng)授權(quán)用于檢測(cè)、預(yù)防、調(diào)查或起約束。透明度要求：?情感識(shí)別系統(tǒng)：用于根據(jù)自然人的生物特征數(shù)據(jù)人的情感或意圖的人工智能系統(tǒng)。?生物特征分類系統(tǒng)：用于根據(jù)自然人的生物特征趣等方面相關(guān)。征分類系統(tǒng)的更多詳細(xì)信息，請(qǐng)參閱本指南第4章。系統(tǒng)的自然人告知有關(guān)系統(tǒng)的使用情況。特別是，斷他們的情感或意圖，或者將其歸入特定類別。?合法用途：獲準(zhǔn)用于檢測(cè)、預(yù)防或調(diào)查犯罪活動(dòng)免于上述要求。?輔助用途的生物特征分類系統(tǒng)：用于輔助其他商能系統(tǒng)可免于上述要求。據(jù)GDPR第13條和第14條的要求向個(gè)人告知其數(shù)據(jù)處是如何開發(fā)的以及人工智能是如何運(yùn)作和使用的。保證透明度至關(guān)重要。部署者使用人工智能創(chuàng)建以下內(nèi)容：?生成或操縱圖像、音頻或視頻；?與真實(shí)的人、物體、地點(diǎn)、實(shí)體或事件十分相?可能會(huì)誤導(dǎo)人們相信內(nèi)容是可靠的或真實(shí)的。深度偽造示例：?模仿公司高管的深度偽造視頻通話，誘騙員工轉(zhuǎn)移大筆資金。?人工智能生成的政治人物音頻，利用機(jī)器人電話發(fā)布誤導(dǎo)選民的選舉日期信息。?深度偽造視頻廣告冒充政治人物，操縱社交媒體上的公眾輿論。?使用深度偽造技術(shù)冒充知名人士進(jìn)行虛假Zoom采訪。?數(shù)字化身傳遞虛假的新聞報(bào)道來(lái)欺騙觀眾。12345678910供給有關(guān)個(gè)人：?以清晰可辨的方式；?不遲于所述個(gè)人第一次與人工智能系統(tǒng)互動(dòng)或接?符合適用的可及性要求。覺形式顯示。另一個(gè)需要考慮的方面是，應(yīng)當(dāng)向個(gè)人提供清晰、充分但不過(guò)量的信息。將來(lái)的行為準(zhǔn)則中得到解決。水印來(lái)有效滿足這些要求。有若干豁免和例外：?對(duì)于藝術(shù)、創(chuàng)意、諷刺、虛構(gòu)或類似作品，透明平臺(tái)上的描述文字注釋來(lái)實(shí)現(xiàn)。家法律規(guī)定的其他透明度要求。家法律規(guī)定的其他透明度要求。成的內(nèi)容（引言135項(xiàng)）。支持《數(shù)字服務(wù)法案》（DSA）對(duì)超大型線上平臺(tái)（VLOP）和搜索引擎（VLOS）的要求，以識(shí)別和降低與傳播深度偽造有關(guān)的風(fēng)險(xiǎn)（DSA第33條及以下條款）。如果人工智能提供者與VLOP或VLOS分開，平臺(tái)就能通過(guò)這些標(biāo)記更有效地識(shí)別人工智能生成的內(nèi)容。相反，如果VLOP或VLOS也是人工智能提供者，其根據(jù)DSA承擔(dān)的義務(wù)在《人工智能法案》進(jìn)一步詳細(xì)闡述和強(qiáng)化。?如果人工智能生成的內(nèi)容已經(jīng)經(jīng)過(guò)人工審核或編準(zhǔn)確性和完整性，則標(biāo)簽要求可以不那么嚴(yán)格。容的質(zhì)量和可靠性方面的作用。義務(wù)或者歐盟或國(guó)家立法規(guī)定的其他透明度要求。請(qǐng)參閱本指南第4章了解更多詳細(xì)信息。12345678910的指導(dǎo)方針（參見《不公平商業(yè)行為指令》）以及有關(guān)深度偽造的國(guó)家刑事條款相一致。如果在人工智能生命周期的所有不同階段（例如在開發(fā)、測(cè)試或部署人工智能技術(shù)）使用人工智能技術(shù)時(shí)處理個(gè)人數(shù)據(jù)，則GDPR的透明度要求適用，并且適用于控制者。人工智能工具的開發(fā)者和提供者并不總是扮演這樣的角色。在這種情況下，他們可能仍有義務(wù)向控制者提供具體信息，以便后者能夠履行其義務(wù)。12345678910第七章第七章將投放市場(chǎng)的創(chuàng)新人工智能系統(tǒng)進(jìn)行測(cè)試。與。個(gè)人工智能監(jiān)管沙盒，也可以與其他成員國(guó)合作完成。沙盒的建立、運(yùn)行和監(jiān)督做出詳細(xì)安排。遵守特定保護(hù)參與者的條件。安排。優(yōu)選地。管機(jī)構(gòu)批準(zhǔn)。務(wù)的合格性評(píng)估程序。12345678910?為創(chuàng)新者提供更高的法律確定性；面臨的障礙。義為：行測(cè)試）創(chuàng)新人工智能系統(tǒng)。”建立人工智能監(jiān)管沙盒。人工智能辦公室將公布計(jì)劃中和現(xiàn)有沙盒的清單。夠：?與人工智能監(jiān)管沙盒互動(dòng)；?向國(guó)家主管部門提問(wèn)；和?尋求對(duì)創(chuàng)新人工智能產(chǎn)品、服務(wù)或商業(yè)模式的合規(guī)性的無(wú)約束力指導(dǎo)。），第三方合作提交申請(qǐng)。創(chuàng)企業(yè)參與，包括：?中小企業(yè)和初創(chuàng)企業(yè)使用沙盒通常應(yīng)當(dāng)免費(fèi)；?對(duì)在歐盟設(shè)有注冊(cè)辦事處或分支機(jī)構(gòu)的中小企業(yè)能法案》實(shí)施及其他增值服務(wù)的指導(dǎo)。害，參與人工智能監(jiān)管沙盒的提供者和潛在提供者款：?遵守相關(guān)的沙盒計(jì)劃以及參與條款和條件；并且?（善意）遵守國(guó)家主管部門的任何指引。實(shí)施法案，來(lái)具體明確人工智能監(jiān)管沙盒的建立、運(yùn)行和監(jiān)督，包括以下共同原則：?參與資格和遴選標(biāo)準(zhǔn)；?沙盒的申請(qǐng)、參與、監(jiān)控、退出和終止程序；12345678910?參與者所適用的條款和條件。這些實(shí)施法案旨在確保人工智能監(jiān)管沙盒：?向任何符合公平透明的資格標(biāo)準(zhǔn)的提供者開放；?提供廣泛平等的參與機(jī)會(huì)，并且滿足參與的需求；?促進(jìn)開發(fā)用于測(cè)試和說(shuō)明與合規(guī)性學(xué)習(xí)有關(guān)的人和整個(gè)社會(huì)造成風(fēng)險(xiǎn)的措施；?推動(dòng)人工智能生態(tài)系統(tǒng)內(nèi)相關(guān)參與者的參與（例如指定機(jī)構(gòu)和標(biāo)準(zhǔn)化組織、測(cè)試和實(shí)驗(yàn)機(jī)構(gòu)、研究和實(shí)驗(yàn)室以及歐洲數(shù)字創(chuàng)新中心），并且確保參與人工智能監(jiān)管沙盒在整個(gè)歐盟得到統(tǒng)一認(rèn)可（并具有相同的法律效力）。?配置足夠資源，確保其沙盒制度符合《人工智能法案》的要求；?為沙盒參與者提供如何滿足《人工智能法案》要求的指導(dǎo)；?為參與者出具合規(guī)退出報(bào)告書，詳細(xì)說(shuō)明沙盒中遵守了《人工智能法案》的要求；?向人工智能辦公室和董事會(huì)提供年度報(bào)告（詳見第8章），確定最佳實(shí)踐、事件和經(jīng)驗(yàn)教訓(xùn)。涉及基本權(quán)利或健康和安全的重大風(fēng)險(xiǎn)。處理活動(dòng)）。一些關(guān)鍵條件包括：鍵基礎(chǔ)設(shè)施安全）；或合成數(shù)據(jù)替代；原理的詳細(xì)描述以及測(cè)試結(jié)果。試《人工智能法案》還允許在“真實(shí)世界條件”下對(duì)人工智能系統(tǒng)進(jìn)行測(cè)試，但須符合特定條件。要求”。入使用。（這些概念詳見第2章）。性。性更高）。一些關(guān)鍵條件包括：據(jù)庫(kù)中；名在歐盟境內(nèi)設(shè)立的法律代表）；12345678910寬）；取得這些參與者的知情同意，結(jié)果必須是可逆的），及行檢查。造成的任何損害承擔(dān)責(zé)任。行業(yè)代表和利益攸關(guān)方無(wú)疑會(huì)密切關(guān)注相關(guān)動(dòng)態(tài)，盒或真實(shí)世界測(cè)試的相關(guān)責(zé)任）。12345678910第八章第八章息共享流程。事件。機(jī)構(gòu)；因此可能需要報(bào)告給多個(gè)有權(quán)部門。—?dú)W洲數(shù)據(jù)保護(hù)監(jiān)管局負(fù)責(zé)歐盟機(jī)構(gòu)等?！?dú)W盟委員會(huì)負(fù)責(zé)通用人工智能模型的提供者?！鞒蓡T國(guó)的主管部門負(fù)責(zé)其他相關(guān)事項(xiàng)。釋。高風(fēng)險(xiǎn)系統(tǒng)的提供者應(yīng)當(dāng)：是，請(qǐng)檢查是否有雙重報(bào)告義務(wù)。序。及事件是否具有廣泛性。高風(fēng)險(xiǎn)系統(tǒng)的部署者應(yīng)當(dāng)：告。提供者和開發(fā)者應(yīng)當(dāng)：委員會(huì)指引。估。非高風(fēng)險(xiǎn)人工智能系統(tǒng)的運(yùn)營(yíng)者應(yīng)當(dāng)：?確保遵守現(xiàn)有的所有產(chǎn)品安全法規(guī)。12345678910第八章第八章通用人工智能模型的提供者應(yīng)當(dāng)：案，并且考慮對(duì)征求意見進(jìn)行反饋。人工智能價(jià)值鏈中的所有組織都應(yīng)當(dāng)：考慮對(duì)征求意見進(jìn)行反饋。在風(fēng)險(xiǎn)，要與市場(chǎng)監(jiān)管機(jī)構(gòu)合作。據(jù)集以及源代碼。高風(fēng)險(xiǎn)系統(tǒng)的部署者應(yīng)當(dāng)：能的決策過(guò)程。12345678910《人工智能法案》為人工智能系統(tǒng)的事前要求以及事后監(jiān)督執(zhí)行及治理結(jié)構(gòu)?；緳?quán)利。與《人工智能法案》中基于風(fēng)險(xiǎn)分級(jí)的方法一致，關(guān)規(guī)則。市場(chǎng)監(jiān)管機(jī)構(gòu)可以要求運(yùn)營(yíng)者采取一切適當(dāng)措施，工智能法案》規(guī)定的行為，還可處以巨額罰款。行《人工智能法案》中義務(wù)的專屬權(quán)力。），是有效實(shí)施和執(zhí)行《人工智能法案》的關(guān)鍵所在。本章討論的主題包括：?上市后義務(wù)?市場(chǎng)監(jiān)管機(jī)構(gòu)?執(zhí)法程序?基本權(quán)利保障機(jī)構(gòu)?通用人工智能模型?處罰?對(duì)第三方的救濟(jì)?治理斷完善。工智能系統(tǒng)（包括設(shè)備和軟件）交互的分析。高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者必須報(bào)告“重大事系統(tǒng)的部署者必須向提供者報(bào)告重大事件。但是，須對(duì)其進(jìn)行定期審查。統(tǒng)的事件或故障直接或間接導(dǎo)致以下情況：12345678910?死亡或?qū)θ松斫】翟斐蓢?yán)重傷害；?對(duì)關(guān)鍵基礎(chǔ)設(shè)施的管理或運(yùn)行造成重大且不可逆轉(zhuǎn)的破壞；?違反保障基本權(quán)利的歐盟法律；或?對(duì)財(cái)產(chǎn)或環(huán)境造成重大損害。供者或部署者可以提交初步報(bào)告，再進(jìn)行后續(xù)完善(人員死亡知悉重大事件后果關(guān)系后立即（以較早者為準(zhǔn)）。人工智能系統(tǒng)。國(guó)或影響多個(gè)行業(yè)，牽涉一個(gè)成員國(guó)內(nèi)的多管機(jī)構(gòu)，則需要提交多份報(bào)告。），的人工智能系統(tǒng)，但上述兩項(xiàng)條例為非高風(fēng)條）。受的范圍。12345678910。?附件三類別的高風(fēng)險(xiǎn)人工智能系統(tǒng)，其提供者依為與《人工智能法案》規(guī)定的義務(wù)相當(dāng)。然而，?高風(fēng)險(xiǎn)人工智能系統(tǒng)是設(shè)備的安全組件，或者本則必須向主管部門報(bào)告。構(gòu)。泛執(zhí)法權(quán)。例如，該機(jī)構(gòu)有權(quán)：?要求運(yùn)營(yíng)者披露與合規(guī)有關(guān)的文件、數(shù)據(jù)和信系統(tǒng)的提供者可能會(huì)被要求披露：下，通過(guò)應(yīng)用程序編程接口（API）或其他條）；;?進(jìn)行調(diào)查（當(dāng)發(fā)現(xiàn)高風(fēng)險(xiǎn)人工智能系統(tǒng)對(duì)兩個(gè)或?要求運(yùn)營(yíng)者采取適當(dāng)措施，終止違規(guī)行為，包括條）；?當(dāng)運(yùn)營(yíng)者未采取糾正措施或違規(guī)情況持續(xù)存在）；?施加處罰（第99條至第101條）。），12345678910機(jī)密信息。不適用。），否符合《人工智能法案》進(jìn)行評(píng)估。理由告知運(yùn)營(yíng)者。者違規(guī)情況下采取的臨時(shí)措施。天）未提出異議，則臨時(shí)措施應(yīng)視為合理。但是，如有異議提出，歐盟委員會(huì)應(yīng)與市場(chǎng)監(jiān)督機(jī)構(gòu)和運(yùn)內(nèi)決定臨時(shí)措施是否合理。如果合理，所有成員國(guó)應(yīng)確保對(duì)所涉人工智能系統(tǒng)采取適當(dāng)?shù)南拗拼胧?，例如要求退出其市?chǎng)。如果不合理，則將撤銷臨時(shí)措施。運(yùn)營(yíng)者的程序權(quán)利，包括聽證權(quán)。的，則必須進(jìn)行評(píng)估。提到可以對(duì)相關(guān)提供者處以罰款。部分）。權(quán)利或者公共利益保護(hù)的其他方面構(gòu)成風(fēng)險(xiǎn)，則應(yīng)要求相關(guān)運(yùn)營(yíng)者采取一切適當(dāng)措施，確保該風(fēng)險(xiǎn)不再存在。市場(chǎng)監(jiān)管機(jī)構(gòu)發(fā)現(xiàn)例如CE標(biāo)志應(yīng)貼未貼、未指定授構(gòu)應(yīng)要求相關(guān)提供者在規(guī)定期限內(nèi)糾正。市場(chǎng)，或者確保立即召回或從市場(chǎng)上撤回。統(tǒng)的使用相關(guān)，并將這些機(jī)構(gòu)通知?dú)W盟委員會(huì)。負(fù)責(zé)監(jiān)督基本權(quán)利保障的相關(guān)國(guó)家公共機(jī)構(gòu)。段組織對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行測(cè)試（第77條）。12345678910組織權(quán)以及成員國(guó)和歐盟之間的職權(quán)劃分不受影響。能違規(guī)的行為。具有市場(chǎng)監(jiān)管機(jī)構(gòu)的權(quán)力。如果市場(chǎng)監(jiān)管機(jī)構(gòu)認(rèn)為通用人工智能系統(tǒng)（合規(guī)性評(píng)估。條）。任何違反《人工智能法案》的人——無(wú)論是是法人、公共機(jī)構(gòu)還是歐盟或國(guó)家機(jī)構(gòu)——都會(huì)因違規(guī)而受受到處罰。《人工智能法案》規(guī)定的處罰甚至超過(guò)了《通用數(shù)據(jù)保護(hù)條例》規(guī)定的處罰（最高可達(dá)球年?duì)I業(yè)額的7%。會(huì)執(zhí)行。歐洲數(shù)據(jù)保護(hù)監(jiān)管局可對(duì)歐盟機(jī)構(gòu)團(tuán)體處以罰款。歐盟委員會(huì)可對(duì)通用人工智供者處以罰款。國(guó)家機(jī)構(gòu)可對(duì)其他運(yùn)營(yíng)者處以罰款?！度斯ぶ悄芊ò浮凡扇》旨?jí)處罰方式，如下所示。能模型，由歐盟委員會(huì)施加處罰）。的人，上限是規(guī)定的特定金額。≤上一年全球年?duì)I業(yè)總額的1%；或性的信息。≤上一年全球年?duì)I業(yè)總額的3%；或的義務(wù)。≤上一年全球年?duì)I業(yè)總額的7%；有關(guān)的義務(wù)?；蚺c禁止性行為有關(guān)的義務(wù)?！苌弦荒耆蚰?duì)I業(yè)總額的7%；或≤令人疑惑的是，似乎對(duì)于未能履行第4條中關(guān)于人工智能素養(yǎng)義務(wù)的情況，并未設(shè)定任何處罰措施。成員國(guó)有責(zé)任制定有效、適度且具有勸誡性的處罰措施。這些措施可能包括罰款和非罰款措施12345678910有效的司法救濟(jì)。述意見的機(jī)會(huì)。罰款不得影響該機(jī)構(gòu)的有效運(yùn)作，罰款所得資金應(yīng)計(jì)入歐盟總預(yù)算。安排和程序保障。循比例原則和適當(dāng)性原則。在作出罰款決定之前，查權(quán)。歐盟法院可以取消、減少或增加罰款金額。主管市場(chǎng)監(jiān)管機(jī)構(gòu)進(jìn)行投訴。機(jī)構(gòu)投訴涉嫌侵權(quán)行為。智能法案》，法人也可以提出投訴。統(tǒng)作出決定的主要因素（第86條）。如有以下情況，可以行使上述權(quán)利：?部署者的決策主要基于高風(fēng)險(xiǎn)人工智能系統(tǒng)的輸出；?這一決策對(duì)受到影響的人的健康、安全或基本權(quán)重影響，。信息。個(gè)人數(shù)據(jù)處理的自動(dòng)化決策而言，《通用數(shù)據(jù)保護(hù)制者提供信息這一義務(wù)的主管機(jī)構(gòu)。行為。投訴。12345678910據(jù)。投訴內(nèi)容至少應(yīng)包括：?被投訴的通用人工智能模型提供者的詳細(xì)信息及其聯(lián)系人；?對(duì)相關(guān)事實(shí)的描述，以及所違反的條款；?投訴人認(rèn)為存在侵權(quán)行為的理由；以及?發(fā)出請(qǐng)求的下游提供者認(rèn)為相關(guān)的任何其他信息，包括酌情主動(dòng)收集的信息。公室能夠有效地監(jiān)督《人工智能法案》的執(zhí)行。實(shí)施，其目的是在歐盟和國(guó)家層面構(gòu)建工作能力，整合利益攸關(guān)方，確保合作的可信性和建設(shè)性。支持歐盟委員會(huì)的工作。工智能系統(tǒng)。該數(shù)據(jù)庫(kù)將包含：的A部分和B部分所列的數(shù)據(jù)；?由公共機(jī)構(gòu)、機(jī)關(guān)或團(tuán)體的部署者（或授權(quán)代數(shù)據(jù)。管控領(lǐng)域的人工智能系統(tǒng)相關(guān)數(shù)據(jù)除外）。人工智能辦公室的角色行動(dòng)人工智能辦公室的角色行動(dòng)使命（決定的序言第5條）。人工智能辦公室可聘請(qǐng)獨(dú)立專家代表其進(jìn)行評(píng)估。域的專業(yè)知識(shí)和能力?？刂疲ǖ?5條）。和義務(wù)履行情況。和信息、進(jìn)行評(píng)估和采取措施來(lái)調(diào)查侵權(quán)行為。型。查。和歐洲人工智能委員會(huì)提出建議和書面意見。歐洲人工智能委員會(huì)（委員會(huì)）的角色行動(dòng)歐洲人工智能委員會(huì)（委員會(huì)）的角色行動(dòng)調(diào)職權(quán)的個(gè)人。委員會(huì)主席由其代表之一擔(dān)任。與合作。專業(yè)知識(shí)共享：收集并分享技術(shù)和監(jiān)管專業(yè)知識(shí)、最佳實(shí)踐和指導(dǎo)文件。出）。12345678910歐洲人工智能委員會(huì)（委員會(huì)）的角色行動(dòng)歐洲人工智能委員會(huì)（委員會(huì)）的角色行動(dòng)委員會(huì)必須設(shè)立兩個(gè)專門的常設(shè)小組：?通知機(jī)構(gòu)常設(shè)小組：為與通知機(jī)構(gòu)相關(guān)的問(wèn)題?市場(chǎng)監(jiān)管常設(shè)小組：作為《人工智能法案》的行政合作小組（ADCO）發(fā)揮作用。究特定問(wèn)題。席。理解的形成。險(xiǎn)、保障措施、權(quán)利與義務(wù)的認(rèn)知和理解。作咨詢論壇的角色行動(dòng)咨詢論壇的角色行動(dòng)能法案》的執(zhí)行和實(shí)施（第67條）。識(shí)的學(xué)術(shù)界。席從論壇成員中選出，任期為兩年，可連任一次。歐盟基本權(quán)利署（FRA）和歐盟網(wǎng)絡(luò)安全局（ENISA）、歐洲標(biāo)準(zhǔn)化委員會(huì)（CEN）、歐洲電工標(biāo)準(zhǔn)化委員會(huì)（CENELEC）、歐洲電信標(biāo)準(zhǔn)協(xié)會(huì)（ETSI）為咨詢論壇的常任成員。究具體問(wèn)題。和其他利益攸關(guān)方參加會(huì)議。料。41條所指的共同規(guī)范時(shí)，必須咨詢論壇。年度報(bào)告：編制并發(fā)布其活動(dòng)的年度報(bào)告。12345678910獨(dú)立專家科學(xué)小組的角色行動(dòng)獨(dú)立專家科學(xué)小組的角色行動(dòng)執(zhí)法行動(dòng)（第68條）。學(xué)或技術(shù)專長(zhǎng)選出。和在地域上具有代表性。處獲取文件或信息。向人工智能辦公室請(qǐng)求協(xié)助。實(shí)施與執(zhí)行方面的工作：險(xiǎn)。境市場(chǎng)監(jiān)管活動(dòng)方面提供支持。根據(jù)需求支持成員國(guó)的執(zhí)法活動(dòng)：支付費(fèi)用。的成本。成員國(guó)在《人工智能法案》的實(shí)施和執(zhí)法中發(fā)揮著至關(guān)重要的作用。為確保在歐盟內(nèi)部和施、協(xié)調(diào)和配合，各成員國(guó)必須指定至少一個(gè)通知機(jī)構(gòu)和一個(gè)市場(chǎng)監(jiān)管機(jī)構(gòu)。兩者共同構(gòu)成國(guó)家主管于歐盟機(jī)構(gòu)、機(jī)關(guān)、辦事處和團(tuán)體使用的人工智能系統(tǒng)，歐洲數(shù)據(jù)保護(hù)監(jiān)督員將作為監(jiān)督機(jī)構(gòu)。通知機(jī)構(gòu)的角色行動(dòng)通知機(jī)構(gòu)的角色行動(dòng)28條）。識(shí)，包括對(duì)基本權(quán)利的監(jiān)督。進(jìn)行評(píng)估的人員做出。的通知機(jī)構(gòu)合作制定這些程序。意見，并咨詢其他歐盟法律規(guī)定的國(guó)家主管部門(如適用）。活動(dòng)和服務(wù)限制：動(dòng)。12345678910市場(chǎng)監(jiān)管機(jī)構(gòu)的角色行動(dòng)市場(chǎng)監(jiān)管機(jī)構(gòu)的角色行動(dòng)規(guī)）就市場(chǎng)監(jiān)管和產(chǎn)品合規(guī)開展活動(dòng)并采取措施。盟層面的公眾及其他對(duì)應(yīng)方的單一聯(lián)絡(luò)點(diǎn)。機(jī)構(gòu)、機(jī)關(guān)和團(tuán)體的市場(chǎng)監(jiān)管機(jī)構(gòu)。要信息。之間的協(xié)調(diào)。還被賦予以下任務(wù)和職責(zé)：安全