2025年4 法律500

見證一種新的布魯塞爾效應(yīng)（Brusselseffect），類似《人工智能法案》（AIAct）的適用具有域外效

2019GuidelinesonTrustworthyAI）為基礎(chǔ)。盡管這些準(zhǔn)則憲章》（CharterofFundamentalRightsoftheEuropean。

軟件。如果一個(gè)計(jì)算機(jī)程序按照程序員預(yù)先定義的規(guī)則運(yùn)行，它就不是人工智能系統(tǒng)；如果一個(gè)系統(tǒng)是使用允許程序基于提供給程序的輸入數(shù)據(jù)或數(shù)據(jù)集自行創(chuàng)建規(guī)則的技術(shù)構(gòu)建的，那么它就是人工智能系統(tǒng)。AI系統(tǒng)的定義在委員會(huì)于2025年2月6的指南中被進(jìn)一步討論。全供應(yīng)鏈義務(wù)（另見第二章就可能成為高風(fēng)險(xiǎn)系統(tǒng)的提供者（5）。不可接受的風(fēng)險(xiǎn)：禁止的人工智能行為（3在某些情況下，《人工智能法案》包含例外條款，允許在某些情況下做出這些“被禁止”的行為。實(shí)時(shí)生物識(shí)別就是一個(gè)很好的例子，該法規(guī)允許在特殊情況下適用實(shí)時(shí)生物識(shí)別。適用這些例外條款需要通知或事先授權(quán)。委員會(huì)于2025年2月4于禁止性AI實(shí)踐的指南。高風(fēng)險(xiǎn)人工智能系統(tǒng)（另見第4章III所列的人工智能系統(tǒng)清單，其中包括用

I第A部分所列的歐盟統(tǒng)一立法所要III所列的高風(fēng)險(xiǎn)人工智能系統(tǒng)不會(huì)對(duì)自然通用人工智能模型（另見第5章透明度義務(wù)（另見第六章

復(fù)雜的監(jiān)督和執(zhí)行結(jié)構(gòu)（另見第8章技術(shù)標(biāo)準(zhǔn)、行為準(zhǔn)則和指南的作用（7、8和9章）商加貼歐洲合格(CECE期，CE執(zhí)行（另見第8章535,000,000歐元或最高全球年?duì)I業(yè)額7%的罰款（以較高者為準(zhǔn)）。20004%。99（如與高風(fēng)險(xiǎn)人3%，以較高者為

禁止實(shí)踐禁令（第二章）保密和處罰（與通用人工智能無關(guān)）（第十二章）《人工智能法案》的所有其他規(guī)定適用（除非下文適用更晚的日期）附件I所列的高風(fēng)險(xiǎn)類別。概 、經(jīng)銷商（distributor）（productmanufacturer）、授權(quán)代表（authorised

《人工智能法案》主要針對(duì)人工智能系統(tǒng)的“投放市場（placingonthemarket）”、“投入服務(wù)intoservice）”和“使用（use）”制定統(tǒng)一規(guī)則。該法案對(duì)“高風(fēng)險(xiǎn)”人工智能系統(tǒng)施加了廣泛的義務(wù)，并對(duì)某些人工智能系統(tǒng)規(guī)定了透明度義務(wù)。該法案還禁止某些人工智能實(shí)踐，并對(duì)歐盟通用人工智能模型的供應(yīng)進(jìn)行監(jiān)管。

場上提供（makingavailable）”、“投放市場”和“是指將人工智能系統(tǒng)直接提供

（3(3

仍然可以通過采取第25(1)(a)-(c)條規(guī)定的步驟之一成為提供者。（3(5

（3(4（3(6（3(7產(chǎn)品制造商（條人工智能系統(tǒng)的該人工智能系統(tǒng)是《人工智能法案》所涵蓋的產(chǎn)品的安全組件《人工智能法案》中沒有對(duì)“產(chǎn)品制造商”3(13(1。（通用人工智能模型除外）（GDPR）影響人員關(guān)于個(gè)體決策的解釋權(quán)（86）。受影GDPR（GDPR22）中使

此定義旨在與OECD人工智能原則（OECDAI《人工智能法案》第III統(tǒng)。這些人工智能系統(tǒng)對(duì)歐盟境內(nèi)人員的健康、安全和基本權(quán)利構(gòu)成重大損害風(fēng)險(xiǎn)。人工智能系統(tǒng)可通過以下兩種方式被歸類為高風(fēng)險(xiǎn)系統(tǒng)：（第50(1)條

5原型設(shè)計(jì)的人工智能模型除外”?！度斯ぶ悄芊ò浮凡⑽磳?duì)“人工智能模型”作出定979899智能模型的特征。97適用于當(dāng)這些模型被集成到人工智能系統(tǒng)中或成為人工智能系統(tǒng)的一部分時(shí)的情形。當(dāng)通用人工智能模型的提供者將自己的模型集成到自己的人工智能系統(tǒng)中，并將該系統(tǒng)在市場上提供或投入服務(wù)時(shí)，97mproviders）”，并在《人工智能法案》下享有某些權(quán)利。然而，《人工智能法案》似乎設(shè)想，對(duì)第三方的通用人工智能模型進(jìn)行微調(diào)并將該微調(diào)后的模型集成到自己的人工智能系統(tǒng)中（或以其他方式將微調(diào)后的通用人工智能模型投放市場或投入服務(wù)）的提供者，僅就該微調(diào)而言，將被視為該模型的提供者（109條）。

（establishment）”盟立法（GDPR）中類似，即范圍較為廣泛。1-3，6-GDPR

止的人工智能實(shí)踐（5(5）以及事后遠(yuǎn)程LegislativeFrameworkforEUproducts）制定的。CE《人工智能法案》的義務(wù)是對(duì)GDPR、《電子隱影響后者的效力。《人工智能法案》的義務(wù)是對(duì)GDPR、《電子隱影響后者的效力。概 7%（以較高者為準(zhǔn)）的罰

5第5(1)(a)第29條害影響能力的腦機(jī)接口，也可能是該法案試圖規(guī)范使用神經(jīng)數(shù)據(jù)的工具的一種嘗試，目前在科羅拉多州、加利福尼亞州和智利等其他司法管轄區(qū)正在討論此類數(shù)據(jù)的使用。

第5(1)(b)論其社會(huì)經(jīng)濟(jì)狀況如何（例如，遭受不滿或孤獨(dú)由于訓(xùn)練數(shù)據(jù)的偏見，AI第5(1)(c)第5(1)(d)

第5(1)(e)ClearviewAI第5(1)(f)第5(1)(g)GDPR族來源、健康和遺傳數(shù)據(jù)的推斷。但是，推斷這類I16第5(1)(h)第八項(xiàng)也是最后一項(xiàng)禁令是禁止在公共場所使用實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別系統(tǒng)（“RBI”）用于執(zhí)法目I

設(shè)備或安全進(jìn)入場所）RBI《人工智能法案》允許（但不要求）成員國在有限I是以下嚴(yán)格必要的情形：RBIRBI措施除外）RBIRBI

EDPBEDPBEDPBEDPBEDPB第5(1)(a)28&第5(1)(b)28&第5(1)(c)第5(1)(d)第5(1)(e)第5(1)(f)44第5(1)(g)第5(1)(h)32概

類別B：附件III施（例如互聯(lián)網(wǎng)交換點(diǎn)、DNSTLD控）一反應(yīng)（EmergencyFirstResponse）服務(wù)優(yōu)先次序

根據(jù)《人工智能法案》序言第53條，上述例外情況不適用于任何涉及對(duì)自然人進(jìn)行用戶畫像的人工智“用戶畫像”（profiling）指的是根據(jù)歐盟2016/679號(hào)條例（《通用數(shù)據(jù)保護(hù)條例》，GDPR）第4(4)條、歐盟2016/680號(hào)指令（《數(shù)據(jù)保護(hù)執(zhí)法指令》，DataProtectionEnforcementDirective）第3(4)條或者歐盟2018/1725號(hào)條例（《歐盟機(jī)構(gòu)數(shù)據(jù)保護(hù)條例》DataProtectionrEUinstitutions）第3(5)實(shí)施的行為。66(3第2

方式將質(zhì)量管理體系的有關(guān)方面記錄下來，并列出了需要記錄的詳細(xì)內(nèi)容）

經(jīng)通知機(jī)構(gòu)批準(zhǔn)變更的文檔（如適用第條） CE

CE（如果無法實(shí)現(xiàn)，則加貼在其包裝或隨CE48注冊(cè)義注冊(cè)義

構(gòu)，并在適用的情況下，通知為該系統(tǒng)頒發(fā)合格證書的通知機(jī)構(gòu)（79）。節(jié)

統(tǒng)的合規(guī)要求。（40(1）化機(jī)構(gòu)CEN/CELENEC發(fā)布了一份標(biāo)準(zhǔn)化請(qǐng)求（附件III

III中高風(fēng)險(xiǎn)人工智能系統(tǒng)（III第28）的提供者必須遵循附件六中規(guī)III1（生物識(shí)別技術(shù)）4041的協(xié)調(diào)標(biāo)準(zhǔn)或共同規(guī)范，也必須充分遵循內(nèi)部控制程序。但是，對(duì)于尚未采用上述標(biāo)準(zhǔn)或規(guī)范的高風(fēng)險(xiǎn)生物識(shí)別系統(tǒng)提供者，則需要在通知機(jī)構(gòu)的參與下進(jìn)行符合性評(píng)估。A節(jié)所列的合規(guī)要求(第8風(fēng)險(xiǎn)管理(第9

數(shù)據(jù)保護(hù)影響評(píng)估在不影響歐盟2016/680號(hào)指令（《數(shù)據(jù)保護(hù)執(zhí)法指令》的前提下，針對(duì)涉嫌或已被判定刑事犯罪的人員進(jìn)行目標(biāo)搜查時(shí)，若需部署高風(fēng)險(xiǎn)人工智能系統(tǒng)用于事后遠(yuǎn)程生物識(shí)別，相關(guān)主體必須事先或在不晚于48小時(shí)的合理時(shí)間內(nèi)，向司法機(jī)關(guān)或行政機(jī)關(guān)申請(qǐng)使用授權(quán)。高風(fēng)險(xiǎn)人工智能系統(tǒng)的基本權(quán)利影響評(píng)估在部署《人工智能法案》第6條第2工智能系統(tǒng)（即《人工智能法案》附件III的高風(fēng)險(xiǎn)人工智能系統(tǒng)）之前，以下主體必須進(jìn)行基本權(quán)利影響評(píng)估（FRIA）：

是否加貼CE

通過書面協(xié)議， 2

2

此處的“風(fēng)險(xiǎn)”是指：“可能對(duì)人員的健康和安全產(chǎn)生不利影響，且這種影響超出了與其預(yù)期用途或在正常使用或合理可預(yù)見的使用條件下（包括使用期限以及適用的投入使用、安裝和維護(hù)要求）（《人工智能法案》第條第1款，結(jié)合《歐盟市場監(jiān)督條例》（EU）2019/1020第3條第19款）。 成為他人（高風(fēng)險(xiǎn)）6（IIII）規(guī)定的高風(fēng)險(xiǎn)排除將人工智能系統(tǒng)更改為高風(fēng)險(xiǎn)人工智能系統(tǒng)”（86），例如在適用合同中禁止為高風(fēng)險(xiǎn)目的部署人序言第46-63第8-22、43、47-49序言第64-83、123-128、147、131概

Bird&Bird 案》的初稿（20214）基（general-purposeAI））被加入到當(dāng)時(shí)的《人工智能99例如大語言模型（LLM）（Diffusion

4）。97109XI；制定政策以遵守歐盟版權(quán)及相關(guān)權(quán)利的法規(guī)（)），2019/790（起草并公開模型訓(xùn)練數(shù)據(jù)的全面摘要（時(shí)，予以配合（53(3）；定一名授權(quán)代表（54(1）。如果提供者根據(jù)免費(fèi)和開源許可發(fā)布通用人工智能)項(xiàng)的要求——除非該通用人工智能模型被認(rèn)定為存在系統(tǒng)性風(fēng)險(xiǎn)（))）。強(qiáng)義務(wù)（110）。于技術(shù)工具和方法評(píng)估的“高影響力（highimpactcapabilities）”，(b)XIII量、數(shù)據(jù)集的質(zhì)量或規(guī)模、用于訓(xùn)練的計(jì)算量、模型對(duì)歐洲市場的影響、歐盟注冊(cè)用戶數(shù)量等。10^25

合理請(qǐng)求（reasonedrequest）”，歐盟委員會(huì)可決定重新評(píng)估分類（52(5）。用人工智能模型清單（52(6）。除了適用于所有通用人工智能模型提供者的一般要求外，《人工智能法案》還對(duì)具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型提供者施加了額外的增強(qiáng)義務(wù)（第))）。這些義務(wù)適用于模型投放市場之前及其整個(gè)生命周期內(nèi)，涉及：概 4此外，《人工智能法案》第50的透明度要求，要求提供者或部署者向個(gè)人提供足夠的信息。

情感識(shí)別系統(tǒng)：輔助用途的生物特征分類系統(tǒng)：

深度偽造（《人工智能法案》第50(4)條深度偽造的定義（《人工智能法案》第3(60)條

《人工智能法案》第50(2)-(4)條規(guī)定的標(biāo)記義務(wù)支持《數(shù)字服務(wù)法案》（DSA）對(duì)超大型線上平臺(tái)（VLOP）和搜索引擎（VLOS）的要求，以識(shí)別和降低與傳播深度偽造有關(guān)的風(fēng)險(xiǎn)（DSA第33條及以下條款）。如果人工智能提供者與VLOPVLOS分開，平臺(tái)就能通過這些標(biāo)記更有效地識(shí)別人工智能生成的內(nèi)容。相反，如果VLOP或VLOS也是人工智能提供者，其根據(jù)DSA承擔(dān)的義務(wù)在《人工智能法案》的透明度義務(wù)也支持并且補(bǔ)充了(EU)2016/679號(hào)指令中的透明度要求。但是，如果在人工智能生命周期的所有不同階段（例如在開發(fā)、測試或部署人工智能技術(shù)）使用人工智能技術(shù)時(shí)處理個(gè)人數(shù)據(jù)，則GDPR用，并且適用于控制者。人工智能工具的開發(fā)者和提供者并不總是扮演這樣的角色。在這種情況下，他們可能仍有義務(wù)向控制者提供具體信息，以便后者能夠履行其義務(wù)。概

（善意）（并具有相同的法律效力）

入使用。（2）。寬概

高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者在將系統(tǒng)投放市場之前編制技術(shù)文件時(shí)，必須包括上市后監(jiān)測計(jì)劃（第72(3)條和第11(1)條）。該計(jì)劃必須符合歐盟委員會(huì)將截止于2026年2月2?？梢宰R(shí)別出任何需要立即采取必要糾正或預(yù)防措施的情況（第3(25)條）。第72條規(guī)定，上市后監(jiān)測系統(tǒng)（以及系統(tǒng)文件）與人工智能技術(shù)的性質(zhì)和系統(tǒng)風(fēng)險(xiǎn)相稱。上市后監(jiān)測系統(tǒng)必須在人工智能系統(tǒng)的整個(gè)生命周期內(nèi)積極且系統(tǒng)地收集、記錄和分析相關(guān)數(shù)據(jù)，以便提供者對(duì)持續(xù)合規(guī)情況進(jìn)行評(píng)定。數(shù)據(jù)可以由部署者或其他人提供（但來自執(zhí)法機(jī)構(gòu)部署者的敏感運(yùn)營數(shù)據(jù)除外）。在相關(guān)情況下，該系統(tǒng)還應(yīng)包括與其他人工智能系統(tǒng)（包括設(shè)備和軟件）交互的分析。有關(guān)的程序（第17(1)(i)條）系統(tǒng)的部署者必須向提供者報(bào)告重大事件。但是，如果部署者無法聯(lián)系到提供者，則第73事件報(bào)告義務(wù)直接適用于部署者（第26(5)條）。因此，部署者也應(yīng)當(dāng)了解這些規(guī)定。歐盟委員會(huì)最遲將在2025年8月2日向提供者發(fā)布事件報(bào)告指南，并必須對(duì)其進(jìn)行定期審查。

人員死

與非高風(fēng)險(xiǎn)產(chǎn)品有關(guān)的人工智能系統(tǒng)在投放市場或(EU2019/1020號(hào)條例要求所有運(yùn)營者在有理由認(rèn)為

I第A部分所列歐盟統(tǒng)一立法已經(jīng)涵蓋的產(chǎn)品，并且這些法案規(guī)定的程序確保同等的保護(hù)水平和與《人工智能法案》相同的目標(biāo)，則應(yīng)適用行業(yè)程序，而不是第79條至第83的國家層面執(zhí)行程序（見下文“執(zhí)法程序”部分）對(duì)于歐盟機(jī)構(gòu)、機(jī)關(guān)、辦事處和團(tuán)體（

市場監(jiān)管機(jī)構(gòu)獲取的任何信息或文件均應(yīng)按照第78規(guī)定的保密義務(wù)處理。第78員會(huì)、基本權(quán)利保障機(jī)構(gòu)以及參與實(shí)施《人工智能法案》的自然人和法人。這些機(jī)構(gòu)和人員在執(zhí)行任務(wù)時(shí)，不僅應(yīng)保護(hù)保密信息和商業(yè)秘密，還應(yīng)保護(hù)存在風(fēng)險(xiǎn)的人工智能系統(tǒng)（第79條和第81條15提供者將人工智能系統(tǒng)歸類為非高風(fēng)險(xiǎn)（第80條

合規(guī)但存在風(fēng)險(xiǎn)的人工智能系統(tǒng)（第82條形式違規(guī)（第83條上述機(jī)構(gòu)有權(quán)要求并獲取根據(jù)《人工智能法案》創(chuàng)建或維護(hù)的任何文件，只要獲取這些文件對(duì)于有效履行其職責(zé)是必要的。相關(guān)公共機(jī)構(gòu)或團(tuán)體應(yīng)將任何此類請(qǐng)求通知所涉成員國的市場監(jiān)管機(jī)構(gòu)，如果文件證明不充分，可請(qǐng)求市場監(jiān)管機(jī)構(gòu)運(yùn)用技術(shù)手段組織對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行測試（第77條）

條）≤750,000（第100(3)條≤上一年全球年?duì)I業(yè)總額的1%；≤7,500,000（第99(5)條≤上一年全球年?duì)I業(yè)總額的3%；≤15,000,000≤7%；≤35,00,000（第99(3)條≤1,500,000（第100(2)條≤7%；35,00,000歐元（第99(3)條向市場監(jiān)管機(jī)構(gòu)投訴（第85條

獲取個(gè)案決策解釋的權(quán)利（第86條《人工智能法案》第86條補(bǔ)充了《通用數(shù)據(jù)保護(hù)條例》規(guī)定的數(shù)據(jù)主體獲取解釋的權(quán)利；該條款更聚焦于人工智能，因?yàn)樗蟛渴鹫呓忉屓斯ぶ悄芟到y(tǒng)在決策中的作用。此外，《人工智能法案》還將這一權(quán)利賦予所有受到影響的人，包括法人。無論哪個(gè)機(jī)構(gòu)有權(quán)執(zhí)行《人工智能法案》第86個(gè)人數(shù)據(jù)處理的自動(dòng)化決策而言，《通用數(shù)據(jù)保護(hù)條例》中規(guī)定的國家數(shù)據(jù)保護(hù)機(jī)構(gòu)仍是負(fù)責(zé)執(zhí)行控制者提供信息這一義務(wù)的主管機(jī)構(gòu)。對(duì)舉報(bào)人的保護(hù)（第87條下游提供者的投訴（第89條

A部分和B部分所列的數(shù)據(jù)；人工智能辦公室的角人工智能辦公室的角 行使命（5）。

歐洲人工智能委員會(huì)（委員會(huì)）的角歐洲人工智能委員會(huì)（委員會(huì)）的角 行

歐洲人工智能委員會(huì)（委員會(huì)）的角歐洲人工智能委員會(huì)（委員會(huì)）的角 行

咨詢論壇的角咨詢論壇的角 行歐盟基本權(quán)利署（FRA）工標(biāo)準(zhǔn)化委員會(huì)（CENELEC）

獨(dú)立專家科學(xué)小組的角獨(dú)立專家科學(xué)小組的角 行

通知機(jī)構(gòu)的角通知機(jī)構(gòu)的角 行

市場監(jiān)管機(jī)構(gòu)的角市場監(jiān)管機(jī)構(gòu)的角 行規(guī)）

序言148-154、163和概

保密和處罰（不涉及通用人工智能的部分）（第十二章）《歐盟人工智能法案》的所有其他規(guī)定開始適用（除非以下另有較晚的適用日期）若干條款將通過授權(quán)法案予以明確，由委員會(huì)負(fù)責(zé)制定，以明確義務(wù)和運(yùn)作執(zhí)行。第97會(huì)為期五年的授權(quán)法案制定權(quán)，該授權(quán)自2024年8月1日開始生效。歐盟委員會(huì)必須在授權(quán)期結(jié)束前九個(gè)月就這項(xiàng)授權(quán)提交報(bào)告。該授權(quán)期自動(dòng)延長五年，除非歐洲議會(huì)或理事會(huì)在每個(gè)期限結(jié)束前三個(gè)月表示反對(duì)，該授權(quán)期限將自動(dòng)延長五年。第7(1/3)修改附件III，增加、修改或刪除高風(fēng)

XII與授權(quán)法案的情況類似，