37GovernancerequirementsofethicalrisksintheapplicationofartificialintelligenceI 2 2 3 36.2研發(fā)者 36.3供應(yīng)商 36,4使用者 4 4 4 4 47.4安全可控 4 57.6透明可追溯 5 57.8技術(shù)中立性 67.9監(jiān)測與改進 6 6 本文件按照GB/T1.1—2020《標準化工作導(dǎo)則第1部分：標準化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機構(gòu)不承擔(dān)識別專利的責(zé)任。1人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理要求本文件適用于人工智能技術(shù)應(yīng)用倫理風(fēng)險的研究以及人工智能系統(tǒng)的規(guī)劃、設(shè)3.13.2<人工智能>開展人工智能技術(shù)基礎(chǔ)研究和應(yīng)用實踐時遵循3.33.4針對人類定義的給定目標，產(chǎn)生諸如內(nèi)容、預(yù)3.5<人工智能>對待特定對象、人員或群體時，相較于其他實體出現(xiàn)系2a)治理原則：提出了實施人工智能技術(shù)應(yīng)用倫理治理的基本指導(dǎo)原則，為識別提出人工智能技b)治理參與方：識別了人工智能技術(shù)應(yīng)用倫理治理過程中涉及的對象和主體，以及每類主體主要的治理目標，包括人工智能技術(shù)應(yīng)用管理者、人工智能技術(shù)研發(fā)者、人工智能產(chǎn)品與服務(wù)c)治理核心要求：提出了人工智能技術(shù)應(yīng)用倫理治理的核心要求，是倫理治理框架的關(guān)鍵組成a)以人為本原則。人工智能技術(shù)應(yīng)用應(yīng)遵循人類共同價值觀，尊重人權(quán)和人類根本利益訴求，應(yīng)充分尊重和幫助弱勢群體、特殊群體，避免產(chǎn)生不公平的結(jié)果或歧視，確保每個人都有平必要和誠信原則處理個人信息，保障個人隱私與數(shù)據(jù)安全，避免非法收集利用個人信息和侵3d)可控可信原則。人工智能技術(shù)應(yīng)用始終處于人類控制之下，人類擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智e)責(zé)任擔(dān)當(dāng)原則。堅持人工智能技術(shù)應(yīng)用的最終責(zé)任主體是人類，明確利益相關(guān)者的責(zé)任，在人工智能全生命周期各環(huán)節(jié)自省自律，遵循人工智能問責(zé)機制，不回避責(zé)任審查，不逃避應(yīng)f)素養(yǎng)提升原則。堅持客觀認識倫理問題，不低估不夸大倫理風(fēng)險，主動開展或參與人工智能a)遵守人工智能技術(shù)應(yīng)用相關(guān)法律法規(guī)、政策和標準，積極參與并推動人工智能技術(shù)應(yīng)用倫理治理，主動積極有序推動人工智能技術(shù)應(yīng)用b)充分尊重并保障人工智能技術(shù)應(yīng)用相關(guān)主體的隱私、c)建立有效的風(fēng)險預(yù)警機制，提升人工智能倫理風(fēng)險管控和處置能力；d)充分重視人工智能各利益相關(guān)主體的權(quán)益與訴求，促進包容開放，推動各方共同參與人工智a)在人工智能研發(fā)相關(guān)活動中具有自律意識，主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，b)在追求技術(shù)創(chuàng)新的同時，注重技術(shù)的透明性、可解釋性、可理解性、可靠性、可控性，增強c)在數(shù)據(jù)收集、存儲、使用、加工、傳輸、提供、公開等環(huán)節(jié)，嚴格遵守數(shù)據(jù)相關(guān)法律、標準d)避免偏見歧視，確保所研發(fā)的人工智能技術(shù)符合倫理道德要求，不侵犯個人隱私，不產(chǎn)生偏a)提供符合倫理標準的人工智能產(chǎn)品與服務(wù)，強化質(zhì)量監(jiān)測和使用評估，不經(jīng)營、銷售或提供b)建立健全售后服務(wù)體系，對系統(tǒng)使4d)保障用戶權(quán)益，履行告知義務(wù)，保障用戶知情、同意等權(quán)利，保障用戶數(shù)據(jù)安全。為用戶選擇使用或退出人工智能模式提供簡便易懂的解決方案，不應(yīng)設(shè)置障礙阻礙用戶平等使用人工6.4使用者a)能積極學(xué)習(xí)人工智能相關(guān)知識，主動掌握人工智能產(chǎn)品與服務(wù)的使用各環(huán)節(jié)所需技能，確保c)及時反饋人工智能系統(tǒng)使用過程中出現(xiàn)的倫理問題，協(xié)助人工智能系統(tǒng)供應(yīng)商和人工智能技a)人工智能技術(shù)的開發(fā)者或使用者應(yīng)尊重人的根本利益訴求，以保障公共社會安全、尊重人的權(quán)益為前提，不準許誤用、任何程度的濫用人工智能的設(shè)計、開發(fā)和應(yīng)用應(yīng)為人帶來福利，以實現(xiàn)人類社會利益最大化a)保護數(shù)據(jù)隱私。人工智能技術(shù)的數(shù)據(jù)收集、存儲、處理、使用應(yīng)遵循合法、正當(dāng)、必要的原則，明確告知用戶收集、存儲、處理、使用的目的、范圍和使用方式，并經(jīng)過用戶的明確同意。應(yīng)建立數(shù)據(jù)使用的審計機制，對數(shù)據(jù)的流向和使用情況b)數(shù)據(jù)安全保障。人工智能技術(shù)的開發(fā)者或使用者應(yīng)采取合理的技術(shù)和管理措施，確保用戶數(shù)據(jù)的安全存儲和傳輸，防止數(shù)據(jù)被非法獲取、篡改或濫用，確保數(shù)據(jù)的完整性和保密性。對a)信息披露義務(wù)。人工智能技術(shù)的開發(fā)者或使用者應(yīng)向用戶充分披露技術(shù)的功能、應(yīng)用范圍、可能帶來的風(fēng)險以及數(shù)據(jù)收集和處理方式等信b)建立同意機制。提供人工智能產(chǎn)品或服務(wù)時，應(yīng)為用戶建立明確的同意機制以表達其意愿，且這種同意應(yīng)是自愿的、明確的，并且用戶有權(quán)隨時撤回其同意。對于涉及無民事行為能力5a)算法安全。采取必要的技術(shù)措施，如加密、防火墻等，確保算法不被惡意攻擊或篡改；人工智能的設(shè)計者和開發(fā)者開展人工智能算法安全測試，對人工智能算法的數(shù)據(jù)使用、算法運行開展日常監(jiān)測工作，并定期評估算法的技術(shù)準確性和安全性；建立相應(yīng)的算法終結(jié)機制，在算法決策遇到無法判斷結(jié)果時立即終止；設(shè)立個人數(shù)據(jù)被遺忘機制和更改機制，劃定算法自b)風(fēng)險控制。人工智能的設(shè)計者和開發(fā)者進行算法安全評估、個人信息安全影響評估及風(fēng)險評估，對算法、數(shù)據(jù)等內(nèi)容從完成性、可靠性、穩(wěn)定性等內(nèi)容進行風(fēng)險識別、風(fēng)險分析，進行1)人工智能系統(tǒng)的算法不應(yīng)存在任何形式的2)開發(fā)者應(yīng)對數(shù)據(jù)集進行充分的預(yù)處理和平衡，以消除潛在的偏見和歧視因并對標注數(shù)據(jù)進行多樣性和均衡性的檢查，確保數(shù)據(jù)集中不同群體、背景、觀點的代表4)在人工智能技術(shù)應(yīng)用的整個生命周期內(nèi)盡量減少和避免強化或固化帶有歧視性或偏見的b)用戶權(quán)益平等，包括但不限于人工智能技術(shù)不應(yīng)對任何用戶群體設(shè)置不公平的限制或條件，c)語料選擇與質(zhì)量控制，包括但不限于所選語料應(yīng)涵蓋廣泛的背景、文化和觀點，以減少偏見7.6透明可追溯a)透明化決策。對于涉及用戶利益的決策，人工智能系統(tǒng)應(yīng)提供充分的解釋和理由，確保用戶能夠理解并接受決策結(jié)果。同時，應(yīng)明確告知用戶語料的來源、使用目的和處理方式，用戶b)可追溯。人工智能的設(shè)計者和開發(fā)者應(yīng)確保人工智能關(guān)鍵決策的數(shù)據(jù)集、過程和結(jié)果的可追注：關(guān)鍵決策是指對研發(fā)結(jié)果可能產(chǎn)生重大1)人工智能技術(shù)的管理者、研發(fā)者、供應(yīng)商應(yīng)明確各自在倫理風(fēng)險治理中的責(zé)任和義務(wù)，62)應(yīng)將人工智能技術(shù)應(yīng)用生命周期的任何階段以及與之有關(guān)的補救措施的倫理和法律責(zé)任b)建立監(jiān)管機制。相關(guān)機構(gòu)應(yīng)加強對人工智能技術(shù)應(yīng)用的監(jiān)管力度，建立在人工智能設(shè)計或應(yīng)用過程中存在惡意造成倫理風(fēng)險行為的懲罰制度，制定并執(zhí)行相關(guān)法規(guī)和標準，對違規(guī)行為c)審查機制。建立獨立的審查機制，對人工智能系統(tǒng)的決策過程進行定期審查和評估，確保其人工智能技術(shù)應(yīng)用理論風(fēng)險治理中的技術(shù)中立性要求包括a)人工智能技術(shù)的開發(fā)和應(yīng)用不應(yīng)偏離其原始目的，不被用于危害社會、侵犯人權(quán)等不正當(dāng)用b)人工智能技術(shù)的提供者本身不應(yīng)以非法的目的去生產(chǎn)該人工智能產(chǎn)品，且不能有意識地制造人工智能技術(shù)應(yīng)用倫理風(fēng)險的治理需要建立有效的監(jiān)測與改進機制。包括但不限于以b)反饋機制。建立用戶反饋渠道，收集用戶對人工智能技術(shù)應(yīng)用的意見和建議