T/SIA065-2025SecurityrequirementsforactionofartificialintelligenceageI 2規(guī)范性引用文件 3術(shù)語和定義 3.2應(yīng)用軟件 4.1告知同意 4.2公開透明 4.3用戶可控 4.4最小必要 5.1告知同意要求 5.2權(quán)限申請要求 5.3行為協(xié)作要求 5.4行為運(yùn)行要求 5.5用戶權(quán)益保障要求 4 T/SIA065-2025智能體是指以智能終端為載體，以大模型為決策核心，為用戶提供智能服務(wù)的智能應(yīng)用。服務(wù)，并基于智能體能力執(zhí)行任務(wù)。智能體在提供高效便捷服務(wù)的同時(shí)，也帶來了諸多與用戶權(quán)益密切相關(guān)的風(fēng)險(xiǎn)與挑戰(zhàn)。為了貫徹落實(shí)《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《民法典》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)與政策文件要求，建立起以用戶為中心的智能體行為治理體系，中國軟件行業(yè)協(xié)會特起草《智能體行為安全要求》，明確智能體行為安全的基本原則和智能體告知同意、權(quán)限申請、行為協(xié)作、行為運(yùn)行和用戶權(quán)益保障要求等方1T/SIA065-2025本文件確立了智能體行為安全的基本原則，提出了智能體告知同意、權(quán)限申請、行為協(xié)作、行為運(yùn)行和用戶權(quán)益保障要求等內(nèi)容。本文件適用于提供智能體設(shè)計(jì)、開發(fā)和運(yùn)營的各類主體。2規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T25069信息安全技術(shù)術(shù)語GB/T42884信息安全技術(shù)移動互聯(lián)網(wǎng)應(yīng)用程序（App）生命周期安全管理指南ISO/IEC22989信息技術(shù)人工智能人工智能概念和術(shù)語（Informationtechnology-Artificialintelligence-Artificialintelligenceconceptsandterminology）3術(shù)語和定義GB/T25069、GB/T42884界定的以及下列術(shù)語和定義適用于本文件。3.1智能體artificialintelligenceagent能夠感知和響應(yīng)環(huán)境并能執(zhí)行操作以完成其目標(biāo)的自動化實(shí)體。注：本文件僅指運(yùn)行在移動智能終端、PC終端、智能可穿戴設(shè)備上由終端廠商或應(yīng)用廠商提供的、涉及與第三方APP協(xié)作完成任務(wù)的智能體。[來源：ISO/IEC22989:2022，3.1.1，有修改]3.2應(yīng)用軟件application運(yùn)行在智能終端上向用戶提供信息服務(wù)的應(yīng)用軟件。注1：智能終端包括移動智能終端、PC終端以及智能耳機(jī)、智能手表等可穿戴設(shè)備。注2：包含智能終端預(yù)置應(yīng)用、小程序、快應(yīng)用以及互聯(lián)網(wǎng)信息服務(wù)提供者提供的可以通過網(wǎng)站、應(yīng)用商店等應(yīng)用分發(fā)平臺下載、安裝、升級的應(yīng)用程序，簡稱App。[來源：GB/T42884—2023,3.2，有修改]4安全原則4.1告知同意智能體在啟用前應(yīng)明確告知用戶其能力邊界、操作范圍、所申請的操作系統(tǒng)權(quán)限、訪問用戶數(shù)據(jù)的目的、處理方式和潛在影響等內(nèi)容，并獲得用戶同意。4.2公開透明智能體應(yīng)對用戶公開透明其行為執(zhí)行過程并提供行為執(zhí)行記錄。4.3用戶可控智能體應(yīng)確保相關(guān)行為能力支持用戶自主開啟、關(guān)閉或隨時(shí)終止，第三方APP不應(yīng)要求額外授權(quán)，妨礙用戶自主可控。4.4最小必要智能體應(yīng)確保對用戶數(shù)據(jù)的收集和處理做到最小必要，遵循數(shù)據(jù)處理端側(cè)優(yōu)先原則。4.5安全保障智能體應(yīng)設(shè)置行為安全底限，不應(yīng)代理用戶執(zhí)行涉及用戶財(cái)產(chǎn)（含虛擬）和人身安全的操作（相關(guān)操作舉例參見附錄A）。5安全要求5.1告知同意要求智能體行為應(yīng)遵循對用戶的告知同意要求，包括：a)智能體在啟用前應(yīng)明確告知用戶其能力邊界、操作范圍、所申請的操作系統(tǒng)權(quán)限、訪問用戶數(shù)據(jù)的目的、處理方式和潛在影響等內(nèi)容，并獲得用戶同意；b)智能體應(yīng)控制告知的頻率，避免告知頻率過高，導(dǎo)致對用戶造成困擾；c)智能體在任務(wù)執(zhí)行過程中需獲取新的用戶個(gè)人信息，擴(kuò)展操作范圍或獲得新的系統(tǒng)權(quán)限，應(yīng)再次告知用戶并獲得用戶同意；2T/SIA065-2025d)告知方式宜滿足多樣性原則，即告知方式宜采取多種形式，更易于用戶感知與理解。此外，應(yīng)考慮到用戶的特定類型（例如面向殘障人士）和特殊使用場景（例如開車過程中），考慮通過目標(biāo)個(gè)人信息主體可接受的方式進(jìn)行告知和獲得同意。5.2權(quán)限申請要求智能體應(yīng)遵循權(quán)限申請要求，包括：a)智能體應(yīng)遵循系統(tǒng)現(xiàn)有的應(yīng)用權(quán)限管理體系，在現(xiàn)有應(yīng)用權(quán)限管理體系的管控下，調(diào)用相關(guān)的系統(tǒng)的權(quán)限；b)智能體應(yīng)僅申請任務(wù)執(zhí)行行為所必須的最小權(quán)限，權(quán)限開通應(yīng)經(jīng)過用戶明示同意；c)智能體應(yīng)將用戶申請的權(quán)限與設(shè)備和賬號雙重綁定，不應(yīng)在同一終端默認(rèn)用戶跨設(shè)備或跨賬號權(quán)限繼承；d)智能體已申請的權(quán)限，可通過終端權(quán)限配置管理頁面進(jìn)行查看、變更或撤銷。當(dāng)用戶撤銷權(quán)限后，不應(yīng)影響其它業(yè)務(wù)。5.3行為協(xié)作要求智能體行為與第三方APP協(xié)作完成任務(wù)要求，包括：a)智能體通過端側(cè)或云側(cè)的標(biāo)準(zhǔn)化接口調(diào)用的方式與第三方App或第三方云服務(wù)協(xié)作完成任務(wù)時(shí)，應(yīng)確保接口調(diào)用安全，防止接口被未經(jīng)授權(quán)訪問；b)智能體在進(jìn)行用戶意圖識別、通過第三方App執(zhí)行任務(wù)時(shí)，應(yīng)嚴(yán)格遵循“用戶可控”原則，即智能體應(yīng)支持用戶自主開啟、關(guān)閉或隨時(shí)終止通過第三方App執(zhí)行任務(wù)，第三方APP不應(yīng)要求額外授權(quán)，妨礙用戶自主可控；c)智能體通過系統(tǒng)能力操作第三方App完成任務(wù)時(shí)，應(yīng)嚴(yán)格遵循“告知同意”和“安全保障”原則，對于涉及用戶敏感操作的行為（參見附錄B），還應(yīng)提供提醒界面并支持用戶隨時(shí)停止智能體行為。5.4行為運(yùn)行要求智能體行為運(yùn)行應(yīng)滿足以下要求，包括：a)智能體應(yīng)確保僅操作授權(quán)范圍內(nèi)的資源，僅收集和處理經(jīng)過用戶同意的用戶數(shù)據(jù)，僅進(jìn)行用戶同意的行為；b)智能體應(yīng)采取安全措施防止行為運(yùn)行能力被惡意網(wǎng)絡(luò)攻擊工具利用；c)智能體應(yīng)對用戶指令接收和運(yùn)行過程進(jìn)行記錄，并支持用戶回溯查看；d)智能體行為運(yùn)行應(yīng)支持用戶可控，允許用戶修改、終止智能體行為和進(jìn)行人工接管。5.5用戶權(quán)益保障要求智能體行為應(yīng)遵循以下用戶權(quán)益保障要求，包括：a)智能體應(yīng)確保用戶數(shù)據(jù)安全，僅收集和處理完成任務(wù)所必需的數(shù)據(jù)，向用戶明確告知收集數(shù)據(jù)的目的及處理方式并獲得用戶同意，涉及向第三方共享數(shù)據(jù)的需額外說明；b)智能體應(yīng)支持用戶自主查看、刪除用戶個(gè)人信息，不應(yīng)設(shè)置障礙阻礙用戶行使權(quán)益；c)智能體開發(fā)運(yùn)營者應(yīng)建立安全管理機(jī)制，確保智能體在開發(fā)、部署、升級迭代等全生命周期安全；d)智能體在處理用戶敏感數(shù)據(jù)時(shí)應(yīng)優(yōu)先在端側(cè)完成，降低用戶敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)；e)應(yīng)建立有效的用戶投訴和反饋機(jī)制，及時(shí)解決智能體行為安全問題。3T/SIA065-2025（資料性）涉及用戶財(cái)產(chǎn)（含虛擬）和人身安全的操作涉及用戶財(cái)產(chǎn)（含虛擬）和人身安全的操作包括：賬號操作：含賬號注銷、賬號改密碼、三方授權(quán)操作等；金融交易：含股票、基金、期貨、貸款交易等；支付操作：含立即支付、免密支付、轉(zhuǎn)賬、發(fā)紅包等；協(xié)議類操作：含用戶授權(quán)、用戶同意、電子簽章等；不可逆的數(shù)據(jù)刪除：恢復(fù)出廠設(shè)置、清空回收站、徹底刪除等；安防控制類：智能門/門鎖/保險(xiǎn)箱/車輛解鎖。4T/SIA065-2025（資料性）涉及用戶敏感操作的行為涉及用戶敏感操作的行為包括：a)信息獲取和挖掘：包括終端傳感器（攝像頭、麥克風(fēng)、定位、光線、陀螺儀）數(shù)據(jù)、用戶數(shù)據(jù)（相冊、聯(lián)系人、短信、通話記錄、鬧鐘、日程、文件、錄音、應(yīng)用數(shù)據(jù)）、屏幕信息、運(yùn)動健康數(shù)據(jù)、智能家居數(shù)據(jù)、車輛信息等；b)應(yīng)用學(xué)習(xí)：操作路徑抽象建模，記錄并學(xué)習(xí)用戶使用應(yīng)用的方式及其過程中產(chǎn)生的信息：酒店偏好、航司偏好、飲食習(xí)慣、偏好店鋪等；c)下單（不含支付購物、打車、航旅預(yù)定等；d)社交類：發(fā)送即時(shí)通信、發(fā)送郵件、社區(qū)留言、發(fā)表評論等；e)設(shè)備控制：控制加濕器、凈化、空調(diào)、照明、廚房、衛(wèi)浴、影音娛樂、插座開關(guān)、車輛f)健康監(jiān)測：體重監(jiān)測、血壓監(jiān)測、睡眠監(jiān)測等。5T/SIA065-2025