電信終端產(chǎn)業(yè)協(xié)會發(fā)布版權(quán)聲明傳播、發(fā)行、合訂和宣貫等，也不得未經(jīng)允許采用其具體內(nèi)容編制本團I 1 1 1 1 2 2 2 2 2 3 3 3 3 4 4 4 4 4 5 5 6 7本文件按照GB/T1.1—2020《標準化工作導(dǎo)則第1部分：標準化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機構(gòu)不承擔(dān)識別專利的責(zé)任。本文件起草單位：維沃移動通信有限公司、中國信息通信研究院、小米通訊技術(shù)有限公司、OPPO創(chuàng)科網(wǎng)絡(luò)技術(shù)有限公司、上海得物信息集團有限公司、北京零一萬物科技有限公司。辰淑、趙曉娜、林冠辰、李欣、高博雅、谷晨、王江勝、王駿超、任資政、康宇、楊歡、王海1移動智能終端端側(cè)大模型安全實施指南本文件規(guī)定了提出了移動智能終端端側(cè)大模型的框架、風(fēng)險、安全相關(guān)的實施指移動智能終端smartmobile4縮略語AI：人工智能（ArtificialIntelligence）API：應(yīng)用程序編程接口（ApplicationProgrammingInterface）APP：移動應(yīng)用程序（ApplicatioCPU：中央處理器（CentralProcessingCVE：通用漏洞披露（CommonVulnerabilities&ExpDoS：拒絕服務(wù)（DenialofServiGPU：圖形處理器（GraphicsProcessingU2SSRF：服務(wù)端請求偽造（Server-SideRequestURL：統(tǒng)一資源定位系統(tǒng)（UniformResourceLocaXSS：跨站腳本攻擊（CrossSiteScrip型會與終端上搭載的APP進行相應(yīng)交互。同時可能存在端側(cè)大模型接入云側(cè)，利用云側(cè)能力協(xié)助完成更業(yè)務(wù)安全APP應(yīng)用層模型層端側(cè)大模型云側(cè)大模型模型安全業(yè)務(wù)安全APP應(yīng)用層模型層端側(cè)大模型云側(cè)大模型模型安全安全保障基礎(chǔ)層CPU、GPU、內(nèi)存等硬件基礎(chǔ)層二模塊____可選二對應(yīng)安全《-u數(shù)據(jù)雙向流動5.2端側(cè)大模型模式分類根據(jù)是否支持云側(cè)接入分為離線模式與在線模式兩種無需聯(lián)網(wǎng)，僅在本地運行和處理數(shù)據(jù)，依靠本地算力端側(cè)接入云側(cè)，利用云側(cè)能力協(xié)助，可支持更復(fù)5.3應(yīng)用場景端側(cè)大模型面臨的安全威脅見附錄A，主要分為兩大類，分別是端側(cè)大3全、模型安全、業(yè)務(wù)安全以及貫徹其中的安全保障，整體架訓(xùn)練數(shù)據(jù)采集訓(xùn)練數(shù)據(jù)清洗與標注安全訓(xùn)練業(yè)務(wù)安全內(nèi)容安全個人信息保護通信安全運行維護模型安全安全運行數(shù)據(jù)保護攻擊防護安全保障用性，以及對啟動、運行環(huán)境進行安全檢測，例如終端是否被root、模型進程是否被進行注b)通過安全通道對端側(cè)大模型進行傳輸，保證傳輸?shù)臋C密性和完整性。4a)對端側(cè)大模型關(guān)鍵結(jié)構(gòu)和參數(shù)進行混d)系統(tǒng)不向用戶提供內(nèi)存DUMP工具，以防e)文字、圖片、音頻、視頻等生成內(nèi)容f)采用端云結(jié)合方式進行推理分析時，端側(cè)僅上傳最小必要的5a）云側(cè)與端側(cè)大模型通信過程中，對用戶輸入的URL進行校驗，以防攻擊者通過SSRF攻擊訪問到c)建立有效的用戶投訴反饋渠道，收到用戶反饋后，及6攻擊者通過XSS，仿冒用戶身份進行操作，如竊攻擊者通過話術(shù)攻擊，篡改預(yù)置話術(shù)，導(dǎo)致大模型“越攻擊者通過構(gòu)造偽造請求使用戶在不知情的情況下執(zhí)行操作，事后用戶會因為無攻擊者通過獲取用戶的瀏覽器緩存、本地存儲或其他敏攻擊者利用跨站腳本來大量觸發(fā)某種消耗資源的操作，造成服務(wù)器性能下降甚至攻擊者通過修改客戶端版本進行無校驗舊版本，攻擊者