人機(jī)共協(xié)—AI時(shí)代ToB產(chǎn)品設(shè)計(jì)實(shí)踐《B端產(chǎn)品設(shè)計(jì)精髓》作者之一；深耕B端12年，先后負(fù)責(zé)數(shù)據(jù)&智能中臺(tái)、人力、協(xié)同、EPM等產(chǎn)品線及其他業(yè)務(wù)線賦能工作及關(guān)鍵項(xiàng)目的推進(jìn)；（如財(cái)務(wù)費(fèi)控、供應(yīng)鏈、采購(gòu)、U8C等）負(fù)責(zé)人力云產(chǎn)品入選2021Gartner全球推薦；帶領(lǐng)團(tuán)隊(duì)先后多次獲得集團(tuán)產(chǎn)品重大創(chuàng)新二、三等獎(jiǎng)、UXPA好體驗(yàn)最佳AI應(yīng)用獎(jiǎng)等；曾在UXPA、HiPM、AIDD、螞蟻金服、阿里云棲閉門會(huì)議、北京部分高校分享交流；現(xiàn)負(fù)責(zé)AI入口及相關(guān)智能設(shè)計(jì)；中國(guó)500強(qiáng)企業(yè)中國(guó)500強(qiáng)企業(yè)中國(guó)制造業(yè)500強(qiáng)中國(guó)制造業(yè)500強(qiáng)80%證券公司中國(guó)零售業(yè)500強(qiáng)中國(guó)零售業(yè)500強(qiáng)國(guó)內(nèi)千萬(wàn)級(jí)旅客吞吐量機(jī)場(chǎng)國(guó)內(nèi)千萬(wàn)級(jí)旅客吞吐量機(jī)場(chǎng)國(guó)內(nèi)主要港口企業(yè)國(guó)內(nèi)主要港口企業(yè)中國(guó)農(nóng)林牧漁上市企業(yè)中國(guó)農(nóng)林牧漁上市企業(yè)中國(guó)醫(yī)療衛(wèi)生領(lǐng)域中國(guó)醫(yī)療衛(wèi)生領(lǐng)域國(guó)內(nèi)大中型能源企業(yè)國(guó)內(nèi)大中型能源企業(yè)80%廣播電信企業(yè)建筑央企及地方國(guó)資系建筑企業(yè)建筑央企及地方國(guó)資系建筑企業(yè)\vMobilPart01-帶來(lái)了什么？Part01-帶來(lái)的沖擊和挑戰(zhàn)Part01-當(dāng)AI成為基礎(chǔ)設(shè)施不同于自動(dòng)化浪潮下，機(jī)器人對(duì)藍(lán)領(lǐng)的替代，AI不同于自動(dòng)化浪潮下，機(jī)器人對(duì)藍(lán)領(lǐng)的替代，AI時(shí)代，受AI影響最大的是一些初級(jí)專業(yè)人士和技術(shù)人員，即部分白領(lǐng)的工作具有創(chuàng)造力，深度思考、探索能力的人，將享受AI帶來(lái)的效率優(yōu)勢(shì)麥肯錫《生成式人工智能和美國(guó)工作的未來(lái)》報(bào)告提出，2030年美國(guó)工資最低的崗位將減少110萬(wàn)個(gè)，但工資最高的崗位可能增加380萬(wàn)個(gè)智能要素的重要性提高、附加值提高，推動(dòng)社會(huì)資源向頭部匯聚生產(chǎn)效率提升并不代表著購(gòu)買力的提升，普通民眾收入有限，社會(huì)供需失衡再分配方式調(diào)整：向大企業(yè)征收增值稅，向民眾發(fā)放補(bǔ)貼，世界幣計(jì)劃等AIAI成為基礎(chǔ)設(shè)施一些基礎(chǔ)工作被代替Part01-構(gòu)建傳統(tǒng)的意圖與流程，人力的多少?zèng)Q定了智能的程度2015年的時(shí)候推進(jìn)流程自動(dòng)化，試圖利用“規(guī)則意圖”的工具“去窮盡當(dāng)時(shí)的智能”現(xiàn)在是讓機(jī)器學(xué)習(xí)知識(shí)而非人力堆砌語(yǔ)料和規(guī)則傳統(tǒng)：手動(dòng)維護(hù)語(yǔ)料庫(kù)內(nèi)容，統(tǒng)一問(wèn)題需要多種到2027年，80%的中國(guó)企業(yè)將使用多模型生成式人工智能策略來(lái)實(shí)現(xiàn)多樣化的模型功能、滿足企業(yè)要求并獲得成本效益?！?027年，80%的中國(guó)企業(yè)將使用多模型生成式人工智能策略來(lái)實(shí)現(xiàn)多樣化的模型功能、滿足企業(yè)要求并獲得成本效益。—Gartner預(yù)測(cè)到2026年，將有50%的中國(guó)500強(qiáng)數(shù)據(jù)團(tuán)隊(duì)使用AIAgent來(lái)實(shí)現(xiàn)數(shù)據(jù)準(zhǔn)備和分析。—IDC預(yù)測(cè)到2026年，超過(guò)80%的企業(yè)將使用生成式Ai的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用。到2027年，50%的業(yè)務(wù)決策將通過(guò)用于決策智能的AI智能體得到增強(qiáng)或?qū)崿F(xiàn)自動(dòng)化?！狦artner預(yù)測(cè)「業(yè)務(wù)場(chǎng)景」是發(fā)揮大模型的重要戰(zhàn)場(chǎng)接下來(lái)的時(shí)間我們將一起探討產(chǎn)品設(shè)計(jì)的革命效率工具的融合實(shí)踐基于AI的體驗(yàn)啟示與反思在產(chǎn)品與體驗(yàn)實(shí)施中的挑戰(zhàn)與反思從傳統(tǒng)SaaS到AI原生設(shè)計(jì)的根本轉(zhuǎn)變，探在產(chǎn)品與體驗(yàn)實(shí)施中的挑戰(zhàn)與反思從傳統(tǒng)SaaS到AI原生設(shè)計(jì)的根本轉(zhuǎn)變，探索TOB產(chǎn)品設(shè)計(jì)的變革性變化與獨(dú)特挑戰(zhàn)范式轉(zhuǎn)移：TOB產(chǎn)品設(shè)計(jì)的革命Part01-信息技術(shù)是當(dāng)代最具代表的對(duì)商業(yè)和企業(yè)服務(wù)的的影響和改變也最大人力與自然斗爭(zhēng)史人力對(duì)自然的加工史服務(wù)交付（信息、人、數(shù)據(jù)）技術(shù)聚合（AI、云計(jì)算、大數(shù)據(jù)、社交…）*結(jié)果、效益作為交付對(duì)象*粗獷“數(shù)智”化時(shí)代（信息）+人口老齡化…“數(shù)智”化時(shí)代（信息）+人口老齡化…3.0-工業(yè)互聯(lián)/物聯(lián)網(wǎng)社會(huì)級(jí)-商業(yè)創(chuàng)新，跨界：智能化生產(chǎn)、社會(huì)化資源高效利用丹尼爾·貝爾《后工業(yè)社會(huì)的來(lái)臨》（3.0-工業(yè)互聯(lián)/物聯(lián)網(wǎng)社會(huì)級(jí)-商業(yè)創(chuàng)新，跨界：智能化生產(chǎn)、社會(huì)化資源高效利用2.0-互聯(lián)網(wǎng)（C/SB/S）企業(yè)級(jí)-全面效率提升：提升效率，降低成本人-物-設(shè)備-信息互聯(lián)數(shù)字化/智能化工廠智能排程與調(diào)度社會(huì)化協(xié)同企業(yè)級(jí)-全面效率提升：提升效率，降低成本人-物-設(shè)備-信息互聯(lián)數(shù)字化/智能化工廠智能排程與調(diào)度社會(huì)化協(xié)同大數(shù)據(jù)分析大模型智能化設(shè)計(jì)制造的統(tǒng)一網(wǎng)絡(luò)化協(xié)同制造部門級(jí)-局部效率提升：設(shè)計(jì)制造的統(tǒng)一網(wǎng)絡(luò)化協(xié)同制造精細(xì)化管理全球統(tǒng)一管控平臺(tái)結(jié)繩記事、紙質(zhì)全球統(tǒng)一管控平臺(tái)結(jié)繩記事、紙質(zhì)…2020-2022年“智能要素在產(chǎn)品中的占比也是財(cái)務(wù)管理財(cái)務(wù)管理2023-至今“為客戶交付多少結(jié)果、創(chuàng)造價(jià)值、提效的多少是衡量AI產(chǎn)品的重要維度”精細(xì)&結(jié)果&預(yù)測(cè)—基于內(nèi)部資料，幾年前的預(yù)測(cè)命令行終端圖形化界面命令行終端圖形化界面GUI、鼠標(biāo)鍵盤交互動(dòng)態(tài)HTML+CSS、鼠標(biāo)鍵盤交互移動(dòng)+Web自然語(yǔ)言交互、AR/VR界面、腦機(jī)接口如智能構(gòu)建器、智能公文、智能招聘等業(yè)務(wù)如智能構(gòu)建器、智能公文、智能招聘等業(yè)務(wù)如日程、會(huì)議紀(jì)要、郵件總結(jié)等，這是用戶最直接能體驗(yàn)付費(fèi)意愿與場(chǎng)景價(jià)值?數(shù)據(jù)分析與決策?重復(fù)性勞動(dòng)自動(dòng)化、半自動(dòng)化?生產(chǎn)、排產(chǎn)與供應(yīng)鏈優(yōu)化?客戶營(yíng)銷、定位?財(cái)務(wù)合規(guī)與風(fēng)險(xiǎn)到賣協(xié)作到賣協(xié)作賣最終成果這一轉(zhuǎn)變將重塑TOB產(chǎn)品設(shè)計(jì)的核心邏輯：不再關(guān)注功能有多強(qiáng)大，而是關(guān)注能為客戶創(chuàng)造多少可量化的業(yè)務(wù)價(jià)值。——融合紅杉資本2025年AI峰會(huì)閉門會(huì)Part01-企業(yè)級(jí)產(chǎn)品最終還是為了商業(yè)成功，底層邏輯沒(méi)有變化降本增效、精準(zhǔn)運(yùn)營(yíng)、風(fēng)險(xiǎn)管控企業(yè)應(yīng)用AI的目標(biāo)也很明確-用友人機(jī)共協(xié)：人、AI模型、效率工具的融合實(shí)踐Part01-企業(yè)級(jí)產(chǎn)品的變化2050ANDBEYONDANDBEYOND是否能成為“企業(yè)生存的必備條件”y技術(shù)顛覆者能力賦能者創(chuàng)新促進(jìn)者業(yè)ERP系統(tǒng)正在從僵化的基礎(chǔ)設(shè)施轉(zhuǎn)變?yōu)閯?dòng)態(tài)智能，重新定義工作場(chǎng)所——賦予—SAP管理工具的設(shè)計(jì)會(huì)管理的AI與企業(yè)用戶協(xié)作\甚至自主管理工具的設(shè)計(jì)人效率工具AI模型人效率工具AI模型?Part02-在不被破壞現(xiàn)有產(chǎn)品形態(tài)上我們?nèi)绾巫鰟?chuàng)新助手式在具體應(yīng)用場(chǎng)景中，智友VPA與業(yè)務(wù)界面共同幫助用戶完成業(yè)務(wù)目標(biāo)嵌入式助手式在具體應(yīng)用場(chǎng)景中，智友VPA與業(yè)務(wù)界面共同幫助用戶完成業(yè)務(wù)目標(biāo)嵌入式在業(yè)務(wù)界面中調(diào)用AI工具，輔助完成相關(guān)任務(wù)沉浸式通過(guò)對(duì)話連接不同應(yīng)用和數(shù)據(jù)，完成用戶所需業(yè)務(wù)目標(biāo)，輸出用戶滿意的結(jié)果2021—2024，2025我們重新構(gòu)建了智能范式（后面有講到）Part02-企業(yè)級(jí)產(chǎn)品進(jìn)程與趨勢(shì)Part02-產(chǎn)品向著智能輔助系統(tǒng)轉(zhuǎn)變傳統(tǒng)單據(jù)單據(jù)類XXX單單據(jù)+自然語(yǔ)言交互（Copilot）Gartner決策智能模型智能決策都可以分為5個(gè)階段，而明智的決策擁有相同的關(guān)鍵特征人力/機(jī)器學(xué)習(xí)基于原則和道德、經(jīng)驗(yàn)和便宜、邏輯和推理、情感、技能和風(fēng)格（單據(jù)、委托、合作），由人做出的決增強(qiáng)的形式眾多。機(jī)器建議：人力決策。人類建議：機(jī)器決策。人類和機(jī)器共同決策。各有各的好處。人力/機(jī)器學(xué)習(xí)基于原則和道德、經(jīng)驗(yàn)和便宜、邏輯和推理、情感、技能和風(fēng)格（單據(jù)、委托、合作），由人做出的決增強(qiáng)的形式眾多。機(jī)器建議：人力決策。人類建議：機(jī)器決策。人類和機(jī)器共同決策。各有各的好處。機(jī)器使用人工智能生成建議，并可提供診斷行分析供人類驗(yàn)證和機(jī)器為人類決策者提供可視化、探索、警報(bào)和其他支持反饋&異常處理進(jìn)行風(fēng)險(xiǎn)管理，例如，護(hù)欄或異常情況下人機(jī)回圈。使用預(yù)測(cè)、預(yù)報(bào)、模擬、規(guī)則、優(yōu)化或其他人工智能，由機(jī)器自主決策。決策組成傳統(tǒng)決策中的次優(yōu)選擇個(gè)人偏好很重要政治因素比數(shù)據(jù)更重要決策理由難以追蹤決策的過(guò)程可能是為了做出決策者前期隱含的決定價(jià)值驅(qū)動(dòng)型決策的嚴(yán)謹(jǐn)性使用決策組件和透明的流程推動(dòng)可信、透明、數(shù)據(jù)驅(qū)動(dòng)的包容性決策仍然包含了人類因素Part02-AI信任、風(fēng)向和安全管理Part02-智能體的爆發(fā)Workday、Salesfor描述通過(guò)自然語(yǔ)言與人們互動(dòng)對(duì)話，往往是特定任務(wù)、基于規(guī)則或由人工智能驅(qū)動(dòng)，能力范圍有限與人類寫作以提供建議和定制化推薦的協(xié)作式人工智能系統(tǒng)幫助自動(dòng)化特定任務(wù)并提供相關(guān)信息的交互式系統(tǒng)?？蓚€(gè)性化且具備情景感知能力自主運(yùn)行的系統(tǒng)，獨(dú)立做出決策和執(zhí)行操作?？稍诤笈_(tái)運(yùn)行，并結(jié)合實(shí)時(shí)數(shù)據(jù)。自主成程度低：預(yù)定義規(guī)則和有限的人工智能邏輯中等：執(zhí)行任務(wù)需要一些用戶輸入中等：提供智能協(xié)助，可作出推薦，但仍需用戶輸入。高：在最少的人類監(jiān)督下獨(dú)立運(yùn)行示例回答密碼、政策等幫助起草、備忘、總結(jié)、生成想法回答有關(guān)工資單、全球福利和休假請(qǐng)求問(wèn)題人力資源系統(tǒng)助力尋找候選人、自動(dòng)化外聯(lián)并推薦頂級(jí)人才的招聘代理/en-us/ai-agents-enterprise-how-will-they-change-way-we-work.htmlPart02-范式轉(zhuǎn)移：ToB產(chǎn)品設(shè)計(jì)聚焦單一元素的智能化，為獨(dú)立元素注入AI能力（智能表單字段、圖像自動(dòng)標(biāo)注）自動(dòng)化多步驟流程，優(yōu)化線性任務(wù)鏈（智能審批流、客服工單自動(dòng)分配）封裝完整功能模塊，實(shí)現(xiàn)特定用戶目標(biāo)（智能搜索建議、文檔自動(dòng)摘驅(qū)動(dòng)整個(gè)應(yīng)用的核心邏輯、構(gòu)建端到端解決方案（智能設(shè)計(jì)工具）作為基礎(chǔ)能力賦能所有功能，全面滲透現(xiàn)有系統(tǒng)（云平臺(tái)級(jí)AI服務(wù)）連接異構(gòu)系統(tǒng)實(shí)現(xiàn)數(shù)據(jù)/服務(wù)流通，跨系統(tǒng)協(xié)同網(wǎng)絡(luò)（智慧城市AI中樞、工業(yè)物聯(lián)網(wǎng)平臺(tái)）來(lái)自：GenerativeAIUXDesignPatterns作者：KarlMochelPart02-早期快速商業(yè)驗(yàn)證軟硬件智能系統(tǒng)（2015年）Part02-范式轉(zhuǎn)移：構(gòu)建AI入口AI將發(fā)現(xiàn)新的知識(shí)AI將進(jìn)入物理世界創(chuàng)造價(jià)值A(chǔ)I將發(fā)現(xiàn)新的知識(shí)AI將進(jìn)入物理世界創(chuàng)造價(jià)值A(chǔ)I代理開(kāi)始工作了系統(tǒng)分配權(quán)。（智能入口優(yōu)先跑出來(lái)了可能是—VeraLiao.informingDesignPracticesforExplainableAIUserExperiences.IBMReserach?從“功能交付”到“認(rèn)知對(duì)齊”智能體實(shí)踐的設(shè)計(jì)核心是彌合心理模型鴻溝Part-03可解釋、清晰明確指引高效決策解釋即探索對(duì)解釋即探索對(duì)XAI系統(tǒng)的信任本質(zhì)上探索性的。主動(dòng)探索信任關(guān)系不應(yīng)最求單—穩(wěn)定狀態(tài)或脫離語(yǔ)境的量化指標(biāo)，而需維持動(dòng)態(tài)適應(yīng)的預(yù)期水平。具體包括：5個(gè)領(lǐng)域端到端案例1、驗(yàn)證計(jì)算機(jī)陳述的可信依據(jù)2、幫助用戶識(shí)別機(jī)器建議的不可靠情景（即使表面可信也應(yīng)拒絕遵循）3、評(píng)估可能影響積極結(jié)果概率的情景不確定性4、識(shí)別并緩解非理性信任與非理性不信任5、發(fā)現(xiàn)預(yù)警指標(biāo)以規(guī)避過(guò)度依賴或盲目拒絕建議的風(fēng)險(xiǎn)（尤其在時(shí)間緊迫或信息混亂時(shí)）6、理解系統(tǒng)在正常運(yùn)行但特定參數(shù)變異下仍不可信的情景(!謹(jǐn)慎用戶可能通過(guò)優(yōu)質(zhì)解釋建立合理信任，但后續(xù)使用中若遭遇自動(dòng)化意外（如深度神經(jīng)網(wǎng)絡(luò)犯下人類不會(huì)犯的錯(cuò)誤），可能迅速轉(zhuǎn)為非理性不信任。隨后系統(tǒng)提供額外解釋后，用戶可能重新評(píng)估其表現(xiàn)，最終達(dá)到適度信任區(qū)間）—Arya,V.etal.AIExplainability360:ImpactandDesign.IBMResearch.—JanetH.HSIAO.etal.RoadmapofdesigningCognitiveMetricsforExplainableArtificialIntelligence(XAI)—SuqingWu.etal.Human-generativeAIcollaborationenhancestaskperformancebutundermineshuman’sintrinsic.Nautre—RobertR.Hoffmanet.al.MetricsforExplainableAI:ChallengesandProspects.InstituteforHumanandMachineCognition）：視覺(jué)：AR標(biāo)注+熱力圖（圖像識(shí)別場(chǎng)景），必要時(shí)采用僅在系統(tǒng)檢測(cè)到用戶困惑（如長(zhǎng)時(shí)間凝視AI輸出）或高風(fēng)）：需要針對(duì)不同語(yǔ)言文化、專業(yè)背景、工作經(jīng)驗(yàn)、性別的人輸出內(nèi)容進(jìn)1.長(zhǎng)句拆分：將原文復(fù)合長(zhǎng)句按中文2.概念顯化：將"operationaldefinition 確定性指標(biāo) 確定性指標(biāo)對(duì)比解釋W(xué)hy-Not4.學(xué)術(shù)規(guī)范：保留文獻(xiàn)引用格式"Hoffman,2010“未選A因過(guò)敏”決策修正率提升63%“如擁堵減少20分鐘”用戶理解率90%“未選A因過(guò)敏”決策修正率提升63%“如擁堵減少20分鐘”用戶理解率90%置信度85%專家信任度提升40%6.被動(dòng)語(yǔ)態(tài)轉(zhuǎn)換：將英文被動(dòng)式轉(zhuǎn)換為中—Arya,V.etal.AIExplainability360:ImpactandDesign.IBMResearch.—JanetH.HSIAO.etal.RoadmapofdesigningCognitiveMetricsforExplainableArtificialIntelligence(XAI)—SuqingWu.etal.Human-generativeAIcollaborationenhancestaskperformancebutundermineshuman’sintrinsic.Nautre—RobertR.Hoffmanet.al.MetricsforExplainableAI:ChallengesandProspects.InstituteforHumanandMachineCognition—XuhaiXU.etal.XAIR:AFrameworkofExplainableAIinAugmentedReality.META用戶對(duì)AI的信任是技術(shù)可信度與主觀感知的復(fù)雜互動(dòng)結(jié)果AI可信度需要滿足準(zhǔn)確性、可靠性、魯棒性、客觀性、安全性、可解釋性、安全性、問(wèn)責(zé)性和隱私等技術(shù)特性。然而，用戶信任不僅取決于客觀特性，更依賴于用戶對(duì)這些特性的主觀感知。（個(gè)性、文化、年齡、性別、技術(shù)經(jīng)驗(yàn)、AI使用經(jīng)驗(yàn)等都會(huì)影響會(huì)用戶對(duì)AI系統(tǒng)的初始信任）?角色生成：模擬不同背景用戶角色（職業(yè)/認(rèn)?角色生成：模擬不同背景用戶角色（職業(yè)/認(rèn)?任務(wù)協(xié)同測(cè)試：多角色協(xié)作完成?量化分析驗(yàn)證：任務(wù)成功率/時(shí)延/錯(cuò)誤率統(tǒng)計(jì)→迭代優(yōu)?傳統(tǒng)方法融合：專家走查+用戶觀察法補(bǔ)充??分工合理性（人為中心、共生、AI主導(dǎo)）??人機(jī)協(xié)作雙重效應(yīng)性能提升與內(nèi)在動(dòng)機(jī)削弱的復(fù)雜關(guān)系，需要AgentUX測(cè)量Agent-as人機(jī)協(xié)作雙重效應(yīng)性能提升與內(nèi)在動(dòng)機(jī)削弱的復(fù)雜關(guān)系，需要AgentUX測(cè)量使用智能代理系統(tǒng)評(píng)估智能代理系統(tǒng)，實(shí)現(xiàn)自動(dòng)化規(guī)—MingchenZhugeetal.Agent-as-a-Judge:EvaluateAgentswithAgents.Meta—YuxuanLu+etal.UXAgent:ASystemforSimulatingUsabilityTestingofWebDesignwithLLMAgents.—SerinaChangetal.ChatBench:FromStaticBenchmarkstoHuman-AIEvaluation.MicrosoftResearch—AndrewAndersonetal.(MeasuringUserExperienceInclusivityinHuman-AIInteractionviaFiveUserProblem-SolvingStyles—SUNYOUNGPARK.Etal.DesigningandEvaluatingUserExperienceofanAI-BasedDefenseSystem—GeorgeFragiadakisetal.EVALUATINGHUMAN-AICOLLABORATION:AREVIEWANDMETHODOLOGICALFRAMEWORK—GaganBansaletal.ChallengesinHuman-AgentCommunication.Microsoft—Harisubramonyametal.Content-CentricPrototypingofGenerativeAIApplications:EmergingApproachesandChallengesinCollaborativeSoftwareTeams.Stanford&GooglePart-03AI產(chǎn)品設(shè)計(jì)階段體驗(yàn)指導(dǎo)原則場(chǎng)景過(guò)程可溯決策可調(diào)結(jié)果可釋1、用戶可以全局控制2、隨時(shí)終止服務(wù)3、系統(tǒng)離開(kāi)智能依然可正常運(yùn)行4、確保模型可解釋，避免解釋過(guò)長(zhǎng)，使用置信度而非白百分比提升置信度水平5、具有漸進(jìn)式的解釋（局部or全局）6、加快獲得AI結(jié)果的時(shí)間7、AI與用戶協(xié)同工作8、動(dòng)態(tài)分配任何和功能……After：1、記住用戶最近的交互行為2、從用戶行為中學(xué)習(xí)3、謹(jǐn)慎更新和調(diào)整4、鼓勵(lì)細(xì)顆粒度的反饋5、傳遞用戶行為的結(jié)果6、提供全局控制7、和用戶高頻溝通8、避免產(chǎn)生過(guò)度依賴，讓用戶提高對(duì)AI結(jié)果的警惕9、測(cè)試和監(jiān)測(cè)用戶危害……1、支持高效調(diào)用2、支持高效關(guān)閉3、支持高效校正4、目標(biāo)不明確事審視服務(wù)5、明確系統(tǒng)為什么樣這么做6、盡量較少人工檢查和代價(jià)高昂的錯(cuò)誤產(chǎn)生的成本7、幫助用戶理解和處理無(wú)法理解和錯(cuò)誤的輸出……階段一：1、匹配相關(guān)的社會(huì)準(zhǔn)則2、減少社會(huì)偏見(jiàn)3、注意數(shù)據(jù)中存在的偏見(jiàn)等相關(guān)問(wèn)題4、降低模型治理的風(fēng)險(xiǎn)和成本5、建立對(duì)AI的信任，提高透明度和可追溯性……Before：1、明確職能系統(tǒng)可以帶來(lái)什么價(jià)值2、明確智能系統(tǒng)可以做到何種程度3、不用AI行不行4、確定AI角色……1、具體場(chǎng)景和時(shí)間提供服務(wù)2、顯示場(chǎng)景相關(guān)信息及3、有個(gè)性化推薦避免冷啟動(dòng)4、目標(biāo)不明確時(shí)審視服務(wù)內(nèi)容5、明確系統(tǒng)為什么這樣做6、避免偏激去掉GUI……讓用戶有掌控感并尊重他們的價(jià)值觀、目標(biāo)和社會(huì)準(zhǔn)則，避免讓用戶對(duì)AI產(chǎn)生過(guò)度依賴，讓用戶對(duì)AI結(jié)果保持警惕。AI失效時(shí)系統(tǒng)仍可正常運(yùn)行……—Microsoft、SAP、IBM、yonyou…Part03-基于AI的體驗(yàn)啟示、對(duì)設(shè)計(jì)師的挑戰(zhàn)（Late1980S~2007）（~2007-~2015）優(yōu)化人工智能行為·智能系統(tǒng)表現(xiàn)出不斷進(jìn)化的行為·智能可以自主處理中不可預(yù)測(cè)的場(chǎng)景·AI機(jī)器行為會(huì)導(dǎo)致有偏差的輸出，不定性和不可預(yù)測(cè)性會(huì)影響用戶體驗(yàn)·優(yōu)化提升機(jī)器學(xué)習(xí)，減少算法偏差·支持人類有經(jīng)驗(yàn)的人員進(jìn)行可控管理·防止用戶過(guò)度信任AI·提高用戶對(duì)一場(chǎng)場(chǎng)景的監(jiān)控和處理能力·利用用戶參與、迭代原型、UX測(cè)試等優(yōu)化算法訓(xùn)練和測(cè)試·收集用戶反饋，優(yōu)化AI系統(tǒng)……可解釋的人工智能·AI“黑盒效應(yīng)”會(huì)導(dǎo)致AI系統(tǒng)輸出的不可解釋性·人工智能可解釋性對(duì)用戶信任和體驗(yàn)有較大影響·以用戶為中心的可解釋·具備漸進(jìn)式解釋能力·AI設(shè)計(jì)的解釋可以追溯驗(yàn)證·可解釋透明的UI可視化設(shè)計(jì)·可解釋AI的模型·心理學(xué)解釋理論為基礎(chǔ)方法人類和智能體相互協(xié)作·在人類和人工智能之間建立信任、心智模型、情境感知、決策和可控性·結(jié)合人類和機(jī)器的能力最大化的提升系統(tǒng)能力與用戶體驗(yàn)·人機(jī)協(xié)作帶來(lái)了一種全新的用戶體驗(yàn)·基于協(xié)作的認(rèn)知用戶界面·人與機(jī)器動(dòng)態(tài)分配任務(wù)、功能·感知、理解和預(yù)測(cè)人類與人工