02幻覺(jué)定義及檢測(cè)方法04總結(jié)與展望04總結(jié)與展望03幻覺(jué)檢測(cè)工具構(gòu)建我們所希望的評(píng)測(cè)范圍評(píng)測(cè)范圍被評(píng)測(cè)模型能力范圍實(shí)際可能的被評(píng)測(cè)模型能被評(píng)測(cè)模型能力范圍評(píng)測(cè)范圍甚至有可能被評(píng)測(cè)模型能被評(píng)測(cè)模型能力范圍評(píng)測(cè)范圍?我們不能預(yù)估模型的能力，只能不斷探索大模型能力的邊界模型評(píng)測(cè)模型能力探索模型評(píng)測(cè)模型能力探索大模型評(píng)測(cè)體系及開(kāi)放評(píng)測(cè)平臺(tái)FlagEval天秤基礎(chǔ)模型支撐平臺(tái)與評(píng)測(cè)技術(shù)”旗艦項(xiàng)目支持下，智源研究院牽頭聯(lián)合多個(gè)團(tuán)隊(duì)研制(2023~2025)向人工智能大模型工程化技術(shù)及應(yīng)用的產(chǎn)業(yè)公共?FlagEval已完成數(shù)十個(gè)國(guó)內(nèi)外主流開(kāi)源模型的全面評(píng)測(cè)，在2023年完成了1800多模型評(píng)測(cè)次數(shù)，并連續(xù)14個(gè)月發(fā)布“大模型月度評(píng)測(cè)榜單”。的,但我嘗試從魯迅先生真實(shí)的經(jīng)歷和思想中汲取靈感,去想象周樹(shù)人和魯們銘記先賢,傳承他們的精神,用我們手中的"筆",書寫新時(shí)代的篇章。8幻覺(jué)定義及檢測(cè)方法幻覺(jué)的定義sources.1001幻覺(jué)的定義事實(shí)性幻覺(jué)：強(qiáng)調(diào)生成的內(nèi)容與可驗(yàn)證的現(xiàn)實(shí)世界事實(shí)之間的差異，通常表現(xiàn)為事實(shí)不一致或捏造事實(shí)。忠實(shí)性幻覺(jué)：指生成的內(nèi)容與用戶指令或輸入提供的上下文內(nèi)容不一致，以及生成內(nèi)容內(nèi)部上下文的不一致。事實(shí)性幻覺(jué)檢測(cè)方法基于模型內(nèi)部行為的方法基于檢索的方法基于模型內(nèi)部行為的方法忠實(shí)性幻覺(jué)檢測(cè)方法2.用于自動(dòng)化檢測(cè)的Judge2.用于自動(dòng)化檢測(cè)的JudgeModel1.用于檢測(cè)的評(píng)測(cè)集幻覺(jué)檢測(cè)工具的構(gòu)建幻覺(jué)檢測(cè)的工作目標(biāo)缺乏對(duì)幻覺(jué)信息的定位和解釋缺乏對(duì)幻覺(jué)信息的定位和解釋復(fù)雜場(chǎng)景依賴人工或裁判模型復(fù)雜場(chǎng)景下的幻覺(jué)檢測(cè)更多的依賴人工眾包，或者依賴如GPT-4作為裁判模型局限局限性缺乏對(duì)話場(chǎng)景下的幻覺(jué)檢測(cè)更多是在句子&段落級(jí)別上進(jìn)行檢測(cè)，少缺乏對(duì)話場(chǎng)景下的幻覺(jué)檢測(cè)幻覺(jué)檢測(cè)/定位/解釋?對(duì)主流的大語(yǔ)言模型進(jìn)行了幻覺(jué)的檢測(cè)和評(píng)估第二步：幻覺(jué)檢測(cè)/定位/解釋信息生成（GPT-4生成）誘發(fā)式幻覺(jué)?含誘導(dǎo)信息的對(duì)話場(chǎng)景中產(chǎn)生的幻覺(jué)數(shù)據(jù)，生成幻覺(jué)的同時(shí)生成檢測(cè)/定位/解釋等信息（GPT-4生成）1.用于檢測(cè)的評(píng)測(cè)集?利用幻覺(jué)檢測(cè)標(biāo)簽，1.用于檢測(cè)的評(píng)測(cè)集?利用幻覺(jué)檢測(cè)標(biāo)簽，可以評(píng)估LLM的幻覺(jué)檢測(cè)能力?利用幻覺(jué)定位和解釋信息，可以評(píng)估模型定位幻覺(jué)并提供理由的能力?利用HalluDial訓(xùn)練自己的幻覺(jué)評(píng)估器，自動(dòng)的評(píng)估LLM的幻覺(jué)率?首個(gè)支持幻覺(jué)定位&解釋的檢測(cè)模型，支持更豐富的使用場(chǎng)景?幻覺(jué)檢測(cè)的精度達(dá)到SOTA；對(duì)幻覺(jué)定位及解釋也非常精準(zhǔn)，人工檢驗(yàn)HalluJudge的判斷有93.65%是合理的。?具有較高的泛化性，在同任務(wù)不同數(shù)據(jù)集上的檢測(cè)準(zhǔn)確率可達(dá)82%以上?在不同任務(wù)不同數(shù)據(jù)集上，也有不俗表現(xiàn)，特別是在摘要類任務(wù)的幻覺(jué)檢測(cè)上2主流的大語(yǔ)言模型的幻覺(jué)率注：注：由于時(shí)間和資源的關(guān)系，除GPT系列外，尚未對(duì)閉源的LLM進(jìn)行評(píng)測(cè)，后續(xù)將會(huì)集成到FlagEval平臺(tái)上，提供開(kāi)放的評(píng)測(cè)服務(wù)，歡迎關(guān)注。開(kāi)源鏈接：/FlagOpen/HalluDialLLM容易產(chǎn)生幻覺(jué)的實(shí)例的主題分布LLM容易產(chǎn)生幻覺(jué)的實(shí)例的主題分布溫度對(duì)幻覺(jué)率的影響總結(jié)與展望??構(gòu)建了HalluDial，第一個(gè)用于對(duì)話級(jí)幻覺(jué)評(píng)估的大型基準(zhǔn)，包含146,856個(gè)樣本的綜合數(shù)據(jù)集，以及幻覺(jué)檢測(cè)、定位和理由等詳細(xì)信息。?開(kāi)發(fā)基于HalluDial訓(xùn)練的幻覺(jué)判斷語(yǔ)言模型HalluJudge，有助于法學(xué)碩士對(duì)話級(jí)幻覺(jué)的自動(dòng)評(píng)估。?大語(yǔ)言模型普遍存在幻覺(jué)，GPT系列的模型幻覺(jué)率較低，部分國(guó)內(nèi)的開(kāi)源模型表現(xiàn)良好。??大模型評(píng)測(cè)要促進(jìn)大模型技術(shù)的發(fā)展——需要不斷的探索