大語(yǔ)言模型通識(shí)微課

人工智能新發(fā)展人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，對(duì)人們的生產(chǎn)生活產(chǎn)生了深遠(yuǎn)影響。比如人工智能在研發(fā)新材料、預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)等方面具有優(yōu)勢(shì)，有望進(jìn)一步重塑科學(xué)研究范式；智能駕駛的普及，將改變城市規(guī)劃和交通管理方式……各行各業(yè)對(duì)人工智能的需求日趨增大的同時(shí)，經(jīng)濟(jì)社會(huì)的方方面面正受到人工智能的多重影響。微課14.2人工智能新發(fā)展新質(zhì)生產(chǎn)力是2023年9月習(xí)近平總書(shū)記首次提到的新詞匯。作為先進(jìn)生產(chǎn)力的具體體現(xiàn)形式，新質(zhì)生產(chǎn)力強(qiáng)調(diào)整合科技創(chuàng)新資源，引領(lǐng)發(fā)展戰(zhàn)略性新興產(chǎn)業(yè)和未來(lái)產(chǎn)業(yè)。新質(zhì)生產(chǎn)力是由技術(shù)革命性突破、生產(chǎn)要素創(chuàng)新性配置、產(chǎn)業(yè)深度轉(zhuǎn)型升級(jí)而催生的當(dāng)代先進(jìn)生產(chǎn)力，它以勞動(dòng)者、勞動(dòng)資料、勞動(dòng)對(duì)象及其優(yōu)化組合的質(zhì)變?yōu)榛緝?nèi)涵，以全要素生產(chǎn)率提升為核心標(biāo)志。新質(zhì)生產(chǎn)力是生產(chǎn)力現(xiàn)代化的具體體現(xiàn)，即新的高水平現(xiàn)代化生產(chǎn)力（新類(lèi)型、新結(jié)構(gòu)、高技術(shù)水平、高質(zhì)量、高效率、可持續(xù)的生產(chǎn)力），涉及領(lǐng)域新、技術(shù)含量高，依靠創(chuàng)新驅(qū)動(dòng)是其中關(guān)鍵。14.2.1人工智能+成為新質(zhì)生產(chǎn)力重要引擎打造新的經(jīng)濟(jì)增長(zhǎng)點(diǎn)需要發(fā)展新質(zhì)生產(chǎn)力，而不斷取得進(jìn)展的人工智能技術(shù)將成為形成新質(zhì)生產(chǎn)力的重要引擎?！叭斯ぶ悄?”主要是基于大模型、大數(shù)據(jù)、大算力技術(shù)，實(shí)現(xiàn)人工智能在各行各業(yè)的落地應(yīng)用，從而提升產(chǎn)業(yè)自動(dòng)化水平，降本增效，促使數(shù)字經(jīng)濟(jì)再上新臺(tái)階?！叭斯ぶ悄?”上升為一種行動(dòng)，意味著國(guó)家將加強(qiáng)頂層設(shè)計(jì)，加快形成以人工智能為引擎的新質(zhì)生產(chǎn)力。以大模型為代表的通用人工智能競(jìng)爭(zhēng)中，各家廠商的產(chǎn)品仍有進(jìn)步空間。14.2.1人工智能+成為新質(zhì)生產(chǎn)力重要引擎在一般認(rèn)知里，自動(dòng)駕駛技術(shù)的好壞應(yīng)該取決于激光雷達(dá)、毫米波雷達(dá)以及攝像頭硬件的性能是否足夠強(qiáng)大。但事實(shí)上，自動(dòng)駕駛的運(yùn)轉(zhuǎn)是一個(gè)復(fù)雜系統(tǒng)，其中的雷達(dá)只是起到了眼睛收集信息，與外界環(huán)境進(jìn)行信息交互的作用，甚至就連車(chē)載芯片也無(wú)法決定自動(dòng)駕駛系統(tǒng)的好與壞。雷達(dá)只是加快了信息的收集速度，芯片只是加快了信息的處理速度，它們并不能起到分析、決策的作用。

圖14-1自動(dòng)駕駛中雷達(dá)的作用14.2.2人工智能改變自動(dòng)駕駛未來(lái)真正拉開(kāi)自動(dòng)駕駛系統(tǒng)差距的是“智能化”程度。要實(shí)現(xiàn)自動(dòng)，就必須讓汽車(chē)系統(tǒng)足夠聰明，能夠自己做決策，而人工智能很好地扮演這一角色?；谌斯ぶ悄艽蛟斓拇竽Ｐ陀?xùn)練水平，決定著自動(dòng)駕駛水平的高低。

圖14-2大模型訓(xùn)練決定自動(dòng)駕駛水平14.2.2人工智能改變自動(dòng)駕駛未來(lái)基于大模型是機(jī)器學(xué)習(xí)的一個(gè)模式，它可能是對(duì)目標(biāo)進(jìn)行檢測(cè)或者人臉進(jìn)行識(shí)別，也可能是針對(duì)語(yǔ)言的識(shí)別處理。此外，大模型還具有模態(tài)特點(diǎn)，可以依靠多種信息方式，這對(duì)于駕駛來(lái)說(shuō)有著很大的意義。對(duì)自動(dòng)駕駛而言，人工智能真正的價(jià)值在于，它可以在短時(shí)間內(nèi)分析處理海量的數(shù)據(jù)，并做出相對(duì)正確的駕駛決定。人類(lèi)通過(guò)訓(xùn)練使自動(dòng)駕駛系統(tǒng)具備接近于人類(lèi)的駕駛能力，這只需要通過(guò)大量的信息數(shù)據(jù)告訴它什么時(shí)候該踩剎車(chē)、什么時(shí)候該加速，這是傳統(tǒng)駕駛程序所無(wú)法做到的事。自動(dòng)駕駛領(lǐng)域的人工智能應(yīng)用還處在發(fā)展階段，距離成熟有很長(zhǎng)的路要走。14.2.2人工智能改變自動(dòng)駕駛未來(lái)麻省理工學(xué)院組成的一個(gè)臨時(shí)委員會(huì)發(fā)布了一系列關(guān)于人工智能治理的政策文件，旨在為政策制定者提供資源，建立更好的人工智能監(jiān)管框架，主要政策文件名為《人工智能治理框架：打造安全繁榮的人工智能行業(yè)》。文件建議通過(guò)擴(kuò)展現(xiàn)有的政府機(jī)構(gòu)來(lái)監(jiān)管人工智能工具，以便制定相應(yīng)的監(jiān)管規(guī)定。政策文件強(qiáng)調(diào)人工智能提供商事先定義應(yīng)用程序目的和意圖方面的重要性。通過(guò)這種方式，監(jiān)管體系可以明確哪些現(xiàn)有的法規(guī)和監(jiān)管機(jī)構(gòu)適用于特定的人工智能工具。文件還討論了人工智能系統(tǒng)存在多層次的情況，即系統(tǒng)“堆?！?，強(qiáng)調(diào)制定責(zé)任和監(jiān)管的復(fù)雜性。14.2.3重視人工智能治理政策政策文件不僅涉及現(xiàn)有機(jī)構(gòu)，還提出增強(qiáng)新的監(jiān)管能力。文件呼吁通過(guò)政府發(fā)起、用戶(hù)驅(qū)動(dòng)或源自法律責(zé)任訴訟對(duì)新的人工智能工具進(jìn)行審計(jì)。文件還建議通過(guò)非營(yíng)利實(shí)體或類(lèi)似于國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院的實(shí)體來(lái)建立公共審計(jì)標(biāo)準(zhǔn)。此外，文件還考慮了創(chuàng)建一個(gè)新的、由政府批準(zhǔn)的類(lèi)似于金融監(jiān)管的“自律組織”機(jī)構(gòu)的可能性。這樣的機(jī)構(gòu)專(zhuān)注于人工智能，可以積累領(lǐng)域特定的知識(shí)，以在與迅速變化的人工智能行業(yè)互動(dòng)時(shí)保持靈活性和響應(yīng)能力。政策文件指出，人工智能領(lǐng)域需要解決一些特定的法律問(wèn)題，例如與知識(shí)產(chǎn)權(quán)相關(guān)的版權(quán)問(wèn)題。14.2.3重視人工智能治理政策2024年2月16日，繼推出ChatGPT之后，OpenAI又發(fā)布首個(gè)文字生成視頻模型Sora，它可以基于文本直接輸出60秒視頻，足以模糊真實(shí)和虛構(gòu)的界限，再次激起全球熱議。同一天，在德國(guó)舉行的慕尼黑安全會(huì)議上，20家人工智能相關(guān)行業(yè)公司簽署自愿協(xié)議，承諾打擊新技術(shù)生成欺騙性信息擾亂全球選舉。聯(lián)合聲明的簽署方包括了這一領(lǐng)域的主要企業(yè)比如OpenAI、谷歌等，以及可能幫助其傳播的社交媒體平臺(tái)，比如抖音、X、Meta等。14.2.4防止人工智能誤導(dǎo)民眾為了防止新技術(shù)生成虛假信息被用于政治目的，20家公司做出8項(xiàng)具體承諾，包括：合作開(kāi)發(fā)相關(guān)開(kāi)源工具，以減少涉及選舉的欺騙性人工智能生成內(nèi)容；設(shè)法檢測(cè)此類(lèi)內(nèi)容的在線傳播情況；推動(dòng)教育活動(dòng)，提高公眾防范意識(shí)和媒體素養(yǎng)，以培養(yǎng)跨行業(yè)抵御此類(lèi)內(nèi)容的能力等。OpenAI的合作伙伴微軟則認(rèn)為在技術(shù)進(jìn)步這一議題上，人們面臨的“最基本挑戰(zhàn)不在技術(shù)本身，而是人性”，認(rèn)為總體上來(lái)看，協(xié)議的承諾提高了行業(yè)的檢測(cè)和響應(yīng)能力，將使不良行為者更難使用合法工具制造誤導(dǎo)性?xún)?nèi)容。14.2.4防止人工智能誤導(dǎo)民眾人工智能在2023年最大的突破，就是大語(yǔ)言模型實(shí)現(xiàn)了真正的人工智能，來(lái)到通用人工智能的拐點(diǎn)。大模型對(duì)國(guó)家、產(chǎn)業(yè)和創(chuàng)業(yè)者來(lái)說(shuō)，都意味著不同的機(jī)會(huì)。綜合業(yè)內(nèi)專(zhuān)家和研究者的意見(jiàn)，提出未來(lái)大模型的主要趨勢(shì)如下。趨勢(shì)一：未來(lái)大模型無(wú)處不在，它不會(huì)被壟斷，會(huì)成為企業(yè)數(shù)字化、政府?dāng)?shù)字化的標(biāo)配。趨勢(shì)二：開(kāi)源大模型爆發(fā)。國(guó)內(nèi)很多開(kāi)源模型都基于國(guó)際開(kāi)源模型。未來(lái)的矛盾不再是大模型本身怎么樣，而是誰(shuí)能夠利用大模型結(jié)合自己的業(yè)務(wù)和場(chǎng)景，把它訓(xùn)練出自己需要的功能。14.2.5大模型的大趨勢(shì)趨勢(shì)三：一方面，很多公司在思考如何把模型進(jìn)一步做大，從千億的參數(shù)做到萬(wàn)億的參數(shù)。但還有一個(gè)趨勢(shì)，就是把模型做小，使得在十幾億、幾十億或者不超過(guò)100億的模型上，效果也能差不多。模型做小有兩個(gè)前提，一個(gè)是把模型做專(zhuān)業(yè)。再者，就是可以運(yùn)行在更多的終端上。趨勢(shì)四：大模型企業(yè)級(jí)市場(chǎng)會(huì)發(fā)達(dá)。企業(yè)級(jí)（toB）市場(chǎng)會(huì)起來(lái)，大模型要走深度化、產(chǎn)業(yè)化、垂直化、深度定制的方向。趨勢(shì)五：結(jié)合“智能體架構(gòu)”，才能真正讓大模型真正跟業(yè)務(wù)系統(tǒng)，跟整個(gè)互聯(lián)網(wǎng)充分打通。把大模型跟已有產(chǎn)品和場(chǎng)景充分結(jié)合，煥發(fā)新生。14.2.6大模型的大趨勢(shì)趨勢(shì)六：多模態(tài)會(huì)成為大模型標(biāo)準(zhǔn)。多模態(tài)不僅能聽(tīng)會(huì)說(shuō)，它也能看得懂圖片和視頻，聽(tīng)得懂音樂(lè)。趨勢(shì)七：AIGC會(huì)有突破性的增長(zhǎng)。此外，大模型將使機(jī)器人產(chǎn)業(yè)獲得革命性的發(fā)展。趨勢(shì)八：大模型推動(dòng)基礎(chǔ)科學(xué)取得突破。它可能成為人類(lèi)有史以來(lái)發(fā)明的最偉大的工具，成為科學(xué)家的工具，變成人類(lèi)科技發(fā)展的利器。14.2.6大模型的大趨勢(shì)2023年是通用人工智能（AGI）從誕生到蔓延生長(zhǎng)的一年。這一年人們見(jiàn)證了GPT3.5到4.0的加速進(jìn)化，見(jiàn)證了Meta開(kāi)源LLaMa成為大模型民主化的標(biāo)志，幫助了很多小模型的涌現(xiàn)，見(jiàn)證了號(hào)稱(chēng)“迄今為止最強(qiáng)大、最通用的模型”谷歌Gemini的誕生，見(jiàn)證了“斯坦福小鎮(zhèn)”誕生讓智能體這一概念落地到更多場(chǎng)景......14.2.7通用人工智能涌現(xiàn)2023年是生成式人工智能基礎(chǔ)設(shè)施搭建的一年，國(guó)內(nèi)外大公司普遍基于自身原有業(yè)務(wù)，推出模型、算力和云相關(guān)的產(chǎn)品?；谶@個(gè)基礎(chǔ)，相信未來(lái)將會(huì)出現(xiàn)大量將大模型落地于實(shí)際場(chǎng)景的應(yīng)