某著名企業(yè)講席產(chǎn)業(yè)研究院

(AIR)院長2023年6月AI大模型時代Large

Models,ChatGPT,GenerativeAI,and

Education

目錄

3

對教育的思考2

ChatGPT現(xiàn)象1

AI大趨勢生物世界數(shù)字化1.0&2.0：原子

比特?cái)?shù)字化3.0：

比特

<原子+分子

數(shù)字化

3.0:信息+物理+生物世界數(shù)字化細(xì)胞、

分子

…基因、

蛋白質(zhì)

…

生物電子芯片、

腦機(jī)接口…生活：

家居、

生活服務(wù)

…基建

：道路某省市

…產(chǎn)業(yè)：

工廠、

機(jī)床

…交通：

車輛、

飛機(jī)

…大腦、

身體、

器官

…1987-1993第二個AI冬天1990s機(jī)器學(xué)習(xí)和ANN的興起2006深度學(xué)習(xí)概念

人工智能：機(jī)器學(xué)習(xí)智能和知識的探索1956AI概念介紹1950s2017AlphaZero通用算法實(shí)現(xiàn)了三大棋類游戲的零基礎(chǔ)自我對弈.統(tǒng)計(jì)數(shù)據(jù).樸素貝葉斯算法

.馬爾科夫算法2020AlphaFold2高精度預(yù)測蛋白質(zhì)結(jié)構(gòu)2011IBMWatson首次亮相.邏輯

，哲學(xué).規(guī)則與決策樹2012“Google

大腦”識

別貓臉.心理學(xué).支持向量機(jī).進(jìn)化生物學(xué)

.基因編程2016AlphaGo戰(zhàn)勝世界最強(qiáng)棋手.神經(jīng)科學(xué)

.神經(jīng)網(wǎng)絡(luò)1970-1980s第一個AI冬天圖靈測試

A

I/深度學(xué)習(xí)

預(yù)訓(xùn)練

，

多模態(tài)

，

大模型,生成式透明性，可解影，因果性，安全，私，倫理知識理解數(shù)據(jù)保護(hù)

和治理透明性

可解釋性物體分類語音識別人臉識別遷移學(xué)習(xí)

預(yù)訓(xùn)練倫理和隱私安全NLP機(jī)器翻譯GAN強(qiáng)化學(xué)習(xí)模仿學(xué)習(xí)生成式多模態(tài)深度學(xué)習(xí)視頻語義BERT,

GPT-3RNN、NTransformer感知挑戰(zhàn)認(rèn)知法規(guī)LSTM找方案&找標(biāo)準(zhǔn)找方案微信（掃第一個碼）每日分享各個領(lǐng)域高質(zhì)量專業(yè)的解決方案，內(nèi)容包括某省市、鄉(xiāng)村振興、智慧城管、智慧園區(qū)、智慧公安、智慧水務(wù)（水利）、智慧林草、社會綜合治理、智慧旅游、智慧工地、智慧環(huán)衛(wèi)、智慧醫(yī)院、智慧環(huán)保、智慧安監(jiān)等領(lǐng)域，結(jié)合數(shù)字孿生、人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等技術(shù)，分享行業(yè)售前方案、設(shè)計(jì)方案、技術(shù)方案和項(xiàng)目信息等。找標(biāo)準(zhǔn)微信（掃第二個碼）每日分享各個智慧領(lǐng)域國家和地方標(biāo)準(zhǔn)規(guī)范，國家和地方政策指導(dǎo)文件，讓各個智慧方案有據(jù)可依，內(nèi)容包括找方案中的各個行業(yè)的政策和規(guī)范，內(nèi)容在不斷的收集和完善中。找方案知識星球（掃第三個碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，個人學(xué)習(xí)使用，請勿用于商業(yè)用途）。找標(biāo)準(zhǔn)知識星球（掃第四個碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，個人學(xué)習(xí)使用，請勿用于商業(yè)用途）。找方案星球優(yōu)惠券（掃第五個碼）掃描69元價格優(yōu)惠加入，1W+方案任意下載，資源不斷的豐富完善中......找方案微信找方標(biāo)準(zhǔn)信

生成式AI高速發(fā)展?“AI

gets

creative”入圍Science

2022年年度科學(xué)突破太空歌劇院由藝術(shù)家Jason

Allen使用文本到圖像生成AI平臺

Midjourney制作

，獲得美國科羅拉多州博覽會藝

術(shù)比賽數(shù)字類別頭獎?

GAN和Diffusion

Models是最流行的圖像生成模型?

Diffusion

Models逐漸占主導(dǎo)地位

，產(chǎn)生Midjourney,

Runway,Stable

Diffusion等

AIGC：

圖像生成

AIGC：

由文本描述生成圖像?代表性平臺Midjourney生成的圖像真假難辨?Control

Net根據(jù)指定人物姿態(tài)

，

生成性別、

衣著、

環(huán)境各異的逼真圖像

AIGC：可控圖像生成

AIGC：

DeepFake?合成高度逼真的人像或視頻?從詞向量預(yù)訓(xùn)練轉(zhuǎn)向雙向語言模型

，

并最終轉(zhuǎn)向生成式預(yù)訓(xùn)練2013年2017年2018年2019年

2020年GPT-2word2vecGPT-3ELMo

AIGC：語言大模型GPT-1BERT?

預(yù)訓(xùn)練

，

自監(jiān)督學(xué)習(xí)（MASK）

，

強(qiáng)生成能力

，

自我進(jìn)化（

GPT4

==》

AutoGPT

，

GPT4+

，

。

。

。）?泛化能力

(PLLM+SFT

指令微調(diào)

+多項(xiàng)下游任務(wù)）?人類反饋強(qiáng)化學(xué)習(xí)（

RLHF）

--訓(xùn)練獎勵函數(shù)=》對齊?涌現(xiàn)和統(tǒng)一（

Emergence

and

Homogenization）：人的大腦工作原理規(guī)模效應(yīng)帶來質(zhì)變

，Token-based

Transformer■基礎(chǔ)大模型

(ChatGPT+,AIGC)?

人類歷史上最受歡迎的產(chǎn)品：

2個月1億用戶（2022年12-2023年1月底）?

全球范圍影響力巨大：

遠(yuǎn)超AlphaGo?

提供用戶界面：

不完美但高價值?

獲得各界高度評價

，

誕生若干“時刻”?

Anderson：

“網(wǎng)景”時刻?Huang：

“iPhone”時刻?

Gates：

“GUI時刻”

，

地位類似PC、

互聯(lián)網(wǎng)?……

ChatGPT現(xiàn)象?

通過“圖靈測試”?

對話式AI（conversational

AI）/聊天機(jī)器人已有50+年研究歷史?

第一個智能體（generative

AI）通過“圖靈測試”

我的“ChatGPT”

時刻！ELIZA（伊莉莎）

--Joseph

WeizenbaumMIT

1966年

，

臨床治療中模仿心理醫(yī)生Cortana天貓精靈GoogleAlexaSiri小度找方案&找標(biāo)準(zhǔn)找方案微信（掃第一個碼）每日分享各個領(lǐng)域高質(zhì)量專業(yè)的解決方案，內(nèi)容包括某省市、鄉(xiāng)村振興、智慧城管、智慧園區(qū)、智慧公安、智慧水務(wù)（水利）、智慧林草、社會綜合治理、智慧旅游、智慧工地、智慧環(huán)衛(wèi)、智慧醫(yī)院、智慧環(huán)保、智慧安監(jiān)等領(lǐng)域，結(jié)合數(shù)字孿生、人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等技術(shù)，分享行業(yè)售前方案、設(shè)計(jì)方案、技術(shù)方案和項(xiàng)目信息等。找標(biāo)準(zhǔn)微信（掃第二個碼）每日分享各個智慧領(lǐng)域國家和地方標(biāo)準(zhǔn)規(guī)范，國家和地方政策指導(dǎo)文件，讓各個智慧方案有據(jù)可依，內(nèi)容包括找方案中的各個行業(yè)的政策和規(guī)范，內(nèi)容在不斷的收集和完善中。找方案知識星球（掃第三個碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，個人學(xué)習(xí)使用，請勿用于商業(yè)用途）。找標(biāo)準(zhǔn)知識星球（掃第四個碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，個人學(xué)習(xí)使用，請勿用于商業(yè)用途）。找方案星球優(yōu)惠券（掃第五個碼）掃描69元價格優(yōu)惠加入，1W+方案任意下載，資源不斷的豐富完善中......找方案微信找方標(biāo)準(zhǔn)信基礎(chǔ)大模型?

開啟了通用人工智能之路（深度學(xué)習(xí)2.0）專用任務(wù)常識通識

我的“ChatGPT”

時刻！語音人臉翻譯圖像圍棋自動駕駛蛋白質(zhì)通用任務(wù)……?

GPT+：人工智能時代的操作系統(tǒng)OS

重構(gòu)/重塑

PC互聯(lián)時代

Intel

x86

+Windows

+瀏覽器

+應(yīng)用

某著名企業(yè)互聯(lián)時代ARM

+iOS/And

rio

d

+

應(yīng)用商店

+APP

智能時代

GPU/CPU/XPU+基礎(chǔ)大模型+

IAAS

我的“ChatGPT”

時刻！1倍10倍100倍+垂直模型+SAAS

未來的技術(shù)架構(gòu)?當(dāng)前的大模型稠密激活

，

計(jì)算效率遠(yuǎn)低于人腦

，

商用成本高昂?

改進(jìn)方向：

稀疏激活網(wǎng)絡(luò)、

效果更優(yōu)的小網(wǎng)絡(luò)等等

未來方向：效率1.2～1.6kg,

1015突觸連接

，約20瓦10000塊V100訓(xùn)練14.8天

，

單塊V100250瓦

未來方向：模型交互?

模型間如何互相調(diào)用？模型如何使用工具？?

基礎(chǔ)模型間如何進(jìn)行聯(lián)邦學(xué)習(xí)？基礎(chǔ)大模型2基礎(chǔ)大模型1垂直模型N垂直模型2工具垂直模型1如何互相調(diào)用？如何調(diào)用工具？如何聯(lián)邦？

未來方向：邊緣部署?

邊緣端算力有限

，

如何在邊緣端利用基礎(chǔ)大模型？數(shù)據(jù)基礎(chǔ)大模型邊緣小模型邊緣小模型邊緣小模型如何傳輸知識？通用人工智能

AIGC大模型將帶來新范式——生成AIGenerateTextCodeToolsGenerateMoleculeDrugsMaterialsEquations(AI4S)Discriminative

AI

Generative

AI:GenerateImage,Video,Speech,MusicWhat

?How

?Why??多算法/多任務(wù)/多模型

統(tǒng)一算法/多模態(tài)/預(yù)訓(xùn)練大模型?ChatGPT:通過“圖靈測試”

，

通識

，

開啟通用人工智能時代亮光?基礎(chǔ)大模型：Token-based,Scaling

,涌現(xiàn)和統(tǒng)一,AI時代

的操作系統(tǒng)?行業(yè)垂直基礎(chǔ)模型+開源模型

+API/Plugin/Auto

新2C/2B

應(yīng)用新生態(tài)（

100X）?創(chuàng)新和教育的大機(jī)遇

!

總結(jié)：AI大模型時代

Afew

moreWordstoStudentsl做永恒的學(xué)習(xí)者

，應(yīng)對變化l獨(dú)特的觀點(diǎn)

，

批判性思維l大膽試錯

，

找到你的路徑l保持激情、

純真、

棱角和鋒芒Whenwed

areto

dream,

weachievegreatness.找方案&找標(biāo)準(zhǔn)找方案微信（掃第一個碼）每日分享各個領(lǐng)域高質(zhì)量專業(yè)的解決方案，內(nèi)容包括某省市、鄉(xiāng)村振興、智慧城管、智慧園區(qū)、智慧公安、智慧水務(wù)（水利）、智慧林草、社會綜合治理、智慧旅游、智慧工地、智慧環(huán)衛(wèi)、智慧醫(yī)院、智慧環(huán)保、智慧安監(jiān)等領(lǐng)域，結(jié)合數(shù)字孿生、人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等技術(shù)，分享行業(yè)售前方案、設(shè)計(jì)方案、技術(shù)方案和項(xiàng)目信息等。找標(biāo)準(zhǔn)微信（掃第二個碼）每日分享各個智慧領(lǐng)域國家和地方標(biāo)準(zhǔn)規(guī)范，國家和地方政策指導(dǎo)文件，讓各個智