2024清華同方大模型技術(shù)白皮書_第1頁
2024清華同方大模型技術(shù)白皮書_第2頁
2024清華同方大模型技術(shù)白皮書_第3頁
2024清華同方大模型技術(shù)白皮書_第4頁
2024清華同方大模型技術(shù)白皮書_第5頁
已閱讀5頁,還剩56頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)

文檔簡介

目錄TSINGHUATSINGHUAAI大模型技術(shù)快速成熟,AI實際作用:很有限使用難度:邊際成本:線性增長業(yè)務(wù)1業(yè)務(wù)2業(yè)務(wù)3業(yè)務(wù)4業(yè)務(wù)44&1.模型基礎(chǔ)架構(gòu)2.主流模型數(shù)量3.客戶自研算子4.主流開發(fā)框架 TSINGHUA所可以

TSINGHUA

智能客服

海量離散小模型

文檔寫 網(wǎng)站制

醫(yī)療咨 少數(shù)大模型匯聚

平面廣

內(nèi)容搜

內(nèi)容剪

分子生 智能問

2C應(yīng)用的挑戰(zhàn)在于用戶商業(yè)付費挑戰(zhàn)大:TSINGHUATSINGHUATSINGHUATSINGHUA銷 審 教財 金 培

電 保 設(shè) 繪 開 客 營 人 財辦 采 社

電 醫(yī) 教零 金 制 巨頭陣 產(chǎn)品涌巨頭陣 產(chǎn)品涌 數(shù) 算 算TSINGHUA模型開 場景適 推理部TSINGHUA技術(shù)風(fēng) 社會風(fēng) 經(jīng)濟風(fēng) 政治風(fēng)TSINGHUA同方計算機大模型能力

DALL·E213OpenLLaMA模型微軟DeepSpeedChatStabilityminiTSINGHUAChatGPT已具備商業(yè)應(yīng)用的基礎(chǔ),深耕行業(yè)的AI數(shù)據(jù)服務(wù),此次聯(lián)手微軟(OpenAI)、百度文心,率先接入ChatGPT功能,進行場景化解決

TSINGHUA IssTSINGHUA語義分割技術(shù)

TSINGHUA在語音翻譯、圖像、視頻等內(nèi)

1

2、生成圖片、視頻,把顧問的想法用多種媒AnastronautridingahourseasapencilTSINGHUA

4U機架服務(wù)器(175mm4U機架服務(wù)器(175mm447mm×4*8*半精度(FP16)2.5單精度(FP32)0.68*60GHBM;支持32個DDR4NPUHCCS全互聯(lián),互聯(lián)帶寬NPU直出8*200G風(fēng)冷散熱(液冷可選昇騰910B48

NVNV

類模型大算力Cube類模型

PCIe+HCCS+

類模型類模型

推薦類模型推薦類模型

MTTSINGHUAAtlasAtlas300IPro支持1或2Atlas300T訓(xùn)練*111.15mmxLPDDR4x24GB大內(nèi)存|204.8GB/s內(nèi)存帶寬,支持整數(shù)精度(INT8)140TOPS半精度(FP16)7072

單卡提供最大140TOPSINT8算力

單卡實現(xiàn)能效比達(dá)1.94TOPS/W領(lǐng)先業(yè)界主流產(chǎn)品20%

TSINGHUACANN

CANN

CANN支持多種AI支持多種AI,2816 ATCTSINGHUA并行代碼數(shù)量電磁仿真套 支持全場景部署 調(diào)優(yōu)時間使能科研創(chuàng)新與產(chǎn)業(yè)應(yīng) 商業(yè)生態(tài)開發(fā)者生態(tài)學(xué)術(shù)生態(tài)320萬+120+ TSINGHUA&&&數(shù)據(jù)集

WEB WEBTSINGHUA

(存儲TSINGHUATSINGHUA

TSINGHUA

TSINGHUA專屬向量庫專屬向量庫

大模型與向量數(shù)據(jù)庫協(xié)同流程提 對問題進大模型與向量數(shù)據(jù)庫協(xié)同流程

提示+

通用向量庫

++答 對問題進行回TSINGHUA

(向量數(shù)據(jù)庫

TSINGHUANN輸出結(jié)果生成預(yù)測結(jié)果概率分布神經(jīng)網(wǎng)絡(luò)模塊神經(jīng)網(wǎng)絡(luò)模塊神經(jīng)網(wǎng)絡(luò)模塊神經(jīng)網(wǎng)絡(luò)模塊 詞向量輸入詞向量輸入

Fullfine

Prefix

預(yù)測結(jié)果概率分布預(yù)測結(jié)果概率分布 對多個神經(jīng)網(wǎng)絡(luò)模塊進行參數(shù)微

TSINGHUA①TSINGHUA行業(yè)大模 場景大模 業(yè)務(wù)大模 細(xì)分小模

訓(xùn)練數(shù)據(jù)量:1T/1.4T

訓(xùn)練數(shù)據(jù)量:1T

訓(xùn)練數(shù)據(jù)量:350B

通用語 算力平

TSINGHUA數(shù)據(jù)質(zhì)量問題分析數(shù)據(jù)質(zhì)量問題分析數(shù)據(jù)質(zhì)量問題分析數(shù)據(jù)質(zhì)量問題分析 授權(quán)許 屬地限 數(shù)據(jù)脫容災(zāi)備份終端數(shù)據(jù)數(shù)據(jù)安全 容災(zāi)備份終端數(shù)據(jù)數(shù)據(jù)安全 大模型系統(tǒng)安全

大模型傳輸安 大模型服務(wù)賦服務(wù)器安全加固云計算安全防護資產(chǎn)風(fēng)險漏洞管理數(shù)據(jù)安全防護全網(wǎng)威脅情報安全運營中心守護

流量安全分析未知API識別API濫用識別API安全審計API數(shù)據(jù)脫敏API零信任管理

數(shù)據(jù)分級分類安全風(fēng)險評估應(yīng)急安全響應(yīng)系統(tǒng)滲透測試數(shù)據(jù)安全評估數(shù)據(jù)出境咨詢TSINGHUA

識別和管理AI

法 人力資 價值鏈大模價值鏈大模 企業(yè)管理大模

TSINGHUAAIAI&價值鏈領(lǐng)域大模 企業(yè)管理領(lǐng)域大模TSINGHUATSINGHUA TSINGHUA

TSINGHUA

TSINGHUA

TSINGHUA 元數(shù)據(jù)的測試場景管 高性能算力引

AI

TSINGHUA

4.案件分析與研 5.起草法律文

9

8

7

TSINGHUA 文本in-

調(diào)

TSINGHUATSINGHUATSINGHUATSINGHUATSINGHUAin-TSINGHUALLM應(yīng)用框架LLM應(yīng)用框架langchain+Prompt數(shù)據(jù)加密/下游任務(wù)模型下游任務(wù)模型DeepSpeed TSINGHUATSINGHUATSINGHUATSINGHUATSINGHUA TSINGHUA優(yōu)化sql優(yōu)化SQL把s貼進去后,會給出優(yōu)化建議,以及優(yōu)化的s語句,例如原s使用not進行分頁效率不高,會優(yōu)化成o_nume的形式來提高分頁效率,以及可以對復(fù)雜的s語句提出優(yōu)化建議TSINGHUATSINGHUA來

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論