2025首屆全國天文公眾科學(xué)大會:空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座_第1頁
2025首屆全國天文公眾科學(xué)大會:空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座_第2頁
2025首屆全國天文公眾科學(xué)大會:空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座_第3頁
2025首屆全國天文公眾科學(xué)大會:空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座_第4頁
2025首屆全國天文公眾科學(xué)大會:空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座_第5頁
已閱讀5頁,還剩22頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

空天大數(shù)據(jù)存儲的挑戰(zhàn)與創(chuàng)新如何構(gòu)建可靠的數(shù)據(jù)底座浪潮數(shù)據(jù)方案架構(gòu)師-張文忠目錄

|

Contens1

行業(yè)趨勢分析2

數(shù)據(jù)存儲方案

項(xiàng)目最佳實(shí)踐31

行業(yè)趨勢分析商業(yè)航天業(yè)務(wù)概覽n

行業(yè)范圍:商業(yè)航天通常包括衛(wèi)星制造、火箭發(fā)射、衛(wèi)星應(yīng)用、太空探索服務(wù)等領(lǐng)域。n

市場規(guī)模:1.中商產(chǎn)業(yè)研究院發(fā)布的《2024—2029年中國服務(wù)器行業(yè)需求預(yù)測及發(fā)展趨勢前瞻報(bào)告》顯示,中國商業(yè)航天市場規(guī)模保持高速增長,從2018年至2023年,市場規(guī)模由0.6萬億元增至1.9萬億元,年均增長率達(dá)23%。預(yù)計(jì)2029年中國市場規(guī)模將達(dá)到6.6萬億元,年復(fù)合增長率約23%。2.2024年前三季度發(fā)射次數(shù)已超2023年全年,顯示出快速增長的趨勢。A股商業(yè)航天產(chǎn)業(yè)鏈相關(guān)上市公司共計(jì)203家。n

行業(yè)格局:1.第一梯隊(duì):航天科技集團(tuán)和航天科工集團(tuán)占據(jù)主導(dǎo)地位,市場份額分別為70.1%和9%。2.第二梯隊(duì):民營火箭公司如星河動(dòng)力、藍(lán)箭航天、東方空間等也在快速崛起,2023年民營發(fā)射次數(shù)占比約

19.4%。3.第三梯隊(duì):中小型企業(yè),理工導(dǎo)航、星際空間等以航空裝備零部件系統(tǒng)為主。n

發(fā)展趨勢:1.發(fā)射工業(yè)化:火箭航班化運(yùn)營(如每周發(fā)射)推動(dòng)成本下降80%。2.衛(wèi)星智能化:AI大模型與遙感數(shù)據(jù)深度融合,催生智能農(nóng)業(yè)、智慧海洋等萬億級市場。3.太空經(jīng)濟(jì)化:太空旅游、在軌制造等新場景商業(yè)化落地。中國遙感行業(yè)生態(tài):遙感產(chǎn)業(yè)鏈上游為衛(wèi)星制造及發(fā)射產(chǎn)業(yè)、航空飛機(jī)、無人機(jī)制造業(yè)及地面基礎(chǔ)設(shè)備

,包括接收設(shè)備、

網(wǎng)絡(luò)設(shè)備、

IT基礎(chǔ)設(shè)施(服務(wù)器、云存儲和人工智能平臺等軟硬件基礎(chǔ)設(shè)施)等。衛(wèi)星制造主要企業(yè)包括:中國航天、中國衛(wèi)星、世紀(jì)空間、長光衛(wèi)星、歐比特等;衛(wèi)星發(fā)射企業(yè)主要包括:中國航天、零壹空間、藍(lán)箭空間。遙感產(chǎn)業(yè)鏈中游主要為遙感數(shù)據(jù)接收處理企業(yè)

,遙感應(yīng)用服務(wù)企業(yè)。遙感數(shù)據(jù)接收處理企業(yè)主要單位包括:航天宏圖(PIE)、世紀(jì)空間(PCI代理)、易智瑞(ENVI代理)、

中科九度等;遙感應(yīng)用服務(wù)企業(yè)主要包括航天宏圖、

中科星圖、世紀(jì)空間、歐比特等。{IT基礎(chǔ)設(shè)施服務(wù)器、存

儲、AI設(shè)備氣象海洋水利自然資源生態(tài)環(huán)境農(nóng)林特種國防無人機(jī)和其他載荷制造業(yè)遙感行業(yè)生態(tài)中游數(shù)據(jù)處理和應(yīng)用系統(tǒng)政府衛(wèi)星數(shù)據(jù)接收處理航空影像數(shù)據(jù)處理衛(wèi)星發(fā)射軍隊(duì)商用遙感衛(wèi)星民用衛(wèi)星制造下游消費(fèi)市場上游基礎(chǔ)設(shè)施0-4級數(shù)據(jù)5-6級數(shù)據(jù)l遙感數(shù)據(jù)的

智能解譯l衛(wèi)星智能化

生產(chǎn)線l衛(wèi)星數(shù)據(jù)交易平臺l衛(wèi)星數(shù)據(jù)全生命周期管理l在軌衛(wèi)星的

智能運(yùn)維l

CAD、仿真設(shè)計(jì)l星地協(xié)同

邊緣計(jì)算l地面測控系

統(tǒng)自動(dòng)化l空天地一體化觀測網(wǎng)絡(luò)l智慧發(fā)射場衛(wèi)星遙感信息化業(yè)務(wù)場景場景化融合(商業(yè)航天+自動(dòng)駕駛,商業(yè)航天+智慧城市)智能數(shù)據(jù)處理?深度學(xué)習(xí)自動(dòng)校正圖像(如NASA使用CNN消除云

層干擾)?超分辨率重建(ESA的EnMAP衛(wèi)星數(shù)據(jù)分辨率提升

4倍)?多源數(shù)據(jù)融合(Sentinel-1雷達(dá)與Landset-8光學(xué)數(shù)據(jù)AI配準(zhǔn))地物識別與分類?建筑物提取:

Maxar的AI模型在迪拜實(shí)現(xiàn)95%自動(dòng)

識別精度?作物分類:PlantVillage系統(tǒng)結(jié)合Sentinel-2數(shù)據(jù)識

別14類作物(準(zhǔn)確率89%)?災(zāi)害評估:日本ALOS衛(wèi)星+AI實(shí)現(xiàn)臺風(fēng)后損毀評估

提速300%動(dòng)態(tài)監(jiān)測系統(tǒng)?非法捕撈監(jiān)測:Global

Fishing

Watch實(shí)時(shí)分析70

萬艘船只?森林砍伐預(yù)警:Amazon

Conservation的RAISG系

統(tǒng)提前14天預(yù)測風(fēng)險(xiǎn)?城市擴(kuò)張分析:中國高分衛(wèi)星+AI跟蹤雄新區(qū)建設(shè)

進(jìn)度自然語言處理遙感報(bào)告自動(dòng)生成

智能檢索系統(tǒng)地理空間知識圖譜構(gòu)建知識圖譜多模態(tài)知識抽取時(shí)空知識表示星地協(xié)同智能語音語音錄入智能導(dǎo)航語音控制人機(jī)互動(dòng)可穿戴機(jī)器人3D空間交互實(shí)體沙盤+實(shí)時(shí)投影腦機(jī)接口深度應(yīng)用計(jì)算機(jī)視覺圖像識別目標(biāo)定位與檢測語義分割三維重建信息化趨勢-衛(wèi)星遙感AI人工智能大模型在衛(wèi)星遙感技術(shù)中應(yīng)用場景智能數(shù)據(jù)處理邊緣計(jì)算動(dòng)態(tài)監(jiān)測地物識別

地方發(fā)展

n2024年,上海浦東新區(qū)從健康醫(yī)療、金融、交通、氣象等數(shù)據(jù)價(jià)值高、需求密集領(lǐng)域入手推進(jìn)公共

數(shù)據(jù)場景授權(quán)落地。到2025年,

至少實(shí)現(xiàn)20個(gè)公

共數(shù)據(jù)賦能產(chǎn)業(yè)發(fā)展和社會民生服務(wù)高價(jià)值案例n2023年,

深圳數(shù)據(jù)交易所達(dá)成國內(nèi)首筆基于數(shù)據(jù)

空間技術(shù)的場內(nèi)數(shù)據(jù)業(yè)務(wù)合作,

打造我國首個(gè)智

能制造領(lǐng)域數(shù)據(jù)空間應(yīng)用案例n

2022年,

江蘇省率先開展了可信數(shù)據(jù)空間行業(yè)試

點(diǎn)工作,在家紡行業(yè)與電子行業(yè)部署可信數(shù)據(jù)空

間測試床,取得良好成效n

10月18日,國家數(shù)據(jù)局對外公布《可信數(shù)據(jù)空間發(fā)展行動(dòng)計(jì)劃(2024—2028年)》(征求意見稿)(下稱《計(jì)劃》),《計(jì)劃》提出到2028年,可信數(shù)據(jù)空間標(biāo)準(zhǔn)體系、技術(shù)體系、生態(tài)體系、安全體系等取得突破,建成100個(gè)以上可信數(shù)據(jù)空間工業(yè)裝備能源科技創(chuàng)新人工智能高性能計(jì)算醫(yī)療新藥研制材料開發(fā)農(nóng)業(yè)育種研發(fā)

農(nóng)產(chǎn)品追溯金融金融保險(xiǎn)

理財(cái)投資數(shù)據(jù)空間運(yùn)營方數(shù)據(jù)共享信息化趨勢-行業(yè)可信數(shù)據(jù)空間鼓勵(lì)創(chuàng)建城市可信數(shù)據(jù)空間重點(diǎn)行業(yè)穩(wěn)慎探索個(gè)人可信數(shù)據(jù)空間重點(diǎn)培育行業(yè)可信數(shù)據(jù)空間探索構(gòu)建跨境可信數(shù)據(jù)空間積極推廣企業(yè)

可信數(shù)據(jù)空間移動(dòng)出行自動(dòng)駕駛新能源車五大層次全新的信息化運(yùn)行方式增強(qiáng)衛(wèi)星遙感

+AIAI部署在衛(wèi)星遙感業(yè)務(wù)應(yīng)用重塑衛(wèi)星遙感應(yīng)用架構(gòu)?

AI訓(xùn)練能力建立,可以根據(jù)流程調(diào)整需求升級,例如重構(gòu)衛(wèi)星遙感專業(yè)模型差異領(lǐng)先關(guān)鍵:多模態(tài)數(shù)據(jù)與行業(yè)模型?

AI訓(xùn)練能力差異領(lǐng)先,推理能

力全面領(lǐng)先?

行業(yè)數(shù)據(jù)斷代領(lǐng)先?

AI推理能力部署在衛(wèi)星遙感的現(xiàn)有環(huán)節(jié)中?

行業(yè)專業(yè)模型建立行業(yè)數(shù)據(jù)建立行業(yè)數(shù)據(jù)與模型領(lǐng)先行業(yè)數(shù)據(jù)斷代領(lǐng)先,

模型全面領(lǐng)先基礎(chǔ):高質(zhì)量多元算力推理算力建設(shè)訓(xùn)練算力建設(shè)綜合算力建設(shè)近期中期長期浪潮觀點(diǎn):

AI戰(zhàn)略建設(shè)路徑躍遷AI*衛(wèi)星遙感AI

+衛(wèi)星遙感重塑2

數(shù)據(jù)存儲方案2001-2006年

2006-2012年2012-2020年2020-2025年2025年以后 以“人”為中心以“設(shè)備”為中心以“數(shù)據(jù)”為中心東數(shù)西算10大國家數(shù)據(jù)中心集群數(shù)據(jù)要素加速數(shù)據(jù)中心向“數(shù)據(jù)型”中心轉(zhuǎn)變衛(wèi)星遙感數(shù)據(jù)已成為國家戰(zhàn)略資源和新型生產(chǎn)要素,其價(jià)值創(chuàng)造模式正從傳統(tǒng)的觀測服務(wù)向智能化決策支持躍遷。物理中心

聯(lián)網(wǎng)中心云中心算力型中心數(shù)據(jù)型中心數(shù)據(jù)中心向數(shù)據(jù)型中心演進(jìn)衛(wèi)星遙感觀測服務(wù)決策效率攬升以數(shù)馭物,“人機(jī)物”三元融合數(shù)據(jù)是核心驅(qū)動(dòng)力跨國公司國內(nèi)數(shù)據(jù)中心建設(shè)自動(dòng)駕駛事故發(fā)生率降低智能制造生產(chǎn)效率提升模型、智能體、數(shù)據(jù)空間

疊加

倍增

放大

知識數(shù)據(jù)資本技術(shù)勞動(dòng)管理土地租戶管理服務(wù)日志管理服務(wù)中間件服務(wù)數(shù)據(jù)庫服務(wù)

字網(wǎng)關(guān)服務(wù)鑒權(quán)認(rèn)證服務(wù)傳輸交換服務(wù)安全服務(wù)服塊計(jì)算資源池網(wǎng)絡(luò)資源池Tape/BD?空間經(jīng)濟(jì)計(jì)量:衛(wèi)星數(shù)據(jù)GDP貢獻(xiàn)率測算(預(yù)估2030年達(dá)0.8%)?認(rèn)知智能服務(wù):知識圖譜使數(shù)據(jù)價(jià)值密度提升10倍?星際資源勘探:月球/火星遙感數(shù)據(jù)商業(yè)應(yīng)用生態(tài)

監(jiān)測

規(guī)劃建設(shè)智慧空天大數(shù)據(jù)中心存儲即平臺場景共同體DaaS數(shù)據(jù)應(yīng)用服務(wù)應(yīng)

用數(shù)

據(jù)平

基礎(chǔ)數(shù)據(jù)總線IaaSPaaS

數(shù)據(jù)源A數(shù)據(jù)源B數(shù)據(jù)源C數(shù)據(jù)源D數(shù)據(jù)源E數(shù)據(jù)源F數(shù)據(jù)存儲底座數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)存儲管理大數(shù)據(jù)分析報(bào)表整合流式處理FTPHttp

iSCSI

S3存儲

源池?cái)?shù)據(jù)調(diào)度數(shù)據(jù)底座SaaS分布式數(shù)據(jù)庫非結(jié)構(gòu)化數(shù)據(jù)大數(shù)據(jù)HD云平臺AI輔助務(wù)中務(wù)對象服務(wù)文件服務(wù)HDDSSD數(shù)據(jù)治理大數(shù)據(jù)AIGC數(shù)據(jù)服務(wù)資源監(jiān)測數(shù)據(jù)集成數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)應(yīng)用數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集數(shù)

據(jù)

集元

數(shù)

據(jù)NFS

CIFSHDFSSwift

客戶端遙感數(shù)據(jù)

監(jiān)控視頻多傳感器?海量、多源、異構(gòu)的海洋數(shù)據(jù)?各個(gè)存儲平臺支撐的業(yè)務(wù)系統(tǒng)

間無法進(jìn)行數(shù)據(jù)流轉(zhuǎn)數(shù)據(jù)擴(kuò)展26.91%每年?無法根據(jù)新業(yè)務(wù)需求,靈活調(diào)

整對外接口協(xié)議能力成本維護(hù)?運(yùn)維人員需要具備多個(gè)廠商多

套設(shè)備同時(shí)運(yùn)維的能力?運(yùn)維成本高作業(yè)時(shí)間長

數(shù)據(jù)吞吐?存儲設(shè)備吞吐量低?作業(yè)傳輸時(shí)間長,計(jì)算作業(yè)時(shí)間

長提高性能

提高TB級帶寬

解決數(shù)據(jù)傳輸時(shí)間過長,計(jì)算時(shí)間

短的問題彈性擴(kuò)展+靈活擴(kuò)容多協(xié)議互通互訪

實(shí)現(xiàn)多協(xié)議互訪互通,靈活調(diào)整多

協(xié)議對外服務(wù)能力

多業(yè)務(wù)平臺間按需數(shù)據(jù)高效流轉(zhuǎn),

消除數(shù)據(jù)孤島

EB級容量擴(kuò)容空間

彈性擴(kuò)容,在線增刪節(jié)點(diǎn),客戶無感知,集群性能隨著節(jié)點(diǎn)的增加而線性增長

一套管理軟件infinistor完成分

布式集群存儲的統(tǒng)一監(jiān)控

提高運(yùn)維效率,提供一體化智能

運(yùn)維綜合解決方案衛(wèi)星遙感數(shù)據(jù)面臨的挑戰(zhàn)與問題簡化運(yùn)維+降低成本多介質(zhì)、多平臺、多傳感器數(shù)據(jù)存儲傳輸效率低運(yùn)維管理復(fù)雜靈活性差備份歸檔存儲池訓(xùn)練/推理高性能存儲池采集處理高效存儲池融合共享存儲池HPC應(yīng)用大數(shù)據(jù)

云計(jì)算平臺人工智能備份歸檔數(shù)據(jù)備份

數(shù)據(jù)歸檔預(yù)處理模型訓(xùn)練仿真驗(yàn)證推理

數(shù)據(jù)歸檔自動(dòng)建模工具AI框架性能分析工具數(shù)據(jù)管理與標(biāo)注平臺SEED模型開發(fā)與管理平臺AI-Station高并發(fā)仿真平臺推理預(yù)測資源監(jiān)測氣象預(yù)報(bào)

環(huán)境監(jiān)測

星際資源勘探

模型服務(wù)+云平臺服務(wù)高性能計(jì)算

圖形圖像渲染建模仿真分析環(huán)境科學(xué)分析衛(wèi)星遙感數(shù)據(jù)處理整體方案設(shè)計(jì)因子分析決策樹分析統(tǒng)一報(bào)告平臺資源庫平臺用得好多協(xié)議支持,支持文件、對象S3、大數(shù)據(jù)HDFS、POSIX算得快AS13000

,滿足極致性能需求存得多EB級擴(kuò)展,滿足未來極致容量需求計(jì)算結(jié)果導(dǎo)入AUS流處理

SDH批處理rrrrr中尺度大氣模式WRFFEPGA地質(zhì)建模EVS分子模擬軟件分析模擬軟件

Ansys智能融合存儲系統(tǒng)EB級超大規(guī)模智能存儲編排數(shù)據(jù)匯聚實(shí)測數(shù)據(jù)冷數(shù)據(jù)近線長效存儲遙感數(shù)據(jù)多模態(tài)數(shù)據(jù)層次化

異質(zhì)存儲融合架構(gòu)社會科學(xué)數(shù)據(jù)方案架構(gòu):解耦、融合、擴(kuò)展面向HABC的存儲解決方案數(shù)控分離架構(gòu),單節(jié)點(diǎn)帶寬大于100GB/s硬件加速設(shè)計(jì),

30TB/s集群帶寬,10w+高并發(fā)需求數(shù)據(jù)熱度識別分級,自動(dòng)遷移、刪除熱溫冷數(shù)據(jù)全生命周期管理,

保證成本和性能高密硬件存儲,最高105盤位,單節(jié)點(diǎn)2.5PB空間壓縮算法,最高可壓縮40%數(shù)值模擬

AI預(yù)測

大數(shù)據(jù)分析

數(shù)據(jù)建模存儲空間壓縮,降低客戶成本軟硬協(xié)同優(yōu)化,高效數(shù)據(jù)流動(dòng)智能數(shù)據(jù)管理,更加便捷高效索引檢索工作流驅(qū)動(dòng)解耦可組合存儲軟硬件協(xié)同設(shè)計(jì)AI使能全生命周期數(shù)據(jù)編織高吞吐分布式文件存儲海量分布式融合存儲高性能并行存儲數(shù)據(jù)編排主動(dòng)特征析取數(shù)據(jù)采集數(shù)據(jù)準(zhǔn)備 數(shù)據(jù)訓(xùn)練 數(shù)據(jù)推理 數(shù)據(jù)歸檔溫?cái)?shù)據(jù)池HDD36盤位混閃存儲集群熱數(shù)據(jù)池NVMe24盤位全閃存儲集群冷數(shù)據(jù)池HDD60盤位混閃存儲集群冰數(shù)據(jù)池藍(lán)光帶庫融合存儲資源池,高性能、高利用率面向人工智能應(yīng)用的存儲解決方案NV-GPU計(jì)算服務(wù)器國產(chǎn)-GPU計(jì)算服務(wù)器計(jì)算過程和結(jié)果寫入緩存,

Prefill時(shí)延降低80%

GPU多輪利用,可處理每秒請求數(shù)量提升3-8倍多種協(xié)議實(shí)時(shí)互通,實(shí)現(xiàn)數(shù)據(jù)即時(shí)共享數(shù)據(jù)冷熱分層自動(dòng)流轉(zhuǎn),TCO降低20%以上智能緩存優(yōu)化,小文件性能提升5倍GPU直通存儲,大模型訓(xùn)練時(shí)間縮短50%KV存儲加持,提升GPU利用率橫向數(shù)據(jù)流動(dòng),提升存儲效率縱向數(shù)據(jù)訪問,加快訓(xùn)練速度巨至至到

S3

NFS

POSIX

推理全閃KV存儲推理調(diào)度平臺NVMeHDDHDDHDDHDDHDDSSD面向可信數(shù)據(jù)空間的存儲解決方案數(shù)據(jù)歸集

原料區(qū)加工區(qū)粗加工語料區(qū)精加工語料區(qū)運(yùn)營區(qū)數(shù)據(jù)編織服務(wù),提升標(biāo)注效率30%AI智能調(diào)度算法與數(shù)據(jù)流轉(zhuǎn)策略,快速完成數(shù)據(jù)流轉(zhuǎn)數(shù)據(jù)中心級全生命周期存儲,

管理效率提升5倍多模態(tài)混合應(yīng)用負(fù)載,

TCO降低20%以上SSD

HDD

磁帶

藍(lán)光

公有云

文件

KV

對象大數(shù)據(jù)統(tǒng)一元數(shù)據(jù)管理、全局統(tǒng)一視圖數(shù)據(jù)加密、可信流通數(shù)據(jù)交易區(qū)分布式智能融合存儲存儲資源優(yōu)化,加速數(shù)據(jù)處理智能數(shù)據(jù)管理,更加安全高效統(tǒng)一存儲池,數(shù)據(jù)高效歸集協(xié)議融合介質(zhì)融合精篩數(shù)據(jù)人工進(jìn)行標(biāo)注滿足質(zhì)量/合規(guī)要求數(shù)據(jù)原始數(shù)據(jù)寫入原格式副本

數(shù)據(jù)庫日志

備份集副本備份存儲…本地服務(wù)器

豐富網(wǎng)絡(luò)協(xié)議支持

備份與恢復(fù)通道解耦

面向數(shù)據(jù)全生命周期管理的解決方案恢復(fù)數(shù)據(jù)庫連續(xù)日志保護(hù),秒級RPO即時(shí)恢復(fù),

分鐘級RTO恢復(fù)到任意時(shí)間點(diǎn),防范邏輯錯(cuò)誤原生接口對接,應(yīng)用一致性保證

數(shù)據(jù)流傳輸控制可選重刪壓縮加密數(shù)據(jù)庫文件分布式主存?zhèn)浞菁c原格式兼顧,多種的備份特性選擇Redo

Log日志Agent數(shù)據(jù)安全保障,備份數(shù)據(jù)無恙生產(chǎn)數(shù)據(jù)庫系統(tǒng)SAN存儲NAS存儲對象存儲數(shù)據(jù)庫日志恢復(fù)存儲備份存儲備份存儲原生接口

多協(xié)議融合互通架構(gòu)

多元異構(gòu)集群納管NFS/CIFS/FTP數(shù)據(jù)免遷移即時(shí)共享語義無損大數(shù)據(jù) 新一代數(shù)據(jù)加速引擎端到端性能優(yōu)化分布式并行客戶端

DataTurbo架構(gòu)平臺全局一致性緩存元數(shù)據(jù)索引大模型存儲通用型AS13000G7系列TB級帶寬千萬級IOPSEB級容量推理加速面向遙感衛(wèi)星行業(yè)的融合存儲系統(tǒng)分布式哈希表字節(jié)級數(shù)據(jù)鎖性能型容量型數(shù)控分離盤控一體IO聚合壓縮KV型對象文件智能預(yù)讀S3/SwiftHDFS3

項(xiàng)目最佳實(shí)踐l世界上口徑最大、靈敏度最高的射電望遠(yuǎn)鏡FAST,具有強(qiáng)大的脈沖星搜尋能力,

年觀測時(shí)長超過5000機(jī)時(shí)l數(shù)據(jù)接受率最高可達(dá)38GB/s,提供足夠的訪問帶寬和較低的延遲l年觀測數(shù)據(jù)量10PB-12PB,海量觀測數(shù)據(jù)長期保存解決方案l提供全閃文件系統(tǒng),

80GB/s讀寫帶寬l提供分級存儲方案,AS13000+藍(lán)光,

實(shí)現(xiàn)數(shù)據(jù)的全生命周期管理l采用4U60高密節(jié)點(diǎn),

節(jié)省TCO和機(jī)房空間國家天文臺

FAST數(shù)據(jù)存儲與計(jì)算L2集群AS13000全閃L3集群AS13000混閃最佳實(shí)踐:助力FAST探索宇宙起源200+節(jié)點(diǎn),為FAST大科學(xué)裝備提供超百PB大容量全生命周期存儲解決方案海量文件存儲池HPCL1Cache歸檔(藍(lán)光)RAW客戶需求衛(wèi)星軌道原始數(shù)據(jù)日增長0級數(shù)據(jù)日增長產(chǎn)品生產(chǎn)日增長歸檔數(shù)據(jù)日增長每衛(wèi)星日增長ZY3026條150GB(25*6)1.46TB1.5TB1

.8TB4.9TBGF615條450GB(30*15)5.8TB1

TB5.13TB12.3TBGF1B8條240GB(30*8)2.4TB1

TB1

.5TB5.13TBGF1C8條240GB(30*8)3.1TB1TB1

.5TB5.13TBGF1D8條240GB(30*8)3.1TB1

TB1

.5TB5.13TB日均總增長量32.59TB年均總增長量11.89PB?支撐“資源一號02C”、“資源三號”共三顆資源衛(wèi)星處理能力

,后續(xù)會增加到10顆衛(wèi)星。?日處理3萬張衛(wèi)星資源監(jiān)測照片

,覆蓋250萬平方公里;?接收到的衛(wèi)星信息經(jīng)過數(shù)據(jù)處理集群后形成多個(gè)1G~5G大小的tiff文件

,寫入到存儲集群中?要求單個(gè)節(jié)點(diǎn)讀寫帶寬900MB

,總帶寬隨節(jié)點(diǎn)數(shù)線性增加

,不低于40GB/s

,7*24小時(shí)不間斷運(yùn)行?衛(wèi)星數(shù)據(jù)圖片的存儲、高速訪問

,大文件小塊IO?

單存儲池存儲容量要求大于70PB?將遙感衛(wèi)星產(chǎn)生的原始數(shù)據(jù)

,通過hadoop計(jì)算集群和GPU異構(gòu)計(jì)算集群計(jì)算

,產(chǎn)生1級到4級的不同的處理數(shù)據(jù)

,并將數(shù)據(jù)存入分布式

,對外售賣或供各類機(jī)構(gòu)使用。最佳實(shí)踐:ZY衛(wèi)星中心存儲平臺300+節(jié)點(diǎn),百PB+,遠(yuǎn)程數(shù)據(jù)容災(zāi),數(shù)據(jù)全生命周期存儲解決方案n

CG衛(wèi)星是我國第一家商業(yè)遙感衛(wèi)星公司

大容量歸檔存儲,數(shù)據(jù)歸檔業(yè)務(wù)(遙感圖像10GB大文件tif,小IO順序讀寫圖像分

析),

45PB,融合互通n

容量:45PBn

目錄結(jié)構(gòu):4級,按衛(wèi)星名-編號-年月時(shí)間目錄下文件數(shù)量不等,基本上都是上G的大文件,也有小量KB級別描述文件,文檔等n

文件:幾兆到幾G不等,大多數(shù)為大文件最佳實(shí)踐:CG衛(wèi)星數(shù)據(jù)融合存儲平臺45PB+

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論