




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領
文檔簡介
培訓時間:2025年8月5日培訓講師:XXX云數(shù)據(jù)中心計算資源規(guī)劃設計培訓課件
課堂規(guī)則Open—開放的心態(tài)、積極參與、勇敢發(fā)問
Close—封閉的環(huán)境,不要受外界的干擾,請將手機關機或靜音請勿隨意走動、交談感謝您的配合云數(shù)據(jù)中心計算資源規(guī)劃設計在數(shù)據(jù)中心中,計算資源是必不可缺少的資源之一,所以計算資源的規(guī)劃設計就顯得尤為重要,本章膠片將重點介紹計算資源的規(guī)劃設計以及業(yè)務規(guī)劃,并結(jié)合案例,加深理解和認識。學完本課程后,您將能夠:了解數(shù)據(jù)中心架構(gòu);了解資源池規(guī)劃理解計算子系統(tǒng)設計理解業(yè)務規(guī)劃設計數(shù)據(jù)中心架構(gòu)簡介資源池規(guī)劃計算子系統(tǒng)設計業(yè)務規(guī)劃設計云數(shù)據(jù)中心總體架構(gòu)數(shù)據(jù)中心架構(gòu)簡介資源池規(guī)劃計算子系統(tǒng)設計業(yè)務規(guī)劃設計資源池邏輯規(guī)劃A站點5樓(Vmware資源池)A站點5樓(外部客戶區(qū))A站點1樓B站點資源池ManageOne
OperationCenterManageOne
ServiceCenter傳統(tǒng)網(wǎng)絡SDNSDN服務器存儲網(wǎng)絡服務器存儲網(wǎng)絡服務器存儲網(wǎng)絡服務器存儲網(wǎng)絡物理機Vmware虛擬化FusionCompute物理機資源池FusionComputeVmwareVmware虛擬化KVM物理機資源池FusionSphere
OpenStackACFusionSphere
OpenStackeSightACFusionSphere
OpenStackeSight云主機服務云磁盤服務物理機服務EIP告警管理資源管理拓撲管理性能管理報表管理容量管理資源池邏輯拓撲A站點B站點ManageOneSCOpenStackOpenStackvCentervCenterClusterClusterClusterClusterClusterClusterClusterVRMOpenStackvCenterClusterClusterKVMVmware存量納管FusionSphere存量改造5樓1樓新建新建計算資源池構(gòu)建資源池規(guī)劃包括資源池的規(guī)劃,資源池內(nèi)可用分區(qū)的規(guī)劃和資源SLA能力規(guī)劃。資源池規(guī)劃資源池規(guī)劃考慮因素包括地理位置,應用類型,虛擬化類型,資源類型和演進擴容等來劃分可用分區(qū)的規(guī)劃可用分區(qū)規(guī)劃一般考慮以下因素:基于可靠性、工程互聯(lián);基于2層網(wǎng)絡范圍;基于資源SLA能力。資源SLA能力規(guī)劃一個可用分區(qū)可以包含多種SLA等級的集群(或HostAggregate)、存儲池,租戶申請云主機、云磁盤時可以指定SLA等級,例如存儲可以包含不同存儲類型(SATA、SAS、SSD)的存儲池,租戶可以申請不同存儲類型的磁盤。計算資源池每個資源池下包括一個或多個可用分區(qū),每個可用分區(qū)下可以包括一個和多個集群(Vmware或VRM)或主機(KVM)KVM資源池&可用分區(qū)&主機關系SLA標簽類型選項存儲介質(zhì)SSDSASSATA計算等級CPU增強型標準型VRM或Vmware資源池&可用分區(qū)&集群關系SLA標簽定義類型參考數(shù)據(jù)中心架構(gòu)簡介資源池規(guī)劃計算子系統(tǒng)設計業(yè)務規(guī)劃設計計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計KVM設計將業(yè)務虛擬機(包括除FusionSphereOpenStackOM以外其他管理虛擬機)和XEN的占用資源相加,按照CPU維度計算出計算服務器個數(shù),再計算單個服務器需要配置的內(nèi)存。單目標服務器可供虛擬機使用的計算能力單類型虛擬機所需計算服務器數(shù)量計算服務器總數(shù)量計算服務器內(nèi)存數(shù)量硬盤要求單目標服務器的vCPU個數(shù)計算如何計算一個物理服務器到底可以虛擬出多少VCPU,可以參考如下計算公式:VCPU數(shù)量=(物理cpu個數(shù)*物理核數(shù)*每個核邏輯線程數(shù)–dom0cpu核數(shù))*復用率計算舉例:假設服務器配置2路4核的E5620CPU,部署華為UVP,復用率建議為150%,則VCPU數(shù)量=(2*4*2-2)*150%=21計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計FusionCompute架構(gòu)HardwareUVP=Xen-HypervisorDomain0DomainUVMVMCNAFusionSphere
OpenStackCNACNAVRMFusionCompute服務器HostOS-CNA01VRM服務器HostOS-CNA02VRM服務器HostOS-CNAnVMVMVMVM管理節(jié)點計算節(jié)點VirtualizationResourceManagement(VRM):虛擬資源管理ComputingNoteAgent(CNA):計算代理節(jié)點VRM設計VRM是FusionCompute的控制節(jié)點,VRM部署方式與用戶規(guī)模相關。VRM需1+1主備部署。<50PM,VRM虛擬化部署在OpenStack任意2個控制節(jié)點上;≥50PM,VRM物理部署在獨占的2臺物理機上。VRM每個節(jié)點服務器工程配置原則節(jié)點類型最大用戶規(guī)模vCPU內(nèi)存硬盤存儲IOPS說明VRM
<20PM,<200VM6U16G80G150
20~50PM,200~1000VM8U32G80G300
50~100PM,1000~2000VM10U32G80G450
100~256PM,<5000VM14U64G80G750建議物理部署256~512PM,<5000VM18U64G80G750建議物理部署CNA節(jié)點Dom0推薦設計CNA節(jié)點Dom0規(guī)格不同,會影響到虛擬化系統(tǒng)的存儲,網(wǎng)絡,計算等能力,需嚴格按照計算公式設計。序號分類配置規(guī)格說明1Dom0CPU物理服務器超線程數(shù)÷10,取值時需要向上取偶數(shù)值,最小值為2。預留VCPU個數(shù)與最大VCPU個數(shù)保持一致。2Dom0內(nèi)存單個服務器內(nèi)存≤96GB時,Domain0內(nèi)存大小設置為8GB。適用于單個主機最大提供50虛擬機、150虛擬磁盤或100虛擬網(wǎng)卡的規(guī)格。96GB<單個服務器內(nèi)存≤192GB時,Domain0內(nèi)存大小為:單個服務器內(nèi)存(GB)*0.05+8。適用于單個主機最大提供100虛擬機、300虛擬磁盤或200虛擬網(wǎng)卡的規(guī)格。單個服務器內(nèi)存>192GB時,Domain0內(nèi)存大小為:單個服務器內(nèi)存(GB)*0.05+8。適用于單個主機最大提供150虛擬機、450虛擬磁盤或300虛擬網(wǎng)卡的規(guī)格。FusionCompute集群設計計算集群的劃分原則,建議如下設計序號設計點推薦設計0集群規(guī)模單集群建議不超過64節(jié)點;使用分離部署FusionStorage存儲時,單集群建議不超過64節(jié)點;采用融合部署FusionStorage存儲時,單集群建議不超過64節(jié)點1安全級別安全級別不一致用戶單獨劃分集群2業(yè)務類型建議根據(jù)業(yè)務性能要求,劃分不同集群,如高計算業(yè)務集群、高帶寬業(yè)務集群、高IO業(yè)務集群、通用性能業(yè)務集群等3CPU型號相同CPU型號服務器劃分在同一集群;如需將不同CPU型號服務器劃分在同一集群時,需要進行IMC評估。4計算資源預留集群內(nèi)建議至少預留一個服務器節(jié)點的計算資源作為冗余,可以保證在一個服務器節(jié)點出現(xiàn)故障的情況下,有足夠的資源進行HAfc-nova-compute設計VRMFusionManagerFusionSphereOpenStackControllerComputingnodePhysicaldevicesVRMVRMFusionComputeCluster01Cluster02Cluster01Vmwarefc-nova-compute002fc-nova-compute001Fc-nova-compute002Fc-nova-compute001fc-nova-compute002fc-nova-compute001vmware-nova-compute001計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計vCenter設計vCenter是vSphere管理節(jié)點,vCenter部署要求與用戶規(guī)模相關。vCenter建議1+1主備部署。節(jié)點類型最大用戶規(guī)模CPU內(nèi)存硬盤vCenter≤1000PM,≤10000VM16U32G365G≤400PM,≤4000VM8U24G275G≤100PM,≤1000VM4U16G136G≤10PM,≤100VM2U8G116Gvmware-nova-compute設計vmware-nova-compute推薦的設計原則如下:vmware-nova-compute數(shù)量與vCenter下集群數(shù)量保持一致,一個集群對應一個vmware-nova-compute。在256PM以下規(guī)格,建議vmware-nova-compute與控制節(jié)點合布。在256PM以上規(guī)格,建議vmware-nova-compute獨立部署,部署在ExtendController節(jié)點上,每主機可部署的vmware-nova-compute數(shù)量按照主機物理CPU數(shù)目/4計算。vmware-nova-compute采用主備HA部署,單個集群對應的主備兩個vmware-nova-compute部署在不同的控制節(jié)點上;控制節(jié)點上的主備vmware-nova-compute要均勻分布,避免主的vmware-nova-compute集中在某臺控制節(jié)點上。計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計物理機資源池設計對于如Oracle,SQLServer數(shù)據(jù)庫等重載應用,建議采用物理服務器承載。為了保證應用對于存儲的高IO需求,數(shù)據(jù)庫應用采用FCSAN存儲承載。物理機資源池部署FC接入交換機實現(xiàn)服務器的存儲接入,服務器通過2個8GFCHBA端口與2臺光纖交換機互聯(lián),保證存儲接入的可靠性和高性能。物理機架建議使用4路10核或2路10核,600GB10K硬盤的高性能物理服務器,來滿足用戶對于數(shù)據(jù)庫系統(tǒng)的承載需求。物理組網(wǎng)SWSWSWSWServerServerFCSWFCSWFCSWFCSWFCSAN設備清單設備類型設備型號設備配置數(shù)量服務器RH5885HV34路10核E57-4800V3CPU;256G內(nèi)存;2*600GSAS磁盤;4*10GE以太網(wǎng)口(管理、業(yè)務);2*8GbpsFC;LSI3008RAID卡;XX管理接入交換機CE580048*GE電口;2*10GE光口XX業(yè)務接入交換機CE6850-HI48*10GE光口;6*40GE光口XX存儲FC交換機SNS224848*8GbpsFC光口;XXFCSANOceanStor6800V3雙控,256GCache,8*8GbpsFC前端接口,xx塊900GSAS盤XX計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計管理服務器(KVM虛擬化)1keystonedatabasenodes<50PMs,<1000VMsKeystoneDB
OptionalVMOptionalnode2eBackup
nodes2eSightnodesFusionStorageManagerVMOpenStackOMVMcontrollernodeManageOneOCVMManageOneSCVMKVMOpenStackFusionStorageManagerVMOpenStackcontrollernodeeSightVMManageOneOCVMKVMKVMeSightVMcontrollernodeOpenStackOMVMManageOneSCVMOpenStackKeystoneDB管理服務器(VRM虛擬化)1keystonedatabasenodes<50PMs,<1000VMsKeystoneDB
OptionalSoftwareOptionalnode2eBackup
nodes2eSightnodesFusionStorageManagerVMOpenStackOMVMcontrollernodeManageOneOCVMManageOneSCVMVRMVMOpenStackFusionStorageManagerVMOpenStackcontrollernodeeSightVMManageOneOCVMVRMVMKVMeSightVMcontrollernodeOpenStackOMVMManageOneSCVMOpenStackKeystoneDB管理服務器典型推薦配置規(guī)??刂?管理節(jié)點(XEN)控制/管理節(jié)點(KVM)節(jié)點分類總數(shù)PM<=20或VM<=200(低成本最精簡配置)E5-2650V412Core*2600GSAS*10480GSSD*1(僅控制節(jié)點必須配)32GDDR4*10E5-2650V412Core*2600GSAS*12480GSSD*1(僅控制節(jié)點必須配)32GDDR4*10推薦RH2288HV3,共3臺,內(nèi)含F(xiàn)usionSphere、ManageOne、eSightXEN:3KVM:320<PM<=50或200<VM<=1000E5-2650V412Core*2600GSAS*12480GSSD*2(僅控制節(jié)點必須配)32GDDR4*10E5-2650V412Core*2600GSAS*12480GSSD*2(僅控制節(jié)點必須配)32GDDR4*10推薦RH2288HV3,共3臺,內(nèi)含F(xiàn)usionSphere、ManageOne、eSightXEN:3KVM:350<PM<=100或1000<VM<=2000E5-2630V410Core*2600GSAS*12480GSSD*2(僅控制節(jié)點必須配)32GDDR4*8E5-2630V410Core*2600GSAS*12960GSSD*2(僅控制節(jié)點必須配)32GDDR4*8推薦RH2288HV3,3臺控制節(jié)點,內(nèi)含F(xiàn)usionSphereOpenstack,2臺管理節(jié)點,內(nèi)含ManageOne、eSight虛擬機,2臺VRM節(jié)點(KVM虛擬化無需配置)XEN:7KVM:5100<PM<=512或2000<VM<=5000E5-2630V410Core*2600GSAS*10960GSSD*2(僅控制節(jié)點必須配)32GDDR4*8E5-2630V410Core*2600GSAS*103.2TSSD*2(僅控制節(jié)點必須配)32GDDR4*8推薦RH2288HV3,3臺控制節(jié)點,內(nèi)含F(xiàn)usionSphereOpenstack,2臺管理節(jié)點,內(nèi)含ManageOneSC、eSight虛擬機,2臺OC管理節(jié)點,2臺數(shù)據(jù)庫消息隊列節(jié)點,2臺VRM節(jié)點(KVM虛擬化無需配置)XEN:11KVM:9管理服務器硬盤配置SAS盤推薦15000轉(zhuǎn)/分鐘及其以上,最少要求10000轉(zhuǎn)/分鐘。SSD盤要求IOPS在10000以上。如果監(jiān)控數(shù)據(jù)(MongoDB)使用SAN存儲,建議使用2個SSD盤獨立組LUN,對于三個控制節(jié)點需要配置3個獨立LUN。如果使用SAS盤,要求IOPS滿足IOPS要求,同時磁盤獨立組LUN。Swift和Image-cache所使用的磁盤分別最少要求2個SAS組RAID1,可通過配置多個SAS組RAID10提高虛擬機/卷創(chuàng)建并發(fā)性能。如果Swift使用SAN存儲(所支持的SAN設備型號請參考產(chǎn)品兼容性列表),要求磁盤獨立組LUN。對于三個控制節(jié)點當需要配置3個獨立LUN。前管理節(jié)點的MongoDB和Swift使用SAN存儲時,僅支持一個磁陣。OpenStack控制節(jié)點存儲分區(qū)規(guī)劃OpenStack控制節(jié)點各服務所使用部署方式和資源隨用戶規(guī)模而定,rootfs、backup_rootfs、rabbitMQ、repo、log、gaussdb、zookeeper等分區(qū)采用默認值即可,不建議修改;可通過界面配置的分區(qū)包括image分區(qū)、swift分區(qū)、ceiliometer分區(qū)。OpenStack控制節(jié)點存儲分區(qū)規(guī)劃分區(qū)分區(qū)(GB)備注系統(tǒng)分區(qū)250image20+業(yè)務相關image分區(qū),用于保存管理虛擬機所使用的磁盤數(shù)據(jù)和原始鏡像文件。。計算公式:FusionSphereOpenStackOM(虛擬化部署在控制節(jié)點上)硬盤大小+FusionStorageManager(虛擬化部署在控制節(jié)點上)硬盤大小+VRM虛擬化部署在控制節(jié)點上)硬盤大小+ManageOneServiceCenter(虛擬化部署在控制節(jié)點上)硬盤大小+ManageOneOperationCenter(虛擬化部署在控制節(jié)點上)硬盤大小+OperationCenterTools(虛擬化部署在控制節(jié)點上)硬盤大小image-cache
分區(qū)用于緩存鏡像文件。在私有云場景下(虛擬化軟件為FusionCompute或VMWare)不需要緩存鏡像文件。swift20+業(yè)務相關存儲:系統(tǒng)軟件包和業(yè)務鏡像文件。計算公式:鏡像文件數(shù)量×鏡像文件大小×130%。預留30%ceiliometer業(yè)務相關用于保存監(jiān)控數(shù)據(jù),監(jiān)控數(shù)據(jù)保留天數(shù)用戶可配。mongodb監(jiān)控指標默認保留7天。監(jiān)控指標數(shù)和保留天數(shù)可配置。詳細計算公式:所需容量=(23.7+13*租戶個數(shù)+28.4*主機個數(shù)+4.25*虛擬機個數(shù)+0.1*卷的個數(shù))×60×24×保留天數(shù)×2KB×3。工程計算方式:所需容量=(5G+(0.1G×虛擬機數(shù)量))×監(jiān)控數(shù)據(jù)保留天數(shù)工程總計290+X+Y+K系統(tǒng)分區(qū):250G;Image分區(qū):20G+K;Ceiliometer(mongodb)分區(qū):Y;Swift分區(qū):20G+XFusionSphereOpenStackOM推薦設計云DC場景下,F(xiàn)usionSphereOpenStackOM部署形態(tài)推薦AllinOne模板,F(xiàn)usionSphereOpenStackOM要求1+1主備虛擬化部署。All-in-oneFusionSphereOpenStackOM配置原則節(jié)點類型最大用戶規(guī)模CPU內(nèi)存硬盤FusionSphere
OpenStackOM512VM以下4U6G80G512VM~5120VM6U18G80G5120VM~10000VM12U24G120G計算子系統(tǒng)設計KVM計算節(jié)點設計FusionCompute設計VMware設計物理機資源區(qū)設計OpenStack管理節(jié)點設計主機組及標簽設計主機組及標簽設計云DC場景,OpenStack中主機和FusionCompute中集群一一對應;而主機組是主機的集合,且同一個主機組下所有的主機的計算標簽相同,故可將具有同樣業(yè)務類型的集群放在同樣的主機組下。由于計算標簽和CPU虛擬化比相關,故如果無法確定不同集群的計算標簽是否相同時,推薦一個主機組下僅包含一個主機,方便后續(xù)計算標簽的改動。如果后端存儲介質(zhì)的性能不同,可為不同性能的存儲DataStore設置不同的標簽,用于后續(xù)在虛擬機發(fā)放時進行選擇。主機組及標簽設計HostClusterCNAHostAggregareFusionSphereOpenStackFusionCompute一個HA最多有128個CNA;相同物理特性的Host劃分到同一HA;相同性能的Host劃分到同一HA;使用相同策略的Host劃分到同一HA。
一個OpenStack的Host對應一個FusionCompute的Cluster.。一個Cluster最多有16個CNA;相同物理規(guī)格的CNA劃分到同一Cluster;相同性能的CNA劃分到同一Cluster;使用相同策略的CNA劃分到同一Cluster。一個物理服務器為一個CNA。數(shù)據(jù)中心架構(gòu)簡介資源池規(guī)劃計算處理能力分析計算子系統(tǒng)設計業(yè)務規(guī)劃設計業(yè)務規(guī)劃設計用戶角色和權(quán)限資源池規(guī)劃組織設計VDC和VPC設計行業(yè)案例運營架構(gòu)數(shù)據(jù)中心管理層包括的主要組件有ServiceCenter、OperationCenter、eSight角色和權(quán)限角色是一系列操作權(quán)限的集合。運營模塊初始安裝完成后,系統(tǒng)中存在四種默認角色:系統(tǒng)超級管理員、組織管理員、VDC管理員、VDC業(yè)務員。典型場景企業(yè)為跨國運營商或跨省公司企業(yè)為中小型企業(yè)業(yè)務規(guī)劃設計用戶角色和權(quán)限資源池規(guī)劃組織設計VDC和VPC設計行業(yè)案例OpenStack+VRM架構(gòu)的物理DC規(guī)劃OpenStack+KVM架構(gòu)的物理DC規(guī)劃業(yè)務規(guī)劃設計用戶角色和權(quán)限資源池規(guī)劃組織設計VDC和VPC設計行業(yè)案例組織規(guī)劃組織適用場景:當部門內(nèi)部需要再劃分子部門進行資源管理時,可以使用組織,一個組織對應一個部門,一個VDC對應一個子部門。例如:經(jīng)信委為各部委建設資源池,并分配資源給各部委使用,同時部委內(nèi)部需要根據(jù)科室再劃分子部門,每個科室從部委的資源中分配一部分資源使用,那么每個部委就是一個組織,每個科室就是一個VDC。組織的模型包含:配額、用戶、資源、服務目錄、VDC、模板(應用模板)。從資源管理的角度來看,組織和VDC是一樣的,只是組織不能發(fā)放資源,在VDC內(nèi)才能發(fā)放資源。組織和資源池的映射網(wǎng)絡存儲計算網(wǎng)絡存儲計算網(wǎng)絡存儲計算網(wǎng)絡存儲計算AZ1AZ4AZ3AZ2DC1DC2VDC1VDC2VDC3VDC4VDC5VDC6組織1組織2組織3SC和OpenStack模型對應組織對應OpenStack的domain,組織的配額由SC控制,組織下屬VDC的配額總和不能超過組織的配額VDC對應OpenStack的project,VDC的配額對應project的配額SCOpenStack組織配額組織VDCVDC配額DomainProjectProject配額業(yè)務規(guī)劃設計用戶角色和權(quán)限資源池規(guī)劃組織設計VDC和VPC設計行業(yè)案例虛擬數(shù)據(jù)中心(VDC)建設和規(guī)劃VDC一般根據(jù)部門進行劃分。部門可以通過申請?zhí)摂M數(shù)據(jù)中心一次性獲得批量計算、存儲和網(wǎng)絡資源配額,在資源配額下限,VDC管理員可以自由支配計算、存儲和網(wǎng)絡資源。一個完整VDC包括配額、用戶、資源、服務目錄、網(wǎng)絡、模板VDC服務目錄在服務目錄中,ServiceCenter預置了開箱即用服務,包括VDC、云主機、云硬盤、彈性IP、物理機、備份、容災、大數(shù)據(jù)、VLB等服務,這些預置服務向用戶開放所有的服務參數(shù),用戶在申請服務時可以選擇或輸入服務參數(shù),完全由用戶自定義所要的服務。例如
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 鐵路操作考試題及答案
- 北京金融知識培訓班課件
- 北京裝修施工知識培訓班課件
- 居委會調(diào)解面試題及答案
- 食品經(jīng)營考試題及答案
- 宋書考試題型及答案
- 初級鉆工考試題及答案
- 木匠師傅面試題及答案
- 校醫(yī)基礎知識培訓課件
- 2025年肥城市市直機關遴選考試筆試試題(含答案)
- 2025年中國移動遼寧公司招聘筆試參考題庫含答案解析
- 2025年夫妻離婚協(xié)議書模板
- 2023屆高考英語人教版一輪復習:必修第一冊至選修第四冊單詞表講義
- 《腫瘤篩查技術(shù)》課件
- 高溫熔融金屬企業(yè)安全知識培訓
- 實驗室生物安全手冊
- 《教學勇氣-漫步教師心靈原書》
- 航天禁(限)用工藝目錄(2021版)-發(fā)文稿(公開)
- 醫(yī)院行政辦公室主任職責
- 爭做“四有好老師”-當好“四個引路人”
- 外研版高中英語詞匯表(全套)
評論
0/150
提交評論