DMP數(shù)據(jù)庫(kù)管理平臺(tái)_第1頁(yè)
DMP數(shù)據(jù)庫(kù)管理平臺(tái)_第2頁(yè)
DMP數(shù)據(jù)庫(kù)管理平臺(tái)_第3頁(yè)
DMP數(shù)據(jù)庫(kù)管理平臺(tái)_第4頁(yè)
DMP數(shù)據(jù)庫(kù)管理平臺(tái)_第5頁(yè)
已閱讀5頁(yè),還剩45頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

DMP數(shù)據(jù)庫(kù)管理平臺(tái)目錄一、

DMP整體技術(shù)框架二、高可靠1.集群架構(gòu)部署2.

自愈能力3.備份保護(hù)4.監(jiān)控體系5.底層可靠三、高性能1.最佳實(shí)踐調(diào)優(yōu)2.存儲(chǔ)層優(yōu)化3.性能測(cè)試報(bào)告4.SQL級(jí)性能診斷四、易運(yùn)維1.業(yè)務(wù)快速上線?

Oracle

DTS?

自動(dòng)化部署2.生命周期管理3.租戶(hù)自服務(wù)服務(wù)配套模塊告警中心

告警采集日志中心上傳下載模塊授權(quán)模塊

SCP緩存本地VS存儲(chǔ)虛擬iSCSI存儲(chǔ)外置FC存儲(chǔ)外置iSCSI存儲(chǔ)DMP平臺(tái)的底層架構(gòu)從上到下可以

分為:?核心模塊(

UI

,API-Server

,

置中心

,

DB-Operator

,后端MySQL等)

、?

服務(wù)配套模塊(告警、

日志、

權(quán)、

緩存等)

,與SCP通過(guò)SDK-API交互完成DBVM

的各項(xiàng)操作(包括創(chuàng)建、

配置變更、

掛載備份盤(pán)等)DB-operator集群管理

備份管理Orchestrator

XtrabackupSDK-APISCP配置中心后端MySQL后端RedisOracleDB1OracleDB2DB集群vDBLBProxyMySQLMasterDMP整體技術(shù)框架核心模塊API

ServerMySQL

SlaveApache+UIDB集群RACDMPDMP整體技術(shù)框架——DB-Operator?

API-Server主要負(fù)責(zé)初步的參數(shù)校驗(yàn)和用戶(hù)配置的編輯;?DB-Operator是DMP管理系統(tǒng)中負(fù)責(zé)任務(wù)調(diào)度和集群狀態(tài)管理的關(guān)鍵模塊;?

管理平臺(tái)通過(guò)各個(gè)服務(wù)的controller調(diào)用DB-Operator提供的API

,包括MySQL、

Oracle的創(chuàng)建

,備份任務(wù)的執(zhí)行,

系統(tǒng)管理等等;?DB-Operator收到請(qǐng)求后

,通過(guò)Driver生成不同的工作流執(zhí)行對(duì)應(yīng)任務(wù)和狀態(tài)管控。DB-OperatorRPC

ServerAPSchedulerbackup_service_cont

roller……mysql_controlleroracle_controllerbackup_medium_co

ntrollerAPI-Serversangfor-wafDBServiceTopology-driverAD-driveragent-proxy-

driverDB-ClusterJobSchedulerFlowFactoryVM-driverLib-CloudJob

BoardTask

FlowDriver……模塊描述API-Server主要負(fù)責(zé)初步的參數(shù)校驗(yàn)和用戶(hù)配置的編輯。一旦配置變更

,其會(huì)通過(guò)調(diào)用后端對(duì)應(yīng)的服務(wù)

執(zhí)行;

同時(shí)API-Server還負(fù)責(zé)通過(guò)外部(

SCP)完成用戶(hù)認(rèn)證并向后提供一套多租戶(hù)的體系集群管理Orchestrator集群管理中

,負(fù)責(zé)MySQL數(shù)據(jù)庫(kù)集群故障自愈前置檢測(cè)的關(guān)鍵模塊。其通過(guò)連續(xù)的定時(shí)任務(wù)

對(duì)目標(biāo)MySQL數(shù)據(jù)庫(kù)實(shí)例進(jìn)行探測(cè)以獲取健康狀態(tài)

,為后續(xù)的故障自愈提供判斷基礎(chǔ)。

自愈模塊詳細(xì)技術(shù)細(xì)節(jié)見(jiàn)后續(xù)章節(jié)內(nèi)容Jaguar集群管理中

,負(fù)責(zé)Oracle數(shù)據(jù)庫(kù)集群故障自愈前置檢測(cè)的關(guān)鍵模塊

,與上述Orchestrator發(fā)

揮作用的方式類(lèi)似。

自愈模塊詳細(xì)技術(shù)細(xì)節(jié)見(jiàn)后續(xù)章節(jié)內(nèi)容備份管理Xtrabackup備份管理中

,負(fù)責(zé)MySQL數(shù)據(jù)庫(kù)備份的關(guān)鍵模塊。

由此模塊來(lái)執(zhí)行MySQL數(shù)據(jù)庫(kù)集群具體

的備份任務(wù)

,包含全備/增備

,并保障數(shù)據(jù)庫(kù)的事務(wù)一致性。備份詳細(xì)技術(shù)細(xì)節(jié)見(jiàn)后續(xù)章節(jié)內(nèi)

容RMAN備份管理中

,負(fù)責(zé)Oracle數(shù)據(jù)庫(kù)備份任務(wù)的關(guān)鍵模塊。

由此模塊來(lái)執(zhí)行Oracle數(shù)據(jù)庫(kù)集群的具體備份任務(wù)。備份詳細(xì)技術(shù)細(xì)節(jié)見(jiàn)后續(xù)章節(jié)內(nèi)容后端MySQL平臺(tái)后端模塊

,用以存儲(chǔ)DMP自身的各項(xiàng)數(shù)據(jù)的數(shù)據(jù)庫(kù)。告警中心平臺(tái)后端基礎(chǔ)模塊

,用以對(duì)平臺(tái)各項(xiàng)告警內(nèi)容收集、存放、外發(fā)。日志中心平臺(tái)后端基礎(chǔ)模塊

,對(duì)平臺(tái)各項(xiàng)操作、任務(wù)、工作流的執(zhí)行進(jìn)行記錄

,提供了操作日志、服務(wù)日志、任務(wù)中心等模塊的基礎(chǔ)。授權(quán)模塊平臺(tái)后端基礎(chǔ)模塊

,管理MySQL、Oracle等各基礎(chǔ)模塊的授權(quán)認(rèn)證及校驗(yàn)服務(wù)SDK-API由SCP提供,

DMP平臺(tái)與SCP的各項(xiàng)交互、認(rèn)證

,均通過(guò)SDK-API執(zhí)行DMP整體技術(shù)框架——其他模塊目錄一、

DMP整體技術(shù)框架二、高可靠1.集群架構(gòu)部署2.

自愈能力3.備份保護(hù)4.監(jiān)控體系5.底層可靠三、高性能1.最佳實(shí)踐調(diào)優(yōu)2.存儲(chǔ)層優(yōu)化3.性能測(cè)試報(bào)告4.SQL級(jí)性能診斷四、易運(yùn)維1.業(yè)務(wù)快速上線?

Oracle

DTS?

自動(dòng)化部署2.生命周期管理3.租戶(hù)自服務(wù)傳統(tǒng)部署數(shù)據(jù)庫(kù)方式耗時(shí)耗力

,且容易出錯(cuò)

手工創(chuàng)建耗時(shí)一般以天為單位

,

至少1天1

、步驟繁瑣,操作門(mén)檻高2

、涉及配置項(xiàng)太多,容易出錯(cuò),一旦出錯(cuò)需要檢

查,消耗很多處理時(shí)間3

、配置不當(dāng)會(huì)導(dǎo)致數(shù)據(jù)庫(kù)運(yùn)行處于不良狀態(tài)STEP1:準(zhǔn)備服務(wù)器機(jī)器

,下載相關(guān)的操作系統(tǒng)和數(shù)據(jù)庫(kù)

鏡像包以及相關(guān)補(bǔ)丁STEP2:安裝操作系統(tǒng)STEP3:準(zhǔn)備存儲(chǔ)

,規(guī)劃ASM磁盤(pán)STEP4:手動(dòng)安裝數(shù)據(jù)庫(kù)

,包括設(shè)置IP、上傳安裝包、上傳安裝腳本、解壓安裝腳本、設(shè)置字符集等STEP5:設(shè)置相關(guān)配置項(xiàng)

,設(shè)置參照文檔修改配置文件、修改腳本權(quán)限、執(zhí)行安裝腳本STEP6:優(yōu)化相關(guān)參數(shù)

,包括修改大頁(yè)內(nèi)存、SGA、

PGA

、

redo

log大小等等

以及一旦出錯(cuò)之后冗長(zhǎng)的檢查過(guò)程一鍵化、

規(guī)范化部署數(shù)據(jù)庫(kù)

,大大加快業(yè)務(wù)上線效率實(shí)測(cè)采用DMP自動(dòng)化部署數(shù)據(jù)庫(kù)耗時(shí):

Oracle單機(jī):

10min

Oracle

RAC:

50min1

、部署向?qū)Э偣?步,輸入配置信息即可,創(chuàng)建全自動(dòng)化2

自動(dòng)提供數(shù)據(jù)庫(kù)最佳實(shí)踐配置STEP1:配置節(jié)點(diǎn)規(guī)格、

網(wǎng)絡(luò)等基本信息STEP2:配置數(shù)據(jù)庫(kù)字符集、賬號(hào)密碼等一套R(shí)AC50分

鐘完成部署STEP3:配置備份策略STEP4:確認(rèn)信息

,開(kāi)始創(chuàng)建數(shù)據(jù)庫(kù)集群架構(gòu)部署——與傳統(tǒng)模式對(duì)比數(shù)據(jù)庫(kù)上線速度提升20倍整體創(chuàng)建流程如下:1、

DMP提供的數(shù)據(jù)庫(kù)鏡像包含db-agent組件可直接用于數(shù)據(jù)庫(kù)自動(dòng)化部署。2、默認(rèn)參數(shù)即為最佳實(shí)踐配置

,包含innodb_flush_log_at_trx_commit、sync_bin

log設(shè)置

“雙1”來(lái)確保數(shù)據(jù)安全3、整個(gè)自動(dòng)化部署過(guò)程

,調(diào)用API執(zhí)行虛

擬機(jī)創(chuàng)建

,數(shù)據(jù)庫(kù)啟動(dòng)

,注冊(cè)到orchestrator

,構(gòu)建主從拓?fù)潢P(guān)系

,均由db-operator自動(dòng)進(jìn)行調(diào)度管理與控制其中

,

orchestrator會(huì)負(fù)責(zé)DB集群健康狀

態(tài)檢查

,與自愈模塊進(jìn)行交互

,確保集群

始終處于可用狀態(tài)。DBVMDBVM集群架構(gòu)部署——MySQL主從?MySQL集群部署的技術(shù)方案實(shí)現(xiàn)構(gòu)建集群主從同步拓?fù)潢P(guān)系創(chuàng)建虛擬服務(wù)并綁定VIP初始化用戶(hù)并完成創(chuàng)建注冊(cè)到orchestrator注冊(cè)到orchestrator設(shè)置MySQL基本參數(shù)設(shè)置MySQL基本參數(shù)配置網(wǎng)絡(luò)綁定EIP配置網(wǎng)絡(luò)綁定EIPdb-operatoragent啟動(dòng)MySQLagent啟動(dòng)MySQL創(chuàng)建并啟動(dòng)VM創(chuàng)建并啟動(dòng)VM集群架構(gòu)部署——MySQL主從可視化管理?拓?fù)淇梢暬?/p>

:屏蔽底層復(fù)雜度

,

可以直接查看簡(jiǎn)化版數(shù)據(jù)庫(kù)集群的拓?fù)湓斍?/p>

,集群節(jié)點(diǎn)的基本配置信息

,

支持對(duì)數(shù)據(jù)庫(kù)進(jìn)行開(kāi)關(guān)機(jī)、

重啟、

修改配置等基本操作

,清晰直觀db-operatorRAC是Oracle高可用的一種部署模式

,傳

統(tǒng)方式部署非常復(fù)雜

,涉及ASM、

GridInfrastructure等等系統(tǒng)和部署組件

,

需要

手動(dòng)執(zhí)行上百個(gè)步驟

,

而現(xiàn)在DMP已將此

過(guò)程實(shí)現(xiàn)自動(dòng)化:整體創(chuàng)建流程如下:1、

由DMP提供的數(shù)據(jù)庫(kù)鏡像創(chuàng)建DBVM2、

DMP申請(qǐng)集群VIP、

SCAN

VIP、共享

盤(pán)等集群配置資源3、給DBVM節(jié)點(diǎn)掛載共享盤(pán)

,更新集群信

息4、

開(kāi)始執(zhí)行數(shù)據(jù)庫(kù)創(chuàng)建并構(gòu)建RAC全程只需要用戶(hù)指定規(guī)格、

磁盤(pán)容量、

網(wǎng)

卡等基本信息

,便無(wú)需額外的手動(dòng)操作。DBVM1掛載共享盤(pán)(數(shù)據(jù)盤(pán)DBVM2、

歸檔盤(pán)、仲裁盤(pán))集群架構(gòu)部署——Oracle

RAC?RAC集群部署的技術(shù)方案實(shí)現(xiàn)申請(qǐng)集群配置資源(集群VIP、SCANVIP、共享盤(pán))配置節(jié)點(diǎn)間SSH互信系統(tǒng)及性能參數(shù)優(yōu)化創(chuàng)建并啟動(dòng)VM創(chuàng)建并啟動(dòng)VM配置網(wǎng)絡(luò)及agent配置網(wǎng)絡(luò)及agent創(chuàng)建數(shù)據(jù)庫(kù)&服務(wù)注冊(cè)安裝GRID&創(chuàng)建ASM安裝數(shù)據(jù)庫(kù)軟件集群架構(gòu)部署——Oracle

RAC可視化管理?拓?fù)淇梢暬?/p>

:屏蔽底層復(fù)雜度

可以直接查看簡(jiǎn)化版數(shù)據(jù)庫(kù)集群的拓?fù)湓斍?/p>

,數(shù)據(jù)庫(kù)訪問(wèn)服務(wù)地址

,集群

節(jié)點(diǎn)的基本配置信息

并支持對(duì)數(shù)據(jù)庫(kù)進(jìn)行開(kāi)關(guān)機(jī)、

重啟、

修改配置等基本操作

,

支持集群節(jié)點(diǎn)規(guī)格的縱

向擴(kuò)容

,

覆蓋全生命周期20min故障出現(xiàn)Relay

Log未消費(fèi)完就發(fā)生了切換?網(wǎng)絡(luò)抖動(dòng)?

數(shù)據(jù)庫(kù)假死?同步降級(jí)?

半同步的最后一個(gè)事務(wù)要回滾?缺乏實(shí)時(shí)監(jiān)控?

網(wǎng)絡(luò)隔離?涉及層面多、

操作易錯(cuò)、

技術(shù)門(mén)檻要求高

,

故障處理時(shí)間很長(zhǎng)

,對(duì)業(yè)務(wù)影響大,

實(shí)現(xiàn)高可靠

,

故障可快速恢復(fù)?故障切換后恢復(fù)正確的從庫(kù)日志同步?備份數(shù)據(jù)失效?MySQL自建高可用架構(gòu)依然存在弊端自愈能力——背景知識(shí)能否有簡(jiǎn)單、

高效、

高性?xún)r(jià)比的方案恢復(fù)時(shí)間長(zhǎng)導(dǎo)致

風(fēng)險(xiǎn)敞口大??jī)晒?jié)點(diǎn)無(wú)法防腦裂?服務(wù)出錯(cuò)掛起?VIP摘除失???同步延遲?初步處理溝通采集廠商支持故障恢復(fù)故障發(fā)現(xiàn)40min40min20min20min1、

自動(dòng)化運(yùn)維處理的前提條件是能夠識(shí)別

問(wèn)題

,

平臺(tái)針對(duì)MySQL數(shù)據(jù)庫(kù)集群詳細(xì)分

析了各類(lèi)異常狀態(tài)

,進(jìn)行了統(tǒng)一定義

,涵

蓋集群中單個(gè)、

多個(gè)節(jié)點(diǎn)以及節(jié)點(diǎn)間的可

能狀態(tài)2、在有了狀態(tài)定義基礎(chǔ)上

平臺(tái)會(huì)在5s周

期內(nèi)輪詢(xún)監(jiān)控?cái)?shù)據(jù)庫(kù)集群狀態(tài)

,在發(fā)現(xiàn)異

常之后對(duì)當(dāng)前狀態(tài)所需的修復(fù)操作進(jìn)行決

策判斷3、基于上述步驟

,執(zhí)行特定的自愈動(dòng)作。

所遵循的原則是

:最大程度保障數(shù)據(jù)安全

;

最大程度降低業(yè)務(wù)影響自愈能力——MySQL實(shí)現(xiàn)?

自動(dòng)化運(yùn)維的技術(shù)方案實(shí)現(xiàn)(集群自愈)集群狀態(tài)檢測(cè)

/5s自愈模塊MasterorchestratorMaster故障Slave故障HangMasterdb-operator

二次確認(rèn)后SlaveIO異常orTips:

維護(hù)模式只檢測(cè)狀態(tài)不觸發(fā)自愈sql線程異常自愈能力——MySQL實(shí)現(xiàn)?

自動(dòng)化運(yùn)維的技術(shù)方案實(shí)現(xiàn)(集群自愈)原主作為新

從重新加入恢復(fù)Slave

加入集群Master故障

Slave存活實(shí)例/VM故障集群恢復(fù)正常修復(fù)Slave踢出Slave優(yōu)先恢復(fù)主修復(fù)線程主從切換重新

加入業(yè)務(wù)恢復(fù)發(fā)現(xiàn)異常觸發(fā)高可用方案描述RAC(

RealApplication

Cluster)Oracle高可用性的一種

,多個(gè)Oracle服務(wù)器組成一個(gè)共享的Cache

,而這些Oracle服務(wù)器共享一個(gè)基于網(wǎng)絡(luò)的存儲(chǔ)。這個(gè)系統(tǒng)可以容忍單機(jī)/或是多機(jī)失敗(當(dāng)此類(lèi)問(wèn)題出現(xiàn)

,故障節(jié)點(diǎn)屬于棄置狀態(tài))。不過(guò)系統(tǒng)內(nèi)部的多個(gè)節(jié)點(diǎn)需要高速

網(wǎng)絡(luò)互連

,基本上也就是要全部東西放在在一個(gè)機(jī)房?jī)?nèi)

,或者說(shuō)一個(gè)數(shù)據(jù)中心內(nèi)。如果機(jī)房出故障

,那也無(wú)法自動(dòng)應(yīng)對(duì)。DG(

DataGuard)相比于RAC

,更適用于容災(zāi)場(chǎng)景

,即跨機(jī)房跨地部署模式。一個(gè)機(jī)房放生產(chǎn)庫(kù)(primary)

,另外其他機(jī)房部署備庫(kù)(standby)的數(shù)據(jù)庫(kù)。備庫(kù)分物理的和邏輯的。物理的standby數(shù)據(jù)庫(kù)主要用于primary失敗后做切換。而邏輯的standby數(shù)據(jù)庫(kù)則在平時(shí)可以分擔(dān)primary數(shù)據(jù)庫(kù)的讀負(fù)載。屬于高可用解決方案而非性能提升方案。MAA(

MaximumAvailabilityArchitecture)其實(shí)不是獨(dú)立的第三種

,而是前面兩種的結(jié)合

,來(lái)提供最高的可用性。每個(gè)機(jī)房?jī)?nèi)部署RAC集群

,多個(gè)機(jī)房間用Data

Guard同步。當(dāng)然實(shí)施成本也最高M(jìn)AA架構(gòu)示意SCANStandby

DatabaseRACdb2

DGPrimaryDatabaseSYNCor

ASYNCredo網(wǎng)絡(luò)傳輸機(jī)房1

機(jī)房2RAC架構(gòu)示意

SCAN節(jié)點(diǎn)1

節(jié)點(diǎn)2Oracle

RDBMSOracleClusterwareDriversOSOracle

RDBMSOracleClusterwareDriversOSDG架構(gòu)示意Primary自愈能力——背景知識(shí)StandbyapplyASMASMredologredologRACdb1RACdb2RACdb1SCANASM異常異常RAC重啟VM重新掃描磁盤(pán)重啟Oracle

服務(wù)RAC自修復(fù)單機(jī)二次確認(rèn)oracle服務(wù)異常重啟VM正常集群恢復(fù)正常oracle自愈模塊流程檢查VM狀態(tài)正常檢查磁盤(pán)組狀態(tài)自愈能力——Oracle實(shí)現(xiàn)?自動(dòng)化運(yùn)維的技術(shù)方案實(shí)現(xiàn)定時(shí)任務(wù)JDBC(各類(lèi)數(shù)據(jù)庫(kù)driver適配)Jaguar(自研多活數(shù)據(jù)庫(kù)通用故障檢測(cè)模塊)Tips:維護(hù)模式下

只檢測(cè)狀態(tài)不觸發(fā)自愈AutoRecovery

Controller檢測(cè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)

健康狀態(tài)數(shù)據(jù)庫(kù)節(jié)點(diǎn)

健康狀態(tài)發(fā)現(xiàn)異常

觸發(fā)自愈重啟Oracle服務(wù)自愈模塊流程檢查VM狀態(tài)維護(hù)……自愈能力——產(chǎn)品功能?

包含主從切換和故障自愈?部署MySQL主從架構(gòu)的數(shù)據(jù)庫(kù)集群

,默認(rèn)開(kāi)啟故障自動(dòng)主從切換和故障自愈;?部署MySQL單機(jī)和Oracle單機(jī)、

RAC

,默認(rèn)開(kāi)啟故障自愈?在開(kāi)啟維護(hù)模式時(shí)

,切換和自愈均處于關(guān)閉狀態(tài)

,

平臺(tái)不做自動(dòng)運(yùn)維

,允許用戶(hù)自行對(duì)數(shù)據(jù)庫(kù)、

數(shù)據(jù)

庫(kù)云主機(jī)進(jìn)行運(yùn)維操作;

也方便技服人員進(jìn)行排障備份方式描述優(yōu)勢(shì)劣勢(shì)VM級(jí)備份針對(duì)VM進(jìn)行備份

,只能適用于單

機(jī)版數(shù)據(jù)庫(kù)

,集群架構(gòu)不能采用此

方式進(jìn)行備份簡(jiǎn)單

,成本低備份可靠性無(wú)法保障數(shù)據(jù)庫(kù)腳本備份在數(shù)據(jù)庫(kù)層手動(dòng)寫(xiě)備份執(zhí)行腳本+

備份軟件

,通過(guò)腳本控制備份軟件

進(jìn)行備份操作相比VM層備份

可以做到數(shù)據(jù)

庫(kù)級(jí)的備份保護(hù)1、腳本撰寫(xiě)需要依賴(lài)DBA

門(mén)檻較高;2、無(wú)法對(duì)備份文件的有效性

進(jìn)行及時(shí)驗(yàn)證RDS備份針對(duì)數(shù)據(jù)庫(kù)的事務(wù)級(jí)一致性備份

,

可以設(shè)定備份策略進(jìn)行自動(dòng)備份

,

也支持手動(dòng)全量備份1、

平臺(tái)自帶

,無(wú)需第三方軟件

,

無(wú)需編寫(xiě)腳本;2、

事務(wù)級(jí)一致性保障;3、

可隨時(shí)備份恢復(fù)演練;暫時(shí)支持的最小備份粒度為小

時(shí)級(jí)(后續(xù)會(huì)逐步支持分鐘級(jí)、

秒級(jí))第三方備份軟件通過(guò)外置設(shè)備或軟件對(duì)數(shù)據(jù)庫(kù)進(jìn)行

備份

,

支持RPO粒度較廣

,實(shí)現(xiàn)方

式有邏輯/物理文件拷貝等

,相對(duì)

比較成熟1、備份功能完整性較高;2、

可以支持較低的RPO粒度;1、通常比較貴

,成本高;2、備份恢復(fù)演練不方便;備份保護(hù)常見(jiàn)的數(shù)據(jù)庫(kù)備份方式對(duì)比基于上述橫向?qū)Ρ瓤梢?jiàn)

,

RDS備份是相對(duì)最優(yōu)的選項(xiàng)

,

DMP將RDS備份方案作為內(nèi)置能力提供備份保護(hù)——數(shù)據(jù)庫(kù)備份背景知識(shí)(事務(wù))事務(wù)介紹:簡(jiǎn)單地說(shuō)

,

事務(wù)就是指邏輯上的一組SQL語(yǔ)句操作

組成這組操作的各個(gè)SQL語(yǔ)句

,執(zhí)行時(shí)要么全成功要么全失敗。例如

:你給我轉(zhuǎn)賬5塊錢(qián)

,流程如下a.從你銀行卡取出5塊錢(qián)

,剩余計(jì)算money-5b.把上面5塊錢(qián)打入我的賬戶(hù)上

,我收到5塊

,剩余計(jì)算money+5.上述轉(zhuǎn)賬的過(guò)程

,對(duì)應(yīng)的sql語(yǔ)句為:update你_account

set

money

=money-5where

name

='你';update我_account

set

money

=money+5where

name

='我';上述的兩條SQL操作

,在事務(wù)中的操作就是要么都執(zhí)行

,要么都不執(zhí)行

,不然錢(qián)就對(duì)不上了。這就是事務(wù)的原子性(Atomi

city)。事務(wù)的四大特性ACID:1.原子性(Atomicity)事務(wù)是一個(gè)不可分割的單位

,

事務(wù)中的所有SQL等操作要么都發(fā)生

,要么都不發(fā)生。2.一致性(Consistency)事務(wù)發(fā)生前和發(fā)生后

,數(shù)據(jù)的完整性必須保持一致。3.隔離性(Isolation)當(dāng)并發(fā)訪問(wèn)數(shù)據(jù)庫(kù)時(shí)

,一個(gè)正在執(zhí)行的事務(wù)在執(zhí)行完畢前

,對(duì)于其他的會(huì)話是不可見(jiàn)的

,

多個(gè)并發(fā)

事務(wù)之間的數(shù)據(jù)是相互隔離的。

也就是其他人的操作在這個(gè)事務(wù)的執(zhí)行過(guò)程中是看不到這個(gè)事務(wù)的執(zhí)行結(jié)果的

,也就是他們拿

到的是這個(gè)事務(wù)執(zhí)行之前的內(nèi)容

,等這個(gè)事務(wù)執(zhí)行完才能拿到新的數(shù)據(jù)。4.持久性(Durability)一個(gè)事務(wù)一旦被提交

,

它對(duì)數(shù)據(jù)庫(kù)中的數(shù)據(jù)改變就是永久性的。

如果出了錯(cuò)誤

,

事務(wù)也不允撤銷(xiāo)

,

只能通過(guò)'補(bǔ)償性事務(wù)'。分類(lèi)實(shí)現(xiàn)方式特性描述邏輯備份mysqldumpmysqldump是采用SQL級(jí)別的備份機(jī)制

,他將數(shù)據(jù)表導(dǎo)成SQL腳本

文件

,是最常用的邏輯備份方法。物理備份xtrabackupmysql開(kāi)源備份工具

,

主要特點(diǎn)是:1)

在線熱備份

可以備份innodb和myisam;2)

支持流備份

可以備份到disk、

tape和remote

host;3)

可以利用lsn和基礎(chǔ)備份目錄來(lái)進(jìn)行增量備份;4)

支持記錄slave上的master

log和master

position信息;5)

支持多進(jìn)程同時(shí)熱備份;LVM熱備、

支持所有基于本地磁盤(pán)的存儲(chǔ)引擎、

快速備份、

低開(kāi)銷(xiāo)、

易保持完整性、

快速恢復(fù)等cp+tar使用直接拷貝數(shù)據(jù)庫(kù)文件的方式進(jìn)行打包備份

,

需要注意的是執(zhí)行

步驟

:鎖表、

備份、

解表?;謴?fù)也比較簡(jiǎn)單

,

直接拷貝到之前的數(shù)據(jù)庫(kù)文件的存放目錄即可。mysql主從復(fù)制mysql的復(fù)制是指將主數(shù)據(jù)庫(kù)的DDL和DML操作通過(guò)二進(jìn)制文件(bin-log)

傳送到從服務(wù)器上

,然后在從服務(wù)器上對(duì)這些日志做重

新執(zhí)行的操作

,從而使得從服務(wù)器和主服務(wù)器保持?jǐn)?shù)據(jù)的同步。最終選用xtrabackup方

案。速度快,可靠性高

,有

一致性保障備份保護(hù)——數(shù)據(jù)庫(kù)備份背景知識(shí)(

MySQL)一般來(lái)說(shuō)

,物理備份恢復(fù)速度比較快

,

占用空間比較大

,邏輯備份速度比較慢

,

占用空間比較小。備

開(kāi)

始redolog拷貝開(kāi)始ibd

拷貝

開(kāi)始ibd拷貝完成checkpoint非ibd拷貝開(kāi)始redolog拷貝停止非ibd拷貝完成解鎖備

結(jié)

束加全局讀鎖備份保護(hù)——MySQL數(shù)據(jù)保護(hù)?

數(shù)據(jù)保護(hù)(數(shù)據(jù)庫(kù)一致性備份)

的技術(shù)方案實(shí)現(xiàn)全備頻率用戶(hù)可自行指定優(yōu)先選從

其次選主MySQL主全量備份增量備份

增量備份

全量備份

增量備份

增量備份

時(shí)間軸這一過(guò)程是會(huì)存在讀io阻塞的情

,但通常如果用戶(hù)使用的主要

是innodb表

,

時(shí)間基本可忽略xtrabackup事務(wù)一致性保證MySQL

從備份節(jié)點(diǎn):半同步復(fù)制FTWRL備份保護(hù)——MySQL數(shù)據(jù)保護(hù)?數(shù)據(jù)庫(kù)備份:

以集群維度

,

支持?jǐn)?shù)據(jù)庫(kù)事務(wù)一致性備份?備份策略

:只需要自定義備份時(shí)間

并選擇全備頻率

平臺(tái)會(huì)在備份時(shí)間觸發(fā)備份任務(wù)

,

首次執(zhí)行備

份以及達(dá)成全備頻率間隔條件時(shí)

,均為全量備份

,其余在備份時(shí)間均觸發(fā)增量備份;?備份管理:

支持在DMP對(duì)所有DB集群的備份文件、

備份策略進(jìn)行統(tǒng)一管理備份方法描述導(dǎo)出/導(dǎo)入利用Export可將數(shù)據(jù)從數(shù)據(jù)庫(kù)中提取出來(lái)

,利用Import則可將提取出來(lái)的數(shù)據(jù)送回到Oracle數(shù)據(jù)庫(kù)中去。冷備份冷備份發(fā)生在數(shù)據(jù)庫(kù)已經(jīng)正常關(guān)閉的情況下

,

當(dāng)正常關(guān)閉時(shí)會(huì)提供給我們一個(gè)完整的數(shù)據(jù)庫(kù)。

冷備份時(shí)

將關(guān)鍵性文件拷貝到另外的位置的一種說(shuō)法。

對(duì)于備份Oracle信息而言

,

冷備份是最快和最安全的方法

,

但備份過(guò)程必須關(guān)閉數(shù)據(jù)庫(kù)。熱備份熱備份是在數(shù)據(jù)庫(kù)運(yùn)行的情況下

,采用archivelog

mode方式備份數(shù)據(jù)庫(kù)的方法。

例如

,如果你有昨天

夜里的一個(gè)冷備份而且又有今天的熱備份文件

,在發(fā)生問(wèn)題時(shí)

,

就可以利用這些資料恢復(fù)更多的信息。

熱備份要求數(shù)據(jù)庫(kù)在Archivelog方式下操作

,

并需要大量的歸檔空間。RMAN(

Recovery

Management)?RMAN是隨Oracle服務(wù)器軟件一同安裝的工具軟件

,屬于物理備份;?它可以用來(lái)備份和恢復(fù)數(shù)據(jù)庫(kù)文件、

歸檔日志和控制文件、

參數(shù)文件

,用來(lái)執(zhí)行完全或不完全的數(shù)據(jù)庫(kù)恢復(fù);?

支持全備份和增量備份

它會(huì)檢測(cè)和報(bào)告損壞的數(shù)據(jù)塊

,

并在備份時(shí)

進(jìn)行跳過(guò);?

其使用Oracle特有的二進(jìn)制壓縮模式

,與傳統(tǒng)備份的壓縮方式相比

,

能夠最大程度地壓縮數(shù)據(jù)塊中的一些典型數(shù)據(jù)。備份保護(hù)——數(shù)據(jù)庫(kù)備份背景知識(shí)(Oracle)?RMAN需數(shù)據(jù)庫(kù)開(kāi)啟歸檔模式?RMAN備份對(duì)象包括數(shù)據(jù)文件、

控制文件、

歸檔文件、

參數(shù)文件

,備份完成會(huì)清理歸檔?RMAN保證不備份fractured

block(即SCN不一致的塊)?在

RMAN備份期間

,數(shù)據(jù)庫(kù)Server

Session會(huì)讀取每個(gè)數(shù)據(jù)塊

,

并通過(guò)比較塊的頭尾來(lái)檢查它是否已斷裂(fractured)。

如果一個(gè)塊被破壞

,則會(huì)話重新讀取該塊備份保護(hù)——Oracle數(shù)據(jù)保護(hù)?

數(shù)據(jù)保護(hù)(數(shù)據(jù)庫(kù)一致性備份)

的技術(shù)方案實(shí)現(xiàn)ServerSessionTarget

Databaseallocate

RMANLevel

1

差異增量Level

1

差異增量Level

1

差異增量Level

1

差異增量Level

0全量備份Level

0全量備份全備頻率由用戶(hù)指定數(shù)據(jù)文件參數(shù)文件控制文件歸檔文件backupcopy備份存儲(chǔ)介質(zhì)channel時(shí)間軸備份集備份片?數(shù)據(jù)庫(kù)備份:

以集群維度

,

支持?jǐn)?shù)據(jù)庫(kù)事務(wù)一致性備份?備份策略

:只需要自定義備份時(shí)間

,

并選擇全備頻率

,

平臺(tái)會(huì)在備份時(shí)間觸發(fā)備份任務(wù)

首次執(zhí)行備

份以及達(dá)成全備頻率間隔條件時(shí)

,均為全量備份

,其余在備份時(shí)間均觸發(fā)增量備份;?備份管理:

支持在DMP對(duì)所有DB集群的備份文件、

備份策略進(jìn)行統(tǒng)一管理備份保護(hù)——Oracle數(shù)據(jù)保護(hù)備份保護(hù)——數(shù)據(jù)庫(kù)快速恢復(fù)?基于備份點(diǎn)的快速恢復(fù)

,

支持恢復(fù)為全新的數(shù)據(jù)庫(kù)集群?單機(jī)架構(gòu)的備份可恢復(fù)為單機(jī);

MySQL主從可恢復(fù)為主從集群;

RAC的備份可恢復(fù)為RAC全方位監(jiān)控和分析體系——核心理念?

數(shù)據(jù)驅(qū)動(dòng)?

專(zhuān)家經(jīng)驗(yàn)+機(jī)器學(xué)習(xí)?

診斷流程閉環(huán)?

持續(xù)進(jìn)行?

規(guī)模優(yōu)化Q4開(kāi)始會(huì)逐步提供數(shù)據(jù)庫(kù)自治相關(guān)的功能監(jiān)控巡檢系統(tǒng)的整體架構(gòu)如上圖所示,1、

首先由指標(biāo)采集組件對(duì)不同數(shù)據(jù)庫(kù)的各項(xiàng)相關(guān)數(shù)據(jù)(系統(tǒng)數(shù)據(jù)、

網(wǎng)絡(luò)數(shù)據(jù)、

數(shù)據(jù)庫(kù)數(shù)據(jù)、

消息和事件)

進(jìn)行采集

,、2、采集的數(shù)據(jù)經(jīng)由收集系統(tǒng)Collector進(jìn)行匯總整理,3、存儲(chǔ)至?xí)r序數(shù)據(jù)庫(kù)TSDB。4、

再通過(guò)數(shù)據(jù)處理模塊對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)處理

,分別由巡檢中心生成巡檢報(bào)告、

告警系統(tǒng)觸發(fā)告警、

展示服務(wù)提供UI呈現(xiàn)時(shí)序數(shù)據(jù)庫(kù)TSDB存儲(chǔ)采集的時(shí)序數(shù)據(jù)監(jiān)控中心MonitorCenter負(fù)責(zé)調(diào)度和任務(wù)處理定時(shí)任務(wù)用戶(hù)規(guī)則

告警策略全方位監(jiān)控和分析體系——架構(gòu)設(shè)計(jì)指標(biāo)采集

exporter系統(tǒng)數(shù)據(jù)數(shù)據(jù)庫(kù)

數(shù)據(jù)網(wǎng)絡(luò)數(shù)據(jù)消息和

事件巡檢中心DMP告警平臺(tái)MySQLOracle……收集系統(tǒng)

Collectors負(fù)責(zé)收集和傳輸事件&指標(biāo)用戶(hù)接口(告警信息

巡檢報(bào)告)result

query展示服務(wù)智能調(diào)參▲無(wú)需人工參與的自動(dòng)

監(jiān)控和巡檢機(jī)制▲提供有效的處置建議

,

故障分析有據(jù)可依全方位監(jiān)控和分析體系——功能概述產(chǎn)品截圖異常告警健康巡檢SQL優(yōu)化?

亞健康硬盤(pán),典型的表現(xiàn)為:硬盤(pán)變慢、卡頓、擁塞

、壽命即將用盡,壞道數(shù)過(guò)多等等。?當(dāng)硬盤(pán)出現(xiàn)卡頓、變慢、擁塞等異常情況時(shí),可能會(huì)影響整體的性能,此時(shí)通過(guò)亞健康盤(pán)隔離和讀寫(xiě)切源保證性能的連續(xù)性

壞道預(yù)測(cè)?

有些類(lèi)型的存儲(chǔ)錯(cuò)誤在一些存儲(chǔ)系統(tǒng)中完全未

報(bào)告和未檢測(cè)到。

它們會(huì)導(dǎo)致向應(yīng)用程序提供損壞的數(shù)據(jù),而不會(huì)發(fā)出警告、記錄、錯(cuò)誤消息或任何類(lèi)型的通知。?

深信服HCI端到端校驗(yàn)方案使用XXhash64算法

,

相比目前業(yè)界普遍使用的CRC-32和Adler-32

算法,具有速度更快、沖突率更低的特點(diǎn)。?

支持磨損均衡,保證SSD壽命使用均勻,避免SSD

短時(shí)間內(nèi)壽命到期?

支持壽命保護(hù),壽命達(dá)到最低閾值時(shí),不再寫(xiě)入數(shù)

據(jù)?

基于AI算法,可以精準(zhǔn)地預(yù)測(cè)出環(huán)境中的機(jī)械硬盤(pán)的壞道的發(fā)生情況,根據(jù)實(shí)際環(huán)境的測(cè)試數(shù)據(jù),7天內(nèi)壞道的預(yù)測(cè)準(zhǔn)確率高達(dá)95%以上底層可靠保障——分布式存儲(chǔ)數(shù)據(jù)校驗(yàn)(避免靜默損壞)SSD

壽命可用承諾磁盤(pán)亞健康2.

智能重建數(shù)據(jù)在重建過(guò)程中會(huì)占用一部分的存儲(chǔ)網(wǎng)絡(luò)帶寬和磁盤(pán)性能,那么重建程序可以感知到上層

業(yè)務(wù)的I/0的情況并以此智能地調(diào)整重建所占用的I/0

,在保障業(yè)務(wù)正常運(yùn)行的前提下快速重建

數(shù)據(jù)。3.

分級(jí)重建重建任務(wù)發(fā)起后,系統(tǒng)默認(rèn)會(huì)優(yōu)先重建對(duì)用戶(hù)重要的虛擬機(jī)數(shù)據(jù)進(jìn)行重建,并且可以由用戶(hù)自定義優(yōu)先級(jí)。在存儲(chǔ)卷可用于重建數(shù)據(jù)的空間資源緊缺時(shí),通過(guò)分級(jí)重建可以?xún)?yōu)先保障用

戶(hù)重要的數(shù)據(jù)。1.

全局參與,多并發(fā)數(shù)據(jù)重建的I/0是多并發(fā)式的,即從多個(gè)源端磁盤(pán)讀取,往多個(gè)目的端磁盤(pán)寫(xiě)入的,實(shí)現(xiàn)了數(shù)據(jù)的快速重建,可達(dá)每TB/30min以上底層可靠保障——數(shù)據(jù)多副本機(jī)制磁盤(pán)故障重建主機(jī)故障重建目錄一、

DMP整體技術(shù)框架二、高可靠1.集群架構(gòu)部署2.

自愈能力3.備份保護(hù)4.監(jiān)控體系5.底層可靠三、高性能1.最佳實(shí)踐調(diào)優(yōu)2.存儲(chǔ)層優(yōu)化3.性能測(cè)試數(shù)據(jù)4.SQL級(jí)性能診斷四、易運(yùn)維1.業(yè)務(wù)快速上線?

Oracle

DTS?

自動(dòng)化部署2.生命周期管理3.租戶(hù)自服務(wù)最佳實(shí)踐調(diào)優(yōu)將經(jīng)過(guò)經(jīng)驗(yàn)調(diào)優(yōu)的數(shù)據(jù)庫(kù)最佳實(shí)踐配置直接產(chǎn)品化

,保障自動(dòng)部署的數(shù)據(jù)庫(kù)即具備最佳參數(shù)

,

既保障部署數(shù)據(jù)庫(kù)

的性能

,

同時(shí)顯著提升部署效率;

從下層VM到上層數(shù)據(jù)庫(kù)均有覆蓋_use_adaptive_log_file_sync,archive_lag_target,db_file_multiblock_read_count

,db_files,open_cursors

,optimizer_index_caching,optimizer_index_cost_adj,session_cached_cursors

,…

…max_dump_file_size,standby_file_managementstandy,db_create_file_destOracle-managed

,_gc_bypass_readers、_gc_policy_time、

_gc_read_mostly_locking

,…

…master_info_repository,relay_log_info_repository,slave_preserve_commit_order,…OracleMySQL重要虛擬機(jī),應(yīng)用NUMA調(diào)度,使用HostCPU高性能時(shí)鐘,使用大頁(yè)內(nèi)存,使用預(yù)分配磁盤(pán),

…重要虛擬機(jī),應(yīng)用NUMA調(diào)度,使用HostCPU高性能時(shí)鐘,使用大頁(yè)內(nèi)存,使用預(yù)分配磁盤(pán),

…safe-user-create

,local-infile,allow-suspicious-udfs

,…innodb_**_io_threads,innodb_log_buffer_size,innodb_flush_method,

…高可用調(diào)優(yōu)配置:數(shù)據(jù)庫(kù)功能配置:性能調(diào)優(yōu)配置:數(shù)據(jù)庫(kù)配置:安全配置:VM

配置:VM

配置:最佳實(shí)踐調(diào)優(yōu)——產(chǎn)品實(shí)現(xiàn)?

默認(rèn)的參數(shù)模板

,對(duì)于各層面默認(rèn)參數(shù)的修改

,從虛擬機(jī)層、

網(wǎng)絡(luò)層、

數(shù)據(jù)庫(kù)層多個(gè)維度,

提高了部署效率

,

同時(shí)保證數(shù)據(jù)庫(kù)運(yùn)行的性能、

穩(wěn)定和安全;?

支持可視化參數(shù)調(diào)整;?

實(shí)驗(yàn)環(huán)境實(shí)測(cè)自動(dòng)創(chuàng)建耗時(shí):?

Oracle單機(jī):

10min?

Oracle

RAC:

50min?

MySQL單機(jī):

2min?

MySQL主從:

5min智能條帶化通過(guò)條帶化,充分利用集群中所有的磁盤(pán)組,讓所有的磁盤(pán)組同時(shí)進(jìn)行讀寫(xiě)操作熱力圖算法基于熱力圖算法對(duì)冷熱數(shù)據(jù)做分層,

以最近訪問(wèn)時(shí)間和訪問(wèn)次數(shù)作為數(shù)據(jù)冷熱的評(píng)判標(biāo)志高效分層SSD+HDDSSD作為緩存層提供極致的隨機(jī)IO性能IO本地化基于本地聚合副本,實(shí)現(xiàn)本地讀,避免跨網(wǎng)絡(luò)讀取數(shù)據(jù)帶來(lái)的延時(shí)問(wèn)題磁盤(pán)分卷在混閃配置下,構(gòu)建全閃存的存儲(chǔ)空間

提供高性?xún)r(jià)比的解決方案存儲(chǔ)層六大措施提升隨機(jī)IO性能數(shù)據(jù)最優(yōu)分布散列副本充分利用集群的存儲(chǔ)空間,實(shí)現(xiàn)數(shù)據(jù)最優(yōu)分布集群規(guī)模3臺(tái)服務(wù)器單節(jié)點(diǎn)配置:CPU2

×

IntelXeon

E5-2680v4

@2.40GHzRAM128GBSSD2

×

Intel

S4600480GBHDD6

×

1TBNic2

×

10GbE超融合軟件版本:aCloud5.8.7R1測(cè)試用例10VM3DISKs單盤(pán)性能:順序?qū)懀?80MB/000173,973k30001M-seq-100read1M-seq-100write充分發(fā)揮出物理硬件的性能90%以上!MBPS2500200015001000500充分挖掘SSD隨機(jī)IO讀寫(xiě)性能單盤(pán)性能:隨機(jī)讀:72000IOPS隨機(jī)寫(xiě):60000IOPS400300200k1002796

順序讀:500

MB/s432,000430,7314k-rand-100read4k-rand-100writeIOPSkk服務(wù)器型號(hào)aServer-P-2300CPUsIntel(R)Xeon(R)Gold6132

CPU

@

2.60GHz內(nèi)存224GB(32GB

*

7)系統(tǒng)盤(pán)1*

128GB

SSD緩存盤(pán)2*TOSHIBA

KHK61RSE

960G數(shù)據(jù)盤(pán)6*

4TB

SATA

HDD網(wǎng)口6*

GE電口+2

*

10GE光口數(shù)量3臺(tái)交換機(jī)萬(wàn)兆交換機(jī)2臺(tái)千兆交換機(jī)2臺(tái)HCI版本HCI6.3.0R1SCP版本SCP6.3.80/SCP6.3.70規(guī)格8C16GDMP版本DMP2.1.0規(guī)格8C16GDBVMOracle鏡像Oracle11.2_Centos7.9_2.1.0.vmaMySQL鏡像MySQL5.7.30_Centos8_2.1.0.vma模型條目用戶(hù)注冊(cè)更新用戶(hù)信息瀏覽商品訂購(gòu)商品處理訂單瀏覽訂單交易模型11%1%85%5%3%5%交易模型210%10%35%35%5%5%硬件配置軟件配置測(cè)試模型Oracle性能測(cè)試——測(cè)試環(huán)境規(guī)格壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型1TPMOracleRAC16C64G2400用戶(hù)8349522600用戶(hù)8413662800用戶(hù)852833壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型2TPM1400用戶(hù)4567231600用戶(hù)4721151800用戶(hù)469946規(guī)格壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型1TPMOracle單機(jī)16C64G1000用戶(hù)4742761200用戶(hù)5092041400用戶(hù)512114壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型2TPM400用戶(hù)162027500用戶(hù)202550600用戶(hù)241096規(guī)格壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型1TPMOracleRAC32C128G3400用戶(hù)1182117壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型2TPM1200用戶(hù)6699711400用戶(hù)7039061600用戶(hù)7562451800用戶(hù)815566規(guī)格壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型1TPMOracle單機(jī)32C128G2600用戶(hù)6632592800用戶(hù)660505壓測(cè)并發(fā)(用戶(hù)數(shù))交易模型2TPM400用戶(hù)160268600用戶(hù)241091800用戶(hù)315924Oracle性能測(cè)試——測(cè)試數(shù)據(jù)由上述結(jié)果可見(jiàn)

,

RAC32C128G峰值可達(dá)約120W

TPM測(cè)試結(jié)果提供SQL級(jí)別洞察能力

,提供性能診斷(Q4發(fā)布)目錄一、

DMP整體技術(shù)框架二、高可靠1.

集群架構(gòu)部署2.

自愈能力3.

備份保護(hù)4.

監(jiān)控體系5.

底層可靠三、高性能1.

最佳實(shí)踐調(diào)優(yōu)2.

存儲(chǔ)層優(yōu)化3.

性能測(cè)試數(shù)據(jù)4.

SQL級(jí)性能診斷四、易運(yùn)維1.業(yè)務(wù)快速上線?

Oracle

DTS?

自動(dòng)化部署2.生命周期管理3.租戶(hù)自服務(wù)遷移場(chǎng)景需求分析硬件系統(tǒng)升級(jí)升級(jí)存儲(chǔ)、

磁盤(pán)、

CPU

以滿(mǎn)足日益增

長(zhǎng)的業(yè)務(wù)的性能需求。數(shù)據(jù)庫(kù)版本升級(jí)舊版本數(shù)據(jù)庫(kù)功能受限

,

需要滿(mǎn)足更復(fù)

雜的業(yè)務(wù)需求

,

需要升級(jí)最新版本的數(shù)

據(jù)庫(kù)。數(shù)據(jù)同步數(shù)據(jù)遷移以遷移整個(gè)數(shù)據(jù)庫(kù)為目的

,數(shù)

據(jù)同步以維持不同業(yè)務(wù)或者不同數(shù)據(jù)庫(kù)

之間的數(shù)據(jù)持續(xù)性流動(dòng)。

進(jìn)行數(shù)據(jù)同步

的基礎(chǔ)首先要完成對(duì)數(shù)據(jù)的全量遷移。數(shù)據(jù)庫(kù)上云為了更好地管理數(shù)據(jù)庫(kù)、

節(jié)約數(shù)據(jù)服務(wù)

成本

,將數(shù)據(jù)庫(kù)遷移到公有云或者私有

云平臺(tái)。數(shù)據(jù)多活災(zāi)備為了保障節(jié)點(diǎn)的安全性和穩(wěn)定性

,解決

某一節(jié)點(diǎn)或者實(shí)例的因?yàn)槌霈F(xiàn)數(shù)據(jù)出錯(cuò)

導(dǎo)致不可用

,數(shù)據(jù)復(fù)制服務(wù)推出災(zāi)備場(chǎng)

為用戶(hù)業(yè)務(wù)連續(xù)性提供數(shù)據(jù)庫(kù)的同

步保障。

數(shù)據(jù)多活災(zāi)備一般分為兩地三

中心、

兩地四中心災(zāi)備架構(gòu)。遷移過(guò)程注意事項(xiàng)遷移前需要了解數(shù)據(jù)庫(kù)版本

,數(shù)據(jù)庫(kù)架構(gòu)

,表空間

狀態(tài)

,表空間數(shù)量

,表空間容量

,

主外鍵

,

字符集

,特殊字符類(lèi)型如Blob、

Cl

ob

,檢

查數(shù)據(jù)庫(kù)中視圖、

索引、

序列、

存儲(chǔ)過(guò)程、

同義詞、

定時(shí)腳本以及物化視圖、

db_link等對(duì)象是否存在及其狀態(tài)等信息;遷移中需要注意源端與目標(biāo)端的網(wǎng)絡(luò)是否出現(xiàn)抖動(dòng)、

是否有中斷的情況發(fā)生。遷移注意預(yù)留充足磁盤(pán)空間。遷移后業(yè)務(wù)驗(yàn)證

,一般都需要咨詢(xún)業(yè)務(wù)人員或者開(kāi)

發(fā)人員;

應(yīng)用割接方式

:使用配置管理庫(kù)

使用DNS方式

,

直接改連接串

,無(wú)論哪種

方式

,均有短時(shí)的業(yè)務(wù)中斷可以看到

,

Oracle遷移需要考慮的關(guān)聯(lián)項(xiàng)非常多

,操作也非

常復(fù)雜

,

需要依賴(lài)很深的專(zhuān)業(yè)知識(shí)

,實(shí)施難度巨大。DMP將遷移任務(wù)統(tǒng)一考量

,在平臺(tái)內(nèi)置了DTS遷移工具

,簡(jiǎn)

化遷移任務(wù)

,方便用戶(hù)進(jìn)行業(yè)務(wù)上線。業(yè)務(wù)快速上線——Oracle數(shù)據(jù)庫(kù)遷移背景知識(shí)新建遷移任務(wù)配置源、

目標(biāo)數(shù)據(jù)庫(kù)并測(cè)試連接配置遷移參數(shù)信息確認(rèn)預(yù)檢查執(zhí)行遷移數(shù)據(jù)校驗(yàn)遷移完成DTS(

DataTransmissionService)DTS選用數(shù)據(jù)泵作為基礎(chǔ)工具進(jìn)行整合

開(kāi)發(fā)?

可支持Oracle數(shù)據(jù)庫(kù)自動(dòng)化在線遷

移?

支持全量遷移和結(jié)構(gòu)遷移兩種遷移

類(lèi)型?

支持網(wǎng)絡(luò)傳輸DB-link、

本地轉(zhuǎn)儲(chǔ)兩

種方式進(jìn)行遷移極大簡(jiǎn)化遷移步驟復(fù)雜度:?

用戶(hù)只需從頁(yè)面進(jìn)行

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論