實(shí)施微效勞，我們需要哪些根底框架？微效勞(MicroServices)架構(gòu)是當(dāng)前互聯(lián)網(wǎng)業(yè)界的一個(gè)技術(shù)熱點(diǎn)，圈里有不少同行朋友當(dāng)前有方案在各自公司開展微效勞化體系建設(shè)，他們都有相同的疑問：一個(gè)微效勞架構(gòu)有哪些技術(shù)關(guān)注點(diǎn)(technicalconcerns)？需要哪些根底框架或組件來支持微效勞架構(gòu)？這些框架或組件該如何選型？筆者之前在兩家大型互聯(lián)網(wǎng)公司參與和主導(dǎo)過大型效勞化體系和框架建設(shè)，同時(shí)在這塊也投入了很多時(shí)間去學(xué)習(xí)和研究，有一些經(jīng)驗(yàn)和學(xué)習(xí)心得，可以和大家一起分享。效勞注冊(cè)、發(fā)現(xiàn)、負(fù)載均衡和健康檢查和單塊(Monolithic)架構(gòu)不同，微效勞架構(gòu)是由一系列職責(zé)單一的細(xì)粒度效勞構(gòu)成的分布式網(wǎng)狀結(jié)構(gòu)，效勞之間通過輕量機(jī)制進(jìn)行通信，這時(shí)候必然引入一個(gè)效勞注冊(cè)發(fā)現(xiàn)問題，也就是說效勞提供方要注冊(cè)通告效勞地址，效勞的調(diào)用方要能發(fā)現(xiàn)目標(biāo)效勞，同時(shí)效勞提供方一般以集群方式提供效勞，也就引入了負(fù)載均衡和健康檢查問題。根據(jù)負(fù)載均衡LB所在位置的不同，目前主要的效勞注冊(cè)、發(fā)現(xiàn)和負(fù)載均衡方案有三種：第一種是集中式LB方案，如下列圖Fig1，在效勞消費(fèi)者和效勞提供者之間有一個(gè)獨(dú)立的LB，LB通常是專門的硬件設(shè)備如F5，或者基于軟件如LVS，HAproxy等實(shí)現(xiàn)。LB上有所有效勞的地址映射表，通常由運(yùn)維配置注冊(cè)，當(dāng)效勞消費(fèi)方調(diào)用某個(gè)目標(biāo)效勞時(shí)，它向LB發(fā)起請(qǐng)求，由LB以某種策略〔比方Round-Robin〕做負(fù)載均衡后將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)效勞。LB一般具備健康檢查能力，能自動(dòng)摘除不健康的效勞實(shí)例。效勞消費(fèi)方如何發(fā)現(xiàn)LB呢？通常的做法是通過DNS，運(yùn)維人員為效勞配置一個(gè)DNS域名，這個(gè)域名指向LB。Fig1,集中式LB方案集中式LB方案實(shí)現(xiàn)簡(jiǎn)單，在LB上也容易做集中式的訪問控制，這一方案目前還是業(yè)界主流。集中式LB的主要問題是單點(diǎn)問題，所有效勞調(diào)用流量都經(jīng)過LB，當(dāng)效勞數(shù)量和調(diào)用量大的時(shí)候，LB容易成為瓶頸，且一旦LB發(fā)生故障對(duì)整個(gè)系統(tǒng)的影響是災(zāi)難性的。另外，LB在效勞消費(fèi)方和效勞提供方之間增加了一跳(hop)，有一定性能開銷。相關(guān)廠商內(nèi)容百度APS深度剖析手淘如何從無到有的HybridApp框架創(chuàng)立歷程。萬人在線直播教室如何搭建？公司高速開展，研發(fā)團(tuán)隊(duì)如何調(diào)優(yōu)支付寶紅包瞬時(shí)支付量挑戰(zhàn)雙十一零點(diǎn)峰值！相關(guān)贊助商全球架構(gòu)師峰會(huì)，12月18-19日，北京·國(guó)際會(huì)議中心，精彩內(nèi)容邀您參與！第二種是進(jìn)程內(nèi)LB方案，針對(duì)集中式LB的缺乏，進(jìn)程內(nèi)LB方案將LB的功能以庫的形式集成到效勞消費(fèi)方進(jìn)程里頭，該方案也被稱為軟負(fù)載(SoftLoadBalancing)或者客戶端負(fù)載方案，下列圖Fig2展示了這種方案的工作原理。這一方案需要一個(gè)效勞注冊(cè)表(ServiceRegistry)配合支持效勞自注冊(cè)和自發(fā)現(xiàn)，效勞提供方啟動(dòng)時(shí)，首先將效勞地址注冊(cè)到效勞注冊(cè)表〔同時(shí)定期報(bào)心跳到效勞注冊(cè)表以說明效勞的存活狀態(tài)，相當(dāng)于健康檢查〕，效勞消費(fèi)方要訪問某個(gè)效勞時(shí)，它通過內(nèi)置的LB組件向效勞注冊(cè)表查詢〔同時(shí)緩存并定期刷新〕目標(biāo)效勞地址列表，然后以某種負(fù)載均衡策略選擇一個(gè)目標(biāo)效勞地址，最后向目標(biāo)效勞發(fā)起請(qǐng)求。這一方案對(duì)效勞注冊(cè)表的可用性(Availability)要求很高，一般采用能滿足高可用分布式一致的組件〔例如Zookeeper,Consul,Etcd等〕來實(shí)現(xiàn)。Fig2,進(jìn)程內(nèi)LB方案進(jìn)程內(nèi)LB方案是一種分布式方案，LB和效勞發(fā)現(xiàn)能力被分散到每一個(gè)效勞消費(fèi)者的進(jìn)程內(nèi)部，同時(shí)效勞消費(fèi)方和效勞提供方之間是直接調(diào)用，沒有額外開銷，性能比擬好。但是，該方案以客戶庫(ClientLibrary)的方式集成到效勞調(diào)用方進(jìn)程里頭，如果企業(yè)內(nèi)有多種不同的語言棧，就要配合開發(fā)多種不同的客戶端，有一定的研發(fā)和維護(hù)本錢。另外，一旦客戶端跟隨效勞調(diào)用方發(fā)布到生產(chǎn)環(huán)境中，后續(xù)如果要對(duì)客戶庫進(jìn)行升級(jí)，勢(shì)必要求效勞調(diào)用方修改代碼并重新發(fā)布，所以該方案的升級(jí)推廣有不小的阻力。進(jìn)程內(nèi)LB的案例是Netflix的開源效勞框架，對(duì)應(yīng)的組件分別是：Eureka效勞注冊(cè)表，Karyon效勞端框架支持效勞自注冊(cè)和健康檢查，Ribbon客戶端框架支持效勞自發(fā)現(xiàn)和軟路由。另外，阿里開源的效勞框架Dubbo也是采用類似機(jī)制。第三種是主機(jī)獨(dú)立LB進(jìn)程方案，該方案是針對(duì)第二種方案的缺乏而提出的一種折中方案，原理和第二種方案根本類似，不同之處是，他將LB和效勞發(fā)現(xiàn)功能從進(jìn)程內(nèi)移出來，變成主機(jī)上的一個(gè)獨(dú)立進(jìn)程，主機(jī)上的一個(gè)或者多個(gè)效勞要訪問目標(biāo)效勞時(shí)，他們都通過同一主機(jī)上的獨(dú)立LB進(jìn)程做效勞發(fā)現(xiàn)和負(fù)載均衡，見下列圖Fig3。Fig3主機(jī)獨(dú)立LB進(jìn)程方案該方案也是一種分布式方案，沒有單點(diǎn)問題，一個(gè)LB進(jìn)程掛了只影響該主機(jī)上的效勞調(diào)用方，效勞調(diào)用方和LB之間是進(jìn)程內(nèi)調(diào)用，性能好，同時(shí)，該方案還簡(jiǎn)化了效勞調(diào)用方，不需要為不同語言開發(fā)客戶庫，LB的升級(jí)不需要效勞調(diào)用方改代碼。該方案的缺乏是部署較復(fù)雜，環(huán)節(jié)多，出錯(cuò)調(diào)試排查問題不方便。該方案的典型案例是Airbnb的SmartStack效勞發(fā)現(xiàn)框架，對(duì)應(yīng)組件分別是：Zookeeper作為效勞注冊(cè)表，Nerve獨(dú)立進(jìn)程負(fù)責(zé)效勞注冊(cè)和健康檢查，Synapse/HAproxy獨(dú)立進(jìn)程負(fù)責(zé)效勞發(fā)現(xiàn)和負(fù)載均衡。Google最新推出的基于容器的PaaS平臺(tái)Kubernetes，其內(nèi)部效勞發(fā)現(xiàn)采用類似的機(jī)制。效勞前端路由微效勞除了內(nèi)部相互之間調(diào)用和通信之外，最終要以某種方式暴露出去，才能讓外界系統(tǒng)〔例如客戶的瀏覽器、移動(dòng)設(shè)備等等〕訪問到，這就涉及效勞的前端路由，對(duì)應(yīng)的組件是效勞網(wǎng)關(guān)(ServiceGateway)，見圖Fig4，網(wǎng)關(guān)是連接企業(yè)內(nèi)部和外部系統(tǒng)的一道門，有如下關(guān)鍵作用：效勞反向路由，網(wǎng)關(guān)要負(fù)責(zé)將外部請(qǐng)求反向路由到內(nèi)部具體的微效勞，這樣雖然企業(yè)內(nèi)部是復(fù)雜的分布式微效勞結(jié)構(gòu)，但是外部系統(tǒng)從網(wǎng)關(guān)上看到的就像是一個(gè)統(tǒng)一的完整效勞，網(wǎng)關(guān)屏蔽了后臺(tái)效勞的復(fù)雜性，同時(shí)也屏蔽了后臺(tái)效勞的升級(jí)和變化。平安認(rèn)證和防爬蟲，所有外部請(qǐng)求必須經(jīng)過網(wǎng)關(guān)，網(wǎng)關(guān)可以集中對(duì)訪問進(jìn)行平安控制，比方用戶認(rèn)證和授權(quán)，同時(shí)還可以分析訪問模式實(shí)現(xiàn)防爬蟲功能，網(wǎng)關(guān)是連接企業(yè)內(nèi)外系統(tǒng)的平安之門。限流和容錯(cuò)，在流量頂峰期，網(wǎng)關(guān)可以限制流量，保護(hù)后臺(tái)系統(tǒng)不被大流量沖垮，在內(nèi)部系統(tǒng)出現(xiàn)故障時(shí)，網(wǎng)關(guān)可以集中做容錯(cuò)，保持外部良好的用戶體驗(yàn)。監(jiān)控，網(wǎng)關(guān)可以集中監(jiān)控訪問量，調(diào)用延遲，錯(cuò)誤計(jì)數(shù)和訪問模式，為后端的性能優(yōu)化或者擴(kuò)容提供數(shù)據(jù)支持。日志，網(wǎng)關(guān)可以收集所有的訪問日志，進(jìn)入后臺(tái)系統(tǒng)做進(jìn)一步分析。Fig4,效勞網(wǎng)關(guān)除以上根本能力外，網(wǎng)關(guān)還可以實(shí)現(xiàn)線上引流，線上壓測(cè)，線上調(diào)試(Surgicaldebugging)，金絲雀測(cè)試(CanaryTesting)，數(shù)據(jù)中心雙活(Active-ActiveHA)等高級(jí)功能。網(wǎng)關(guān)通常工作在7層，有一定的計(jì)算邏輯，一般以集群方式部署，前置LB進(jìn)行負(fù)載均衡。開源的網(wǎng)關(guān)組件有Netflix的Zuul，特點(diǎn)是動(dòng)態(tài)可熱部署的過濾器(filter)機(jī)制，其它如HAproxy，Nginx等都可以擴(kuò)展作為網(wǎng)關(guān)使用。在介紹過效勞注冊(cè)表和網(wǎng)關(guān)等組件之后，我們可以通過一個(gè)簡(jiǎn)化的微效勞架構(gòu)圖(Fig5)來更加直觀地展示整個(gè)微效勞體系內(nèi)的效勞注冊(cè)發(fā)現(xiàn)和路由機(jī)制，該圖假定采用進(jìn)程內(nèi)LB效勞發(fā)現(xiàn)和負(fù)載均衡機(jī)制。在下列圖Fig5的微效勞架構(gòu)中，效勞簡(jiǎn)化為兩層，后端通用效勞〔也稱中間層效勞MiddleTierService〕和前端效勞〔也稱邊緣效勞EdgeService，前端效勞的作用是對(duì)后端效勞做必要的聚合和裁剪后暴露給外部不同的設(shè)備，如PC，Pad或者Phone〕。后端效勞啟動(dòng)時(shí)會(huì)將地址信息注冊(cè)到效勞注冊(cè)表，前端效勞通過查詢效勞注冊(cè)表就可以發(fā)現(xiàn)然后調(diào)用后端效勞；前端效勞啟動(dòng)時(shí)也會(huì)將地址信息注冊(cè)到效勞注冊(cè)表，這樣網(wǎng)關(guān)通過查詢效勞注冊(cè)表就可以將請(qǐng)求路由到目標(biāo)前端效勞，這樣整個(gè)微效勞體系的效勞自注冊(cè)自發(fā)現(xiàn)和軟路由就通過效勞注冊(cè)表和網(wǎng)關(guān)串聯(lián)起來了。如果以面向?qū)ο笤O(shè)計(jì)模式的視角來看，網(wǎng)關(guān)類似Proxy代理或者Fa?ade門面模式，而效勞注冊(cè)表和效勞自注冊(cè)自發(fā)現(xiàn)類似IoC依賴注入模式，微效勞可以理解為基于網(wǎng)關(guān)代理和注冊(cè)表IoC構(gòu)建的分布式系統(tǒng)。Fig5,簡(jiǎn)化的微效勞架構(gòu)圖效勞容錯(cuò)當(dāng)企業(yè)微效勞化以后，效勞之間會(huì)有錯(cuò)綜復(fù)雜的依賴關(guān)系，例如，一個(gè)前端請(qǐng)求一般會(huì)依賴于多個(gè)后端效勞，技術(shù)上稱為1->N扇出(見圖Fig6)。在實(shí)際生產(chǎn)環(huán)境中，效勞往往不是百分百可靠，效勞可能會(huì)出錯(cuò)或者產(chǎn)生延遲，如果一個(gè)應(yīng)用不能對(duì)其依賴的故障進(jìn)行容錯(cuò)和隔離，那么該應(yīng)用本身就處在被拖垮的風(fēng)險(xiǎn)中。在一個(gè)高流量的網(wǎng)站中，某個(gè)單一后端一旦發(fā)生延遲，可能在數(shù)秒內(nèi)導(dǎo)致所有應(yīng)用資源(線程，隊(duì)列等)被耗盡，造成所謂的雪崩效應(yīng)(CascadingFailure，見圖Fig7)，嚴(yán)重時(shí)可致整個(gè)網(wǎng)站癱瘓。Fig6,效勞依賴Fig7,頂峰期單個(gè)效勞延遲致雪崩效應(yīng)經(jīng)過多年的探索和實(shí)踐，業(yè)界在分布式效勞容錯(cuò)一塊探索出了一套有效的容錯(cuò)模式和最正確實(shí)踐，主要包括：電路熔斷器模式(CircuitBreakerPatten),該模式的原理類似于家里的電路熔斷器，如果家里的電路發(fā)生短路，熔斷器能夠主動(dòng)熔斷電路，以防止災(zāi)難性損失。在分布式系統(tǒng)中應(yīng)用電路熔斷器模式后，當(dāng)目標(biāo)效勞慢或者大量超時(shí)，調(diào)用方能夠主動(dòng)熔斷，以防止效勞被進(jìn)一步拖垮；如果情況又好轉(zhuǎn)了，電路又能自動(dòng)恢復(fù)，這就是所謂的彈性容錯(cuò)，系統(tǒng)有自恢復(fù)能力。下列圖Fig8是一個(gè)典型的具備彈性恢復(fù)能力的電路保護(hù)器狀態(tài)圖，正常狀態(tài)下，電路處于關(guān)閉狀態(tài)(Closed)，如果調(diào)用持續(xù)出錯(cuò)或者超時(shí)，電路被翻開進(jìn)入熔斷狀態(tài)(Open)，后續(xù)一段時(shí)間內(nèi)的所有調(diào)用都會(huì)被拒絕(FailFast)，一段時(shí)間以后，保護(hù)器會(huì)嘗試進(jìn)入半熔斷狀態(tài)(Half-Open)，允許少量請(qǐng)求進(jìn)來嘗試，如果調(diào)用仍然失敗，那么回到熔斷狀態(tài)，如果調(diào)用成功，那么回到電路閉合狀態(tài)。Fig8,彈性電路保護(hù)狀態(tài)圖艙壁隔離模式(BulkheadIsolationPattern)，顧名思義，該模式像艙壁一樣對(duì)資源或失敗單元進(jìn)行隔離，如果一個(gè)船艙破了進(jìn)水，只損失一個(gè)船艙，其它船艙可以不受影響。線程隔離(ThreadIsolation)就是艙壁隔離模式的一個(gè)例子，假定一個(gè)應(yīng)用程序A調(diào)用了Svc1/Svc2/Svc3三個(gè)效勞，且部署A的容器一共有120個(gè)工作線程，采用線程隔離機(jī)制，可以給對(duì)Svc1/Svc2/Svc3的調(diào)用各分配40個(gè)線程，當(dāng)Svc2慢了，給Svc2分配的40個(gè)線程因慢而阻塞并最終耗盡，線程隔離可以保證給Svc1/Svc3分配的80個(gè)線程可以不受影響，如果沒有這種隔離機(jī)制，當(dāng)Svc2慢的時(shí)候，120個(gè)工作線程會(huì)很快全部被對(duì)Svc2的調(diào)用吃光，整個(gè)應(yīng)用程序會(huì)全部慢下來。限流(RateLimiting/LoadShedder)，效勞總有容量限制，沒有限流機(jī)制的效勞很容易在突發(fā)流量(秒殺，雙十一)時(shí)被沖垮。限流通常指對(duì)效勞限定并發(fā)訪問量，比方單位時(shí)間只允許100個(gè)并發(fā)調(diào)用，對(duì)超過這個(gè)限制的請(qǐng)求要拒絕并回退?；赝?fallback)，在熔斷或者限流發(fā)生的時(shí)候，應(yīng)用程序的后續(xù)處理邏輯是什么？回退是系統(tǒng)的彈性恢復(fù)能力，常見的處理策略有，直接拋出異常，也稱快速失敗(FailFast)，也可以返回空值或缺省值，還可以返回備份數(shù)據(jù)，如果主效勞熔斷了，可以從備份效勞獲取數(shù)據(jù)。Netflix將上述容錯(cuò)模式和最正確實(shí)踐集成到一個(gè)稱為Hystrix的開源組件中，但凡需要容錯(cuò)的依賴點(diǎn)(效勞，緩存，數(shù)據(jù)庫訪問等)，開發(fā)人員只需要將調(diào)用封裝在HystrixCommand里頭，那么相關(guān)調(diào)用就自動(dòng)置于Hystrix的彈性容錯(cuò)保護(hù)之下。Hystrix組件已經(jīng)在Netflix經(jīng)過多年運(yùn)維驗(yàn)證，是Netflix微效勞平臺(tái)穩(wěn)定性和彈性的基石，正逐漸被社區(qū)接受為標(biāo)準(zhǔn)容錯(cuò)組件。效勞框架微效勞化以后，為了讓業(yè)務(wù)開發(fā)人員專注于業(yè)務(wù)邏輯實(shí)現(xiàn)，防止冗余和重復(fù)勞動(dòng)，標(biāo)準(zhǔn)研發(fā)提升效率，必然要將一些公共關(guān)注點(diǎn)推到框架層面。效勞框架(Fig9)主要封裝公共關(guān)注點(diǎn)邏輯，包括：Fig9,效勞框架效勞注冊(cè)、發(fā)現(xiàn)、負(fù)載均衡和健康檢查，假定采用進(jìn)程內(nèi)LB方案，那么效勞自注冊(cè)一般統(tǒng)一做在效勞器端框架中，健康檢查邏輯由具體業(yè)務(wù)效勞定制，框架層提供調(diào)用健康檢查邏輯的機(jī)制，效勞發(fā)現(xiàn)和負(fù)載均衡那么集成在效勞客戶端框架中。監(jiān)控日志，框架一方面要記錄重要的框架層日志、metrics和調(diào)用鏈數(shù)據(jù)，還要將日志、metrics等接口暴露出來，讓業(yè)務(wù)層能根據(jù)需要記錄業(yè)務(wù)日志數(shù)據(jù)。在運(yùn)行環(huán)境中，所有日志數(shù)據(jù)一般集中落地到企業(yè)后臺(tái)日志系統(tǒng)，做進(jìn)一步分析和處理。REST/RPC和序列化，框架層要支持將業(yè)務(wù)邏輯以HTTP/REST或者RPC方式暴露出來，HTTP/REST是當(dāng)前主流API暴露方式，在性能要求高的場(chǎng)合那么可采用Binary/RPC方式。針對(duì)當(dāng)前多樣化的設(shè)備類型(瀏覽器、普通PC、無線設(shè)備等)，框架層要支持可定制的序列化機(jī)制，例如，對(duì)瀏覽器，框架支持輸出Ajax友好的JSON消息格式，而對(duì)無線設(shè)備上的NativeApp，框架支持輸出性能高的Binary消息格式。配置，除了支持普通配置文件方式的配置，框架層還可集成動(dòng)態(tài)運(yùn)行時(shí)配置，能夠在運(yùn)行時(shí)針對(duì)不同環(huán)境動(dòng)態(tài)調(diào)整效勞的參數(shù)和配置。限流和容錯(cuò)，框架集成限流容錯(cuò)組件，能夠在運(yùn)行時(shí)自動(dòng)限流和容錯(cuò)，保護(hù)效勞，如果進(jìn)一步和動(dòng)態(tài)配置相結(jié)合，還可以實(shí)現(xiàn)動(dòng)態(tài)限流和熔斷。管理接口，框架集成管理接口，一方面可以在線查看框架和效勞內(nèi)部狀態(tài)，同時(shí)還可以動(dòng)態(tài)調(diào)整內(nèi)部狀態(tài)，對(duì)調(diào)試、監(jiān)控和管理能提供快速反應(yīng)。SpringBoot微框架的Actuator模塊就是一個(gè)強(qiáng)大的管理接口。統(tǒng)一錯(cuò)誤處理，對(duì)于框架層和效勞的內(nèi)部異常，如果框架層能夠統(tǒng)一處理并記錄日志，對(duì)效勞監(jiān)控和快速問題定位有很大幫助。平安，平安和訪問控制邏輯可以在框架層統(tǒng)一進(jìn)行封裝，可做成插件形式，具體業(yè)務(wù)效勞根據(jù)需要加載相關(guān)平安插件。文檔自動(dòng)生成，文檔的書寫和同步一直是一個(gè)痛點(diǎn)，框架層如果能支持文檔的自動(dòng)生成和同步，會(huì)給使用API的開發(fā)和測(cè)試人員帶來極大便利。Swagger是一種流行RestfulAPI的文檔方案。當(dāng)前業(yè)界比擬成熟的微效勞框架有Netflix的Karyon/Ribbon，Spring的SpringBoot/Cloud，阿里的Dubbo等。運(yùn)行期配置管理效勞一般有很多依賴配置，例如訪問數(shù)據(jù)庫有連接字符串配置，連接池大小和連接超時(shí)配置，這些配置在不同環(huán)境(開發(fā)/測(cè)試/生產(chǎn))一般不同，比方生產(chǎn)環(huán)境需要配連接池，而開發(fā)測(cè)試環(huán)境可能不配，另外有些參數(shù)配置在運(yùn)行期可能還要?jiǎng)討B(tài)調(diào)整，例如，運(yùn)行時(shí)根據(jù)流量狀況動(dòng)態(tài)調(diào)整限流和熔斷閥值。目前比擬常見的做法是搭建一個(gè)運(yùn)行時(shí)配置中心支持微效勞的動(dòng)態(tài)配置，簡(jiǎn)化架構(gòu)如下列圖(Fig10):Fig10,效勞配置中心動(dòng)態(tài)配置存放在集中的配置效勞器上，用戶通過管理界面配置和調(diào)整效勞配置，具體效勞通過定期拉(ScheduledPull)的方式或者效勞器推(Server-sidePush)的方式更新動(dòng)態(tài)配置，拉方式比擬可靠，但會(huì)有延遲同