博客專欄

EEPW首頁 > 博客 > Linux運(yùn)維之如何科學(xué)的管理集群

Linux運(yùn)維之如何科學(xué)的管理集群

發(fā)布人:only1 時(shí)間:2020-09-27 來源:工程師 發(fā)布文章

  Linux開發(fā)如今已經(jīng)漸漸的走入人們的視野,參加Linux培訓(xùn)學(xué)習(xí)Linux開發(fā)技術(shù)的人也在不斷的增加,本篇文章扣丁學(xué)堂小編在網(wǎng)上整理了一些Linux運(yùn)維方面的內(nèi)容,今天就和讀者們一塊探討一下Linux運(yùn)維之如何科學(xué)的管理集群。

  首先我們先要明確集群的概念,集群不是泛指各功能服務(wù)器的總合,而是指為了達(dá)到某一目的或功能的服務(wù)器、硬盤資源的整合(機(jī)器數(shù)大于兩臺(tái)),對于應(yīng)用來說它就是一個(gè)整體。


  目前常規(guī)集群可分為:高可用性集群(HA),負(fù)載均衡集群(如lvs),分布式儲(chǔ)、計(jì)算存儲(chǔ)集群(DFS,如googlegfs,yahoohadoop),特定應(yīng)用集群(某一特定功能服務(wù)器組合、如db、cache層等)。目前互聯(lián)網(wǎng)行業(yè)主要基于這四種類型;對于前兩種類似,如果業(yè)務(wù)簡單、應(yīng)用上post操作比較少,可以簡單的采用四層交換機(jī)解決(如f5),達(dá)到服務(wù)高可用/負(fù)責(zé)均衡的作用,對于資源緊張的公司也有一些開源解決辦法如lvs+ha,非常靈活;對于后兩種,那就考驗(yàn)公司技術(shù)實(shí)力及應(yīng)用特點(diǎn)了,第三種DFS主要應(yīng)用于海量數(shù)據(jù)應(yīng)用上,如郵件、搜索等應(yīng)用,特別是搜索要求就更高了,除了簡單海量存儲(chǔ),還包括數(shù)據(jù)挖掘、用戶行為分析;如google、yahoo就能保存分析近一年的用戶記錄數(shù)據(jù),而baidu應(yīng)該少于30天、soguo就更少了。這些對于搜索準(zhǔn)備性、及用戶體驗(yàn)是至關(guān)重要的。


  接下來,我們再談?wù)勅绾慰茖W(xué)的管理集群,有以下關(guān)鍵幾點(diǎn):


  1、監(jiān)控


  主要包括故障監(jiān)控和性能、流量、負(fù)載等狀態(tài)監(jiān)控,這些監(jiān)控關(guān)系到集群的健康運(yùn)行,及潛在問題的及時(shí)發(fā)現(xiàn)與干預(yù)。


  a、服務(wù)故障、狀態(tài)監(jiān)控:主要是對服務(wù)器自身、上層應(yīng)用、關(guān)聯(lián)服務(wù)數(shù)據(jù)交互監(jiān)控;例如針對前端webserver,我們就可以有很多種類型的監(jiān)控,包括應(yīng)用端口狀態(tài)監(jiān)控,便于及時(shí)發(fā)現(xiàn)服務(wù)器或應(yīng)用本身是否crash、通過icmp包探測服務(wù)器健康狀態(tài),更上層可能還包括應(yīng)用各頻道業(yè)務(wù)的監(jiān)控,常用方法是采用面業(yè)特征碼進(jìn)行判斷,或?qū)χ攸c(diǎn)頁面進(jìn)行簽名,以網(wǎng)站被黑篡改(報(bào)警、并自動(dòng)恢復(fù)被篡改數(shù)據(jù))等等,這些只是一部份,還有N多監(jiān)控方式,依應(yīng)用特點(diǎn)而定,還有一些問題需解決,如集群過大,如何高性能的進(jìn)行監(jiān)控也是一個(gè)現(xiàn)實(shí)問題。


  b、其它就是集群狀態(tài)類的監(jiān)控或統(tǒng)計(jì),為我們合理管理調(diào)優(yōu)集群提供數(shù)據(jù)參考、包括服務(wù)瓶頸、性能問題、異常流量、攻擊等問題。


  2、故障管理


  a、硬件故障問題;對于成百上千或上萬機(jī)器的N多集群,服務(wù)器死機(jī)、硬件故障概率是非常大的,幾乎每時(shí)每刻都有服務(wù)硬件問題,死機(jī)、硬盤損壞、電源、內(nèi)存、交換機(jī)。針對這種情況,我們在設(shè)計(jì)網(wǎng)站架構(gòu)時(shí)需要充分考慮到這些問題,并將其視為常態(tài);更多的依靠應(yīng)用的冗余機(jī)制來規(guī)避這種風(fēng)險(xiǎn),但給系統(tǒng)工程師足夠?qū)捲5奶幚頃r(shí)間。(如google不是號(hào)稱同時(shí)死800臺(tái)機(jī)器,服務(wù)不會(huì)受到任何影響嗎);這就是考驗(yàn)運(yùn)維工程師及網(wǎng)站架構(gòu)師功能的地方了,好的設(shè)計(jì)能達(dá)到google所描述自恢復(fù)能力,如gfs,糟糕的設(shè)計(jì)那就是一臺(tái)服務(wù)器的死機(jī)可能會(huì)造成大面積服務(wù)的連鎖故障反映,直接對用戶拒絕響應(yīng)。


  b、應(yīng)用故障問題;可能是某一bug被觸發(fā)、或某一性能閥值被超越、攻擊等情況不一而定,但重要的一點(diǎn),是要有對這些問題的預(yù)防性措施,不能想當(dāng)然,它不會(huì)出問題,如真出問題了,如何應(yīng)對?這需要運(yùn)維工程師平時(shí)做足功夫,包括應(yīng)急響應(yīng)速度、故障處理的科學(xué)性、備用方案的有效等。


  3、自動(dòng)化


  自動(dòng)化:簡而言之,就是將我們?nèi)粘J謩?dòng)進(jìn)行的一些工作通過工具,系統(tǒng)自動(dòng)來完成,解放我們的雙手及枯燥的重復(fù)性勞動(dòng),例如:沒有工具前,我們安裝系統(tǒng)需要一臺(tái)一臺(tái)裸機(jī)安裝,如2000臺(tái),可能需要10人/10天,搞爛N張光盤,人力成本更大。而現(xiàn)在通過自動(dòng)化工具,只需幾個(gè)簡單命令就能搞定、還有如機(jī)器人類程序,自動(dòng)完成以往每天人工干預(yù)的工作,使其自動(dòng)完成、匯報(bào)結(jié)果,并具備一定的專家系統(tǒng)能力,能做一些簡單的是/非判斷、優(yōu)化選擇等。


  這些好處非常明顯不再多說。應(yīng)該說,自動(dòng)化運(yùn)維是運(yùn)維工程師職業(yè)化的一個(gè)追求,利已利公,雖然這是一個(gè)異常艱巨的任務(wù):不斷變更的業(yè)務(wù)、不規(guī)范化的應(yīng)用設(shè)計(jì)、開發(fā)模式、網(wǎng)絡(luò)架構(gòu)變更、IDC變更、規(guī)范變動(dòng)等因素,都可能會(huì)對現(xiàn)有自動(dòng)化系統(tǒng)產(chǎn)生影響,所以需要模塊化、接口化、變因參數(shù)化等因此,自動(dòng)化相關(guān)工作,是Linux運(yùn)維工程師的核心重點(diǎn)工作之一,也是價(jià)值的體現(xiàn)。


  關(guān)于Linux運(yùn)維之如何科學(xué)的管理集群就為大家分享到這里,想要學(xué)習(xí)Linux的小伙伴就選擇扣丁學(xué)堂吧,扣丁學(xué)堂不僅有專業(yè)的老師和與時(shí)俱進(jìn)的課程體系,還有大量的Linux視頻教程供學(xué)員觀看學(xué)習(xí),是你學(xué)習(xí)Linux的理想之地,想要學(xué)好Linux的小伙伴快快行動(dòng)吧??鄱W(xué)堂Linux技術(shù)交流群:659974587。

*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞:

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉