高性能的Linux集群監(jiān)控之道

監(jiān)控是集群管理的核心任務(wù)監(jiān)控?cái)?shù)據(jù)可用于調(diào)度任務(wù)負(fù)載平衡向管理員報(bào)告軟硬件故障并廣泛地控制系統(tǒng)使用情況監(jiān)控信息必須在不影響集群性能的情況下獲得本文將討論使用/proc文件系統(tǒng)和Java來(lái)獲得監(jiān)控?cái)?shù)據(jù)的方法

Java在Linux集群中的應(yīng)用

Java技術(shù)為集群管理開(kāi)發(fā)者提供了許多解決問(wèn)題的辦法Java是動(dòng)態(tài)靈活可移植的這些不尋常的特征使得它成為了在異構(gòu)網(wǎng)絡(luò)及平臺(tái)上構(gòu)造集群管理的理想基礎(chǔ)

Java具有廣泛的例程庫(kù)很容易處理IP協(xié)議如TCPUDP并可在multihomed主機(jī)上進(jìn)行網(wǎng)絡(luò)程序設(shè)計(jì)用它創(chuàng)建網(wǎng)絡(luò)連接比用C或C++更容易通過(guò)Java本地接口(JNI)運(yùn)行在Java 虛擬機(jī)(JVM)內(nèi)的Java代碼能夠與用其它語(yǔ)言編寫(xiě)的應(yīng)用及庫(kù)文件相互操作并匯編

在構(gòu)造集群監(jiān)控和管理時(shí)Java早已是一個(gè)可選的語(yǔ)言然而Java語(yǔ)言通常只被用于系統(tǒng)的前端或集群主機(jī)部分而將用C 語(yǔ)言編寫(xiě)的守護(hù)進(jìn)程安裝在集群結(jié)點(diǎn)上盡管Java程序設(shè)計(jì)語(yǔ)言提供了許多優(yōu)點(diǎn)但是對(duì)于高性能集群監(jiān)控Java能夠有效地替換運(yùn)行在每個(gè)結(jié)點(diǎn)上的C 語(yǔ)言守護(hù)進(jìn)程嗎?這將是本文討論的重點(diǎn)

高性能監(jiān)控

監(jiān)控Linux集群工具傳統(tǒng)上以秒為測(cè)量頻率來(lái)提供有限量的數(shù)據(jù)而高性能集群監(jiān)控被定義為“以intrasecond為測(cè)量頻率從結(jié)點(diǎn)有效地采集數(shù)據(jù)的能力”當(dāng)涉及較大集群時(shí)監(jiān)控軟件的低效率問(wèn)題就變得更加嚴(yán)重這是因?yàn)樗\(yùn)行的應(yīng)用軟件必須互相協(xié)調(diào)或共享全局資源

在一個(gè)結(jié)點(diǎn)上的阻隔沖突(Interference)能影響其它結(jié)點(diǎn)上作業(yè)的運(yùn)行例如一個(gè)MPI作用需要與所有參與的結(jié)點(diǎn)同步一種解決辦法是收集少量的數(shù)據(jù)并以小頻率傳輸然而如果是高性能監(jiān)控這種解決辦法是不可接受的因?yàn)橛休^重利用率的集群應(yīng)該被頻繁持續(xù)地監(jiān)控本地作業(yè)調(diào)度器必須能夠基于資源使用情況做快速?zèng)Q策管理員經(jīng)常希望收到緊急事件的立即通知并希望觀察到歷史趨勢(shì)數(shù)據(jù)如果集群不能被頻繁持續(xù)地監(jiān)控那么這些要求是不可能實(shí)現(xiàn)的因此必須采取一些措施如使用更有效的算法增加傳輸?shù)牟⑿行蕴岣邆鬏攨f(xié)議及數(shù)據(jù)格式的效率減少冗余等

在跟蹤運(yùn)行中的資源使用情況時(shí)壓縮Profiling應(yīng)用有助于調(diào)試程序或優(yōu)化程序?qū)σ粋€(gè)給定的應(yīng)用而言像存儲(chǔ)器網(wǎng)絡(luò)CPU這樣動(dòng)態(tài)資源的使用可能快速地改變著為了能夠觀察應(yīng)用是怎樣使用這些資源的一種可能的辦法是使用高頻率的監(jiān)控

即使用戶(hù)對(duì)高頻率監(jiān)控沒(méi)有興趣如果算法是有效的不管監(jiān)控頻率是多少它也將消費(fèi)很少的資源在異構(gòu)集群中這種效率將更重要用戶(hù)的作業(yè)可以被分散到較快的及較慢的結(jié)點(diǎn)上慢的結(jié)點(diǎn)需要全部CPU來(lái)跟上較快的結(jié)點(diǎn)并與之同步一個(gè)監(jiān)控程序花費(fèi)在較慢結(jié)點(diǎn)上的CPU時(shí)間是作業(yè)的關(guān)鍵路徑

監(jiān)控階段

集群監(jiān)控主要消耗CPU周期與網(wǎng)絡(luò)帶寬這兩個(gè)重要資源然而資源消費(fèi)問(wèn)題與這兩個(gè)資源是根本不同的CPU利用問(wèn)題對(duì)結(jié)點(diǎn)而言是完全本地化的問(wèn)題可通過(guò)創(chuàng)建有效的收集與合并算法來(lái)解決網(wǎng)絡(luò)帶寬是共享資源是規(guī)模問(wèn)題可以通過(guò)最小化網(wǎng)絡(luò)上傳輸?shù)臄?shù)據(jù)量來(lái)解決

為了解決這兩個(gè)問(wèn)題我們將集群監(jiān)控分為三個(gè)階段收集合并傳輸收集階段負(fù)責(zé)從操作系統(tǒng)裝載數(shù)據(jù)分析數(shù)據(jù)值并存儲(chǔ)數(shù)據(jù)合并階段負(fù)責(zé)將來(lái)自多個(gè)數(shù)據(jù)源的數(shù)據(jù)合在一起決定數(shù)據(jù)值是否改變并過(guò)濾它們傳輸階段負(fù)責(zé)壓縮并傳輸數(shù)據(jù)本文集中討論Linux集群監(jiān)控的收集階段

收集階段

Linux有幾種方法來(lái)進(jìn)行系統(tǒng)統(tǒng)計(jì)每種方法都各有其優(yōu)缺點(diǎn)

◆ 使用現(xiàn)有的工具

標(biāo)準(zhǔn)及非標(biāo)準(zhǔn)工具能執(zhí)行一個(gè)或多個(gè)收集合并及傳輸階段如rstatd或SNMP工具然而標(biāo)準(zhǔn)的rstat后臺(tái)程序提供的信息是有限的速度慢而且效率低

◆ 內(nèi)核模塊

幾個(gè)系統(tǒng)監(jiān)控工程利用內(nèi)核模塊來(lái)存取監(jiān)控?cái)?shù)據(jù)一般情況下這是很有效的收集系統(tǒng)數(shù)據(jù)的方法然而這種方法存在的問(wèn)題是當(dāng)主內(nèi)核源內(nèi)有其它改變時(shí)必須保持代碼一致性一個(gè)內(nèi)核模塊可能與用戶(hù)想使用的其它內(nèi)核模塊相沖突此外在使用監(jiān)控系統(tǒng)之前用戶(hù)必須獲得或申請(qǐng)模塊

◆ /proc虛擬文件系統(tǒng)

/proc 虛擬文件系統(tǒng)是一個(gè)較快的高效率執(zhí)行系統(tǒng)監(jiān)控的方法使用/proc的主要缺點(diǎn)是必須保持代碼分析與/proc 文件格式改變的同步事實(shí)表明Linux內(nèi)核的改變比/proc 文件格式的改變要更頻繁所以用/proc虛擬文件系統(tǒng)比用內(nèi)核模塊存在的問(wèn)題要少

◆ 混合系統(tǒng)

某些監(jiān)控系統(tǒng)采用混合方式用內(nèi)核模塊收集數(shù)據(jù)用/proc虛擬文件系統(tǒng)作為數(shù)據(jù)接口

合并階段

合并階段的實(shí)現(xiàn)可以在結(jié)點(diǎn)上集群管理的主機(jī)上或者分布在兩者上考慮到效率我們只采用在結(jié)點(diǎn)上的合并原因在于結(jié)點(diǎn)是監(jiān)控?cái)?shù)據(jù)的收集器與提供者兩個(gè)或多個(gè)同時(shí)的數(shù)據(jù)請(qǐng)求不會(huì)引起兩次操作系統(tǒng)調(diào)用來(lái)收集數(shù)據(jù)而是將第一次請(qǐng)求獲得的數(shù)據(jù)緩存并可以提供給第二次請(qǐng)求調(diào)用這種方法減少了操作系統(tǒng)的負(fù)擔(dān)提高了監(jiān)控系統(tǒng)的響應(yīng)性合并階段也可以用于將多個(gè)數(shù)據(jù)源的數(shù)據(jù)以相互獨(dú)立的收集速率結(jié)合因?yàn)椴⒉皇撬械臄?shù)據(jù)都以同樣的速度改變或者需要以同樣的速率收集

使用在結(jié)點(diǎn)層上合并的另一個(gè)原因是減少了包括傳輸在內(nèi)的信息量許多/proc文件既包含動(dòng)態(tài)數(shù)據(jù)也包含靜態(tài)數(shù)據(jù)刪除最近一次傳輸后沒(méi)有改變的值一個(gè)結(jié)點(diǎn)發(fā)送的數(shù)據(jù)量可以大大地減少合并不僅除去了不經(jīng)常改變的動(dòng)態(tài)值的傳輸也解決了從不改變的靜態(tài)值的傳輸

傳輸階段

監(jiān)控?cái)?shù)據(jù)幾乎總是按一個(gè)層次結(jié)構(gòu)組織起來(lái)傳輸階段的任務(wù)就是將層次數(shù)據(jù)進(jìn)行有效的編碼形成一種能高效傳輸?shù)臄?shù)據(jù)格式Java擁有的文件格式是存儲(chǔ)層次數(shù)據(jù)的有效方法并且用提供的Java APIs很容易完成SExpressions已經(jīng)被認(rèn)為是傳輸這種數(shù)據(jù)的另一個(gè)有效的方法

關(guān)于傳輸監(jiān)控?cái)?shù)據(jù)普遍討論的問(wèn)題是數(shù)據(jù)應(yīng)該按二進(jìn)制編碼還是按文本格式編碼二進(jìn)制數(shù)據(jù)更容易壓縮因此也能更有效地傳輸?shù)钱?dāng)采用/proc文件系統(tǒng)時(shí)監(jiān)控?cái)?shù)據(jù)通常以人們易讀的格式存儲(chǔ)在傳輸之前將數(shù)據(jù)轉(zhuǎn)換為二進(jìn)制格式將需要更多的處理資源與時(shí)間以文本格式保留收集的數(shù)據(jù)結(jié)點(diǎn)資源能被用于更多非監(jiān)控性的相關(guān)工作

采用文本格式的數(shù)據(jù)將提供如下額外的益處

◆ 平臺(tái)獨(dú)立性

當(dāng)監(jiān)控異構(gòu)集群時(shí)機(jī)器之間數(shù)據(jù)字節(jié)指令的配置不是永遠(yuǎn)相同的文本格式的使用在代碼方面解決了這個(gè)問(wèn)題而且體系結(jié)構(gòu)獨(dú)立不會(huì)影響更多的處理需求

◆ 易讀的格式

文本數(shù)據(jù)能以人們易讀的格式進(jìn)行組織如果需要的話這種特征能容易地進(jìn)行程序調(diào)試或允許用戶(hù)觀看數(shù)據(jù)流