Ganglia分布式集群监控系统安装手册

一、Ganglia分布式监控系统简介

Ganglia是UC Berkeley发起的一个开源集群监视项目。它主要是用来监控系统性能，如：CPU 、Memory、硬盘利用率， I/O负载、网络流量情况等。Ganglia通过图形化的方式展示每个节点的状态信息，这对合理调整、分配系统资源，提高系统整体性能起到重要作用。Ganglia包含三个核心组件：Ganglia Monitoring Daemon（gmond）、Ganglia Meta Daemon（gmetad）以及Ganglia PHP Web Frontend。

Gmond组件

Gmond组件部署于集群中各个被监控的节点。其主要功能是从操作系统或指定的主机收集状态信息。其收集主机状态信息的方式灵活，状态信息均以XML格式进行传输。Gmond组件可以级联形成层次结构，这种层次结构使得Ganglia拥有良好的可扩展性。另外，Gmond组件带来的系统负载非常少，对用户的影响非常小。Gmond组件的工作模式有两种：单播和多播。单播模式下，Gmond组件发送其收集的主机状态信息到指定的一个或多个节点，可以跨网段；多播模式下，Gmond组件发送其监控的主机状态信息到同一网段内的所有节点，同时还接收同一网段内其他节点发送的状态信息。

Gmetad组件

Gmetad组件可以部署于集群中的某一节点，也可以部署于集群外的某一专门服务器，其主要功能是周期性地从指定的Gmond组件或其他Gmetad组件拉取数据，并将拉取的数据存储在本地数据库。这些存储的状态信息供Ganglia-Web组件使用。

Ganglia-Web组件

Ganlgia-Web组件和Gmetad组件须部署于同一节点，它通过数据库轮询的方式从Gmetad组件中获取状态信息，并以web形式图形化地展示各个节点的状态信息。

Overview of Ganglia Node

Details of Ganglia Node

Ganglia Cluster Data Flow

 

二、CentOS下搭建Ganglia分布式监控系统

 

1、安装依赖

 

1) Ganglia依赖于以下系统软件包，请先检查这些软件包是否正确安装。所缺软件包建议通过YUM源方式安装。安装这些包，需要CentOS-Base.repo。后续安装步骤中可能用到源epel.repo。

 

yum install apr-develapr-util check-devel cairo-devel pango-devel libxml2-devel rpmbuild glib2-develdbus-devel freetype-devel fontconfig-devel gcc-c++ expat-devel python-devellibXrender-devel

 

2) 安装confuse

 

• 通过RPM包方式安装（libconfuselibconfuse-devel）

 

 

rpm –ivhlibconfuse-2.6-2.el5.rf.x86_64.rpm
rpm –ivhlibconfuse-devel-2.6-2.el5.rf.x86_64.rpm

 

 

• 通过源码编译方式安装 （confuse）

 

 

tar zxvf confuse-2.7.tar.gz
./confuse-2.7/configure CFLAGS=-fPIC --disable-nls
./confuse-2.7/make&& make install

 

在以源码编译方式安装confuse时，如果环境是64位操作系统，则configure参数不可以省略，否则源码编译安装Ganglia时会出错。

3) 安装RRDTool（Ganglia依赖于RRDTool数据库轮询工具来更新Ganglia-Web页面）

 

• 通过YUM源方式安装

 

 

yum install rrdtool

 

 

• 通过源码编译方式安装 （rrdtool）

 

 

tar zxvfrrdtool-1.4.6.tar.gz
./rrdtool-1.4.6/configure--prefix=/usr
./rrdtool-1.4.6/make&& make install

 

在以源码编译方式安装时，configure的参数--prefix用来指定安装目录，便于后续安装指定路径。

4) 安装Apache+PHP（仅gmetad组件和ganglia-web组件所在节点须配置此项）

 

• 通过YUM源方式安装

 

 

yum install httpd php apr

 

2、安装Ganglia

安装前请先检查/usr/include/rrd.h和/usr/lib/librrd.a文件是否存在。如不存在，可分别创建指向这两个文件的软链接。

 

• 通过YUM源方式安装

 

 

yum install gangliaganglia-gmond ganglia-gmetad ganglia-web

 

 

• 通过源码编译方式安装（ganglia ganlia-web）

 

 

tar zxvfganglia-3.4.0.tar.gz
./ganglia-3.4.0/configure--with-gmetad
./ganglia-3.4.0/make&& make install

 

在以源码编译方式安装时，configure如果不指定参数--with-gmetad则只安装gmond组件。

3、配置Ganglia

1) 获取Ganglia配置文件

 

• 如果通过YUM源方式安装，则配置文件已自动生成，配置文件存放于/etc目录。
• 如果通过源码编译方式安装，Ganglia的配置信息需要手动生成。

 

首先需要创建配置文件存储目录

 

mkdir /etc/ganglia

 

Gmond组件的默认配置文件可自动生成

 

gmond –t | tee/etc/ganglia/gmond.conf

 

Gmetad组件的配置文件为源码包中的package/gmetad/gmetad.conf

 

cp<package>/gmetad/gmetad.conf /etc/ganglia/gmetad.conf

 

2） 配置文件。不管采用哪种安装方法，其配置方法如下：

 

• gmond.conf配置项目

 

 

/*配置集群信息，主要配置集群名称*/
cluster {
     name = "Flume"
     owner = "Cooper"
     latlong = "unspecified"
     url = "unspecified"
}
/*配置UPD发送管道，用于发送UPD单播或多播状态信息*/
udp_send_channel {
     host = 111.111.111.***
     port = 8649
     ttl = 1
}
/*配置UPD接收端口，用于接收其他节点发送到UPD单播或多播状态信息*/
udp_recv_channel {
port = 8649
}
/*配置Gmond组件收集的信息，可配置状态信息采集时间，最大采集时间间隔和监控值阈等*/
/*Gmond组件的状态信息收集项已经默认配置完成，可根据实际需要更改收集时间阈和值阈*/
collection_group {
     collect_once = yes
     time_threshold = 20
     metric {
          name = "heartbeat"
     }
}

 

 

• gmetad.conf配置项目

 

 

/*配置周期性拉取信息的数据源*/
data_source"Flume" 111.111.111.***:8649
/*可配置拉取周期、拉取节点等，如果gmetad需要拉取多个节点的信息，以空格分隔配置*/
# data_source"cluster" 10 localhost my.machine.edu:8649 1.2.3.5:8655
# data_source"grid" 50 1.3.4.7:8655 grid.org:8651 grid-backup.org:8651
# data_source"source" 1.3.4.7:8655 1.3.4.8

 

 

• 配置文件完成后，将gmond和gmetad注册为系统服务

 

 

chkconfig –-add gmond
chkconfig –-add gmetad

 

 

• 启动服务

 

 

service gmond start
service gmetad start
service httpd srart

 

附1、使用Gmetric定制监控信息

Gmetric组件是可选组件，所以配置之前，请确认Gmetric组件已经正确安装。Gmetric组件通过执行定制的脚本，将返回结果返回给Gmond组件。

 

ll /usr/bin/gmetric
vi/root/gmetric_scripts.sh
chmod 755/root/gmetric_scripts.sh
/root/gmetric_scripts.sh
/*将脚本服务添加到crontab，设置周期性运行*/
crontab –e
/1 * * * * /root/mcd_gmetric.sh

 

在此提供一个共享的脚本库【猛击这里】

附2、监控Hadoop集群

/*配置Hadoop文件*/

 

/*这里所配置的IP地址，是指Gmond组件指定的多播地址，不是Gmetad组件所在地节点地址*/
# Configuration of the"dfs" context for ganglia
dfs.class=org.apache.hadoop.metrics.ganglia.GangliaContext
dfs.period=10
dfs.servers=10.224.192.***:8649
 
# Configuration of the"mapred" context for ganglia
mapred.class=org.apache.hadoop.metrics.ganglia.GangliaContext
mapred.period=10
mapred.servers=10.224.192.***:8649
 
# Configuration of the"jvm" context for ganglia
jvm.class=org.apache.hadoop.metrics.ganglia.GangliaContext
jvm.period=10
jvm.servers=10.224.192.***:8649