欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

程序员文章站 2022-06-26 09:07:18
使用HABSE之前,要先安装一个zookeeper zookeeper是干嘛的呢 Zookeeper的作用1.可以为客户端管理少量的数据kvkey:是以路径的形式表示的,那就意味着,各key之间有父子关系,比如/ 是顶层key用户建的key只能在/ 下作为子节点,比如建一个key: /aa 这个ke ......

使用habse之前,要先安装一个zookeeper

zookeeper是干嘛的呢

zookeeper的作用
1.可以为客户端管理少量的数据kv
key:是以路径的形式表示的,那就意味着,各key之间有父子关系,比如
/ 是顶层key
用户建的key只能在/ 下作为子节点,比如建一个key: /aa 这个key可以带value数据
也可以建一个key: /bb
也可以建key: /aa/xx

 

 

2.可以为客户端监听指定数据节点的状态,并在数据节点发生变化是,通知客户端

 


zookeeper 安装步骤
把包上传linux后解压到apps/
[root@hdp-01 ~]# tar -zxvf zookeeper-3.4.6.tar.gz -c apps/
/root/apps/zookeeper-3.4.6/conf下该配置文件
[root@hdp-01 conf]# cp zoo_sample.cfg zoo.cfg
然后vim zoo.cfg
更改为
datadir=/root/zkdata
最后添加
server.1=hdp-01:2888:3888
server.2=hdp-02:2888:3888
server.3=hdp-03:2888:3888
server.4=hdp-04:2888:3888
接着,在hdp-01上,新建数据目录/root/zkdata,并在目录重生成一个文件myid,内容为1
接着,在hdp-02上,新建数据目录/root/zkdata,并在目录重生成一个文件myid,内容为2
接着,在hdp-03上,新建数据目录/root/zkdata,并在目录重生成一个文件myid,内容为3
接着,在hdp-04上,新建数据目录/root/zkdata,并在目录重生成一个文件myid,内容为4
然后将zookeeper scp给其他机器
启动
[root@hdp-01 ~]# /root/apps/zookeeper-3.4.6/bin/zkserver.sh start
查看状态
[root@hdp-01 ~]# /root/apps/zookeeper-3.4.6/bin/zkserver.sh status

可以自己写一个脚本进行启动名字叫zkmanage.sh
用的时候后面跟上参数,传入$1.
sh ./zkmanage.sh start
或者关闭的时候
sh ./zkmanager.sh stop
脚本代码如下

#!/bin/bash
for host in hdp-01 hdp-02 hdp-03 hdp-04
do
echo "${host}:starting...."
ssh $host "/root/apps/zookeeper-3.4.6/bin/zkserver.sh $1"
done
sleep 2
for host in hdp-01 hdp-02 hdp-03 hdp-04
do
ssh $host "/root/apps/zookeeper-3.4.6/bin/zkserver.sh status"
done

注意一点,如果有的结点没有启动,一定要看一下是不是这几台机器的时间是不是不对应,如果差别太大是启动不起来的。f**k.

简单补充一点就是,启动之后,这几台机器,有的当leader,有的当follower,只有一个leader,他们谁当leader是根据他们 '投票的形式'的决定的。

只有一个leader

 

先简单介绍一下hbase

hbase是一个数据库----可以提供数据的实时随机读写

他是一个nosql数据库,并不是结构化的,他只能粗略的进行一些查询,像多表之间的连接查询他是很难做到的(至少我这辣鸡不会)。

我也是第一次接触这种nosql,人家的表结构不太一样,就是啥吧,

他有一个行健(类似于主键的东西)

然后剩下的就是你可以定义有几个列族

每个列族里面,

列族里面都是一个一个的key,value值。一对kv,称作一个cell。
每一个value又可以有多个值,并不是一个

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

 

 

 

l  hbase的表模型与关系型数据库的表模型不同:

l  hbase的表没有固定的字段定义;

l  hbase的表中每行存储的都是一些key-value对

l  hbase的表中有列族的划分,用户可以指定将哪些kv插入哪个列族

l  hbase的表在物理存储上,是按照列族来分割的,不同列族的数据一定存储在不同的文件中

l  hbase的表中的每一行都固定有一个行键,而且每一行的行键在表中不能重复

l  hbase中的数据,包含行键,包含key,包含value,都是byte[ ]类型,hbase不负责为用户维护数据类型

l  hbase对事务的支持很差

 

hbase的表数据存储在hdfs文件系统中

hbase是一个分布式系统

其中有一个管理角色:  hmaster(一般2台,一台active,一台backup)

其他的数据节点角色:  hregionserver(很多台,看数据容量)

 

master用来配置数据储存和任务的分配,

regionserver管理着每一张表的区域数据

 

regionserver管理着每一个的文件的范围,zookeeper用来检测regionserver是否挂掉,master用来控制任务的分发。就是当regionserver挂掉了,如何找人接替他的任务。

 

hbase的大体工作机制是这样婶的

客户端怎么知道数据在哪台服务器,他会先查找那个索引表,hbase:meta表

那这个表在哪呢,

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

在zookeeper里面可以看到这个索引表的信息

这个东西是放到zookeeper里面,先看zookeeper的meta、变所在的regionserver,然后去访问它知道他的信息在哪

 

 

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

 

然后使用hbase的话你要先有自己的hadoop集群,保证hdfs是正常的,还有zookeeper是正常的,就这两点。

 安装还是很简单的

解压hbase安装包

修改hbase-env.sh

export java_home=/root/apps/jdk1.7.0_67

export hbase_manages_zk=false

 

修改hbase-site.xml

         <configuration>

                   <!-- 指定hbase在hdfs上存储的路径 -->

        <property>

                <name>hbase.rootdir</name>

                <value>hdfs://hdp-01:9000/hbase</value>

        </property>

                   <!-- 指定hbase是分布式的 -->

        <property>

                <name>hbase.cluster.distributed</name>

                <value>true</value>

        </property>

                   <!-- 指定zk的地址,多个用“,”分割 -->

        <property>

                <name>hbase.zookeeper.quorum</name>

                <value>hdp-01:2181,hdp-02:2181,hdp-03:2181,hdp-04:2181</value>

        </property>

         </configuration>

 

 

修改 regionservers

hdp-01

hdp-02

hdp-03

hdp-04

bin/start-hbase.sh

启动完后,还可以在集群中找任意一台机器启动一个备用的master

 

bin/hbase-daemon.sh start master

新启的这个master会处于backup状态

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

如果报错了,在这看错误,注意时间错误、

 

 

hbase的对外端口是16010

同时也可以启动一个备用的master,在启动之后,随便在一台机器上,

bin/hbase-daemon.sh start master

同时也可以试着访问这个页面

 Hadoop学习(5)-HBASE的安装和命令行操作和java操作

 

这hbase的系统表记录的是数据的索引表,记录哪个范围的数据储存在哪个regionserver  

3. 启动hbase的命令行客户端

bin/hbase shell

hbase> list     // 查看表

hbase> status   //  查看集群状态

hbase> version  // 查看集群版本

 

1.1. hbase表模型

hbase的表模型跟mysql之类的关系型数据库的表模型差别巨大

hbase的表模型中有:行的概念;但没有字段的概念

行中存的都是key-value对,每行中的key-value对中的key可以是各种各样,每行中的key-value对的数量也可以是各种各样

1.1.1.   hbase表模型的要点:

1、一个表,有表名

2、一个表可以分为多个列族(不同列族的数据会存储在不同文件中)

3、表中的每一行有一个“行键rowkey”,而且行键在表中不能重复

4、表中的每一对kv数据称作一个cell

5、hbase可以对数据存储多个历史版本(历史版本数量可配置)

6、整张表由于数据量过大,会被横向切分成若干个region(用rowkey范围标识),不同region的数据也存储在不同文件中

 

7、hbase会对插入的数据按顺序存储:

要点一:首先会按行键排序

要点二:同一行里面的kv会按列族排序,再按k排序

 

1.1. hbase命令行客户端操作

1.1.1.1.       建表:

create 't_user_info','base_info','extra_info'

         表名      列族名   列族名

 

 

1.1.1.2.       插入数据:

hbase(main):011:0> put 't_user_info','001','base_info:username','zhangsan'

0 row(s) in 0.2420 seconds

 

hbase(main):012:0> put 't_user_info','001','base_info:age','18'

0 row(s) in 0.0140 seconds

 

hbase(main):013:0> put 't_user_info','001','base_info:sex','female'

0 row(s) in 0.0070 seconds

 

hbase(main):014:0> put 't_user_info','001','extra_info:career','it'

0 row(s) in 0.0090 seconds

 

hbase(main):015:0> put 't_user_info','002','extra_info:career','actoress'

0 row(s) in 0.0090 seconds

 

hbase(main):016:0> put 't_user_info','002','base_info:username','liuyifei'

0 row(s) in 0.0060 seconds

 

 

1.1.1.3.       查询数据方式一:scan 扫描

hbase(main):017:0> scan 't_user_info'

row                               column+cell                                                                                    

 001                              column=base_info:age, timestamp=1496567924507, value=18                                        

 001                              column=base_info:sex, timestamp=1496567934669, value=female                                    

 001                              column=base_info:username, timestamp=1496567889554, value=zhangsan                             

 001                              column=extra_info:career, timestamp=1496567963992, value=it                                    

 002                              column=base_info:username, timestamp=1496568034187, value=liuyifei                             

 002                              column=extra_info:career, timestamp=1496568008631, value=actoress                              

2 row(s) in 0.0420 seconds

 

1.1.1.4.       查询数据方式二:get 单行数据

hbase(main):020:0> get 't_user_info','001'

column                            cell                                                                                           

 base_info:age                    timestamp=1496568160192, value=19                                                               

 base_info:sex                    timestamp=1496567934669, value=female                                                          

 base_info:username               timestamp=1496567889554, value=zhangsan                                                        

 extra_info:career                timestamp=1496567963992, value=it                                                              

4 row(s) in 0.0770 seconds

 

1.1.1.5.       删除一个kv数据

hbase(main):021:0> delete 't_user_info','001','base_info:sex'

0 row(s) in 0.0390 seconds

 

删除整行数据:

hbase(main):024:0> deleteall 't_user_info','001'

0 row(s) in 0.0090 seconds

 

hbase(main):025:0> get 't_user_info','001'

column                            cell                                                                                           

0 row(s) in 0.0110 seconds

 

1.1.1.6.       删除整个表:

hbase(main):028:0> disable 't_user_info'

0 row(s) in 2.3640 seconds

 

hbase(main):029:0> drop 't_user_info'

0 row(s) in 1.2950 seconds

 

hbase(main):030:0> list

table                                                                                                                            

0 row(s) in 0.0130 seconds

 

=> []

 

1.1.  hbase重要特性--排序特性(行键)

插入到hbase中去的数据,hbase会自动排序存储:

排序规则:  首先看行键,然后看列族名,然后看列(key)名; 按字典顺序

 

hbase的这个特性跟查询效率有极大的关系

比如:一张用来存储用户信息的表,有名字,户籍,年龄,职业....等信息

然后,在业务系统中经常需要:

查询某个省的所有用户

经常需要查询某个省的指定姓的所有用户

 

思路:如果能将相同省的用户在hbase的存储文件中连续存储,并且能将相同省中相同姓的用户连续存储,那么,上述两个查询需求的效率就会提高!!!

 

做法:将查询条件拼到rowkey内

 

当我们创建一个表之后,按道理说应该是可以在hdfs里面查看到数据的。但是。。。。

 

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

这里面没有数据,却能查到,那么数据到底存在哪呢,这些数据会存在内存中,这块内存空间叫做memstore,因为这样会快一点,他会把热数据放到这里面,就是刚刚访问过的数据,他会先放到内存中,但如果这时候宕机了怎么办,数据会丢吗,不会丢,他一方面会写数据,一方面会写日志,放在hdfs的日志目录里

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

当内存中写满了,就会写到hdfs里

可以试一下,当你停一下,你就会发现hdfs里面就有数据了

 

布隆过滤器的功能:判断一个数据以前是否出现过

布隆过滤器的原理:把一个数据通过算法转化成只有01的二进制数据,

然后用一个比较大的数组来存,每一个数据的01都存到这个数组里面,注意他们是相互叠加的比如一个数据1位置有1,3位置有1,另一个数据1位置有1,4位置有1,那么加入后就是1位置有1,3位置有1,4位置有1,如果再来一个数据的01,1位置有1,5位置有1,那么可以判断,这个数据是从来没有出现过的,

所以布隆过滤器一个可以判断出没有出现过的数据,

而他判断出出现过的数据却有可能是没出现过的。

 

他在hbase的应用啊,比如说,region server管理的一个表的列族,他的真实存放位置是hdfs,在hdfs的某个目录下。而且他这个列族文件不止一个,比如,当这个列族的数据改变的时候,他会生成一个新的文件,因为他没发修改hdfs里的文件,或者就算不改,列族里有许许多多的key,value,他们也会放在这个目录下的不同文件里面

Hadoop学习(5)-HBASE的安装和命令行操作和java操作

每个文件都有个布隆过滤器,它是由这个文件kv的二进制值决定,当你要查询一个数据的话,他会先那这个数据的二进制值和某个文件的布隆过滤器比一下,如果匹配了,他就会找这个文件

 

 关于java的一些api

 

import org.apache.hadoop.conf.configuration;
import org.apache.hadoop.hbase.hbaseconfiguration;
import org.apache.hadoop.hbase.hcolumndescriptor;
import org.apache.hadoop.hbase.htabledescriptor;
import org.apache.hadoop.hbase.tablename;
import org.apache.hadoop.hbase.client.admin;
import org.apache.hadoop.hbase.client.connection;
import org.apache.hadoop.hbase.client.connectionfactory;
import org.apache.hadoop.hbase.regionserver.bloomtype;
import org.junit.before;
import org.junit.test;


/**
 *  
 *  1、构建连接
 *  2、从连接中取到一个表ddl操作工具admin
 *  3、admin.createtable(表描述对象);
 *  4、admin.disabletable(表名);
    5、admin.deletetable(表名);
    6、admin.modifytable(表名,表描述对象);    
 *  
 * @author hunter.d
 *
 */
public class hbaseclientddl {
    connection conn = null;
    
    @before
    public void getconn() throws exception{
        // 构建一个连接对象
        configuration conf = hbaseconfiguration.create(); // 会自动加载hbase-site.xml
        conf.set("hbase.zookeeper.quorum", "hdp-01:2181,hdp-02:2181,hdp-03:2181,hdp-04:2181");
        
        conn = connectionfactory.createconnection(conf);
    }
    
    
    
    /**
     * ddl
     * @throws exception 
     */
    @test
    public void testcreatetable() throws exception{

        // 从连接中构造一个ddl操作器
        admin admin = conn.getadmin();
        
        // 创建一个表定义描述对象
        htabledescriptor htabledescriptor = new htabledescriptor(tablename.valueof("user_info"));
        
        // 创建列族定义描述对象
        hcolumndescriptor hcolumndescriptor_1 = new hcolumndescriptor("base_info");
        hcolumndescriptor_1.setmaxversions(3); // 设置该列族中存储数据的最大版本数,默认是1
        
        hcolumndescriptor hcolumndescriptor_2 = new hcolumndescriptor("extra_info");
        
        // 将列族定义信息对象放入表定义对象中
        htabledescriptor.addfamily(hcolumndescriptor_1);
        htabledescriptor.addfamily(hcolumndescriptor_2);
        
        
        // 用ddl操作器对象:admin 来建表
        admin.createtable(htabledescriptor);
        
        // 关闭连接
        admin.close();
        conn.close();
        
    }
    
    
    /**
     * 删除表
     * @throws exception 
     */
    @test
    public void testdroptable() throws exception{
        
        admin admin = conn.getadmin();
        
        // 停用表
        admin.disabletable(tablename.valueof("user_info"));
        // 删除表
        admin.deletetable(tablename.valueof("user_info"));
        
        
        admin.close();
        conn.close();
    }
    
    // 修改表定义--添加一个列族
    @test
    public void testaltertable() throws exception{
        
        admin admin = conn.getadmin();
        
        // 取出旧的表定义信息
        htabledescriptor tabledescriptor = admin.gettabledescriptor(tablename.valueof("user_info"));
        
        
        // 新构造一个列族定义
        hcolumndescriptor hcolumndescriptor = new hcolumndescriptor("other_info");
        hcolumndescriptor.setbloomfiltertype(bloomtype.rowcol); // 设置该列族的布隆过滤器类型
        
        // 将列族定义添加到表定义对象中
        tabledescriptor.addfamily(hcolumndescriptor);
        
        
        // 将修改过的表定义交给admin去提交
        admin.modifytable(tablename.valueof("user_info"), tabledescriptor);
        
        
        admin.close();
        conn.close();
        
    }
    
    
    /**
     * dml -- 数据的增删改查
     */
    
    

}

 

import java.util.arraylist;
import java.util.iterator;

import org.apache.hadoop.conf.configuration;
import org.apache.hadoop.hbase.cell;
import org.apache.hadoop.hbase.cellscanner;
import org.apache.hadoop.hbase.hbaseconfiguration;
import org.apache.hadoop.hbase.tablename;
import org.apache.hadoop.hbase.client.connection;
import org.apache.hadoop.hbase.client.connectionfactory;
import org.apache.hadoop.hbase.client.delete;
import org.apache.hadoop.hbase.client.get;
import org.apache.hadoop.hbase.client.put;
import org.apache.hadoop.hbase.client.result;
import org.apache.hadoop.hbase.client.resultscanner;
import org.apache.hadoop.hbase.client.scan;
import org.apache.hadoop.hbase.client.table;
import org.apache.hadoop.hbase.util.bytes;
import org.junit.before;
import org.junit.test;

public class hbaseclientdml {
    connection conn = null;
    
    @before
    public void getconn() throws exception{
        // 构建一个连接对象
        configuration conf = hbaseconfiguration.create(); // 会自动加载hbase-site.xml
        conf.set("hbase.zookeeper.quorum", "hdp-01:2181,hdp-02:2181,hdp-03:2181");
        
        conn = connectionfactory.createconnection(conf);
    }
    
    
    /**
     * 增
     * 改:put来覆盖
     * @throws exception 
     */
    @test
    public void testput() throws exception{
        
        // 获取一个操作指定表的table对象,进行dml操作
        table table = conn.gettable(tablename.valueof("user_info"));
        
        // 构造要插入的数据为一个put类型(一个put对象只能对应一个rowkey)的对象
        put put = new put(bytes.tobytes("001"));
        put.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("username"), bytes.tobytes("张三"));
        put.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("age"), bytes.tobytes("18"));
        put.addcolumn(bytes.tobytes("extra_info"), bytes.tobytes("addr"), bytes.tobytes("北京"));
        
        
        put put2 = new put(bytes.tobytes("002"));
        put2.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("username"), bytes.tobytes("李四"));
        put2.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("age"), bytes.tobytes("28"));
        put2.addcolumn(bytes.tobytes("extra_info"), bytes.tobytes("addr"), bytes.tobytes("上海"));
    
        
        arraylist<put> puts = new arraylist<>();
        puts.add(put);
        puts.add(put2);
        
        
        // 插进去
        table.put(puts);
        
        table.close();
        conn.close();
        
    }
    
    
    /**
     * 循环插入大量数据
     * @throws exception 
     */
    @test
    public void testmanyputs() throws exception{
        
        table table = conn.gettable(tablename.valueof("user_info"));
        arraylist<put> puts = new arraylist<>();
        
        for(int i=0;i<100000;i++){
            put put = new put(bytes.tobytes(""+i));
            put.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("username"), bytes.tobytes("张三"+i));
            put.addcolumn(bytes.tobytes("base_info"), bytes.tobytes("age"), bytes.tobytes((18+i)+""));
            put.addcolumn(bytes.tobytes("extra_info"), bytes.tobytes("addr"), bytes.tobytes("北京"));
            
            puts.add(put);
        }
        
        table.put(puts);
        
    }
    
    /**
     * 删
     * @throws exception 
     */
    @test
    public void testdelete() throws exception{
        table table = conn.gettable(tablename.valueof("user_info"));
        
        // 构造一个对象封装要删除的数据信息
        delete delete1 = new delete(bytes.tobytes("001"));
        
        delete delete2 = new delete(bytes.tobytes("002"));
        delete2.addcolumn(bytes.tobytes("extra_info"), bytes.tobytes("addr"));
        
        arraylist<delete> dels = new arraylist<>();
        dels.add(delete1);
        dels.add(delete2);
        
        table.delete(dels);
        
        
        table.close();
        conn.close();
    }
    
    /**
     * 查
     * @throws exception 
     */
    @test
    public void testget() throws exception{
        
        table table = conn.gettable(tablename.valueof("user_info"));
        
        get get = new get("001".getbytes());
        
        result result = table.get(get);
        
        // 从结果中取用户指定的某个key的value
        byte[] value = result.getvalue("base_info".getbytes(), "age".getbytes());
        system.out.println(new string(value));
        
        system.out.println("-------------------------");
        
        // 遍历整行结果中的所有kv单元格
        cellscanner cellscanner = result.cellscanner();
        while(cellscanner.advance()){
            cell cell = cellscanner.current();
            
            byte[] rowarray = cell.getrowarray();  //本kv所属的行键的字节数组
            byte[] familyarray = cell.getfamilyarray();  //列族名的字节数组
            byte[] qualifierarray = cell.getqualifierarray();  //列名的字节数据
            byte[] valuearray = cell.getvaluearray(); // value的字节数组
            
            system.out.println("行键: "+new string(rowarray,cell.getrowoffset(),cell.getrowlength()));
            system.out.println("列族名: "+new string(familyarray,cell.getfamilyoffset(),cell.getfamilylength()));
            system.out.println("列名: "+new string(qualifierarray,cell.getqualifieroffset(),cell.getqualifierlength()));
            system.out.println("value: "+new string(valuearray,cell.getvalueoffset(),cell.getvaluelength()));
            
        }
        
        table.close();
        conn.close();
        
    }
    
    
    /**
     * 按行键范围查询数据
     * @throws exception 
     */
    @test
    public void testscan() throws exception{
        
        table table = conn.gettable(tablename.valueof("user_info"));
        
        // 包含起始行键,不包含结束行键,但是如果真的想查询出末尾的那个行键,那么,可以在末尾行键上拼接一个不可见的字节(\000)
        scan scan = new scan("10".getbytes(), "10000\001".getbytes());
        
        resultscanner scanner = table.getscanner(scan);
        
        iterator<result> iterator = scanner.iterator();
        
        while(iterator.hasnext()){
            
            result result = iterator.next();
            // 遍历整行结果中的所有kv单元格
            cellscanner cellscanner = result.cellscanner();
            while(cellscanner.advance()){
                cell cell = cellscanner.current();
                
                byte[] rowarray = cell.getrowarray();  //本kv所属的行键的字节数组
                byte[] familyarray = cell.getfamilyarray();  //列族名的字节数组
                byte[] qualifierarray = cell.getqualifierarray();  //列名的字节数据
                byte[] valuearray = cell.getvaluearray(); // value的字节数组
                
                system.out.println("行键: "+new string(rowarray,cell.getrowoffset(),cell.getrowlength()));
                system.out.println("列族名: "+new string(familyarray,cell.getfamilyoffset(),cell.getfamilylength()));
                system.out.println("列名: "+new string(qualifierarray,cell.getqualifieroffset(),cell.getqualifierlength()));
                system.out.println("value: "+new string(valuearray,cell.getvalueoffset(),cell.getvaluelength()));
            }
            system.out.println("----------------------");
        }
    }

}

 

 

 

 

 

 

上一篇: 轮胎爆了

下一篇: 买了个山寨手机