HBase Shell 十大花式玩儿法

前言：工欲善其事必先利其器，今天给大家介绍一下hbase shell十大花式利器，在日常运维工作中，可以试着用起来。

1. 交互模式

也就是我们最常用到的shell命令行的方式。

$ hbase shell

hbase(main):001:0> list

2. 非交互模式

$ echo "describe 'test1'" | hbase shell -n
# 结果输出到文件
$ echo "describe 'test1'" | hbase shell -n > tmp.log
# 不打印输出结果
$ echo "describe 'test'" | hbase shell -n > /dev/null 2>&1

与交互模式比较

如果我们想要知道hbase shell命令执行之后是否成功，那一定要使用非交互模式。因为交互模式执行命令后总是返回0。当执行命令失败后，非交互模式将返回非0数值。如下示例：

$ echo "error cmd" | hbase shell > /dev/null 2>&1
$ echo $?
0

$ echo "error cmd" | hbase shell -n > /dev/null 2>&1
$ echo $?
1

3. 使用ruby脚本

$ hbase org.jruby.main path_to_script

我们拿hbase bin目录下的get-active-master.rb脚本举例：

#!/usr/bin/env hbase-jruby
include java
import org.apache.hadoop.hbase.hbaseconfiguration
import org.apache.hadoop.hbase.servername
import org.apache.hadoop.hbase.zookeeper.zkutil
import org.apache.hadoop.hbase.zookeeper.zookeeperwatcher

# disable debug/info logging on this script for clarity
log_level = org.apache.log4j.level::error
org.apache.log4j.logger.getlogger('org.apache.hadoop.hbase').setlevel(log_level)
org.apache.log4j.logger.getlogger('org.apache.zookeeper').setlevel(log_level)

config = hbaseconfiguration.create

zk = zookeeperwatcher.new(config, 'get-active-master', nil)
begin
  master_address = zkutil.getdata(zk, zk.masteraddressznode)
  if master_address
    puts servername.parsefrom(master_address).gethostname()
  else
    puts 'master not running'
  end
ensure
  zk.close()
end

执行命令如下：

$ hbase org.jruby.main get-active-master.rb
xxxxxxxx.xxx.com.cn

4. 使用bash脚本

示例1：

#!/bin/bash
echo "describe 'test:t1'" | hbase shell -n > tmp.log
status=$?
echo "the status was " $status
if [ $status == 0 ]; then
  echo "the command succeeded"
else
  echo "the command may have failed."
fi

示例2：

#!/bin/bash
arr=('test:t1' 'test:t2')

for table in ${arr[@]}
do 
    echo \'$table\'
    hbase shell << eof 
    disable '$table'
    drop '$table'
    exit
eof
done

执行脚本：

$ sh xxx.sh

5. 读取文本文件

假如我的文本文件是sample_commands.txt，内容如下：

create 'test', 'cf'
list 'test'
put 'test', 'row1', 'cf:a', 'value1'
put 'test', 'row2', 'cf:b', 'value2'
put 'test', 'row3', 'cf:c', 'value3'
put 'test', 'row4', 'cf:d', 'value4'
scan 'test'
get 'test', 'row1'
disable 'test'
enable 'test'
exit

执行命令如下：

$ hbase shell ./sample_commands.txt

6. 执行java代码

hbase(main):001:0> import java.util.date
file:/usr/hdp/2.6.5.0-292/hbase/lib/ruby/jruby-complete-1.6.8.jar!/builtin/javasupport/core_ext/object.rb:99 warning: already initialized constant date
=> java::javautil::date
hbase(main):002:0> date.new(1218920189000).tostring()
=> "sun aug 17 04:56:29 cst 2008"

hbase(main):004:0> import java.text.simpledateformat
=> java::javatext::simpledateformat
hbase(main):005:0> import java.text.parseposition
=> java::javatext::parseposition
hbase(main):006:0> simpledateformat.new("yy/mm/dd hh:mm:ss").parse("08/08/16 20:56:29", parseposition.new(0)).gettime()
=> 1218891389000

hbase(main):003:0>

7. 传递vm参数

可以使用hbase_shell_opts环境变量将vm选项传递给hbase shell。可以在环境中设置它，例如编辑~/.bashrc，或者将其设置为启动hbase shell命令的一部分。下面的示例设置了几个与垃圾回收相关的变量，这些变量只在运行hbase shell的vm的生存期内使用。该命令应在一行上运行，但为了可读性，它被\字符打断。

$ hbase_shell_opts="-verbose:gc -xx:+printgcapplicationstoppedtime -xx:+printgcdatestamps \
  -xx:+printgcdetails -xloggc:$hbase_home/logs/gc-hbase.log" hbase shell

8. 配置覆盖

以下版本hbase-2.0.5/hbase-2.1.3/hbase-2.2.0/hbase-1.4.10/hbase-1.5.0，通过在命令行上传递以-d为前缀的键/值，可以传递或重写hbase-*.xml中指定的hbase配置，如下所示：

$ hbase shell -dhbase.zookeeper.quorum=zk0.remote.cluster.example.org,zk1.remote.cluster.example.org,zk2.remote.cluster.example.org -draining=false
...
hbase(main):001:0> @shell.hbase.configuration.get("hbase.zookeeper.quorum")
=> "zk0.remote.cluster.example.org,zk1.remote.cluster.example.org,zk2.remote.cluster.example.org"
hbase(main):002:0> @shell.hbase.configuration.get("raining")
=> "false"

9. 表变量

hbase 0.95添加了为表提供jruby样式的面向对象引用的shell命令。以前，作用于表的所有shell命令都有一个过程样式，该样式始终将表的名称作为参数。hbase 0.95引入了将表分配给jruby变量的功能。表引用可用于执行数据读写操作，如放置、扫描和获取，以及管理功能，如禁用、删除和描述表。
例如，以前您总是指定一个表名：

hbase(main):000:0> create 'test', 'f'
0 row(s) in 1.0970 seconds
hbase(main):001:0> put 'test', 'rold', 'f', 'v'
0 row(s) in 0.0080 seconds
hbase(main):002:0> scan 'test'
row                                column+cell
 rold                              column=f:, timestamp=1378473207660, value=v
1 row(s) in 0.0130 seconds
hbase(main):004:0> disable 'test'
0 row(s) in 14.8700 seconds
hbase(main):005:0> drop 'test'
0 row(s) in 23.1670 seconds
hbase(main):006:0>

现在，可以将表分配给一个变量，并在jruby shell代码中使用结果。

hbase(main):007 > t = create 'test', 'f'
0 row(s) in 1.0970 seconds
=> hbase::table - t
hbase(main):008 > t.put 'r', 'f', 'v'
0 row(s) in 0.0640 seconds
hbase(main):009 > t.scan
row                           column+cell
 r                            column=f:, timestamp=1331865816290, value=v
1 row(s) in 0.0110 seconds
hbase(main):038:0> t.disable
0 row(s) in 6.2350 seconds
hbase(main):039:0> t.drop
0 row(s) in 0.2340 seconds

如果表已创建，则可以使用get_table方法将表分配给变量：

hbase(main):011 > create 't','f'
0 row(s) in 1.2500 seconds

=> hbase::table - t
hbase(main):012:0> tab = get_table 't'
0 row(s) in 0.0010 seconds

=> hbase::table - t
hbase(main):013:0> tab.put 'r1' ,'f', 'v'
0 row(s) in 0.0100 seconds
hbase(main):014:0> tab.scan
row                                column+cell
 r1                                column=f:, timestamp=1378473876949, value=v
1 row(s) in 0.0240 seconds
hbase(main):015:0>

列表功能也得到了扩展，以便它以字符串形式返回表名列表。然后可以使用jruby根据这些名称编写表操作脚本。list_snapshots命令的作用也类似。

hbase(main):016 > tables = list('ns:t.*')
table
t
1 row(s) in 0.1040 seconds

=> #<#<class:0x7677ce29>:0x21d377a4>
hbase(main):017:0> tables.map { |t| disable t ; drop  t}
0 row(s) in 2.2510 seconds
=> [nil]
hbase(main):018:0>

10. 开启debug模式

可以在shell中设置调试开关，以便在运行命令时看到更多的输出，例如更多的异常堆栈跟踪：
方式一：

hbase(main):007:0> debug
debug mode is on

hbase(main):008:0> debug
debug mode is off

方式二：

$ ./bin/hbase shell -d

转载请注明出处！欢迎关注本人微信公众号【hbase工作笔记】