hbase入门

简介

hbase是一个构建在hdfs之上的，分布式的，面向列的开源数据库，由google bigtable的开源
实现，它主要用于存储海量数据，是hadoop生态系统中的重要一员。

hbase的优势

成熟

1. 社区成熟
2. 理论充分经过实践
3. 丰富的工具支持

高效

1. 将随机读写转化为顺序读写，适应高并发写入
2. 均衡效果好读写性能和机器数保持线性相关
3. 行中没有保存数据的列不占存储空间

分布式特性

1. 基于hdfs、zookeeper
2. 一致性、可用性、分区容忍性
3. 大数据存储
4. 易扩展

hbase的特点

1. 大：一个表可以有数十亿行，上百万列
2. 面向列：面向列（族）的存储和权限访问，列（族）独立索引
3. 稀疏:对于为空(null)的列，并不占用存储空间，因此，表可以设计的非常稀疏。
4. 数据类型单一：hbase中的数据类型都是字符串（string）
5. 无模式：每行都有一个可排序的主键和任意多的列，列可以根据需要动态增加，同一张表中不同的行可以有截然不同的列

hbase和rdbms的区别

1. 数据类型：hbase中的数据都是字符串类型（string）
2. 数据操作：hbase只有普通的增、删、改、查等操作，没有表之间的关联查询，如果想进行关联查询的话，可以自己写mapreduce
   
3. 存储模式：hbase是基于列式存储的，而rdbms是基于行式存储的
4. 应用场景：hbase适合存储大量数据，查询效率极高,hbase自带索引，即使是在上亿的数据中，也可以保证查询数据在毫秒以内。

hbase与hive的区别

转载自：

1. 两者分别是什么？

   apache hive是一个构建在hadoop基础设施之上的数据仓库。通过hive可以使用hql语言查询存放在hdfs上的数据。hql是一种类sql语言，这种语言最终被转化为map/reduce. 虽然hive提供了sql查询功能，但是hive不能够进行交互查询--因为它只能够在haoop上批量的执行hadoop。

   apache hbase是一种key/value系统，它运行在hdfs之上。和hive不一样，hbase的能够在它的数据库上实时运行，而不是运行mapreduce任务。hive被分区为表格，表格又被进一步分割为列簇。列簇必须使用schema定义，列簇将某一类型列集合起来（列不要求schema定义）。例如，“message”列簇可能包含：“to”, ”from” “date”, “subject”, 和”body”. 每一个 key/value对在hbase中被定义为一个cell，每一个key由row-key，列簇、列和时间戳。在hbase中，行是key/value映射的集合，这个映射通过row-key来唯一标识。hbase利用hadoop的基础设施，可以利用通用的设备进行水平的扩展。

2. 两者的特点
   hive帮助熟悉sql的人运行mapreduce任务。因为它是jdbc兼容的，同时，它也能够和现存的sql工具整合在一起。运行hive查询会花费很长时间，因为它会默认遍历表中所有的数据。虽然有这样的缺点，一次遍历的数据量可以通过hive的分区机制来控制。分区允许在数据集上运行过滤查询，这些数据集存储在不同的文件夹内，查询的时候只遍历指定文件夹（分区）中的数据。这种机制可以用来，例如，只处理在某一个时间范围内的文件，只要这些文件名中包括了时间格式。

   hbase通过存储key/value来工作。它支持四种主要的操作：增加或者更新行，查看一个范围内的cell，获取指定的行，删除指定的行、列或者是列的版本。版本信息用来获取历史数据（每一行的历史数据可以被删除，然后通过hbase compactions就可以释放出空间）。虽然hbase包括表格，但是schema仅仅被表格和列簇所要求，列不需要schema。hbase的表格包括增加/计数功能。

3. 限制
   hive目前不支持更新操作。另外，由于hive在hadoop上运行批量操作，它需要花费很长的时间，通常是几分钟到几个小时才可以获取到查询的结果。hive必须提供预先定义好的schema将文件和目录映射到列，并且hive与acid不兼容。

   hbase查询是通过特定的语言来编写的，这种语言需要重新学习。类sql的功能可以通过apache phonenix实现，但这是以必须提供schema为代价的。另外，hbase也并不是兼容所有的acid特性，虽然它支持某些特性。最后但不是最重要的--为了运行hbase，zookeeper是必须的，zookeeper是一个用来进行分布式协调的服务，这些服务包括配置服务，维护元信息和命名空间服务。

4. 应用场景
   hive适合用来对一段时间内的数据进行分析查询，例如，用来计算趋势或者网站的日志。hive不应该用来进行实时的查询。因为它需要很长时间才可以返回结果。

   hbase非常适合用来进行大数据的实时查询。facebook用hbase进行消息和实时的分析。它也可以用来统计facebook的连接数。

5. 总结
   hive和hbase是两种基于hadoop的不同技术--hive是一种类sql的引擎，并且运行mapreduce任务，hbase是一种在hadoop之上的nosql 的key/vale数据库。当然，这两种工具是可以同时使用的。就像用google来搜索，用facebook进行社交一样，hive可以用来进行统计查询，hbase可以用来进行实时查询，数据也可以从hive写到hbase，设置再从hbase写回hive。