欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

读者来信 | 设置HBase TTL必须先disable表吗?(已解决)

程序员文章站 2022-07-05 23:34:59
今日有朋友加好友与我探讨一些问题,我觉得这些问题倒挺有价值的;于是就想在本公众号开设一个问答专栏,方便技术交流与分享,专栏名就定为:《读者来信》。如遇到本人能力有限难以解决的问题,该贴将会被转发至我的资源圈寻求大佬们出手帮助,并附上提问者微信二维码。也欢迎大家在留言区积极探讨解决方案~ 来信人:黄 ......

今日有朋友加好友与我探讨一些问题,我觉得这些问题倒挺有价值的;于是就想在本公众号开设一个问答专栏,方便技术交流与分享,专栏名就定为:《读者来信》。如遇到本人能力有限难以解决的问题,该贴将会被转发至我的资源圈寻求大佬们出手帮助,并附上提问者微信二维码。也欢迎大家在留言区积极探讨解决方案~

来信人:黄*伟

小猿提问

如果我用spark处理文件写进hbase,文件按日期每天增量下发,如果只想在hbase中保留最近90天的文件数据,有什么好的方法吗?ttl会有禁用表操作,后端查询就会报错。除了ttl,还有别的解决方案吗?

小猿分析

该问题主要的症结点在于:建表之初,没有及时给列族设置ttl,入数据之后想到可以设置表的ttl属性来保证数据时效性但又不想禁用表。怎么办呢?

小猿解答

这里,小猿给出两条解决方案:

方案一:

其实在稍微高一点的hbase版本,设置表ttl属性已经可以在线进行,不需要disable表了。如果不确定,可以先建一个测试表在线设置一下ttl试一试。如果支持,那可以选择在低峰期通过hbase shell手动修改列族的时效性,一劳永逸。

hbase(main):030:0> create 'test','f1'
0 row(s) in 1.2990 seconds

=> hbase::table - test
hbase(main):031:0> desc 'test'
table test is enabled                                                                                                                                                                          
test                                                                                                                                                                                           
column families description                                                                                                                                                                    
{name => 'f1', bloomfilter => 'row', versions => '1', in_memory => 'false', keep_deleted_cells => 'false', data_block_encoding => 'none', ttl => 'forever', compression => 'none', min_versions
 => '0', blockcache => 'true', blocksize => '65536', replication_scope => '0'}                                                                                                                 
1 row(s) in 0.0480 seconds

hbase(main):032:0> alter 'test',{name => 'f1',ttl => '86400'}
updating all regions with the new schema...
1/1 regions updated.
done.
0 row(s) in 1.9870 seconds

单位:秒(s)

方案二:

如果方案1行不通,可以尝试通过api的方式,在插入数据时实时设置单条数据ttl。只不过历史数据就要手动删除了。

put put = new put(bytes.tobytes("row1"));
put.setttl(86400l);

单位:秒(s)

知识点补充

如果想重置ttl为'forever'怎么做?
答:hbase ttl 最大值为int最大值 2147483647,只需将ttl设为该整数即可。

hbase(main):033:0> alter 'test',{name => 'f1',ttl => '2147483647'}
updating all regions with the new schema...
1/1 regions updated.
done.
0 row(s) in 1.9170 seconds

hbase(main):034:0> desc 'test'
table test is enabled                                                                                                                                                                          
test                                                                                                                                                                                           
column families description                                                                                                                                                                    
{name => 'f1', bloomfilter => 'row', versions => '1', in_memory => 'false', keep_deleted_cells => 'false', data_block_encoding => 'none', ttl => 'forever', compression => 'none', min_versions
 => '0', blockcache => 'true', blocksize => '65536', replication_scope => '0'}                                                                                                                 
1 row(s) in 0.0140 seconds

如果您有更好的答案,欢迎留言区留言哦~

读者来信 | 设置HBase TTL必须先disable表吗?(已解决)

转载请注明出处!欢迎关注本人微信公众号【hbase工作笔记】