Hive的数据类型
程序员文章站
2022-07-14 14:34:22
...
Hive 的数据类型
1. 基本数据类型
对于Hive 的 String 类型相当于数据库的 varchar 类型,该类型是一个可变的字符串,不过它不能声明其中最多能存储多少个字符,理论上它可以存储 2GB 的字符数。
Hive 数据类型 | Java 数据类型 | 长度 | 例子 |
---|---|---|---|
TINYINT | byte | 1byte 有符号整数 | 20 |
SMALINT | short | 2byte 有符号整数 | 20 |
INT | int | 4byte 有符号整数 | 20 |
BIGINT | long | 8byte 有符号整数 | 20 |
BOOLEAN | boolean | 布尔类型,true 或者 false | true false |
FLOAT | float | 单精度浮点数 | 3.14159 |
DOUBLE | double | 双精度浮点数 | 3.14159 |
STRING | string | 字符系列。可以指定字符集。 可以使用单引号或者双引号。 | ‘now is the time’ “for all good men” |
TIMESTAMP | 时间类型 | ||
BINARY | 字节数组 |
2. 集合数据类型
Hive 有三种复杂数据类型ARRAY、MAP 和 STRUCT`。ARRAY 和 MAP 与Java 中的Array 和 Map 类似,而`STRUCT 与C 语言中的 Struct 类似,它封装了一个命名字段集合, 复杂数据类型允许任意层次的嵌套。
数据类型 | 描述 | 语法示例 |
---|---|---|
STRUCT | 和c 语言中的 struct 类似,都可以通过“点”符号访问元素内容。例如,如果某个列的数据类型是 STRUCT{first STRING, last STRING},那么第 1 个元素可以通过字段.first 来引用。
|
struct() |
MAP | MAP 是一组键-值对元组集合,使用数组表示法可以访问数据。例如,如果某个列的数据类型是 MAP,其中键->值对是’first’->’John’和’last’->’Doe’,那么可以通过 字段名[‘last’]获取最后一个元素
|
map() |
ARRAY | 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素,每个数组元素都有一个编号,编号从零开始。例如,数组值为[‘John’, ‘Doe’],那么第 2 个 元素可以通过数组名[1]进行引用。
|
Array() |
3. 案例实操☆
假设某表有如下一行,我们用 JSON 格式来表示其数据结构。在 Hive 下访问的格式为:
{
"name": "songsong",
"friends": ["bingbing" , "lili"] , //列表 Array,
"children": { //键值 Map,
"xiao song": 18 ,
"xiaoxiao song": 19
}
"address": { //结构 Struct,
"street": "hui long guan" ,
"city": "beijing"
}
}
基于上述数据结构,我们在Hive 里创建对应的表,并导入数据。创建本地测试文件 test.txt
songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long guan_beijing
yangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing
注意:MAP,STRUC T 和 ARRAY 里的元素间关系都可以用同一个字符表示,这里用“_”。
Hive 上创建测试表 test
create table test2(
name string,
friends array<string>,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';
字段解释
row format delimited fields terminated by ','
列分隔符collection items terminated by '_'
MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)map keys terminated by ':'
MAP 中的 key 与 value 的分隔符lines terminated by '\n';
行分隔符
导入文本数据到测试表
load data local inpath "/opt/module/data/test.txt" into table test;
1
访问三种集合列里的数据,以下分别是 ARRAY,MAP,STRUCT 的访问方式
array,和struct和Java用法一样
hive (test)> select children["xiao song"] from test2; #集合方式
OK
_c0
18
NULL
Time taken: 0.312 seconds, Fetched: 2 row(s)
# strut方式
hive (test)> select address.street from test2;
OK
street
hui long guan
chao yang
Time taken: 0.103 seconds, Fetched: 2 row(s)
select friends[1],children['xiaosong'],address.city from test where name="songsong";
select * from test;
#查询所有的结果为:
songsong ["bingbing","lili"] {"xiao song":18,"xiaoxiao song":19} {"street":"hui long guan","city":"beijing"}
yangyang ["caicai","susu"] {"xiao yang":18,"xiaoxiao yang":19} {"street":"chao yang","city":"beijing"}
12345
4. 类型转化
Hive 的原子数据类型是可以进行隐式转换的,类似于 Java 的类型转换。
例如某表达式使用 INT 类型,TINYINT 会自动转换为 INT 类型,但是 Hive 不会进行反向转化,例如,某表达式使用 TINYINT 类型,INT 不会自动转换为 TINYINT 类型,它会返回错误,除非使用 CAST 操作。
隐式类型转换规则如下:
任何整数类型都可以隐式地转换为一个范围更广的类型
,如 TINYINT 可以转换成 INT,INT 可以转换成 BIGINT。所有整数类型、FLOAT 和 STRING 类型都可以隐式地转换成 DOUBLE。
- TINYINT、SMALLINT、INT 都可以转换为 FLOAT。
BOOLEAN 类型不可以转换为任何其它的类型。
可以使用 CAST 操作显示进行数据类型转换
例如CAST('1' AS INT)
将把字符串'1' 转换成整数 1;
如果强制类型转换失败,如执行CAST('X' AS INT),表达式返回空值 NULL。