Hive之DML数据操作
程序员文章站
2022-05-01 10:13:01
...
DML数据操作
一、数据导入
1.1 向表中装载数据(Load
)
(1)语法
hive>load data [local] inpath
'/opt/module/datas/student.txt' [overwrite] into table student [partition
(partcol1=val1,…)];
字段解释:
1)load data:表示加载数据
2)local:表示从本地加载数据到hive表;否则从HDFS加载数据到hive表
3)inpath:表示加载数据的路径
4)overwrite:表示覆盖表中已有数据,否则表示追加
5)into table:表示加载到哪张表
6)student:表示具体的表名
7)partition:表示上传到指定分区
(2)案例
1)创建一张表
hive (default)> create table student(id string, name string)
row format delimited fields terminated by '\t';
2)加载本地文件到hive
hive (default)> load data local inpath
'/opt/module/datas/student.txt' into table default.student;
3)加载HDFS文件到hive中
上传文件到HDFS:
hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;
加载HDFS上的数据:
hive (default)>load data inpath '/user/itstar/hive/student.txt' into table
default.student;
4)加载数据覆盖
表中已有的数据
上传文件到HDFS:
hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;
加载数据覆盖表中已有的数据:
hive (default)>load data inpath
'/user/itstar/hive/student.txt' overwrite into table default.student;
注:load hdfs的数据相当于mv文件到另一个目录中,原目录文件消失
1.2 通过查询语句向表中插入数据(Insert
)
(1)创建一张分区表
hive (default)> create table student(id int, name string)
partitioned by (month string) row format delimited fields terminated by '\t';
(2)基本插入数据
hive (default)> insert into table student partition(month='201907')
values(1,'wangwu');
(3)基本模式插入(根据单张表查询结果)
hive (default)> insert overwrite table student partition(month='201908')
select id,name from student where month='201907';
(4)多插入模式(根据多张表查询结果)
hive (default)> from student
insert overwrite table student partition(month='201909')
select id, name where month='201907'
insert overwrite table student partition(month='201910')
select id, name where month='201908';
1.3 查询语句中创建表并加载数据(As Select
)
根据查询结果创建表(查询结果会添加到新创建的表中)
create table if not exists student3
as select id, name from student;
这种方式不能创建外部表。
external
CREATE-TABLE-AS-SELECT cannot create external table
1.4 创建表时通过Location
指定加载数据路径
(1)创建表,并指定在hdfs上的位置
hive (default)> create table if not exists student5(
id int, name string
)
row format delimited fields terminated by '\t'
location '/user/hive/warehouse/student5';
(2)上传数据到hdfs上
hive (default)> dfs -put
/opt/module/datas/student.txt
/user/hive/warehouse/student5;
(3)查询数据
hive (default)> select * from student5;
1.5 Import
数据到指定Hive表中
注意:先用export导出后(导出的数据目录里面附带有元数据),再import数据导入。同在HDFS上是Copy级操作
hive (default)> export table default.student to
'/user/hive/warehouse/export/student';
hive (default)>create table student5(
id int, name string
)
partitioned by (month string)
row format delimited fields terminated by '\t';
hive (default)> import table student5 from
'/user/hive/warehouse/export/student';
二、数据导出
2.1 Insert
导出
(1)将查询的结果导出到本地,数据之间无间隔
hive (default)> insert overwrite local directory
'/opt/module/datas/export/student'
hive (default)>select * from student;
(2)将查询的结果格式化导出到本地,数据之间"\t"间隔
hive (default)> insert overwrite local directory '/root/student2'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
select * from student;
(3)将查询的结果导出到HDFS上(没有local)
hive (default)> insert overwrite directory '/user/itstar/student2'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
select * from student;
注:虽然同是HDFS,但不是copy操作
2.2 Hadoop命令导出到本地
hive (default)> dfs -get /user/hive/warehouse/student/month=201809/000000_0
/opt/module/datas/export/student3.txt;
2.3 Hive Shell 命令导出
基本语法:(hive -f/-e 执行语句或者脚本 > file(自己创建))
[itstar@bigdata111hive]$ bin/hive -e 'select * from default.student;' >
/opt/module/datas/export/student4.txt;
2.4 Export导出到HDFS上
hive (default)> export table default.student to
'/user/hive/warehouse/export/student';
三、清除表中数据(Truncate
)
注意:
Truncate只能删除管理表,不能删除外部表中数据
hive (default)> truncate table student;