欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Hive之DML数据操作

程序员文章站 2022-05-01 10:13:01
...

一、数据导入

1.1 向表中装载数据(Load

(1)语法

hive>load data [local] inpath
'/opt/module/datas/student.txt' [overwrite] into table student [partition
(partcol1=val1,)];

字段解释:

1)load data:表示加载数据
2)local:表示从本地加载数据到hive表;否则从HDFS加载数据到hive表
3)inpath:表示加载数据的路径
4)overwrite:表示覆盖表中已有数据,否则表示追加
5)into table:表示加载到哪张表
6)student:表示具体的表名
7)partition:表示上传到指定分区

(2)案例
1)创建一张表

hive (default)> create table student(id string, name string) 
row format delimited fields terminated by '\t';

2)加载本地文件到hive

hive (default)> load data local inpath
'/opt/module/datas/student.txt' into table default.student;

3)加载HDFS文件到hive中
上传文件到HDFS:

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;

加载HDFS上的数据:

hive (default)>load data inpath '/user/itstar/hive/student.txt' into table
default.student;

4)加载数据覆盖表中已有的数据
上传文件到HDFS:

hive (default)> dfs -put /opt/module/datas/student.txt /user/itstar/hive;

加载数据覆盖表中已有的数据:

hive (default)>load data inpath
'/user/itstar/hive/student.txt' overwrite into table default.student;

注:load hdfs的数据相当于mv文件到另一个目录中,原目录文件消失

1.2 通过查询语句向表中插入数据(Insert

(1)创建一张分区表

hive (default)> create table student(id int, name string) 
partitioned by (month string) row format delimited fields terminated by '\t';

(2)基本插入数据

hive (default)> insert into table  student partition(month='201907') 
values(1,'wangwu');

(3)基本模式插入(根据单张表查询结果)

hive (default)> insert overwrite table student partition(month='201908')
select id,name from student where month='201907';

(4)多插入模式(根据多张表查询结果)

hive (default)> from student
	insert overwrite table student partition(month='201909')
	select id, name where month='201907'
	insert overwrite table student partition(month='201910')
	select id, name where month='201908';

1.3 查询语句中创建表并加载数据(As Select

根据查询结果创建表(查询结果会添加到新创建的表中)

create table if not exists student3
as select id, name from student;

这种方式不能创建外部表。

external

CREATE-TABLE-AS-SELECT cannot create external table

1.4 创建表时通过Location指定加载数据路径

(1)创建表,并指定在hdfs上的位置

hive (default)> create table if not exists student5(
              id int, name string
              )
              row format delimited fields terminated by '\t'
              location '/user/hive/warehouse/student5';

(2)上传数据到hdfs上

hive (default)> dfs -put
/opt/module/datas/student.txt 
/user/hive/warehouse/student5;

(3)查询数据

hive (default)> select * from student5;

1.5 Import数据到指定Hive表中

注意:先用export导出后(导出的数据目录里面附带有元数据),再import数据导入。同在HDFS上是Copy级操作

hive (default)> export table default.student to
'/user/hive/warehouse/export/student';

Hive之DML数据操作

hive (default)>create table student5(
           id int, name string
           )
           partitioned by (month string)
           row format delimited fields terminated by '\t';
hive (default)> import table student5 from
'/user/hive/warehouse/export/student';

二、数据导出

2.1 Insert导出

(1)将查询的结果导出到本地,数据之间无间隔

hive (default)> insert overwrite local directory 
'/opt/module/datas/export/student'

hive (default)>select * from student;

Hive之DML数据操作
(2)将查询的结果格式化导出到本地,数据之间"\t"间隔

hive (default)> insert overwrite local directory '/root/student2'      
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'             
select * from student;

(3)将查询的结果导出到HDFS上(没有local)

hive (default)> insert overwrite directory '/user/itstar/student2'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' 
select * from student;

注:虽然同是HDFS,但不是copy操作

2.2 Hadoop命令导出到本地

hive (default)> dfs -get /user/hive/warehouse/student/month=201809/000000_0  
/opt/module/datas/export/student3.txt;

2.3 Hive Shell 命令导出

基本语法:(hive -f/-e 执行语句或者脚本 > file(自己创建))

[itstar@bigdata111hive]$ bin/hive -e 'select * from default.student;' >
/opt/module/datas/export/student4.txt;

2.4 Export导出到HDFS上

hive (default)> export table default.student to
'/user/hive/warehouse/export/student';

三、清除表中数据(Truncate

注意:Truncate只能删除管理表,不能删除外部表中数据

hive (default)> truncate table student;
相关标签: 大数据 hive