hadoop fs 常用命令

查询hdfs系统的目录结构：
hadoop fs -ls /test/gonganbu/scene_analysis_suggestion/*

随机返回指定行数的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | shuf -n 5

返回前几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | head -100

返回最后几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | tail -5

查看文本行数
hadoop fs -cat hdfs://172.16.0.226:8020/test/sys_dict/sysdict_case_type.csv |wc -l

查看文件大小(单位byte)
hadoop fs -du hdfs://172.16.0.226:8020/test/sys_dict/* 返回文件大小（单位为byte）

hadoop fs -du -h /t_user/my_hive_db/my_hive_table_test01 返回文件大小（单位为可为K\M\G反正保留一位小数）

hadoop fs -du /test 统计test目录下各文件大小

hadoop fs -du -s /test 统计test目录下所有文件大小

hadoop fs -count hdfs://172.16.0.226:8020/test/sys_dict/* 统计文件行数

本文地址：https://blog.csdn.net/qq_35347718/article/details/106736246