如何高效快速的学习大数据
经常有初学者在博客和qq问我,自己想往大数据方向发展,该学哪些技术,学习路线是什么样的,觉得大数据很火,就业很好,薪资很高。。。。。。。如果自己很迷茫,为了这些原因想往大数据方向发展,也可以,那么我就想问一下,你的专业是什么,对于计算机/软件,你的兴趣是什么?是计算机专业,对操作系统、硬件、网络、服务器感兴趣?是软件专业,对软件开发、编程、写代码感兴趣?还是数学、统计学专业,对数据和数字特别感兴趣。。
其实这就是想告诉你的大数据的三个发展方向,平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。请不要问我哪个容易,哪个前景好,哪个钱多。
我先普及一下大数据的4v特征:
数据量大,tb->pb
数据类型繁多,结构化、非结构化文本、日志、视频、图片、地理位置等;
商业价值高,但是这种价值需要在海量数据之上,通过数据分析与机器学习更快速的挖掘出来;
处理时效性高,海量数据的处理需求不再局限在离线计算当中。
现如今,开源的大数据框架越来越多,越来越强,如下是我列举的关于大数据技术方面的几个服务框架:
文件存储:hadoop hdfs、tachyon、kfs
离线计算:hadoop mapreduce、spark
流式、实时计算:storm、spark streaming、s4、heron
k-v、nosql数据库:hbase、redis、mongodb
资源管理:yarn、mesos
日志收集:flume、scribe、logstash、kibana
消息系统:kafka、stormmq、zeromq、rabbitmq
查询分析:hive、impala、pig、presto、phoenix、sparksql、drill、flink、kylin、druid
分布式协调服务:zookeeper
集群管理与监控:ambari、ganglia、nagios、cloudera manager
数据挖掘、机器学习:mahout、spark mllib
数据同步:sqoop
任务调度:oozie
这么多东东,怎么开始,怎么学习,别急,小编告诉你怎么玩这些:大数据学习资料分享群119599574 不管你是小白还是大牛,小编我都挺欢迎,不定期分享干货,包括我自己整理的一份最新的适合2018年学习的大数据开发和零基础入门教程,欢迎初学和进阶中的小伙伴
上一篇: 处理bugs心法