欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

大数据如何快速有效的学习?

程序员文章站 2023-01-15 13:15:02
近几年大数据处于火热中,觉得大数据很火,就业很好,薪资很高。。。。。。。许多人想要转行,那么作为大数据初学者想往大数据方向发展,该学哪些技术,学习路线是什么样的,如果自己很迷茫,为了这些原因想往大数据方向发展,也可以,那么我就想问一下,你的专业是什么,对于计算机/软件,你的兴趣是什么?是计算机专业, ......

近几年大数据处于火热中,觉得大数据很火,就业很好,薪资很高。。。。。。。许多人想要转行,那么作为大数据初学者想往大数据方向发展,该学哪些技术,学习路线是什么样的,如果自己很迷茫,为了这些原因想往大数据方向发展,也可以,那么我就想问一下,你的专业是什么,对于计算机/软件,你的兴趣是什么?是计算机专业,对操作系统、硬件、网络、服务器感兴趣?是软件专业,对软件开发、编程、写代码感兴趣?还是数学、统计学专业,对数据和数字特别感兴趣。。

其实这就是想告诉你的大数据的三个发展方向,平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。请不要问我哪个容易,哪个前景好,哪个钱多。

我先普及一下大数据的4v特征:

数据量大,tb->pb

数据类型繁多,结构化、非结构化文本、日志、视频、图片、地理位置等;

商业价值高,但是这种价值需要在海量数据之上,通过数据分析与机器学习更快速的挖掘出来;

处理时效性高,海量数据的处理需求不再局限在离线计算当中。

现如今,开源的大数据框架越来越多,越来越强,如下是我列举的关于大数据技术方面的几个服务框架:

文件存储:hadoop hdfs、tachyon、kfs

离线计算:hadoop mapreduce、spark

流式、实时计算:storm、spark streaming、s4、heron

k-v、nosql数据库:hbase、redis、mongodb

资源管理:yarn、mesos

日志收集:flume、scribe、logstash、kibana

消息系统:kafka、stormmq、zeromq、rabbitmq

查询分析:hive、impala、pig、presto、phoenix、sparksql、drill、flink、kylin、druid

分布式协调服务:zookeeper

集群管理与监控:ambari、ganglia、nagios、cloudera manager

数据挖掘、机器学习:mahout、spark mllib

数据同步:sqoop

任务调度:oozie

这么多东东,怎么开始,怎么学习,别急,来qq群告诉你怎么玩这些:大数据学习资料分享群 142974151,每天晚上20:10都有一节【免费的】大数据直播课程,专注大数据分析方法,大数据编程,大数据仓库,大数据案例,人工智能,数据挖掘都是纯干货分享,欢迎初学和进阶中的小伙伴。