欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

如何成为一个大数据开发工程师?

程序员文章站 2022-03-12 19:57:02
大数据大数据,个个都在喊 但究竟什么是大数据开发,如何成为一个大数据开发工程师? 我还是要推荐下我自己创建的大数据资料分享群142973723,这是大数据学习交流的地方,不管你是小白还是大牛,小编都欢迎,不定期分享干货,包括我整理的一份适合零基础学习大数据资料和入门教程。 大数据通用处理平台 1. ......

大数据大数据,个个都在喊 但究竟什么是大数据开发,如何成为一个大数据开发工程师?

我还是要推荐下我自己创建的大数据资料分享群142973723,这是大数据学习交流的地方,不管你是小白还是大牛,小编都欢迎,不定期分享干货,包括我整理的一份适合零基础学习大数据资料和入门教程。

大数据通用处理平台

1. spark

2. flink

3. hadoop

分布式存储

hdfs

资源调度

yarn

mesos

机器学习工具

mahout

1. spark mlib

2. tensorflow (google )

3. amazon machine learning

4. dmtk (微软分布式机器学习工具)

数据分析/数据仓库(sql)

1. pig

2. hive

3. kylin

4. spark sql,

5. spark dataframe

6. impala

7. phoenix

8. elk

8.1 elasticsearch

8.2logstash

8.3kibana

消息队列

1. kafka(纯日志类,大吞吐量)

2. rocketmq

3. zeromq

4. activemq

5. rabbitmq

流式计算

1. storm/jstorm

2. spark streaming

3. flink

日志收集

scribe

flume

编程语言

1. java

2. python

3. r

4. ruby

5. scala

数据分析挖掘

matlab

spss

sas

数据可视化

1. r

2. d3.js

3. echarts

4. excle

5. python

机器学习

机器学习基础

1. 聚类

2. 时间序列

3. 推荐系统

4. 回归分析

5. 文本挖掘

6. 决策树

7. 支持向量机

8. 贝叶斯分类

9. 神经网络

机器学习工具

1. mahout

2. spark mlib

3. tensorflow (google 系)

4. amazon machine learning

5. dmtk (微软分布式机器学习工具)

算法

一致性

1. paxos

2. raft

3. gossip

数据结构

1. 栈,队列,链表

2. 散列表

3. 二叉树,红黑树,b树

4. 图

常用算法

1.排序

插入排序

桶排序

堆排序

2.快速排序

3,最大子数组

4.最长公共子序列

5.最小生成树

最短路径

6.矩阵的存储和运算

云计算

云服务

1. saas

2. paas

3. iaas

4. openstack

5. docker