欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

大数据入门怎么学习好

程序员文章站 2022-05-28 20:43:34
数据科学并没有一个独立的学科体系,统计学,机器学习,数据挖掘,数据库,分布式计算,云计算,信息可视化等技术或方法来对付数据。但从狭义上来看,我认为数据科学就是解决三个问题:1. data pre-processing;(数据预处理)2. data interpretation;(数据解读)3.dat ......

数据科学并没有一个独立的学科体系,统计学,机器学习,数据挖掘,数据库,分布式计算,云计算,信息可视化等技术或方法来对付数据。
但从狭义上来看,我认为数据科学就是解决三个问题:
1. data pre-processing;(数据预处理)
2. data interpretation;(数据解读)
3.data modeling and analysis.(数据建模与分析)
这也就是我们做数据工作的三个大步骤:
1、原始数据要经过一连串收集、提取、清洗、整理等等的预处理过程,才能形成高质量的数据;
2、我们想看看数据“长什么样”,有什么特点和规律;
3、按照自己的需要,比如要对数据贴标签分类,或者预测,或者想要从大量复杂的数据中提取有价值的且不易发现的信息,都要对数据建模,得到output。

 我还是要推荐下我自己创建的大数据资料分享群142973723,这是大数据学习交流的地方,不管你是小白还是大牛,小编都欢迎,不定期分享干货,包括我整理的一份适合零基础学习大数据资料和入门教程。 


这三个步骤未必严谨,每个大步骤下面可能依问题的不同也会有不同的小步骤,但按我这几年的经验来看,按照这个大思路走,数据一般不会做跑偏。
这样看来,数据科学其实就是门复合型的技术,既然是技术就从编程语言谈起吧,为了简练,只说说r和python。但既然是荐数据科学方面的书,我这里就不提r/python编程基础之类的书了,直接上跟数据科学相关的。
r programming
如果只是想初步了解一下r语言已经r在数据分析方面的应用,那不妨就看看这两本:
r in action:我的r语言大数据101。其实对于一个没有任何编程基础的人来说,一开始就学这本书,学习曲线可能会比较陡峭。但如果配合上一些辅助材料这样一来,用这本书拿来入门学习也问题不大。而且这本书作者写得也比较轻松,紧贴实战。
data analysis and graphics using r:使用r语言做数据分析的入门书。这本书的特点也是紧贴实战,没有过多地讲解统计学理论,所以喜欢通过情境应用来学习的人应该会喜欢这本入门书。而且这本书可读性比较强,也就是说哪怕你手头没电脑写不了代码,有事没事拿出这本书翻一翻,也能读得进去。
但如果你先用r来从事实实在在的数据工作,那么上面两本恐怕不够,还需要这些:
modern applied statistics with s:这本书里统计学的理论就讲得比较多了,好处就是你可以用一本书既复习了统计学,又学了r语言。(s/splus和r的关系就类似于unix和linux,所以用s教程学习r,一点问题都没有)
data manipulation with r:这本书实务性很强,它教给你怎么从不同格式的原始数据文件里读取、清洗、转换、整合成高质量的数据。当然和任何一本注重实战的书一样,本书也有丰富的真实数据或模拟数据供你练习。对于真正从事数据处理工作的人来说,这本书的内容非常重要,因为对于任何研究,一项熟练的数据预处理技能可以帮你节省大量的时间和精力。否则,你的研究总是要等待你的数据。


r graphics cookbook:想用r做可视化,就用这本书吧。150多个recipes,足以帮你应付绝大多数类型的数据。以我现在极业余的可视化操作水平来看,r是最容易做出最漂亮的图表的工具了。
an introduction to statistical learning with application in r:这本书算是著名的the element of statistical learning的姊妹篇,后者更注重统计(机器)学习的模型和算法,而前者所涉及的模型和算法原没有后者全面或深入,但却是用r来学习和应用机器学习的很好的入口。
a handbook of statistical analysis using r:这本书内容同样非常扎实,很多统计学的学生就是用这本书来学习用r来进行统计建模的。
python
think python,think stats,think bayes:这是allen b. downey写的著名的think x series三大卷。其实是三本精致的小册子,如果想快速地掌握python在统计方面的操作,好好阅读这三本书,认真做习题,答案链接在书里有。这三本书学通了,就可以上手用python进行基本的统计建模了。
python for data analysis: 作者是pandas的主要开发者,也正是pandas使python能够像r一样拥有dataframe的功能,能够处理结构比较复杂的数据。这本书其实analysis讲得不多,说成数据处理应该更合适。掌握了这本书,处理各种糟心的数据就问题不大了。
introduction to python for econometrics, statistics and data analysis:这本书第一章就告诉你要安装numpy, scipy, matplotlib, pandas, ipython等等。然后接下来的十好几章就是逐一介绍这几个库该怎么用。很全面,但读起来比较枯燥,可以用来当工具书。
practical data analysis: 这本书挺奇葩,貌似很畅销,但作者把内容安排得东一榔头西一棒子,什么都讲一点,但一个都没讲透。这本书可以作为我们学习数据分析的一个索引,看到哪块内容有意思,就顺着它这个藤去摸更多的瓜。
python data visualization cookbook: 用python做可视化的教材肯定不少,我看过的也就这一本,觉得还不错。其实这类书差别都不会很大,咬住一本啃下来就是王道。


exploratory data analysis 和 data visualization
exploratory data analysis:john tukey写于1977年的经典老教材,是这一领域的开山之作。如今eda已经是统计学里的重要一支,但当时还是有很多人对他的工作不屑一顾。可他爱数据,坚信数据可以以一种出人意料的方式呈现出来。正是他的努力,让数据可视化成为一门无比迷人的技术。但这本书不推荐阅读了,内容略过时。要想完整地了解eda,推荐下一本:
exploratory data analysis with matlab:这本书虽然标题带了个matlab,但实际上内容几乎没怎么讲matlab,只是每讲一个方法的时候就列出对应的matalb函数。这本书的重要之处在于,这是我读过的讲eda最系统的一本书,除了对visualization有不输于john tucky的讲解外,对于高维的数据集,通过怎样的方法才能让我们从中找到潜在的pattern,这本书也做了详尽的讲解。全书所以案例都有对应的matalb代码,而且还提供了gui(图形用户界面)。所以这本书学起来还是相当轻松愉悦的。
visualize this:中译本叫“鲜活的数据”,作者是个“超级数据迷”,建立了一个叫的网页展示他的数据可视化作品,这本书告诉你该选择什么样的可视化工具,然后告诉你怎样visualize关系型数据、时间序列、空间数据等,最后你就可以用数据讲故事了。如果你只想感受一下数据可视化是个什么,可以直接点开下面这个链接感受下吧!a tour through the visualization zoo(a tour through the visualization zoo)


machine learning & data mining
这一块就不多说了,不是因为它不重要,而是因为它太太太重要。所以这一部分就推两本书,都是”世界名著“,都比较难读,需要一点点地啃。这两本书拿下,基本就算是登堂入室了。其实作为机器学习的延伸和深化,概率图模型(pgm)和深度学习(deep learning)同样值得研究,特别是后者现在简直火得不得了。但pgm偏难,啃k.daphne那本大作实在太烧脑,也没必要,而且在数据领域的应用也不算很广。deep learning目前工业界的步子迈得比学术界的大,各个domain的应用如火如荼,但要有公认的好教材问世则还需时日,所以pgm和deep learning这两块就不荐书了。


the element of statistical learning:要学机器学习,如果让我只推荐一本书,我就推荐这本巨著。hastie、tibshirani、friedman这三位大牛写书写得太用心了,大厦建得够高够大,结构也非常严谨,而且很有前瞻性,纳入了很多前沿的内容,而不仅仅是一部综述性的教材。(图表也做得非常漂亮,应该是用r语言的ggplot2做的。)这本书注重讲解模型和算法本身,所以需要具备比较扎实的数理基础,啃起这本书来才不会太吃力。事实上掌握模型和算法的原理非常重要。机器学习(统计学习)的库现在已经非常丰富,即使你没有完全搞懂某个模型或算法的原理和过程,只要会用那几个库,机器学习也能做得下去。但你会发现你把数据代进去,效果永远都不好。但是,当你透彻地理解了模型和算法本身,你再调用那几个库的时候,心情是完全不一样的,效果也不一样。


data mining: concepts and techniques, by jiawei han and micheline kamber 数据挖掘的教材汗牛充栋,之所以推荐这本韩家炜爷爷的,是因为虽然他这本书的出发点是应用,但原理上的内容也一点没有落下,内容非常完整。而且紧跟时代,更新的很快,我看过的是第二版,就已经加进去了social network analysis这种当时的前沿内容。现在已经有第三版了,我还没看过,但应该也加入了不少新内容。其实这本书并不难读,只是篇幅较长,啃起来比较耗时。
其实这两本书里单拎出来一块内容可能又是几本书的节奏,比如bayesian方法,再拿出两三本书来讲也不为过,我个人用到的比较多,而且也确实有不少好书。但并非是所有data scientist都要用到,所以这一块就不再细说。


还有一些印象比较深刻的书:
big data glossary: 主要讲解大数据处理技术及工具,内容涵盖了nosql,mapreduce,storage,servers,nlp库与工具包,机器学习工具包,数据可视化工具包,数据清洗,序列化指南等等。总之,是一本辞典式的大数据入门指导。
mining of massive datasets:这本书是斯坦福大学web mining的讲义,里面很多内容与韩家炜的data mining那本书重合,但这本书里详细地讲了mapreduce的设计原理,pagerank(google创业时期的核心排序算法,现在也在不断优化更新)讲解得也比较详细。
developing analytic talent: 作者是个从事了十几年数据工作的geek,技术博客写得很有个人风格,写的内容都比较偏门,通常只有具备相关数据处理经验的人能体会出来,丝毫不照顾初学者的感受。比如他会谈到当数据流更新太快时该怎么办,或者mapreduce在什么时候不好用的问题,才不管你懂不懂相关基础原理。所以这本书不太适合初学者阅读。这本书其实是作者的博客文章的集结,用how to become a data scientist的逻辑把他近几年的博客文章串联了起来。


past, present and future of statistical science:这本书是由copss(统计学社主席委员会,由国际各大统计学会的带头人组成)在50周年出版的一本纪念册,里面有50位统计学家每人分别贡献出的一两篇文章,有的回忆了自己当年如何走上统计学这条路,有的探讨了一些统计学的根本问题,有的谈了谈自己在从事的前沿研究,有的则给年轻一代写下了寄语。非常有爱的一本书。

r/python/matlab(必备):如果是做数据分析和模型开发,以我的观察来看,使用这三种工具的最多。r生来就是一个统计学家开发的软件,所做的事也自然围绕统计学展开。matlab虽然算不上是个专业的数据分析工具,但因为很多人不是专业做数据的,做数据还是为了自己的domain expertise(特别是科学计算、信号处理等),而matlab又是个强大无比的domain expertise工具,所以很多人也就顺带让matlab也承担了数据处理的工作,虽然它有时候显得效率不高。python虽然不是做数据分析的专业软件,但作为一个面向对象的高级动态语言,其开源的生态使python拥有无比丰富的库,numpy, scipy 实现了矩阵运算/科学计算,相当于实现了matlab的功能,pandas又使python能够像r一样处理dataframe,scikit-learn又实现了机器学习。


sql(必备):虽然现在人们都说传统的关系型数据库如oracle、mysql越来越无法适应大数据的发展,但对于很多人来说,他们每天都有处理数据的需要,但可能一辈子都没机会接触tb级的数据。不管怎么说,不论是用关系型还是非关系型数据库,sql语言是必须要掌握的技能,用什么数据库视具体情况而定。
mongodb(可选):目前最受欢迎的非关系型数据库nosql之一,不少人认为mongodb完全可以取代mysql。确实mongodb方便易用,扩展性强,web2.0时代的必需品。


hadoop/spark/storm(可选): mapreduce是当前最著名也是运用最广泛的分布式计算框架,由google建立。hadoop/spark/storm都是基于mapreduce的框架建立起来的分布式计算系统,要说他们之间的区别就是,hadoop用硬盘存储数据,spark用内存存储数据,storm只接受实时数据流而不存储数据。一言以蔽之,如果数据是离线的,如果数据比较复杂且对处理速度要求一般,就hadoop,如果要速度,就spark,如果数据是在线的实时的流数据,就storm。
openrefine(可选):google开发的一个易于操作的数据清洗工具,可以实现一些基本的清洗功能。


tableau(可选):一个可交互的数据可视化工具,操作简单,开箱即用。而且图表都设计得非常漂亮。专业版1999美刀,终身使用。媒体和公关方面用得比较多。
gephi(可选):跟tableau类似,都是那种可交互的可视化工具,不需要编程基础,生成的图表在美学和设计上也是花了心血的。更擅长复杂网络的可视化。