欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

大数据技术原理与运用知识

程序员文章站 2022-04-23 08:02:34
一·大数据概述 随着信息技术发展的巨大变革,企业和学术机构纷纷加大技术、资金和人员投入,加强对大数据关键技术的研发与运用。 大数据的发展历程总体上划分为三个重要阶段:萌芽期、成熟期和大规模应用期。 二.大数据概念 大数据的4个特点:数据量大、数据类型繁多、处理速度快和价值密度低。 三.大数据与云计算 ......

一·大数据概述

随着信息技术发展的巨大变革,企业和学术机构纷纷加大技术、资金和人员投入,加强对大数据关键技术的研发与运用。

大数据的发展历程总体上划分为三个重要阶段:萌芽期、成熟期和大规模应用期。

 

二.大数据概念

大数据的4个特点:数据量大、数据类型繁多、处理速度快和价值密度低。

 

三.大数据与云计算、物联网的关系

大数据为云计算机提供了用武之地,云计算为大数据提供了技术基础。

物联网是大数据的重要来源,大数据技术为物联网数据分析提供支撑。

云计算为物联网提供海量数据存储能力,物联网为云计算技术提供了广阔的应用空间。

 

 四.大数据处理架构hadoop

1.hadoop简介

hadoopapache旗下的一个开源分布式计算平台。是基于java语言开发的,具有很好的跨平台性,并可以部署在一般的计算机集群中。hadoop的核心是分布式文件系统hdfsmapreducehdfs具有较高的读写速度、很好的容错性和可伸缩性,很好的保证了数据的安全性。

其中yarn是资源调动,mapreduce是计算框架。

 

2.hadoop的特性

高可靠性、高效性、高扩展性、容错性、成本低、运行在linux平台上、支持多种编程语言。

 

3.hadoop生态圈

/*图片来源于网络*/

大数据技术原理与运用知识