欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  互联网

大数据时代序幕初升

程序员文章站 2022-05-22 13:50:50
近几年来,随着社交网络、电子商务和物联网等技术的深入发展,人类生活的网络化、虚拟化和数字化趋势日趋显著。海量的结构化和非结构化数据已经充斥在人们日常生活的每个角落。当前全球的数据总量正呈现出指数增长态...

近几年来,随着社交网络、电子商务和物联网等技术的深入发展,人类生活的网络化、虚拟化和数字化趋势日趋显著。海量的结构化和非结构化数据已经充斥在人们日常生活的每个角落。当前全球的数据总量正呈现出指数增长态势,过去三年间产生的数据量已经超过以往总和。据统计2011年全球被创建和被复制的数据总量达1.8ZB;预计2020年全球电子设备存储的数据将增至35.2ZB。人类社会继蒸汽时代、电气时代和网络时代后,正在加速跨进大数据时代。大数据已经成为一种社会现象:它既是对既往IT技术发展至今的高度抽象和概况,同时也抓住了IT技术服务于人、数据蕴藏价值的本质。如何深入洞察大数据的内涵,成为引导和推动我国大数据产业健康有序发展的关键。

Ø “大数据”的前世今生发展历程

大数据是伴随着数据开放和流动、IT技术进步和商业应用不断发展的必然产物。早在上个世纪六十年代,美国白宫预算局就提出了当时堪称革命性的创新计划——成立一个被称为“*数据银行”的统一大型数据库,把*部门所有的数据库连接、集中、整合起来,提高数据的准确性和一致性;八十年代,美国就有人提出了“大数据”概念,企业界、学术界不断对此进行探讨;1995年麻省理工学院教授尼葛洛庞帝出版了《数字化生存》一书,指出海量数据正在流动、时空障碍将被打破,个人将在后信息时代获得更大的解放;《自然》杂志于2008年9月推出了名为“大数据”的封面专栏,描述了数据在数学、物理、生物、工程及社会经济等多学科扮演的愈加重要的角色;2011年,麦肯锡出版了《大数据:创新、竞争和生产力的下一个新领域》,产学研界对“大数据”的关注达到历史性新高度。美国奥巴马*于今年3月启动“大数据研究和发展计划”,投入2亿多美元推动大数据提娶存储、分析、共享、可视化等领域的研究,此举引发了世界各国*对大数据的高度关注。随着基于大数据的企业应用成功案例不断增多,大数据应用将渗透到社会各行业,数据的资产化趋势将更加显著,预计到2020年,全球的数据量将达到惊人的35.2ZB。

图 大数据发展阶段及预测

大数据时代序幕初升

数据来源:赛迪顾问整理,2012.11

Ø 探索“大数据宝藏”

在大数据时代,数据已经渗透到各个商业领域,成为企业的战略资产之一。据估计,2010年全球企业已使用超过7EB的增量磁盘来存储数据。在金融、电信和零售领域,企业对于数据资产的重视程度与日俱增,掌握更多的数据,就意味着拥有更多获取数据潜在价值的可能。全球零售业的巨头沃尔玛于去年4月18日,斥资3亿美元收购了一家名为Kosmix的社会化媒体创业公司。该公司主要针对社交媒体内容,提供进行信息过滤和分类方面的服务。“移动应用和网络化社交已经成为消费者生活的一部分,影响着他们的思考方式和购物意愿,并且这种影响力横跨线上和线下。沃尔玛作为一家年销售额达4000亿美元的零售企业,花费3亿美元收购社会化媒体创业公司,这一战略举措合乎未来发展的商业潮流。”美国科技博客Business Insider评论道。针对此次并购,沃尔玛副董事长、全球电子商务业务主管艾思华(Eduardo Castro Wright)表示说,沃尔玛希望 “通过采用大数据分析技术,在日益快速增长的社交电子商务领域,增强企业对于消费者购买意愿的预测能力”。

以Kosmix团队为核心打造的“沃尔玛实验室”,主要针对社交网络内容和信息进行分类、过滤以及优化搜索,为顾客开发了一个分类搜索平台-Kosmix.com。例如当某位用户想购买一款鞋时,只需要登录网站,在搜索栏中输入Shoes,网站立刻会条理分明地罗列来自社交网上的最流行产品列表,购物达人们的网站收藏标签,Google搜索出热门产品的图片,Youtube的相关视频,以及来自Twitter的讨论。沃尔玛通过采用大数据技术,对上述海量的网络信息进行筛选和分析,可以及时预测出消费者的潜在购买需求,从而可以实现精准营销,扩大企业销售额。

大数据不仅在商业领域拥有广阔的应用前景,同时也是*部门实现科学化、精准化和高效化管理的重要技术手段,在灾害预防、社保管理和交通治理领域有广泛的应用价值。以交通管理领域为例,交通拥堵一直是伴随着城市发展的顽疾,如何有效规划出行路线、合理控制交通流量以及完善交通环境是每座大城市都亟待解决的难题。随着信息技术的蓬勃发展,人们采用先进的传感技术、网络技术、计算技术、控制技术、智能技术,对各种交通数据进行大量采集和系统分析,实现对道路和交通状况的全天候和全天时感知。

在智能交通系统中,每隔一定时段智能交通系统就会同步主要路段的交通状况、发生交通事故路段、重点拥堵路段、公交运行状况等大量数据信息,交通管理部门可以利用新一代大数据中心平台加载相应信息,通过系统对海量进行分类分析,计算出目前各主要干道的车流量,判断拥堵程度,通过短信、广播的形式,将实时路况信息发送到车主的终端设备上便于及时调整出行路线,从而实现对于城市交通的实时化和精准化管理。

Ø 营造良好的产业发展环境

和任何一个新兴的产业在发展初期都会面临各种挑战一样,大数据正处于产业发展的孕育期,需要各方参与主体共同努力,为其实现快速健康发展营造良好的产业发展环境。

*主管部门:制定相关规划战略和法律法规,规范行业健康有序发展

大数据不仅为社会各行业实现智能决策提供关键技术,还将进一步促进云计算、物联网和移动互联网等产业的快速融合发展。因此,*应该从国际视野洞察大数据产业发展趋势,提前进行产业规划和布局引导,从*、金融、电信、医疗、教育等重要经济生活领域注重开放和整合数据,提升大数据应用效能,推进示范应用工程,树立行业应用典范。

此外,用户对于信息安全的担忧应经成为制约产业快速发展的主要因素。对于数据主权归属、大数据服务可靠性保障以及出现争端后如何化解与裁决等问题,用户普遍表示关注和担忧。因此*应该从法律法规和行业标准两个层面,尽快建立完善保障体系,为我国大数据产业发展保驾护航。一方面,可由工信部、发改委等主管部门牵头,召集产业各方主体,制定相关的技术标准和运营标准。另一方面,启动大数据领域立法工作,从法律层面解决数据主权归属和用户隐私保护等问题。

IT服务厂商:洞察用户对于数据的深层次需求,提供高可靠性解决方案

海量化、多样化和快速化和价值化是大数据的四个主要特征。要以最快的速度从海量的结构化和非结构化的数据中分析提取出有价值的信息,需要经历采集、存储、传输、分析等多个环节,每个环节的专业性要求都很高。因此,IT服务厂商需要洞察不同行业用户对于数据信息的深层次需求,提供从硬件到软件、从产品到服务的一体化解决方案。IT厂商通过提供软硬件一体化高度集成的整体方案,可以保证存储、服务器和数据分析软件系统之间的兼容性、可靠性和扩展性,使用户能够快速部署大数据处理分析环境,尽快实现商业价值。

为了满足用户对于大数据的需求,目前业界已有部分厂商提供了相应的解决方案。以SAP为例,该企业已经发布了基于内存计算分析技术的高性能分析应用平台SAP HANA。此平台能够快速高效地处理海量数据,帮助用户以最高效的方式获取实时信息,提高企业战略决策的时效性和准确性。农夫山泉作为一家经营快速消费品的企业,物流成本一直是构成运营成本中的主要因素。该企业通过采用SAP HANA技术对其物流环节进行大数据分析后,重新规划了物流仓库的区域布局,从而有效地优化了物流业务环节,显著降低了企业的运营成本。

行业用户:深刻挖掘数据资产价值,提升企业智能决策能力

目前绝大多数行业用户对于数据的关注还主要集中在存储和传输环节,在数据量每年大约增长60%的背景下,企业平均只能获取其中25%~30%的数据,作为企业战略资源的核心数据还远远未被挖掘出来。因此,行业用户应该高度重视大数据的资产价值,深入挖掘大数据的商业价值,推动企业决策机制从“业务驱动”向“数据驱动”转变,提供企业的市场竞争力。根据预测,未来通过对大数据进行挖掘和应用可以创造出超万亿美元的商业价值,因此数据资产必然会成为促进企业的利润增长的核心动力,企业应该充分重视数据的收集、传输、整理和分析工作,提升企业智能决策的能力。