当“大数据”来敲门

制图:张芳曼

当你用一分钟,看完这行文字的时候:

新浪已经发送了2万条微博,苹果已经下载了4.7万次应用,淘宝已经卖出了6万件商品,人人网发生了30万次访问,百度产生了90万次搜索查询。

2010年印刷版《大英百科全书》,32册,重达58.5公斤。然而,它的全部内容,还装不满一个4G的U盘。有鉴于此,《大英百科全书》出版社今年3月对外宣布,不再推出印刷版,内容全面数字化。

在宽带化、移动互联网、物联网、社交网络、云计算的催生下,一个大数据的时代,不经意间顺理成章地翩然而至。不久前,沣西大数据产业园悄然落户陕西省西咸新区,发展大数据产业正在“试水”。

全球数据总量在以每两年翻一番的速度增长

从事广告文化创意行业的何先生,清晰地记得,从12年前购买的仅有20GB硬盘容量的家用计算机,到为满足使用需求而不断扩容的80GB、120GB、250GB、500GB的主机存储空间,变化很快。“如今2TB的硬盘都不够用,还得靠移动存储设备来备份。”

根据IDC(国际数据公司)的监测统计,2011年全球数据总量已经达到1.8ZB(1ZB等于1万亿GB,1.8ZB也就相当于18亿个1TB的移动硬盘),而这个数值还在以每两年翻一番的速度增长,预计到2020年全球将总共拥有35ZB的数据量,增长近20倍。

由于数据规模的急剧膨胀,各行业累积的数据量越来越巨大,数据类型也越来越多、越来越复杂,已经超越了传统数据管理系统、处理模式的能力范围,于是“大数据”这样一个在含义上趋近于“无穷大”的概念才会应运而生。

“首先在于体量大,是一个数据全集的概念”,国家工信部软件服务业司司长陈伟为大数据概括出四方面特征,“第二是类型多,包括结构化数据、半结构化数据、非结构化数据等多种类型,其中视频数据在目前占到了90%以上的总额;第三要求速度快,需要以秒级为目标进行实时动态处理。”

“最后在于价值密度”,陈伟认为,由于大量有用和可能没用的数据并存,“遍地是金子,又遍地是沙子”,所以大数据的目的就在于从庞大的数据集合中找寻有价值的数据和知识,通过分析挖掘为各行业提供真正的智慧,“可以说21世纪是‘数据钻出石油’的时代。”

“以交互数据为例,目前一些自媒体平台,比如新浪微博,每天都有超过2500万条的微博信息在发布,里面有很多有价值的信息尚未得到发掘”,中国电子信息产业发展研究院副总工程师李峻认为,在这样庞大的非结构化数据背后,如何利用大数据技术,从海量堆积的交互数据当中发现带有趋势性、前瞻性的讯息,就能够发现并产生巨大的社会价值和商业价值。

一个小苹果背后的大数据:数据之和的价值远大于数据的价值之和

“由于数据的存储、分析、应用等方面的商业运营方式还没有定型,这个行业发展的潜力、创新空间都十分巨大”,陕西省西咸新区管委会副主任、沣西新城管委会主任刘宇斌打了一个“小苹果背后的大数据”的简单比方:

以陕西省苹果产业发展为例,诸如某品种苹果种在哪里最适宜生长所需要的空间地理信息数据,与具体产区的苹果产量、含糖量等数据叠加,并通过物联网等手段赋予苹果可追溯的唯一“身份”,在种植过程中实时监控,由每一个苹果“反馈”收集而成的数据,假如足够海量,就整合而成了大数据。

拥有了这些数据,首先可以通过数据租售服务的方式与潜在客户产生价值,“此类商业模式体现了数据之和的价值远远大于数据的价值之和。”

其次,如能运用组群分析、数据挖掘等科学方法,辅以云计算、分布式存储等手段,则可以对数据展开深层次分析和预测服务,“哪些苹果品质最好,市场反应更好,明年产量销量会怎样,各地市场对苹果购买的喜好会有何变化”,这种数据深挖及其背后的消费者行为预测分析,曾是统计学家的特权,未来则可能花费几分钟时间就可以完成。

数据经过积累,并与全国其他地方进行比对,则可为陕西苹果产业发展提供决策支持服务,并成为政府、行业指导果农生产的决策依据,避免产品滞销和果农利益受损。

最后,随着数据和分析方法权威性的建立,数据服务商有可能搭建一个第三方大数据分析平台,为更多的数据持有者提供数据整理、过滤、分析和处理服务,甚至有朝一日发展出类似于ebay、淘宝等电子商务交易平台一样的第三方数据共享交易平台。

陕西在大数据产业布局中执行大工业电价,中国联通项目一期8000个机柜一天节省电费40多万元

在西咸新区规划的25平方公里信息产业园中,国内首家大数据处理与服务专业园区——沣西大数据产业园正在布局建设,园区面积为3平方公里,分为基础数据聚集区、数据应用研发区和数据拓展区三个板块。陕西省力争到2017年,建成以西咸为核心的国家级大数据处理与服务产业集群,到2020年底,沣西大数据产业园区将实现产值500亿元,陕西省工信厅副厅长蔡苏昌介绍说。

百度公司每购买一台服务器,成本在3万元左右,但是使用维护费用要超过3万元,“这种情况下我们要不断地保证数据中心节能降耗。”百度技术委员会理事长陈尚义说。

据了解,目前陕西省已在大数据产业布局、项目聚集、资金配套、基础设施建设方面制定了相关政策,其中包括对入园企业执行大工业电价,并免除过网费。“电价占到数据企业成本的75%左右,目前园区已有三大运营商和全国人口信息处理与备份(西安)中心等项目落户,拿中国联通项目一期8000个机柜为例,一天就可以减少40多万元的电价成本”,刘宇斌介绍。

大数据带来的挑战不仅在于“硬件”层面。“100年前的医生可以了解医学的所有分支,可是今天一名医生面对的是大约10000种疾病综合征、3000种药品、1100种检验方法的海量知识”,国家信息化专家咨询委员会副主任、中国工程院院士邬贺铨认为,大数据产业需要从业人员既懂数据分析工具,又懂行业分析,而这样的创新人才是奇缺的,“同时在大数据挖掘开发利用和安全以及隐私保护方面,我国还缺乏相应法律保障,需要通过机制创新来推动数据共享的实现。”

(责任编辑:蒙遗善)

时间: 2014-12-09

当“大数据”来敲门的相关文章

大数据时代来临 机遇敲门

对数字在行?对数据着迷?那么你听到的是机遇的敲门声. 周墨(音译,Mo Zhou)去年夏天刚刚完成耶鲁大学的MBA学业就被IBM抢走,加入了这家技术公司快速发展的数据顾问的队伍当中.他们帮助企业弄清楚数据爆炸的意义-Web流量.社交网络上的评论,以及监控货物.供应商及客户的软件和传感器上的数据,以提供决策指南.削减成本.拉动销售."我一直对数字情有独钟,"周小姐说.她是数据分析师,这个职位跟她的技能很配. 为了开发利用好这股数据洪流,美国需要大量像她这样的人.去年,咨询公司麦肯锡的的研

“大数据”的“双面性”

摘要: 去年是云计算,今年是大数据.作为时下最流行的信息化标志,如今每个行业都在为自己具备大数据能力而作出努力.一时间,似乎不说自己有大数据基因,或者正在做着大数据相关的 去年是"云计算",今年是"大数据".作为时下最流行的信息化"标志",如今每个行业都在为自己具备"大数据"能力而作出努力.一时间,似乎不说自己有"大数据"基因,或者正在做着"大数据"相关的事情,都觉得自己赶不上潮流了.但

SAP卢东明:大数据同样需要小身材

文章讲的是SAP卢东明:大数据同样需要小身材,最近我在工作上有些调整,从以前负责专注海量数据存储分析的列式数据库Sybase IQ转移到移动及嵌入式数据库SQL Anywhere,负责SQL Anywhere全球的市场战略,所以想借这个机会写一写移动及嵌入式数据库是一个什么样的技术,对当今的企业应用有何种意义. 大数据时代,大家都在谈大数据之大.之深,围绕着大数据管理.海量数据存储.分析等解决方案层出不穷,列式数据库.海量内存分析.NoSQL,各种数据库技术似乎都是围绕着"大"这个词的

大数据时代:我们是一朝天子,还是一世奴隶?

<疑犯追踪>里有句台词:You are being watched.(你正被监视着)在互联网的世界里,我们每个人都是在被盯着的用户. 大数据是善解人意的丫鬟 最近看的<当怪物来敲门>里,让我印象深刻的是妈妈在病床上跟康纳说的一句"Because I know everything you need to tell me without you having to say it out loud.(因为你要对我说的即使不说出口我都知道)"这句话让我联想到了大数据时

新加坡的“大数据实验”

对以维持秩序为目标的中央控制式复杂技术系统而言,新加坡是最佳实施场所.如果社会稳定意味着要接受更多的监控和大数据扫描,新加坡人似乎很乐意做交换.在新加坡,人们普遍觉得如果你不是犯罪分子或者反政府者,就不用担心什么.从拍下警察在警车内睡觉并上传推特的愤怒市民到挑战执政党理念的反对派博客,新加坡的领导人也无法逃脱民众的监控. 美国的网络监控引起全世界对"大数据"的警惕,而新加坡却另辟蹊径,展开一场实验,希望在保护国家安全之外,还能借助"大数据"打造更加和谐的社会. 20

“大数据时代”已经降临

日前,<纽约时报>刊载文章称,尤其在商业领域,决策行为将日益基于数据和分析而做出,而并非基于经验和直觉,"大数据"的预见能力也已经崭露头角. 国内市场份额领先的电子商务软件及服务提供商上海商派网络科技有限公司总裁李钟伟认为,2012年电商企业应该进入精细化运营年,而B2C精细化运营的关键引擎就是数据驱动.而商派新近成立的CRM特别项目团队,正是大数据背景下数据驱动型电商组织变革实践的先行者之一,作为项目总监的夏宇斐对此显得信心十足. 数据化分析 听到机会在敲门 对于&quo

用大数据分析保护大数据的安全

携程信息泄露事件引发广泛关注,在大数据时代,各种各样的信息充斥而透明,几乎没有任何人.任何组织可以脱身事外,但这种信息暴露的直接后果就是隐私保护变得更加艰难.特别的,如果你的银行账号.密码泄露怎么办?你的文件服务器中存储有重要的机密数据,该怎么进行保护?http://www.aliyun.com/zixun/aggregation/14045.html">网络管理员掌控重要的全网数据信息,他的安全风险怎么防范? 既然是大数据时代,那就有可能也用大数据的方法来进行数据保护.很多公司都在进行这

大数据引起雷军关注 对10亿赌局进行回应

雷军接受记者采访.记者邱伟荣.乔军伟 摄 在两会代表团中,来自广州代表团的小米创始人雷军和腾讯之父马化腾是受关注度最高的两位. 走哪都带着一团"记者云",无奈今年两位却是"神龙见首不见尾",马化腾因身体原因向大会请假,雷军则在昨日下午的广东团成立大会上首次现身. 去年底,雷军表示5年内如果小米模式营业额击败格力,则董明珠赔自己1元,董明珠回应如果被击败愿意赌10亿元.董明珠志得意满绝不言输,雷军则请大家五年之后看结果. 欢喜冤家住对门 昨日下午2时40分,雷军刚关上

网络反腐:大数据引发政府管理新思路

2012年9月21日,在一场重大交通事故现场因"微笑"引发全民"围观"的"表哥"杨达才最终被解除陕西安监局局长一职,让人唏嘘不已,就连新任局长也战战兢兢,感觉"周围有无数双眼睛盯着自己".这"无数双眼睛"就是大数据时代下"无孔不入"的网络监督. 近年来,因网络监督"落马"的官员不在少数,比如周久耕.韩峰等等,一些地方官员更是"谈网色变".公众通过网