大数据教程之大数据的影响一

  好程序员大数据培训分享大数据的影响一1、大数据对科学研究的影响。
  著名数据库专家吉姆格雷(Jim Gray)博士观察并总结认为,人类自古以来在 { ` z e _ 3 D 科学研究上先后历经了实验、理论、计算和数据四种范式,具体如下:
  (1)第一种范式:实验
  在最初的科学研究阶段,人类采用实验来解决一些科学问题,著名的比萨斜塔实验就是一个典型实例。1590年R E p ] k w 1,伽利略在比萨斜塔上做了“两个铁球同时落地”的实验,得出了重量不同的两个铁球同时下落的结论,从此推翻了亚里士多德“物体下落速度和重量成比1 = , { / c a f !例”的学说,纠正了这个持续了1 900年之久的错误结论。
  (2)第二种范式:理论
  随着科学的进步,人类开始采用各种数学、几何、物理等理论,构建问题模型和解决方案。比如牛顿第一定律、牛顿第二定律、牛; 8 M $ % J 8顿第三定律构成了牛顿力学的完整体系,A g y i z d奠定了经典力学的概念基础,它的广泛传播和运用对人们的生活和思想产生了重大影响,在- F . Z很大g E r程度上推动了人类社会的发展与进r * D . m b f j步。
  (3)第三种范式:计算
  随着1946年人类历史上第一台计算机ENIAC的诞生,人类社会开始步入计算机时代,科学研究也进入了一个以“计算”为中心的全新时期。通过设计算法并编写相应程序输入计算机运行,人类可以借助于计算机的高速运F W e Z [ = N算能力去解决各种问题。计算机具有存储容量大、运算速度快、精度高、可重复执行等特点,是科学研究的利器,推动了人类社会的飞速发展
  (4)第四种范式:数据
  随着数据的不断累积,其宝贵价值日益得到体现,物联网和云计算的出现,更是促成了事物发展从量变到质变的转变,使人类社会开启了全新的大数据时代。在大数据环境下,一切将以数据为中心,从数据中发现问题、解决问题,真正体现数据的价值。大数据将成为科学工作者的宝藏,从数据中可以挖掘未知模式和有价值的信息,服务于生产和生活,推动科技创新和社会进步。
  2 大数据对思维方式的影响
  维克托迈尔舍恩伯格在《大数据时代:生活、工作与思维的大变革》一书中明确指出,大数据时代最大的转变就是思维方式的3种转变:全样而y V y : = n 5 o& 2 S M k 5抽样、效率而非精确、相关而非因果。B o E c { 8 G a Z
  = W x W(1)全样而非抽样
  过去,由于数据存储和处理能力的限制,在科学分析中,通常采用抽样的方法,即从全集数据中抽取一部分样本数据,通过对样本数据的分析,来推断全集数据的总体特征。通常,样本数据规模要比全集数据小很多,因此,可以在可控的代价内实现数据G C 2 % & Q分析的目的。现在,我们已经迎来大数据时代,大数据技术的核心就是海量数据的存储和处理,分布式文件系统和分布式数据库技术,提供了理论上近乎无限的数据存储能力,分布式并行编程框架MapReduce提供k + 5了强大的海量数据并行处理能力F ? ) - x k 8 4 B。因此,有了大数据技术的支持,科学分析完全可以直接针对全集数据而不是抽样数据,并且可以在短时间内迅速得到分析结果,速度之快,超乎我们的想象。就像前面我们已经提e # i s r f $到过的,谷歌公司的Dremel可以在2~3秒内完成PB级别数据的查询
  (2)效率而非精确
  过去,我们在科学分析中采用抽样分析方法,就必须追求分析方法的精确性,因为,抽样分析只是针对部分样本的分析,其分析结果被应用到全集数据以后x z = z b,误差会被放大,这就意味着,抽样l L W d分析的微小误差,被放大到全集数据以后,可能会变成一个很大的误差。因此,为了保证误差被放大到全集数据时仍然处于可以接受的范围,就必要确保抽样分析结果的精确性。正是由于这个原因,传统的数据分析方法往往更加注重提高算法的精确性,其次才是提高算法效率。现在,大数据时代采用g I | d $全样分析而不是抽样分析,全样分析结果就不存在误差g i M e {被放大的问题,因此,追求高精确性已经不是其首要目标;相反,大数据时代具有“秒级. 6 j j % #响应”的特征,要求! C } D G C在几秒内就迅速给出针对海量数据的实时分析结果,否则就会丧失数据的价值,因此,数据分析的效率成为关注的核心。
  / B r # / 0 X f(3)相关而非E j k i ~ t n 1因果
  过去,数据分析的p $ M U . 目的,一方面是解释事物背后的发展机理,比如,一个大型超市在某个地区的连锁店在某个时期内净利润下降很多,这就需^ $ Y E % U要IT部门对相关销售数据进行# 2 S 7 u V z : E详细分析找出发生问题的原因;另一方面是用于预测未来可能发生的事件,比如,通过实时分析微博数据,当K ^ ~ Y ~发现人们对雾霾的讨论明显增加时,就可以建议销售部门增加口罩的进货量,因为,人E ` 5 t U Q #们关注雾霾的一个直接结果是,大家会想到购买一个口罩来保护自己的身体健康。不管是哪个目的,其实都反映了一种“因果关系”。但是,在大数据时代,因+ d Q ~ y V :果关系不再那么重要,人们转而追求“相关性”而非“因果性”。比如,我们去淘宝网购物时,当我们购买了一个汽车防: , 0盗锁以后,淘宝网还会自动提示你,与K o 5 U你购买相同物品的其他客户还购买了汽车坐垫,也就是N . Z说,淘宝网只会告诉你“购买汽车防盗锁”和“购Q d k ?买汽车坐垫”之间存在相关性,但是,并不会告诉你为什么其他客户购买了汽车防盗锁以后还会购买汽车坐垫。