一、大数据的基本概念

1.大数据就在身边

当你登录淘宝、京东、拼多多等购物平台时,平台首页推送给你的商品是不是你都非常感兴趣的?或者曾经浏览过的?当你登录抖音、快手等短视频软件时,软件首页推送给你的短视频是不是你非常感兴趣的?或者曾经观看过类似的主题?当你登录新闻软件浏览新闻时,软件首页推送给你的新闻是不是你非常感兴趣的?或者相关主题的?这些现象的背后都是大数据算法根据用户的兴趣、习惯自动推送的结果,是商家经过提取用户数据,通过分析转化为有意义的信息,并对推送内容进行优化后推送提供给用户,是商家优化商业服务的结果。

亚马逊、谷歌、推特、脸书等互联网企业,除了商业模式创新,其成功的背后都是基于卓越的大数据分析技术和分析能力,有着基于大数据先进的算法技术做基础。阿里巴巴、京东、抖音、快手、美团、百度等互联网企业,除了基于国情的商业模式创新,其成功的背后也是基于卓越的大数据分析技术和分析能力,如抖音的短视频算法推送技术成为其迅速发展的重要支撑。

脸书、抖音、微博等软件可以为用户提供类似“也许你还认识这些人”的提示,这种提示是非常精准的,这种精准提示正是对用户的社会关系数据进行分析后得到的结果。亚马逊、淘宝、京东、拼多多等电商巨头基于用户习惯的数据分析,精准推送“猜你喜欢”的商品,大大减少了用户的搜索时间和浏览商品的购买转化率,提高了电商巨头的销售率、增加了销售数据。传统行业如麦当劳、沃尔玛等企业也纷纷拥抱大数据,通过运用大数据,麦当劳、沃尔玛等企业的销售额和销售业绩持续增长。

2009年,谷歌公司通过分析5000万美国人最频繁检索的关键词,并将其和美国疾病中心2003—2008年公布的美国季节性流感传播时期的数据进行比较,建立了一个特定的数据模型,最终谷歌公司成功预测了美国2009年冬季流感的传播,其预测可以精准到特定的州和地区梁栋,张兆静,彭木根.大数据、数据挖掘与智慧运营[M].北京:清华大学出版社,2017:12.

2012年8月,时任美国总统奥巴马选举期间运用大数据技术对选民进行精准画像,分类施策引导选民意向,大大提高了选举效率和选举成功率,几乎左右了整个大选赵国栋,易欢欢,糜万军,等.大数据时代的历史机遇[M].北京:清华大学出版社,2013:1.

2020年年初至2023年年初的新冠疫情期间,中国基于大数据技术的个人健康码和行程码管理对疫情防控和管理做出了巨大贡献,有力地控制了疫情扩散,保护了人民健康,也为其他国家的疫情防控提供了有益借鉴。

综上,大数据已经渗透到人们生活的方方面面,正以前所未有的速度颠覆人们探索世界的方式,引起商业、金融、通信、医学、交通、传媒娱乐、工业制造、环境监测、教育、科研、国防、军事等领域的深刻变革。当前,世界各经济强国都高度重视大数据的管理、运用和发展,基于大数据应用的数字经济已经成为驱动各国发展的新引擎,世界主要国家都纷纷出台大数据发展规划,将其提升到国家发展战略高度做出详细部署。

2.大数据的概念

关于大数据的概念,目前国内外科技界、学术界还没有一个令所有人都信服的统一的概念,在大数据发展过程中,不同机构和学者都给出过不同的概念。

维基百科将大数据定义为:“没有办法在允许的时间里用常规的软件工具对内容进行抓取、管理和处理的数据集合。”梁栋,张兆静,彭木根.大数据、数据挖掘与智慧运营[M].北京:清华大学出版社,2017:31.

美国麦肯锡咨询公司在其关于大数据的报告中将大数据定义为:“大数据是指大小超出常规数据库工具获取、存储、管理和分析能力的数据集。”但它同时强调,并不一定是超出一定TB值的数据集才能算是大数据王振武.大数据挖掘与应用[M].北京:清华大学出版社,2017:3.

国际数据公司将大数据定义为:“大数据一般涉及2种或2种以上的数据形式。它要收集超过100TB的数据,并且是高速、实时数据流;或者是从小数据开始,但是每年会增长60%以上。”王振武.大数据挖掘与应用[M].北京:清华大学出版社,2017:3.

亚马逊公司的大数据科学家John Rauser认为:“大数据是任何超过了一台计算机处理能力的数据量。”赵国栋,易欢欢,糜万军,等.大数据时代的历史机遇[M].北京:清华大学出版社,2013:21.

美国商业研究机构高德纳公司(Cartner)认为:“大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。”王莉,宋兴祖,陈志宝.大数据与人工智能研究[M].北京:中国纺织出版社,2019:2.

美国学者托马斯·埃尔、瓦吉德·哈塔克、保罗·布勒认为:“大数据是一门专注于对大量的、频繁产生与不同信息源的数据进行存储、处理和分析的学科。”托马斯,瓦吉德,保罗.大数据导论[M].彭智勇,杨先娣,译.北京:机械工业出版社,2017:3.

国内学者李楠、张凯认为:“大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。”李楠,张凯.大数据时代高校思想政治教育的创新[J].马克思主义理论学科研究,2019,5(4):131-140.