当前位置:首页 > 移动互联 > 大数据和区块链之间的比较分析

大数据和区块链之间的比较分析

admin 12个月前 428 0

 

6月5日移动互联 大数据和区块链两者之间有个共同的关键词:分布式,代表了一种从技术权威垄断到去中心化的转变。

大数据和区块链之间的比较分析 移动互联 第1张

分布式存储:HDFS vs. 区块

大数据,需要应对海量化和快增长的存储,这要求底层硬件架构和文件系统在性价比上要大大高于传统技术,能够弹性扩张存储容量。谷歌的GFS和Hadoop的HDFS奠定了大数据存储技术的基础。另外,大数据对存储技术提出的另一个挑战是多种数据格式的适应能力,因此现在大数据底层的存储层不只是HDFS,还有HBase和Kudu等存储架构。

区块链,是比特币的底层技术架构,它在本质上是一种去中心化的分布式账本。区块链技术作为一种持续增长的、按序整理成区块的链式数据结构,通过网络中多个节点共同参与数据的计算和记录,并且互相验证其信息的有效性。从这一点来说,区块链技术也是一种特定的数据库技术。由于去中心化数据库在安全、便捷方面的特性,很多业内人士看好其发展,认为它是对现有互联网技术的升级与补充。

分布式计算:MapReduce vs. 共识机制

大数据的分析挖掘是数据密集型计算,需要巨大的分布式计算能力。节点管理、任务调度、容错和高可靠性是关键技术。Google和Hadoop的MapReduce是这种分布式计算技术的代表,通过添加服务器节点可线性扩展系统的总处理能力(Scale Out),在成本和可扩展性上都有巨大的优势。现在,除了批计算,大数据还包括了流计算、图计算、实时计算、交互查询等计算框架。

区块链的共识机制,就是所有分布式节之间怎么达成共识,通过算法来生成和更新数据,去认定一个记录的有效性,这既是认定的手段,也是防止篡改的手段。区块链主要包括四种不同的共识机制,适用于不同的应用场景,在效率和安全性之间取得平衡。以比特币为例,采用的是“工作量证明”(Proof Of Work,简称POW),只有在控制了全网超过51%的记账节点的情况下,才有可能伪造出一条不存在的记录。

IT技术发展的分分合合

和人类社会一样,IT技术发展的也呈现出“合久必分,分久必合”,即集中与分布的螺旋式上升。

计算机诞生初期,仅能实现一对一的使用,是集中化的。为了使得一台大型机能够同时为多个客户提供服务,IBM公司引入了虚拟化的设计思想,使得多个客户在同时使用同一台大型机时,就好像将其分割成了多个小型化的虚拟主机,是时分复用的集中式计算。

进入小型机和PC时代,回归了一对一的使用,不过设备已经分散到了千家万户。进入互联网时代,C/S模型的客户端和服务器是分布式计算,只不过服务器之间还是分散的。

进入云计算时代,计算能力又被统一管控起来,在客户端和服务器的分布式计算基础之上,服务器之间也开始了分布式协同工作。因为协同,所以也可以认为它们在整体上是一种集中式的计算服务。

进入大数据时代,云计算成为大数据基础设施,也使得大数据的核心思想和云计算一脉相承。MapReduce将任务分解进行分布式计算,然后将结果合并从而实现了信息的整合分析。

区块链则是纯粹意义上的分布式系统。

是什么力量造成了集中与分布的此消彼长?

让我们从历史中试着寻找答案。

商业需要集中,希望通过产品实现更好的控制和更高的利润。但随着产品集中度的不断上升,系统会越来越复杂,实现的难度越来越大,沟通、交流和管理的成本也越来越高,最终变得不经济。

社会需要分工,让专业的人做专业的事,涂尔干的《社会分工论》谈到,“分工使社会像有机体一样,每个成员都为社会整体服务,同时又不能脱离整体,分工就像社会的纽带,故谓之‘有机团结’。”

分布式技术的诞生,正是基于这种思想。产品功能被分解并分布到不同的节点上去完成,节点之间通过网络实现沟通。分布式系统中的一些节点或因为商业上的成功,重新成为“集中化”的节点,但随着时代的改变,它们终将会进入新一轮的分布式周期。如此往复。

集中和分布不是光谱的两端,任何伟大的产品,都是商业和技术的“有机团结”。

以上是区块链与大数据之间的一些相同点,接下来聊一聊两者之间的不同点。

两者属于不同的时代,区块链继大数据之后的又一次技术革命。

两个技术处于不同的生命周期

——Gartner Hype Cycle

技术成熟度曲线(The Hype Cycle)是咨询公司Gartner用来分析和预测各种新科技的成熟演变速度及所需时间著名工具。

大数据和区块链之间的比较分析 移动互联 第2张

“大数据”与“区块链”在Gartner历年的《技术成熟度曲线》中的出现情况

2011年,“大数据”第一次上榜,位于技术萌芽期的爬坡阶段,当时还统称为“‘Big Data’ and Extreme Information Processing and Management”(“大数据”和极端信息处理和管理)。2012年更进一步,并在2013年几乎达到了过热期顶峰。经历了2014年的下滑,从2015年开始,“大数据”突然从曲线中消失,可解读为Gartner对大数据的定位已从“新兴”转为“主流”。当前,大数据对于企业的意义已从能力要素上升为战略核心。

相对而言,“区块链”直到2016年才第一次出现在《技术成熟度曲线》中,并直接进入“过热期”。总的来看,“大数据”和“区块链”所处的生命周期阶段大不相同,两者约有5年左右的差距。

发表评论
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

相关文章

2017世界网速排名公布,中国7.6Mbps,你家呢?

2017世界网速排名公布,中国7.6Mbps,你家呢?

 现在很多人每天最离不开的就是网络,每走到一个地方,可能都要找找有没有无线网,随口第一句问的就是WiFi密码是多少?有时候网速慢也会让人抓狂。“电脑那些事儿”注意到在5月19日左右国际上最大...

云服务器哪家好?五款工具找出最理想供应商

云服务器哪家好?五款工具找出最理想供应商

随着将更多工作负载逐步转移到云环境当中,大家可能发现准确并及时地追踪自己的月度云计算账单并不像原本想象中的那么简单。当然,使用云服务供应商的产品肯定要比自行购买硬件更便宜,或者说我们已...

租房成毕业最大苦恼?分期乐商城帮新晋白领付押金

租房成毕业最大苦恼?分期乐商城帮新晋白领付押金

 又到一年毕业季,租房几乎是每个毕业生步入社会面临的首要问题。近日,乐信旗下品质分期购物平台分期乐商城正式上线了“乐花·租房”服务,帮助有良好信用记录的毕业生提前垫付租房押金。毕业第一年,用...

创业维艰,回头看看今天的商业大佬们最初创业时的模样

创业维艰,回头看看今天的商业大佬们最初创业时的模样

    联想起步于中科院某个低矮的传达室,新东方最早在只有10平米的漏风违章建筑中办公,刘强东最开始在中关村摆柜台,腾讯孵化企鹅的地方是一间舞蹈室,马云的一套新买的四居室是阿里巴巴最早的办...

移动互联网创业:如何快速跨过App这道坎

移动互联网创业:如何快速跨过App这道坎

    说起移动互联网创业,很多人会想到应用,想到o2o,想到移动互联网金融,移动支付,智能硬件等等,很多东西,这一切,基本上都离不开App,比如做移动应用,要做App,做智能硬件,也要做...

减少域名DNS解析时间将网页加载速度提升新层次

减少域名DNS解析时间将网页加载速度提升新层次

提高网页的打开速度,一般地我们会选择使用CDN,利用“就近原则”让用户在最短的时间内获取到服务器资源,实际应用当中采用CDN的方式提高网站访问速度的效果也是最明...

三星专拨200员工为苹果生产屏幕 承诺为对手保密

三星专拨200员工为苹果生产屏幕 承诺为对手保密

三星专拨200员工为苹果生产屏幕承诺为对手保密【TechWeb报道】4月16日消息,据彭博社报道,知情人士透露,三星电子本月1日成立了一支包含200名员工的小组,专门为苹果产品供应屏幕。该小组...

那些年踩过的坑:ArcGIS地理大数据实践

那些年踩过的坑:ArcGIS地理大数据实践

 目录:什么是大数据——Whatisbigdata空间大数据的传统策略——当互联网遇上空间分析现实的挑战很严峻——当量变成为质变的时候大数据中,我们能做什么?——Weareacti...