大数据的未来在哪里?从“吃鸡”游戏开始说起( 四 )

2019年,知名的大数据软件企业Cloudera和Hortonworks宣布合并,而另一大数据独角兽MapR被HPE收购,标志着大数据商业软件时代的结束,也预示着大数据的另一个未来。

三.大数据的未来在哪里?

在过去的十几年,硬件的性能,尤其是网络性能一直是大数据应用的瓶颈, 天才的架构师们自然想到了集群化大数据系统架构。

1)分布式集群集中部署

单服务器提供的算力有限,使用大规模的服务器组成分布式集群,成千上万个普通CPU并行计算突破了单服务器算力极限。

2)数据分散存储在物理机每个硬盘上

每台服务器挂载几个至十几个普通硬盘,使用多台服务器搭载搭建了分布式存储系统,有效解决超大规模数据存储问题。

3)数据本地化

数据处理任务从远程物理机读取数据开销大。以数据为“中心”,将数据处理任务迁移到数据所在的物理机上,能有效降低网络带宽,保证了整体性能。

推荐阅读