spark大数据平台

system

软件标签:  spark   大数据软件
spark大 数据分析软件为你提供了一个全新的平台，你可以使用该平台来进行大数据学习、计算等等，支持的行业也是相当的广泛。软件中的内容丰富，而且还有相当多的功能。欢迎下载！
spark数据分析简介：
apache spark 是一种多语言引擎，用于在单节点机器或集群上执行数据工程、数据科学和机器学习。



软件亮点：
1、机器学习

在笔记本电脑上训练机器学习算法，并使用相同的代码扩展到由数千台机器组成的容错集群。

2、sql 分析

为仪表板和临时报告执行快速、分布式的 ansi sql 查询。运行速度快于大多数数据仓库。

3、批处理/流数据

使用您的首选语言：python、sql、scala、java 或 r，统一批量和实时流式处理数据。

4、大规模数据科学

对 pb 级数据执行探索性数据分析 (eda)，而不必求助于下采样
软件特点：
1、速度快

基于内存进行计算（当然也有部分计算基于磁盘，比如shuffle）。

2、集成hadoop

并不是要成为一个大数据领域的“独裁者”，一个人霸占大数据领域所有的“地盘”，而是与hadoop进行了高度的集成，两者可以完美的配合使用。hadoop的hdfs、hive、hbase负责存储，yarn负责资源调度；复杂大数据计算。实际上，hadoop+的组合，是一种“double win”的组合。

3、极高的活跃度

目前是apache基金会的顶级项目，全世界有大量的优秀工程师是的committer。并且世界上很多顶级的it公司都在大规模地使用。

4、容易上手开发

的基于rdd的计算模型，比hadoop的基于map-reduce的计算模型要更加易于理解，更加易于上手开发，实现各种复杂功能，比如二次排序、topn等复杂操作时，更加便捷。

5、超强的通用性

提供了 rdd、sql、streaming、mllib、graphx等技术组件，可以一站式地完成大数据领域的离线批处理、交互式查询、流式计算、机器学习、图计算等常见的任务。

https://blog.51cto.com/u_16099270/9147646