天天看点

推荐开源软件 —— Tachyon 分布式存储系统

alluxio 原名 tachyon。

alluxio 是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,类似spark和 mapreduce。通过利用lineage信息,积极地使用内存,alluxio的吞吐量要比hdfs高300多倍。alluxio都是在内存中处理缓存文件,并且让不同的 jobs/queries以及框架都能内存的速度来访问缓存文件。

特性:

类 java 的文件 api

兼容性:实现 hadoop 文件系统接口

可插入式的底层文件系统

内建 raw 原生表的支持

基于 web 的 ui

提供命令行接口

alluxio 架构:

推荐开源软件 —— Tachyon 分布式存储系统

https://yqfile.alicdn.com/b5b264f68bef39f3995683ccdb8a28f1a3a6a0e8.png

" >

推荐开源软件 —— Tachyon 分布式存储系统

与 hdfs 的比较:

推荐开源软件 —— Tachyon 分布式存储系统

hadoop足够快吗?美国加州大学伯克利分校的amplab基于hadoop的核心组件开发出一个更快的版本alluxio。amplab从底层重建了hadoop平台,“没有最快,只有更快”。

amplab在大数据领域最知名的产品是spark,它是一个内存中并行处理的框架,spark的创造者声称:使用shark运行并行处理job速度要比mapreduce快100倍。又因为spark是在内存运行,所以shark可与druid或者sap's hana系统一较高下。spark也为clearstory下一代分析和可视化服务提供处理引擎。如果你喜欢用hive作为hadoop的数据仓库,那么你一定会喜欢shark,因为它代表了“hive on spark”。

amplab的最新目标就是hadoop分布式文件系统(hdfs),不过hdfs在可用性和速度方面一直受人诟病,所以amplab创建了alluxio( 在high scalability上非常夺目,引起了derrick harris的注意)。

当然,amplab并不是第一个对hdfs提出质疑的组织,同时也有很多商业版本可供选择,像quantcast就自己开发了开源文件系统,声称其在运行大规模文件系统时速度更快、更高效。

诚然,amplab所做的工作就是打破现有商业软件的瓶颈限制。如果碰巧破坏了现状,那么就顺其自然吧!不过,对于用户来说,amplab只是为那些寻找合适工具的人员提供了一种新的选择,amplab的合作伙伴和赞助商包括谷歌,facebook,微软和亚马逊网络服务,它们当然非常乐意看到这些新技术,如果很有必要的话。

amplab的其他项目包括piql,类似于一种基于键/值存储的sql查询语言;mlbase,基于分布式系统的机器学习系统;akaros,一个多核和大型smp系统的操作系统;sparrow,一个低延迟计算集群调度系统。