分布式流处理框架 Tigon
程序员文章站
2022-03-15 17:54:44
...
Tigon 是一个开源的、实时的、低延迟、高吞吐量的流处理框架。基于 Apache Hadoop 和 Apache HBase 构建。Tigon 严重依赖开源项目 Tephra 和 Apache Twill 提供紧密的集成到已有的 Hadoop/HBase 集群中。
Tigon 应用 这就是“流”,在逻辑上表示为有向无环图(Directed Acyclic Graph),每个节点代表一个处理单元,这些处理单元就是 Flowlet,使用队列来处理单元之间的数据流。
Flows 对于 Tigon 而言相当于 Twill 对于 YARN 容器。提供了运行时弹性的可伸缩性。
Flowlets 可以存储在 HBase ,如果需要可使用 Tephra 的 ACID 属性。
TigonSQL 是 Tigon 附带的一个内存中的流处理库。可利用它来攫取大量的数据流到 Hadoop/HBase 集群中,并执行类 CEP 的查询语句,使用类似 SQL 的语言进行查询。
Tigon 支持不同运行时和环境,你可以运行在单一计算机或者是分布式 Hadoop 集群中,提供直观的命令行接口帮助用户管理 Tigon 流。
要使用 Tigon 必须有:
Tigon 应用 这就是“流”,在逻辑上表示为有向无环图(Directed Acyclic Graph),每个节点代表一个处理单元,这些处理单元就是 Flowlet,使用队列来处理单元之间的数据流。
Flows 对于 Tigon 而言相当于 Twill 对于 YARN 容器。提供了运行时弹性的可伸缩性。
Flowlets 可以存储在 HBase ,如果需要可使用 Tephra 的 ACID 属性。
TigonSQL 是 Tigon 附带的一个内存中的流处理库。可利用它来攫取大量的数据流到 Hadoop/HBase 集群中,并执行类 CEP 的查询语句,使用类似 SQL 的语言进行查询。
Tigon 支持不同运行时和环境,你可以运行在单一计算机或者是分布式 Hadoop 集群中,提供直观的命令行接口帮助用户管理 Tigon 流。
要使用 Tigon 必须有:
- JDK 6 or JDK 7 (用来运行 Tigon)
- GCC
- G++
- Apache Maven 3.0+ (用来构建示例程序)
推荐阅读
-
springcloud 微服务分布式 框架源码 activiti工作流 前后分离
-
Winform开发框架中工作流模块的动态处理
-
Spark系列(一)Spark简介与架构以及Spark安装流程(单机版和分布式版)---轻松上手Spark流处理
-
流处理引擎(SPE)中的的分布式一致性语义之Exactly-Once和Effectively-Onece区别
-
微服务分布式 spring cloud springboot 框架源码 activiti工作流 前后分离
-
springcloud 微服务分布式 框架源码 activiti工作流 前后分离
-
Winform开发框架中工作流模块的动态处理
-
Spark系列(一)Spark简介与架构以及Spark安装流程(单机版和分布式版)---轻松上手Spark流处理
-
理解DolphinDB流数据处理框架
-
分布式流处理框架 Tigon