欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

DataX3.0异构数据同步配置使用手册

程序员文章站 2022-04-28 09:40:40
...

1 DataX概述

1.1 DataX是什么?

    DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。

2 DataX核心架构设计

2.1 架构设计

	为了解决异构数据源同步问题,DataX将复杂的网状同步链路变成星型数据链路,DataX作为中间传输载体负责连接各种数据源。当需要接入一个新的数据源的时候,只需要将此数据源对接到DataX,便能跟已有的数据源做到无缝数据同步。

DataX3.0异构数据同步配置使用手册

				            图2-1:架构演变图

	数据交换通过DataX进行中转,任何数据源只要和DataX连接上即可以和已实现的任意数据源同步。

2.2 框架结构

DataX3.0异构数据同步配置使用手册

					     图2-2:Datax框架结构图

相关标签: ETL