基于Flink CDC的MySQL全量增量同步工具 date 20231114 tags 数据库同步yoursourcetarget comments true author admin 基于Flink CDC的MySQL全量增量同步工具 简介 本项目提供了一个基于Flink CDC使用datastream方式全量增量同步MySQL到MySQL的解决方案使用Java语言编写用户只需配置源数据库和目标数据库的信息运行MysqlCDC类中的main函数即可实现多库多表的同步 功能特点 全量同步支持从源数据库全量同步数据到目标数据库 增量同步支持实时增量同步确保目标数据库数据与源数据库保持一致 多库多表支持同步多个数据库和多个表灵活配置 简单易用只需简单配置数据库信息即可运行同步任务 快速开始 环境要求 Java 8 或更高版本 Flink 112 或更高版本 MySQL 57 或更高版本 配置步骤 1 克隆仓库 bash git clone httpsgithubcomyourrepoflinkcdcmysqlsyncgit cd flinkcdcmysqlsync 2 配置数据库信息 在srcmainresourcesapplicationproperties文件中配置源数据库和目标数据库的信息 properties sourcedatabaseurljdbcmysqlsourcedbhost3306sourcedb sourcedatabaseusernameyoursourceusername sourcedatabasepasswordyoursourcepassword targetdatabaseurljdbcmysqltargetdbhost3306targetdb targetdatabaseusernameyourtargetusername targetdatabasepasswordyourtargetpassword 3 运行同步任务 运行MysqlCDC类中的main函数 bash mvn clean package mvn execjava DexecmainClasscomyourpackageMysqlCDC

2023-11-14

基于Flink CDC的MySQL全量增量同步工具

简介

本项目提供了一个基于Flink CDC使用datastream方式全量增量同步MySQL到MySQL的解决方案。使用Java语言编写,用户只需配置源数据库和目标数据库的信息,运行MysqlCDC类中的main函数,即可实现多库多表的同步。

功能特点

  • 全量同步:支持从源数据库全量同步数据到目标数据库。
  • 增量同步:支持实时增量同步,确保目标数据库数据与源数据库保持一致。
  • 多库多表:支持同步多个数据库和多个表,灵活配置。
  • 简单易用:只需简单配置数据库信息,即可运行同步任务。

快速开始

环境要求

  • Java 8 或更高版本
  • Flink 1.12 或更高版本
  • MySQL 5.7 或更高版本

配置步骤

  1. 克隆仓库
     git clone https://github.com/your-repo/flink-cdc-mysql-sync.git
     cd flink-cdc-mysql-sync
    
  2. 配置数据库信息: 在src/main/resources/application.properties文件中配置源数据库和目标数据库的信息。
     source.database.url=jdbc:mysql://source-db-host:3306/source_db
     source.database.username=your_source_username
     source.database.password=your_source_password
    
     target.database.url=jdbc:mysql://target-db-host:3306/target_db
     target.database.username=your_target_username
     target.database.password=your_target_password
    
  3. 运行同步任务: 运行MysqlCDC类中的main函数。
     mvn clean package
     mvn exec:java -Dexec.mainClass="com.yourpackage.MysqlCDC"
    

贡献

欢迎贡献代码,提出问题和建议。请参考CONTRIBUTING.md了解更多详情。

许可证

本项目采用MIT许可证

联系我们

如有任何问题,请联系项目维护者:

  • 邮箱:your-email@example.com
  • 微信:your-wechat

感谢使用本项目,希望它能帮助你高效地完成MySQL数据同步任务!

下载链接

基于FlinkCDC的MySQL全量增量同步工具