> Linux新闻 >

国产数据迁移同步工具 CloudCanal v4.3.0.0 发布

CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase、PolarDB、TiDB、StarRocks、Doris、RocketMQ 等。

结合开源项目 CloudCanalProcess ,可方便实现如下功能

  • wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
  • data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
  • data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
  • data-compare : 数据对比插件,根据源端数据变化进行业务对账
  • business-alert : 业务告警插件,根据数据变化趋势做出相应告警

CloudCanal 产品功能对标阿里云 DTS、亚马逊 DMS、StreamSets、AirByte,助力开发、DBA 或运维同学快速构建在线数据应用。

 

Release-Note

新链路

  • 开放 Elasticsearch -> Elasticsearch 结构迁移、全量迁移、增量同步 (alpha),安装插件后使用

新特性

  • 支持 Hana 基于操作创建触发器(Insert/Update/Delete),即可选部分操作对应的触发器创建
  • 支持 Hana 源端全量迁移无主键表(Column 类型)根据 $rowid$ 断点续传
  • 支持 MySQL -> MySQL 同步 MySQL 系统库结构迁移、全量同步、增量同步、校验订正
  • 支持 StarRocks 源端全量迁移过滤条件拼接(新增任务参数:fullDataSqlConditionEnabled)
  • 支持 StarRocks / Doris 写入报错重试(新增任务参数:retryCount、retryWaitTimeMs)
  • 支持 MQ 对端过滤增量任务中 data 为空的数据(新增参数 filterEmptyData)
  • 支持 OceanBase 源端自定义代码功能
  • 支持 目标端 StarRocks、Doris、SelectDB 高级配置可从用户参数中读取(用户参数新增 migrationBucketNumber、migrationPropertiesConfig)
  • 支持 任务延迟 和 延迟恢复 国内电话通知(依赖阿里云语音服务)
  • 支持 任务延迟恢复通知(IM、电话、短信、邮件)
  • 支持 显示和设置任务级别,高到低 P0、P1、P2、P3、P4,配合监控指标 tag 方便接入用户系统告警体系
  • 支持 任务监控指标更多 tag, 包括 task_name (e.g.,canalxxxx_INCREMENT), job_desc (任务描述),job_level (任务级别)
  • 支持 配置任务 Grafana 监控仪表盘,方便用户对接其他告警方式
  • 支持 审计页面展示修改前后的参数变化
  • 支持 系统偏好按标签筛选参数
  • 支持 系统配置变更进行审计记录
  • 支持 主账号级别的手机告警设置,包括 alterVoiceType、taskErrorVoiceTc、taskRecoverVoiceTc、voiceAccessKey、voiceSecretKey 参数
  • 支持 主账号级别的短信告警设置,包括 alterSmsType、smsSignName、sysErrorSmsTc、taskErrorSmsTc、taskRecoverSmsTc、smsAccessKey、smsSecretKey 参数
  • 支持 openapi 创建任务接口增加设置开启心跳参数
  • 支持 openapi 任务重跑接口
  • 支持 子账号资源批量授权

优化

  • 优化 TiDB 源端增量同步拉取数据性能,支持并行数据拉取
  • 优化 对接口中的密码明文进行加密传输
  • 优化 SQLServer / MySQL 源端表字段元数据获取速度(新增系统参数 parallelFetchMetaBatchSize)
  • 优化 PostgreSQL 源端增量订阅分区表,自动设置复制标识为 FULL
  • 优化 子账号可查看有权限的任务异常日志以及调度任务
  • 优化 任务默认告警抑制时间调为 5 分钟
  • 优化 配置任务告警的内容展示,使其更简洁、聚焦
  • 优化 Oracle 源端 DDL 同步,过滤 alter table xxx shrink space check 语句
  • 优化 数据校验空字符串与 NULL 视为相等(新增参数 checkEmptyStringEqualToNull;全链路支持 Oracle 源对端默认开启)

问题修复

  • 修复 MySQL -> OceanBase enum 类型设置为 '0' 时同步失败的问题
  • 修复 Kafka -> MariaDB 链路创建任务时提示不支持的问题
  • 修复 系统偏好设置参数后无法撤销的问题
  • 修复 系统偏好点击编辑按钮弹框中取值错误的问题
  • 修复 Docker 版添加机器,任务重启出现僵尸进程的问题
  • 修复 Oracle -> Oracle 链路表中存在联合索引导致数据校验结果有误的问题
  • 修复 PostgreSQL 不支持 vector 数据类型导致任务创建失败的问题
  • 修复 MySQL 对端结构迁移中,对于 text 类型字段的索引创建,如果带有前缀长度则创建普通索引,如果不带则创建全文索引
  • 修复 MySQL 对端结构迁移中,计算表字段总长度,varchar 类型字节数进行调整,防止做过度类型变换 (varchar->text)
  • 修复 OpenGauss / Greenplum 获取元信息报错的问题
  • 修复 Hana 源端全量迁移 Binary / Blob 类型主键为空字符串报错的问题
  • 修复 TiDB 源端增量同步大数据量卡住的问题

免费下载和使用

  • 快速上手:https://www.clougence.com/cc-doc/quick/quick_start


(责任编辑:IT)