|
在这个数据驱动的大模型时代，数据集成的作用和意义愈发重要。数据不仅仅是信息的载体，更是推动企业决策和创新的关键因素。作为全球最流行的批流一体数据集成工具，WhaleTunnel 随着 WhaleStudio 2.6 版本正式发布，带来了多项功能增强和新特性，性能大幅提升，连接器和功能方面也有大量更新。 上周，关于数据调度平台 WhaleScheduler 的更新状况在 《WhaleStudio 2.6 重磅发布！调度模块 WhaleScheduler 更新 78 项核心功能》中已有介绍，点击链接了解详情。 WhaleTunnel WhaleTunnel 是基于白鲸开源主导的 Apache SeaTunnel 之上精心打磨的商业级的数据集成工具，拥有数据传输速度快、准确率高、稳定性强等技术特点，帮助企业完成内部 EtLT 中数据集成 EtL 部分，支持百余种连接器类型，满足用户离线全量同步、离线增量同步、实时增量同步、变化数据捕捉（即 CDC）、数据库同步备份等需求。快速产品以代码形式面向数据开发工程师以及任何需要数据集成服务的用户，同时也提供可视化拖拽界面给数据科学家、数据分析师、产品经理等业务用户，支持全流程可视化的任务定义、调用、监控和管理。 数据源更新 (部分) 2.6 版本新增了多种数据源，数据源支持数量已经达到了 188 个，部分增加的数据源如下： 信创 ARM CPU 优化 在 WhaleTunnel 2.6 版本当中，Zeta Engine 针对以 ARM 内核的 CPU 进行了引擎层面的深度优化，性能提升数倍（相关性能 POC 报告后续发布）。 内存映射文件和零拷贝技术： 为了最大限度地减少 I/O 开销，Zeta Engine 采用了内存映射（mmap）技术和零拷贝（zero-copy）技术，直接在内存中操作文件数据。这样不仅加快了数据处理速度，还降低了系统资源的消耗。 内存对齐：Zeta Engine 确保数据结构在内存中的对齐性，有效减少了内存访问的开销。内存对齐优化不仅提高了内存访问的效率，还提升了数据处理的整体性能。 高效算法： Zeta Engine 使用了适合 ARM 架构的高效算法，减少不必要的计算和数据移动。通过高效的排序和过滤算法，显著提升数据转换和处理的效率。Zeta Engine 算法优化确保了在数据密集型任务中，系统能够保持卓越的性能。 多核架构利用： Zeta Engine 充分利用 ARM CPU 的多核架构，将 ETL 任务分解为更小的任务，进行多线程或多进程并行执行。通过并行化处理，显著缩短了数据处理的时间，提升了系统的吞吐量。 数据模型及自动建表能力加强 自动建表、已有数据处理： 除了文件类型的数据源外，所有数据源现支持自动建表。无论是已有表结构还是已有数据处理，WhaleTunnel 都能轻松应对。同时，目标端支持自定义表名策略。无需手动处理复杂的表结构，极大地减少了数据集成的时间和人工成本。 2. 数据模型推演： 在任务保存时自动触发，自动检查 source、transform、sink 中的配置是否合法；在任务重同步表发生表结构变化时，检查其变化可能导致的配置项非法问题。确保数据流的稳定性和一致性，减少因配置错误导致的数据同步失败。在运行数据集成任务之前，就可以自动识别潜在的问题并提前修复。 3. 数据类型自动映射： 数据源到目标端的数据类型自动映射。自动适配不同的数据类型，减少手动调整的麻烦。从不同数据库迁移数据时，无需担心类型不匹配的问题。 与 WhaleScheduler 全面集成 增量同步和参数传递： WhaleTunnel 与 WhaleScheduler 紧密集成，根据调度中的日历、业务日期（牌）以及上下游参数进行增量同步或者参数传递来进行数据内容控制，进一步提高数据同步的灵活性和准确性。例如，在券商监管报表生成时，能够自动获取符合上报规则交易日期的数据，确保数据的准确性。 2. 独立同步调度任务组件： WhaleTunnel 拥有独立的 CDC 实时调度组件和批量调度组件，可以在 WhaleScheduler 成为独立任务组件被上下游进行触发等工作，实现更灵活的任务调度和管理。在数据集成之后，进行相关数据加工，或者自定义微批任务，实现微批任务的串行等待等。 3. 增量数据参数传递： 离线全量 Source 支持根据自定义 where 条件读取，可以使用调度传递的参数变量实现 ** 增量数据参数传递，** 精准控制数据同步范围，实现增量 / 批量 / 微批的多场景控制，提升整体数据批量和 CDC 实时处理能力。 加强可观测性与监控告警 离线同步新增支持失败、超时告警， 提前预警潜在问题，减少数据同步失败带来的影响。举例来说，在夜间批处理任务中，能够及时发现并处理异常，确保数据同步的顺利进行。 2. 实时同步新增失败告警、实时同步新增 DDL 变更事件告警：实时监控数据同步状态，快速响应和处理异常情况。例如，电商平台可以及时发现和修正订单数据同步中的问题，确保业务的连续性，可以让用户快速收到 DDL 变更情况，从而更早的手工干预。 通过虚拟表支持非结构化数据可视化转化 文件数据源： 新增支持 CSV 文件类型以压缩格式读写，支持读取时跳过表头和写入时写入表头设置，支持新的文件格式：DBF, Debezium-Json， 更灵活地处理不同格式的文件数据，提高数据导入导出的效率。 No-SQL 数据源支持： 创建虚拟表时支持配置主键，且 sink 自动建表时使用该主键建表，提高数据一致性和查询效率。例如，在处理 NoSQL 数据时，可以更好地管理和索引数据。 3. 虚拟表支持设置索引 4. HTTP 数据源虚拟表优化： 优化数据源和虚拟表配置，token、路径、请求参数等支持填写参数变量，更灵活地集成和管理 HTTP 数据源，提高数据获取的灵活性和效率。 CDC 同步增强功能 唯一索引表同步： CDC 同步源表现支持拥有唯一索引的表同步，确保数据的唯一性和完整性。例如，在用户信息同步时，可以确保用户 ID 的唯一性，避免数据重复和冲突。 无主键表同步： CDC 同步源表支持无主键表的同步，提供更广泛的数据同步支持，适应更多样化的数据库设计。例如，在某些历史数据表中，可能没有主键的设计，但仍然可以实现高效的数据同步。 小结 WhaleTunnel 2.6 版本功能非常强大，涵盖了从数据模型设计、自动化建表，到高效的数据同步和监控告警，以及多样化的数据源支持。无论您的数据集成需求是简单的数据传输还是复杂的实时分析，WhaleTunnel 都能为您提供定制化的解决方案，帮助您实现数据驱动的业务成功。 我们期待与您一同迎接数据集成的新时代！如果您对 WhaleTunnel 2.6 版本有任何疑问或想了解更多信息，请随时联系我们的客户服务团队。感谢您对 WhaleTunnel 的信任和支持！ 白鲸开源 白鲸开源是一家开源原生的 DataOps 商业公司，是国家高新技术企业，由多个 Apache Foundation Member 成立，80% 员工都是 Apache Committer，运营 2 个全球 Apache 开源项目 (DolphinScheduler, SeaTunnel）。白鲸开源已根据全球最佳实践发布商业版产品 WhaleStudio (含白鲸数据调度平台 WhaleScheduler 和白鲸数据集成平台 WhaleTunnel）。我们致力于打造下一代开源原生的 DataOps 平台，助力企业在大数据和云时代，智能化地完成多数据源、多云及信创环境的数据集成、调度开发和治理，以提高企业解决数据问题的效率，提升企业分析洞察能力和决策能力。 联系方式 公司网站: www.whaleops.com 联系邮箱: service@whaleops.com 如果您希望深入了解我们的其他功能，或者讨论如何将 WhaleStudio 与你的业务流程相结合，我们非常愿意为你提供帮助。欢迎您首先试用白鲸调度系统（WhaleScheduler），开始您的大数据之旅。 (责任编辑：IT) |