网站建设资讯

NEWS

网站建设资讯

Kettle:Oracle多表格批量同步数据=》mysql

Oracle 多表格批量同步数据=》MySQL

站在用户的角度思考问题,与客户深入沟通,找到凤阳网站设计与凤阳网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:网站建设、成都做网站、企业官网、英文网站、手机端网站、网站推广、域名注册、虚拟空间、企业邮箱。业务覆盖凤阳地区。

场景

多张Oracle表格,通过轮询自动同步数据到mysql。

避免每个Oracle表格数据=》mysql都做一个转换,产生大量转换,难以管理和调整。

主要通过kettle变量,循环,字段名自动匹配,以及Oracle、mysql数据字典来实现。

初步完成Oracle表格=》mysql的初始化同步,后续增加增量同步,DDL同步,异常处理操作。


基本步骤

1. 在mysql里查找test库下有哪些表格,输出到结果记录

2. 从结果记录里面每次取一行,设置变量

3. 针对每次使用的变量值,去oracle数据源里生成对应的表输入(通过变量生成)

4. 把变量赋给表输出组件的表名

5. 表输出其他内容不做制定,因为表名和字段都和源端oracle是一样的

6. 针对每个“输出到结果记录”做循环,插入每个oracle表格数据到mysql

 

总体流程

Kettle:Oracle多表格批量同步数据=》mysql

步骤1:Tables in mysql(Job)

Kettle:Oracle多表格批量同步数据=》mysql

步骤2:insert into mysql(Job)

Kettle:Oracle多表格批量同步数据=》mysql

步骤2.1 set tablename(tranfomation)

Kettle:Oracle多表格批量同步数据=》mysql

步骤2.2:insert data into mysql(tranfomation)

  Kettle:Oracle多表格批量同步数据=》mysql

后续问题:

l    如何做增量的数据迁移

1.        针对oracle这端有时间字段的表格

2.        记录每次迁移的系统时间

3.        增量时间是》上次系统时间 and 《本次系统时间

每张表格时间字段名字可能不一样

所以要维护一张表格时间字段记录(表名,时间字段名)

4.        每次生成表输入时,也参照生成表名变量的方式,获取时间字段名,用在表输入的sql里

5.        表输出这端,会复杂一些,包括删除、插入、更新等等操作

l    无时间字段或流水号的表格同步

l   如何做DDL同步:

1.       获取Oracle和mysql的数据字典

2.       比较表名和字段名

3.       比较字段数据类型

4.       注意数据类型映射(如oracle的varchar2《=》MySQL的varchar,oracle的data《=》MySQL的timestamp)

5.       Mysql端的表格和字段同步


网页标题:Kettle:Oracle多表格批量同步数据=》mysql
文章来源:http://cdweb.net/article/jsdcog.html