天天看点

python实现mysql跨库的表结构和表数据自动同步

准备对某个数据库重要的数据字典表进行变更监控。首先需要更具传入的来源表 进行目标表的自动创建和表数据的同步。

由于代码在内网编写 无法拷出 这里给出核心代码:

查询创建表结构

import pymql
#查询所需同步的表的创建语句 
create_sql  = show create table tablename
#连接需要创建表的数据库  执行创建表语句  生成相同表结构的表
excute(create_sql)
           

自动同步表数据

#查询旧表或者新表的schema信息 获取表的列数
q_res = select count(*)from information_schema.COLUMNS where table_name =tablename
##生成对应列数的一行插入sql语句
str_str = '%s,'*(int(q_res[0][0]-1))+'%s'
insertsql = (insert into table_name values %s) %str_str
##生成来自旧表的需要同步的所有数据的fetchall结果
insert_data = select * form table_name
##调用pymysq的excutemany()方法 传入sql和data参数
excutemany(insertsql,insert_data)
           

此外 还可通过对表schema信息和表数据的比对来查看是否对旧数据表进行了修改 达到监控表数据的目的

这里可以采用集合对象来进行数据比对,非常方便和快捷

对应pymysql查询返回的fetchall()数据 可直接使用

set(search_result) #进行集合对象的转换
           

使用

(set_a | set_b) - (set_a&set_b)
           

来获取两表的不同数据的行数据的集合

也可查询schemainformation中的表的元数据信息来比对结构是否转变