DM7数据复制之模式级复制

DM 的数据复制可以在表级，模式级和库级进行配置，表级复制因为不能同步DDL，所以必须要求主从段表的结构必须完全一致。本篇我们看下模式级数据复制的配置过程。

下面举一个简单的例子来说明数据复制的配置。

准备工作

参与复制的复制实例的信息如下表所示。

数据库实例名 IP地址数据库端口号 MAL端口号文件目录

复制数据库 jydm 10.10.10.180 5236 5241 /dm_home/dmdba/dmdbms/data/

主数据库 hy 10.10.10.184 5236 5242 /dm_home/dmdba/dmdbms/data/

从数据库 wy 10.10.10.185 5236 5243 /dm_home/dmdba/dmdbms/data/

假设主数据库上存在hy用户，从数据库上存在wy用户，现需要创建一个主数据库上的hy用户到从数据库上wy用户的同步复制关系，其名称为REPHY2WY。

参数设置

修改3台DM数据库的dm.ini 文件，添加如下内容：

数据库 dm.ini 设置

复制数据库 INSTANCE_NAME = jydm

PORT_NUM = 5236

MAL_INI = 1

主数据库 INSTANCE_NAME = hy

从数据库 INSTANCE_NAME = wy

配置dmmal.ini 文件

修改dmmal.ini文件，添加如下内容。Dmmal 配置文件默认没有，可以从示例目录下复制过来修改。

[root@shard1 ini_script]# pwd

/dm_home/dmdba/dmdbms/samples/ini_script

[root@shard1 ini_script]# ls -lrt

总用量 48

-rwxr-xr-x 1 dmdba dinstall 890 2月 14 2019 dmarch_example.ini

-rwxr-xr-x 1 dmdba dinstall 1966 2月 14 2019 dmdcr_cfg_example.ini

-rwxr-xr-x 1 dmdba dinstall 631 2月 14 2019 dmdcr_example.ini

-rwxr-xr-x 1 dmdba dinstall 1537 2月 14 2019 dminit_example.ini

-rwxr-xr-x 1 dmdba dinstall 2070 2月 14 2019 dmmal_example.ini

-rwxr-xr-x 1 dmdba dinstall 1277 2月 14 2019 dmmonitor_example.ini

-rwxr-xr-x 1 dmdba dinstall 288 2月 14 2019 dmmpp_example.ini

-rwxr-xr-x 1 dmdba dinstall 1679 2月 14 2019 dmtimer_example.ini

-rwxr-xr-x 1 dmdba dinstall 1241 2月 14 2019 dmwatch_example.ini

-rwxr-xr-x 1 dmdba dinstall 2146 2月 14 2019 dmwatcher_example.ini

-rwxr-xr-x 1 dmdba dinstall 522 2月 14 2019 dmwmon_example.ini

-rwxr-xr-x 1 dmdba dinstall 636 2月 14 2019 sqllog_example.ini

在每个数据库服务器上创建一个dmmal.ini文件，每个dmmal.ini 配置必须一致:

MAL_CHECK_INTERVAL = 5

MAL_CONN_FAIL_INTERVAL = 5

[MAL_jydm]

MAL_INST_NAME = jydm

MAL_HOST = 10.10.10.180

MAL_PORT = 5241

MAL_INST_PORT = 5236

MAL_INST_HOST = 10.10.10.180

[MAL_hy]

MAL_INST_NAME = hy

MAL_HOST = 10.10.10.184

MAL_PORT = 5242

MAL_INST_HOST = 10.10.10.184

[MAL_wy]

MAL_INST_NAME =wy

MAL_HOST = 10.10.10.185

MAL_PORT = 5243

MAL_INST_HOST =10.10.10.185

[dmdba@shard1 jydm]$ cat dmmal.ini

[dmdba@jydm2 hy]$ cat dmmal.ini

[dmdba@jydm3 wy]$ cat dmmal.ini

对3个数据库都要启用mal_ini参数

SQL> sp_set_para_value(2,'MAL_INI',1);

DMSQL executed successfully

used time: 7.465(ms). Execute id is 23.

复制数据库初始化

如果是第一次使用复制数据库，需要对复制数据库执行初始化操作。通过执行系统函数SP_INIT_REP_SYS(create_flag)来初始化复制数据库。其主要作用是创建复制用户（SYSREP/SYSREP）和创建复制数据库上需要的系统表。SP_INIT_REP_SYS 的参数create_flag为1时表示创建用户和系统表，为0时表示删除用户和系统表。

开始初始化：

SQL> SP_INIT_REP_SYS(1);

used time: 115.960(ms). Execute id is 30.

SQL> conn SYSREP/SYSREP

Server[LOCALHOST:5236]:mode is normal, state is open

SQL> select table_name from user_tables;

LINEID TABLE_NAME

---------- -----------------

1 RPS_GROUPS

2 RPS_INSTANCES

3 RPS_REPLICATIONS

4 RPS_TABMAPS

5 RPS_FAULT_HISTORY

6 RPS_CONFLICTS

7 RPS_TIMERS

7 rows got

used time: 170.443(ms). Execute id is 31.

创建的7张复制系统表如下：

1) 复制组表

CREATE TABLE SYSREP.RPS_GROUPS (

NAME VARCHAR(128), // 复制组名

ID INT, // 复制组ID

DESC$ VARCHAR(1000), // 描述

CLUSTER PRIMARY (NAME)

);

2) 复制节点实例表

CREATE TABLE SYSREP.RPS_INSTANCES(

INST_NAME VARCHAR(128), // 复制节点实例名

GRP_ID INT, // 复制组ID

INST_ID INT, // 实例在复制组中编号

FAULT_TIMEOUT INT, // 故障超时处理值，以秒为单位，0为立即超时

VALID_FLAG CHAR(1), // 节点系统状态

FAULT_TIME DATETIME, // 节点故障开始时间

NET_VALID_FLAG CHAR(1), // 网络状态

NET_FAULT_TIME DATETIME, // 网络故障开始时间

CLUSTER PRIMAY KEY(GRP_ID, INST_NAME)

3) 复制关系表

CREATE TABLE SYSREP.RPS_REPLICATIONS(

REP_NAME VARCHAR(128), // 复制名

REP_ID INT, // 复制ID，全局唯一

MINST_ID INT, // 主节点实例编号

SINST_ID INT, // 从节点实例编号

ARCH_DIR VARCHAR(256), // 主节点归档日志路径

VALID_FLAG CHAR(1), // 复制关系状态

FAULT_TIME DATETIME, // 故障开始时间

SYNC_FLAG INTEGER //指定同步或异步复制

TIMER_NAME VARCHAR(128) //指定异步复制的定时器（同步复制没有此项）

DESC$ VARCHAR(1000), // 复制描述

CLUSTER PRIMARY KEY(GRP_ID, REP_NAME)

4) 复制映射表

CREATE TABLE SYSREP.RPS_TABMAPS(

REP_ID INT, //复制ID

MSCH_NAME VARCHAR(128), //主表模式名

MTAB_NAME VARCHAR(128), //主表名

MSCH_ID INT, //主表模式ID

MTAB_ID INT, //主表ID

SSCH_NAME VARCHAR(128), //从表模式名

STAB_NAME VARCHAR(128), //从表名

SSCH_ID INT, //从表模式ID

STAB_ID INT, //从表ID

READONLY_MODE INT, //映射模式1:只读模式，0：非只读模式

CLUSTER PRIMARY KEY(REP_ID, MTAB_ID, STAB_ID)

5) 复制故障历史表

CREATE TABLE SYSREP.REP_FAULT_HISTORY(

GRP_NAME VARCHAR(128), // 复制组

OBJ_NAME VARCHAR(128), // 故障节点或关系

FAULT_TYPE VARCHAR(128), // 故障类型描述

START_TIME DATETIME, // 故障开始时间

END_TIME DATETIME // 故障结束时间

6) 复制冲突历史表

CREATE TABLE SYSREP.RPS_CONFLICTS

(

SEQ_NO BIGINT // 冲突序号

REP_ID INT, // 对应复制号

INST_ID INT, // 产生冲突的节点编号

TABLE_ID INT, // 冲突表ID

TYPE TINYINT // 操作类型

OCC_TIME DATETIME, // 冲突产生时间

KEY_DATA VARCHAR(8000), // 冲突数据的PK值，如包含多个KEY值，则以逗号分隔。如键值超长则截断

7) 复制定时器表

CREATE TABLE SYSREP.RPS_TIMERS (

NAME VARCHAR(128), // 定时器名称

TYPE$ INT, // 定时类型，取值可参见SP_RPS_CREATE_TIMER

FERQ_INTERVAL INT, // 间隔天数

FREQ_SUB_INTERVAL INT, // 间隔的月/周（调度类型决定）数

FREQ_MINUTE_INTERVAL INT, // 间隔的分钟数

START_TIME TIME, // 开始时间

END_TIME TIME, // 结束时间

DURING_START_DATE DATETIME // 开始时间点

DURING_END_DATE DATETIME, // 结束时间点

NO_END_DATA_FLAG INTEGER //是否有结束日期（0：有结束日期；1：没有结束日期）

DESC$ VARCHAR(1000), // 定时器描述

CLUSTER PRIMARY KEY(REP_NAME)

配置模式级复制

启动3台服务器，启动的顺序不分先后。

[root@shard1 jydm]# systemctl stop DmServicejydm.service

[root@shard1 jydm]# systemctl start DmServicejydm.service

[root@jydm2 ~]# systemctl stop DmServicehy.service

[root@jydm2 ~]# systemctl start DmServicehy.service

[root@jydm3 ~]# systemctl stop DmServicewy.service

[root@jydm3 ~]# systemctl start DmServicewy.service

登录复制数据库(RPS jydm)，保证服务器状态为OPEN，开始复制配置。

[dmdba@shard1 bin]$ ./disql sysdba/abcd

disql V7.1.6.46-Build(2018.02.08-89107)ENT

Connected to: DM 7.1.6.46

创建复制组REP_GRP_hy2wy

SQL> SP_RPS_ADD_GROUP('REP_GRP_hy2wy', '主从同步复制');

used time: 6.109(ms). Execute id is 55.

SQL> select * from SYSREP.RPS_GROUPS;

LINEID NAME ID DESC$

---------- ------------- ----------- ------------

1 REP_GRP_hy2wy 2 主从同步复制

used time: 1.182(ms). Execute id is 56.

开始设置

SQL> SP_RPS_SET_BEGIN('REP_GRP_hy2wy');

used time: 0.530(ms). Execute id is 57.

添加复制关系

SQL> SP_RPS_ADD_REPLICATION ('REP_GRP_hy2wy', 'REPhy2wy', 'hy到wy的同步复制', 'hy', 'wy', NULL, '/dm_home/dmdba/dmdbms/dmreplog');

used time: 2.623(ms). Execute id is 58.

添加模式级复制

添加复制映射, 注意这里用户名和表名要大写，否则会提示对象不存在

SQL> SP_RPS_ADD_SCH_MAP('REPhy2wy','hy','wy',0);

SP_RPS_ADD_SCH_MAP('REPhy2wy','hy','wy',0);

used time: 1.738(ms). Execute id is 0.

SQL> SP_RPS_ADD_SCH_MAP('REPhy2wy','HY','WY',0);

used time: 3.126(ms). Execute id is 6.

提交设置

SQL> SP_RPS_SET_APPLY();

used time: 00:00:05.041. Execute id is 7.

SQL> select * from SYSREP.RPS_REPLICATIONS;

LINEID REP_NAME GRP_ID REP_ID MINST_ID SINST_ID ARCH_DIR FAULT_TIMEOUT VALID_FLAG FAULT_TIME SYNC_FLAG TIMER_NAME DESC$

---------- -------- ----------- ----------- ----------- ----------- ------------------------------ ------------- ----------- --------------------------- ----------- ---------- ----------------

1 REPhy2wy 2 3 5 6 /dm_home/dmdba/dmdbms/dmreplog -1 0 NULL 1 NULL hy到wy的同步复制

used time: 1.362(ms). Execute id is 8.

SQL> select * from SYSREP.RPS_INSTANCES;

LINEID INST_NAME GRP_ID INST_ID FAULT_TIMEOUT VALID_FLAG FAULT_TIME NET_VALID_FLAG NET_FAULT_TIME

---------- --------- ----------- ----------- ------------- ----------- --------------------------- -------------- ---------------------------

1 hy 2 5 -1 0 NULL 0 NULL

2 wy 2 6 -1 0 NULL 0 NULL

used time: 0.981(ms). Execute id is 9.

SQL> select * from SYSREP.RPS_TABMAPS;

LINEID REP_ID MSCH_NAME MTAB_NAME MSCH_ID MTAB_ID SSCH_NAME STAB_NAME SSCH_ID STAB_ID READONLY_MODE

---------- ----------- --------- --------- ----------- ----------- --------- --------- ----------- ----------- -------------

1 3 HY NULL 150995951 -1 WY NULL 150995951 -1 0

used time: 1.178(ms). Execute id is 10.

SQL>

至此，模式级复制配置完成。注意一点，DM的复制配置必须在开始复制配置之前执行SP_RPS_SET_BEGIN，配置完成之后执行SP_RPS_SET_APPLY提交。

验证同步

先测试DML操作：在主库insert 数据：

SQL> insert into t1 values(1,'hy1');

affect rows 1

used time: 1.565(ms). Execute id is 6.

SQL> commit;

executed successfully

used time: 1.442(ms). Execute id is 7.

SQL> select * from t1;

LINEID ID USERNAME

---------- -- --------

1 1 hy1

used time: 0.548(ms). Execute id is 8.

从库查询，同步成功：

used time: 2.538(ms). Execute id is 5.

在主库上的hy用户下创建一个测试表t2

SQL> create table t2 as select * from sysobjects;

used time: 12.763(ms). Execute id is 6.

SQL> select count(*) from t2;

LINEID COUNT(*)

---------- --------------------

1 1480

used time: 1.266(ms). Execute id is 7.

在从库上的wy用户查询这个表t2

used time: 0.463(ms). Execute id is 8.

可以看到创建表的DDL语句已经同步到wy用户下。

因为我这里的复制从库是0级，就是非只读的，删除后重新添加1级，即只读模式在测试：

used time: 0.408(ms). Execute id is 12.

SQL> SP_RPS_DROP_SCH_MAP('REPhy2wy','HY','WY');

used time: 1.456(ms). Execute id is 13.

SQL> SP_RPS_ADD_SCH_MAP('REPhy2wy','HY','WY',1);

used time: 2.820(ms). Execute id is 14.

used time: 00:00:05.039. Execute id is 15.

再测试

从主库的hy用户中创建表t3

SQL> create table t3 as select * from sysobjects;

used time: 9.925(ms). Execute id is 9.

SQL> select count(*) from t3;

used time: 0.861(ms). Execute id is 10.

在从库上的wy用户下查询表t3显示不存在

select count(*) from t3;

Invalid table or view name [T3].

used time: 0.774(ms). Execute id is 0.

从测试结果可以看到在只读模式下的模式级复制不能同步DDL操作。

DM7数据复制之模式级复制

继续阅读

set define off关闭替代变量功能

报错：'mysql' 不是内部或外部命令，也不是可运行的程序或批处理文件。

Linxu常用命令技巧汇总

ERROR 1 (HY000): Can't create/write to file '/tmp/#sql_4188_1.MYI' (Errcode: 28)

艰难安装LDAP,SSL认证

《Linux命令行与Shell脚本编程大全第2版.布卢姆》pdf

MySQL的4种隔离级别？出现问题

XX系统实施过程问题总结

无组件上传图片到数据库中，最完整解决方案

【MySQL数据库】数据库索引事务1.索引2.事务

neo4j之cypher使用文档

NOSQL安全攻击

mybatis_入门程序Mybatis入门

登录plsql 报错 the account is locked --用户被锁

sqlServer根据经纬查距离

SequoiaDB巨杉数据库C++驱动概述