天天看點

MyCat自增主鍵

全局序列号是MyCAT提供的一個新功能,為了實作分庫分表情況下,表的主鍵是全局唯一,而預設的MySQL的自增長主鍵無法滿足這個要求。全局序列号的文法符合标準SQL規範,其格式為:

next value for MYCATSEQ_XXX

MYCATSEQ_XXX 是序列号的名字,MyCAT自動建立新的序列号,免去了開發的複雜度。

另外,MyCAT也提供了一個全局的序列号,名稱為:MYCATSEQ_GLOBAL

注意,MYCATSEQ_必須大寫才能正确識别。

MyCAT溫馨提示:實踐中,建議每個表用自己的序列号,序列号的命名建議為MYCATSEQ _tableName_ID_SEQ。

實作方式主要有三種:本地檔案方式、資料庫方式、本地時間戳算法。

一、本地檔案方式:

1、原理:此方式MyCAT将sequence配置到檔案中,當使用到sequence中的配置後,MyCAT會更新conf中的sequence_conf.properties檔案中sequence目前的值。

2、使用方式:

(1)、配置MyCat的Server.xml

# 其中0,表示使用本地檔案方式。

<system>

    <property name="sequnceHandlerType">0</property>

</system>

(2)、配置sequence_conf.properties  

$ vim mycat/conf/sequence_conf.properties

#default global sequence 全局

GLOBAL.HISIDS=

GLOBAL.MINID=10001

GLOBAL.MAXID=20000

GLOBAL.CURID=10000

# self define sequence 自定義

COMPANY.HISIDS=

COMPANY.MINID=1001

COMPANY.MAXID=2000

COMPANY.CURID=1000

#其中HISIDS表示使用過的曆史分段(一般無特殊需要可不配置),MINID表示最小ID值,MAXID表示最大ID值,CURID表示目前ID值。

# GLOBAL在這裡也可以使用其他的名字,但必須是大寫的;定義以後可以在全局使用。

#可以使用 mysql>select next value for MYCATSEQ_xxx(自定義的名字,這裡就是MYCATSEQ_ GLOBAL); 來檢視下一個自增ID。

設定完成以後重新開機MyCat。

3、測試

mysql>create table test(id int,name varchar(20));

mysql>insert into test(id,name) values(next value for MYCATSEQ_GLOBAL,@@hostname);

mysql> select * from test;

4、優缺點

優點:本地加載,讀取速度較快。

缺點:當 MyCAT 重新釋出後,配置檔案中的 sequence 會恢複到初始值。

二、資料庫方式:

1、原理:

在資料庫中建立一張表,存放sequence名稱(name),sequence目前值(current_value),步長(increment int類型每次讀取多少個sequence,當讀取的increment用完後,

再次讀取increment提高效率,顯然mycat的increment和mysql的increment意義不同)等資訊.

2、Sequence擷取步驟:

 (1)、第一次使用該sequence時,根據傳入的sequence名稱,從資料庫這張表中讀取current_value,和increment到MyCat中,并将資料庫中的current_value設定為原current_value值+increment值(實作方式是基于後續的存儲函數)。

(2)、MyCat将讀取到current_value+increment作為本次要使用的sequence值,下次使用時,自動加1,當使用increment次後,執行步驟1)相同的操作. MyCat負責維護這張表,用到哪些sequence,隻需要在這張表中插入一條記錄即可。若某次讀取的sequence沒有用完,系統就停掉了,則這次讀取的sequence剩餘值不會再使用。

3、使用方式:

(1)、配置Server.xml  , 其中1,表示使用資料庫方式。

    <property name="sequnceHandlerType">1</property>

(2)、設定 sequence_db_conf.properties

 在mycat conf目錄下的sequence_db_conf.properties檔案中添加如下内容:

#sequence stored in datanode

GLOBAL=dn2

DICT=dn2

dn2:表示把表和函數都建在了dn2節點上。

注意:GLOBAL 和DICT必須為大寫。

重新開機MyCat 

(3)、在其中一個分片點對應的資料庫中建立表和存儲函數

因我在schema.xml 中配置的是: <dataNode name="dn$1-4" dataHost="localhost1" database="db$1-4" />

譬如我在dn2中建立,對應的資料庫名為db2(為什麼這裡會涉及到datanode,因為後續的sequence_db_conf.properties檔案會使用到)。

注意,登入到資料庫中建立表和存儲函數,而不是在mycat中建立。   

(3.1)、建立表--  建立MYCAT_SEQUENCE表

DROP TABLE IF EXISTS MYCAT_SEQUENCE;

CREATE TABLE MYCAT_SEQUENCE (

name VARCHAR(50) NOT NULL,

current_value INT NOT NULL,

increment INT NOT NULL DEFAULT 1,

remark varchar(100),  -- remark 并不是必須的,在這裡是為了讓每一個表都對應一個全局的自增,在Remark中配置自增項對應的表名。友善後期維護

PRIMARY KEY(name)) ENGINE=InnoDB;

(3.2)、建立存儲函數1--– 擷取目前sequence的值(傳回目前值,增量)

DROP FUNCTION IF EXISTS `mycat_seq_currval`;

DELIMITER ;;

CREATE DEFINER=`root`@`%` FUNCTION `mycat_seq_currval`(seq_name VARCHAR(50)) RETURNS varchar(64) CHARSET latin1

DETERMINISTIC

BEGIN

DECLARE retval VARCHAR(64);

SET retval="-999999999,null";

SELECT concat(CAST(current_value AS CHAR),",",CAST(increment AS CHAR) ) INTO retval FROM MYCAT_SEQUENCE WHERE name = seq_name;

RETURN retval ;

END

;;

DELIMITER ;

(3.3)、建立存儲函數2-- 擷取下一個sequence值

DROP FUNCTION IF EXISTS `mycat_seq_nextval`;

CREATE DEFINER=`root`@`%` FUNCTION `mycat_seq_nextval`(seq_name VARCHAR(50)) RETURNS varchar(64) CHARSET latin1

UPDATE MYCAT_SEQUENCE

SET current_value = current_value + increment WHERE name = seq_name;

RETURN mycat_seq_currval(seq_name);

(3.4)、建立存儲函數3--設定sequence值

DROP FUNCTION IF EXISTS `mycat_seq_setval`;

CREATE DEFINER=`root`@`%` FUNCTION `mycat_seq_setval`(seq_name VARCHAR(50), value INTEGER) RETURNS varchar(64) CHARSET latin1

SET current_value = value

WHERE name = seq_name;

DELIMITER ; 

在表MYCAT_SEQUENCE中,其中:

–name sequence名稱

–current_value 目前value

–increment增長步長! 可了解為mycat在資料庫中一次讀取多少個sequence. 當這些用完後, 下次再從資料庫中讀取.

注意:MYCAT_SEQUENCE必須大寫。

建立存儲函數:

注意:必須在同一個資料庫中建立,在本例中,是db2。一共要建立三個存儲函數。

–擷取目前sequence的值(傳回目前值,增量)。

4、插入sequence記錄:

-- 插入sequence記錄

INSERT INTO MYCAT_SEQUENCE(name,current_value,increment,remark) VALUES ('DICT', 1, 100,'match:tb_dic');

INSERT INTO MYCAT_SEQUENCE(name,current_value,increment,remark) VALUES ('GLOBAL', 1, 100,'GLOBAL');

-- 代表插入了一個名為mycat的sequence,目前值為1,步長為100。

mysql> select * from mycat_sequence;

+----------------+---------------+-----------+--------------------------------+

| name           | current_value | increment | remark                         |

| DICT           |             1 |       100 | match:tb_dic                   |

| GLOBAL         |           200 |       100 | GLOBAL                         |

至此,資料庫方面的準備工作已結束完畢。

5、開始測試

$ mysql -h127.0.0.1 -utest -ptest -P8066 -DTESTDB

mysql>

create table tb_dic

(

   id                   int not null auto_increment,

   dic_name             varchar(100) not null comment '字典名稱',

   dic_value            varchar(20) not null comment '字典值',

   dic_type             int not null comment '字典類型:如支付方式等',

   primary key (id)

);

# 然後插入值

mysql>  INSERT into tb_dic(id,dic_name,dic_value,dic_type) VALUES(next value for MYCATSEQ_DICT,'支付方式','1',0);

+-----+--------------+-----------+----------+

| id  | dic_name     | dic_value | dic_type |

| 101 | 活動形式      | 2         |        0 |

| 102 | 表單類型      | 2         |        0 |

錯誤處理: 

ERROR 1003 (HY000): mycat sequnce err.org.opencloudb.config.util.ConfigException: can't find definition for sequence :DICT

因為對于sequence_db_conf.properties的修改目前的mycat并不知曉,這時候,可重新開機mycat或者登入9066管理端口進行 reload @@config ;

至此,測試完畢,關鍵還是兩點:MYCAT_SEQUENCE必須大寫,sequence_db_conf.properties檔案中DICT=dn2必須大寫。

三、本地時間戳算法

ID= 64位二進制 (42(毫秒)+5(機器ID)+5(業務編碼)+12(重複累加) 。

換算成十進制為18位數的long類型,每毫秒可以并發12位二進制的累加。

1、配置server.xml

    <property name="sequnceHandlerType">2</property>

2、在mycat下配置:sequence_time_conf.properties

WORKID=0-31 任意整數

DATAACENTERID=0-31 任意整數

每個mycat配置的 WORKID,DATAACENTERID不同,組成唯一辨別,總共支援32*32=1024種組合。

ID示例:56763083475511

四、總結:

1、從MyCAT 1.3開始,支援自增長主鍵,依賴于全局序列号機制,建議采用資料庫方式的全局序列号,并正确設定步長,以免影響實際性能。

首先要開啟資料庫方式的全局序列号,對于需要定義自增長主鍵的表,建立對應的全局序列号,與table名稱同名大寫,

如customer序列名為CUSTOMER,然後再 schema.xml 中對customer表的table元素增加屬性autoIncrement值為true.

<table name=”CUSTOMER” autoIncrement=”true”>

2、應用如何獲得自增主鍵:

MyCAT自增字段和傳回生成的主鍵ID的經驗分享

(1)、mysql本身對非自增長主鍵,使用last_insert_id()不會傳回結果,隻會傳回0.

(2)、mysql隻會對定義自增長主鍵,可以用last_insert_id()傳回主鍵值。

(3)、mycat目前提供了自增長主鍵功能,但是如果對應的mysql節點上資料表,沒有定義auto_increment,那麼在mycat層調用last_insert_id()也是不會傳回結果的。

(4)、資料庫方式正确的使用方式如下:

(4.1)、mysql定義自增主鍵

CREATE TABLE `tt2` (

`id` bigINT(10) UNSIGNED NOT NULL AUTO_INCREMENT, //必須是自增的

`nm` INT(10) UNSIGNED NOT NULL,

PRIMARY KEY (`id`)

) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8

(4.2)、mycat定義自增

[root@test conf]# vim schema.xml

<?xml version="1.0"?>

<!DOCTYPE mycat:schema SYSTEM "schema.dtd">

<mycat:schema xmlns:mycat="http://org.opencloudb/">

<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">

<!-- random sharding using mod sharind rule -->

<!-- autoIncrement="true" 屬性-->

<table name="tt2" primaryKey="id" autoIncrement="true" dataNode="dn1,dn2,dn3,dn4" rule="mod-long" />

<table name="mycat_sequence" primaryKey="name" dataNode="dn1"/>

</schema>

<dataNode name="dn1" dataHost="localhost1" database="db1" />

<dataNode name="dn2" dataHost="localhost1" database="db2" />

<dataNode name="dn3" dataHost="localhost1" database="db3" />

<dataNode name="dn4" dataHost="localhost1" database="db4" />

<dataHost name="localhost1" maxCon="1000" minCon="20" balance="1" writeType="1" dbType="mysql" dbDriver="native">

<heartbeat>select user()</heartbeat>

<writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="123456">

</writeHost>

</dataHost>

</mycat:schema>

(4.3)、mycat對應sequence_db_conf.properties增加相應設定;并在mycat的對應mycat_sequence增加對應記錄。

(4.4)、連接配接mycat,測試結果如下:

127.0.0.1/root:[TESTDB> insert into tt2(nm) values (99);

Query OK, 1 row affected (0.14 sec)

127.0.0.1/root:[TESTDB> select last_insert_id();

+------------------+

| LAST_INSERT_ID() |

| 101 |

1 row in set (0.01 sec)

(4.5)、關于批量插入使用:

A、使用普通的序列号批量插入 :

insert(a,b,c) values(x,x,x),(x,x,x);

b、使用全局序列号批量插入,必須加注解:

/*!mycat:catlet=demo.catlets.BatchInsertSequence */

c、是sharding key 必須包含在列枚舉中,特别是主鍵是自增的時候必須顯示調用:

insert(id,a,b,c) values(next value for MYCATSEQ_ID,x,x,x),(next value for MYCATSEQ_ID,x,x,x);

本文轉自lzf0530377451CTO部落格,原文連結:http://blog.51cto.com/8757576/2054713 ,如需轉載請自行聯系原作者