天天看點

oracle streams技術詳解

Stream 是Oracle 的消息隊列(也叫Oracle Advanced Queue)技術的一種擴充應用。 Oracle 的消息隊列是通過釋出/訂閱的方式來解決事件管理。流複制(Stream replication)隻是基于它的一個資料共享技術,也可以被用作一個可靈活定制的高可用性方案。 它可以實作兩個資料庫之間資料庫級,schema級,Table級的資料同步,并且這種同步可以是雙向的。 Oracle Stream也是通過資料備援來提高可用性,這一點和Data Guard 類似。

Oracle 進階複制(Oracle advanced Replication) 和流複制(Stream Replication) 是從名稱和功能上都相似的兩種技術。 但前者是基于觸發器的,後者是基于日志挖掘(Logminer)技術。

1. Stream 的工作原理

Stream 是Oracle Advanced Queue技術的一種擴充應用,這種技術最基本的原理就是收集事件,把事件儲存在隊列中,然後把這些事件釋出給不同的訂閱者。從DBA的角度來說,就是把捕獲Oracle資料庫産生的Redo日志,然後把這些日志通過網絡傳播到多個資料庫,其他資料庫通過應用這些日志,達到複制變化的作用。 

在Stream 環境下,複制的起點資料庫叫作Source Database,複制的終點資料庫叫作Target Database。在這兩個資料庫上都要建立一個隊列,其中的Source Database上的是發送隊列,而Target Database上的是接收隊列。

資料庫的所有操作都會被記錄在日志中。配好Stream環境後,在Source Database上會有一個捕獲程序(Capture Process),該程序利用Logminer技術從日志中提取DDL,DML語句,這些語句用一種特殊的格式表達,叫作邏輯變更記錄(Logical Change Record, 

LCR).一個LCR對應一個原子的行變更,是以源資料庫上的一個DML語句,可能對應若幹個LCR記錄。這些LCR會儲存到Sourece Database的本地發送隊列中。然後傳播程序(Propagation Process)把這些記錄通過網絡發送到Target Database的接收隊列。 在Target Database上會有一個應用程序(Apply Process), 這個程序從本地的接收隊列中取出LCR記錄,然後在本地應用,實作資料同步

2.  Data Guard 和Stream 差別

Date Guard有兩種類型:physical standby 和 logical standby。 這兩中standby 都有3個功能子產品: 日志傳送;日志接收,日志恢複。兩種standby在前兩個子產品中是一樣的,都是通過LGWR或者ARCn程序發送日志,通過RFS程序接受日志。 差別在第三個子產品:

Physical Standby 使用的是Media Recovery技術直接在資料塊級别進行恢複, 是以Physical Standby 能夠做到兩個資料庫的完全同步, 沒有資料類型限制。 

Logical Standby實際是通過Logminer技術,把日志中的記錄還原成SQL語句,然後通過Apply Engine 執行這些語句實作資料同步, 是以Logical Standby不能保證資料的完全一緻。 比如Logical Standby 不支援某些資料類型,這一點在選擇Logical Standby時必須要考慮. Logical Standby 不支援的資料類型可以從DBA_LOGSTDBY_UNSUPPORTED是不裡檢視.

    SQL>SELECT * FROM DBA_LOGSTDBY_UNSUPPORTED;

Stream 使用的是Logical Standby 第三個子產品,也就是在Source Database一端,Capture 程序利用Logminer 技術把日志内容還原成LCR, 然後發送到Target Database, 而在Target database 一端, 也是通過Apply Engine 執行這些LCR。 是以Stream在使用上也有些限制條件。這些可以從視圖ALL/DBA_STREAMS_NEWLY_SUPPORTED,  ALL/DBA_STREAMS_UNSUPPORTED 檢視stream複制不支援的資料類型。

 SQL>SELECT table_name, reason FROM ALL_STREAMS_NEWLY_SUPPORTED;

 SQL>SELECT table_name, reason FROM DBA_STREAMS_NEWLY_SUPPORTED;

 SQL>SELECT table_name, reason FROM DBA_STREAMS_UNSUPPORTED;

 SQL>SELECT table_name, reason FROM ALL_STREAMS_UNSUPPORTED;

下面以圖表的形式列舉他們的差別:

Streams

Data Guard

主要目的是資料共享

主要目的是災難恢複和高可用性

可以多方向同步

隻能是單向,從Primary--> Standby

資料粒度可以是資料庫,Schema,Table三個級别

隻有資料庫級别

支援異種平台的同步(Heterogeneous Platforms)

必須同種平台 (Homogeneous Platforms)

參與複制的每個資料庫可以讀寫

隻有Primary可以讀寫,Standby 隻讀

支援Oracle 和非Oracle 資料庫間的同步

隻能是Oracle資料庫間

3. 前期規劃的幾點:

   1). 确定複制集:如是資料庫級還是表級

   2). 決定複制站點

   3). 決定LCR是本地捕獲還是下遊捕獲

        本地捕獲: 在源資料庫進行,從聯機日志和歸檔日志獲得LCR

        下遊捕獲:在目标資料庫進行,從歸檔日志獲得LCR. 

      本地捕獲可以保護更多的資料,但是會占用源資料庫的資源。

   4). 決定複制拓撲結構:這時要決定複制資料庫的用途,是隻用于預防災難,還是平時保持空閑,或允許使用者使用。

4. Streams Replication 執行個體

4.1 準備工作:

DBA是源資料庫, DBA2是目标資料庫

4.1.1 源資料庫和目标資料庫必須是歸檔的

SQL> startup mount;

SQL> alter database archivelog;

SQL> alter database open;

SQL> archive log list

歸檔與非歸檔的切換請參考:

<a target="_blank" href="http://blog.csdn.net/tianlesoftware/archive/2009/10/18/4693470.aspx">http://blog.csdn.net/tianlesoftware/archive/2009/10/18/4693470.aspx</a>

或者

http://user.qzone.qq.com/251097186/blog/1236924069

4.1.2. 源資料庫和目的資料庫均需要設定的參數:

alter system set global_names=true scope = both;

預設為false,  Database Link 使用的是資料庫的global_name。 

alter system set aq_tm_processes=2 scope=both;

以下參數都是10G的預設值, 檢查下就可以了. 無需設定

如:Show parameter job_queue_processes 

alter system set job_queue_processes = 10 scope=both;

alter system set sga_target = 300m scope=spfile;

alter system set open_links=4 scope=spfile;

alter system set statistics_level='TYPICAL' scope=both;

10g 預設為Typical, 性能統計模式

alter system set logmnr_max_persistent_sessions=1 scope=spfile;

10g 預設為1,持久的日志挖掘會話數。

alter system set "_job_queue_interval"=1 scope=spfile;

alter system set aq_tm_processes=1;

alter system set streams_pool_size=200m scope=both;

注意streams_pool_size一定要夠大,因為如果啟用了SGA_TARGET,ORACLE可能配置設定很少記憶體給stream導緻大量資訊被spill到磁盤導緻查詢DBA_APPLY,DBA_CAPTURE,DBA_PROPGATION全部狀态ENABLED但就是沒有資料被同步。

同時設定_job_queue_interval也是為了提高隊列檢查時間,防止apply出問題。

注意:與複制有關的2個參數:

如果等了足夠長的時間發現資料沒有複制過來,仔細檢查了capture/propagation/apply各程序的狀态都是正常的, 并檢查參數.

并且将aq_tm_processes參數改為1(我原來這是為10)

改完後重新開機,發現資料就可以去了。這個隐含參數隻是控制對job隊列的檢查頻率,預設5秒。

4.1.3 . 在源資料庫上啟用追加日志 

可以基于Database級别或Table級别,啟用追加日志(Supplemental Log)。在建立根據Schema粒度進行複制的Oracle Stream環境中,如果确認Schema下所有Table都有合理的主鍵(Primary Key),則不再需要啟用追加日志。 

#啟用Database 追加日志 

alter database add supplemental log data; 

#啟用Table追加日志 

alter table add supplement log group log_group_name(table_column_name) always; 

4.1.4 . 源資料庫和目的資料庫建立相同表空間和使用者并賦權

建立表空間:

CREATE TABLESPACE streams_tbs DATAFILE 'D:/ORACLE/ORADATA/DBA/streams_tbs.dbf' SIZE 100M REUSE AUTOEXTEND ON MAXSIZE UNLIMITED;

CREATE TABLESPACE streams_tbs DATAFILE 'D:/ORACLE/ORADATA/DBA2/streams_tbs.dbf' SIZE 100M REUSE AUTOEXTEND ON MAXSIZE UNLIMITED;

建立使用者:

CREATE USER strmadmin IDENTIFIED BY strmadmin DEFAULT TABLESPACE streams_tbs

QUOTA UNLIMITED ON streams_tbs;

賦權:

GRANT DBA to strmadmin;   /* 10g要求dba角色以簡化配置 */

exec DBMS_STREAMS_AUTH.GRANT_ADMIN_PRIVILEGE('strmadmin'); /* 賦予流管理特權 */

4.1.5 配置listener.ora和tnsnames.Ora

DBA2 =

  (DESCRIPTION =

    (ADDRESS = (PROTOCOL = TCP)(HOST = 10.85.10.80)(PORT = 1521))

    (CONNECT_DATA =

      (SERVER = DEDICATED)

      (SERVICE_NAME = DBA2.anqingren.org)

    )

  )

4.1.6 建立DBLink

先用strmadmin登陸,在建立dblink

4.1.6.1在源端建到目庫的db link 

SQL&gt; conn strmadmin/strmadmin;

已連接配接。

SQL&gt; create database link DBA2 connect to strmadmin identified by strmadmin using 'dba2';

資料庫連結已建立。

測試:

SQL&gt; select * from global_name@dba2;

GLOBAL_NAME

-------------------

DBA2.ANQINGREN.ORG

4.1.6.2 在目端建到源庫的db link

SQL&gt; create database link dba connect to strmadmin identified by strmadmin using 'dba';

4.2  使用者級的複制(不支援sys和system使用者)

4.2.1 最初的使用者複制

分别在源庫和目标資料庫上建立測試使用者

SQL&gt;create user dave identified by dave;

SQL&gt;grant dba to dave;

4.2.1 在源資料庫上建立Source 隊列

connect  strmadmin/strmadmin@dba;

BEGIN                                                                                                                          

 DBMS_STREAMS_ADM.SET_UP_QUEUE(                                                                                            

         queue_table =&gt; 'SOURCE_QUEUE_TABLE',             --隊清單                                                                  

         queue_name  =&gt; 'SOURCE_QUEUE',                --隊列                                                                     

         queue_user  =&gt; 'strmadmin');                  --隊列使用者                                                                   

END;                                   

/     

或者:

SQL&gt; EXEC DBMS_STREAMS_ADM.SET_UP_QUEUE();

PL/SQL procedure successfully completed.

該指令會建立一個隊列預設名:streams_queue,隊清單預設是:STREAMS_QUEUE_TABLE

隊列存儲的object類型是anaydata

移除隊列:

exec dbms_streams_adm.remove_queue(

queue_name =&gt; 'streams_queue',

cascade =&gt; true,

drop_unused_queue_table =&gt; true);. 

可以用查詢dba_queues,dba_queue_tables來檢查:

SQL&gt;  select owner,queue_table,name from dba_queues where owner='STRMADMIN';

OWNER               QUEUE_TABLE              NAME

----------------- ------------------------- ------------------

STRMADMIN          SOURCES_QUEUE_TABLE        SOURCES_QUEUE

STRMADMIN          SOURCES_QUEUE_TABLE        AQ$_SOURCES_QUEUE_TABLE_E

SQL&gt;select owner,queue_table,object_type from dba_queue_tables where owner='STRMADMIN';

OWNER            QUEUE_TABLE           OBJECT_TYPE

-------------- --------------------- ------------------

STRMADMIN       SOURCES_QUEUE_TABLE     SYS.ANYDATA

4.2.2 在目标資料庫DBA2上建立接收隊列   

connect  strmadmin/strmadmin@dba2;

         queue_table =&gt; 'TARGET_QUEUE_TABLE',             --隊清單                                                                  

         queue_name  =&gt; 'TARGET_QUEUE',                --隊列                                                                     

/    

OWNER               QUEUE_TABLE             NAME

------------------ ---------------------  ----------------

STRMADMIN           TARGET_QUEUE_TABLE    TARGET_QUEUE

STRMADMIN           TARGET_QUEUE_TABLE    AQ$_TARGET_QUEUE_TABLE_E

4.2.3 在源資料庫上建立capture 程序

SQL&gt;conn strmadmin/strmadmin@DBA;

SQL&gt; BEGIN

    DBMS_STREAMS_ADM.ADD_SCHEMA_RULES(

      schema_name     =&gt; 'dave',    -- 使用者名,如dave, 非sys或者system

      streams_type      =&gt; 'capture',

      streams_name     =&gt; 'capture_stream',

      queue_name       =&gt; 'strmadmin.SOURCE_QUEUE',

      include_dml       =&gt; true,

      include_ddl        =&gt; true,

     source_database =&gt; 'DBA',

 include_tagged_lcr =&gt; false,

     inclusion_rule     =&gt; true);

 END;

 /

可以通過dba_capture檢視:

SQL&gt; select CAPTURE_NAME,QUEUE_NAME,START_SCN,STATUS,CAPTURE_TYPE from dba_capture;

CAPTURE_NAME     QUEUE_NAME       START_SCN  STATUS   CAPTURE_TY

-------------------------    ----------------------------  ----------      --------------  ----------------

CAPTURE_STREAM1  SOURCES_QUEUE    1294052     DISABLED  LOCAL

SQL&gt; select * from  ALL_CAPTURE_PREPARED_SCHEMAS;  

SCHEMA_NAME  TIMESTAMP   SUPPLEME  SUPPLEME SUPPLEME SUPPLEME

--------------------    --------------    -------- --------  --------       --------

SYSTEM         20-10月-09     IMPLICIT  IMPLICIT    IMPLICIT   NO

4.2.4 在源資料庫上建立傳播程序            

 DBMS_STREAMS_ADM.ADD_SCHEMA_PROPAGATION_RULES(

 schema_name                =&gt; 'dave', 

 streams_name               =&gt; 'source_to_target', 

 source_queue_name          =&gt; 'strmadmin.SOURCE_QUEUE',

 destination_queue_name    =&gt; 'strmadmin.TARGET_QUEUE@DBA2', --此隊列待建立

 include_dml               =&gt; true,

 include_ddl               =&gt; true,

 source_database           =&gt; 'DBA',

 inclusion_rule            =&gt; true,

 queue_to_queue            =&gt; true);

重新啟動propagation process

 --dbms_propagation_adm.start_propagation (propagation_name)

 --其中propagation_name可以從表all_propagation中取得

 select * from all_propagation; 

 SQL&gt;  exec dbms_propagation_adm.start_propagation('source_to_target');

  exec dbms_propagation_adm.stop_propagation('source_to_target');

    PL/SQL procedure successfully completed.

select * from all_propagation; 

可以通過dba_propagations檢視結果:

SQL&gt; select PROPAGATION_NAME,SOURCE_QUEUE_NAME,DESTINATION_QUEUE_NAME,DESTINATION_DBLINK,STATUS from dba_propagation;

PROPAGATION_NAME   SOURCE_QUEUE_NA DESTINATION_QUE DESTINATION_DBLINK STATUS

------------------ --------------- --------------- ------------------ --------

STREAM1_TO_STREAM2 SOURCES_QUEUE   TARGET_QUEUE    DBA2.ANQINGREN.ORG ENABLED     

#修改propagation休眠時間為0,表示實時傳播LCR。 

begin 

dbms_aqadm.alter_propagation_schedule( 

queue_name =&gt; 'SOURCE_QUEUE', 

destination =&gt; 'DBA2', 

latency =&gt; 0); 

end; 

4.2.5 在目标資料庫DBA2上建立Apply程序

   DBMS_STREAMS_ADM.ADD_SCHEMA_RULES(

      schema_name      =&gt; 'SYSTEM',

      streams_type    =&gt; 'apply', 

      streams_name    =&gt; 'target_apply_stream',

      queue_name      =&gt; 'strmadmin.TARGET_QUEUE',

      include_dml     =&gt; true,

      include_ddl     =&gt; true,

  include_tagged_lcr =&gt; false,

      source_database =&gt; 'DBA',

      inclusion_rule =&gt; true);

/

可以通過:

dba_apply

v$streams_apply_reader

v$streams_apply_coordinator

v$streams_apply_server

檢視狀态

SQL&gt; select apply_name,queue_name,status from dba_apply;

APPLY_NAME                     QUEUE_NAME                     STATUS

------------------------------ ------------------------------ --------

TARGET_APPLY_STREAM            TARGET_QUEUE                   DISABLED

4.2.6  執行個體化複制資料庫

4.2.6.1 用exp/imp 完成執行個體化

帶資料完成源端exp和目端的import:

Exp USERID=SYSTEM/ADMIN@DBA OWNER=SYSTEM FILE=D:/STRM.dmp LOG=STRM.log OBJECT_CONSISTENT=Y STATISTICS = NONE    

imp USERID=SYSTEM/ADMIN@DBA2 FULL=Y CONSTRAINTS=Y FILE=D:/STRM.dmp IGNORE=Y COMMIT=Y LOG=D:/import.log STREAMS_INSTANTIATION=Y  

或僅作執行個體化(不帶資料):

exp USERID=SYSTEM/ADMIN@DBA OWNER=SYSTEM FILE=D:/STRM.dmp LOG=D:/export.log OBJECT_CONSISTENT=Y STATISTICS = NONE ROWS=NO  

imp USERID=SYSTEM/ADMIN@DBA2 FULL=Y CONSTRAINTS=Y FILE=D:/STRM.dmp COMMIT=Y LOG=D:/import.log STREAMS_INSTANTIATION=Y IGNORE=Y

4.2.6.2 直接設定SCN的方式進行執行個體化:

---擷取源庫互置使用者的SCN

connect strmadmin/strmadmin@DBA     

set serveroutput on                                                                                                            

DECLARE

        iscn NUMBER; -- Variable to hold instantiation SCN value

BEGIN                                                                                                                   

        iscn := DBMS_FLASHBACK.GET_SYSTEM_CHANGE_NUMBER();                                                                     

        DBMS_OUTPUT.PUT_LINE ('Instantiation SCN is: ' || iscn); 

END;                                                      

---設定為目标庫互置使用者的SCN

connect strmadmin/strmadmin@DBA2                                                                                              

BEGIN                                                                                                                        

 DBMS_APPLY_ADM.SET_SCHEMA_INSTANTIATION_SCN(

        source_schema_name =&gt; 'SYSTEM',                                                                                    

        source_database_name =&gt; 'DBA',

        instantiation_scn =&gt; &amp;iscn);

END;                                                                                                                     

/        

4.2.7.  在目标資料庫上啟動Apply程序

connect strmadmin/strmadmin@DBA2 

    DBMS_APPLY_ADM.SET_PARAMETER(apply_name =&gt; 'target_apply_stream', parameter

 =&gt; 'disable_on_error', VALUE =&gt; 'n');

    END;

    /

    DBMS_APPLY_ADM.START_APPLY(

      apply_name =&gt; 'target_apply_stream');

#停止Apply程序 

dbms_apply_adm.stop_apply( 

apply_name =&gt; 'target_apply_stream'); 

TARGET_APPLY_STREAM            TARGET_QUEUE                   ENABLED

4.2.8 在源資料庫上啟動capture

connect strmadmin/strmadmin@DBA

    DBMS_CAPTURE_ADM.START_CAPTURE(

      capture_name =&gt; 'capture_stream');

#停止Capture程序 

dbms_capture_adm.stop_capture( 

capture_name =&gt; 'capture_stream'); 

檢視狀态:

SQL&gt; select capture_name,status from dba_capture;

CAPTURE_NAME    STATUS

--------------- --------

CAPTURE_STREAM ENABLED

4.3  表級的複制

maintain_tts  表空間複制

maintain_schemas 使用者複制

maintain_tables 表複制的

與dbms_streams_adm的maintain_global、maintain_tts、maintain_schemas等過程相比,maintain_tables過程使用則更靈活,可以為某些特殊的表拿出來單獨配置,maintain_tables也象其它的過程一樣,提供了一藍子解決方案,如果要添加新的表到複制中,隻需要再次執行maintain_tables過程即可。

4.3.1 在stream進行配置前,需要做些準備工作

A 源庫與目标庫初始化參數的設定

alter system set aq_tm_processes=1 scope=spfile;

alter system set job_queue_processes=2 scope=spfile;

alter system set global_names=true scope=spfile;

alter system set streams_pool_size=20m scope=spfile; 

說明streams_pool_size在生産環境中最好&gt;200m

B 源庫與目标庫tnsnames.ora配置

見4.1

C 源庫與目标庫複制管理者的建立

    見4.1

D 在源庫與目标庫建立DBLINK

E 源庫與目标庫必須處于歸檔模式

F 源庫與目标庫必須建立directory

create directory DIR_DBA as 'D:/Stream/DBA';

create directory DIR_DBA2 as 'D:/Stream/DBA2';

說明:在複制表空間時,建立directory需要指定該表空間所在的目錄

G 建立測試用的表空間及表

CREATE TABLESPACE DAVE DATAFILE 'D:/ORACLE/ORADATA/DBA/DAVE.dbf' SIZE 100M;

create user tianle identified by tianle default tablespace DAVE;

grant dba to tianle;

conn TIANLE/TIANLE

create table test(id int,name varchar2(20));

create table test2(id int,name varchar2(20));

insert into test values(1,'dave');

insert into test values(2,'bl');

不能使用預設的表空間.

4.3.2  在源庫執行MAINTAIN_TTS過程

declare

v_tables dbms_utility.uncl_array;

begin

v_tables(1) := 'tianle.test;

v_tables(2) := 'tianle.test2';

dbms_streams_adm.maintain_tables(

table_names =&gt; v_tables,

source_directory_object =&gt; null,

destination_directory_object =&gt; null,

source_database =&gt; 'DBA',

destination_database =&gt; 'DBA2',

perform_actions =&gt; true,

bi_directional =&gt; false,

include_ddl =&gt; true,

instantiation =&gt; dbms_streams_adm.instantiation_table_network);

end;

說明:在源庫執行maintain_tables時,目标庫幾乎什麼都不用做,stream環境已經配置好啦,

如果想複制其它的表,隻用再執行maintain_tables過程即可

4.3.3 如果在執行2的過程時失敗,需要清除腳本

--select script_id from dba_recoverable_script;

--exec dbms_streams_adm.RECOVER_OPERATION('&amp;1','PURGE');

v_script_id varchar2(32);

select script_id into v_script_id from dba_recoverable_script;

dbms_streams_adm.RECOVER_OPERATION(v_script_id,'PURGE');

exception

when no_data_found then

DBMS_OUTPUT.PUT_LINe('no data found') ;

when others then

  4.5 全庫級複制

以上主要為大家介紹了pre_instantiation_setup/post_instantiation_setup過程在配置全庫複制的方法,以下介紹dbms_streams_adm的maintain_global過程如何配置stream全庫複制方法,适用于10gR2及以後版本。 

不支援sys/ system 使用者的變更。

1.在stream進行配置前,需要做些準備工作

  a 源庫與目标庫初始化參數的設定 

alter system set aq_tm_processes=4 scope=spfile;

alter system set job_queue_processes=5 scope=spfile;

alter system set streams_pool_size=51m scope=spfile;

  b 源庫與目标庫tnsnames.ora配置

  c 源庫與目标庫複制管理者的建立 

  d 源庫與目标庫建立互連的DBLINK

  e 源庫與目标庫必須處于歸檔模式

  f 源庫與目标庫必須建立directory

create directory dir_DBA as 'D:/Stream/DBA';

create directory dir_DBA2 as 'D:/Stream/DBA2';

  

2.在源庫執行MAINTAIN_GLOBAL過程

dbms_streams_adm.maintain_global(

source_directory_object =&gt;'dir_DBA',

destination_directory_object =&gt;'dir_DBA2',

source_database=&gt;'DBA',

destination_database =&gt;'DBA2',

perform_actions=&gt;true,

include_ddl=&gt;true,

instantiation=&gt;DBMS_STREAMS_ADM.INSTANTIATION_FULL_NETWORK

 );

  說明:在執行maintain_global時,源庫與目标庫必須建立directory,然後在源庫執行, 目标庫幾乎什麼都不用做,stream環境已經配置完畢。