DTS开发记录(7)-- 灵活的引擎 IAgileEngine

简介: 数据引擎是数据传递系统(DTS)的核心,正如游戏引擎是PC游戏的核心一样。    IAgileEngine从目前手上的DTS系统中不断的重构完善出来,虽然IAgileEngine已经不局限于在本DTS系统中使用,但是,我还是打算在这个系列文章中来介绍它。
    数据引擎是数据传递系统(DTS)的核心,正如游戏引擎是PC游戏的核心一样。
    IAgileEngine从目前手上的DTS系统中不断的重构完善出来,虽然IAgileEngine已经不局限于在本DTS系统中使用,但是,我还是打算在这个系列文章中来介绍它。

    正如,任何事物都有最简单的雏形,IAgileEngine也是一样。DTS系统最初的引擎也是一个非常简单的引擎,随着功能不断的加入、完善,我们不断地对其重构,使其满足新的需求。终于,它慢慢地成长,这种成长的结果也是我最初没有意料到的,它已经可以在任何有类似需求环境的引擎系统中使用。这是重构带来的好处,组件在重构中成长,正是因为重构,组件才会保持生命力和可用性--这是题外话了。

    最初的引擎是一个单独的组件,由于功能不断的扩展、完善,这个组件变的巨大起来,不易维护和变动。于是,我尝试分解这个引擎组件,希望能将这单个组件分解成一系列小组件的组合,并且根据不同的组合,能够使引擎产生不一样的功能、特性。我把分解得到的小组件称为引擎环IEngineTache。

    于是,我们已经大致可以看到这个IAgileEngine的外貌了。IAgileEngine由一系列可拆卸的引擎环(IEngineTache)组装而成,每个引擎环负责一个相对独立的任务。由多个引擎环组装IAgileEngine的过程可以是动态的,可以根据配置的需求、当前的环境来动态的决定采用哪些引擎环来构造引擎。

    组装好的IAgileEngine就拥有了一个顺序的引擎环链,它们环环相扣。当引擎启动后,将按照组装的顺序逐个调用引擎环,如果某个引擎环执行失败,那么后续的引擎环将不再执行(除非有特殊需求的引擎环,后面我们将看到这种引擎环)。

    我们先来看看引擎环IEngineTache的样子:


    IsActive属性用于表明当前引擎环是否处于执行状态;Title属性表明当前引擎环在执行的任务名称。MessagePublished事件是该引擎环通知给用户当前正在执行的需要用户了解的细节;IgnoredMessagePublished事件是该引擎环通知给用户当前正在执行的可以被用户忽略的细节;ProgressPublished事件表明了当前引擎环的执行进度。
    Pause、Continue、Stop分别表示暂停、继续、停止的功能。而Excute方法将启动引擎环的执行。Excute方法签名如下:
    bool  Excute( out   string  failureCause);
    如果引擎环执行失败,将返回false,并通过out参数failureCause说明失败的原因。

    现在我们考虑这样一个问题,如果下游的引擎环需要用到上游引擎环提供的数据,该如何做了?答案是IEngineTacheUtil。这是一个公共的容器,提供许多插槽,上游的引擎环将数据存放到插槽中,下游的引擎环从对应的插槽中取数据。引擎环通过Initialize方法
来接收 IEngineTacheUtil引用。
    下面是IEngineTacheUtil的类图:


    在介绍完引擎环后,我们可以正式介绍IAgileEngine了:

    PartProgressPublished事件即简单地传递了引擎环的ProgressPublished事件,MessagePublished事件和IgnoredMessagePublished事件也是简单地传递了引擎环的同名事件。TitleChanged事件在更替正在执行的引擎环时触发,它将即将进入执行状态的引擎环的Title属性发布给外界。当引擎执行过程中出现异常而失败时,触发TransferDisruptted事件,该事件参数说明了失败原因,这个原因就是前面提到的IEngineTache.Excute方法的out参数的值。

    另外,我们可以想到,实现IAgileEngine的组件也是实现IEngineTacheUtil接口的一个不错的选择。下面我们重点来关注IAgileEngine的实现AgileEngine组件的Initialize方法和Excute方法。
    下面是Initialize方法的实现:
         public   void  Initialize(IList < IEngineTache >  tacheList,  bool  has_NecceryEnder)
        {
            
this .hasNecceryEnder  =  has_NecceryEnder;
            
this .engineTacheList  =  tacheList;
            
this .InitializeEventHandler();

            
foreach  (IEngineTache tache  in   this .engineTacheList)
            {
                
// 传递IEngineTacheUtil引用
                tache.Initialize( this );
                
                
// 传递事件
                tache.IgnoredMessagePublished  +=   new  CbSimpleStr(tache_IgnoredMessagePublished);
                tache.ProgressPublished 
+=   new  CbProgress(tache_ProgressPublished);
                tache.MessagePublished 
+=   new  CbSimpleStr(tache_MessagePublished);               
            }
        }  
    这个方法中,我们要注意一下has_NecceryEnder参数,它用于表明引擎环链engineTacheList中的最后一个引擎环是否是必须要执行的,如果该参数为true,则如果中间的引擎环执行失败,那么最后的一个引擎环也会被执行--这是常见的需求,我们经常在最后一个引擎环中做一些清理资源、写日志等后备工作。
    AgileEngine的Excute方法启动了一个线程来执行Worker方法:
         private   void  Worker()
        {
            
string  failureCause  =   null ;
            
for  ( int  i  =   0 ; i  <   this .engineTacheList.Count; i ++ )
            {               
                
this .currentTache  =   this .engineTacheList[i];

                
this .TitleChanged( this .currentTache.Title);

                
bool  excuteSucceed  =   this .currentTache.Excute( out  failureCause);

                
if  ( ! excuteSucceed)
                {
                    
if  ( this .hasNecceryEnder  &&  (i  !=  ( this .engineTacheList.Count  -   1 )))
                    {
                        
string  cause  =   null ;
                        
this .currentTache  =   this .engineTacheList[ this .engineTacheList.Count - 1 ];
                        
this .currentTache.Excute( out  cause);
                    }
                    
this .TransferDisruptted(failureCause);
                    
return ;
                }
            }           

            
this .TransferCompleted();
        } 

    代码已经清晰地说明了一切,就不赘言了。

    通过上面的所有介绍,我们没有看到与DTS系统相关的任何东西,所以IAgileEngine是一个与应用无关的引擎,只要你的应用中的引擎需要作类似的引擎环分解,那么可以参考下IAgileEngine的作法。

    下面,我简单说说当前的DTS系统中的引擎包含哪些引擎环:
(1)DataEngineStarter 数据引擎启动器
(2)DataEngineReadyChecker 在数据传递之前进行全面检查
(3)DataEngineTransfer 执行主要的数据传递工作
(4)DataEngineDeleteIncrHandler 执行delete增量转移
(5)DataEngineEnder 数据引擎的最后执行环节

    后面的文章中将详细介绍这些引擎环。感谢你的关注!

转到: DTS开发记录(序)        
   
目录
相关文章
|
数据库 数据可视化 SQL
DTS开发记录(序)
(原文发表于2006-06-27 ,修正于2006-07-03)    目前手头上正在负责一个DTS(这里的DTS是Data Transfer System的缩写)系统的开发,我打算写一系列的文章来记录这个开发的全过程,这个记录可以说是实时的--每当遇到一个重要问题或解决一个重要问题,我将记录之。
1161 0
|
数据库 监控 数据库连接
DTS开发记录(1)--系统总体结构
(原文发表于2006-06-28 ,修正于2006-07-03)    在DTS开发记录(序)一文中,我们已经明白了当前这个Data Transfer System的主要目标和存在的难点与挑战。
1038 0
|
数据库 数据处理
DTS开发记录(2)-- 数据管道及插件
通过前面两篇文章(已于2006-07-03修正)的介绍,我们已经大致明白了系统的目标的总体结构,从这篇文章开始,我们将逐渐深入到系统内部。    本文讲述数据管道,数据管道是用于在数据源/数据目标与DataTable之间进行数据传递的组件,它是与数据库类型和文件类型相关的,数据从数据源经过数据管道后,就变成与数据源类型无关的数据了,这样映射编辑和数据引擎便能对它们进行一致的处理。
812 0
|
数据库 关系型数据库 Oracle
DTS开发记录(3)-- 连接与连接对
在 DTS开发记录(2)-- 数据管道及插件 一文中,我们介绍了数据管道,IDataPipeFactory的CreateDataPipe方法需要一个IConnection参数,这个参数就表示一个连接。
879 0
DTS开发记录(4)-- 映射列
在DTS开发记录(1)--系统总体结构 一文中,我们介绍到映射列:“参与了数据映射的源列或目标列。注意,并不是所有的列都会参与映射,这是常见的情况。”1.映射列分为:源映射列和目标映射列。     public interface IMappingColumn    {        str...
959 0
|
数据库 关系型数据库 Oracle
DTS开发记录(5)-- 挑战增量导出
增量导出恐怕是DTS系统中最艰难的部分了,我们曾考虑过很多方案,最后都因为需要表大纲做一定的假设而不具备通用性而放弃。有很多效率较高的方案,由于为了追求通用性而无法实现,因为现实的情况比我们理想的要复杂许多。
1085 0
|
数据库
DTS开发记录(6)-- 数据映射
在DTS开发记录(4)-- 映射列一文中,我们详细的讨论了参与映射的源列和目标列,在拥有了映射列的基本概念的基础上,我们可以讨论数据映射DataMapping了。    数据映射主要由一组映射项(MappingItem)组成,它包含了源数据大纲到目标数据大纲的详细的完整的映射关系。
1069 0
|
数据库
DTS开发记录(8)-- 主键的影响
对于数据源向同一数据目标导出(我们称之为“数据汇集”)和增量导出来说,对主键的处理也是一个大的挑战。    我先定义一下在本DTS系统中主键(PrimaryKey)的含义:PrimaryKey 表示主键或联合主键,PrimaryKey并不是针对某个数据库表的,而是针对某个特定的DataMapping而言的,它用于在数据迁移过程中来唯一确定数据源或数据目标中每条记录。
902 0
|
数据库
DTS开发记录(9)-- 数据迁移任务 DataTask
在DTS开发记录(1)--系统总体结构 一文中,我们已经看到,一次数据传递任务基于一个连接对和一个数据映射进行。但是之前,我们并没有提到“数据迁移任务”这个元素。随着设计的演化,我们发现一个数据任务已经不再仅仅是一个连接对加上一个数据映射了。
1046 0
|
数据可视化 关系型数据库 数据库
DTS开发记录(10)-- 可视化的流程编辑
在将数据从数据源导出到数据目标的过程中,我们通常需要对数据进行一些检查、验证、加工、转换等操作,而这个加工转换的流程可能是非常复杂的,DTS通过可视化的拖拽的方式对数据加工转换流程进行自定义编辑。
1098 0