天天看点

SqlBulkCopy批量复制数据

.Net1.1中无论是对于批量插入整个DataTable中的所有数据到数据库中,还是进行不同数据源之间的迁移,都不是很方便。而 在.Net2.0中,SQLClient命名空间下增加了几个新类帮助我们通过DataTable或DataReader批量迁移数据。数据源可以来自关 系数据库或者XML文件,甚至WebService返回结果。其中最重要的一个类就是SqlBulkCopy类,使用它可以很方便的帮助我们把数据源的数 据迁移到目标数据库中。

下面我们先通过一个简单的例子说明这个类的使用:

首先:web.config

SqlBulkCopy批量复制数据

  < connectionStrings >

SqlBulkCopy批量复制数据

     < add  name ="srcDBConnection"  connectionString ="server=.;database=pubs;uid=sa;pwd=" />

SqlBulkCopy批量复制数据

     < add  name ="desDBConnection"  connectionString ="server=.;database=NorthWind;uid=sa;pwd=" />

SqlBulkCopy批量复制数据

   </ connectionStrings >

C#文件: 前台不Copy了,就一个按钮,一个Label

SqlBulkCopy批量复制数据

using  System;

SqlBulkCopy批量复制数据

using  System.Data;

SqlBulkCopy批量复制数据

using  System.Configuration;

SqlBulkCopy批量复制数据

using  System.Collections;

SqlBulkCopy批量复制数据

using  System.Web;

SqlBulkCopy批量复制数据

using  System.Web.Security;

SqlBulkCopy批量复制数据

using  System.Web.UI;

SqlBulkCopy批量复制数据

using  System.Web.UI.WebControls;

SqlBulkCopy批量复制数据

using  System.Web.UI.WebControls.WebParts;

SqlBulkCopy批量复制数据

using  System.Web.UI.HtmlControls;

SqlBulkCopy批量复制数据

using  System.Data.SqlClient;

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

public   partial   class  ASP_NET : System.Web.UI.Page

SqlBulkCopy批量复制数据

{

SqlBulkCopy批量复制数据

    private DateTime startTime;

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

    protected void Button1_Click(object sender, EventArgs e)

SqlBulkCopy批量复制数据

    {

SqlBulkCopy批量复制数据

        startTime = DateTime.Now;

SqlBulkCopy批量复制数据

        string srcConnString = "";

SqlBulkCopy批量复制数据

        string desConnString = "";

SqlBulkCopy批量复制数据

        SqlConnection srcConnection = new SqlConnection();

SqlBulkCopy批量复制数据

        SqlConnection desConnection = new SqlConnection();

SqlBulkCopy批量复制数据

        SqlCommand sqlcmd = new SqlCommand();

SqlBulkCopy批量复制数据

        SqlDataAdapter da = new SqlDataAdapter();

SqlBulkCopy批量复制数据

        DataTable dt = new DataTable();

SqlBulkCopy批量复制数据

        //srcConnString = ConfigurationManager.ConnectionStrings["srcDBConnection"].ConnectionString;

SqlBulkCopy批量复制数据

        desConnString = ConfigurationManager.ConnectionStrings["desDBConnection"].ToString();

SqlBulkCopy批量复制数据

        //srcConnection.ConnectionString = srcConnString;

SqlBulkCopy批量复制数据

        srcConnection.ConnectionString = desConnString;

SqlBulkCopy批量复制数据

        sqlcmd.Connection = srcConnection;

SqlBulkCopy批量复制数据

        //sqlcmd.CommandText = "select * from jobs";

SqlBulkCopy批量复制数据

        sqlcmd.CommandText = "select * from abc";

SqlBulkCopy批量复制数据

        sqlcmd.CommandType = CommandType.Text;

SqlBulkCopy批量复制数据

        sqlcmd.Connection.Open();

SqlBulkCopy批量复制数据

        da.SelectCommand = sqlcmd;

SqlBulkCopy批量复制数据

        da.Fill(dt);

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

        SqlBulkCopy sbc = new SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);

SqlBulkCopy批量复制数据

        sbc.BulkCopyTimeout = 5000;

SqlBulkCopy批量复制数据

        sbc.SqlRowsCopied +=new SqlRowsCopiedEventHandler(OnRowsCopied);

SqlBulkCopy批量复制数据

        sbc.NotifyAfter = dt.Rows.Count;

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

        try

SqlBulkCopy批量复制数据

        {

SqlBulkCopy批量复制数据

           // sbc.DestinationTableName = "jobs";

SqlBulkCopy批量复制数据

            sbc.DestinationTableName = "bcd";

SqlBulkCopy批量复制数据

            sbc.WriteToServer(dt);

SqlBulkCopy批量复制数据

        }

SqlBulkCopy批量复制数据

        catch (Exception ex)

SqlBulkCopy批量复制数据

        {

SqlBulkCopy批量复制数据

            lblCounter.Text = ex.Message.ToString();

SqlBulkCopy批量复制数据

        }

SqlBulkCopy批量复制数据

        finally

SqlBulkCopy批量复制数据

        {

SqlBulkCopy批量复制数据

            sqlcmd.Clone();

SqlBulkCopy批量复制数据

            srcConnection.Close();

SqlBulkCopy批量复制数据

            desConnection.Close();

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

        }

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

    }

SqlBulkCopy批量复制数据

    private void OnRowsCopied(object sender, SqlRowsCopiedEventArgs args)

SqlBulkCopy批量复制数据

    {

SqlBulkCopy批量复制数据

        lblCounter.Text += args.RowsCopied.ToString() + " rows are copied<Br>";

SqlBulkCopy批量复制数据

        TimeSpan copyTime = DateTime.Now - startTime;

SqlBulkCopy批量复制数据

        lblCounter.Text += "Copy Time:" + copyTime.Seconds.ToString() + "." + copyTime.Milliseconds.ToString() + " seconds";

SqlBulkCopy批量复制数据

    }

SqlBulkCopy批量复制数据

}

SqlBulkCopy批量复制数据

代码分析:

SqlBulkCopy批量复制数据

SqlBulkCopy sbc  =   new  SqlBulkCopy(desConnString,SqlBulkCopyOptions.UseInternalTransaction);

SqlBulkCopy批量复制数据

先生成SqlBulkCopy 实例,构造函数指定了目标数据库,使用SqlBulkCopyOptions.UseInternalTransaction是指迁移动作指定在一个Transaction当中,如果数据迁移中产生错误或异常将发生回滚。

SqlBulkCopy批量复制数据

sbc.BulkCopyTimeout = 5000000;    //指定操作完成的Timeout时间

SqlBulkCopy批量复制数据

 sbc.SqlRowsCopied  += new  SqlRowsCopiedEventHandler(OnRowsCopied);

SqlBulkCopy批量复制数据

  sbc.NotifyAfter  =  dt.Rows.Count;

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

         try

SqlBulkCopy批量复制数据

         {

SqlBulkCopy批量复制数据

           // sbc.DestinationTableName = "jobs";

SqlBulkCopy批量复制数据

            sbc.DestinationTableName = "bcd";

SqlBulkCopy批量复制数据

            sbc.WriteToServer(dt);

SqlBulkCopy批量复制数据

        }

SqlBulkCopy批量复制数据

NotifyAfter 属性指定通知通知事件前处理的数据行数,在这里指定为表的行数,并添加SqlRowsCopied事件输出整个迁移过程的时间。 WriteToServer方法就是将数据源拷备到目标数据库。在使用WriteToServer方法之前必须先指定 DestinationTableName属性,也就是目标数据库的表名,

SqlBulkCopy批量复制数据

性能方面:我在Sql中用proc插入68万条数据花了近8分钟,用SqlBulkCopy花了53.234秒~,效率高了7倍耶!不过现在也不做这方面的底层了,呵呵,把自己写的一个测试存储过程也贴上吧,方便自己学习

SqlBulkCopy批量复制数据

create   table  abc

SqlBulkCopy批量复制数据

(

SqlBulkCopy批量复制数据

  aid  int   identity ( 1 , 1 )  primary   key ,

SqlBulkCopy批量复制数据

  adesc  varchar ( 50 )  not   null

SqlBulkCopy批量复制数据

)

SqlBulkCopy批量复制数据

go

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

create   proc  addData

SqlBulkCopy批量复制数据

as

SqlBulkCopy批量复制数据

declare   @i   int

SqlBulkCopy批量复制数据

set   @i = 1

SqlBulkCopy批量复制数据

while   @i   <   1000000

SqlBulkCopy批量复制数据

begin

SqlBulkCopy批量复制数据

insert   into  abc  values  ( ' testDescription ' )

SqlBulkCopy批量复制数据

set   @i   =   @i   +   1

SqlBulkCopy批量复制数据

end

SqlBulkCopy批量复制数据

go

SqlBulkCopy批量复制数据
SqlBulkCopy批量复制数据

select   *   into  titles  from  pubs.dbo.titles  where    1 >   3  复制跨数据库的表结构

js