MyBatis - 批量插入

简介: MyBatis - 批量插入



由于MyBatis的本质是对JDBC的封装,所以从JDBC的原生来看此问题~


一、原生JDBC插入两种方式

conn.setAutoCommit(false); //设置手动提交
//预编译sql对象,只编译一回
PreparedStatement ps = conn.prepareStatement("insert into tb_user (name) values(?)");
for (int i = 0; i < stuNum; i++) {
    ps.setString(1,name);
    ps.executeUpdate();
}
conn.commit();//执行
conn.close();
conn.setAutoCommit(false); //设置手动提交
//预编译sql对象,只编译一回
PreparedStatement ps = conn.prepareStatement("insert into tb_user (name) values(?)");
for (int i = 0; i < stuNum; i++) {
    ps.setString(1,name);
    ps.addBatch();//添加到批次
}
ps.executeBatch();//提交批处理
conn.commit();//执行
conn.close();

Ps:明显前者比后者效率低很多。


image.png


二、MyBatis底层批量插入SQL原理

方式一:

INSERT INTO person(username, email, gender) 
VALUES("wangwu1", "wangwu1@qq.com", "F"),
VALUES("wangwu2", "wangwu2@qq.com", "F"),
……

方式二:

INSERT INTO person(username, email, gender) VALUES("wangwu1", "wangwu1@qq.com", "F");
INSERT INTO person(username, email, gender) VALUES("wangwu2", "wangwu2@qq.com", "F");
……

Ps:推荐方式一

三、纯 MyBatis 批量插入


image.png


1)对应【二、方式一】(推荐)

<insert id="addEmps">
        INSERT INTO tb1_emplyee(last_name,email,gender,d_id)
        VALUES 
        <foreach collection="emps" item="emp" separator=",">
            (#{emp.lastName},#{emp.email},#{emp.gender},#{emp.dept.id})
        </foreach>
</insert>

(2)对应【二、方式二】(注意:需要添加连接属性,否则ERROR)(不推荐)

<insert id="addEmps">
        <foreach collection="emps" item="emp" separator=";">
            INSERT INTO tb1_emplyee(last_name,email,gender,d_id)
            VALUES 
            (#{emp.lastName},#{emp.email},#{emp.gender},#{emp.dept.id})
        </foreach>
</insert>
jdbc.url=jdbc:mysql://localhost:3306/mybatis?allowMultiQueries=true

(3)通用代码

public void addEmps(@Param("emps") List<Employee> emps);
@Test
public void testBatchSave() throws IOException{
    SqlSessionFactory sqlSessionFactory = getSqlSessionFactory();
    // 获取到的SqlSession不会自动提交数据(处理过)
    SqlSession openSession = sqlSessionFactory.openSession();
    try
    {
        EmployeeMapperDymanicSQL mapper=openSession.getMapper(EmployeeMapperDymanicSQL.class);
        List<Employee> emps=new ArrayList<Employee>();
        emps.add(new Employee(null,"Eminem","Eminem@126.com","1",new Department(1)));
        emps.add(new Employee(null,"2Pac","2Pac@126.com","1",new Department(1)));
        mapper.addEmps(emps);
        openSession.commit();
    }
    finally {
        openSession.close();
    }
}

四、MyBatis 基于 SqlSession 的 ExecutorType 批量插入


1、Mybatis内置的ExecutorType有3种,默认的是simple,该模式下它为每个语句的执行创建一个新的预处理语句,单条提交sql;而batch模式重复使用已经预处理的语句,并且批量执行所有更新语句,显然batch性能将更优。


2、但batch模式也有自己的问题,比如在Insert操作时,在事务没有提交之前,是没有办法获取到自增的id,这在某型情形下是不符合业务要求的。


3、在测试中使用simple模式提交10000条数据,时间为18248 毫秒,batch模式为5023 ,性能提高70%。


@Test //单条操作耗时 耗时:8584
public void mybatisBatch() {
    SqlSession session = getSqlSessionFactory().openSession();
    try {
        DeptMapper deptMapper = (DeptMapper) session.getMapper(DeptMapper.class);
        long start =System.currentTimeMillis();
        for (int i = 0; i <10000 ; i++) {
            SysDept dept=new SysDept(UUID.randomUUID().toString().substring(1,6), 1, new Date(),  new Date(), 1);
            deptMapper.saveSysDept(dept);
        }
        long end =System.currentTimeMillis();
        System.out.println("耗时:"+(end-start));
    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        session.commit();
        session.close();
    }
}
@Test //傻瓜式批量但非BATCH批量耗时 耗时:938
public void saveDeptBatchOne() {
    SqlSession session = getSqlSessionFactory().openSession();
    try {
        DeptMapper deptMapper = (DeptMapper) session.getMapper(DeptMapper.class);
        long start =System.currentTimeMillis();
        List<SysDept> deptList=new ArrayList<SysDept>();
        for (int i = 0; i <100000 ; i++) {
            SysDept dept=new SysDept(UUID.randomUUID().toString().substring(1,6), 1, new Date(),  new Date(), 1);
            deptList.add(dept);
            if(i%500==0){
                deptMapper.saveDeptBatch(deptList);
                deptList.clear();
            }
        }
        deptMapper.saveDeptBatch(deptList);
        long end =System.currentTimeMillis();
        System.out.println("耗时:"+(end-start));
    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        session.commit();
        session.close();
    }
}
@Test //傻瓜式批量+BATCH批量耗时 耗时:822
public void saveDeptBatchTwo() {
    //设置ExecutorType.BATCH原理:把SQL语句发个数据库,数据库预编译好,数据库等待需要运行的参数,接收到参数后一次运行,ExecutorType.BATCH只打印一次SQL语句,多次设置参数步骤,
    SqlSession session = getSqlSessionFactory().openSession(ExecutorType.BATCH);
    try {
        DeptMapper deptMapper = (DeptMapper) session.getMapper(DeptMapper.class);
        long start =System.currentTimeMillis();
        List<SysDept> deptList=new ArrayList<SysDept>();
        for (int i = 0; i <100000; i++) {
            SysDept dept=new SysDept(UUID.randomUUID().toString().substring(1,6), 1, new Date(),  new Date(), 1);
            deptList.add(dept);
            if(i%500==0){
                deptMapper.saveDeptBatch(deptList);
                deptList.clear();
            }
        }
        deptMapper.saveDeptBatch(deptList);
        long end =System.currentTimeMillis();
        System.out.println("耗时:"+(end-start));    
    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        session.commit();
        session.close();
    }
}

五、Spring + MyBatis 批量插入

待更新...

目录
相关文章
|
SQL XML 关系型数据库
Mybatis-Plus通过SQL注入器实现真正的批量插入
Mybatis-Plus通过SQL注入器实现真正的批量插入
2640 0
Mybatis-Plus通过SQL注入器实现真正的批量插入
|
3月前
|
存储 Java 数据库连接
MyBatis Plus中的批量插入:通过开启rewriteBatchedStatements=true
MyBatis Plus中的批量插入:通过开启rewriteBatchedStatements=true
98 0
|
4月前
|
Java 数据库连接 mybatis
mybatis 批量插入
mybatis 批量插入
25 0
|
9月前
|
SQL Java 数据库连接
MyBatis痛点验证,使用 foreach 批量插入慢?
MyBatis痛点验证,使用 foreach 批量插入慢?
167 0
|
9月前
|
SQL Java 数据库连接
如何使用Mybatis实现批量插入 ?
如何使用Mybatis实现批量插入 ?
49 0
|
10月前
|
小程序 Java 数据库连接
【实践】mybatis批量插入map
【实践】mybatis批量插入map
444 0
|
12月前
|
SQL 缓存 Oracle
MyBatis 批量插入别再乱用 foreach 了,5000 条数据花了 14 分钟。。。
MyBatis 批量插入别再乱用 foreach 了,5000 条数据花了 14 分钟。。。
|
12月前
|
SQL 消息中间件 JavaScript
求求你们了,MyBatis 批量插入别再乱用 foreach 了,5000 条数据花了 14 分钟。。
求求你们了,MyBatis 批量插入别再乱用 foreach 了,5000 条数据花了 14 分钟。。
|
Java 大数据 Spring
MyBatis-Plus - 批量插入、更新、删除、查询
MyBatis-Plus - 批量插入、更新、删除、查询
2108 0
|
SQL Java 数据库连接
mybatis 批量插入 Column count doesn‘t match value count at row 1
mybatis 批量插入 Column count doesn‘t match value count at row 1
119 0