怎么对MySQL数据库操作大数据?这里有思路

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 最近学到一招关于使用java代码操作MySQL数据库,对大文本数据(LOB)进行CRUD的技巧,虽然向数据库很少向中存入大文本文件(一般都是存储在硬盘上),但是还是很有必要知道这一技巧的。

最近学到一招关于使用java代码操作MySQL数据库,对大文本数据(LOB)进行CRUD的技巧,虽然向数据库很少向中存入大文本文件(一般都是存储在硬盘上),但是还是很有必要知道这一技巧的。下面我就来说一说我学到的这个小技巧咯。


CLOB操作


所谓CLOB,一般是指关于文本文件的数据,今天我就拿txt文件来测试吧。
必要的流程如下:

  • 在MySQL数据库中建好testclob表
  • 向Eclipse中导入相关的jar包
  • 写代码进行测试

textblob.sql如下:

create table testclon(
id varchar(40) primary key,
resume clob
);

导入相关的符合要求的mysql驱动的jar包。


测试代码如下:

package LOB_Sample;

import java.io.File;
import java.io.FileReader;
import java.io.FileWriter;
import java.io.Reader;
import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.ResultSet;

import org.junit.Test;

import utils.JDBCUtils;

public class CLOB {

    @Test
    public void insert() throws Exception {
        Connection conn = null;
        PreparedStatement ps = null;
        ResultSet rs = null;

        try{
            conn = JDBCUtils.getConnection();
            String sql = "insert into testclob(id,resume) values(?,?)";
            ps = conn.prepareStatement(sql);
            ps.setString(1, "1");

            //先获取一个流,用于读取大文本数据
            File file = new File("src/jdbcutils.txt");
            FileReader reader = new FileReader(file);
            ps.setCharacterStream(2, reader, (int)file.length());
            int num = ps.executeUpdate();
            if(num>0){
                System.out.println("大文本数据插入成功!");
            }

        }catch(Exception e){
            throw new RuntimeException(e);
        }finally{
            //最重要的一步,用完资源一定要实现资源的释放
            JDBCUtils.release(conn, ps, rs);
        }

    }

    @Test
    public void read() throws Exception {
        Connection conn = null;
        PreparedStatement pst = null;
        ResultSet rs = null;

        try{
            conn = JDBCUtils.getConnection();
            String sql = "select * from testclob where id ='1'";
            pst = conn.prepareStatement(sql);
            rs = pst.executeQuery();
            if(rs.next()){
                Reader reader = rs.getCharacterStream("resume");
                FileWriter writer = new FileWriter("src/result.txt");
                try{
                    int len = 0;
                    char[] buffer = new char[1024];
                    while((len = reader.read(buffer))>0){
                        writer.write(buffer, 0, len);
                    }
                }finally{
                    reader.close();
                    writer.close();
                }

            }

        }catch(Exception e){
            throw new RuntimeException(e);
        }finally{
            JDBCUtils.release(conn, pst, rs);
        }

    }

}

测试结果简单,就不贴图了。


小总结:

  • 对于clob类型的数据,存进去的时候需要借助于一个流对象,先将数据转换成二进制,才能进行存储。
  • 读取clob文件的时候要使用rs.getCharacterStream("resume");,记忆方式是“怎么存进去,怎么取出来”所以就需要以流的形式获得了。
  • 最后使用File的原因是,流操作需要知道流的长度信息,所以使用到了File。

BLOB操作


对于图片数据(BLOB),我们同样可以使用相似的代码进行操作。流程如下:
项目目录如下:
这里写图片描述

  • 先在数据库中创建一个表的实例,testblob.sql
  • 导入相关的jar包驱动
  • 书写代码进行测试

要插入的图片如下:

这里写图片描述

数据库的建表语句如下:

create table testblob(
id varchar(40) primary key,
image blob
);

导入相关的jar包,我的工程的jar包文件名称为mysql-connector-java-5.0.8-bin.jar


具体的操作代码如下:

package LOB_Sample;

import java.io.File;
import java.io.FileInputStream;
import java.io.FileOutputStream;
import java.io.InputStream;
import java.sql.Connection;
import java.sql.PreparedStatement;
import java.sql.ResultSet;

import org.junit.Test;

import utils.JDBCUtils;

public class BLOB {

    @Test
    public void insert() throws Exception {
        Connection conn = null;
        PreparedStatement pst = null;
        ResultSet rs = null;

        try{
            conn = JDBCUtils.getConnection();
            String sql = "insert into testblob values(?,?)";
            pst = conn.prepareStatement(sql);
            pst.setString(1, "图片一");


            File file = new File("src/picture1.jpg");
            FileInputStream fis = new FileInputStream(file);
            pst.setBinaryStream(2, fis, (int)file.length());

            int flag = pst.executeUpdate();
            if(flag > 0 ){
                System.out.println("图片插入数据库成功!!!");
            }else{
                System.out.println("对不起,图片插入数据库失败!!!");
            }

        }catch(Exception e){
            throw new RuntimeException(e);
        }finally{
            JDBCUtils.release(conn, pst, rs);
        }
    }

    @Test
    public void read() throws Exception {
        Connection conn = null;
        PreparedStatement pst = null;
        ResultSet rs = null;

        try{
            conn = JDBCUtils.getConnection();
            String sql = "select image from testblob where id ='图片一'";

            pst = conn.prepareStatement(sql);

            rs = pst.executeQuery();
            if(rs.next()){
                FileOutputStream fos =null;
                InputStream in = null;
                try{
                    File file = new File("src/new.jpg");
                    fos = new FileOutputStream("src/newPicture.jpg");
                    in = rs.getBinaryStream("image");

                    int len = 0;
                    byte [] buffer = new byte[1024];
                    while((len=in.read(buffer))>0){
                        fos.write(buffer,0,len);
                    }

                }catch(Exception e){
                    throw new RuntimeException(e);
                }finally{
                    fos.close();
                    in.close();
                }


            }


        }catch(Exception e){
            throw new RuntimeException(e);
        }finally{
            JDBCUtils.release(conn, pst, rs);
        }
    }

}

代码运行结果如下:
这里写图片描述


经JUnit测试,可以获得正确的图片文件。

需要注意的是,代码中用到的JDBCUtils工具类是自己写的一个获得数据库连接的工具类,同样也是我clob测试获得的那个文件。其具体内容如下:

package utils;

import java.io.IOException;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.util.Properties;

/**
 * MySQL数据库工具类
 * @author Summer
 *
 */
public class JDBCUtils {

    //创建一个配置文件,用于读取相应配置文件中保存的数据信息
    private static Properties config = new Properties();

    /*
     * 为了只加载一次驱动程序,因此在静态代码块中进行声明,这样驱动就只会加载一次
     */
    static{

        try {
            config.load(JDBCUtils.class.getClassLoader().getResourceAsStream("db.properties"));
//          Class.forName("com.mysql.jdbc.Driver");
            Class.forName(config.getProperty("DRIVER"));

        } catch (ClassNotFoundException | IOException e) {
            // TODO Auto-generated catch block
            throw new ExceptionInInitializerError();
        } 
    }



    /**
     * 返回数据库连接对象
     * @return
     */
    public static Connection getConnection(){

        Connection  conn = null;

        try {
            conn =  DriverManager.getConnection(config.getProperty("URL"),
                    config.getProperty("USER"),config.getProperty("PASSWORD"));
        } catch (SQLException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }

        return conn;
    }


    /**
     * 释放数据库链接资源
     * @param conn
     * @param st
     * @param rs
     */
    public static void release(Connection conn,PreparedStatement pst, ResultSet rs){
        /*
         * 释放数据库连接资源的时候注意释放的顺序,先申请的资源后释放
         */

        //释放结果集对象
        if(rs!=null){
            try {
                rs.close();
            } catch (SQLException e) {
                // TODO Auto-generated catch block
                rs=null;
                e.printStackTrace();
            }
        }

        //释放查询对象
        if(pst!=null){
            try {
                pst.close();
            } catch (SQLException e) {
                // TODO Auto-generated catch block
                pst=null;
                e.printStackTrace();
            }
        }

        //释放数据库连接
        if(conn!=null){
            try {
                conn.close();
            } catch (SQLException e) {
                // TODO Auto-generated catch block
                conn=null;
                e.printStackTrace();
            }
        }
    }




}

//而这里面需要的配置信息在db.properties文件中,其实就是DRIVER,URL,USER,PASSWORD四个数据库连接必备信息,也是很简单的数据,故就不在贴出。

总结


  • 对于数据库的JDBC操作,一定要记得释放数据库连接资源,否则会有意想不到的错误。
  • 存储大文本数据的时候,记得方式的前后一致性,即PreparedStatement与ResultSet操作的一致性
  • 应该使用PreparedStatement来防止SQL注入(原因是其会先进行检测)

好了,大致的操作就是这样了,希望此篇拙文能给广大博友些许帮助。如果有错误的地方,还望指出,不胜感激!

相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
4天前
|
关系型数据库 MySQL 大数据
教你使用Python玩转MySQL数据库,大数据导入不再是难题!
教你使用Python玩转MySQL数据库,大数据导入不再是难题!
|
5天前
|
存储 JSON 关系型数据库
MySQL与JSON的邂逅:开启大数据分析新纪元
MySQL与JSON的邂逅:开启大数据分析新纪元
|
12天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之ODPS数据怎么Merge到MySQL数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
29天前
|
安全 关系型数据库 MySQL
|
17天前
|
消息中间件 数据采集 关系型数据库
大数据-业务数据采集-FlinkCDC 读取 MySQL 数据存入 Kafka
大数据-业务数据采集-FlinkCDC 读取 MySQL 数据存入 Kafka
35 1
|
17天前
|
数据采集 关系型数据库 MySQL
大数据-业务数据采集-FlinkCDC The MySQL server is not configured to use a ROW binlog_format
大数据-业务数据采集-FlinkCDC The MySQL server is not configured to use a ROW binlog_format
27 1
|
9天前
|
SQL 关系型数据库 MySQL
【揭秘】MySQL binlog日志与GTID:如何让数据库备份恢复变得轻松简单?
【8月更文挑战第22天】MySQL的binlog日志记录数据变更,用于恢复、复制和点恢复;GTID为每笔事务分配唯一ID,简化复制和恢复流程。开启binlog和GTID后,可通过`mysqldump`进行逻辑备份,包含binlog位置信息,或用`xtrabackup`做物理备份。恢复时,使用`mysql`命令执行备份文件,或通过`innobackupex`恢复物理备份。GTID模式下的主从复制配置更简便。
47 2
|
4天前
|
弹性计算 关系型数据库 数据库
手把手带你从自建 MySQL 迁移到云数据库,一步就能脱胎换骨
阿里云瑶池数据库来开课啦!自建数据库迁移至云数据库 RDS原来只要一步操作就能搞定!点击阅读原文完成实验就可获得一本日历哦~
|
8天前
|
关系型数据库 MySQL 数据库
RDS MySQL灾备服务协同解决方案构建问题之数据库备份数据的云上云下迁移如何解决
RDS MySQL灾备服务协同解决方案构建问题之数据库备份数据的云上云下迁移如何解决
|
5天前
|
人工智能 小程序 关系型数据库
【MySQL】黑悟空都掌握的技能,数据库隔离级别全攻略
本文以热门游戏《黑神话:悟空》为契机,深入浅出地解析了数据库事务的四种隔离级别:读未提交、读已提交、可重复读和串行化。通过具体示例,展示了不同隔离级别下的事务行为差异及可能遇到的问题,如脏读、不可重复读和幻读等。此外,还介绍了在MySQL中设置隔离级别的方法,包括全局和会话级别的调整,并通过实操演示了各隔离级别下的具体效果。本文旨在帮助开发者更好地理解和运用事务隔离级别,以提升数据库应用的一致性和性能。
50 2
【MySQL】黑悟空都掌握的技能,数据库隔离级别全攻略

热门文章

最新文章

下一篇
云函数