mysql到MPPDB自动刷表

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 代码实例package oa.epoint.com.mysql_mpp;import java.sql.Connection;import java.

代码实例

package oa.epoint.com.mysql_mpp;


import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.PreparedStatement;
import java.sql.ResultSet;
import java.sql.ResultSetMetaData;
import java.sql.SQLException;
import java.sql.Statement;

public class AutoMysqltoMPP {
    private static String MYSQLUSERNAME = "root";
    private static String MYSQLPASSWORD = "Gepoint";
    private static String MYSQLDRIVER = "com.mysql.jdbc.Driver";
    private static String MYSQLURL = "jdbc:mysql://100.2.5.221:3307/dep_fr_db";
    private static String MYSQLDATABASE = "dep_fr_db";


    private static String MPPDRIVER = "com.MPP.jdbc.Driver";
    private static String MPPURL = "jdbc:MPP://100.2.5.1:5258/";
    private static String MPPUSERNAME = "mpp";
    private static String MPPPASSWORD = "h3c";

    Connection mysqlconn = null;
    Statement mysqlpstm = null;
    ResultSet mysqlrs = null;

    Connection mppconn = null;
    Statement mppstm = null;
    ResultSet mpprs = null;

    String sql1 = " ";
    String sql2 = " ";
    String sql3 = " ";
    String sql4 = " ";
    String sql5 = " ";
    String sql6 = " ";

    public static void main(String[] args) throws Exception {
        AutoMysqltoMPP aidth = new AutoMysqltoMPP();
        aidth.getMYSQLConnection();
        aidth.MYSQLReleaseResource();
        aidth.getMPPConnection();
        aidth.MPPReleaseResource();
        aidth.CreateMPPTable();
//      aidth.ImportDataToMPP();
        System.out.println("程序已经执行完毕!请去waterdrop验证结果吧!!");
    }

    public void CreateMPPTable() {
        mysqlconn = getMYSQLConnection();
        mppconn = getMPPConnection();
        try {
            mppstm = mppconn.createStatement();
            mysqlpstm = mysqlconn.createStatement();
            int i = 0;
                String sql = "SELECT table_schema\r\n" + 
                        "   ,table_name\r\n" + 
                        "   ,(\r\n" + 
                        "       CASE \r\n" + 
                        "           WHEN ORDINAL_POSITION = mincol\r\n" + 
                        "               AND ORDINAL_POSITION < maxcol\r\n" + 
                        "               THEN CONCAT (\"create  table \"\r\n" + 
                        "                       ,table_schema\r\n" + 
                        "                       ,\".\"\r\n" + 
                        "                       ,table_name\r\n" + 
                        "                       ,\"(`\"\r\n" + 
                        "                       ,column_name\r\n" + 
                        "                       ,\"` \"\r\n" + 
                        "                       ,COLUMN_TYPE\r\n" + 
                        "                       ,\",\"\r\n" + 
                        "                       )\r\n" + 
                        "           WHEN ORDINAL_POSITION = mincol\r\n" + 
                        "               AND ORDINAL_POSITION = maxcol\r\n" + 
                        "               THEN CONCAT (\"create  table \"\r\n" + 
                        "                       ,table_schema\r\n" + 
                        "                       ,\".\"\r\n" + 
                        "                       ,table_name\r\n" + 
                        "                       ,\"(`\"\r\n" + 
                        "                       ,column_name\r\n" + 
                        "                       ,\"` \"\r\n" + 
                        "                       ,COLUMN_TYPE\r\n" + 
                        "                       ,\");\"\r\n" + 
                        "                       )\r\n" + 
                        "           WHEN ORDINAL_POSITION > mincol\r\n" + 
                        "               AND ORDINAL_POSITION < maxcol\r\n" + 
                        "               THEN CONCAT (\r\n" + 
                        "                       \"`\"\r\n" + 
                        "                       ,column_name\r\n" + 
                        "                       ,\"` \"\r\n" + 
                        "                       ,COLUMN_TYPE\r\n" + 
                        "                       ,\",\"\r\n" + 
                        "                       )\r\n" + 
                        "           WHEN ORDINAL_POSITION = maxcol\r\n" + 
                        "               THEN CONCAT (\r\n" + 
                        "                       \"`\"\r\n" + 
                        "                       ,column_name\r\n" + 
                        "                       ,\"` \"\r\n" + 
                        "                       ,COLUMN_TYPE\r\n" + 
                        "                       ,\");\"\r\n" + 
                        "                       )\r\n" + 
                        "           END\r\n" + 
                        "       ) AS statement\r\n" + 
                        "   ,ORDINAL_POSITION\r\n" + 
                        "   ,maxcol\r\n" + 
                        "   ,mincol\r\n" + 
                        "FROM (\r\n" + 
                        "   SELECT b.table_schema,b.table_name,b.ORDINAL_POSITION,b.column_name,\r\n" + 
                        "   (case\r\n" + 
                        "   when column_type = 'timestamp' then 'datetime'\r\n" + 
                        "   when column_type = 'bit(1)' then 'int(1)'\r\n" + 
                        "   else\r\n" + 
                        "       column_type\r\n" + 
                        "   end ) AS column_type\r\n" + 
                        "       ,a.maxcol\r\n" + 
                        "       ,a.mincol\r\n" + 
                        "   FROM (\r\n" + 
                        "       SELECT table_schema\r\n" + 
                        "           ,table_name\r\n" + 
                        "           ,max(ORDINAL_POSITION) maxcol\r\n" + 
                        "           ,min(ORDINAL_POSITION) mincol\r\n" + 
                        "       FROM information_schema.COLUMNS\r\n" + 
                        "       GROUP BY table_schema\r\n" + 
                        "           ,table_name\r\n" + 
                        "       ) a\r\n" + 
                        "   JOIN (\r\n" + 
                        "       SELECT table_schema\r\n" + 
                        "           ,table_name\r\n" + 
                        "           ,ORDINAL_POSITION\r\n" + 
                        "           ,column_name\r\n" + 
                        "           ,COLUMN_TYPE\r\n" + 
                        "       FROM information_schema.COLUMNS\r\n" + 
                        "       ORDER BY table_schema\r\n" + 
                        "           ,table_name\r\n" + 
                        "           ,ORDINAL_POSITION ASC\r\n" + 
                        "       ) b ON a.table_schema = b.table_schema\r\n" + 
                        "       AND a.table_name = b.table_name\r\n" + 
                        "   ) c\r\n" + 
                        "WHERE table_schema = '"+MYSQLDATABASE+"'";
                mysqlrs = mysqlpstm.executeQuery(sql);
                while (mysqlrs.next()) {
                    sql1 = mysqlrs.getString(3);
                    sql2 = sql2 + sql1;
                }

            sql3 = "create database IF NOT EXISTS " + MYSQLDATABASE;
            mppstm.execute(sql3);
            System.out.println("-------------------建mpp表,表结构的语句为:" + sql2);
            String[] sqls=sql2.split(";");
            for (String m : sqls) {
                mppstm.execute(m);
            }
            System.out.println("----------------------------------------建mpp表已结束!!!!!!!!!!!!!!!!!!!!!!!!!!!!!");
            mppstm.close();
            mysqlpstm.close();
        } catch (SQLException e) {
            e.printStackTrace();
        } finally {
            MYSQLReleaseResource();
            MPPReleaseResource();
        }
    }

    public void ImportDataToMPP() {
        mysqlconn = getMYSQLConnection();
        mppconn = getMPPConnection();
        String sql = "select table_name from user_tables where num_rows > 0 order by table_name asc";
        int i = 0;
        try {
            mysqlpstm = mysqlconn.createStatement();
            mysqlrs = mysqlpstm.executeQuery(sql);
            mppstm = mppconn.createStatement();
            while (mysqlrs.next()) {
                i = i + 1;
                String table_name = mysqlrs.getString("table_name").replaceAll("\\$", "");
                String sql7 = "insert into " + MYSQLDATABASE + "." + table_name + " select * from " + MYSQLDATABASE
                        + "_ex." + table_name;
                System.out.println("现在插入第"+i+"个表:"+sql7);
                mppstm.execute(sql7);
            }
        } catch (SQLException e) {
            e.printStackTrace();
        } finally {
            MYSQLReleaseResource();
            MPPReleaseResource();
        }
    }

    public Connection getMYSQLConnection() {
        try {
            Class.forName(MYSQLDRIVER);
            mysqlconn = DriverManager.getConnection(MYSQLURL, MYSQLUSERNAME, MYSQLPASSWORD);
        } catch (ClassNotFoundException e) {
            throw new RuntimeException("class not find !", e);
        } catch (SQLException e) {
            throw new RuntimeException("get connection error!", e);
        }

        return mysqlconn;
    }

    public void MYSQLReleaseResource() {
        if (mysqlrs != null) {
            try {
                mysqlrs.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
        if (mysqlpstm != null) {
            try {
                mysqlpstm.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
        if (mysqlconn != null) {
            try {
                mysqlconn.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
    }

    public Connection getMPPConnection() {
        try {
            Class.forName(MPPDRIVER);
            mppconn = DriverManager.getConnection(MPPURL, MPPUSERNAME, MPPPASSWORD);
        } catch (ClassNotFoundException e) {
            throw new RuntimeException("class not find !", e);
        } catch (SQLException e) {
            throw new RuntimeException("get connection error!", e);
        }
        return mppconn;
    }

    public void MPPReleaseResource() {
        if (mpprs != null) {
            try {
                mpprs.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
        if (mppstm != null) {
            try {
                mppstm.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
        if (mppconn != null) {
            try {
                mppconn.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
    }
}
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助 &nbsp; &nbsp; 相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
关系型数据库 MySQL
MySQL毫秒数自动四舍五入了解一下
最近在项目中看到一个问题,就是某个时间通过代码赋值毫秒数,然后再入库MySQL,查询MySQL发现竟然时间的日期变了,究竟是什么原因导致的?让我们来一探究竟。
MySQL毫秒数自动四舍五入了解一下
|
存储 运维 关系型数据库
头大了,Mysql写入数据十几秒后被自动删除了
事情是这样的,在公司内部新开发了一个功能还没有上线,目前部署在测试环境,Node服务会开启一个定时任务,每5分钟会处理好一部分数据写入到mysql数据库中。
193 0
头大了,Mysql写入数据十几秒后被自动删除了
|
关系型数据库 MySQL
MySQL:自动维护create_time和update_time字段
通过建表语句设置,让mysql自动维护这两个字段,那么编程的时候也能少写一部分代码
97 0
|
存储 SQL 监控
自动,MySQL触发器,完整详细可收藏
自动,MySQL触发器,完整详细可收藏
285 0
自动,MySQL触发器,完整详细可收藏
|
云安全 关系型数据库 MySQL
如何解决mysql服务经常会自动终止的问题
最近在帮客户网站搬家的时候遇到一个比较奇怪的问题,网站搬家后服务器的mysql服务偶尔会莫名其妙的自动终止,而重启服务会报“ERROR! The server quit without updating PID file”这个错误,开始认为对方的服务器被攻击了,经过一番排查发现并没有;
2205 0
如何解决mysql服务经常会自动终止的问题
|
SQL Oracle 关系型数据库
软件测试mysql面试题:什么是SQL中的自动增量?
软件测试mysql面试题:什么是SQL中的自动增量?
88 0
|
关系型数据库 MySQL
MySQL:自动维护create_time和update_time字段
MySQL:自动维护create_time和update_time字段
160 0
|
存储 SQL 监控
MySQL的触发器——自动智能化的数据维护
MySQL的触发器——自动智能化的数据维护
222 0
MySQL的触发器——自动智能化的数据维护
|
JSON 监控 关系型数据库
zabbix低自动发现--监控mysql多实例(二十九)
zabbix低级自动发现监控mysql多实例 1.低级自动发现概念 低级自动发现本身就是一个key,在这个自动发现规则中包含有很多个监控原型,这些的监控原型都是依靠于自动发现规则根据各种过滤器最后匹配到的结果进行监控 低级自动发现经常适用于在同一台机器上有很多重复的监控项,人工操作非常繁重,这时候就可以配置一个低级自动发现,将自动发现做成模板,让对应的主机进行链接,经过一段时间的扫描后会自动的加入到监控中
526 0
zabbix低自动发现--监控mysql多实例(二十九)
|
关系型数据库 MySQL 数据库
Solr 如何自动导入来自 MySQL 的数据
Solr 如何自动导入来自 MySQL 的数据
130 0
Solr 如何自动导入来自 MySQL 的数据