数据交换程序异常引发的艰难的ORACLE数据提纯作业

简介:

昨日上班巡检数据库发现,其中一个数据库表空间一个晚上暴增了9G:

 

表空间状况:

  

TABLESPACE_NAME

TOTAL_SPACE

USED_SPACE

PCT_FREE

1

SZ_DATA

75774.984375M

63662.796875M

 84.02%

 

因为晚上的WEB业务非常稀少,马上怀疑是数据交换出了问题,不是真的预订数据多就是数据交换程序出错。因为我们的交换程序有个特性,把所有的交换内容包括交换出错的详细信息都用CLOB字段保存在表里了。

于是用如下语句进一步查大字段对象:

 
  1. --大字段 
  2. SELECT A.TABLE_NAME, 
  3.        A.COLUMN_NAME, 
  4.        B.SEGMENT_NAME, 
  5.        B.SEGMENT_TYPE, 
  6.        B.TABLESPACE_NAME, 
  7.        B.BYTES / 1024 / 1024
  8.   FROM USER_LOBS A, USER_SEGMENTS B 
  9. WHERE A.SEGMENT_NAME = B.SEGMENT_NAME 
  10. ORDER BY B.BYTES DESC

查询结果:

TABLE_NAME

COLUMN_NAME

SEGMENT_NAME

SEGMENT_TYPE

TABLESPACE_NAME

B.BYTES/1024/1024

EXCHANGE_LOG

ERROR_TRACE

SYS_LOB0000077498C00012$$

LOBSEGMENT

SZ_DATA

50310

SEND_CONTROL

CONTENT

SYS_LOB0000077595C00003$$

LOBSEGMENT

SZ_DATA

2240

ACCESSORY_UPLOAD

FILEDATA

SYS_LOB0000077486C00010$$

LOBSEGMENT

SZ_DATA

488

EXCHANGE_LOG_HISTORY

ERROR_TRACE

SYS_LOB0000133755C00012$$

LOBSEGMENT

SZ_DATA

72

SEND_CONTROL

ERR_TRACE

SYS_LOB0000077595C00008$$

LOBSEGMENT

SZ_DATA

9

FILES

CONTENT

SYS_LOB0000077501C00004$$

LOBSEGMENT

SZ_DATA

2

SEND_CONTROL_HISTORY_2009

CONTENT

SYS_LOB0000133605C00003$$

LOBSEGMENT

SZ_DATA

0.0625

SEND_CONTROL_HISTORY

ERR_TRACE

SYS_LOB0000103089C00008$$

LOBSEGMENT

SZ_DATA

0.0625

MEMOS

CONTENT

SYS_LOB0000077530C00006$$

LOBSEGMENT

SZ_DATA

0.0625

SEND_CONTROL_HISTORY

CONTENT

SYS_LOB0000103089C00003$$

LOBSEGMENT

SZ_DATA

0.0625

NOTICES

CONTENT

SYS_LOB0000077538C00007$$

LOBSEGMENT

SZ_DATA

0.0625

SEND_CONTROL_HISTORY_2009

ERR_TRACE

SYS_LOB0000133605C00008$$

LOBSEGMENT

SZ_DATA

0.0625

很显然上述EXCHANGE_LOG占据了50310M的空间,而该表空间总共消耗了63662.796875M,显然问题就出在这个大对象下。

因为该部分数据不能测地删除,故采用如下JOB对重复数据进行提纯处理:

我们通过建exchange_log_history表提取sz_exchange_log中的数据,删除大量的冗余数据

 
  1. create or replace procedure p_job_exchange_log_pure Authid Current_User Is 
  2.   num   number; 
  3.   days  number; 
  4.   v_sql varchar2(3000); 
  5. begin 
  6.  
  7. select trunc(Sysdate- min(create_date)) into days from exchange_log; 
  8.  
  9.   num := 0; 
  10.   while num < days 
  11.  
  12.   LOOP 
  13.     begin 
  14.       --建立断点,若异常则回滚到point1之前 
  15.       savepoint point1; 
  16.       v_sql := 'insert into exchange_log_history('
  17.       v_sql := v_sql || 
  18.                ' Select * from exchange_log a Where (msg_type,msg_code) in (select msg_type,msg_code from exchange_log Where trunc(create_date)=trunc(sysdate-'|| num ||') group by msg_type,msg_code having count(*) >= 1)'
  19.       v_sql := v_sql || 
  20.                ' And rowid in (select min(rowid) from exchange_log Where trunc(create_date)=trunc(sysdate-'|| num || ') group by msg_type,msg_code having count(*)>=1))'
  21.       execute immediate v_sql; 
  22.       commit
  23.       num := num + 1; 
  24.     Exception 
  25.       when others then 
  26.         rollback to savepoint point1; /*//*异常处理,保存点下面的操作都不会被执行*/ 
  27.         return
  28.     end
  29.  
  30.   end LOOP; 
  31.   End p_job_exchange_log_pure; 

 

 本文转自zylhsy 51CTO博客,原文链接:http://blog.51cto.com/yunlongzheng/635746,如需转载请自行联系原作者

目录
打赏
0
0
0
0
69
分享
相关文章
【YashanDB 知识库】YMP 校验从 yashandb 同步到 oracle 的数据时,字段 timestamp(0) 出现不一致
在YMP校验过程中,从yashandb同步至Oracle的数据出现timestamp(0)字段不一致问题。原因是yashandb的timestamp(x)存储为固定6位小数,而Oracle的timestamp(0)无小数位,同步时会截断yashandb的6位小数,导致数据差异。受影响版本:yashandb 23.2.7.101、YMP 23.3.1.3、YDS联调版本。此问题会导致YMP校验数据内容不一致。
【YashanDB 知识库】通过 dblink 查询 Oracle 数据时报 YAS-07301 异常
客户在使用 YashanDB 通过 yasql 查询 Oracle 数据时,遇到 `YAS-07301 external module timeout` 异常,导致 dblink 功能无法正常使用,影响所有 YashanDB 版本。原因是操作系统资源紧张,无法 fork 新子进程。解决方法包括释放内存、停掉不必要的进程或增大进程数上限。分析发现异常源于 system() 函数调用失败,返回 -1,通常是因为 fork() 失败。未来 YashanDB 将优化日志信息以更好地诊断类似问题。
【YashanDB知识库】Flink CDC实时同步Oracle数据到崖山
本文介绍通过Flink CDC实现Oracle数据实时同步至崖山数据库(YashanDB)的方法,支持全量与增量同步,并涵盖新增、修改和删除的DML操作。内容包括环境准备(如JDK、Flink版本等)、Oracle日志归档启用、用户权限配置、增量日志记录设置、元数据迁移、Flink安装与配置、生成Flink SQL文件、Streampark部署,以及创建和启动实时同步任务的具体步骤。适合需要跨数据库实时同步方案的技术人员参考。
【YashanDB知识库】Flink CDC实时同步Oracle数据到崖山
【YashanDB 知识库】YMP 校验从 yashandb 同步到 oracle 的数据时,字段 timestamp(0) 出现不一致
【YashanDB 知识库】YMP 校验从 yashandb 同步到 oracle 的数据时,字段 timestamp(0) 出现不一致
【YashanDB知识库】通过dblink查询Oracle数据时报YAS-07301异常
【YashanDB知识库】通过dblink查询Oracle数据时报YAS-07301异常
【YashanDB 知识库】通过 dblink 查询 Oracle 数据时报 YAS-07301 异常
某客户在使用 YashanDB 通过 yasql 查询 Oracle 数据时,遇到 `YAS-07301 external module timeout` 异常,导致 dblink 功能无法正常使用,影响所有版本。问题源于操作系统资源紧张,无法 fork 新子进程。解决方法包括释放内存、停掉不必要的进程或增大进程数上限。分析发现异常原因为系统调用 fork() 失败。经验总结:优化日志记录,提供更多异常信息。
【YashanDB知识库】YMP校验从yashandb同步到oracle的数据时,字段timestamp(0)出现不一致
【YashanDB知识库】YMP校验从yashandb同步到oracle的数据时,字段timestamp(0)出现不一致
【迁移秘籍揭晓】ADB如何助你一臂之力,轻松玩转Oracle至ADB的数据大转移?
【8月更文挑战第27天】ADB(Autonomous Database)是由甲骨文公司推出的自动化的数据库服务,它极大简化了数据库的运维工作。在从传统Oracle数据库升级至ADB的过程中,数据迁移至关重要。
133 0
实时计算 Flink版产品使用问题之怎么实现从Oracle数据库读取多个表并将数据写入到Iceberg表
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
【赵渝强老师】Oracle的还原数据
Oracle数据库中的还原数据(也称为undo数据或撤销数据)存储在还原表空间中,主要用于支持查询的一致性读取、实现闪回技术和恢复失败的事务。文章通过示例详细介绍了还原数据的工作原理和应用场景。
【赵渝强老师】Oracle的还原数据

推荐镜像

更多
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等