|
SQL 监控 关系型数据库
|

MySQL 如何保证主备的数据一致性的?

MySQL通过使用主从复制(Master-Slave Replication)来实现主备的数据一致性。主从复制是一种常见的数据复制技术,它将一个MySQL数据库服务器(主服务器)的数据复制到一个或多个其他MySQL数据库服务器(从服务器),以实现数据的冗余备份、读写分离等目的。以下是MySQL保证主备数据一致性的一些关键点: 1. **二进制日志(Binary Log)**:主服务器将所有的数据更改操作(如INSERT、UPDATE、DELETE)以二进制日志的形式记录下来,并定期将这些日志发送给从服务器。从服务器收到二进制日志后,按照主服务器的执行顺序逐条应用这些日志,从而保持数据的一致性

1547 0

活动报名|ClickHouse Hangzhou User Group第一届Meetup来啦~

ClickHouse Hangzhou User Group第一届Meetup来啦~

525 0
来自: 数据仓库  版块
|
存储 Dragonfly NoSQL
|

Tair 对 Redis 引擎架构之争的看法

本文详细讲解了阿里云自研数据库Tair的发展以及介绍。

73825 1
来自: NoSQL数据库  版块
|
Linux 数据中心 Windows
|

香港服务器租用

最后,租用香港服务器需要谨慎考虑您的需求和预算,选择适合您项目的服务器类型和提供商。确保您的选择能够提供可靠的性能和服务,以满足您的业务或项目要求。

1237 1
|
SQL 存储 数据挖掘
|

数据库数据恢复—数据库ndf文件大小变为0KB的数据恢复案例

存储设备损坏导致存储中SQL Server数据库崩溃。对数据库文件进行恢复后,用户发现有4个ndf文件的大小变为0KB。该SQL Server数据库每10天生成一个大小相同的NDF文件,该SQL Server数据库包含两个LDF文件。

102 4
|
Cloud Native 关系型数据库 分布式数据库
|

数据库性能诊断工具DBdoctor通过阿里云PolarDB产品生态集成认证

DBdoctor(V3.1.0)成功通过阿里云PolarDB分布式版(V2.3)集成认证,展现优秀兼容性和稳定性。此工具是聚好看科技的内核级数据库性能诊断产品,运用eBPF技术诊断SQL执行,提供智能巡检、根因分析和优化建议。最新版V3.1.1增加了对PolarDB-X和OceanBase的支持,以及基于cost的索引诊断功能。PolarDB-X是阿里巴巴的高性能云原生分布式数据库,兼容MySQL生态。用户可通过提供的下载地址、在线试用链接和部署指南体验DBdoctor。

589 0
来自: 数据库管理工具  版块
|
监控 NoSQL 算法
|

探秘Redis分布式锁:实战与注意事项

本文介绍了Redis分区容错中的分布式锁概念,包括利用Watch实现乐观锁和使用setnx防止库存超卖。乐观锁通过Watch命令监控键值变化,在事务中执行修改,若键值被改变则事务失败。Java代码示例展示了具体实现。setnx命令用于库存操作,确保无超卖,通过设置锁并检查库存来更新。文章还讨论了分布式锁存在的问题,如客户端阻塞、时钟漂移和单点故障,并提出了RedLock算法来提高可靠性。Redisson作为生产环境的分布式锁实现,提供了可重入锁、读写锁等高级功能。最后,文章对比了Redis、Zookeeper和etcd的分布式锁特性。

839 16
来自: NoSQL数据库  版块
|
人工智能 NoSQL 安全
|

MongoDB观点:让生成式AI成为业务增长的新动能,游戏公司可以这样做

游戏公司采用检索增强生成(RAG)技术,如MongoDB Atlas Vector Search,以提高AI输出的准确性和定制化服务。通过灵活的文档数据库如MongoDB Atlas,企业能更好地集成AI,确保数据安全并抓住创新机遇。ChatGPT标志着AI时代的转折点,游戏公司凭借大量数据优势,有望在这一变革中引领行业发展。

3043 3
|
SQL 关系型数据库 MySQL
|

【MySQL系列笔记】常用SQL

常用SQL分为三种类型,分别为DDL,DML和DQL;这三种类型的SQL语句分别用于管理数据库结构、操作数据、以及查询数据,是数据库操作中最常用的语句类型。 在后面学习的多表联查中,SQL是分析业务后业务后能否实现的基础,以及后面如何书写动态SQL,以及完成级联查询的关键。

317 6
来自: 关系型数据库  版块
|
存储 监控 Apache
|

查询提速11倍、资源节省70%,阿里云数据库内核版 Apache Doris 在网易日志和时序场景的实践

网易的灵犀办公和云信利用 Apache Doris 改进了大规模日志和时序数据处理,取代了 Elasticsearch 和 InfluxDB。Doris 实现了更低的服务器资源消耗和更高的查询性能,相比 Elasticsearch,查询速度提升至少 11 倍,存储资源节省达 70%。Doris 的列式存储、高压缩比和倒排索引等功能,优化了日志和时序数据的存储与分析,降低了存储成本并提高了查询效率。在灵犀办公和云信的实际应用中,Doris 显示出显著的性能优势,成功应对了数据增长带来的挑战。

53498 2
来自: 数据仓库  版块
|
Linux Apache
|

Linux设置开机启动

以上步骤允许您在Linux系统上配置开机启动服务或程序。确保将"service-name"替换为实际要配置的服务或程序的名称。

382 0
|
存储 NoSQL 关系型数据库
|

聊一聊分布式锁的设计模型

本文介绍了分布式锁的设计模型、运行原理以及具体用法,作者也在文中体现了自己的关于分布式锁的思考以及具体实践。

52933 7
来自: 关系型数据库  版块
|
存储 NoSQL Java
|

熟悉Redis吗,那Redis的过期键删除策略是什么

对于Redis,我们业务开发一般都只关心Redis键值对的查询、修改操作,可能因为懒或者只想能用就行,呵呵。很少关心键值对存储在什么地方、键值对过期了会怎么样、Redis有没什么策略处理过期的键、Redis处理过期键又有什么作用?但这些问题却是Java程序员在Redis上进阶的必备知识,不要埋怨Java要学习的系统知识为什么这么多,因为这些确确实实是进阶的程序员所必须掌握的。我们往下看看~

132 2
|
关系型数据库 MySQL 数据库
|

mysql 设置环境变量与未设置环境变量连接数据库的区别

设置与未设置MySQL环境变量在连接数据库时主要区别在于命令输入方式和系统便捷性。设置环境变量后,可直接使用`mysql -u 用户名 -p`命令连接,而无需指定完整路径,提升便利性和灵活性。未设置时,需输入完整路径如`C:\Program Files\MySQL\...`,操作繁琐且易错。为提高效率和减少错误,推荐安装后设置环境变量。[查看视频讲解](https://www.bilibili.com/video/BV1vH4y137HC/)。

266 3
|
存储 SQL 关系型数据库
|

MySQL的优化利器⭐️索引条件下推,千万数据下性能提升273%🚀

以小白的视角探究MySQL索引条件下推ICP的优化,其中包括server层与存储引擎层如何交互、索引、回表、ICP等内容

446 3
来自: 关系型数据库  版块
|
缓存 关系型数据库 MySQL
|

mysql用in查询大量数据的方法

在MySQL中使用 IN 子句来查询大量数据时,性能可能会成为一个问题

791 0
|
存储 NoSQL 关系型数据库
|

【MongoDB系列笔记】索引

索引支持在MongoDB中高效地执行查询。如果没有索引,MongoDB必须执行全集合扫描,即扫描集合中的每个文档,以选择与查询语句匹配的文档。这种扫描全集合的查询效率是非常低的,特别在处理大量的数据时,查询可以要花费几十秒甚至几分钟,这对网站的性能是非常致命的。

100 1
|
存储 NoSQL 关系型数据库
|

【MongoDB系列笔记】MongoDB相关概念

MongoDB 是一个开源、高性能、无模式的文档型数据库,常用于处理高并发、海量数据的场景,尤其适合社交、游戏、物流、物联网和视频直播等领域。与传统的关系型数据库相比,MongoDB 更适合存储结构较为灵活、数据量大且事务性要求不高的数据。当面临高读写需求、大规模数据存储和高可扩展性需求时,可以选择 MongoDB。MongoDB 支持类似于 JSON 的 BSON 数据格式,具有丰富的数据模型,如文档、集合和数据库,以及强大的查询和索引功能。此外,MongoDB 提供复制集以实现高可用性和水平扩展性,以适应业务发展和数据增长。

271 0
来自: NoSQL数据库  版块
|
Ubuntu 关系型数据库 测试技术
|

pgbench 的安装

`pgbench` 是一个用于 PostgreSQL 的基准测试工具,用于对 PostgreSQL 数据库的性能进行评估。`pgbench` 是 PostgreSQL 附带的一个工具,因此在安装 PostgreSQL 后通常也会自动安装 `pgbench`。 在不同的操作系统上安装 `pgbench` 的方法可能会略有不同。以下是一些常见的操作系统上安装 `pgbench` 的方法: ### 在 Debian/Ubuntu 上 1. 安装 PostgreSQL:`pgbench` 通常会随 PostgreSQL 一起安装。 ```bash sudo apt-get upd

513 0
|
XML 存储 缓存
|

Spring缓存是如何实现的?如何扩展使其支持过期删除功能?

总之,Spring的缓存抽象提供了一种方便的方式来实现缓存功能,并且可以与各种缓存提供商集成以支持不同的过期策略。您可以根据项目的具体需求选择适合的方式来配置和扩展Spring缓存功能。

118 0
|
存储 NoSQL 数据库
|

为什么要用 Tair 来服务低延时场景 - 从购物车升级说起

“购物车升级”是今年双十一期间提升用户体验的关键项目,展示了大淘宝技术团队致力于通过技术突破消费者和商家体验的天花板。低延迟是这些挑战中的核心,内存数据库Tair因其高吞吐、大连接数、热点请求处理、异常流量管理和复杂计算逻辑优化等特点,在低延迟场景下表现出色。Tair使用内存/SCM混合存储和各种索引来提供低延迟服务,并通过无锁并发、水平扩展分区等技术应对高并发。此外,Tair还通过热点策略、流控和执行流程优化等手段确保在大促时的稳定性和性能。Tair在双十一期间支持了购物车、销量统计、卖家优惠券召回和互动场景等多种业务,展现其低延迟和高并发的能力。

77313 11
来自: NoSQL数据库  版块
|
缓存 监控 NoSQL
|

Redis经典问题:缓存穿透

本文介绍了缓存穿透问题在分布式系统和缓存应用中的严重性,当请求的数据在缓存和数据库都不存在时,可能导致数据库崩溃。为解决此问题,提出了五种策略:接口层增加校验、缓存空值、使用布隆过滤器、数据库查询优化和加强监控报警机制。通过这些方法,可以有效缓解缓存穿透对系统稳定性的影响。

239 3
来自: NoSQL数据库  版块
|
监控 NoSQL 算法
|

深入剖析Redis哨兵模式的原理和应用

Redis的哨兵模式是实现高可用性和自动故障转移的机制,当主服务器故障时,哨兵能自动检测并进行故障转移,确保服务连续和稳定性。哨兵模式通过监控主从服务器状态、自动故障转移、防止数据不一致,提高容错能力和负载均衡,降低运维成本,实现高可用性。哨兵通过检测主观下线和客观下线状态,以及选举Leader Sentinel来协调故障转移。Raft算法在其中用于领导者选举和状态一致性。哨兵模式通过综合考虑多种因素选举新主服务器并执行故障转移,保障集群稳定运行。

1252 0
来自: NoSQL数据库  版块
|
运维 Cloud Native 数据管理
|

数据管理DMS产品使用合集之数据归档功能可以在 DMS 上自动分批次执行吗

阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。

155 1
来自: 数据库管理工具  版块
|
关系型数据库 数据库 PostgreSQL
|

PostgreSQL从入门到精通教程 - 第50讲:PG分区表管理

Postgresql入门到精通第50讲

380 0
|
关系型数据库 分布式数据库 数据库
|

VLDB顶会论文解读 | PolarDB MySQL高性能强一致集群核心技术详解

在VLDB2023会议上,阿里云瑶池数据库团队的论文介绍了PolarDB-SCC,这是一个创新的云原生数据库系统,确保了低延迟的全局强一致读取。PolarDB-SCC解决了传统主从架构中只读节点可能返回过期数据的问题,实现了在不影响性能的情况下提供强一致性。通过重新设计的主从信息同步机制、线性Lamport时间戳和细粒度修改跟踪,以及利用RDMA优化的日志传输,PolarDB-SCC已经在PolarDB中成功应用超过一年,成为业界首个无感知全局一致性读的云原生数据库解决方案。

67393 0
来自: 关系型数据库  版块
|
存储 SQL Apache
|

阿里云数据库内核 Apache Doris 基于 Workload Group 的负载隔离能力解读

阿里云数据库内核 Apache Doris 基于 Workload Group 的负载隔离能力解读

66852 0
来自: 数据仓库  版块
|
运维 Cloud Native 关系型数据库
|

云原生数据仓库产品使用合集之原生数据仓库AnalyticDB PostgreSQL版如果是列存表的话, adb支持通过根据某个字段做upsert吗

阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。

478 0
来自: 数据仓库  版块
|
Cloud Native 关系型数据库 MySQL
|

云原生数据仓库产品使用合集之在ADB中,如何将源数据的多表(数据结构一致)汇总到一张表

阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。

432 1
来自: 数据仓库  版块
|
存储 NoSQL Redis
|

【Redis系列笔记】Redis总结

Redis是一个基于内存的 key-value 结构数据库。 Redis 是互联网技术领域使用最为广泛的存储中间件。 Redis是用C语言开发的一个开源的高性能键值对(key-value)数据库,官方提供的数据是可以达到100000+的QPS(每秒内查询次数)。 它存储的value类型比较丰富,也被称为结构化的NoSql数据库。

228 0
来自: NoSQL数据库  版块
|
存储 关系型数据库 MySQL
|

【MySQL系列笔记】InnoDB引擎-数据存储结构

InnoDB 存储引擎是MySQL的默认存储引擎,是事务安全的MySQL存储引擎。该存储引擎是第一个完整ACID事务的MySQL存储引擎,其特点是行锁设计、支持MVCC、支持外键、提供一致性非锁定读,同时被设计用来最有效地利用以及使用内存和 CPU。因此很有必要学习下InnoDB存储引擎,它的很多架构设计思路都可以应用到我们的应用系统设计中。

1333 4
来自: 关系型数据库  版块
|
NoSQL JavaScript Linux
|

【MongoDB系列相关笔记】单机部署

本文主要介绍了Windows和Linux系统中安装和启动MongoDB的步骤。

246 0
来自: NoSQL数据库  版块
|
运维 数据管理 数据库
|

数据管理DMS产品使用合集之在阿里云DMS中,想对数据精度进行校验,有什么方法

阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。

219 0
来自: 数据库管理工具  版块
|
SQL 存储 关系型数据库
|

【MySQL系列笔记】SQL优化

SQL优化是通过调整数据库查询、索引、表结构和配置参数等方式,提高SQL查询性能和效率的过程。它旨在减少查询执行时间、减少系统资源消耗,从而提升数据库系统整体性能。优化方法包括索引优化、查询重写、表分区、适当选择和调整数据库引擎等。

357 3
来自: 关系型数据库  版块
|
运维 安全 数据管理
|

数据管理DMS产品使用合集之要实现物理库去分表,该怎么操作

阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。

144 1
来自: 数据库管理工具  版块
|
安全 数据管理 数据库
|

数据管理DMS操作报错合集之阿里云DMS控制台上展示出了已经删除的数据库信息,如何解决

数据管理DMS(Data Management Service)是阿里云提供的数据库管理和运维服务,它支持多种数据库类型,包括RDS、PolarDB、MongoDB等。在使用DMS进行数据库操作时,可能会遇到各种报错情况。以下是一些常见的DMS操作报错及其可能的原因与解决措施的合集。

919 0
来自: 数据库管理工具  版块
|
SQL 安全 数据管理
|

数据管理DMS操作报错合集之DMS查询时候遇到"大字段信息不存在"如何解决

数据管理DMS(Data Management Service)是阿里云提供的数据库管理和运维服务,它支持多种数据库类型,包括RDS、PolarDB、MongoDB等。在使用DMS进行数据库操作时,可能会遇到各种报错情况。以下是一些常见的DMS操作报错及其可能的原因与解决措施的合集。

279 0
来自: 数据库管理工具  版块
|
NoSQL API Redis
|

最佳实践|如何使用c++开发redis module

本文将试着总结Tair用c++开发redis module中遇到的一些问题并沉淀为最佳实践,希望对redis module的使用者和开发者带来一些帮助(部分最佳实践也适用于c和其他语言)。

76833 0
来自: NoSQL数据库  版块
|
Cloud Native 关系型数据库 MySQL
|

云原生数据仓库产品使用合集之ADB MySQL湖仓版和 StarRocks 的使用场景区别,或者 ADB 对比 StarRocks 的优劣势

阿里云AnalyticDB提供了全面的数据导入、查询分析、数据管理、运维监控等功能,并通过扩展功能支持与AI平台集成、跨地域复制与联邦查询等高级应用场景,为企业构建实时、高效、可扩展的数据仓库解决方案。以下是对AnalyticDB产品使用合集的概述,包括数据导入、查询分析、数据管理、运维监控、扩展功能等方面。

1405 1
来自: 数据仓库  版块
|
关系型数据库 MySQL 测试技术
|

MySQL的`IN`的优化经验

限制IN列表的长度:IN子句中的元素数量较多时,会显著降低查询性能。尽量减少IN中的项数量。

715 0
|
NoSQL Java 关系型数据库
|

【Redis系列笔记】分布式锁

分布式锁:满足分布式系统或集群模式下多进程可见并且互斥的锁。 分布式锁的核心思想就是让大家都使用同一把锁,只要大家使用的是同一把锁,那么我们就能锁住线程,不让线程进行,让程序串行执行,这就是分布式锁的核心思路

1155 2
来自: NoSQL数据库  版块
|
存储 缓存 Java
|

【Spring系列笔记】依赖注入,循环依赖以及三级缓存

依赖注入: 是指通过外部配置,将依赖关系注入到对象中。依赖注入有四种主要方式:构造器注入、setter方法注入、接口注入以及注解注入。其中注解注入在开发中最为常见,因为其使用便捷以及可维护性强;构造器注入为官方推荐,可注入不可变对象以及解决循环依赖问题。本文基于依赖注入方式引出循环依赖以及三层缓存的底层原理,以及代码的实现方式。

410 0
|
存储 Cloud Native 大数据
|

国内独家|阿里云瑶池发布ClickHouse企业版:云原生Serverless新体验

全面升级为云原生架构,支持云原生按需弹性Serverless能力,解决了长期困扰用户的集群扩展效率和平滑性问题。

1434 0
来自: 数据仓库  版块
|
缓存 NoSQL 算法
|

【Redis系列笔记】内存淘汰及过期删除

Redis是一个内存键值对数据库,所以对于内存的管理尤为重要。Redis内部对于内存的管理主要包含两个方向,过期删除策略和数据淘汰策略。内存淘汰策略指在Redis内存使用达到一定阈值的时候,执行某种策略释放内存空间,以便于接收新的数据。数据过期删除策略是指在数据的有效时间到期后,如何从内存中删除这些数据的规则。

281 0
来自: NoSQL数据库  版块
|
SQL 存储 算法
|

clickhouse SQL优化

clickhouse 是 OLAP 数据库,但其具有独特的索引设计,所以如果拿 MySQL 或者其他 RDB 的优化经验来优化 clickhouse 可能得不到很好的效果,所以特此单独整理一篇文档,用于有 SQL 优化需求的同学,本人接触 clickhouse 时间也不长,难免有不足的地方,如果大家发现错误,还请不吝指正。

83800 3
来自: 数据仓库  版块
|
NoSQL Redis
|

透视Redis集群:心跳检测如何维护高可用性

Redis心跳检测保障集群可靠性,通过PING命令检测主从连接状态,预防数据丢失。当连接异常时,自动触发主从切换。此外,心跳检测辅助实现`min-slaves-to-write`和`min-slaves-max-lag`策略,避免不安全写操作。还有重传机制,确保命令无丢失,维持数据一致性。合理配置心跳检测,能有效防止数据问题,提升Redis集群的高可用性。关注“软件求生”获取更多Redis知识!

739 10
来自: NoSQL数据库  版块
|
存储 负载均衡 NoSQL
|

【Redis系列笔记】Redis集群

集群是一种在多个计算机或服务器之间分配和管理任务的方式。它们被广泛应用于大型计算任务、数据处理、网络服务和高性能计算等领域。在Redis中,主要有以下三种集群,分别是主从集群,哨兵集群,分片集群。

366 18
来自: NoSQL数据库  版块
|
运维 安全 数据管理
|

数据管理DMS产品使用合集之想要实现在 DMS 中执行事务,我该怎么操作

阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。

179 0
来自: 数据库管理工具  版块
|
SQL 数据管理 API
|

数据管理DMS产品使用合集之阿里云DMS提供API接口来进行数据导出功能吗

阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。

396 0
来自: 数据库管理工具  版块