pgpool-II的性能缺陷(二)

简介:

接上文 pgpool-II的性能缺陷:

前文已经说到,pgpool-II在replication mode状态下,是顺次而非并行执行SQL文给各个DB节点。

从Source的角度,可以看到:

    SimpleQuery → pool_send_and_wait  → send_simplequery_message
复制代码
/*                                    
 * Process Query('Q') message                                    
 * Query messages include an SQL string.                                    
 */                                    
POOL_STATUS SimpleQuery(POOL_CONNECTION *frontend, 
                POOL_CONNECTION_POOL *backend, int len, char *contents){
    ……                                
    /* log query to log file if necessary */                                
    if (pool_config->log_statement){                                
        pool_log("statement: %s", contents);                            
    }else{                                
        pool_debug("statement2: %s", contents);                            
    }                                
    ……                                
    string = query_context->original_query; 
    if (!RAW_MODE){                                
        ……                            
        /*                            
         * Query is not commit/rollback                            
         */                            
        if (!commit){                            
            char *rewrite_query;                        
            ……                        
            /*                        
             * Optimization effort: If there's only one session, we do 
             * not need to wait for the master node's response, and 
             * could execute the query concurrently.                        
             */                        
            if (pool_config->num_init_children == 1){                        
                /* Send query to all DB nodes at once */                    
                status = pool_send_and_wait(query_context, 0, 0); 
                /*                    
                free_parser();                    
                */                    
                return status;                    
            }                     
                                    
            /* Send the query to master node */                        
            if (pool_send_and_wait(query_context, 1, MASTER_NODE_ID) 
!= POOL_CONTINUE) { free_parser(); return POOL_END; } } /* * Send the query to other than master node. */ if (pool_send_and_wait(query_context, -1, MASTER_NODE_ID)
!= POOL_CONTINUE{
free_parser();
return POOL_END; } …… }else{ …… } return POOL_CONTINUE; }

/* 
* Send simple query and wait for response
* send_type:
* -1: do not send this node_id
* 0: send to all nodes
* >0: send to this node_id
*/
POOL_STATUS pool_send_and_wait(POOL_QUERY_CONTEXT *query_context,
int send_type, int node_id)
{
  ……
  /* Send query */
  for (i=0;i<NUM_BACKENDS;i++){
     ……
     per_node_statement_log(backend, i, string);

    if ( send_simplequery_message(CONNECTION(backend, i),

           len, string, MAJOR(backend)) != POOL_CONTINUE) { 

          return POOL_END;
    }
  }

  /* Wait for response */
  for (i=0;i<NUM_BACKENDS;i++){
    ……
    if (wait_for_query_response(frontend, CONNECTION(backend, i),

          MAJOR(backend)) != POOL_CONTINUE){
           /* Cancel current transaction */
           CancelPacket cancel_packet;

          cancel_packet.protoVersion = htonl(PROTO_CANCEL);
          cancel_packet.pid = MASTER_CONNECTION(backend)->pid;
          cancel_packet.key= MASTER_CONNECTION(backend)->key;
          cancel_request(&cancel_packet);

          return POOL_END;
    }
    ……
  }
return POOL_CONTINUE;
}

复制代码

经过对程序的进一步分析和试验,可以得出以下的结论:

在 Master Node 和其他各Node之间,对SQL文的执行是串行的。

在 Master Node以外的其他各Node之间,是并行执行的。其实是 

/* Send query */ 一段,无阻塞方式向各节点发送SQL文。
/* Wait for response */ 一段,虽然也是个循环,但是是串行。
不过好在向各节点发SQL文的时候,几乎是同时地发送命令,
所以 Wait for response 对一个节点检查获得SQL文执行结束消息以后,
几乎同时也会获得下一个节点SQL文执行结束的消息。

综合以上:如果对一个节点单独执行一段批处理耗时1小时,那么在replication mode 多个节点运行条件下,执行时间将变成 2小时。

至于为何 pgpool-II把对 Master Node和 其他Node的执行分开,也许有特殊考虑,也许是为了保证Master Node的正确性。







本文转自健哥的数据花园博客园博客,原文链接:http://www.cnblogs.com/gaojian/archive/2012/08/09/2630172.html,如需转载请自行联系原作者

目录
相关文章
|
缓存 负载均衡 关系型数据库
Pgpool-II实现高可用+读写分离+负载均衡(一)---- 规划及安装
Pgpool-II是一款工作在PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件。提供了连接池、复制、负载均衡、限制过多连接、看门狗、查询缓存等功能。
|
关系型数据库 数据库 PostgreSQL
PostgreSQL 12: Recovery.conf 文件参数合并到 postgresql.conf
PostgreSQL 12 的一个重要变化是 recovery.conf 配置文件中的参数合并到 postgresql.conf,recovery.conf 不再使用,我们看看手册的说明,如下: 发行说明 Move recovery.
5078 0
|
负载均衡
Pgpool-II实现高可用+读写分离+负载均衡(七)---- recovery_1st_stage分析
recovery_1st_stage是Pgpool online recovery的第一阶段,位于PG_DATA目录下,主要功能就是使用pg_basebackup恢复(recovery)从节点。
|
关系型数据库 测试技术 数据库
PostgreSQL数据库压力测试工具pgbench简单应用
PG数据库提供了一款轻量级的压力测试工具叫pgbench,其实就是一个编译好后的扩展性的可执行文件。
3270 0
|
运维 监控 安全
|
负载均衡 关系型数据库 网络安全
Pgpool-II实现高可用+读写分离+负载均衡(二)---- 配置篇
Pgpool-II是一款工作在PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件。提供了连接池、复制、负载均衡、限制过多连接、看门狗、查询缓存等功能。本篇介绍详细配置。
|
前端开发
Promise.all()方方详解
Promise.all()方方详解
Promise.all()方方详解
|
机器学习/深度学习 算法 自动驾驶
深度强化学习在大模型中的应用:现状、问题和发展
强化学习在大模型中的应用具有广泛的潜力和机会。通过使用强化学习算法,如DQN、PPO和TRPO,可以训练具有复杂决策能力的智能体,在自动驾驶、机器人控制和游戏玩家等领域取得显著成果。然而,仍然存在一些挑战,如样本效率、探索与利用平衡以及可解释性问题。未来的研究方向包括提高样本效率、改进探索策略和探索可解释的强化学习算法,以进一步推动强化学习在大模型中的应用。
3102 3
|
负载均衡
Pgpool-II实现高可用+读写分离+负载均衡(六)---- escalation.sh分析
Pgpool-II的escalation.sh主要用于切换浮动IP,pgpool_remote_start脚本用于启动standby节点,相对比较简单,放在一起了。