性能优化反思:不要在for循环中操作DB

简介: 我们应该根据自己的业务场景,在for循环之前批量拿到数据,用尽量少的sql查询批量查到结果。 在for循环中进行数据的匹配组装

简单且朴素的原则:不要在for循环中操作DB,包括关系型数据库和NoSql。


我们应该根据自己的业务场景,在for循环之前批量拿到数据,用尽量少的sql查询批量查到结果。 在for循环中进行数据的匹配组装。


举个栗子


场景说明


  1. 业务在多个情景下需要获得用户的详细信息,有点可以通过查询用户表直接获取到,有的需要查询关联关系表获取到,有的只保存了关联的id,并没有单独创建关联关系表,需要单独写获取函数取值。
  2. 既然多个场景下需要调用,那么封装成一个公共方法,让多个场景统一调用公共方法是基本的优化思路。
  3. 上面提到了复杂的存取值关系,我们需要分析一下,哪些操作是耗时的,耗时的操作如何优化,能否减少sql查询的次数。


举例说明:


  1. 下面的代码示例,我们封装了 CommonRender 的类,所有可以统一输出的方法都在这里
  2. 下面代码标注了优化之前优化之后
  3. 优化之前:在每次查询都需要根据保存的id,去数据库查询;如果列表页每次返回30条数据,那这部分就需要30次sql查询。
  4. 优化之后:采用的是提前批量取值,又写了一个函数 _renderHobby ,只需要1次sql。
  5. 这样就极大的减少了sql查询,提高了程序响应的速度。


<?php
namespace App\Render;
.
.
.
class CommonRender extends BaseRender
{
    public static function renderUserinfo($data, $hobbyInfo = [])
    {
        if (!is_array($data)) {
            return [];
        }
        $ret = [
            'uid' => !isset($data['id']) ? 0 : $data['id'],
            'userid' => !isset($data['userid']) ? '' : $data['userid'],
            'username' => !isset($data['username']) ? '' : $data['username'],
            'usericon' => !isset($data['usericon']) ? [] : $data['usericon'],
            .
            .
            .
//优化之前
//          'hobby' => !isset($data['hobby']) ? [] : HobbyInfo::getByIds($data['hobby']),
//优化之后
            'hobby' => !isset($data['hobby']) ? [] : self::_renderHobby($data['hobby'], $hobbyInfo),
            .
            .
            .
        if (!empty($ret['birth'])) {
            $ret['zodiacSign'] = Utility::getZodiacSign($ret['birth']);
        } else {
            $ret['zodiacSign'] = '';
        }
        return $ret;
    }
    protected static function _renderHobby($userHobby, $hobbyInfo)
    {
        $ret = [];
        if ($userHobby) {
            $userHobbyIds = explode(',', $userHobby);
            foreach ($userHobbyIds as $key => $userHobbyId) {
                $ret[$key] = $hobbyInfo[$userHobbyId];
            }
        }
        return $ret;
    }
    //用户列表卡片常用字段
    public static function renderListCardUserinfo($data)
    {
        .
        .
        .
    }
}


进一步优化


上面的代码已经优化了性能,但是还不够优雅。


获取单用户信息场景比较多,比如编辑,登录,查看单人信息等,这种情况下我还每次都提前批量查询吗?这样的话需要改造的地方太多了。


下面做进一步优化:


  1. 在render方法内部封装了一层,如果外部没有传入或传入空数组,自己再查询db获得一次需要的数据源。


<?php
namespace App\Render;
.
.
.
class CommonRender extends BaseRender
{
    public static function renderUserinfo($data, $hobbyInfo = [])
    {
        //区别在这里:批量查询外部传入,减少sql查询次数; 单次查询在render内查一次
        $hobbyInfo = !empty($hobbyInfo) ? $hobbyInfo : HobbyInfo::getAllInfo();
        if (!is_array($data)) {
            return [];
        }
        $ret = [
            'uid' => !isset($data['id']) ? 0 : $data['id'],
            'userid' => !isset($data['userid']) ? '' : $data['userid'],
            'username' => !isset($data['username']) ? '' : $data['username'],
            'usericon' => !isset($data['usericon']) ? [] : $data['usericon'],
            .
            .
            .
//优化之前
//          'hobby' => !isset($data['hobby']) ? [] : HobbyInfo::getByIds($data['hobby']),
//优化之后
            'hobby' => !isset($data['hobby']) ? [] : self::_renderHobby($data['hobby'], $hobbyInfo),
            .
            .
            .
        if (!empty($ret['birth'])) {
            $ret['zodiacSign'] = Utility::getZodiacSign($ret['birth']);
        } else {
            $ret['zodiacSign'] = '';
        }
        return $ret;
    }
    protected static function _renderHobby($userHobby, $hobbyInfo)
    {
        $ret = [];
        if ($userHobby) {
            $userHobbyIds = explode(',', $userHobby);
            foreach ($userHobbyIds as $key => $userHobbyId) {
                $ret[$key] = $hobbyInfo[$userHobbyId];
            }
        }
        return $ret;
    }
    //用户列表卡片常用字段
    public static function renderListCardUserinfo($data)
    {
        .
        .
        .
    }
}


  1. 这样,那些获得单个用户资料的方法就不需要修改了。


//编辑用户资料
    public function editUserInfo(Request $request)
    {
        $userInfo = UserInfo::editUserById($this->_userid, $request);
        return [
            'user' =>
                CommonRender::renderUserinfo($userInfo)
                + UserInfo::formatCoverAndPickedFootprint($userInfo)
        ];
    }


性能对比


  1. 比如每次取30个用户数据,之前获得爱好,职业,期望部分要查询30次db。
  2. 优化之后只需要查询3次db。


public static function getBatchUserIntro($userid, $userList)
    {
        $retData = [];
        if (empty($userList)) {
            return $retData;
        }
        .
        .
        .
        //批量获得爱好、职业、期望遇到 在foreach中计算取值,不重复请求DB取值
        $hobbyInfo = HobbyInfo::getAllInfo();
        $professionInfo = ProfessionInfo::getAllInfo();
        $expectInfo = ExpectInfo::getAllInfo();
        foreach ($batchUserInfo as $item) {
            $retData[$item['userid']] = array_merge(
                    ['wxnumber' => Utility::maskWxnumber($item['wxnumber'], $batchExchangeStatus[$item['userid']] == UserUserWeixinExchange::TYPE_TRUE)]
                    + CommonRender::renderUserinfo($item, $hobbyInfo, $professionInfo, $expectInfo);
        }
        .
        .
        .
        return $retData;
   }


相关文章
|
4月前
|
存储 SQL 关系型数据库
谈谈SQL的优化经验
谈谈SQL的优化经验
|
SQL Oracle 关系型数据库
【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS 和 INNER JOIN效率,我们要分场景不要死记网上结论
从执行计划角度分析IN、EXISTS 和 INNER JOIN效率而不是死记网上结论、表的5种关联:INNER JOIN、LEFT JOIN、RIGHT JOIN 和 FULL JOIN 解析【SQL开发实战技巧】这一系列博主当作复习旧知识来进行写作,毕竟SQL开发在数据分析场景非常重要且基础,面试也会经常问SQL开发和调优经验,相信当我写完这一系列文章,也能再有所收获,未来面对SQL面试也能游刃有余~。
【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS 和 INNER JOIN效率,我们要分场景不要死记网上结论
|
SQL 缓存 关系型数据库
【MySQL技术之旅】(6)一直都倾向于优化查询,这次学习一下优化Insert插入语句
【MySQL技术之旅】(6)一直都倾向于优化查询,这次学习一下优化Insert插入语句
136 0
性能优化反思:不要在for循环中操作DB 进阶版
我们允许用户选择职业,系统预制了一批职业标签;又开放了自定义职业标签的功能,不限制自定义标签的次数。允许用户编辑资料时选择2个职业标签。
105 0
|
程序员
性能优化反思:减少DB查询,合理使用成员变量
高内聚,低耦合是非常深入人心的设计思想,在做到高内聚低耦合的同时,我们也要考虑到值传递的问题:要避免在抽取函数,封装代码时不合理的值传递,避免在多个函数内部重复查询相同的DB
|
SQL 关系型数据库 数据库
|
数据库管理 数据库 安全
sqlite事务模型、性能优化tips、常见误区
sqlite事务模型、性能优化tips、常见误区
9115 0
|
SQL 存储 关系型数据库
mysql存储过程的学习(mysql提高执行效率之进阶过程)
1:存储过程: 答:存储过程是sql语句和控制语句的预编译集合,以一个名称存储并作为一个单元处理;存储过程存储在数据库内,可以由应用程序调用执行,而且允许用户声明变量以及进行流程控制,存储类型可以接受参数,可以接受输入类型的参数,也可以接受输出类型的参数,并且可以存在多个返回值,因为存储过程的效率要比单一的sql语句执行效率高很多; 注意:存储过程执行效率之所高,在于普通的sql语句,每次都会对语法分析,编译,执行,而存储过程只是在第一次执行语法分析,编译,执行,以后都是对结果进行调用。
1438 0