绑定完请刷新页面
取消
刷新

分享好友

×
取消 复制
追本溯源丨MogDB代码解析之关于CPU占用问题的优化
2022-01-12 16:19:33

openGauss自去年“6·30”开源以来,受到了业界的普遍关注,其以性能、企业级内核和高度的安全增强,为数据库开源社区注入了新的活力。云和恩墨作为openGauss的重要合作伙伴,积极参与到开源生态建设中来,时间推出了基于openGauss的企业版 – MogDB,并以此为基础,围绕高可用、安全、自动化运维、数据库一体机、SQL审核优化等企业需求推出整体解决方案。

本期开始,小编将连载《追本溯源丨MogDB代码解析》系列文章,以期为读者更好、更深入地学习openGauss提供帮助。

1.

问题描述

空闲时的openGauss也会占用一定的CPU,通过perf top,htop等工具定位到是Percentile线程占用。


02.

代码解读

  • 代码位置:

    https://gitee.com/opengauss/openGauss-server/blob/master/src/gausskernel/cbb/instruments/percentile/percentile.cpp (复制链接至浏览器中打开或直接点击文末“阅读原文”)

  • Percentile线程的功能作用,以及其内部实现如下。


01

PercentileMain

PercentileMain初始化于系统启动(postmaster.cpp)时候,无论是否启用统计特性,线程都会初始化并启动。

主循环流程:

  • 根据信号响应重载配置文件。主要相关参数:

    • 是否启用统计信息

    • 统计信息计算频率(默认10s)

  • 启动SubPercentileMain执行实际的采集计算。

  • sleep 10s
    采用CpuCyclesLevelTime(mot相关方法,根据cpu循环时间计算得到的时间,应该是为了arm架构的优化做的方法,这里x86机器采用rdtsc指令,arm采用cntvct_el0指令)。



02

SubPercentileMain

主循环:
  • while跳出条件判断is_enable_percentile_thread,这里默认情况下,只要是单节点模式,必然为true,只有分布式模式下的数据节点才会是false。

  • 根据信号响应重载配置文件。

  • 执行calculatePercentileOfSingleNode计算统计信息(分布式下采用calculatePercentileOfMultiNode计算)。

  • 执行pg_usleep 这里怀疑是笔误,入参仅10,也就是10微秒(delay.tv_usec = microsec % 1000000L;此处采用系统select调用作为sleep机制,并非系统api sleep或者nanosleep)。



03

calculatePercentileOfSingleNode

主流程:

  • 如果enable_instr_rt_percentile参数设置为false,这里跳出返回,不执行下面的逻辑。

  • pgstat_fetch_sql_rt_info_counter获取所有sql数量。

  • pgstat_fetch_sql_rt_info_internal获取所有sql的响应时间。

  • PercentileSpace::heapSort进行响应时间排序。

  • PercentileSpace::CalculatePercentile 计算响应时间比例。



04

已知问题

SubPercentileMain中,while循环中,pg_usleep(10)导致非常高频的系统select调用。

测试代码:

#include <sys/select.h>

#include <time.h>

int main( int argc,char

{    

   long microsec=10;

   for (int i=;i<1000000000;i++){

       struct timeval delay;

       delay.tv_sec = microsec / 1000000L;
       delay.tv_usec = microsec % 1000000L;
       (void)select(, NULL, NULL, NULL, &delay);

}

   return ;

}
03.

解决办法

  • 设置enable_instr_rt_percentile在is_enable_percentile_thread中进行判断,而非calculatePercentileOfSingleNode。

  • 修改pg_usleep调用到1毫秒或者10毫秒。

将第222行的 sleep(SLEEP_INTERVAL); 修改为 sleep(SLEEP_INTERVAL*1000);

第271行添加如下代码:

if (!u_sess->attr.attr_common.enable_instr_rt_percentile){

   return false;

}

重新编译安装并设置参数:
enable_instr_rt_percentile=off


04.

效果对比

我们已经将上述修改优化到了MogDB里,下面可以就社区版(openGauss)和商业发行版(MogDB)做个对比:

1. 分别启动MogDB和openGauss两个容器

[root@ecs-x86-001 ~]# docker run --name opengauss --privileged=true -d -e GS_PASSWORD=Enmo@123  opengauss:1.1.0
8f74e5f4d07fbec0d58dfaea75ef3816a821b6383be04c1776d8a057abd9e12c
[root@ecs-x86-001 ~]# docker run --name mogdb --privileged=true -d -e GS_PASSWORD=Enmo@123  mogdb:1.1.0
70c4ef716c33a3436a5fe7188b7f30dcf60467276b40acac997fec7ca8bee4af

2. 查看进程和copyright

[root@ecs-x86-001 ~]# docker ps -a
CONTAINER ID   IMAGE             COMMAND                  CREATED              STATUS              PORTS      NAMES
70c4ef716c33   mogdb:1.1.0       "entrypoint.sh mogdb"    About a minute ago   Up About a minute   5432/tcp   mogdb
8f74e5f4d07f   opengauss:1.1.0   "entrypoint.sh gauss…"   About a minute ago   Up About a minute   5432/tcp   opengauss
[root@ecs-x86-001 ~]# docker top mogdb
UID                 PID                 PPID                C                   STIME               TTY                 TIME                CMD
70                  4060                4041                0                   17:22               ?                   00:00:00            mogdb
[root@ecs-x86-001 ~]# docker top opengauss
UID                 PID                 PPID                C                   STIME               TTY                 TIME                CMD
70                  3644                3623                6                   17:21               ?                   00:00:08            gaussdb
[root@ecs-x86-001 ~]# docker exec -it opengauss bash
[root@8f74e5f4d07f /]# su - omm -c 'gsql -d postgres -p5432 -r -c"\copyright"'
GaussDB Kernel Database Management System
Copyright (c) Huawei Technologies Co., Ltd. 2018. All rights reserved.

[root@ecs-x86-001 ~]# docker exec -it mogdb bash
[root@70c4ef716c33 /]# su - omm -c 'gsql -d postgres -p5432 -r -c"\copyright"'
MogDB Kernel Database Management System
Copyright (c) Yunhe Enmo (Beijing) Information Technology Co., Ltd. Copyright © 2009-2020 , All rights reserved.

3. top对比实际效果

可以看到终效果,openGauss社区版空转时CPU消耗接近10%,而MogDB将这一数值降到了0.3%。

[root@ecs-x86-001 ~]# top -p 4060,3644
[root@ecs-x86-001 ~]# top -p 4060,3644
top - 17:28:05 up 29 days,  2:01,  1 user,  load average: 0.05, 0.07, 0.06
Tasks:   2 total,   0 running,   2 sleeping,   0 stopped,   0 zombie%Cpu(s):  0.0 us,  0.2 sy,  0.0 ni, 99.7 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 stKiB Mem : 65806096 total, 57493216 free,  3526940 used,  4785940 buff/cache
KiB Swap:        0 total,        0 free,        0 used. 60510156 avail Mem

 PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
3644 70        20   0 1764380 615248 113760 S   8.6  0.9   0:29.56 gaussdb
4060 70        20   0 1740936 591484 110196 S   0.3  0.9   0:01.44 mogdb

图片

MogDB是在高可靠、高性能的openGauss企业级内核基础上,通过在高可用、易维护、平缓迁移等方向提供的增强,为企业提供的国产数据库新选择。感兴趣的朋友可以下载容器镜像进行体验。

  • docker hub地址:

    https://hub.docker.com/repository/docker/enmotech/opengauss

  • github地址:

    https://github.com/enmotech/enmotech-docker-opengauss

  • gitee地址:

    https://gitee.com/opengauss/openGauss-server/tree/master/docker


数据驱动,成就未来,云和恩墨,不负所托!

云和恩墨,以“数据驱动 · 成就未来”为使命,专注于DT (数据技术)领域,致力于为全球的关键大型客户、高成长客户、中小客户和个人提供富有竞争力的解决方案、产品和服务,实现组织和个人的发展成功。
我们的核心业务:围绕数据资产,在数据产生、处理、应用和管理的端到端过程中,持续创新,研发云化、分布式、智能的DT产品和服务,包括DI(数据智能),DevOps(开发运维协同),dbPaaS(数据库云化管理),SDS(软件定义存储)和DMS(数据管理服务)等。
云和恩墨成立于2011年,截止到2020年底,600多名员工分布在国内外的32个营销服务网络,累计直接服务1,000多个组织,50,000多个业务系统,超过300,000个行业从业者。

分享好友

分享这个小栈给你的朋友们,一起进步吧。

MogDB
创建时间:2022-01-12 16:10:12
MogDB
展开
订阅须知

• 所有用户可根据关注领域订阅专区或所有专区

• 付费订阅:虚拟交易,一经交易不退款;若特殊情况,可3日内客服咨询

• 专区发布评论属默认订阅所评论专区(除付费小栈外)

技术专家

查看更多
  • gaokeke123
    专家
戳我,来吐槽~