绑定完请刷新页面
取消
刷新

分享好友

×
取消 复制
每秒几万次MySQL交互,搜狗纯异步MySQL客户端开源了!
2020-11-02 14:31:55
很多朋友问,如何学习RPC内核知识?
我的回答是,直接看源码

今年看源码,之前推荐过一个框架《单机40万QPS,搜狗WF框架,今年值得学习的开源代码》,随着源码阅读的越来越深入,发现了WF框架一个非常独特的地方:高性能纯异步MySQL客户端,非常有意思,今天和大家介绍一下自己的学习心得。

首先,什么是WF?
WF,是搜狗开源的C++服务器引擎框架。WF的设计目标是:轻量级,高性能搜狗几乎所有的C++后端服务,都基于这个框架,每天处理超过百亿的请求。它的性能超高,单机每秒50W的QPS,特别是高并发压测的情况下,比nginx和brpc表现都要好。

什么是WF高性能纯异步MySQL客户端?
WF高性能纯异步MySQL客户端,既继承了WF的极简设计目标,无需依赖任何库,又继承了高性能设计目标,在合理的配置下,每秒能处理几万次MySQL请求。

除此之外,它能支持事务,支持存储过程,支持多语句多结果集,并在内核防止SQL注入,互联网业务绝大部分需求都能轻松应对。
画外音:支持事务的异步MySQL客户端,太爽了。

同时,作为WF原生自有协议的一部分,它与任务流,服务治理能特性完美融合,与http,redis,计算任务统一使用,并能够通过upstream轻松实现读写分离。

为什么搜狗WF异步MySQL客户端,能做到每秒几万次数据库交互?

如上图所示,传统的MySQL客户端,往往是同步阻塞式的,在向MySQL发送请求到MySQL回复响应的过程中,整个线程处于阻塞等待状态。
画外音,图示:
(1)粉色:本地CPU计算;
(2)蓝色:与MySQL通讯,请求与响应;
(3)白色:本地等待;

此时,如果希望提高并发处理能力,往往要设置大量的工作线程,而工作线程的切换,以及临界资源的锁争夺,性能会有较大的影响。

而作为异步MySQL客户端,向MySQL发送请求之后,线程就可以执行本地其他异步调用,或者发送下一个MySQL请求,无任何阻塞,用很少的线程,就能拥有很高的并发处理能力
画外音:所有网络任务共享处理线程池。

体验完搜狗WF异步MySQL客户端,有什么感受?

首先,客户端使用起来非常简便。

如上图所示,简单的几行,就能够提交一个异步的MySQL任务。
画外音:
url参数,mysql://uname:pwd@host:port/dbname
set_query,可以设置希望执行的SQL语句;
callback,异步返回结果的回调;

其次,能够支持的命令非常丰富。
增删改查、建库删库、建表删表、预处理、使用存储过程和使用事务的多种需求,都可以轻松满足。
画外音:目前不支持切换数据库,但可以通过db.table的方式进行跨库的操作。

还有,对结果集的处理极其友好。
在异步回调中,通过task->get_resp()能够拿到MySQLResponse
(1)一个MySQLResponse里包含若干ResultSet
(2)一个ResultSet包含若干Row
(3)一个Row包含若干Field
对使用者非常友好,能够很轻松的进行结果集处理,规避掉各种细节。

同时,对连接的封装非常灵活。
如果无需独占连接,传入url创建任务,调用方甚至无需关注“连接”的存在;对于需要独占连接的事务需求,可以先创建连接,再在连接上创建任务。

后再强调一点,WF在github上的文档和demo非常齐全对于新手极其友好。而且碰到代码中不明白的地方,可以直接联系开发小组,作者会直接和大家交流,避免二手消息。

画外音:找一段demo代码单步执行下来,协议设计与实现,底层网络通讯,IO线程,工作线程,任务队列,线程同步互斥机制,超时处理机制,异常处理机制等,能迅速掌握一套RPC内核原理与细节,基本上国内大部分公司的offer能手到擒来。

WF,是今年我看过清爽的开源代码,非常适合了解通信内核,RPC内核,调度框架内核,强烈推荐给大家。

WF的高性能异步MySQL-client,也非常推荐大家使用,MySQL数据库老大难的性能瓶颈,说不定就解决了。

地址:https://github.com/sogou/workflow
画外音:WF还有很多的设计,等待大家去挖掘。

相关文章:
单机40万QPS,搜狗WF框架,今年值得学习的开源代码

阅读原文直达代码。好的代码,一起分享。
分享好友

分享这个小栈给你的朋友们,一起进步吧。

架构师之路
创建时间:2019-12-19 10:54:22
架构师之路,沈剑和他的朋友们,聊聊职场,聊聊互联网,聊聊管理,聊聊架构,聊聊人生
展开
订阅须知

• 所有用户可根据关注领域订阅专区或所有专区

• 付费订阅:虚拟交易,一经交易不退款;若特殊情况,可3日内客服咨询

• 专区发布评论属默认订阅所评论专区(除付费小栈外)

栈主、嘉宾

查看更多
  • 58沈剑
    栈主
  • hwayw
    嘉宾
  • 唐川ITPUB
    嘉宾
  • 渔人
    嘉宾

小栈成员

查看更多
  • ?
  • 山中老狐狸
  • gaokeke123
  • 栈栈
戳我,来吐槽~