我们分析了Go原生网络模型以及部分源码,络库绝大部分场景下(99%),解析使用原生netpoll已经足够了。篇学
但是络库在一些海量并发连接下,原生netpoll会为每一个连接都开启一个goroutine处理,解析也就是篇学1千万的连接就会创建一千万个goroutine。
这就给了这些特殊场景下的络库优化空间,这也是解析像gnet和cloudwego/netpoll诞生的原因之一吧。
本质上他们的篇学底层核心都是一样的,都是络库基于epoll(linux)实现的。只是解析事件发生后,每个库的处理方式会有所不同。
本篇文章主要分析gnet的。至于使用姿势就不发了,gnet有对应的demo库,可以自行体验。
直接引用gnet官网的一张图:
gnet采用的是『主从多 Reactors』。也就是一个主线程负责监听端口连接,当一个客户端连接到来时,就把这个连接根据负载均衡算法分配给其中一个sub线程,由对应的sub线程去处理这个连接的读写事件以及管理它的死亡。
下面这张图就更清晰了。
我们先解释gnet的一些核心结构。
engine就是程序最上层的结构了。
接着看eventloop。
对应conn结构。
这里面有几个字段介绍下:
conn相当于每个连接都会有自己独立的缓存空间。这样做是为了减少集中式管理内存带来的锁问题。使用Ring buffer是为了增加空间的复用性。
整体结构就这些。
当程序启动时,
会根据用户设置的options明确eventloop循环的数量,也就是有多少个sub线程。再进一步说,在linux环境就是会创建多少个epoll对象。
那么整个程序的epoll对象数量就是count(sub)+1(main Listener)。
上图就是我说的,会根据设置的数量创建对应的eventloop,把对应的eventloop 注册到负载均衡器中。
当新连接到来时,就可以根据一定的算法(gnet提供了轮询、最少连接以及hash)挑选其中一个eventloop把连接分配给它。
我们先来看主线程,(由于我使用的是mac,所以后面关于IO多路复用,实现部分就是kqueue代码了,当然原理是一样的)。
Polling就是等待网络事件到来,传递了一个闭包参数,更确切的说是一个事件到来时的回调函数,从名字可以看出,就是处理新连接的。
至于Polling函数。
逻辑很简单,一个for循环等待事件到来,然后处理事件。
主线程的事件分两种:
一种是正常的fd发生网络连接事件。
一种是通过NOTE_TRIGGER立即激活的事件。
通过NOTE_TRIGGER触发告诉你队列里有task任务,去执行task任务。
如果是正常的网络事件到来,就处理闭包函数,主线程处理的就是上面的accept连接函数。
accept连接逻辑很简单,拿到连接的fd。设置fd非阻塞模式(想想连接是阻塞的会咋么样?),然后根据负载均衡算法选择一个sub 线程,通过register函数把此连接分配给它。
register做了两件事,首先需要把当前连接注册到当前sub 线程的epoll or kqueue 对象中,新增read的flag。
接着就是把当前连接放入到connections的map结构中 fd->conn。
这样当对应的sub线程事件到来时,可以通过事件的fd找到是哪个连接,进行相应的处理。
如果是可读事件。
到这里分析差不多就结束了。
在gnet里面,你可以看到,基本上所有的操作都无锁的。
那是因为事件到来时,采取的都是非阻塞的操作,且是串行处理对应的每个fd(conn)。每个conn操作的都是自身持有的缓存空间。同时处理完一轮触发的所有事件才会循环进入下一次等待,在此层面上解决了并发问题。
当然这样用户在使用的时候也需要注意一些问题,比如用户在自定义EventHandler中,如果要异步处理逻辑,就不能像下面这样开一个g然后在里面获取本次数据。
而应该先拿到数据,再异步处理。
issues上有提到,连接是使用map[int]*conn存储的。gnet本身的场景就是海量并发连接,内存会很大。进而big map存指针会对 GC造成很大的负担,毕竟它不像数组一样,是连续内存空间,易于GC扫描。
还有一点,在处理buffer数据的时候,就像上面看到的,本质上是将buffer数据copy给用户一份,那么就存在大量copy开销,在这一点上,字节的netpoll实现了Nocopy Buffer,改天研究一下。
责任编辑:武晓燕 来源: RememberGo Go网络库Gnet(责任编辑:探索)
碧桂园服务(06098.HK)公布:拟收购蓝光嘉宝服务(02606.HK)64.62%股权 明日复牌
合丰集团(02320.HK)发布公告:年度公司拥有人应占亏损1.72亿港元
美尚生态(300495.SZ):控股股东解除质押及质押2894万股 占其所持股份比例14.39%
568万元!四川省攀枝花市获省建筑领域绿色低碳循环发展专项资金支持
宝威控股(00024.HK)年度扭亏为盈至540.6万港元 每股基本及摊薄盈利0.11港仙
中国煤层气(08270.HK)年度亏损收窄至3622.4万元 每股亏损为人民币3.08分