:從原理到C語言高并發(fā)服務實現(xiàn))
如果你寫過一個基于select或poll的 TCP 服務器大概率遇到過這樣的尷尬連接數(shù)一旦漲到幾千輪詢掃描 FD 的開銷直接吃掉大部分 CPU而換成“每個連接開一個線程”的思路線程上下文切換又讓你不敢繼續(xù)往上加連接數(shù)。我第一次被epoll驚艷是在一臺配置很普通的機器上單線程事件循環(huán)扛住了上萬條長連接當時我就意識到高并發(fā)網(wǎng)絡服務這條路繞不開“事件驅動”這四個字而把事件驅動做規(guī)范、做優(yōu)雅的經(jīng)典框架就是Epoll-Reactor模式。這篇文章我會從 Reactor 模式的思想出發(fā)講到epoll為什么適合當事件分發(fā)器再到如何用 C 語言徒手寫一個最小可運行的Epoll-Reactor服務端最后聊多線程演進和我在實際調優(yōu)中踩過的坑。適合正在學 Linux 網(wǎng)絡編程的初學者也給想重構舊 IO 模型的老開發(fā)一點對比參考。整個鏈路我會盡量說人話但你也能感受到這套模式背后真正的設計功力。1. Reactor模式先搞清楚它解決了什么問題1.1 傳統(tǒng)阻塞IO模型為什么撐不住高并發(fā)很多人剛學網(wǎng)絡編程時寫的第一個服務端大概是這樣的socket、bind、listen然后在一個while循環(huán)里accept拿到客戶端連接后read數(shù)據(jù)、處理、write返回。這個模型有個肉眼可見的問題read會阻塞如果當前客戶端不發(fā)送數(shù)據(jù)服務端就卡在那個連接的read調用上其他客戶端完全無法連接。于是新手進階版的解決方案出來了主線程只做accept每來一個連接就創(chuàng)建一個子線程去服務它。這套“一個連接一個線程”的模型在小規(guī)模場景下非常好用代碼也好寫。但連接數(shù)一旦上千線程數(shù)跟著上千問題就來了每個線程默認??臻g不小8MB 虛擬內存上千線程內存壓力很嚇人線程切換成本高CPU 大量時間浪費在保存和恢復寄存器、內核棧上真正讀到的數(shù)據(jù)可能只有幾十字節(jié)大部分線程在阻塞等待資源利用率極低。所以我們需要一種機制讓操作系統(tǒng)告訴我們“哪個 socket 現(xiàn)在可讀了、哪個 socket 現(xiàn)在可寫了”我們只需要在事件發(fā)生的時候去處理。這就是 IO 多路復用。1.2 事件驅動與Reactor的核心角色select和poll雖然能實現(xiàn)多路復用但它們本質上還是在每次調用時把所有 fd 集合從用戶態(tài)拷貝到內核態(tài)內核再挨個遍歷 fd 判斷狀態(tài)返回后應用還得再遍歷一次才能知道哪些 fd 有事件。這個 O(n) 的復雜度在連接數(shù)萬級時同樣會拖垮性能。Reactor 模式在這樣的背景下被廣泛采用。它不是一個庫也不是某個框架的專利而是一種設計思想把“等待事件”和“處理事件”拆開。組件上主要分成三個部分事件源這里就是 socket fd、監(jiān)聽 fd 等事件分發(fā)器Dispatcher/Reactor負責注冊、監(jiān)聽這些事件源并在事件發(fā)生時把回調調度給對應的處理器事件處理器Handler真正執(zhí)行業(yè)務邏輯的地方比如解析 HTTP 請求、回復數(shù)據(jù)。打個比方阻塞 IO 就像一個小餐館每個顧客點菜都要一個服務員全程陪著服務員一多后廚反而亂Reactor 模式則是前廳只保留一個領班領班盯著所有桌子的“按鈴”哪個桌子按鈴了就叫對應的服務員去服務服務員忙完就回到待命狀態(tài)。epoll就是這個最敏感的“按鈴系統(tǒng)”它能精準告訴你哪一桌按了鈴。搞清楚了這個背景你就明白為什么會有Epoll-Reactor這個組合Reactor 負責頂層架構epoll負責高效事件通知兩者天然契合。2. Epoll三個API如何撐起事件通知機制2.1 為什么是epoll而不是select/pollselect的問題不光是 O(n) 遍歷它對 fd 數(shù)量還有硬性限制默認上限是 1024雖然能改內核參數(shù)和宏重新編譯但 fd_set 的位掩碼設計本身就不適合大規(guī)模 fd。poll擺脫了 1024 上限卻仍然要把全部 fd 傳給內核每次調用都有全量拷貝的成本。epoll之所以是“事件驅動”的是因為它讓內核維護了一棵紅黑樹來保存你關心的 fd同時維護一個就緒鏈表來記錄真正發(fā)生事件的 fd。每次epoll_wait返回時應用拿到的就是已經(jīng)準備好的事件不需要自己再遍歷所有 fd。也就是說復雜度從 O(n) 變成了 O(就緒事件數(shù))連接數(shù)越大收益越明顯。我第一次跑壓測時看到這個數(shù)據(jù)非常震撼同樣的連接數(shù)select在 2000 連接時 CPU 已經(jīng)接近 30%而epoll在一萬連接時單核 CPU 仍然保持個位數(shù)。這不是微優(yōu)化是數(shù)量級的差別。2.2 三個核心API的細節(jié)理解epoll使用起來很簡單一共三個函數(shù)int epoll_create1(int flags); int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event); int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);epoll_create1傳EPOLL_CLOEXEC是一個好習慣防止exec后 fd 意外泄漏到子進程。epoll_ctl的op基本就是EPOLL_CTL_ADD、EPOLL_CTL_MOD、EPOLL_CTL_DEL三件套。struct epoll_event是這個系統(tǒng)最關鍵的數(shù)據(jù)結構struct epoll_event { uint32_t events; /* 感興趣的事件 */ epoll_data_t data; /* 用戶自定義數(shù)據(jù) */ }; typedef union epoll_data { void *ptr; int fd; uint32_t u32; uint64_t u64; } epoll_data_t;這里的data是聯(lián)合體日常使用我會優(yōu)先選擇ptr而不是fd。因為項目里的連接一旦多起來你需要保存客戶端地址、接收緩沖區(qū)、超時時間等一堆狀態(tài)只用fd的話每次還得從 map 或數(shù)組里查直接用ptr把一個結構體指針掛上去事件回來時一步到位拿到這個連接的上下文效率高且語義清晰。事件類型方面最常用的幾個EPOLLIN對應的 fd 有數(shù)據(jù)可讀或對端關閉了連接半關閉EPOLLOUT對應的 fd 可以寫入不會阻塞EPOLLET邊沿觸發(fā)模式這是與默認水平觸發(fā)最大的分水嶺EPOLLONESHOT事件只觸發(fā)一次處理完需要重新注冊這是多線程模型下防止事件重復分發(fā)的關鍵手段EPOLLRDHUP對端關閉連接從 2.6.17 內核開始支持可以更早知道關閉事件。事件標志里EPOLLERR和EPOLLHUP通常是自動上報的你不一定需要主動注冊但代碼里要處理這種事件否則連接出錯了你可能完全無感知。3. 把Epoll改裝成Reactor架構與組件劃分3.1 單線程Reactor的動態(tài)流程Epoll-Reactor最簡單的形態(tài)是單線程事件循環(huán)運行邏輯大致這樣創(chuàng)建epoll描述符把監(jiān)聽 socket 注冊到epoll掛上accept回調循環(huán)調用epoll_wait等待事件拿到事件后通過data.ptr找到對應的 handler 結構體調用該 handler 注冊的事件處理函數(shù)處理完回到第 3 步繼續(xù)等待下一個事件。整個流程里只有一個線程在跑。這意味著回調函數(shù)里絕對不能做耗時的同步操作比如數(shù)據(jù)庫查詢、外部 HTTP 調用、復雜計算。你要是做了其實阻塞的不是整個線程嗎對所有連接的事件處理都被你拖住了。所以在單線程場景下業(yè)務必須足夠短平快或者把耗時任務異步化、投遞到線程池去執(zhí)行。3.2 模塊劃分與事件處理器設計要把epoll用得像 Reactor最好先定義幾個基礎結構/* 事件處理器抽象 */ struct event_handler { int fd; uint32_t events; int (*callback)(struct event_handler *self); void *args; /* 業(yè)務上下文 */ struct reactor *reactor; /* 所屬 reactor */ struct event_handler *next; /* 鏈表指針便于統(tǒng)一管理 */ }; /* reactor 核心 */ struct reactor { int epfd; int stop; struct event_handler *handlers; struct epoll_event *events; int maxevents; };這段設計里最重要的思想是所有 fd 都包裝成 event_handler連接關閉后整個結構體統(tǒng)一釋放。fd 不外露也就減少了很多裸close帶來的問題。處理器不關心它處理的是監(jiān)聽 fd 還是普通連接只要事件發(fā)生就執(zhí)行自己注冊的callback。監(jiān)聽 fd 的回調是on_accept普通連接的回調是on_read/on_write/on_close。這種“統(tǒng)一接口 各自實現(xiàn)”的寫法就是 Reactor 模式里“可擴展組件”的精髓。3.3 回調函數(shù)設計經(jīng)驗回調函數(shù)簽名我建議統(tǒng)一返回int用返回值表示“這個 handler 是否要繼續(xù)保留”。比如返回 0 表示正常返回 -1 表示需要關閉連接、釋放資源。這樣在主循環(huán)里可以統(tǒng)一做善后處理而不是每個回調內部各寫一套 close 邏輯。還有一點是觸發(fā)模式的選擇。LT水平觸發(fā)模式下只要緩沖區(qū)還有數(shù)據(jù)epoll_wait會不斷上報EPOLLIN代碼不容易漏數(shù)據(jù)但如果你對某個呆滯連接反復讀、反復上報CPU 會空轉。ET邊沿觸發(fā)模式下每次狀態(tài)變化只上報一次你必須一次讀完或寫到EAGAIN對代碼邏輯要求更高一旦沒循環(huán)讀完數(shù)據(jù)就留在緩沖區(qū)不會再有事件通知。我自己做高并發(fā)服務時讀事件偏向 ET 非阻塞 while 循環(huán)讀因為它能顯著減少無謂的系統(tǒng)調用但如果團隊里新手多、代碼維護壓力大LT 反而更穩(wěn)妥。沒有絕對好壞只有合不合適。4. 手寫一個最小Epoll-Reactor服務端4.1 基礎結構初始化先看主循環(huán)和初始化部分#include stdio.h #include stdlib.h #include string.h #include unistd.h #include errno.h #include fcntl.h #include sys/socket.h #include netinet/in.h #include sys/epoll.h #define MAX_EVENTS 1024 static int set_nonblock(int fd) { int flags fcntl(fd, F_GETFL, 0); if (flags 0) return -1; return fcntl(fd, F_SETFL, flags | O_NONBLOCK); } static int epfd; struct conn { int fd; int close_flag; char read_buf[4096]; int read_len; char write_buf[4096]; int write_len; int write_offset; };這里我把conn結構體當成這個連接的“所有狀態(tài)”。為什么不用兩個結構體區(qū)分連接和 handler早期我試過發(fā)現(xiàn)一個連接既要有 epoll 事件信息又要有業(yè)務緩沖區(qū)分拆之后每次都要互轉指針非常容易越界或重復釋放。合并的好處是一份內存管到底關連接時一個free就完事。4.2 事件循環(huán)主體核心循環(huán)void reactor_run() { struct epoll_event events[MAX_EVENTS]; while (1) { int n epoll_wait(epfd, events, MAX_EVENTS, -1); if (n 0) { if (errno EINTR) continue; /* 被信號中斷重來 */ perror(epoll_wait); break; } for (int i 0; i n; i) { struct conn *c events[i].data.ptr; uint32_t evs events[i].events; if (evs (EPOLLERR | EPOLLHUP)) { /* 錯誤事件優(yōu)先處理 */ conn_close(c); continue; } if (evs EPOLLIN) { conn_on_read(c); } if (evs EPOLLOUT) { conn_on_write(c); } } } }這里有幾個容易忽略的地方。第一epoll_wait的timeout參數(shù)我用了-1表示永久阻塞。如果你的程序有周期性任務比如心跳掃描、超時關閉空閑連接就不能這樣寫建議改成50或100毫秒的超時讓 loop 能反復醒來做定時檢查。但要注意超時太短會讓進程在沒事件時頻繁空轉CPU 飆高。第二events[i].data.ptr必須是剛才 4.1 里我們注冊進去的conn指針。如果注冊時掛的是fd這里還得自己查。我建議一律掛指針但你要保證這個指針的生命周期在epoll_wait期間是有效的。很多詭異崩潰都來自這里一個連接已經(jīng) close 并 free但內核 epoll 里還殘留著它的指針事件來了一訪問就是野指針。為了避免這種情況關閉連接時一定要先epoll_ctl(..., EPOLL_CTL_DEL, fd, NULL)再close(fd)再free(conn)順序不能亂。先 close 再 DEL 也不是不行但一旦 fd 被系統(tǒng)回收后復用而 epoll 里還掛著舊信息新連接就把舊事件頂?shù)袅诉@就會產生各種難以復現(xiàn)的 bug。4.3 監(jiān)聽fd的accept回調監(jiān)聽 socket 的注冊方式比較特殊它的事件處理器掛在監(jiān)聽 fd 上而不是普通連接上static void accept_cb() { struct sockaddr_in addr; socklen_t len sizeof(addr); while (1) { int cfd accept(listen_fd, (struct sockaddr *)addr, len); if (cfd 0) { if (errno EAGAIN || errno EINTR) break; perror(accept); break; } set_nonblock(cfd); struct conn *c calloc(1, sizeof(*c)); c-fd cfd; c-events EPOLLIN | EPOLLET; struct epoll_event ev; ev.events c-events; ev.data.ptr c; if (epoll_ctl(epfd, EPOLL_CTL_ADD, cfd, ev) 0) { perror(epoll_ctl add); close(cfd); free(c); continue; } } }accept這里用了while (1)這是 ET 模式的關鍵。因為accept只能通知你一次“有連接到達”如果只 accept 一個就回主循環(huán)同一批剩下的待連接連接就不會再觸發(fā)EPOLLIN了。千萬要在一次事件里把所有積壓的連接都 accept 完直到返回EAGAIN。還有一個細節(jié)accept拿到的cfd必須立刻設非阻塞。不管是 LT 還是 ETRead 操作如果不設非阻塞一遇到緩沖區(qū)沒數(shù)據(jù)就卡死整個線程。這個失誤我見過太多次癥狀就是“服務器一壓測就?!睂嶋H上線程卡在某次 read 上了。4.4 讀寫回調與善后邏輯讀回調static void conn_on_read(struct conn *c) { char tmp[4096]; while (1) { ssize_t n read(c-fd, tmp, sizeof(tmp)); if (n 0) { /* 追加到 conn 的讀緩沖越界要防 */ if (c-read_len n (int)sizeof(c-read_buf)) { /* 緩沖區(qū)滿按業(yè)務規(guī)則處理關連接或報錯 */ conn_close(c); return; } memcpy(c-read_buf c-read_len, tmp, n); c-read_len n; } else if (n 0) { /* 對端關閉 */ conn_close(c); return; } else { if (errno EAGAIN) return; /* 數(shù)據(jù)讀完正常返回 */ if (errno EINTR) continue; conn_close(c); return; } } }n 0說明對端正常關閉了這時做關閉動作。n 0 errno EAGAIN表示當前沒有更多數(shù)據(jù)對 ET 模式而言正是退出循環(huán)的信號。如果你用的是 LT 模式其實不需要 while 循環(huán)多讀一次也無妨但如果緩沖區(qū)有大量數(shù)據(jù)LT 會反復喚醒這就是 ET 更高效的原因之一。寫回調一般發(fā)生在什么時機一個常見場景是業(yè)務處理完需要給客戶端回寫數(shù)據(jù)。如果你直接在on_read里send數(shù)據(jù)量小還好數(shù)據(jù)量大時send可能只發(fā)了一部分剩余部分要等EPOLLOUT事件。這時就要在on_read里把沒發(fā)完的數(shù)據(jù)暫存到c-write_buf然后注冊EPOLLOUT。寫回調再繼續(xù)發(fā)發(fā)完后記得要把EPOLLOUT從關心事件里摘掉不然這個 socket 永遠可寫epoll_wait會瘋狂上報寫事件形成忙輪詢白白燒 CPU。4.5 連接關閉的統(tǒng)一出口我強烈建議所有連接關閉都走一個函數(shù)conn_close不要在業(yè)務回調里散落close(fd)、free(c)static void conn_close(struct conn *c) { if (c-close_flag) return; epoll_ctl(epfd, EPOLL_CTL_DEL, c-fd, NULL); close(c-fd); c-close_flag 1; free(c); }這樣能避免重復關閉。如果不設close_flag同一個 fd 可能在讀回調和寫回調里各走一次關閉第二次的epoll_ctl(DEL)就會失敗報文件描述符不存在雖然不致命但排查時非常干擾視線。更隱蔽的問題是對端斷開后錯誤包和讀事件先后到達兩次觸達同一連接沒有保護就直接 double free程序直接崩。5. 多線程演進單Reactor與主從Reactor怎么選5.1 三種常見方案的對比手寫版單線程Epoll-Reactor能解決大部分長連接高并發(fā)場景但面對圖像處理、復雜業(yè)務計算這類 CPU 密集型任務單線程回調再快也只有一個核在跑。這就得考慮多線程。網(wǎng)上的多線程 Reactor 方案五花八門歸納起來大致是三類單 Reactor 業(yè)務線程池主線程只有 epoll 做事件監(jiān)聽和 IO 讀寫把業(yè)務計算丟給線程池。這個方案實現(xiàn)簡單但主線程如果還在做讀緩沖拷貝和大包解析壓力依然大單 Reactor 多線程 IO讓多個線程各自創(chuàng)建 epoll監(jiān)聽不同的 fd 集合。連接分配時可以按哈希但遷移和負載均衡很麻煩主從 Reactor 多線程一個主 Reactor 只負責 accept把接受的連接均勻分發(fā)給多個子 Reactor每個子 Reactor 有自己獨立的 epoll 和事件循環(huán)線程業(yè)務處理再配合線程池。這也是很多高性能網(wǎng)絡庫采用的結構。我個人的經(jīng)驗連接數(shù)一萬以內單 Reactor 線程池足夠連接數(shù)十幾萬甚至上百萬主從 Reactor 的擴展優(yōu)勢才會顯現(xiàn)因為單線程 epoll_wait 在大規(guī)模條件下也有鎖和系統(tǒng)調用開銷。5.2 線程池引入后的安全隱患多線程場景下最坑的是“一個連接的事件被兩個線程同時處理”。epoll_wait返回后你把這個 fd 的事件交給線程池同時主循環(huán)繼續(xù)等待下一個事件。如果該 fd 又變可讀了主循環(huán)再次投遞兩個線程同時操作同一個 connection 的緩沖區(qū)數(shù)據(jù)競爭立刻出現(xiàn)。解決辦法有兩個思路。一個是用EPOLLONESHOT保證事件觸發(fā)一次后這個 fd 在重新注冊前不會再上報事件這樣事件不會同時進來另一個是給每個連接加鎖但鎖的開銷很大而且容易寫錯。實踐中我更推薦EPOLLONESHOT 業(yè)務線程池組合線程池處理完業(yè)務后調用epoll_ctl(..., EPOLL_CTL_MOD, fd, ...)重新注冊事件。注意重新注冊時一定要帶上你需要的全部事件類型別只把EPOLLIN加回。如果同時關心EPOLLOUT而注冊時漏掉寫事件就永遠不會觸發(fā)。5.3 線程池隊列的背壓問題線程池任務隊列不是無限長的。如果你的業(yè)務處理速度跟不上事件上報速度任務隊列會越積越長內存飆升延遲變大。我踩過一次非常慘的坑壓測時把事件全部塞進無界隊列內存漲到幾個 G壓測結束后任務還在慢慢跑線上本來就該快速失敗拒絕新連接結果我硬生生跑成了排隊調用。所以任務隊列要有上限滿了就斷開新連接或丟棄任務。網(wǎng)絡服務最怕的不是瞬時壓力而是資源耗盡后的連鎖雪崩。6. 調優(yōu)、避坑與問題排查速查6.1 系統(tǒng)參數(shù)與 epoll_wait 超時寫網(wǎng)絡服務之前先看一眼系統(tǒng)的 fd 限制。默認的ulimit -n可能是 1024一個連接占一個 fd你最多只能同時開 1000 個連接再往上是Too many open files。測試前先改ulimit -n 100000系統(tǒng)級的file-max也要注意/proc/sys/fs/file-max表示內核全局可用文件句柄數(shù)。高并發(fā)調優(yōu)時經(jīng)常需要調高但它受到內存限制不能隨手改到天文數(shù)字。epoll_wait的maxevents參數(shù)也有講究它不能大于你傳入的 events 數(shù)組長度。常見誤用是數(shù)組就分配 128maxevents 傳 1024內核拷貝越界直接報錯。那我數(shù)組分配多大合適一般 1024 夠用如果你知道高峰可能有上萬事件同時就緒就分配對應大小。賦值時最好用sizeof(events) / sizeof(events[0])而不是硬編碼避免改數(shù)組時忘了改參數(shù)。6.2 信號中斷與EINTR問題epoll_wait是阻塞調用一旦進程收到信號它可能被直接打斷返回 -1errno設為EINTR。新手最容易在這個地方犯渾看到epoll_wait返回 -1 就 panic直接打印錯誤退出進程或者不加判斷繼續(xù)走循環(huán)。正確做法是遇到EINTR就continue不要把它當異常。這一點我在 4.2 的代碼里已經(jīng)寫出來了但再強調一次因為線上很多偶發(fā)性的“CPU 跳高”或者“服務假死”都和它有關。還有一個延伸問題如果在信號處理函數(shù)里做了不安全的操作比如打印、調用非異步信號安全函數(shù)可能破壞主循環(huán)狀態(tài)。我的習慣是信號處理函數(shù)里只設置一個volatile sig_atomic_t標志主循環(huán)里再檢查這個標志決定是否平滑退出。6.3 我踩過的幾個坑整理下面這張表是我自己在實現(xiàn) Epoll-Reactor 過程中踩過的典型問題很值得復制下來貼在工位上具體現(xiàn)象根因分析解決方案壓測時線程卡死CPU 0%accept 或 read 后沒設置非阻塞ET 模式下讀到緩沖區(qū)空就一直阻塞所有連接 fd 在 accept 后立刻O_NONBLOCKEPOLLOUT瘋狂觸發(fā)CPU 滿載寫回調處理完數(shù)據(jù)沒取消EPOLLOUT事件寫完后epoll_ctl(MOD)把 events 改為只關心EPOLLIN隨機段錯誤壓測必現(xiàn)連接關閉后沒從 epoll 刪除fd 被復用后 data.ptr 懸掛統(tǒng)一conn_close先 DEL 再 close 再 free數(shù)據(jù)明明發(fā)了一部分客戶端收不全ET 模式下沒循環(huán) send剩余數(shù)據(jù)沒有寫回調補充寫緩沖未清空時注冊EPOLLOUT發(fā)完再摘除客戶端斷開后服務端沒感知只注冊了EPOLLIN沒處理EPOLLRDHUP或讀返回 0注冊EPOLLIN | EPOLLRDHUPread 返回 0 時關閉連接數(shù)一高就Too many open files用戶級/進程級 fd 限制未調修改ulimit -n必要時調整/etc/security/limits.conf6.4 日志與調試心得遇到疑難 bug不要憑眼睛瞪著屏幕猜。我調試 epoll 相關的崩潰問題時最有效的工具是帶 fd 號的信息日志。每個關鍵步驟都打印事件注冊ADD fd12 eventsEPOLLIN事件分發(fā)READY fd12 eventsEPOLLIN|EPOLLOUT連接關閉CLOSE fd12當你發(fā)現(xiàn)某個 fd 關閉后還收到 READY大概率是資源生命周期管理出問題了順著日志就能鎖定到哪一行的回調沒有正確清理。這比 gdb 打斷點更高效因為高并發(fā)下的崩潰往往很難原地復現(xiàn)。再補一個小建議在epoll_ctl失敗時除了perror最好把當前 fd 號和操作類型也打出來。EBADF、EEXIST、ENOENT這三個錯誤碼在調優(yōu)階段出現(xiàn)頻率極高看到日志你能秒懂是重復添加、重復刪除還是 fd 已失效。最后分享一個我自己的經(jīng)驗剛學 Epoll-Reactor 的時候不要急著上多線程、主從 Reactor先拿單線程版本跑通一個小型消息推送服務故意壓幾次斷開連接場景把所有生命周期問題暴露出來再演進線程池也不遲。這套模式看著只有幾段代碼真正的復雜度全在連接狀態(tài)的收放之間把“善后邏輯”梳理清楚了高并發(fā)這條路才算真正邁過門檻。