亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

JVM內(nèi)存溢出排查:數(shù)據(jù)庫(kù)連接對(duì)象堆積與連接池泄漏實(shí)戰(zhàn)

JVM內(nèi)存溢出排查:數(shù)據(jù)庫(kù)連接對(duì)象堆積與連接池泄漏實(shí)戰(zhàn) 某個(gè)線上服務(wù)在凌晨開始陸續(xù)出現(xiàn)接口超時(shí)堆內(nèi)存監(jiān)控曲線一路向上從2GB爬到3.8GB只用了幾個(gè)小時(shí)隨后接連拋出OutOfMemoryError: Java heap space。容器重啟后過了一會(huì)兒又反復(fù)。打開GC日志和堆轉(zhuǎn)儲(chǔ)一看老年代里堆滿了同一個(gè)類名com.mysql.cj.jdbc.ConnectionImpl對(duì)象數(shù)量達(dá)到六位數(shù)。這就是典型的“JVM內(nèi)存溢出-數(shù)據(jù)庫(kù)連接對(duì)象大量累積”問題。數(shù)據(jù)庫(kù)連接本身不算龐然大物但成千上萬個(gè)連接對(duì)象疊加在一起足以把堆內(nèi)存榨干。真正有價(jià)值的不只是知道“發(fā)生了什么”而是搞清楚連接對(duì)象為什么只增不減、怎樣在不影響線上業(yè)務(wù)的情況下把它定位出來、修完之后又怎么防止同類問題再次出現(xiàn)。這篇文章就按這個(gè)脈絡(luò)寫給同樣被內(nèi)存溢出和連接池問題折磨的人一份可復(fù)用的排查手冊(cè)。1. 先搞清楚連接對(duì)象累積與堆溢出是什么關(guān)系在動(dòng)手抓堆轉(zhuǎn)儲(chǔ)之前一定要先把問題定性。很多人一看到內(nèi)存溢出第一反應(yīng)是堆太小或者GC參數(shù)不對(duì)實(shí)際上連接對(duì)象累積類的問題根因往往藏在業(yè)務(wù)代碼和連接池策略里??梢园堰@類故障從兩個(gè)層面拆開看一個(gè)是單條連接在JVM里到底占多少內(nèi)存一個(gè)是這些連接究竟是怎么積累起來的。1.1 一條數(shù)據(jù)庫(kù)連接在JVM里到底占多大地方“一條Connection能占多大頂多幾百字節(jié)”這是對(duì)數(shù)據(jù)庫(kù)連接對(duì)象的典型誤解。連接在JVM堆里的內(nèi)存占用遠(yuǎn)不止接口對(duì)象本身。以最常見的MySQL客戶端連接器為例一個(gè)Connection對(duì)象背后至少包含這樣幾塊內(nèi)容Socket通道的輸入緩沖區(qū)和輸出緩沖區(qū)每塊默認(rèn)就是8KB到16KB兩個(gè)加起來已經(jīng)有十幾KB協(xié)議解析層、編碼轉(zhuǎn)換層、事務(wù)狀態(tài)機(jī)等內(nèi)部對(duì)象預(yù)編譯Statement緩存如果打開useServerPrepStmts每條SQL對(duì)應(yīng)一個(gè)對(duì)象連接上下文、字符集元數(shù)據(jù)、用戶權(quán)限相關(guān)的緩存把這些疊加起來一條空閑連接在MySQL 8.x連接器下實(shí)測(cè)常常是150KB往上。要是連接上執(zhí)行過較多SQL產(chǎn)生了較多預(yù)編譯緩存單條連接突破200KB到300KB也不奇怪。做道算術(shù)題堆內(nèi)存設(shè)4GB按單條連接200KB估算累積到2萬條連接就是4GB左右。也就是說堆里躺上2萬個(gè)連接對(duì)象整個(gè)堆就基本廢了。而且連接數(shù)量越多GC掃描這些對(duì)象的時(shí)間越長(zhǎng)Full GC停頓會(huì)越來越明顯服務(wù)表現(xiàn)為周期性卡頓一直到OOM徹底爆發(fā)。1.2 兩類累積泄漏型累積與池容量型累積“大量連接對(duì)象”這個(gè)描述太籠統(tǒng)實(shí)際要分成兩類來看排查方向完全不同。第一類是泄漏型累積。連接從池里借出來之后關(guān)閉動(dòng)作因?yàn)楫惓!⑻崆皉eturn、分支遺漏等原因沒有執(zhí)行連接對(duì)象就一直被某個(gè)線程棧或者靜態(tài)容器引用著永遠(yuǎn)回不到池里。池本身有上限但借出的連接只要還沒有歸還池的數(shù)據(jù)結(jié)構(gòu)里就一直持有它的狀態(tài)記錄。于是連接對(duì)象數(shù)量只增不減堆內(nèi)存持續(xù)爬升。這種在堆轉(zhuǎn)儲(chǔ)里的特征是連接對(duì)象被某條業(yè)務(wù)線程的棧幀、或者某個(gè)全局容器持久引用而不是掛在連接池的空閑隊(duì)列上。第二類是池容量型累積。這種更隱蔽代碼沒有泄漏但連接池配置的maximumPoolSize本身極大池策略又允許大量空閑連接長(zhǎng)期存活。比如把池上限設(shè)成500系統(tǒng)實(shí)際日常只需要20個(gè)連接剩下的480個(gè)連接一直活著堆里躺著大量空閑連接純屬浪費(fèi)。每個(gè)空閑連接的內(nèi)存雖然不如活躍連接那么高但架不住數(shù)量多。更麻煩的是池創(chuàng)建連接的速度遠(yuǎn)大于釋放速度高峰期內(nèi)存占用會(huì)迅速膨脹。兩類問題都會(huì)讓你在堆轉(zhuǎn)儲(chǔ)里看到大量ConnectionImpl對(duì)象但前者要改代碼后者改配置加監(jiān)控就能解決。如果在第一步就把問題歸錯(cuò)類后面所有的排查動(dòng)作都會(huì)跑偏。2. 根因在哪里常見的連接對(duì)象累積路徑把這些年遇到過的線上事故疊在一起看連接對(duì)象累積基本逃不出下面幾種模式。2.1 手動(dòng)管理連接關(guān)閉路徑被異常跳過有些老項(xiàng)目里存在不少手寫JDBC的場(chǎng)景開發(fā)對(duì)連接池的理解停留在“調(diào)用getConnection就能拿連接”但關(guān)閉邏輯寫得非常隨意。Connection conn dataSource.getConnection(); PreparedStatement ps conn.prepareStatement(sql); ResultSet rs ps.executeQuery(); while (rs.next()) { // 業(yè)務(wù)處理 } // 這里沒有close連接池里永遠(yuǎn)少一個(gè)連接這種代碼在低并發(fā)下長(zhǎng)期不炸因?yàn)檫B接池會(huì)自動(dòng)擴(kuò)容你總覺得連接夠用??闪髁恳坏┥蟻沓乩锏倪B接被借光新請(qǐng)求就開始排隊(duì)超時(shí)。同時(shí)泄漏一直在發(fā)生池在擴(kuò)容到上限之后也無法滿足需求堆內(nèi)存被新連接和等待隊(duì)列不斷撐大量變積累成質(zhì)變OOM就來了。還有一種更容易被忽視的寫法明明寫了finally塊做close但方法里catch塊把異常吞了而close操作又依賴前面某個(gè)資源的中間狀態(tài)。比如在try里初始化PreparedStatement時(shí)就拋了異常對(duì)象還是nullfinally卻直接調(diào)用ps.close()空指針把關(guān)閉動(dòng)作徹底打斷。這種問題在代碼評(píng)審時(shí)極易漏掉因?yàn)檎B窂娇雌饋硎峭暾P(guān)閉的只有異常路徑才露餡。2.2 連接池參數(shù)配置與業(yè)務(wù)容量嚴(yán)重失配另一類常見情況是代碼邏輯沒有明顯泄漏問題出在連接池容量規(guī)劃上。我見過有團(tuán)隊(duì)一遇到“連接池耗盡”的報(bào)錯(cuò)就簡(jiǎn)單粗暴把maxPoolSize從10改成1000。從工程角度講這不是在解決問題而是給數(shù)據(jù)庫(kù)下毒。連接池的上限不只是內(nèi)存問題1000個(gè)連接同時(shí)建到數(shù)據(jù)庫(kù)實(shí)例上數(shù)據(jù)庫(kù)端的線程、內(nèi)存、鎖全都會(huì)被拖垮整體吞吐量不升反降。更合理的做法是估算連接需求。經(jīng)驗(yàn)公式大概是需要連接數(shù) 接口QPS × 單次操作持有連接的平均秒數(shù)舉個(gè)例子某接口QPS是200每次請(qǐng)求大約占用連接200毫秒那么需要的連接數(shù)就是200 × 0.2 40再留20%到30%余量設(shè)置50就非常寬裕。如果QPS和平均耗時(shí)不變硬把池上限設(shè)成500大部分時(shí)間池里躺著450條空閑連接對(duì)JVM堆是純浪費(fèi)對(duì)數(shù)據(jù)庫(kù)是無謂壓力。2.3 Spring事務(wù)與MyBatis會(huì)話的隱性持有還有一類比顯式泄漏更隱蔽的問題連接并沒有丟失但被長(zhǎng)時(shí)間占用數(shù)量一多效果等同于泄漏。Spring的Transactional會(huì)把數(shù)據(jù)庫(kù)連接綁定到當(dāng)前線程的ThreadLocal資源管理器只有事務(wù)提交或回滾之后才釋放綁定。如果方法內(nèi)部嵌套了耗時(shí)很長(zhǎng)的本地緩存操作、大批量文件處理、或者一次外部HTTP調(diào)用連接就會(huì)一直被線程攥著不放。消息隊(duì)列消費(fèi)邏輯套事務(wù)注解是重災(zāi)區(qū)。一條消息被消費(fèi)時(shí)觸發(fā)了復(fù)雜的業(yè)務(wù)鏈路處理10秒連接就被綁定10秒。消費(fèi)線程池32個(gè)連接池上限30瞬時(shí)并發(fā)上來池里可用連接直接歸零。這類問題的特征是堆轉(zhuǎn)儲(chǔ)里的連接對(duì)象數(shù)量可能并不夸張但連接池的active指標(biāo)一直頂滿pending指標(biāo)持續(xù)上漲。修復(fù)方向不是調(diào)大連接池而是收縮事務(wù)邊界把遠(yuǎn)程調(diào)用、耗時(shí)操作全部挪到事務(wù)方法外面去。2.4 多數(shù)據(jù)源場(chǎng)景下的DataSource重復(fù)創(chuàng)建動(dòng)態(tài)數(shù)據(jù)源也是一個(gè)高頻坑位。為了做讀寫分離或者多租戶隔離有些項(xiàng)目用Map緩存了多個(gè)DataSource實(shí)例每次切換數(shù)據(jù)源就new一個(gè)舊的實(shí)例卻沒有關(guān)閉。HikariDataSource創(chuàng)建后池后臺(tái)線程會(huì)一直存活。堆轉(zhuǎn)儲(chǔ)里不只是ConnectionImpl數(shù)量多還能看到多個(gè)HikariPool實(shí)例以及成倍增長(zhǎng)的池控制線程。這種場(chǎng)景下連接對(duì)象是被多個(gè)連接池對(duì)象分開持有的單看數(shù)量可能沒到嚇人的程度但加上線程對(duì)象、隊(duì)列對(duì)象、緩沖區(qū)對(duì)象以后內(nèi)存占用依然非??捎^。定位后處理方式也很明確要么統(tǒng)一走路由層整個(gè)JVM只保留真正在用的數(shù)據(jù)源實(shí)例要么為動(dòng)態(tài)數(shù)據(jù)源設(shè)計(jì)完整的生命周期管理確保切換后舊實(shí)例能被正常關(guān)閉和回收。3. 從現(xiàn)象到定位一次完整的在線排查這一章是整個(gè)排查過程最實(shí)操的部分按我當(dāng)時(shí)處理事故的順序?qū)憽?.1 第一步用jstat觀察GC與堆內(nèi)存趨勢(shì)定位JVM內(nèi)存問題最忌諱一上來就抓堆轉(zhuǎn)儲(chǔ)。正確的第一步是先看趨勢(shì)。登錄到報(bào)警機(jī)器先通過jps找到進(jìn)程PID然后執(zhí)行jstat -gcutil pid 1000 2000這條命令每秒采樣一次持續(xù)2000秒。輸出里重點(diǎn)看E、O、FGC這三列。E代表Eden區(qū)使用率O代表老年代使用率FGC是Full GC次數(shù)。如果你看到O列持續(xù)上漲Full GC之后O列也不回落說明確實(shí)有對(duì)象在老年代不斷累積。再配合系統(tǒng)負(fù)載和接口監(jiān)控就能把問題范圍先從“整臺(tái)JVM內(nèi)存溢出”壓縮到“某類對(duì)象只增不減”。這一步的目的有兩個(gè)一是確認(rèn)堆轉(zhuǎn)儲(chǔ)有沒有必要抓二是為后續(xù)分析提供內(nèi)存使用基線。如果老年代穩(wěn)定不動(dòng)Full GC正常單純是堆參數(shù)設(shè)太小那調(diào)整-Xmx就行跟連接對(duì)象沒關(guān)系。如果像當(dāng)時(shí)那樣O列一路爬升就可以放心進(jìn)入下一步了。3.2 第二步抓堆轉(zhuǎn)儲(chǔ)確認(rèn)對(duì)象構(gòu)成確認(rèn)老年代在持續(xù)上漲后需要抓一份堆轉(zhuǎn)儲(chǔ)jcmd pid GC.heap_dump /tmp/heap-pid.hprof用jcmd而不是jmap -dump抓是因?yàn)閖cmd默認(rèn)不帶live參數(shù)不會(huì)先觸發(fā)一次Full GC能保留堆現(xiàn)場(chǎng)的原始狀態(tài)。抓堆之前先確認(rèn)磁盤剩余空間堆如果配置4GBhprof文件通常也會(huì)有接近4GB的大小別把磁盤寫爆了。抓完堆之后先用快速命令看對(duì)象分布jmap -histo pid | head -40這段輸出的價(jià)值在于給出對(duì)象數(shù)量的Top N。在連接泄漏事故里你經(jīng)常會(huì)在最前面看到這樣幾個(gè)類名com.mysql.cj.jdbc.ConnectionImplMySQL 8.x連接器com.zaxxer.hikari.pool.PoolEntryHikariCP池條目com.alibaba.druid.pool.DruidPooledConnectionDruid池包裝連接當(dāng)ConnectionImpl的對(duì)象數(shù)量達(dá)到幾十萬級(jí)時(shí)基本可以確定方向。但我必須提醒一句對(duì)象數(shù)量多只是信號(hào)不直接等于泄漏。繼續(xù)往下看引用鏈才是真正的判定依據(jù)。3.3 第三步用MAT定位GC Root持有鏈路把hprof文件下載到本地用Eclipse MAT打開。操作步驟是先看Histogram按對(duì)象個(gè)數(shù)排序過濾出ConnectionImpl這類類名右鍵選擇List objects - with outgoing references看這些連接都引用了什么再右鍵選擇Path to GC Roots - exclude weak references把GC Root路徑完整顯示出來。CG Root路徑通常會(huì)呈現(xiàn)三種典型情況連接被HikariPool內(nèi)部的ConcurrentBag引用這是連接池自己在持有的正常連接。如果數(shù)量已經(jīng)明顯超過池配置的上限說明池被撐爆需要回到池配置審查。連接被某條線程棧的局部變量引用這是正在使用中的連接算不上異常。但如果這些線程都停留在同一個(gè)業(yè)務(wù)方法里而且數(shù)量持續(xù)上漲說明這條方法大概率在泄漏連接。連接被某個(gè)實(shí)例字段或靜態(tài)容器引用這是最典型的泄漏實(shí)錘。代碼把Connection對(duì)象塞進(jìn)了數(shù)組、Map、ThreadLocal之類容器里使用完沒有清理導(dǎo)致GC Root能一路找到它。通過MAT的引用路徑可以直接對(duì)應(yīng)到具體類名和字段名再結(jié)合源碼倉(cāng)庫(kù)就能定位到方法行號(hào)比在代碼里瞎搜快得多。3.4 第四步結(jié)合業(yè)務(wù)代碼確認(rèn)泄漏點(diǎn)拿到MAT的結(jié)論后回到代碼倉(cāng)庫(kù)打開對(duì)應(yīng)的類。我在實(shí)際項(xiàng)目里遇到的漏法主要有三種catch分支里沒有釋放連接只有正常try路徑執(zhí)行了close方法返回前提前return跳過了統(tǒng)一釋放邏輯在循環(huán)體里多次調(diào)getConnection最后只關(guān)閉了一個(gè)前面的全部漏掉修好泄漏點(diǎn)之后先別急著擴(kuò)堆。部署新版本觀察連接池的活躍連接數(shù)和JVM內(nèi)存曲線。如果active數(shù)能隨著流量回落內(nèi)存曲線走平才算真正修好。這里還要提個(gè)建議修復(fù)一個(gè)泄漏點(diǎn)往往不夠建議在代碼庫(kù)全局搜索getConnection的調(diào)用點(diǎn)把所有手工獲取連接的代碼統(tǒng)一審一遍把同類型的隱患一次性清理掉。4. 修復(fù)方案與參數(shù)調(diào)優(yōu)落地定位到根因之后修復(fù)方案要落在三個(gè)層面代碼寫法、連接池配置、監(jiān)控告警。缺一不可。4.1 代碼層修復(fù)連接獲取與釋放的規(guī)范寫法如果項(xiàng)目還在使用原生JDBC或者裸連接管理務(wù)必統(tǒng)一成try-with-resources寫法try (Connection conn dataSource.getConnection(); PreparedStatement ps conn.prepareStatement(sql); ResultSet rs ps.executeQuery()) { while (rs.next()) { // 業(yè)務(wù)處理 } } catch (SQLException e) { log.error(query failed, e); }這種寫法的好處是資源關(guān)閉順序由語言層面保證無論正常執(zhí)行還是拋出異常都會(huì)按逆序調(diào)用close方法。對(duì)于從連接池取出的代理Connection這個(gè)close的語義是“歸還連接池”并不是真正斷開物理連接所以不用擔(dān)心頻繁開關(guān)連接帶來的性能損耗。如果項(xiàng)目Java版本受限無法用try-with-resources也要遵守一個(gè)原則close動(dòng)作只寫在finally里不要分散到try和catch的多個(gè)位置否則極易漏掉分支。還有一個(gè)實(shí)用技巧是給連接操作寫一個(gè)統(tǒng)一的工具方法把連接獲取、關(guān)閉邏輯收斂到一處。業(yè)務(wù)代碼只調(diào)用工具方法從源頭杜絕寫法混亂。4.2 連接池參數(shù)調(diào)整以HikariCP為例Spring Boot默認(rèn)使用的連接池是HikariCP配置文件可以這樣調(diào)整spring: datasource: hikari: maximum-pool-size: 50 minimum-idle: 10 connection-timeout: 30000 max-lifetime: 1800000 idle-timeout: 600000 leak-detection-threshold: 60000每個(gè)參數(shù)為什么要這樣設(shè)背后都有邏輯maximum-pool-size池上限。不要拍腦袋設(shè)一個(gè)整數(shù)按前面說的QPS × 平均連接占用時(shí)間估算留20%到30%余量。連接數(shù)過大對(duì)數(shù)據(jù)庫(kù)本身也是一種壓力。minimum-idle池保持的最小空閑連接數(shù)。如果服務(wù)空閑期不想保留太多空閑連接可以把值調(diào)低配合idle-timeout使用如果日常流量波動(dòng)大建議設(shè)置成與maximum-pool-size一致避免池頻繁擴(kuò)縮容導(dǎo)致性能抖動(dòng)。connection-timeout客戶端等待連接的時(shí)間線上建議30秒。設(shè)太短突發(fā)流量時(shí)大量請(qǐng)求直接超時(shí)設(shè)太長(zhǎng)用戶側(cè)等待感過強(qiáng)。max-lifetime連接最大存活時(shí)間必須小于數(shù)據(jù)庫(kù)的wait_timeout。MySQL默認(rèn)wait_timeout是28800秒HikariCP默認(rèn)30分鐘。保持默認(rèn)值是安全的只要低于數(shù)據(jù)庫(kù)端即可。idle-timeout空閑連接最大存活時(shí)間。注意它只在池中連接數(shù)超過minimumIdle時(shí)才生效如果minimumIdle和maximumPoolSize相等空閑連接不會(huì)被銷毀。leak-detection-threshold連接被借出超過這個(gè)時(shí)間沒有歸還HikariCP會(huì)輸出警告日志。設(shè)成60000毫秒可以較早捕獲泄漏點(diǎn)。前提是它必須小于max-lifetime否則配置會(huì)沖突。這組參數(shù)改完后連接數(shù)曲線通常兩三個(gè)發(fā)布周期就能看到明顯收斂。參數(shù)本身不是越多越好而是要和業(yè)務(wù)容量的真實(shí)需求匹配。4.3 Druid的特殊兜底手段removeAbandoned如果你用的是Druid連接池它提供了一套針對(duì)連接泄漏的兜底配置spring: datasource: druid: initial-size: 5 min-idle: 5 max-active: 50 max-wait: 30000 remove-abandoned: true remove-abandoned-timeout-millis: 300000 log-abandoned: trueremove-abandoned的意思是連接被借出超過remove-abandoned-timeout-millis指定的毫秒數(shù)后還沒歸還Druid會(huì)從代碼里強(qiáng)制回收這個(gè)連接。log-abandoned打開后Druid會(huì)打印包含調(diào)用棧的告警日志定位泄漏非常方便。但這把雙刃劍要用得謹(jǐn)慎。如果業(yè)務(wù)里存在合法的長(zhǎng)事務(wù)比如一個(gè)20分鐘的大批量導(dǎo)入任務(wù)而你設(shè)置的回收閾值是300秒事務(wù)后段的數(shù)據(jù)操作會(huì)被強(qiáng)制回收打斷引發(fā)數(shù)據(jù)一致性問題。因此這類兜底配置只建議在確實(shí)存在泄漏、且業(yè)務(wù)里沒有超過閾值的正常長(zhǎng)任務(wù)時(shí)才啟用。更穩(wěn)妥的順序是先用log-abandoned定位泄漏分支修復(fù)代碼再?zèng)Q定是否保留remove-abandoned作為最后防線。4.4 建立三層監(jiān)控防線排查和修復(fù)都完成后最后一步是把防線建立起來避免同類問題在無人值守的深夜再次爆發(fā)。我一般分三層來做第一層JVM內(nèi)存層。使用Spring Boot Actuator加Micrometer把指標(biāo)暴露給Prometheus重點(diǎn)監(jiān)控jvm_memory_used_bytes和Full GC次數(shù)。一旦老年代內(nèi)存持續(xù)增長(zhǎng)連續(xù)多個(gè)采集周期環(huán)比為正立刻告警。第二層連接池層。HikariCP會(huì)輸出hikaricp_connections_active、hikaricp_connections_idle、hikaricp_connections_pending這幾個(gè)關(guān)鍵指標(biāo)。建議給active占總?cè)萘勘壤O(shè)置80%閾值pending持續(xù)大于0且維持5分鐘以上就觸發(fā)告警。Druid也可以打開監(jiān)控頁但生產(chǎn)環(huán)境一定要做訪問鑒權(quán)。第三層SQL與事務(wù)層。開啟數(shù)據(jù)庫(kù)慢查詢?nèi)罩景殉^1秒的SQL記錄下來。應(yīng)用側(cè)記錄每個(gè)事務(wù)方法的耗時(shí)超過閾值就預(yù)警。一條慢SQL執(zhí)行5秒就有一個(gè)連接被占用5秒。慢SQL一旦集中出現(xiàn)連接池很快見底。三層指標(biāo)互相配合連接對(duì)象的任何異常累積都能在早期被捕捉到。5. 常見問題排查與避坑記錄這一路排查下來有些錯(cuò)誤和坑值得單獨(dú)記錄下來以后遇到類似問題能少走彎路?,F(xiàn)象可能原因排查或處理建議堆內(nèi)存持續(xù)上漲連接對(duì)象數(shù)量龐大連接泄漏或池配置過大先看GC Root引用鏈區(qū)分泄漏型還是容量型HikariCP連接池請(qǐng)求超時(shí)池耗盡多與慢SQL或長(zhǎng)事務(wù)有關(guān)查數(shù)據(jù)庫(kù)慢日志收縮事務(wù)邊界日志顯示連接一直未歸還方法提前return或異常分支漏close用try-with-resources重寫復(fù)查catch分支連接池頻繁擴(kuò)縮容minimumIdle與maximumPoolSize差距過大把minimum-idle調(diào)高接近maximum-pool-sizeDruid強(qiáng)制回收后事務(wù)中斷長(zhǎng)任務(wù)超過回收閾值調(diào)大回收時(shí)間或去掉兜底優(yōu)先修代碼再分享三個(gè)實(shí)際踩過的坑第一個(gè)坑不要在業(yè)務(wù)高峰期直接抓dump并立刻重啟實(shí)例。抓dump本身會(huì)給服務(wù)增加一次內(nèi)存快照和磁盤寫入如果堆已經(jīng)接近裝滿可能直接觸發(fā)又一次Full GC。更穩(wěn)妥的順序是先記錄現(xiàn)場(chǎng)指標(biāo)把實(shí)例從負(fù)載均衡上摘掉流量再抓dump最后重啟。先留證據(jù)再補(bǔ)救否則重啟完現(xiàn)場(chǎng)沒了根因也找不到了。第二個(gè)坑不要只盯著ConnectionImpl類名就下結(jié)論。之前看一個(gè)案例dump里ConnectionImpl數(shù)量非常多我差點(diǎn)判定是代碼泄漏。但順著GC Root追下去發(fā)現(xiàn)這些連接幾乎全部被HikariPool自己持有原來是某次擴(kuò)容把maximumPoolSize沖到了800代碼本身反而沒問題。引用鏈才是判官類名數(shù)量只是線索。第三個(gè)坑連接池參數(shù)修完之后不要直接撒手。一個(gè)泄漏點(diǎn)往往只在一類流量場(chǎng)景下才觸發(fā)比如某個(gè)爬蟲任務(wù)、某個(gè)特殊的對(duì)賬流程。修完連接池配置把內(nèi)存壓下來不代表所有場(chǎng)景都安全了。只要代碼庫(kù)里還存在手工獲取連接的調(diào)用點(diǎn)建議花時(shí)間統(tǒng)一改造讓連接回收路徑經(jīng)得起評(píng)審。我個(gè)人在處理這類問題時(shí)的習(xí)慣是一開始就拒絕調(diào)堆參數(shù)。加大-Xmx只是把癥狀往后推不會(huì)讓泄漏消失。正確路徑永遠(yuǎn)是把GC趨勢(shì)、堆轉(zhuǎn)儲(chǔ)、GC Root引用鏈走完讓證據(jù)說話。如果你也被JVM內(nèi)存溢出和連接池累積問題纏住按這套流程走一遍大部分事故都能在幾小時(shí)內(nèi)鎖定根因。最后送一句實(shí)操口訣連接泄漏看GC Root連接池容量看指標(biāo)修復(fù)之后看曲線。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲第一色页夜| 偷拍三区| 1024午夜激情男人的天堂| 大地资源在线观看中文第二页| 蜜臀久久99精品久久久久久-DVD| 情色五月天网| 日韩亚洲97| 欧洲综合视频| 俺去也婷婷| 欧美色性爱| 国产精品ww久久| 极品出轨视频网站| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 九九热只有精品| 夜夜操av亚洲一区二区| 6080yy午夜理论三级一区二区三区无码| 黄色人人| 国产成年精品高清在线观看91| 婷婷人妻激情| 婷婷涩嫩草鲁丝久久午夜精品| 91劲爆| 91美女在线精品视频| 九九香蕉网| 温婉少妇玩3p| 97av在线视频| 国产激情久久| 综合熟女| 91国产美女丝袜足交精品视频 | 欧美激情在线观看视频| com 首页 18岁 禁区 女优 免费 精选 同城| 天天综合AV| 狠狠中文字幕| 欧亚乱色熟一区二区三四区| 久久久久性熟视频| 91精品成人www| 五月天婷婷色| 蜜桃中文字日产乱幕4区| 中文字幕 人妻不满 在线视频| 中文字幕jul-617人妻熟女| 强奸乱伦av电影| 在线国产一区二区av| 久久久久九九九| 免费啪啪一级视频| 久久婷婷一区二| 人妻AV 中文字幕的| 亚洲色图激情小说| 少妇人妻精品| 91嫩草在线| 99re这里只有| 日韩免费a级毛片无码a∨| 97色色网| 亚洲精品久| 色五月天AV| 福利天堂| 五月天婷婷社区| 啊啊啊啊好疼| 人人贴人人摸| 欧美网站免费| 中文熟女五十乱码在线| 精品午夜福利导航| 中文字幕久热视频在线| 91jk色拍| 欧美日综合| 欧美 亚洲| 亚洲国产成人精品999| 8x福利精品第一福利视频导航 | 日韩欧美天天爽爽爽天天爽爽| 青青草成人视频在线观看二区| 伊人96在线| 中国熟妇| 国产精品亚洲天堂网址| 91在线页| 亚洲自拍青操视频| 亚洲成人激情小说视频| 日本在线不卡一二区| 情色AV电影| 亚熟hd视频在线| 综合少妇网| 8x福利精品第一福利视频导航| 国产懂色精品国产av| 96AV精品| 人妻丝袜一区二区三区在线| 九九色图| 久操视频免费观看| 久久久久久久强迫| 日本三级日本三级99| 国产精品网站免费| 一区二区乱码福利| 婷婷综合五月天| 97国产色图| 亚洲高清综合网| 国语av最新自产拍在线观看| 一区| 国产精品久久久久亚洲av| 熟妇在线视频一区二区| 精品传媒在线一区| 久久色情| 欧美劲爆第一页| 97人人操人人摸| 亚洲综合888| 色九九久九九| 色青青久久影视| 青青草精品| 伊人骚琪琪亚洲天堂网站| 免费作爱一级视频| 伊人aaa| V A在线| 99热官网| 久久成年片色大黄全免费网站| 亚洲色综合| 午夜啊啊| 久久激情网| 久久久久婷婷精品av电影| 91AV入口| 国产热av| 竹菊影视国产一区二区| 人人妻天天做天天爽| 国产三级资源在线观看| 久久有码| 亚洲成人日韩小说| 日本顶级天天操狠狠操夜夜操中文字幕| 东京热视频网| 啪啪啪综合| 激情综合亚洲| 色欧洲| 人妻少妇视频在线播放| 诱惑网综合| 欧州色图区| 亚洲成aⅴ人片不卡无码| 亚洲精品一区二区三区新线路| 久久久久久精| 亚洲高清内射| 91精品丝袜在线观看| 亚洲97网站| 欧美一级做a爰片免费视频| 中文字幕诱惑制服人妻丝袜美丝袜美 | 国产麻豆91欧美一区二区久久婷婷国产精品| 日韩人妻播放| 香蕉精品二区二区| 国产伊人自拍| www.91人妻.com| 九99久久| 歐美性天天| 欧美日韩第一页| 精品一区二区三区18| 亚洲 综合 欧美| 人妻一区二区三区视频| 日韩中文字幕宗合在线| 91麻豆天美国产欧美| 少妇高潮流水av免费| 欧美一级专区免费大片| 黄污污污污| 日本乱人伦片中文三区| 老熟女天天操| 亚洲男人的天堂AV| 国产精品久久久鸭无码的功能| 欧美姓爱综合网| 日本精品国产视频| 六月色婷婷| 无码人妻一区二区三区色欲aⅴ| 日韩一级二级三级免费看完整版国语版 | 久久亚洲婷婷| 日本不卡高清视频| 青草精品视频日本久久久久网站在线| 91天天爱| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 夜夜骑操视频| 情侣开房子拍 日韩无码 女的很漂亮| 亚洲黄色网址视频| 精品欧美不卡在线播放| 校园春色美腿丝袜| 欧美91精彩| 国产一区二区三区中文字幕| 另类 日韩 熟女| 免费a v| 97伊人超碰| 日日干男人的天堂| 禁十八久久| 六月婷婷综合| 亚洲欧美综合区自拍另类| 国产又粗又长视频| 中文字幕欧美日本乱码一线二线| 美腿丝袜偷拍亚洲欧美| 亚州操操穴网| 九九在线视频| 国产精品久久伊人| 无码丰满熟妇一区二区浪潮AV| 999久久久九九九九| 亚洲图片视频小说| 国产精品午夜精品| 97网址97| 黄久在线| 人妻少妇无码| 欧美日韩色| 我想要啊 啊 啊| 欧美日韩婷婷中文| 青娱乐大香蕉| 久久曰曰| 91无摭挡| 大香蕉在线SuP| 久草老司机| 麻豆 亚洲 97| 九区国产| 日本久久久久久久久久| 超碰9 7女人| 91天美免费| 五月天久久人妻| 五月天AV资源| 日夜伊人网| 玖草在线视频| 国产亚洲精品A在线观看下载| 91麻豆天美| 免费视频97| 密臀在线一区尤物| 东京热天堂网| 88xx成人精品视频| 国产成人综合在线播放| 日韩黄色一区二区三区| 婷婷九月色| 丁香九月激情| 一区二区三区日韩欧美| 人妻丰满熟妇av无码区蜜桃| 亚州综合在线| 天天干天天舔| www.91理论| 精品超碰国产| 欧美嗯啊……在线观看视频免费| 中文字幕日韩精品一区二区三区| 和协影院中文字幕三区| 91熟女视频网| 啊啊啊啊啊啊在线观看| 国产狂喷潮在线精品| 日韩无码操逼片| 亚洲无码?第一页| 日本三级日本三级99| 亚洲无套久久嗯嗯| 九久久精品| 久久久日本电影| 欧洲黄色网| 日韩人成网站在线播放| 亚洲综合影片| 女人香蕉久久毛毛片精品| 伊人久久AV诱惑悠悠| www.色吧5.com| 在线欧美69V免费观看视频| 探花激情视频| 9 7超碰在线免费观看| 97bbn| 99热精品在线观看| 一本精品日本在线视频精品| 超碰免费在线| 久久色AV线| 精品国产AV一区天美传媒| 91精品人妻偷情| 黄aaaaaaaaaaaaaaaaaa色网站| 中文字幕啊啊啊在线观看视频| 国产精品久久久久久久久久久久久久久久久久 | 天美传媒av一区二区| 熟妇人妻丰满久久久久久久无码| 亚洲AV噜噜狠狠网址蜜桃动漫| 超碰免费人人| 五月天欧美色图| 久久中出| 香伊人在线| 天天噜| 亚洲日韩在线a不卡99精品| 久久大黄片| 人妻乱仑一区二区三区| 亚洲中文字幕有码视频一区二区三区| 天天综合欧美综合| 欧美97爱| 色婷婷电影| 99热国产| 久久九九国产精品| 99国内熟女露脸视频| 亚洲不卡三级手机播放| 六六久久日韩不卡| 一级AAA片一区二区三区| 婷婷在线视频在线观看| 免费农村成人少妇人妻Aa一区二区视频| 九九综合网| 高清国产成人无码| 99re69综合| 午夜啪| 色一射色一射| 日韩在线地址一| 亚洲最大的综合性av| 操国产逼| 91精品国产一区三一| 欧洲一级性爱视频在线观看| 91精品微拍福利| 欧美日韩国内不卡| 丝袜 中出 制服 人妻 美腿 中文字幕| 亚洲一欧洲中文字幕在线| yazhousetuoumei| 国产Av超碰| 啊操爽品善一区二区三区| 性爱网站一区二区| 色婷婷一区二区三区久久午夜| blacked精品一区国产| 无码人妻系列少妇| 久久精品小视频| 老司机深夜18禁污污网站| 免费网色网站| 色人久久| 国产精品亚洲无码| 欧美热图99| 精品91摸| 国产成人精品日本视频| 久久神马| 久久久久无码一妻区| 婷婷月色| 粉嫩粉嫩一区性色AV片| 熟女人妻精品一区二区视频| 校园春色中文字幕AV| 99自拍视频| 亚洲 自拍偷拍 欧美| 97色欧洲| 日韩人妻精品| 男人把坤坤插入女人的下体| 久久久精品国产亚洲伊人| 操婢日韩| 国产二区三区免费视频| 亚欧美综合网| 嗯嗯不要 视频| 97草草| 九九Av| 婷婷五月天av| 午夜黄色免费在线观看| 日韩三级视频一区二区三区| 综合影视国产无码| 国产精品成人福利在线| 日韩熟女操逼| 又大又大又大又粗爽高潮观看| 97超级色碰碰| 茄子社区国产精品| 免费视频观看60秒| 色老大| 啊啊啊好舒服视频| 日本媚薬中文字幕在线| 日韩精品午夜操呦呦不卡影院| 久久99深爱久久99精品| 中出20p| 91蜜桃传媒精品久久久一区二区| 精品乱码在线观看| 竹菊一区二区三区AV线| 亚洲中文字幕熟女少妇一区二区| 色色九区| 强奸乱伦免费网站| 男人a天堂手机在线版| 天堂俺去俺来也www久久婷婷| 一级黄色视频网| 草草影院最新网址| 欧美日韩第一页| 999狠狠综合| 欧亚不卡| 五月天日日操夜夜操| 日韩无限资源| 亚洲精品人妻吞精av| 97极品无码| 操少妞在线视频| 欧美日韩久久精品爱爱| 秋霞午夜成人福利片片| 午夜精品探花| 白丝1区2区3区| Julia Annxxxxx| 91高潮| 国产中文字幕曰本毛片| 国产欧美美女免费观看视频| 中文字幕人乱码中文字的预防方法| 日本大片日本一区二区免费高清| 青娱乐欧美激情一区二区| 国产精品电影大全| 午夜久久无码1000合集| a人欧美综合天堂麻豆| 色九色久| 操逼逼福利视频| 嗯~啊~快点 死我视频| 久久久久96| 成人av性爱电影在线观看| 澳门特级毛片免费观看| 欧洲与亚洲欧美精品中文字幕| 暴力av在线| 久久久国产亚洲精品系列| 欧美美女在线高潮999| 1024精品在线| 大香蕉手机视频| 欧美96交| 五月天大香蕉| 青青久久艹| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 日韩熟女精一区二区三区不卡| 蜜桃视频成a人v在线| 国产欧美日韩臀| 中文字幕久久婷婷丁香五月天| 久久人妻视频网| 久久久久国产精品久久久| 五月丁香六月激情| 97在线视频观看| wwe 天天干.com| 久久av无码| 97超碰色中文字幕| 六月婷婷激情| 十八禁av无码免费网站APP| 台湾大香蕉99热| 国产亚洲色婷婷久久99精品91葵花宝典 | 欧美黄页| 97精品久久久久中文字幕| 免费伦费视频在线观看| 久久爱97| 蜜臀一区二区三区在线 | 青草一区二区| 啊啊啊啊啊啊好湿好爽视频| 一级毛片久久久久久久女人18| 天天综合网~91综合网| 国产视频三区四区| 日韩免费人妻色情网站| 亚洲一区日韩精品中文字幕| 98福利在线视频| 欧美夜夜狠| 无码精品一区二区三区潘金莲| 大香久久| 欧美综合色综合| 麻豆黄四叶草网站| 一级黄色影片| 国产精品一区二区三区,亚洲综合| 久久久久成人网| 久久99草| 欧美亚洲20p| 婷婷久久综合| 最新日韩黄片| 人妻系列无码专区中文有码| 99久国产精品午夜性色福利| AV中文字幕三四五| 日本免费一区二区不卡 | 黑白配性爱AV成| 亚洲综合骚逼| 综合天天网| 中文久久一区| 91高清欧美| 日韩成人人妻网站| 久久精品99| 亚洲色丰满少妇高潮| 国产传媒美日韩av| 久久九七| 国产视频第2页| 狠狠干2020| 亚洲少妇自拍中文字幕懂色| 精品人妻视频一区二区在线播放 | 日逼97| 亚洲国产欧美另类自拍| 5252色欧美在线男人的天堂| 人妻一二三区| 69丨亚洲丨精品丨入口免费播放| 日韩视频小说在线观看| 丝袜美腿射精91| 热热色国产一二区AV| 日韩电影免费网站麻豆视频| 91女日逼| 三级AV入口| 欧美一级A片在线看视频性色| 99热欧美| 亚洲欧洲无码97久久精品| a片亚洲一本通视频| 丰满欧美放荡少妇在线| 成年人黄色| 日韩在线性爱免费视频| 丰满人妻-区二区三区免费| 国产青一二三| AV中文字幕三四五| 熟女五十路一区二区三| 人妻熟女字幕一区二区| 九九九九免费视频| 91人妻人人澡人人爽人人精品| 少妇3P性爱自拍| 91neishe| 美女啊啊啊啊啊啊| 亚洲综合性感在线| 日韩日韩日韩-国产乱码精品一区二区| 亚洲综合电影| 久久久久人妻| 亚洲 欧美 第一页| 亚洲二区精品在线观看| 最新av在线| 翔田千里AV无码秘 三区| 亚洲αv一区二区三区| 综合网~91综合网| 操东北女人| 亚欧精品久久久久久久久久久| 偷拍色图| 欧美日韩性爱视屏免费看了| 激情综合网一盗摄| 国产色呦呦| 国产第11页| av在线免费一区二区| 禁十八久久| 操逼日批| 夜夜操夜夜高潮夜夜爽国产精品区| 97爱爱爱综合| 色屁屁影院www国产| 91亚州| 欧美婷婷| 亚洲欧美成人网站AAA| 日本不卡卡一区| 欧美日韩电影成人在线| 欧美色性情| 天天干少妇| 视频一区二区三区精品| 黑人嘿嘿嘿超爽免费视频| 人妻81p| 国产精品无码在线| 亚洲九九视频| 午夜精品99久久久久传媒| 国产在线综合网| 久久久久久久六六| 亚洲成人av色网| 午夜超爽| 激情五月天中文字幕色| 中文字幕人乱码中文字的预防方法 | 国产精品无码av| 超碰 国产熟女精品一区| 欧美1727免费观看视频| 欧亚性爱视频免费看| 亚洲美女AV无码| 久久久久96| 四虎视频在线观看| 色五91| 亚洲 欧美 手机在线观看| 日本成a人v网站在线观看| 免费国产| 麻豆黄站| 高潮综合网| 99999精品视频| 99这里只有精品| 亚洲成熟国产精品美女| 日韩中文字幕国产| 亚洲精品国产精品成人| 国产成人五月天丁香花| 欧美精品欧美精品系列| 色老牛| 午夜啊啊啊| 青青青国产| 天天添天天干电影| 婷婷丁香六月| 五月婷婷六月丁香| 五月丁香激情综合| 天天插天天干| 水野优香在线观看| 天天干一干| 色情综合| 国产玖玖| 一色网男人的天堂| 人人爽天天爽| 美腿色图| 成人熟女区| 日本不卡二三区| 一区二区三区蜜桃成人撸久久东京热| 欧美性暴力猛交XXXX | 精品欧美日韩在线观看| 亚洲综合射| 日韩一级二级三级免费看完整版国语版 | 一区不卡在线观看av| 国产无码三级视频在线观看| 日本成熟少妇A∨网站| 欧美一区二区三区不卡高清视频| 国产色图乱伦| ji熟女.com| 国产AV毛片| 在线v中文字幕一区二区三区| 午夜无码精品免费看性色| 亚洲美女自拍偷拍视频| 激情五月丁香五月| 曰韩精品九九无码| 情色av电影| 亚洲色图欧美色图制服诱惑| 超碰日韩美妻| 久久人妻熟女一区二区| 色激情综合网站| 中国一级特黄大片护士| 亚洲熟女中文字幕在线| 欧美午夜精品久久久久久超碰| 亚州成人A√| 久偷拍欧美日韩三区| 色噜噜狠狠色综无码久久| 欧美热图99| 污色区网站| 91社操逼| 欧美一级三级| 色网在线| 欧美日韩在线小说| 淫荡少妇免费| 超碰97精品在线| 91少妇香蕉久久精品| 久伊人网78| 国产精品原创巨作?v网站| 97摸视频| 秋霞男人网| 日本久久久精品电影| 人妻丝袜美腿中文字幕| 日韩精品黄片免费观看| 中文字幕av色| 亚洲素人综合| 国产精品永久免费10000| 欧美在线观看综合国产| 97se综合网| 久操电影网| 日韩av不卡在线看| 日韩情色视频| 97操碰| 亚洲蜜乳av| 午夜男人天堂| 欲香欲色综合天天伊人| 午夜精品五区| 91亚州欧美| 欧美高清第一页| 一区二区三区精品视频| 啊啊啊啊啊好大好舒服想要| 五月天婷婷社区| 日本国产高清色www视频在线| 色噜噜人妻av 中文字幕| 日韩综合第八区国产精品| 激情抓乳插进去啪啪啪日韩| 极品五月天噜噜| 99精品无码| 夜夜影视四色| 狠狠2050在线观看| 亚洲,日韩,欧美,成人播放| 九九视品黄色| 日躁天天爽爽| 免费夜夜爱黄色视频毛片| 极品一区二区三区免费| 亚洲乱伦图片视频| 欧美亚洲AN| 亚洲国产精品成人综合| 欧洲射精91| 亚洲欧洲成人在线电影| 91oumei| 九九九九久久久久| 老女人爆菊| 欧美日韩在线小说| 男人亚洲91首页在线| 超碰色97| 2010男人的天堂| 屁股久久久久久久久久| 亚洲天堂人妻一区二区| 麻豆精品一区二区三区四区免费观看| 激情五月天婷婷| 97在线视频网站| 九九九九九九九精品视频| 久久久久久久9999| 又黄又爽在线观看视频| 九九热九九| 日韩成人电影AV| 久久久成人精品| 亚洲综合在线第一页| 激情干在线| 亚洲 中文 欧美 日韩 在线| 午夜免费福利视频一区| 一区二区视频在看| 人妻久热在线| av一区二区三区四区| 欧美影音在线| 日本福利二区视频| 日韩小电影| 欧美性后入| 欧美经典一区二区三区| 天天综合网亚洲综合网| 先锋精品av色鲁| a片自拍直播视频| 亚洲www91| 日韩欧美字幕亚洲一区二区| 好涩综合| 91九九九逼| 性爱精品一区| 17c嫩草51久久91嫩草| 日本99一区二区| 国产尹人在线视频免费| 亚洲综合首页| 91性| 男人的天堂网免费| 麻花豆传媒剧国产MV出差| 色偷偷2020免费视频播放| 亚洲人成网www| 1级午夜影院费免区| 色97综合中文字幕| 淫色网综合| 成人 日本A片无码8888| 婷婷涩嫩草鲁丝久久午夜精品| 91在线丝袜视频| 婷婷综合网| 天天干天天燥| 日本在线伊人啪啪| 熟女高潮合集-永久久久-成人AV| 丁香五月婷婷啪啪| 亚洲一区二区三区不卡国产欧美| 97在线播放| 男女91| 大香蕉丝袜一级片| 一级@啪啪视频| 大香蕉日韩| 九九九九一级| 亚洲色图加勒比| 丁香激情网| 日韩丰满熟妇| 国内毛片无遮挡国产| 精品久久97观看在线视频| 久久久久元码视频| 日少妇亚洲版| AV中文在线可看| 91强奸乱轮| 久久国产免费激情视频| 中文乱码字字幕在线第5页| 久热这里| julia ann久久| 久久久99999久网站| www.四虎在线| 色97| 97天天摸天天碰| 国产女人成人精品视频| 女人 A一级| 国产一进一出视频网站| 一级性爱视频免费观看| 狠狠爱大香蕉| 91色插| 性高潮久久久久久久久久久| 日韩av情韩国爱禁区av一区二区| 九九亚洲精品| 四虎免费看黄| 亚州人妻| 亚洲欧美一区二区不卡视频播放 | 91精品操美女| 黑人干亚洲| 夜夜免费视频| 综合网亚洲1| 无码人妻系列少妇| 啊啊啊啊啊好舒服视频| 亚洲九九视频在线观看| 精人妻无码一区二区三区伊人直播| 久久亚洲熟妇在线视频| 黄总AV色图| 99国产精品免费| 亚洲限制级| 亚洲天堂美臀在线| 色哟哟精品1精品2| 天天天干977| 丰满人妻-区二区三区免费看| 欧美欧美少妇| 久久精品熟妇丰满人妻99| 亚洲图片欧美色| 亚洲欧美日韩免费观看| 亚洲一区日韩精品中文字幕| 亚洲日韩精品久久久久一区壹牛| 激情小说图片亚洲首页| 乱伦色图网址是多少| 精品久久久久av影院| 九九探花视频在线观看| 99人人干| 黄色大片一区二区密桃丝袜| 97干色天堂| 亚洲欧洲第二视频在线观看色图| 天天操天天日天天干| 日韩有码回春沙龙第一页| 欧美性色欧美| 人妻夜夜爽天天爽三区麻豆AV网站| 国产一区二区三区高清视频| 欧美国产欧美在线观看| 第一高清av中文字幕| 920日本午夜免费| 天天享受天天看| 亚洲女人毛茸茸91| 男人的天堂一区| 国产真乱mangent| 在线观看精品国产免费| 成人贴图日韩欧美| 亚洲欧洲第二视频在线观看色图| 97欧美色| 少妇厨房愉情理伦片bd在线观看| 亚洲国产成人精品无码专区| 98一区二区精品| 高潮嗯啊性感美女久久久| 性欧美| 一本色道无码DVD中文字幕| 亚洲最大成人a毛毛片| 久久xx| 久久国产精品熟女人妻| 男人的天堂视频精品乱在线| 亚洲欧洲av影音| 色牛牛AV| 性老妇一区二区三区| 天天爱天天操| 国产熟女乱论| 中文字幕乱碼在线| 欧美日韩欧美| 色yeye成人免费视频| 蜜色网色哟哟| 精品国产乱码久久久影院| 少妇熟女1区2区3区| 婷婷啪啪| 欧美精品,四区。五区| 国产精品高潮呻吟av久久4虎| 蜜桃av综合网发布| 美女诱惑在线一区| 亚洲欧美综合| 激情六月天| 96精品一区| 少妇一区二区三区精选| 99re6久热只有精品6在线直播| 天天影视之亚洲综合网| 人妻干天天| 精品大久久| 91 丝袜在线播放| 99自拍视频在线观看| 操淫穴亚洲五月丁香 | 日韩人妻一区二区精品| 60秒免费小视频| 欧美爆乳精品一区二区| 色穴精品| 97日韩欧美| 屌逼传媒| 99在线精品视频| 成人精品在线| 日本道人妻久久久在线不卡色视频| 曰本人妻人人澡人人夹| 久久色一区二区| 亚洲一卡二卡在线免费| 97色爱| 乱伦熟女专区| 嗯嗯啊啊亚欧精品| www熟女乱伦com| 后入内射蜜桃臀| 三级日韩一区二区三区| 麻豆国产原创AV色哟哟| 午夜舔阴达高潮视频免费看| 久久久999网站| 久久久久久久强迫| 伊人青青一区成人视频在线观看区| 亚洲人妻久久| 1024亚洲中文字幕久在线看片你懂的| 啊啊啊啊好多水| 美女超碰978| 欧美性xxxxx狂欢| 国产性感在线观看| 国内毛片热久久思思热| 久久伊人青青草| 大香蕉久| 久射吧| 97WW精品| 18禁无码永久免费无限制| 亚洲吊色| 欧美成人一区二区三区在线播放 | 五月丁香综合| 欧美色乱| 亚洲人妻熟妇三十三区| 操逼片国产| 久久久久婷婷精品av电影| 91久久久久久久久18| 高清无码人妻久久久一区二区三区aⅴ| 99欧美| 边做饭边操逼逼| 嗯嗯啊啊好大好爽| 亚洲超碰在线| 日本性感人妻91| 中文字幕一区二区三四五区日日骚| 亚洲精品乱码久久久久久蜜桃麻豆| 日本2020一区二区| 99啪| 秋霞免费AV| 国产精品网址| 中文字幕超碰CAO| 人妻黑丝袜电影| 欧美日韩欧美| 亚洲另类天堂| 欧色性第一页| 99久在线精品99re8| 91中出| 国产精品在线一区二区| 丁香五月AV| 99re热有精品视频国产| 蜜桃天美传媒AV一区二区三区| 2020视频1区2区3区| 亚洲视频1区| 色妺妺AⅤ| 蜜臀亚洲综合一二三四区| 五月开心网| 亚洲成人无码影院| 大香蕉欧美| 四虎精品一区| 久插综合| 国产又粗又又黄又猛| 国产一级137片内射麻豆| 欧美色图校园春色| 久久久久9999精品九九九| 日韩精品99999| 国产第25页在线观看| 亚洲精品久久久久毛片A片拉屎| 999九九精品| 一牛影视久久久一区二区三区| 午夜理论片在线观看免费| 国产午夜精品理论片一二三区区| chaopen97久久| 欧美人妻中出| 久久精品免费| 熟妇在线视频一区二区| 蜜桃av综合网发布| 伦伦成年午夜免费视频| 日本孕妇一区二区视频操逼免费看| 色哟哟av| 99re在线精品78| 亚洲www91| 激情露脸爱| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 一个国产在线综合网站| 啊啊啊操死我| 蜜臀久久久99久久久久| 男人天堂最新手机版在线青青草| 欧美性爱网97| 中国黑人三级片网站上区| 精品人人| 国产高清1234区| julia高潮后不停追击中出| 亚洲偷拍自拍在线视频| 一,爱啪啪,在线免费视频| 99在线免费公开视频| 国产午夜精品理论片a大结局| 玖玖久久久| 性欧美999| 啊啊啊慢点| 欧美色91| 国产精品不卡少妇白| 国产精品白丝www| 国产尤物在线三区| 青草伊人网| 国产激情在线| 伊人九九九| 欧美日韩久久精品爱爱| 日本午夜福利影院| 色阁阁AV综合网| 操国产逼| 精品国产Av无码久久久亚洲| 亚洲日韩天堂| 亚洲国产美女久久久久| 日本中文字幕不卡视频| 欧美性爱精品七区| 国产AAAAAABBBBB| 人人 操人人 操人人| 熟女五十路一区二区三| 在线a v| 日韩性爱再线视频| 亚洲精品一区二区三区在线播放| 日本Xx性爱| 丁香五月天激情网站| 婷婷五月综合在线| 夜夜肏2021| 97爱欧美| 91性| 亚洲成人AB| 老女人综合网| 国产特级毛片AAAAAA高潮流水 | 色婷婷成人| 色综合美国| 夜夜国产一区| 91在线丝袜| 麻豆天美一区二区| 日本一区二区三区免费观看| 亚洲精品无码久久AV| 五月天婷婷久久| 精品射1999| 伦理日韩国产久久| 九九九九九精品| 偷拍亚洲熟女视频播放| 亚洲图片偷拍视频区| 人妻碰碰碰碰碰碰| 啊啊啊啊啊好舒服视频| 精品对白久久不卡| 少妇无码av专区线| 91久久久久久| 四虎免费看黄| 日本媚薬中文字幕在线| 欧美五十路熟| 五月婷婷六月丁香| 亚洲情色在线| 亚洲欲色| 国产精品999zyz| 91熟女熟妇视频网站| B049AV在线播放| 日韩一二三区| 欧美v亚洲v日韩v最新在线二区 | 2020中文字幕在线观看| 日韩在线一区高清在线| 九九AV| 国产第11页| 97在线观看免费视频| 日韩性爱电影一区| 特级大荫道BBwBBwBBW| 久久成人东京热人妻| 久久亚州精品成人Av无| 婷色五月天| 男人的天堂日韩| 日B操| 日本欧美成人片AAAA| 97网址97| 最近2018中文字幕在线高清第一页| 99久久综合网| Aa东京男人的天堂| 性爱网站一区二区| 国产亚洲人妻综合日韩 久久| 国产99999久久精品| 少妇熟女1区2区3区| 狠狠狠狠狠| 久久后入制服| 黑人狂躁日本妞一区二区三区| 色女网日韩| 熟女人妻一区二区三区| 五月天色色网站| 中文字幕一品色图| 亚洲国产成人福利在线观看| 色好看av| 99re超碰| 久久精彩免费视频| 日韩精品一区二区三区色欲| 太久视频| 亚洲成人免费电影| 玖玖爱伊人玖玖爱| 亚洲一曲日韩精品| 久久一二三四不卡| 欧美成人A√在线一区二区| 国产精品天美传媒| 97亚洲综合| 女优视频第10页| 99国产女人| 伊人成人中文字幕久久网| 久久久久久久久久久久色网| 色综合尤物| 天天碰久久入| 免费一级视频特黄色大片| 亚洲天堂一区二区| 717影院理论午夜伦八戒| 骚逼自拍99| 免费中文在线| 97日韩欧美亚洲| 一块操欧美| 99热这里都是精品| 懂色AV一区二区三区| 天美传媒AV在线播放| 情色日播放AV| 一本色道无码DVD中文字幕| 抽查国产福利主播| 国产久久成人| 人妻丝袜肏逼| 男人的天堂一区三区| 91亚洲黄色网| 亚洲少妇色| 五月天婷婷在线看 | 伊人一区二区在线播放| 玖玖爱一区在线| www.91理论| 黑白配性爱AV成| 亚洲丝袜二区| 亚洲**2021在线观看| 欧美天堂超碰97| 亚洲 欧美日韩 另类| 日本二三四区| 亚洲欧美综合色| 岛国网址国产| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 亚洲国内精品成人不卡| 色一色综合网| 亚洲福利中文字幕在线| 亚洲欧美综合图片| 亭亭丁香激情| 亚洲成人福利电影免费 | 九九AV| 在线中文字幕| 欧美96交| 日欧美色| 中国探花熟女| 东北少妇高潮zzzz| 国产和美国毛片| 神马精品视频| 午夜福利在线合集| 久久激情婷婷| 91欧美性| 美女啊啊啊啊啊啊啊| 欧洲成人性爱视频| 人人操人人肉久久精品| 秋霞一区二区三区四区五区六区七区| 亚洲砖码砖专无区2023| 在线日韩日本亚洲国产| 熟妇高潮二区三区| 亚洲不卡不卡中文字幕不卡| 网页导航五月天免费一二三区| 欧美AB在线| 欧美高潮| 情色av电影| av中文在线| 青青伊人这里只有精品| 欧美色女人| 天天性射网| 亚洲一二三| 91人妻超碰| 超碰九色| 国产日产精品久久快鸭的功能介绍| 97在线观| 涩亚洲欧洲| 伊人青青草久久| 日本有码久久| 亚洲国产无码精品首页久久久| 日韩欧洲操屄视频| 老妇女91| 伊人国产AV| 国产精品久久久久999| 欧美大香蕉97| 99色悠悠| 婷婷五月丁香五月| 三级片网站在线播放| 日韩人妻播放| 成人免费看吃奶视频网站| 91天天| 九久精品| 久久9精品| 国产一区二区精品久久久不卡蜜臀| 日韩丝袜高跟制服在线观看| 夜夜狼人妻| 国产视频一区二区在线| 亚洲精品视频二区| 婷婷五月综合激情| 十八禁视频网站| 免费综合亚洲中文| 日韩三级天堂在线观看| 综合 欧美 亚洲 日本| 女同女同恋久久级三级| 欧美真人抽搐一进一出gif| 精品人人插人人操| 后入式五六区| 日日干夜夜操视频h| 免费的黄片有限公司| 中文字幕在线免费观看2| 啊啊啊啊啊啊啊啊视频| 男女国产精品| 亚洲欧洲自拍| 久久一区二区三区四区五区| 国产99热| 99色网| 午夜性生活av免费在线看| 天天做天天爱| 亚川综合视频| 免费又黄又裸乳的视频| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 免费观看欧美日韩操逼视频| 九九热只有精品| 国产粉嫩出水在线播放| 国产精品自拍欧美在线| 亚洲第一无码播放立川理惠| 亚洲精品中文字幕一区在线视频| 殴美在线AⅤ| 精品成人av一区二区三区在线| 99热只有这里有精品| 婷婷丁香五月激情啪啪| 99re在线观看| 狼天天狼天天大香蕉|