亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

CPU占用率高排查:從top到perf的Linux實戰(zhàn)指南

CPU占用率高排查:從top到perf的Linux實戰(zhàn)指南 簡介面向Linux運維工程師的高CPU占用問題排查實戰(zhàn)文檔聚焦系統(tǒng)負(fù)載飆高時的定位與處理思路。資源系統(tǒng)梳理兩種常用排查方法一種通過top排序后結(jié)合top -H、線程ID轉(zhuǎn)十六進制、jstack查看線程狀態(tài)另一種通過ps -mp獲取線程耗時并排序再結(jié)合jstack打印堆棧二者均能快速鎖定異常線程與相關(guān)代碼。文檔還融入真實生產(chǎn)案例演示Java進程CPU占用率達(dá)到300%時的完整排查過程從初始top發(fā)現(xiàn)PID到最終定位線程堆棧避免盲目重啟服務(wù)同時介紹Zabbix、Nagios、阿里云監(jiān)控及“王教授”運維工具的告警機制強調(diào)監(jiān)控前置與主動發(fā)現(xiàn)的價值。資源為單個PDF文件大小147KB內(nèi)容精煉、操作命令明確適合運維人員和后端開發(fā)者隨時查閱文中方法無需圖形界面可直接在純命令行環(huán)境實踐。已有4448人學(xué)習(xí)下載對日常系統(tǒng)維護和故障應(yīng)急具有實際參考意義。1. CPU占用率高的排查先定位再動手別把玄學(xué)當(dāng)性能分析Linux系統(tǒng)中CPU占用率偏高可能是運維群里出現(xiàn)頻率最高的告警。很多人的第一反應(yīng)是登錄服務(wù)器敲top看到哪個進程%CPU高就kill -9哪個這套流程在壓測環(huán)境能交差到了生產(chǎn)環(huán)境經(jīng)常會翻車同一個進程的 CPU 統(tǒng)計跟監(jiān)控平臺對不上或者機器 load 已經(jīng)快拉滿top里 CPU 占用卻不到 60%。本文把一套在服務(wù)器上反復(fù)用的排查思路拆開講怎么從進程定位到線程、從用戶態(tài)挖到內(nèi)核態(tài)、再從現(xiàn)場判斷該調(diào)業(yè)務(wù)還是調(diào)資源適合負(fù)責(zé)后臺服務(wù)和容器平臺的開發(fā)運維也適合準(zhǔn)備 linux 面試題的同學(xué)在紙上把整套流程推演一遍。2. 用 top、ps、mpstat 把高占用進程和線程揪出來2.1 top 里的三個數(shù)%CPU、load average、us/sy 的正確讀法top是大家最熟的 linux 常用命令但多數(shù)人只看了兩個數(shù)第一行的 load average 和進程列表里的%CPU。這兩個數(shù)恰恰最容易誤讀。load average 后面的三個值分別代表過去 1 分鐘、5 分鐘、15 分鐘的平均活躍進程數(shù)?;钴S進程包含正在運行的 R 狀態(tài)進程和等待 IO 的 D 狀態(tài)進程所以 load 高不等于 CPU 高。一臺 4 核機器如果 load 是 4.0大致可以認(rèn)為跑滿但如果進程都在等磁盤load 到 8 也可能%CPU只有 20%。判斷是否 CPU 問題要以 CPU 狀態(tài)行和%CPU為準(zhǔn)load 只用來感受整體壓力趨勢。CPU 狀態(tài)行里重點看 us(user)、sy(system)、wa(iowait)、si(softirq)、st(steal)。us 高是業(yè)務(wù)代碼消耗sy 高是系統(tǒng)調(diào)用或內(nèi)核態(tài)消耗wa 高要轉(zhuǎn)向磁盤排查si 高要懷疑網(wǎng)絡(luò)包處理st 高則要考慮虛擬化宿主機搶占。進入top后先按數(shù)字鍵1把 CPU 展開成每個物理核的視圖如果只有個別核打滿說明問題可能出在單線程或中斷綁核后續(xù)排查方向完全不一樣。進程列表默認(rèn)按 CPU 排序但按P可以強制排序按H可以切換成線程視圖按c顯示完整命令行。這里花一分鐘記住top -H -p PID這個組合它會直接進入某個進程的線程視圖是定位單線程熱點最快的入口。2.2 ps 的 %CPU 只是平均值線程級視角要交給 pidstat很多新手只靠ps aux看 CPU這是第一個坑ps 報告的是進程從啟動到現(xiàn)在的平均 CPU 占用不是當(dāng)前實時值。一個剛崩潰重啟的進程哪怕現(xiàn)在把 CPU 打滿ps里也可能只顯示個位數(shù)百分比。所以ps適合拿來確認(rèn)進程存在、PID、父子關(guān)系不適合判斷當(dāng)前熱點。我一般會分兩步。第一步用ps做粗篩把所有進程按 CPU 占用排序看一眼到底哪個進程可疑ps -eo pid,ppid,%cpu,%mem,user,comm --sort-%cpu | head -n 20-e表示所有進程-o指定輸出列--sort-%cpu按 CPU 占用從高到低排序。這條命令 1 秒出結(jié)果適合在 CPU 飆高時先用它定一個嫌疑進程再用下面這條看該進程內(nèi)部的線程pidstat -u -t -p 12345 1 5pidstat來自 sysstat 包-u表示監(jiān)控 CPU-t顯示線程級別詳情-p 12345指定進程 PID最后的1 5表示每秒采樣一次、共采樣 5 次。輸出里每行對應(yīng)一個線程%usr是用戶態(tài)占用%system是內(nèi)核態(tài)占用%CPU是線程整體占用TID是線程號。這樣定位出來的線程號可以直接對照jstack、perf的調(diào)用棧結(jié)果把問題從“進程層面”壓到“線程層面”。這里有個很重要的換算概念單個線程的%CPU上限就是 100%相當(dāng)于占滿一個邏輯核一個進程顯示 300%說明它內(nèi)部有 3 個線程在并行跑滿。后續(xù)不管用perf還是看 Java 線程棧都要以 TID 為單位去對而不是用 PID。2.3 mpstat 看核間分布單核打滿和全核打滿是兩種病判斷完線程下一步要知道 CPU 壓力是不是均勻分布在所有核上。這決定了你要查的是單線程代碼問題、綁核問題還是多線程并發(fā)資源耗盡。命令是mpstatmpstat -P ALL 1 3-P ALL展示所有 CPU 核1 3表示每秒輸出一次、輸出三次。返回的表格里每一行是一個 CPU 核的實時占用%usr、%sys、%irq、%soft、%steal分別對應(yīng)不同來源??吹降慕Y(jié)果通常歸成兩類。一類是某個核長期超過 90%其他核卻很悠閑這種大概率是單線程的邏輯寫在關(guān)鍵路徑上或者內(nèi)核把中斷都塞給了一個核另一類是每個核都高這種要么是多線程死循環(huán)要么是鎖競爭導(dǎo)致所有線程都在自旋等待要么是宿主機 CPU 超賣。還有一種容易被忽略的情況業(yè)務(wù)進程每個核都只有 30% 左右但 CPU 總占用加起來很高。這種分布常見于日志寫入、壓縮、序列化這類影子開銷多的服務(wù)。不要只盯著最高的核看要按“總 CPU 時間消耗”去算賬。觀察現(xiàn)象可能原因下一步動作單核打滿其他核空閑單線程密集計算、中斷綁核查代碼熱點、查 /proc/interrupts所有核同步打滿多線程死循環(huán)、鎖競爭perf 采樣看內(nèi)核態(tài)函數(shù)各核 20%~40% 但總量高日志、壓縮、序列化等影子開銷逐一核對輔助進程與內(nèi)核線程%steal 明顯偏高虛擬機 CPU 被宿主機搶占檢查云主機規(guī)格與鄰居負(fù)載3. 從進程態(tài)挖到內(nèi)核態(tài)perf、vmstat 與中斷風(fēng)暴的排查路徑3.1 perf top 看熱點函數(shù)數(shù)據(jù)比直覺靠譜進程和線程定位完了只知道“誰”在燒 CPU還不知道“為什么”。這時候再猜就屬于玄學(xué)直接把采樣工具掛上去看內(nèi)核和用戶態(tài)函數(shù)分布。最簡單的是perf topperf top -p 12345它會按 CPU 采樣頻率對當(dāng)前進程的熱點函數(shù)實時排序默認(rèn)帶調(diào)用棧展開功能??吹接脩魬B(tài)函數(shù)名基本能判斷是不是死循環(huán)看到內(nèi)核態(tài)函數(shù)名也能猜個大概方向。比如native_queued_spin_lock_slowpath出現(xiàn)頻率很高多半是自旋鎖競爭do_softirq相關(guān)函數(shù)高要轉(zhuǎn)向網(wǎng)絡(luò)包處理finish_task_switch高說明線程切換本身消耗了大量 CPU進程內(nèi)線程數(shù)可能太多。如果希望保存下來慢慢分析可以用采樣方式perf record -g -p 12345 -- sleep 10 perf report-g記錄調(diào)用棧-p指定進程-- sleep 10表示采 10 秒就自動結(jié)束。perf report進入交互界面后會生成一張熱點調(diào)用樹按回車逐級展開能看到完整調(diào)用鏈。這條鏈路比任何日志都能說明問題。需要注意兩點。第一內(nèi)核符號可能需要 root 權(quán)限才能讀全普通用戶經(jīng)??吹揭欢裑unknown]生產(chǎn)環(huán)境可以臨時用 root 執(zhí)行受限命令后退出不要長期掛 root daemon。第二Java、Go 這類 JIT 或運行時語言perf 直接看到的用戶態(tài)符號往往是運行時自身配合jstack或py-spy把 TID 翻譯成業(yè)務(wù)線程名才算是閉環(huán)。3.2 vmstat 的 r 列和 cs 列上下文切換為什么會飆升perf能看函數(shù)級但很多機房環(huán)境不方便裝額外工具此時vmstat是個不需要安裝的備選。執(zhí)行vmstat 1 5關(guān)注五列r、cs、us、sy、wa。r 是當(dāng)前處于可運行狀態(tài)的進程數(shù)如果這個值持續(xù)大于 CPU 核數(shù)說明有一批進程在排隊CPU 確實不夠用cs 是每秒上下文切換次數(shù)這個值正常情況下每核幾百到一千多超過兩三萬就要警惕進程線程可能像抽風(fēng)一樣在搶時間片us 和 sy 分別是用戶態(tài)與內(nèi)核態(tài)的 CPU 時間占比wa 是 IO 等待占比。我最常碰到的場景是CPU 占用看著不高us 只有 20%但 sy 占了 40%cs 數(shù)值異常高。這種往往是短生命周期線程大量創(chuàng)建銷毀或者定時器、信號觸發(fā)太頻繁導(dǎo)致 CPU 大量浪費在“切換”而不是“干活”上。排查時用pidstat -w -t -p PID 1 5看每個線程的 cswch/s(自愿切換) 和 nvcswch/s(非自愿切換)自愿切換過多說明線程在等待鎖或 IO非自愿切換過多說明時間片不夠、線程數(shù)超過核數(shù)太多。3.3 把 D 狀態(tài)進程和 iowait 從 CPU 占用里剝出去很多人把 load 高和 CPU 高混為一談?wù)鎸嵤澜缋镉写罅?load 很高但 CPU 閑置的場景。罪魁禍?zhǔn)淄ǔJ?D 狀態(tài)進程也就是不可中斷睡眠狀態(tài)典型情況是進程在等磁盤 IO 或 NFS 響應(yīng)。D 狀態(tài)進程會計入 load average但不消耗 CPU 時間片所以top里 CPU 占用看著不高機器卻卡得不行。排查命令很簡單ps -eo pid,stat,wchan:30,comm | awk $2 ~ /^D/ {print}wchan:30顯示進程當(dāng)前等待的內(nèi)核函數(shù)名能看到它究竟卡在哪個內(nèi)核函數(shù)上。比如卡在wait_on_page_bit說明在等內(nèi)存頁回寫卡在nfs相關(guān)函數(shù)說明遠(yuǎn)端存儲有問題。看到一堆 D 狀態(tài)進程時不要再調(diào) CPU 配置先去查磁盤iostat -x 1看%util和svctm或者確認(rèn) NFS 掛載點是否可達(dá)。3.4 中斷風(fēng)暴ksoftirqd 和網(wǎng)卡多隊列還有一種 CPU 高是中斷帶來的表面上找不到用戶態(tài)進程但top里 si(軟中斷) 或者 hi(硬中斷) 不低同時 ksoftirqd 內(nèi)核線程占用會飆上去。這個場景在流量型服務(wù)上很常見網(wǎng)卡每收一個包就觸發(fā)一次中斷如果小包特別多中斷處理本身吃掉的 CPU 可能比業(yè)務(wù)代碼還多。先看中斷是否集中在某個核上cat /proc/interrupts左側(cè)是中斷號各列對應(yīng)每個 CPU 核收到的中斷次數(shù)。如果網(wǎng)卡相關(guān)中斷號只在 CPU0 上漲說明當(dāng)前驅(qū)動或配置把所有網(wǎng)絡(luò)中斷都綁到了第一個核這就是單核被打滿但其他核空閑的原因之一。常見做法是先確認(rèn)網(wǎng)卡是否支持多隊列用網(wǎng)卡工具查看隊列數(shù)量然后調(diào)整隊列數(shù)與 CPU 核數(shù)匹配讓多個核分?jǐn)偸瞻袛?。如果是虛擬化環(huán)境且驅(qū)動不支持多隊列可以嘗試開啟 RPS/RFS 這類軟件分發(fā)機制讓軟中斷均勻分散到各核避免單核成為瓶頸。這類問題的后續(xù)驗證也很直接mpstat -P ALL里各核%soft是否趨于均勻且用戶態(tài)業(yè)務(wù) CPU 是否順勢降下來。4. 對高 CPU 問題的常見處置手段從鎖競爭到進程配額4.1 死循環(huán)和忙等從熱點函數(shù)到止損措施代碼里出現(xiàn)死循環(huán)或忙等是 CPU 高最直接的原因。perf top顯示某個用戶態(tài)函數(shù)長期壓在頂部基本就能下結(jié)論。處理順序應(yīng)該是先止損、再定位、后修復(fù)。止損手段要看服務(wù)形態(tài)。能快速回滾的版本直接回滾不能回滾的臨時把并發(fā)調(diào)低比直接 kill 進程更安全因為 kill 會中斷所有請求影響面更大。常見做法是先用kill -STOP PID暫停進程確認(rèn)現(xiàn)場影響范圍后再決定是否kill -TERM。kill -9是最后的選擇因為它不給進程清理連接和釋放內(nèi)存的機會可能留下半關(guān)閉的 socket 或臟數(shù)據(jù)。止血后再按語言選工具C/C 用perf看調(diào)用棧Java 服務(wù)用jstack -l PID抓線程棧多抓幾次對比是不是同一個方法卡住Python 服務(wù)可用py-spy dump --pid PID拿到當(dāng)前正在執(zhí)行的 Python 函數(shù)名。定位到具體函數(shù)后再改代碼不要不停重啟重啟只是把黑匣子又蓋回去了。4.2 鎖競爭線程數(shù)不是越大越好另一個高發(fā)原因是鎖競爭。現(xiàn)象很典型CPU 占用高業(yè)務(wù)吞吐卻上不去perf top中自旋鎖相關(guān)函數(shù)排在前列火焰圖里鎖等待區(qū)域又寬又矮。很多人第一反應(yīng)是加線程實際上在高 CPU 密集場景下線程數(shù)遠(yuǎn)超核數(shù)就會產(chǎn)生大量上下文切換和鎖自旋CPU 全部耗在等鎖上活沒干多少。這類問題要先看鎖的粒度。把大鎖拆成細(xì)鎖、用讀寫鎖代替互斥鎖、減少持鎖期間的操作都是常用手段。線程池大小也不是簡單 2 倍核數(shù)就合理CPU 密集場景通常設(shè)為核數(shù)或核數(shù)加一IO 密集場景再放寬。這個問題也是 linux 面試題里反復(fù)出現(xiàn)的給你一個四核機器線程池開 100 個線程跑純計算吞吐能提升嗎答案是不能反而可能因為鎖競爭和切換開銷讓性能下降。如果代碼一時改不動可以先用taskset把進程綁定到固定核上限制它與其他進程爭搶但這只適用于單實例或?qū)ρ舆t不敏感的服務(wù)多實例場景慎用。4.3 日志滾輪和壓縮讓日志進程成了 CPU 大戶很多 CPU 高的問題不在業(yè)務(wù)進程而在日志鏈路上。新裝的 Linux 系統(tǒng)更容易踩這個坑systemd-journald 默認(rèn)把每個服務(wù)的輸出都收進 journal如果某個程序瘋狂打日志journald 的 CPU 會先飆起來。接著是舊日志壓縮歸檔日志越大壓縮進程消耗越高。排查時別只盯業(yè)務(wù)進程把systemd-journald、rsyslogd、logrotate的 CPU 都看一遍pidstat -u -p $(pidof systemd-journald) 1 5如果 journald 占用顯著先看是不是有服務(wù)一條條刷屏把日志級別調(diào)上去或者把無關(guān)輸出重定向到 /dev/null。journald 側(cè)可以調(diào)整/etc/systemd/journald.conf里的SystemMaxUse限制總?cè)罩救萘縍ateLimitIntervalSec和RateLimitBurst控制單位時間最多接收多少條日志修改后重啟 journald 生效。rsyslog 同步寫盤壓力大時可以改成異步隊列或者按日志量調(diào)整滾動策略避免一個日志文件膨脹到幾百兆后再一次性壓縮。這個環(huán)節(jié)經(jīng)常被忽略屬于排查順序里性價比很高的一步。4.4 用 systemd 配額給失控進程設(shè)上限當(dāng)進程暫時殺不得、代碼又改不動可以先把它的 CPU 占用限制住保住同一臺機器上其他服務(wù)。systemd 管理服務(wù)可以直接用運行時命令systemctl set-property your-service.service CPUQuota150%CPUQuota150%表示最多使用 1.5 個核的 CPU 資源底層對應(yīng) cgroup 的 cpu.max 配額150% 實際是 150000/100000 的比例關(guān)系。設(shè)置后立即生效重啟也會保留。想臨時看一下效果再決定去留可以執(zhí)行同樣的命令把配額改回空值去除限制。對不在 systemd 管理下的進程可以用cpulimit -p PID -l 50這類用戶態(tài)工具它通過暫停和恢復(fù)進程來控制 CPU適合應(yīng)急但不適合精度要求高的場景。要記住配額只是止損不是修復(fù)長時間用配額壓著有問題的進程會讓延遲劣化且難以察覺還是要留出時間窗處理根因。4.5 虛擬機 CPU steal宿主機搶走了本該屬于你的 CPU云服務(wù)器和虛擬化環(huán)境里還有一種“假高占用”的根因不在你機器內(nèi)部而在宿主機超賣。mpstat輸出里的%steal字段或者top狀態(tài)行里的st代表虛擬機申請 CPU 時間但被宿主機調(diào)度延后的比例。如果%steal持續(xù)超過 10%應(yīng)用的 CPU 占用和延遲都會肉眼可見地惡化但你在虛機里查任何進程都查不出問題。這種場景的處理思路很簡單不要調(diào)業(yè)務(wù)參數(shù)先調(diào)整部署位置。常見做法是遷移到低負(fù)載宿主機或者在購買資源時選擇限制超賣比例的實例規(guī)格。如果服務(wù)跨多臺機器優(yōu)先把流量切走如果無法遷移可以嘗試把業(yè)務(wù)線程的調(diào)度優(yōu)先級調(diào)低減少被宿主機搶占時的連鎖抖動但這個措施效果有限。判斷 CPU 高之前先看%steal能省掉后面一整輪業(yè)務(wù)層排查。5. CPU占用率排查避坑5 個容易翻車的誤判場景5.1 top 顯示占用正常但機器整體卡成 PPT現(xiàn)象top里各核%CPU只有 20% 左右但敲命令明顯卡頓SSH 窗口響應(yīng)延遲好幾十秒。原因CPU 狀態(tài)行里的 us、sy 都不高時要回看 load average 和 wa。常見根因是磁盤 IO 飽和進程大量進入 D 狀態(tài)排進 run queueload 被頂高而 CPU 真正花在“等 IO”上而不是“算”上CPU 百分比自然不高。解決用iostat -x 1看磁盤%util用ps -eo pid,stat | grep D數(shù) D 狀態(tài)進程確認(rèn)后再決定擴容磁盤、遷移數(shù)據(jù)還是排查慢存儲。不要把突破點放在 CPU 上那條路是死的。5.2 一個進程顯示 300% 或 800%以為是 bug 或中毒現(xiàn)象進程列表里某個進程%CPU顯示超過 100%甚至 900%第一反應(yīng)是數(shù)值異常或進程被種了礦機。原因top和pidstat的%CPU都是按核歸一化的100% 代表一個邏輯核打滿。多線程進程的多個線程并行運行占用多個核總和超過 100% 是完全正常的。解決用top -H -p PID切到線程視圖確認(rèn)是多個線程各占一部分還是某個線程單獨占滿。按 H 切換后如果所有線程加起來和進程總占用對得上說明是并行計算而非異常如果單個線程超過 100%反而要先懷疑進程綁核或者多個線程綁定同一個核再去查業(yè)務(wù)是否正常。5.3 strace 一掛上去CPU 占用反而降了現(xiàn)象現(xiàn)場怎么看怎么可疑strace 跟蹤幾秒后CPU 占用以肉眼可見速度下降讓人以為是誤報。原因strace 會攔截每次系統(tǒng)調(diào)用讓原本高頻的系統(tǒng)調(diào)用變慢整個程序的執(zhí)行節(jié)奏被拉低CPU 占用自然降下來。這不代表問題自動消失是干擾工具改變了測量對象。解決遇到這種情況就不要再用strace -p PID做長時跟蹤改用短窗口采集比如timeout 5 strace -f -c -p PID只看匯總統(tǒng)計或者換用perf采樣它對程序時序的影響小得多。記住排查工具的副作用本身也是排查的一部分。5.4 監(jiān)控平臺顯示 CPU 90%登錄服務(wù)器看卻不到 30%現(xiàn)象監(jiān)控告警 CPU 持續(xù) 90%但 SSH 上去執(zhí)行top和mpstat占用率只有 30% 左右兩邊數(shù)據(jù)對不上。原因監(jiān)控平臺通常按 1 分鐘或 5 分鐘周期聚合會把高峰期和低峰期平均top看的是當(dāng)前瞬間值兩者采樣窗口不同本來就有差異。另一個常見原因是監(jiān)控統(tǒng)計的是 cgroup 視圖而top看的是整機視圖容器場景尤其明顯。解決先把自己采集的周期拉長用pidstat -u 1 60連續(xù)記錄一分鐘看平均 CPU 和監(jiān)控平臺是否接近再確認(rèn)容器里用top時是否已經(jīng)進入了對應(yīng)容器的 PID namespace。數(shù)據(jù)對不齊時以長時間連續(xù)采樣為準(zhǔn)不要拿一個瞬間值反駁監(jiān)控平臺。5.5 內(nèi)存回收被誤判為 CPU 問題現(xiàn)象us 和 sy 都不高但 kswapd 內(nèi)核線程 CPU 起高系統(tǒng)整體響應(yīng)也變慢。原因內(nèi)存接近上限時內(nèi)核要反復(fù)掃描內(nèi)存頁做回收這個過程消耗 CPU 時間還會觸發(fā)直接回收進而阻塞進程。CPU 高只是表面現(xiàn)象根因在內(nèi)存。解決順手看free -h和vmstat的 si、so 兩列si/so 持續(xù)不為零說明已經(jīng)發(fā)生換頁。用dmesg -T | tail看有沒有 oom 相關(guān)記錄有的話優(yōu)先處理內(nèi)存泄漏和調(diào)低緩存上限而不是給 CPU 加配。內(nèi)存問題偽裝成 CPU 問題的比例不低CPU 排查的前三個步驟里應(yīng)該帶一眼內(nèi)存。6. 把排查流程固化成一個采集腳本再對照驗證結(jié)果第一次排查 CPU 高時憑記憶敲命令容易漏項等現(xiàn)場過去了再補采集就晚了。我現(xiàn)在養(yǎng)成的習(xí)慣是提前在機器上備一個采集腳本任何一個環(huán)節(jié)告警都先讓它抓現(xiàn)場。以下這個腳本會在當(dāng)前目錄生成帶時間戳的快照文件涵蓋 load、CPU 狀態(tài)、進程排行、線程排行四個維度#!/bin/bash stamp$(date %Y%m%d_%H%M%S) outdir/tmp/cpu_debug mkdir -p $outdir { echo snapshot $stamp uptime echo ----- CPU state ----- top -bn1 | head -n 8 echo ----- process top ----- ps -eo pid,ppid,%cpu,%mem,user,comm --sort-%cpu | head -n 15 echo ----- thread top ----- pidstat -u -t 1 1 | sort -k 9 -r | head -n 15 } $outdir/snapshot_${stamp}.txt echo saved to $outdir/snapshot_${stamp}.txttop -bn1是非交互模式只取一次快照pidstat -u -t 1 1采樣一秒鐘內(nèi)的線程占用用sort -k 9 -r按第 9 列%CPU排序。腳本要在疑似 CPU 高的第一時間執(zhí)行越早越能抓到當(dāng)時的真實負(fù)載而不是事后補測的近似值。如果問題持續(xù)而反復(fù)還可以用一段時間的趨勢記錄替代快照pidstat -u -t -p 12345 5 120 /tmp/cpu_debug/pidstat_$stamp.log 每 5 秒采一次、持續(xù) 10 分鐘后臺運行對比不同時段的線程熱點變化能看出是持續(xù)打滿還是周期性脈沖。驗證解決效果時不要只比較單個進程的 CPU 百分比要對照三組指標(biāo)負(fù)載狀態(tài)下降、上下文切換 cs 回落、應(yīng)用側(cè)延遲或吞吐恢復(fù)。CPU 占用降下來但請求延遲更差了說明只是把熱點壓住、根因沒動。我現(xiàn)在每次調(diào)整完配置都會先抓十分鐘的pidstat記錄和修復(fù)前的數(shù)據(jù)并排看確認(rèn)業(yè)務(wù)指標(biāo)也一起好轉(zhuǎn)才算結(jié)束。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
一区二区 电影 亚洲| 热无码中文亚洲H一道本一区二区| 1769精品一区二区三区| αⅴ天堂| 嗯嗯啊啊好爽| 国产精品69久久久久久久| 青娱乐淫乱1314| 欧美亚洲涩涩| 五月天伊人| 国产乱伦亚洲| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 亚洲AV资源| 日韩欧洲操屄视频| 97精品全部| 亚洲AV免费在线观看| 岛国黄| 亚洲人人夜夜澡人人爽| 91大胆欧美| 人人操人人搞人人草| 好吊色一区| 亚洲超碰AV| 9国产超碰| 一区二区三区一亚洲中文字幕、综合区灬| 亚洲综合113页| 强奸乱亚洲| 国产91福利小视频在线观看| 久久一二三四五六七八九区| 综合天天。| 人妻无码后入| 亚洲性爱高潮影院| 亚洲砖码砖专无区2023| 日日插夜夜| 欧美AB在线| 大香蕉在线SuP| 久久久久久久少妇| 久久久9品一区二区三区| 亚洲综合中文字幕有码| 中文字幕亚洲永久精品| 老熟女阿 国产91| 日韩精品一区,二区 九九...老司机| 天天插天天舔舔天天干| www色婷婷| 亚洲巨爆乳一区二区三区四季网| 青青草原伊人网| 欧美变态激情网| 亚洲国产综合久久久性感熟妇| 综合色播| 91久久久久久久| 人人干人人操人人..com| 天堂69亚洲精品中文字| 欧美成人性爱视频在线播放| 欧美日韩国产成人高清| 人妻丰满熟妇一区二区三| 男人天堂导航| 78精品| 天天躁日日躁狠狠狠躁| 很狠操| 久久综合女优| 国产午夜视频| 国产极品久久久| 97AV在线免费观看| 91欧美亚洲| 97超碰久久| 精品人妻一区二区免费蜜桃视频| 热99这里有精品综合久久| 777超碰| 综合久久97| 97综合网| 操我无码| 91爽啪| 久久久久久午夜男人的天堂| 亚洲第91页| 欧洲精品欧洲精品| 欧美老妇曰批的视频| 久久熟女嫩草成人片免费| 91精品微拍福利| 国产婷婷综合在线观看| 嗯啊视频免费在线观看| 97自拍视频在线| 久久精精区一区二区一蜜桃一区二区| 亚洲欧美性生活| 激情五月天校园春色网| 大香蕉在线86| 久久↗↗| 亚洲天堂7777| 伊人久久艹| 农村妇女一级二级三级视频| 搡老女人老91妇女熟女| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 噜噜瑟| 色欧美亚洲| 亚洲欧洲无码bt精品合集| 亚洲成aⅴ人片不卡无码| 国产熟女完整版中字| 久99| 超碰久在线天天做| 欧美人妻一区二区| 涩涩这里只有精品视频| 狠狠干狠狠色| 亚洲精品国产精品乱码不卡| 中文字幕在线免费观看2| 老外又粗又长一晚做五次| CCYY草草影院地址入口| 亚洲AV无码久久久国产精品 | 国内毛片婷婷六月色| av资源在线播放天堂| 蜜臀久久99精品久久久久久久久| 久久熟女久| 久操精品| 丰满人妻一区二区三区免费,| 久久精品一区| 操逼网站网站| 精品久热| 欧美综合中文| 国产成人无码网站在线视频| 日日噜噜夜夜久久亚洲一区二区| 亚洲欧美成人网站AAA| 人人看欧美性爱| 91xingse| 成人性爱免费播放| 神马精品视频| 国产精品九九九| 国产av美女被艹的乱叫| 欧美日韩人妻婷婷一区| 乱伦图一区| 亚洲国产一区二区三区在线| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 神马福利久草| 欧美1727免费观看视频| 欧美后入式| 国产精品ⅴ无码大片在线看.| 亚洲中文国际强奸字幕| 夜夜骑天天燥| 欧美激情性久久久久久| 一区 欧美 日韩 麻豆| 亚洲开心网| 激情99| 老熟女综合网| 调教熟妇 久久久久久| 插插综合网天天影视网| aⅴ日韩成人电影av在线免费看av大全| 蜜臀一二三| 国产成久久综合片| 99青青草国产视频| 天天色天天干天天射| 欧美日韩大陆黑人少妇99| 2024年最新色情网站在线观看| 夜夜爽33333| 中文字幕在线免费观看 | 日韩Va亚洲va欧美Ⅴa久久| 99综合自拍| 色色色日本| 中文字幕十五区| 久久性生大片免费观看性| 嗯嗯嗯,草死我| 欧美99999| 日本天天人人狠狠在线日美女 | 婷婷国产精品九区| 综合五月婷婷亚洲一区| 黄页网站成人免费| 丰满少妇人妻久久久久久| 成人九九| 97资源欧美| 大香蕉免费3| 亚州色图欧美| 中文字幕大片三级狠狠干| 最新无码国产| 国产91丝袜 在线播放| 久久久久久91香蕉国产| 久久伊人亚洲AV无码网站 | 国产视频一区二区三区在线免费观看 | 欲综合网| 午夜欧美J进J出白浆流出久久久| 亚洲成人一区二区精品| 欧亚久久偷拍视频| 国产又黄又粗的视频| 天天综合麻豆视频| 久久日韩毛| 成人乱人伦一区二区| 久欲AV| 亚洲色图大香| 精品久久久久av影院| 大香交| 一本道综合色图| 日韩国产在线观看av| 色爱天堂| 一本一道久久综合久久| 亚洲色性情三级| 亚洲色图殴美色图激情乱伦| 国产h小视频在线观看免费| 98福利在线视频| 蜜桃久久综合视频| 三级三久久线久久99久目本WW| 好爽视频在线观看视频| 国产美女高潮视频| 久久久成人免费av电影| 美女啪欧美一区| 97中文超碰| 天天做日日爱夜夜爽| 中国AAAAAA黄色片| 夜夜精品视频| 青娱乐黄色录像| 亚洲综合九| 久久蜜桃综合网| 91日韩在线| 成人a级高清视频在线观看| 99rre在线精品99re8| 97中文天堂| **一级毛片国产| 一级性爱视频免费观看 | 日韩人妻 中文字幕| 久久香蕉国产线看观看亚洲女人 | 中文字幕五区| 亚洲精品男人的天堂| 韩国午夜理伦三级好看| 少妇无码av专区线| 欧美不卡五十路| 视频不卡中文字幕| 91AV天美在线视频| 综合激情一一91| 妇人噜噜| 亚洲九九爱| 黄日韩| 99热 按摩 日韩| 亚洲综合图文| www.高清无码诱惑一区.com | 91老熟女91老女人| 中文字幕欧洲有码| 97日韩欧美亚洲| 国语精品对白| 天天射夜夜操| 91亚洲色图| 亚洲综合20p| 日本不卡一区二区| 欧美大香蕉久| 人人操人人操人人操人人操人人操人人人11.CM | 久久超碰天天| 国产精品另类| 亚洲高清自拍| 日熟女| 狠狠中文字幕| 少妇滛荡视频| 亚洲少妇色| 97精彩视频网站| 亚洲一区二区三区麻豆传媒| 免费看污网址| 日本媚薬中文字幕在线| 为用户提供免费看黄网址在线观看| 成人七区| 九九综合色| 精品人人| 性性欧美| 大香蕉2017| 亚洲熟女av中文字幕| 亚洲乱码精品一区二区| 色婷婷香蕉| 国产久久一区二区午夜| 综合欧美日韩在线| 男人综合网| 东北少妇高潮zzzz| 第一高清av中文字幕| 黄污污污污| 99www.bibizy香蕉资源国产一区二区三区高清 | 高清在线不卡一区二区 视频| 午夜福利精品| 精品国产片亚洲一区| 麻豆天美电影一区二区| 久久9999 | 猛交交| 在线 亚洲 网爆 自拍| 精品久久大胆人体| 日本人妻丰满熟妇久久久久久| 久久精品国产Aⅴ| 高清国产成人无码| 97色97好| 一区,二区,三区网站| 欧美日韩97在线| 国产精品麻豆免费视频| 99久久com免费视频′| 亚洲 图片 综合91| 九九九精品美女| 午夜乱轮操逼视频免费看| 91狠狠色丁香婷婷综合久久精品| 超碰在线1234区| av一区二区三区四区| 殴美,日韩国产伦精品| 蜜桃香蕉久草精品在线| av婷婷色婷婷色六月| 97精品中文字幕| 精品国产无码中文| 麻豆区久久久久亚| 最新啪啪视频| 精品人妻一区二区三区蜜桃视频| 成人免费福利在线观看| 国产精品乱码久久久久久久| 中文字幕交换人妻| 99re在线视频国产| av国产无码| 亚洲国产福利视频| 99热成人| 2023天天操夜夜操| 久热久| 日韩午夜精品一区二区三区电影| 欧美玖玖爱免费玖玖| 人人操人人搞人人草| 久热久| 欧美成人黄网色网站| 成人午夜无码视频| 2023天天操夜夜操| 成人熟女区| 欧美日韩操逼动图| 2020天天色综合| 色色色欧美| 蜜臀一区二区三区在线| 男人 天堂 日 亚洲| 亚洲伊人a线观看视频| 久久伦理视频久久大香蕉视频| 国产99精品一区二区三区免费| 97精品久久久久中文字幕| 天天干天天操天天干天天操| 欧美色图99| 黄色AV影视| 欧美日韩大黄片| 爱丝福利| 麻豆九九九| 久久亚洲AV无码专区国产精品| 97精品视频在线播放| 深爱五月天| 婷婷婷婷婷婷久久久久| 亚洲性猛| 麻豆60秒| 粉嫩av在线一区二区| 亚洲高清91| 一区二区三区四区久久视1| 亚洲精品中文字幕一区在线视频| 欧美色女人| 成人天天爽| 特污免视频| 被男人添B超爽视频| 怡红院成人视频| 亚洲视频,小说| 国产原创剧情在线丝袜| 国产精品女生av| 日韩大香蕉AV影片| 久久久91福利姬| 中文字幕国产精品1区| aaaa黄片| 久久精品日韩| 日韩视频中文字幕| 天天综合~91| 久久蜜桃综合网| 久久99网站| xxx0国产在线播放| 日本乱人伦片中文三区| 欧美激情专区| 欧美色图20P| 97在线无精品| 亚洲精品天天影视综合网| 国产成人+综合亚洲+天堂| 亚洲人体视频在线观看| 好爽视频在线观看| 先锋女优在线观看视频| 伊人性在线视频| 少妇三P| 一本一道人妻久久一区二区三区| 99色热| 欧美视频在线视频免费va| 八戒无码国产午夜福利| 国产精品久久久久久久电影渣男| 3PAV乱伦视频| 神马久久久久久| 中文字幕福利视频一区二区三区在线观看| 蜜桃狠狠色伊人亚洲综合| 亚洲情色图片区| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 嗯嗯嗯啊啊在线观看| 福利一级版子| 好屌色综合| 青青草精品| 99re这里只有精品3| 色噜噜国产在线| 人妻天天操天天爽视频免费| 精品人妻1237| 亚洲码和欧洲精品激情系列| 白丝少妇一区二区| 97频视在线| 亚州中文字幕超碰97| 麻豆性爱视频在线播放| 中文字幕久久精品一区| 91色堂| 久久人妻一区二区三区高清| 毛片99-全集电影手机免费观看完整-B029AV | 草b在线| 国产自产91区13区| 青青草白白色| 蜜桃狠狠色伊人亚洲综合| 91热色| 青草精品视频一日本久久久久网站| 骚货操死你| 国产一区二区视频在线播放| 丁香五月婷婷色| 久久久久久久一级黄色打同平台| 91撸色网 玖玖网 欧美| 国产精品国产| 日本三级精品| 亚洲综合97| 一类av片在线看| 成人乱码一区二区三少妇| 久草视频分类在线| 九九毛片这里只有精品| 五十路熟女工口 | 91 国产丝袜在线放观看| 性色中出| 亚洲影视高清第一页| 久久蜜桃一区二区| 强奸乱伦AV一天堂网| 成在线人在线观看视频| 色5月婷婷| 爱欲AV| 蜜桃AV天堂| 人人搞人人插人人操| 91社操逼| 久久精品人体| 久久久久久裸体| 97日韩| 国产精品一级毛片不卡视| 天天爽天天操| 中文字幕精品专区搜索结果91| 久久尹人大香焦视| 欧美久久人人网| 国产熟妇 码视频户外直播| 人妻少妇被猛烈进入中| 吻戏激情性巴克| 亚洲男人的天堂网| 欧美性第一页| 亚洲精品成人| 操死我了嗯嗯嗯| 欧美黑人熟妇精品91| 国产久久av| 67914在线兔费成人视频| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 久久精品人体| 我爱操| 国产又猛又粗又爽又黄| 激情综合五月| 久久一本大香蕉 | 91影视亚洲| 大香蕉伊人网| 久久久人体| 激情视频图片| 可以在线观看AV的网站| 亚洲一区亚洲天堂| 四虎午夜影院| 国产乱婷婷精品二区三区| 久久久96精品| 黄色激情电影在线观看| 欧苏综合色综合| 欧美高清在线| 岛国在线一区二区三区| aaa淫乱视频| 欧美天天弄| 人妻少妇av在线观看| 天天摸夜夜操视频| 超碰免费人妻人人| 图色综合网| 日本男人天堂| 2010男人的天堂| 蜜桃网熟妇| 亚洲AV不卡在线观看| 国产福利电影| 久久精品亚洲东京热色播| 超碰色97| 日日狠狠久久偷偷色综合免费| 国产av色网| 人人摸人人添人人操| 情色五月天久久久| 91被操| 一区二区三区四区姦女| 熟妇乱伦一区二区| 久久99手机免费视频| 久久 国产 无码| 91爰爱欧美| 你想操日本小逼吗| 漂亮人妻被强中文字幕hd| 婷婷视频网| 欧美性爱超碰97| 一区二区 韩日AV| 久久专区| 黄资源| 国产 v乱码一区二| 久久中文字幕在线观看| 久久黄色网址| 亚洲成人性| 蜜臀在线看片| 荡小穴在线观看| 亚洲欧美色图小说| 精品人妻一二三四区视频| 蜜桃无码AV一区二区| 亚洲欧美91| 在线天堂999| 国产二区视频在线观看电影| 在线 欧美 亚洲| 五月色综合| 人人做天天爱| 啊啊啊水好多| 最新精品久久蜜桃| 色婷婷电影网| 熟女五十路一区二区三| AV有码在线| 91人妻视频| 国产AV超爽| 亚洲中文字幕熟女| 欧美性五月| 人妻夜夜爽天天爽麻豆三区网站 | 亚洲偷拍自拍在线视频| 亚洲av成人精品一区| 日产123区精品免费观看| 久久这里只有精品9| 在线视频一区二区传媒| 丁香六月激情| 韩国午夜理伦三级好看| 久久久新亚洲AV| 亚洲一二三四区在线免费看视频| 91九久| 婷婷深爱五月| 国产精品久久久久久照片| 日产精品久久久一区二区| 国产精品午夜成人福利| 久久久久久久人妻| 夜夜影视四色| 天天摸夜夜添无码小视频| 这里只有精品97| 好爽免费视频,| 玖玖综合色| 啊啊啊不要好疼视频| 人人操人人摸人| 国产精品视频自拍在线| 免费试看60秒| 久久精品店| 91麻豆天美国产欧美高潮| 久久免费精品96| 午夜精品99久久久久传媒| 操婷婷逼| 91干熟女| 精品一区二区成人动漫| 一级aaaaa欧美中文字幕录像片| 91丨国产丨白浆秘 洗澡动漫| 精品美女少妇一区二区| 久操免费电影| 亚洲色综网| 亚洲国产中文字幕| 日韩欧美中文字| 欧美72网页| 亚洲影院小综合| 后入 亚洲 美女 射| 综合色久| 丁香五月色| 亚洲精品三| av资源在线播放天堂| 日本熟妇人妻中出视频| 亚洲暴力强奸AV| 青娱乐亚洲自拍| 亚洲精品天堂久久A∨51成人漫| 啪啪性爱免费视频| 免费av高清无码| 亚洲精品97在线| 久草久热| 白丝jkav| 超碰久久精品| 青青草导航在线视频| 97视频免费在线| 91蜜桃传媒精品久久久一区二区| 成人青青草原伊人| 少妇色| 永久免费av无码网站国产app| 亚洲性爱成人| 日韩人妻制服丝袜av| 国产福利在线视频网站| 自拍偷拍2025在线观看| 激情综合五月| 人妻一区久久二区三区色播| 青青草玖玖爱| 久久久久久人体| 亚洲图片欧美色| 影音先锋日本乱伦| 久草网站免费在线观看| 色婷婷电影网| 67914在线精品观看| 日影院久久婷婷夜夜网| 日1区2区3区2020| 少妇综合| 亚洲成a人片在线观看中文!!!| 无码少妇精品一区二区60岁老人| 久久婷婷一区二| 夜夜综合| 久久久久久久久一区二区三区| 国产偷人伦激情在线观看| 最好看的中文字幕在线2018| 综合激情婷婷| 免费网色网站| 天天看片青娱乐| 欧美性生活免费网| 夂久色| 日韩无码AB| 青草成人免费视频一COm| 免费少妇一区二区| 天天日少妇逼AV| 亚洲天堂日本| 国产女人视频三四五区| 欧美成人黄网色网站| 亚洲欧美中日韩| 国产夫妻性生活视频| 91一区二区三区蜜桃| 91无码人妻精品一区二区三区蜜桃| 久久啊啊啊| 国产综合网站在线播放 | 免费1级a做爰片观看| 熟女乱伦二区| 狠操91,com| 精品蜜乳AV免费观看| 不卡免费av在线播放| 青青草在线视频欧美| 日本加勒比无码专区| 欧美大香蕉专区网| 亚州综合AⅤ| 综合久久97| www久久99| 久久综合久色欧美综合狠狠 | www.高清无码诱惑一区.com | 亚洲综合春色| 国产精品一区二区三区在线| 1024人妻熟女一区二区三区| 麻豆一区二区三区精品| 婷婷久久五月综合激情| 日韩精品 资源| 国产国产亚洲一二三久久| 蜜乳AV一区| 久久骚少妇| 狠狠色伊人亚洲综合网站色| 91精品国产综合久久久蜜臀| 女人综合网| 99色色网| 97超碰色色| 91麻豆天美国产欧美日| 美女91在线| 午夜精品久久久久久久男人的天堂| 97国产精品在线观看| 黄片免费看黄片免费看| 加勒比性爱成人在线| blacked精品一区国产| 无套内射人妻在线播放| 又摸又舔在线观看网站| 岛国大片国产| 岛国不卡超碰护士AV在线播放| 操逼免费视频无码国产| 欧美男人亚洲天堂| 欧美性爱视频免费一区一A| 美女骚尻视频| 337p大胆噜噜噜噜噜91Av| 亚洲黄色电影| 精品国产一区二区三区av在线资源| 亚洲丝袜少妇在线| 99re6国产精品99re在线| 天天看精品动漫视频一区| 国产精品亚洲四五区在线观看| 日B操| 国产第二页| 人人爱人人操人人性| 偷偷人人精品女女久久| 婷婷亚洲中文字幕在线| 国产精品麻豆成人av| 国产白丝在线| 大香蕉五月天| 偷拍精品一区二区三区| 91处女视频在线观看| 看日韩操逼| 九九热国产| 99国产天美| 五月综合婷婷久久网站| 人妻一区二区三区熟女| 久久超碰免费的| 超碰成人最新最好看| 亚洲欧美洲综合| 涩爱AV在线| 亚洲砖码砖专无区2023| 亚洲欧美日韩偷拍色图| 国产视频小说| 欧美1727免费观看视频| 18禁美女裸体无遮挡啪啪| 91老司机精品| 动漫区日韩区欧美区| 色婷婷丁香| 久久亚洲国产成人| 久久久久久久久9| 丰满人妻一区二区三区在线| 黑人操一区二区| 久久这里只有精品9| 在线观看视频91| 欧美色女人| 欧美在线视频观看一二三四区高清| 久久五月天婷婷| 日韩性爱视频在线免费观看| 亚洲天堂另类| 很很很很操| 麻豆天美国美国产AV| 美中日韩无码| 一级性爱视频免费观看| 蜜臀Av一区二区三区| 亚洲色图美腿丝袜| 一色网男人的天堂| 在线视频日韩欧美国产| 国产精品永久免费10000| 美欧色综合| 黄色av播放免不| 亚洲综合888| 激情99| 日韩性爱高清免费视频| 天天干干天天干干| 思思久热在线精品66| 九九九久久久W精品| 九九九九精品一区| 欧美另类自拍| 大香蕉伊人在线成人AV在线观看| 激情网五月天| 色情综合| 在线性黄高清免费视频| 久久国产乱子伦精品免费女人| 性夜影院爽黄A爽免费动漫| 欧美东京热青青草| 69久久| 蜜桃午夜视频一区二区| x97av| 另类 综合 日韩 欧美 亚洲| 亚洲AV资源| 久久精品免费| 亚洲欲色9532548967一区| 99热国产| 天天干一干| 久操操| 中文字幕在线日亚州9| 99日精品欧美国产| 午夜福利成人免费视频| 欧美人人AAA| 成人日本视频人妻在线| 精品性爱无码在线播放| 成人国产精品三级A片| 国产乱伦一二三区| 丁香五月性爱| 国产400孕妇孕交群| 九九热国产| 国产精品国产精品国产| 亚洲婷婷丁香在线| 国产精品久久久久无码Av网曝门| 国内亚洲高清无码| AV和黑人在线播放| 欧美日韩国产中文精品字幕自在自线| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 377p欧洲日本亚洲大胆| 亚洲色图日韩精品| 爱我干综合| 日本熟妇一区二区三区| 99re3这里只有精品| 97在线欧洲| 亚洲日韩久久精品一区| 深夜激情 | 综合网欧美在线| 嗯嗯啊啊亚欧精品| 热热色色综合| 欧美精品激情| 乱性AV| 欧美劲爆视频一区二区| 天天爽天天| 精品国产91久久久久久一区黄无| 九九国产热| 台湾佬大香蕉| 伊人专区一区二区三区| 亚洲制服欧美另类内射| 99re9在线| 好舒服视频| 超碰97日韩| 亚洲欧洲自拍图片专区满春格| 黄色AAAAA欧美| 五月激情在线| 1000午夜黄色| 97极品无码| 中文字幕一区二区三区高清| 免费一级黄色录像影片| 亚洲色综合| 日夜久久久九九九久| 精品国产乱码久久久影院| 黄色无码高清黄色无码网站| 操逼操逼视频操逼| 欧美日韩高潮喷水91| 欧美暴力猛交| 熟女熟妇一区二区三四区| 亚洲av无码国产精品字幕| 日韩久久激情精品| 欧美熟女妇同| 精品人妻一区二区三区日产| 欧美黑人精品一区二区| 少妇同性| 天美传媒婬乱在| 国产麻豆福利av在线播放| 18一区二区三区| 97K超碰在线| 无码精品一区二区三区潘金莲| 你操综合| 亚洲成成熟女人综合一区二区| 精品无码不卡视频| 青青草在线视频人人想人人上| 人妻熟女一区二区| 一级人妻性爱视频| 亚洲宅男天堂| 欧美成人精品一区二区男人蜜臀| 天天夜躁日日躁狠狠2002| 操逼日韩无码| 九9热伊人| 无码137片内射在线影院| 在线不卡视频| 亚州高清av| 亚洲欧美国产中文视频| 色色热| 欧美另类天堂| 欧美十八禁导航成人| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 91超碰在线| 97色婷| 亚洲欧美视| 国产自产自拍| 97超碰资源网| 大香蕉免费3| 天天影视色香欲综合网小说| 天天日天天插| 国产成人精品网站| 亚洲啪啪性视频| 久久久久幕乱码| xxx0国产在线播放| 熟女精品一区二区在线观看| 三级特黄60分钟播放| 欧美亚洲影视| 色色毛片| 大香蕉十区| 黄色无码高清黄色无码网站| 丰满欧美少妇| 干少妇视频| 欧美大码在线视频| 欧美国产精品久久九九| 福利偷拍视频-中文字幕2019国语完整视频大全-S91AV | 少好三P| 最近的最新的中文字幕视频| 九九九国产精品| 亚洲色综合| 精品在线蜜臀| 啊啊啊好舒服好爽啊啊啊视频| 91性高朝久久久久久久久| 97精品视频免费| jk白丝没脱就开始啪啪| 国产99999久久精品| 天天操天天舔| 久久97精品久久久久久久不卡| 亚洲综合网电影91| 无遮挡男女激烈动态图| 天天澡天天爽日日av| 综合久久六月久久婷婷| 91大香蕉伊人| 成人AV素股で擦久久| 亚洲成aⅴ人片不卡无码| 99热日| 亚洲色吧网| 日韩激情毛片一级久久久| 人澡逼| 欧美精品成人亚洲| 免费亚洲黄色视频在线观看| 婷婷久久久精品| 天天操天天射青青草| 日韩亚洲精品一区二区| 亚洲天天自拍| 中文字幕91综合| 国产一级特黄大片处女| 青青操日韩| 人妻一区二区三区| 亚洲一区二区三区欧美日韩| 亚洲熟女综合一区二区| 最新av在线| 久热大香蕉| 日本三级A片网站com| 在线啊啊啊| 熟啊v色欧美热| 亚洲第一在线视频| A一区片| 99草精| 中文97国产| 亚洲五月婷| 欧美一区二区三区四区综合| 成人无码欧美一级A片狼牙直播| 成人综合网 欧美| 成人av动漫在线观看| 成人97人人超碰人人| 91无码精品| 1000午夜黄色| 91女人的网站| 爱射综合| 国产精品制服丝袜清纯唯美| 国产强奸乱伦无码视频| 婷婷10月天青娱乐| 粉嫩小泬久久久一区二区| 日本一区三级韩国| 美女自卫慰黄网站免费| 手机在线中文字幕国产| 最新国产精品| 久久久日本电影| 欧美色图小说综合| 精品九九九九九九九九九| 人妻天天爽夜夜爽爽| 丁香六月婷婷综合| 免费人成?大片在线播放| 天天操人人操狠狠插| 好爽视频在线观看视频| 亚洲少妇综合| 天天在线91| 欧美色图人妻| 91久久国产综合精品| 中文字幕精品丝袜| 亚洲国男人的天堂| 五月婷婷深深爱| 激情专区综合| 抽插无码高清一区| 色婷婷九月天天综合| 双插性欧美一二三区| AA级电影三区| 国产午夜福利专区综合| 日本视频在线中文字幕| 欧美天天干| 五月综合激情网| 五月天大香蕉| 丁香五月成人| 任你爽视频| av一区二区三区 中文| 亚洲无线码一区国产欧美国| 网页导航五月天免费一二三区 | 亚洲诱惑| 日韩精品怡红院| 欧美在线55555| 性色av一区二区| 欧美天堂超碰97| 使劲用力艹少妇视频一区二区| 搞中出视频在线观看| 熟妇精品juliaannAV| 日日黄色三级网站| AV中文字幕剧情1区2区3| 国产第二页| 97人妻人人躁人人玩人人| 国产精品电| 久久久555| 天天综合网网欲色| 激情 欧美 亚洲 小说| heyZO天然素人无码AⅤ专区| 亚洲最大成人a毛毛片| 精品一区二区人妖| 六月丁香啪啪| 久久婷婷国产一区二区色| 精品久久在线区一区| 97色97好| 208天天久久九九九| 青草地一本线一区二区三区| 色欲av国内精品久久久久久| 91视频伊人| 亚洲高清无码在线桃色| 久热婷婷| 春色校园综合网| 天美传媒av一区二区| 欧洲色综合| 亚洲一区二区在线观看91| 日韩欧洲操屄视频| 伊人女女资源在线观看| 激情六月天| 久草婷婷| 男人天堂导航| jizz啪啪| 一级啊性爱在线视频| 亚洲综合网电影91| B049AV在线播放| 91黄站| 911av网站免费观看| 五月综合视频| 国产丰满少妇久久久精品影院| 久久九九精品一区二区| 91综合中文字幕| 亚洲一区二区三区中文字幕| 九九热在线视频| 青青草国产盗摄一二三区| 日韩欧美女求操每天更新| 欧美不卡在线一区二区| 五月色网| 亚洲一本色码中文字幕| 四虎影视精品| 欧美三级中文字幕hd| 日本一区二区电影网站| 清纯唯美综合亚洲| 国产黄色影片在线观看| 亚洲夜色在线| 国产女主播视频在线观看| 无遮挡又黄又刺激的视频| 9l视频自拍9l九色成人| 热久日综合| 天天草天天日| 国产成人网| 日本黄色天堂| 激情小说图片亚洲首页| 久久久人妻| 美女骚尻视频| 成人一级性爱| 67194无码不卡| 啊啊啊啊好多水| 激情文学亚洲| 国产高清精品一区二区三区毛片 | 国内操逼视频二区| 神马久久久久| 色色激情五月天| 久久精品一区二区三区蜜桃臀| 亚洲春色欧美激情自拍| 性欧美另类高清| 成人三级片一区二区三区视频| 日韩欧美午夜视频在线| 欧美中文狠| 青青青国产手线观看视频2| 深夜啪啪啪视频免费| 天天日天天干天天摸天天操| 1769一区二区| 国产性爱欧美性爱在线| 中文字幕日韩电影人妻| 操死我干死我| 97视频免费在线观看| 婷婷香蕉欧美在线一区二区三区| 熟妇人妻精品一区二区| 婷婷五月天激情网| 成年在线视频日本亚洲在线视频区精品江靖宇公司 | 亚洲最大的综合性av| 91 综合 色| 91社区拍啪人妻| 99日免费视频中文字幕| 国产精品呦一区二区三区| 2017大香蕉国产精品久久| 亚洲精品性爱片| a人片中文字幕一区二区| 91午夜无码| 人人操人人射人人干| 九九探花视频在线观看| 日日碰视频网| 99热这里只有精品地址| 啊啊啊啊,啊啊好多水| 亚洲成人综合在线| 精品玖九九久| 夜夜操天| 国产一级舔足在线观看| 成人日本精品九区| 日本精品网站在线中文| yy少妇精品久久| www成人啪啪18秘 免费| 综合网少妇| 人妻久热在线| 国产Av超碰| 大香蕉伊然在亚洲91| 欧美做爰无码A片视频| 久久黄人人爽视频| 97欧美精品综合| 中文字幕一区二区三区高清| 少妇高潮喷水无套久久久久久| 超碰人人超在线观看| 97亚洲中文| 91美女视频在线| 国产区性爱在线视频秋霞豆| 黄色工厂这里只有精品| 亚洲欧美日韩制服另类| 久综合网| 校园春色之综合网| 超碰在线97国产| 51国产午夜精品视频| 久久九精品| 99婷婷| 日韩肏逼视频| 中文字幕女同在线| 久久久中文| 国产高清视频无码在线| 国产后入清纯| 丝袜六区| 黄片aaaaa一区| 91色拍| 操逼短片| 九九久久首页| 欧美性爱一级操| 探花精品 一区二区| 嫩草黄页| av在线浏览| 久久香蕉国产线看观看猫咪av| 亚洲无992tv| 人澡逼| 96AV久久久| 99精品视频在线观看| 久久精品中文字幕观看| 丝袜综合网| 色偷偷男人的天堂麻豆| 天天操天天射青青草| 福利在线黄片| 免费啪啪av| 亚洲欧洲激情卡通另类文学四射小说网站| oumeizonghese,www| 嗯啊不要在线观看嗯啊| 久久精品店| 91人精品妻入口| 精品久| 综合自拍| 制服中出中文人人精品| 精品天堂| 九热中文字幕| 亚洲在钱| 91伊人大香蕉| 天堂九九九九九九九九九| 久草视频在线视频在线视频在线观看| 免费国产视频| 日韩天天综合| 日韩一级二级三级免费看完整版国语版| 亚洲综合97中文网| 69精品人人人人| 五月天玖玖资源站| 欧美黑人精品在线播放| 1769一区| 欧美色图综合| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 无码视频一区二区| 欧美亚洲激情小说| 爽爽淫人网| 九九99久久| 日本污ww视频网站| 青娱乐久久艹| 欧美另类综合久久| 操日韩第| 成人乱人伦一区二区| 国产黄色视频久久| aa片毛片| 国产精品com| 午夜性生活av免费在线看| 试看60秒 爽| 天天综合网网欲色| 亚洲天堂欧美| 亚洲天堂久久久久久粉红视频| 好爽视频在线观看视频| 屁股久久久久久久久久| 精品人妻一区二区免费蜜桃视频| 欧美色图亚洲色| 国产精品96久久久久久| 天天网综合| 日韩在线国产字幕| 免费A片三p视频| 白丝被操91| 久久精品国产亚洲AV高清演员表| 久久精品国产亚洲妲己影视| 国产精品原创巨作?v网站| 国产最新小视频在线播放下载| 免费超碰97在线观看|