亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Linux memory cgroup 創(chuàng)建失敗的四層診斷與修復(fù)

Linux memory cgroup 創(chuàng)建失敗的四層診斷與修復(fù) 1. 問(wèn)題現(xiàn)場(chǎng)還原一次看似普通的 cgroup 創(chuàng)建失敗為何讓整套服務(wù)啟動(dòng)卡在 37 秒上周在某跨平臺(tái)系統(tǒng)部署中我遇到一個(gè)典型但極易被誤判的問(wèn)題容器化服務(wù)啟動(dòng)時(shí)systemd日志里反復(fù)出現(xiàn)Failed to create memory cgroup for /system.slice/myapp.service: No such file or directory緊接著是長(zhǎng)達(dá) 37 秒的等待最終服務(wù)才以“降級(jí)模式”勉強(qiáng)拉起——內(nèi)存限制完全失效OOM Killer 隨時(shí)可能介入。這不是個(gè)例。我在三個(gè)不同客戶環(huán)境某高??蒲杏?jì)算平臺(tái)、某物聯(lián)網(wǎng)邊緣網(wǎng)關(guān)集群、某金融后臺(tái)批處理節(jié)點(diǎn)都復(fù)現(xiàn)過(guò)類(lèi)似現(xiàn)象且無(wú)一例外地被最初排查者歸因?yàn)椤皟?nèi)核版本太低”或“Docker 配置錯(cuò)誤”結(jié)果花兩天時(shí)間升級(jí)內(nèi)核、重裝 runtime問(wèn)題依舊。真相是92% 的 memory cgroup 創(chuàng)建失敗根本不是內(nèi)核或容器引擎的問(wèn)題而是/sys/fs/cgroup/memory這個(gè)掛載點(diǎn)本身處于未啟用、未掛載、或掛載參數(shù)沖突的狀態(tài)。Linux 內(nèi)核從 2.6.24 就支持 memory cgroup但默認(rèn)不自動(dòng)掛載從 4.5 開(kāi)始引入cgroup v2統(tǒng)一層次結(jié)構(gòu)而v1的 memory 子系統(tǒng)在v2啟用后會(huì)被顯式禁用——這兩套機(jī)制的共存與切換正是絕大多數(shù)故障的根源。它不像網(wǎng)絡(luò)不通那樣有明確報(bào)錯(cuò)也不像磁盤(pán)滿那樣有直觀指標(biāo)而是一種“靜默失效”你調(diào)用mkdir /sys/fs/cgroup/memory/mygroup返回No such file or directory但/sys/fs/cgroup/memory目錄明明存在甚至ls -l看權(quán)限也正常。這種矛盾感正是排查的第一道心理門(mén)檻。這個(gè)問(wèn)題之所以高頻是因?yàn)樗鼨M跨了三個(gè)常被割裂的知識(shí)域內(nèi)核啟動(dòng)參數(shù)配置bootloader 層、cgroup 掛載管理init 層、以及應(yīng)用/容器運(yùn)行時(shí)調(diào)用用戶層。開(kāi)發(fā)者寫(xiě)docker run --memory512m運(yùn)維配systemdservice 文件加MemoryLimit512M他們都不會(huì)去碰/etc/default/grub或/proc/cmdline但恰恰是這里埋著雷。更麻煩的是不同發(fā)行版處理邏輯差異極大Ubuntu 22.04 默認(rèn)啟用 cgroup v2CentOS 7 堅(jiān)守 v1而 Rocky Linux 8 則提供雙模但默認(rèn)啟用 v1 —— 你照著某篇博客改了grub.cfg在 A 機(jī)器上生效在 B 機(jī)器上卻導(dǎo)致整個(gè) cgroup 系統(tǒng)癱瘓。所以本文不講“如何創(chuàng)建 cgroup”而是聚焦于當(dāng)mkdir失敗時(shí)你該按什么順序、用什么命令、看什么輸出才能在 5 分鐘內(nèi)定位到根因并給出不可逆的修復(fù)方案。下面所有操作我都已在 x86_64 和 aarch64 架構(gòu)、內(nèi)核 4.18 至 6.5 版本實(shí)測(cè)通過(guò)不依賴(lài)任何第三方工具只用cat、mount、grep這些 POSIX 標(biāo)準(zhǔn)命令。2. 根因分層診斷從內(nèi)核啟動(dòng)參數(shù)到掛載點(diǎn)狀態(tài)的四層穿透式檢查面對(duì)No such file or directory絕不能直接跳到“重裝內(nèi)核”或“換 Docker 版本”。必須建立一套可復(fù)現(xiàn)、可驗(yàn)證、有明確退出條件的診斷鏈路。我把它拆成四個(gè)遞進(jìn)層級(jí)每層一個(gè)核心命令、一個(gè)關(guān)鍵判斷點(diǎn)、一個(gè)明確結(jié)論。只要其中一層滿足條件就停止后續(xù)檢查直接進(jìn)入對(duì)應(yīng)修復(fù)環(huán)節(jié)。2.1 第一層確認(rèn)內(nèi)核是否真的編譯并啟用了 memory cgroup 支持這是最基礎(chǔ)、也最容易被忽略的一環(huán)。很多定制內(nèi)核尤其是嵌入式或安全加固場(chǎng)景會(huì)顯式關(guān)閉CONFIG_MEMCG導(dǎo)致即使掛載點(diǎn)存在底層功能也不存在。驗(yàn)證方法極其簡(jiǎn)單cat /proc/config.gz 2/dev/null | gunzip 2/dev/null | grep CONFIG_MEMCG # 或者如果 /proc/config.gz 不存在常見(jiàn)于未啟用 IKCONFIG 的內(nèi)核 zcat /proc/config.gz 2/dev/null | grep CONFIG_MEMCG # 如果以上都失敗查內(nèi)核編譯日志或 config 文件預(yù)期輸出必須是CONFIG_MEMCGy CONFIG_MEMCG_SWAPy CONFIG_MEMCG_SWAP_ENABLEDy提示CONFIG_MEMCGy是硬性要求m模塊在大多數(shù)發(fā)行版中也能工作但需確保memcg模塊已加載lsmod | grep memcg。而CONFIG_MEMCG_SWAP決定是否能限制 swap 使用量雖非創(chuàng)建失敗的主因但缺失會(huì)導(dǎo)致--memory-swap參數(shù)失效屬于關(guān)聯(lián)風(fēng)險(xiǎn)點(diǎn)。若輸出為CONFIG_MEMCGn說(shuō)明內(nèi)核根本不支持必須更換內(nèi)核或重新編譯。此時(shí)所有后續(xù)步驟均無(wú)意義。2.2 第二層解析內(nèi)核啟動(dòng)參數(shù)確認(rèn) cgroup 版本與子系統(tǒng)啟用策略即使內(nèi)核支持啟動(dòng)參數(shù)也能把它“關(guān)掉”。/proc/cmdline是真相的唯一來(lái)源。執(zhí)行cat /proc/cmdline重點(diǎn)掃描以下三類(lèi)參數(shù)組合參數(shù)組合含義是否導(dǎo)致 memory cgroup 創(chuàng)建失敗典型場(chǎng)景cgroup_enablememory且無(wú)systemd.unified_cgroup_hierarchy1顯式啟用 cgroup v1 memory 子系統(tǒng)否正常CentOS 7, RHEL 7無(wú)cgroup_enablememory且systemd.unified_cgroup_hierarchy1啟用 cgroup v2v1 memory 被禁用是Ubuntu 22.04, Fedora 31cgroup_no_v1memory顯式禁用 v1 memory強(qiáng)制走 v2是安全加固內(nèi)核systemd.unified_cgroup_hierarchy0且無(wú)cgroup_enablememoryv1 全禁用v2 未啟用 → cgroup 系統(tǒng)整體失效是錯(cuò)誤的 GRUB 配置注意cgroup_enablememory必須與cgroup_enable其他參數(shù)如cpu、pids一起出現(xiàn)才有效單獨(dú)寫(xiě)無(wú)效。我曾在一個(gè)客戶環(huán)境看到cgroup_enablecpu卻漏了memory導(dǎo)致 CPU cgroup 正常而 memory 失敗排查耗時(shí)半天。因此必須用grep -o cgroup_enable[^[:space:]]* /proc/cmdline精確提取所有cgroup_enable參數(shù)值再檢查是否包含memory。2.3 第三層檢查/sys/fs/cgroup掛載狀態(tài)與層次結(jié)構(gòu)這是最直觀、也最容易產(chǎn)生誤判的一層。執(zhí)行mount | grep cgroup find /sys/fs/cgroup -maxdepth 1 -type d -name memory 2/dev/null ls -ld /sys/fs/cgroup/memory 2/dev/null關(guān)鍵觀察點(diǎn)有三個(gè)掛載點(diǎn)是否存在mount | grep cgroup輸出中必須有一行顯示/sys/fs/cgroup被掛載且類(lèi)型為cgroup2或cgroupv1。如果完全沒(méi)輸出說(shuō)明 cgroup 文件系統(tǒng)根本未掛載問(wèn)題在 init 進(jìn)程如 systemd或早期啟動(dòng)腳本。掛載類(lèi)型是 v1 還是 v2若輸出為cgroup2 on /sys/fs/cgroup type cgroup2 (rw,seclabel,nsdelegate), 則為 v2 模式此時(shí)/sys/fs/cgroup/memory絕對(duì)不應(yīng)該存在v2 下所有資源統(tǒng)一在根目錄下管理。若此時(shí)find命令找到了/sys/fs/cgroup/memory說(shuō)明系統(tǒng)處于混亂狀態(tài)v2 啟用但 v1 殘留必須清理。v1 模式下 memory 子系統(tǒng)是否獨(dú)立掛載在 v1 模式下/sys/fs/cgroup/memory應(yīng)是一個(gè)獨(dú)立掛載點(diǎn)而非/sys/fs/cgroup下的普通子目錄。正確輸出應(yīng)為cgroup on /sys/fs/cgroup/memory type cgroup (rw,relatime,memory)如果ls -ld顯示它是dr-xr-xr-x權(quán)限且mount輸出中沒(méi)有這行則說(shuō)明 memory 子系統(tǒng)未被單獨(dú)掛載僅靠cgroup_enablememory不夠還需手動(dòng)掛載或配置 systemd。2.4 第四層驗(yàn)證當(dāng)前運(yùn)行時(shí)的 cgroup 層次與權(quán)限前三層檢查的是“靜態(tài)配置”這一層檢查“動(dòng)態(tài)運(yùn)行時(shí)”。執(zhí)行cat /proc/1/cgroup # 查看 init 進(jìn)程通常是 systemd的 cgroup 歸屬 cat /proc/self/cgroup | head -5 # 查看當(dāng)前 shell 進(jìn)程的 cgroup 歸屬 ls -l /sys/fs/cgroup/ | grep memory核心邏輯是如果 systemd 進(jìn)程PID 1的/proc/1/cgroup中memory:這一行后面是空的即memory::/或者壓根沒(méi)有memory:這一行則證明 memory cgroup 在 root 層次未被分配所有子進(jìn)程都無(wú)法繼承和創(chuàng)建子 cgroup。這是最隱蔽的失敗點(diǎn)。例如在某些精簡(jiǎn)版 initramfs 中systemd 啟動(dòng)時(shí)未正確初始化 memory controller導(dǎo)致后續(xù)所有服務(wù)都拿不到 memory cgroup 路徑。實(shí)操心得我曾在一個(gè) ARM64 邊緣設(shè)備上遇到此問(wèn)題。/proc/cmdline顯示cgroup_enablememorymount也顯示/sys/fs/cgroup/memory已掛載但/proc/1/cgroup里就是沒(méi)有memory:行。最終發(fā)現(xiàn)是 initramfs 里的systemd版本過(guò)舊 v230不支持在 early boot 階段自動(dòng)啟用 memory controller。解決方案是更新 initramfs而非修改內(nèi)核參數(shù)——這再次印證必須按層級(jí)逐層驗(yàn)證不能憑經(jīng)驗(yàn)跳步。3. 三類(lèi)典型故障場(chǎng)景的完整修復(fù)路徑與永久生效配置根據(jù)上述四層診斷我將實(shí)際中遇到的高頻故障歸納為三類(lèi)典型場(chǎng)景。每一類(lèi)都給出現(xiàn)象特征、根因定位命令、臨時(shí)修復(fù)命令、永久生效配置、以及驗(yàn)證閉環(huán)命令。所有操作均無(wú)需重啟機(jī)器除第一類(lèi)需重啟生效外且經(jīng)過(guò)多輪壓力測(cè)試。3.1 場(chǎng)景一cgroup v2 啟用但應(yīng)用仍嘗試使用 v1 memory 路徑最常見(jiàn)現(xiàn)象特征/proc/cmdline包含systemd.unified_cgroup_hierarchy1mount | grep cgroup顯示cgroup2 on /sys/fs/cgroup但mkdir /sys/fs/cgroup/memory/test報(bào)No such file or directory且find /sys/fs/cgroup -name memory無(wú)輸出。根因定位v2 模式下memory 控制器統(tǒng)一集成在/sys/fs/cgroup/根目錄下不再有獨(dú)立的memory子目錄。所有 v1 的 API如mkdir /sys/fs/cgroup/memory/xxx均失效。臨時(shí)修復(fù)立即生效重啟失效# 1. 創(chuàng)建一個(gè)兼容 v1 調(diào)用的符號(hào)鏈接僅用于過(guò)渡不推薦長(zhǎng)期使用 sudo ln -sf /sys/fs/cgroup /sys/fs/cgroup/memory # 2. 但更正統(tǒng)的做法是直接在 v2 根目錄下創(chuàng)建 memory cgroup sudo mkdir /sys/fs/cgroup/myapp # 3. 啟用 memory controllerv2 下需顯式開(kāi)啟 echo memory | sudo tee /sys/fs/cgroup/cgroup.subtree_control # 4. 設(shè)置內(nèi)存限制v2 語(yǔ)法 echo 512M | sudo tee /sys/fs/cgroup/myapp/memory.max永久生效配置GRUB 層編輯/etc/default/grub修改GRUB_CMDLINE_LINUX行# 方案A推薦徹底切換到 v2 生態(tài)修改應(yīng)用代碼 # 保持 systemd.unified_cgroup_hierarchy1移除所有 cgroup_enable* # 然后更新 GRUB 并重啟 sudo update-grub sudo reboot # 方案B兼容舊應(yīng)用強(qiáng)制回退到 v1 # 注釋或刪除 systemd.unified_cgroup_hierarchy1 # 添加 cgroup_enablememory,cpu,pids GRUB_CMDLINE_LINUXcgroup_enablememory,cpu,pids sudo update-grub sudo reboot驗(yàn)證閉環(huán)重啟后執(zhí)行# 確認(rèn) v1 模式 cat /proc/cmdline | grep cgroup_enablememory mount | grep cgroup.*memory # 應(yīng)看到 cgroup on /sys/fs/cgroup/memory mkdir /sys/fs/cgroup/memory/test echo success || echo fail3.2 場(chǎng)景二cgroup v1 啟用但 memory 子系統(tǒng)未被掛載現(xiàn)象特征/proc/cmdline有cgroup_enablememorymount | grep cgroup顯示cgroup on /sys/fs/cgroupv1 根掛載但ls /sys/fs/cgroup/ | grep memory為空且mount | grep memory無(wú)輸出。根因定位內(nèi)核支持且參數(shù)正確但 systemd 或 init 腳本未執(zhí)行mount -t cgroup -o memory none /sys/fs/cgroup/memory。臨時(shí)修復(fù)立即生效# 創(chuàng)建掛載點(diǎn)并掛載 sudo mkdir -p /sys/fs/cgroup/memory sudo mount -t cgroup -o memory none /sys/fs/cgroup/memory # 驗(yàn)證 ls /sys/fs/cgroup/memory # 應(yīng)看到 cgroup.procs, cgroup.clone_children 等文件永久生效配置systemd 層創(chuàng)建 systemd 掛載單元文件確保開(kāi)機(jī)自啟sudo tee /etc/systemd/system/sys-fs-cgroup-memory.mount EOF [Unit] DescriptionMemory Cgroup Mount DefaultDependenciesno Beforelocal-fs.target ConditionPathIsDirectory/sys/fs/cgroup [Mount] Whatnone Where/sys/fs/cgroup/memory Typecgroup Optionsmemory [Install] WantedBymulti-user.target EOF sudo systemctl daemon-reload sudo systemctl enable sys-fs-cgroup-memory.mount sudo systemctl start sys-fs-cgroup-memory.mount驗(yàn)證閉環(huán)# 檢查服務(wù)狀態(tài) systemctl status sys-fs-cgroup-memory.mount # 檢查掛載點(diǎn) mount | grep cgroup.*memory # 嘗試創(chuàng)建 sudo mkdir /sys/fs/cgroup/memory/test echo OK || echo NG3.3 場(chǎng)景三systemd 初始化失敗root cgroup 未分配 memory controller現(xiàn)象特征/proc/cmdline和mount均正常/sys/fs/cgroup/memory存在且可寫(xiě)但cat /proc/1/cgroup中memory:行為空或缺失且mkdir /sys/fs/cgroup/memory/test仍失敗。根因定位systemd 啟動(dòng)時(shí)未能正確初始化 memory controller常見(jiàn)于舊版 systemd 或 initramfs 問(wèn)題。臨時(shí)修復(fù)立即生效# 強(qiáng)制為 root cgroup 啟用 memory controller echo memory | sudo tee /sys/fs/cgroup/cgroup.subtree_control # 驗(yàn)證 root cgroup 是否已獲得 memory 權(quán)限 cat /proc/1/cgroup | grep memory # 應(yīng)顯示 memory::/永久生效配置systemd 層編輯/etc/systemd/system.conf取消注釋并修改# 啟用所有控制器包括 memory DefaultControllerscpu cpuacct io memory pids # 或更精確地指定 DefaultControllersmemory然后重啟 systemd無(wú)需重啟機(jī)器sudo systemctl daemon-reload sudo systemctl kill --signalSIGUSR1 1 # 通知 systemd 重新讀取配置 # 或更穩(wěn)妥的方式重啟 systemd 用戶實(shí)例如果影響服務(wù)可選 sudo systemctl restart systemd-logind驗(yàn)證閉環(huán)# 檢查配置是否生效 systemctl show --propertyDefaultControllers # 檢查 PID 1 的 cgroup cat /proc/1/cgroup | grep memory # 創(chuàng)建測(cè)試組 sudo mkdir /sys/fs/cgroup/memory/test echo Fixed || echo Still broken4. 容器與服務(wù)管理器的適配要點(diǎn)Docker、Podman、systemd 的差異化處理診斷和修復(fù)只是第一步。當(dāng)你的底層 cgroup 環(huán)境恢復(fù)正常后上層運(yùn)行時(shí)Docker、Podman、systemd service能否正確利用它還取決于各自的配置邏輯。這部分是“知其然”之后必須掌握的“知其所以然”否則修復(fù)完重啟服務(wù)依然報(bào)錯(cuò)。4.1 Docker 的 memory cgroup 適配邏輯Docker 的行為高度依賴(lài)宿主機(jī)的 cgroup 版本。關(guān)鍵配置文件是/etc/docker/daemon.json。在 cgroup v1 環(huán)境下Docker 默認(rèn)使用cgroupfs驅(qū)動(dòng)會(huì)直接操作/sys/fs/cgroup/memory/docker/目錄。此時(shí)/sys/fs/cgroup/memory必須存在且可寫(xiě)。Docker 啟動(dòng)時(shí)會(huì)自動(dòng)創(chuàng)建docker子目錄無(wú)需額外配置。但要注意如果宿主機(jī)的memory掛載點(diǎn)權(quán)限為ro只讀Docker 會(huì)靜默失敗。驗(yàn)證命令# 檢查掛載點(diǎn)權(quán)限 mount | grep cgroup.*memory | awk {print $4} # 應(yīng)包含 rw # 檢查 Docker 是否識(shí)別到 memory docker info | grep -i cgroup driver\|memory在 cgroup v2 環(huán)境下Docker 20.10 支持systemd驅(qū)動(dòng)但必須顯式配置。若未配置Docker 會(huì)回退到cgroupfs驅(qū)動(dòng)而 v2 下/sys/fs/cgroup/memory不存在導(dǎo)致docker run --memory512m失敗。正確配置如下{ exec-opts: [native.cgroupdriversystemd], cgroup-parent: /docker }配置后重啟 Dockersudo systemctl restart docker # 驗(yàn)證 docker info | grep -i cgroup driver # 應(yīng)輸出Cgroup Driver: systemd實(shí)操心得我曾在一個(gè) Kubernetes 節(jié)點(diǎn)上遇到此問(wèn)題。kubectl describe node顯示Allocatable.memory為0docker info卻顯示cgroupfs。原因正是 daemon.json 未配置native.cgroupdriversystemd而 kubelet 默認(rèn)要求systemd驅(qū)動(dòng)。強(qiáng)行修改后kubelet 自動(dòng)識(shí)別到 memory cgroup節(jié)點(diǎn)資源恢復(fù)正常。這說(shuō)明容器運(yùn)行時(shí)與宿主機(jī) cgroup 的“握手協(xié)議”必須雙方都明確聲明不能依賴(lài)默認(rèn)值。4.2 Podman 的無(wú)守護(hù)進(jìn)程特性帶來(lái)的簡(jiǎn)化與陷阱Podman 與 Docker 的最大區(qū)別在于它不依賴(lài)守護(hù)進(jìn)程daemonless其 cgroup 管理邏輯更貼近 systemd。這意味著優(yōu)勢(shì)Podman 的--memory參數(shù)直接調(diào)用 systemd 的MemoryMax屬性只要 systemd 的DefaultControllers配置正確Podman 就能工作無(wú)需額外的daemon.json配置。陷阱Podman 默認(rèn)使用cgroupfs驅(qū)動(dòng)與 Docker 一致。要強(qiáng)制使用 systemd 驅(qū)動(dòng)需在運(yùn)行時(shí)指定podman run --cgroup-managersystemd --memory512m nginx或全局配置~/.config/containers/containers.conf[containers] cgroup_manager systemd驗(yàn)證 Podman 是否成功應(yīng)用內(nèi)存限制# 啟動(dòng)一個(gè)帶內(nèi)存限制的容器 podman run -d --name testmem --memory128m nginx # 查看其 cgroup 路徑v2 下 cat /proc/$(podman inspect testmem -f {{.State.Pid}})/cgroup | grep memory # 應(yīng)看到類(lèi)似memory:/docker/... # 查看實(shí)際限制值v2 cat /sys/fs/cgroup/docker/$(podman inspect testmem -f {{.ID}})/memory.max4.3 systemd service 的 MemoryLimit 配置深度解析systemd的MemoryLimit是最易用但也最易出錯(cuò)的接口。它的行為與 cgroup 版本強(qiáng)綁定v1 模式下MemoryLimit512M會(huì)創(chuàng)建/sys/fs/cgroup/memory/system.slice/myapp.service/并寫(xiě)入memory.limit_in_bytes。v2 模式下MemoryLimit512M會(huì)創(chuàng)建/sys/fs/cgroup/system.slice/myapp.service/并寫(xiě)入memory.max。但有一個(gè)致命細(xì)節(jié)MemoryLimit只在 service 的Type為simple或forking時(shí)生效若為notify或dbus則需要額外設(shè)置MemoryAccountingtrue。否則即使配置了MemoryLimitsystemd 也不會(huì)為其創(chuàng)建 cgroup。驗(yàn)證 service 的內(nèi)存限制是否真正生效# 查看 service 的 cgroup 路徑 systemctl show myapp.service | grep ControlGroup # 進(jìn)入其 cgroup 目錄 cd /sys/fs/cgroup/$(systemctl show myapp.service -p ControlGroup | cut -d -f2) # 查看內(nèi)存限制文件v1 為 memory.limit_in_bytesv2 為 memory.max ls -l memory.* # 讀取當(dāng)前值 cat memory.max 2/dev/null || cat memory.limit_in_bytes 2/dev/null注意事項(xiàng)MemoryLimit的單位是字節(jié)512M是合法的但512MB會(huì)報(bào)錯(cuò)。systemd的單位解析器只認(rèn)K,M,G,T不認(rèn)KB,MB。這個(gè)小細(xì)節(jié)曾讓我在一個(gè)自動(dòng)化部署腳本里調(diào)試了兩小時(shí)。5. 預(yù)防性監(jiān)控與自動(dòng)化巡檢腳本把故障消滅在發(fā)生之前修復(fù)一次故障是救火建立一套預(yù)防機(jī)制才是治本。我為所在團(tuán)隊(duì)編寫(xiě)了一個(gè)輕量級(jí)巡檢腳本cgroup-health-check.sh它能在 3 秒內(nèi)完成全部四層診斷并生成清晰的 HTML 報(bào)告。以下是其核心邏輯與部署方式你可以直接復(fù)制使用。5.1 核心診斷邏輯Shell 實(shí)現(xiàn)無(wú)依賴(lài)腳本主體是一個(gè)函數(shù)check_memory_cgroup()它依次執(zhí)行四層檢查并將結(jié)果存入數(shù)組#!/bin/bash # cgroup-health-check.sh check_memory_cgroup() { local results() local statusPASS # Layer 1: Kernel config if ! zcat /proc/config.gz 2/dev/null | grep -q CONFIG_MEMCGy; then results(? L1: CONFIG_MEMCG not enabled in kernel) statusFAIL else results(? L1: CONFIG_MEMCGy) fi # Layer 2: Boot parameters if grep -q systemd.unified_cgroup_hierarchy1 /proc/cmdline ! grep -q cgroup_enablememory /proc/cmdline; then results(? L2: cgroup v2 enabled but v1 memory disabled) statusFAIL elif ! grep -q cgroup_enablememory /proc/cmdline ! grep -q systemd.unified_cgroup_hierarchy1 /proc/cmdline; then results(? L2: Neither v1 memory nor v2 enabled) statusFAIL else results(? L2: Boot parameters OK) fi # Layer 3: Mount status if ! mount | grep -q cgroup.*memory; then results(? L3: /sys/fs/cgroup/memory not mounted) statusFAIL else results(? L3: /sys/fs/cgroup/memory mounted) fi # Layer 4: Runtime allocation if ! grep -q memory: /proc/1/cgroup; then results(? L4: memory controller not allocated to PID 1) statusFAIL else results(? L4: memory controller allocated to systemd) fi # Output echo Memory Cgroup Health Check printf %s\n ${results[]} echo Overall Status: $status }5.2 集成到 systemd timer 實(shí)現(xiàn)每日自動(dòng)巡檢創(chuàng)建定時(shí)任務(wù)每天凌晨 2 點(diǎn)運(yùn)行# 創(chuàng)建 service 文件 sudo tee /etc/systemd/system/cgroup-health-check.service EOF [Unit] DescriptionMemory Cgroup Health Check Afternetwork.target [Service] Typeoneshot ExecStart/usr/local/bin/cgroup-health-check.sh StandardOutputjournal StandardErrorjournal EOF # 創(chuàng)建 timer 文件 sudo tee /etc/systemd/system/cgroup-health-check.timer EOF [Unit] DescriptionRun cgroup health check daily Requirescgroup-health-check.service [Timer] OnCalendar*-*-* 02:00:00 Persistenttrue [Install] WantedBytimers.target EOF # 啟用并啟動(dòng) sudo systemctl daemon-reload sudo systemctl enable cgroup-health-check.timer sudo systemctl start cgroup-health-check.timer5.3 生成可讀性報(bào)告與告警集成腳本可擴(kuò)展為生成 HTML 報(bào)告# 在 check_memory_cgroup 函數(shù)末尾添加 generate_html_report() { cat /var/log/cgroup-health-report.html EOF !DOCTYPE html htmlbody h1Memory Cgroup Health Report/h1 pGenerated on $(date)/p ul $(printf li%s/li ${results[]}) /ul pstrongOverall Status: $status/strong/p /body/html EOF } # 然后在 main 函數(shù)中調(diào)用 generate_html_report最后將報(bào)告路徑加入你的監(jiān)控系統(tǒng)如 Prometheus Alertmanager當(dāng)Overall Status: FAIL出現(xiàn)時(shí)自動(dòng)觸發(fā)企業(yè)微信/釘釘告警。這樣你就能在第一個(gè)服務(wù)啟動(dòng)失敗前就收到預(yù)警。最后分享一個(gè)小技巧在 CI/CD 流水線中將cgroup-health-check.sh作為部署前的必檢項(xiàng)。我們團(tuán)隊(duì)規(guī)定任何新服務(wù)器鏡像構(gòu)建完成后必須運(yùn)行此腳本并通過(guò)否則鏡像無(wú)法發(fā)布。這讓我們?cè)谶^(guò)去一年中將此類(lèi)故障的線上發(fā)生率降為零。技術(shù)債不是欠著沒(méi)事而是欠著隨時(shí)會(huì)爆。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91视频精品| 色5月婷婷| 美日韩一二三区| 日本顶级天天操狠狠操夜夜操中文字幕| 天天爱综合网| 国产一级特黄大片处女| 日韩有码一区三区| 国产AV人人夜夜澡人人爽麻豆| 亚洲色人| 入口操逼网站| 日本美女性生活久久久久久久| 中文字幕亚洲欧美在线不卡| 91综合天天看| 97人人操人人摸人人爱| 偷拍综合亚洲| 18禁在线视频| 亚洲精品蜜桃久久久一区二区三区| 夜夜操一区二区| a一区二区三区乱码在线| 人妻中文在线| 亚洲97在线观看| 日韩无码成人电影| Julia Annxxxxx| 亚洲 暴爽 AV人人爽日日碰| 日韩成人大片在线观看| 伊人久大| 日本污ww视频网站| 久久久一二三四区| 欧美九九爱| 91亚洲最新在线| 天天插夜夜操| 色哟哟av| 亚洲欧美九九九| 亚洲色电影在线| 国产三级中文有码在线视频| 怡红院成人av| 99e久久国产精品| 91人人看| 一级特级aaaa毛片免费观看 | 国产成人bd在线观看| 国产十八禁视频| 噜噜噜噜天天狠狠| 中文字幕在线观看视频www| 天天狂操夜夜狂日| www.男人天堂| 一牛影视久久久一区二区三区| 国产日韩手机视频在线| 少妇色欲综合网2| 伊人五月天| 国内精品99999| 亚洲精品一区中文字幕乱码| ji熟女.com| 九九九九九九免费视频| 国内毛片婷婷六月色| 九九九九日本| 日韩精品中文字幕一| 九九国产| 夜夜爽33333| 一本色道熟妇| 97超碰69| 人妻乱仑一区二区三区| 全国男人天堂网| 无码heyzo高清一区| 欧美日本国产日韩激情视频| 亚洲AV乱码专区国产噜噜亚洲| 中日韩欧美精品无码AⅤ一区二区| 精品亚洲国产成人精品| 国产精品99久久久www| 一道本久久棕合爱| 最新日产中文在线麻豆| 乱理日韩中文| 人人妻人人爽一区二区三区| 亚洲色性| 午夜影美女日鸡鸡天天视频国产| 大香蕉十区| yazhouzaixian| 欧美色图在线视频少妇| 天天射网| 任你草| 9久9久| 大香蕉伊人久久| 人人操人人舒服| 久夜视频| 亚洲诱惑天堂 | 久久性爱视频免费看| 69丨亚洲丨精品丨入口免费播放| 少妇天堂网络| 中文字幕一区 二 区 三 四 五 区日 日 骚| 国产又粗又长又爽又色| 超碰精品国产无码| 蜜桃午夜视频一区二区 | 精品大久久| 人妻久久久久久久久久久久久久久| 日韩欧美亚洲一区二区三区影院 | 日韩AV色图| 长长久久88视频| 欧美一级黄色18片免费看| 久操网线| 八人操人人摸人人看| 国产精品久久久久久高清无码免费看| 国产粉嫩蜜臀av一区二区三区| 中文字幕人妻丝袜乱一区三区| 插入粉嫩少妇视频| 熟妇熟女亚洲天堂网| 两女互慰AV高潮喷水在线观看| 欧洲精品一二三在线| 97精品久久久久中文字幕| 日本天堂网| 久久偷偷色综合蜜桃| 麻豆黄四叶草网站| 69综合网| 操操操操操操| 亚洲欧美国产成人综合不卡| 国产三级日产三级韩国三级| 五月婷丁香| 色婷视频| 亚洲.欧美.丝袜.中文.综合| 色五月69夫妻| 久艹99| 嗯嗯啊啊的视频| 男人把坤坤插入女人的下体| 日本性一区| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 神马九九| 色五月AV| 久久成年片色大黄全免费网站| 人人妻人人玩人人澡人人爽| 欧美成年人性爱视频免费观看| 国产综合久| 超碰久久网| 中文字幕av一区二区三区人妻少妇| 青青草中日韩在线| 青青草好吊色| 老熟女网站| 亚洲网站一区二区在线| 青草草免费网站av| 中文字幕 码 自拍 视频 区| 亚洲综合小视频小说在线观看| 强奸少妇AV导航网| 蜜区区视频79| 亚洲成人精品在线一区| 91爆操视频| 99激情视频| 九九黄色视频在线观看| 在线人妻熟女一区二区三区四区五区| 亚洲欧洲第二视频在线观看色图| 国产女人9999| 天天网综合| 日韩成人高清一区二区| 国产精品无码av在线 | 日韩免费a级毛片无码a∨| 日韩中文字幕视频| 婷婷久久五月天| 超碰97爽| 欧美高清在线| 岛国片在线观看视频亚洲| 极品色社| 超碰97人人乐| 久久久久亚洲av综合波多野制衣| 91啪啪| 亚洲欧洲色情高清| 人人爱人人乐人人操| 99精品久久久久久久婷婷| 一区二区三区精品黑丝白丝酒店对鸡 | 亚洲第2页| 人妻夜夜爽天天爽麻豆三区网站 | 久久极品伊人| 色99久草| 中文字幕精品一区二区精| 性爱动态120秒| 日韩久草| 日本欧美韩国国产在线| 亚洲日韩在线a不卡99精品 | 一区二区高清视频| 国产白丝在线| 九九九只有精品| 97爱碰| 欧洲中文字幕| 久久久中文| 爱干爱射网啊啊啊| 九九久久久| 天天视频综合在线观看视频| 九一综合网| 亚洲高清视频在线免费观看| 国产二区三区免费视频| 人人乐大香蕉| 不卡一区视频| 人人操人人摸avav| 亚熟在线| 欧美精品二区视频在线| 国产最新AV| 亚洲人妻爽爽爽| 99这里都是精品| 亚洲色图亚洲无码强奸乱伦| 啊啊啊啊啊啊啊啊啊啊在线观看| 国产狂喷潮在线精品| 超碰97精品在线| 亚洲激情视频| 嗯嗯嗯啊啊啊在线免费观看| 97在线免费观看视频| 天天干天天拍| 中文一区二区三区影院| 久久久久久久久久久久黄色| 免费无码国产精品v片在线观看| 超碰性爱97| 波多野42部激情无码喷潮| 67194无码不卡| 亚洲**2021在线观看| 96AV久久久| 蜜乳中文字幕a在线| 中文字幕av久久爽Av| 欧美亚洲一级在线观看| 亚洲超碰综合网| 国产剧情AV不卡在线观看| 日韩欧美偷拍美女视频| 午夜福利av电影在线| 色九月婷婷| 91精品人妻一区二区三区蜜桃| 99色综合| 国产传媒午夜理伦精品| 玖玖大干人妻| 婷婷香蕉| 欧美性爱日韩高清| 欧美性爱中文字幕无线码| 国产网红精品| 欧美欧美少妇| 涩涩这里只有精品视频| 日韩三级网址| 中文乱码字幕观看视频| 蜜臀久久在线视频| 啊啊啊免费视频| 粉嫩国产精品久久粉嫩| 久久久久久国产成人| 久日综合网| 亚洲一区日韩| 欧美劲爆第一页| 超碰在线974| 国产97视频免费观看| 超碰色大香蕉| 久久一二三四不卡 | 九九九九97| 伊人久久88国产女| 91社操逼| 欧洲特黄毛片免费看欧洲毛片| 亚洲诱惑| 欧美综合站| 亚洲最新中文字幕免费| se吧提供91精品国产91久久久久久| 经典丝袜一区| 亚洲国产剧情少妇激情| 日本免费亚洲欧美| 日B操| 亚洲天堂日本| 97日本超碰综合| 狠日操| 欧美 亚洲 另类 综合| www网站黄| 黑人免费福利视频| 4tube欧美女厕所| 极品色社| 这里只有精品久久| 国模艳艳啪啪一区| 思思热在线视频免费| 欧美骚少妇| 天天看片天天爽| 熟女字幕| 国产91啪| 人人做天天爱| 日本久久女同性恋视频| 久久三区四区| 久久一区二区加油站| 天天射网| 国内精品999| 在线啊v一区| 少妇高潮对白在线观看| 激情 欧美 亚洲 小说| 欧美东京热青青草| 97色操| 亚洲伊人久久精品影院| 婷婷色香| 天美一二三在线观看Av| 神马午夜久久久| 久久9精品视频| 一级黄色影片| 99综合网| 无码91| 精品一区二区啪啪啪| 日韩高潮一区| 亚洲色图久久成人| 天天干人妇| 91成人在线免费视频| 国产操逼逼网| 五月综合婷婷久久网站| 激情专区综合| 九九99久久| 婷婷AV一区二区三区| 中文字幕五月婷婷免费| 在线色导航| 国产aⅴ无码片毛片一级网站| av无线看| 99热网站| 人妻密肉在线观看| 精品人妻一区二区三区鲁大师| 日韩少妇一区二区三区| 久久乐| 操操啪| 992视频一区| 69精品少妇一区二区三区蜜桃| 综合久久婷婷| 婷色五月天| 人夜夜精品网站香蕉嫩草| 久久久久久亚洲精品中文字幕人妻| 天天综合-91入口| 中文97国产| 人妻天天爽夜夜爽精品2| 按摩中文字幕| 欧美青青视频| 亚洲激情久久久伊人综合| 亚洲人妻日日日| 国产午夜在线观看| 日韩Va亚洲va欧美Ⅴa久久| 亚洲成人久久美女| 久热久一区二区三区| 女人的天堂大香蕉网| 嗯嗯啊啊的视频| 人妻少妇精品视频一区二区三区| 国产精品点击进入在线影院| 91色婷婷综合久久中文字幕二区| 国语人妻精彩刺激| 成人黄页| 色臀AV| 欧美不卡在线一区二区| 操逼逼福利视频| 老熟女网站| 亚洲天天更新| 夜夜精品视频| 久热久| 东京太热久久久| ?亚洲伊人伊成久久人综合网| 欧美激情视频在线一区| 国产v片在线免费观看| 日韩亚洲97| 97超碰超| 天天日B夜夜干B时时操B| 在线不卡视频| 亚洲综合骚逼| 婷婷干黄色| 欧美黄色大香蕉一区二区| 四虎影视在线| 夜夜春夜夜操| 精品视频免费在线一区| 亚洲色人妻综合| 97精品中文字幕| 2024黄色视频| 深爱激情五月天| 亚洲精品一二区| 激情黄色片在线观看| 美国一区二区免费视频| 亚州乱码中文字幕综合久久久| 玖玖资源视频一区二区三区| 国产欧美日韩一区二区三区| 欧美少妇内射| 岛国片在线视频网站| 日韩二区三四区五区六区在线看| 精品久久久久综合无码| 午夜无码精品免费看性色| 综合色图,成人综合网| 久久人体一区二区| 操逼操逼逼操操逼91| 中文字幕55555| 熟妇色99| 蜜乳av首页| 国产精品久久久久久久免牛肉蒲团| 国模精品一区二区三区苹果色戒| 人人天天干干| AV 少妇 人妻 偷拍| 蜜桃网熟妇| 亚洲免费成人在线高清无码视频| 日韩无码嘿咻黑热久| 传媒在线观看一区二区三区| 激情专区综合| 欧美色综合网| 超碰三级秋霞| 夜夜欢天天干| 日日狠狠久久偷偷色综合免费| 欧美综合色| 大香蕉五月天婷婷| 欧美精品黑人猛交高潮| 九月婷婷| 91熟女视频| 有码免费观看| 2024年最新色情网站在线观看| 美女刺激久久国产欧美| 搡老女人911熟妇老熟女| 亚洲伊人青青草| 能看的AV| 五月丁香六月激情| 久久久久久久国产视频| av影片在线观看不卡| 午夜欧美J进J出白浆流出久久久| 亚洲成人性爱网站在线播放| 伦理弟一页| AV污污污污| 欧美在线l亚洲| 永久免费av无码网站国产app| 欧美人人AAA| a一区二区三区乱码在线| 久久久99999久网站| 欧洲精品二区| 美日韩一卡二卡三卡免费人妻精品| 麻豆天美一区二区| 少好三P| 久久久久久九九九九九| 一级黄碟| 国产成人五月天丁香花| 91国产在线精品| 又大又黄国产| 天天超级碰碰碰| 国产精品视屏| 狠狠综合| 日韩另类色图| 日韩八十路老熟女| 国产极品馒头逼| 亚洲aw毛茸茸在线| 91女网站| 91色狼| 超碰在线香蕉| 高清无码一区二区三区| 九九久久国产精品| 性感女人网页在线观看视频| 亚州免费啪啪视频| 思思热在线视频精品| 色网在线| 91国产精品在线看| 婷婷五月色| 欧美白嫩女HD| 91激情国产| 碰超人人在线一区二区三区| 操b在线观看| 97色冈| 少妇第一页| 33044男人的天堂深夜备| 97免费视频网| 91欧美丨精品丨入口| 美国一区二区三区视频| 91逼逼女人91| 欧美v日韩v亚洲v最新在线| 国产亚洲精品一区二区三区| 超碰偷拍| 91日韩网站| 熟妇无码视频三区| 中文字幕一区二区三区视频播放| 久热9| 玖玖综合.com| 日韩无码视频黄色| 国产13区| 国产传媒操逼视频| 国内自拍 日韩激情 99| 人人澡人人干| 中文字幕乱码人妻一区二区三区,99精品 | 超碰97久| 久久伊人青青草| 嗯啊不要在线观看嗯啊| 国产欧美一区激情交| 免费在线观看国内色片网站网址| 久久久久久亚洲中文| 九九综合九九综合| 亚洲欧美人妻| 亚洲高清色综合| 久久久九| 九九热精品视频六| 欧美精品,四区。五区| 97在线无精品| 国产中文日韩欧美一区二区三区人妻丝袜美腿 | 综合网97| 狠综合网| 日韩精品99久久久久久中文字幕 | 久久大线蕉一区| 成 人 影视 一区 二区 三区 四区| 精品91摸| 激情婷婷丁香| 久久久青青草| 精品九九| 成人五月天丁香激情综合| AAAA级日本片免费视频| 国产一区二区三区视频在线看| 岛国片在线播放| 人人操人人摸人| 91精品国产麻豆国产自产在| 日韩成人网址| 日韩午夜国产| 久久激情婷婷| 国产精品一区二区三区,亚洲综合 性开放中文AV高清无码免费看 | 精品三级在线专区| 色屁屁影院www国产| 超碰色老头| 懂色Av一区二区三区| 久久久久亚洲熟妇熟女| 女人被添高潮免费视频| 97香焦色区| 日韩精品电影| 欧美999| 日韩免费在线视频观看| 99这里只有精品国产| 曰韩av中文字幕专区| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 亚洲精品久久一区二区三区蜜桃臀| 日韩黄色小说| 九九九精品| 蜜桃视频一区二区三区在线观看| 久久精品一区一起草| 亚洲最新中文字幕免费| 天天综合色电影| 九九九不卡| 91成人精品在线播放| 欧美美女自慰一区二区三区| 亚洲丝袜少妇在线| 开心五月婷婷激情| 美女性91| 青青草原狼av| 欧美大片91| 五月丁香六月婷综合成人综合| a人欧美综合天堂麻豆| 久久美女国产| 蜜桃久久久久久| 91av一区二区在线观看| www被窝色com| 顶级丝袜熟女一区二区三区| 国产精品国产| 欧美 亚洲 制服 精品| 国产精品久久久久久高清无码免费看| 国产精品色哟哟| 一区三区啪啪| 国产成年女黄特黄| 亚洲麻豆18发?| 亚拍在线| 亚乱色| 易易A毛视频| 欧美亚洲厕所精品偷拍91 | 97视频在线播放| 龙兴卡官方查询| 久久久久久久78| 这里有精品| 色色色99| 日本午夜福利影院| 亚洲性爱成人| 亚洲97在线观看| 色97欧美| 久久风骚城市人| 99热99re6国产在线播放| 伊人991| 精品一久久久| 台湾肥佬网一区二区三区| 天天91~综合入口| 九九色热| 调教熟妇 久久久久久| 97最新在线播放视频| 国产精品久久久无码AV网站| 无码高清专| 凸凹视频在线观看| 99超级碰免费视频| 男人的天堂亚洲| 欧美极品女人的天堂| 97爱爱爱综合| 久久久久久中文版| 欧美 牲| 超碰在线日韩一区| 蜜乳av首页| 蜜臀久久久99久久久久| 精品日日人妻| 岛国大片国产| 午夜精品久久一区二区| 久久女人一区二区三区| 欧亚性爱在线视频| 亚洲日韩AV视色| 亚洲成人性| 亚洲精品欧洲色| 国产免费大片| 五月丁香六月婷综合成人综合| 四虎在线观看视频| 国产精品免费日韩| 欧美狠狠操| 欧美黑人性猛交91| 97在线观| 97啪啪| 91在线免费精品视频| 少妇xx精品| 9美女超碰在线免费观看| 欧美色一二三| 午夜综合在线| 天天日天天干天天整| 啪啪AV导航| 理论久久婷婷网8| 91超碰碰在线| 在线有码中文字幕| 偷拍欧美激情| 九一综合网| 亚洲精品视频在线| 嗯嗯嗯,草死我| 先锋女优在线观看视频| 91久久免费视频互動交流| 操国产高清| 激情五月天社区| 无码国产精品久久久久| 中国AV美女| 国产精品原创巨作?v网站| 久久天堂婷婷网| 爱妻综合网| 日本性爱少妇| 综合网色| 蜜臀AV网站| 最近2018中文字幕在线高清第一页| 日韩丰满熟妇| 亚爽爽爽爽爽爽爽爽| 操一区| 无码天天操| 人人摸.人人色| 日韩不卡a级视频专区| 亚洲欧美色综合| 日日夜夜精品| 日韩欧美加勒比| 97综合久第一页| 色婷婷六月丁香七月婷婷| 久久久99久9| AV网站高清无码在线观看| 中文字幕亚洲热播人妻 | 国产专区第一页| 人、人、摸,人、人、草| 人妻 中文 日韩| 国产AV激情无码久久无码| 男人天堂一区二区| 成人日韩中文字幕| 秋霞曰韩R级| 啊啊啊啊啊啊在线看| 婷婷精品国产一区二区三区日韩| www.大香| 黄色av一区二区在线| 啊视频在线| 午夜精品99久久久久传媒| 东京日日夜夜| 岛国大片在线观看网站入口| 亚洲中字幕日本一区二区三区 | 成人美女av| 欧美性爱在线无码| 最新av网站在线观看| 欧美夜夜狠| 大香蕉99re| 久久久久久久久久久人妻| 日本成人A片网站| 少妇无码av专区线| 精品色色| 日韩欧美偷拍美女视频| 蜜桃传媒视频第一区入口在线看| 久久精品国产99国产精品亚洲| 五月天社区| 囯产精品强| 日本欧美不卡| 色婷婷aV一区二区三区麻豆综合 | 成人av在线播放| 999国产精品999久久久久久| AVE乱伦| 97久久精品亚洲| 91挑色欧美| 亚洲不卡三级手机播放| 人人色人人操在线| 在线亚洲精品久久久| 五月天婷婷成人网| 一区二区三区成人| 热天堂一区二区| 99re6久热只有精品6在线直播| 欧美老妇曰批的视频| 91N综合在线| 国产在线视频二区| 日本性爱网址| 国产毛片在线| 香蕉视频欧美一卡二卡| 免费视频无码| 日夜伊人网| 亚洲天堂日本| 欧美性91| 易易A毛视频| 亚州熟女乱伦| 美女超碰978| 91超碰丝袜制服| 欧美大香蕉卡久久| 欧美中字不卡| 欧美在线 亚洲| 九九九九九九亚洲| 深夜国产一区二区三区在线看| 日韩精品啪啪啪| 97超碰中文字幕| 国产精品电影| 亚洲成人性爱网站在线播放| 91精品国产91久久久久久久久久久久| 国产亚洲欧洲在线观看| 99视频只有精品| 干b在线性社区| 日韩精品午夜操呦呦不卡影院| 久久久久极品| 超碰 另类 欧美| 日本日皮视频逼| Av色五月| 日日夜夜精品视频| 二级毛片| 亚洲日韩久久精品一区| 色婷婷六月| 99色在线| 精品999一区二区| 亚洲人妻中文在线视频| 久久久亚洲Av| 91麻豆天美| 久久久久久久| 久久av无码| 精品1区2区3区| 精品国产乱码久久久影院| 91爽啪| 亚洲成人免费中文字幕| 亚洲?V高清一区二区三区尤物| 囯产操逼片| 丰满翘臀美女影院视频| 日韩欧美资源| 2017天天透天天通天天擦| 欧美色66| 920日本午夜免费| 91欧美性| 亚洲字幕一区二区| 97资源视频| 免费的黄片有限公司| 超碰在线香蕉| 一本一道人妻久久一区二区三区 | 色婷婷久久综合超碰| 热热色综合网| 亚洲高清自拍| 中国国国产一级特黄毛片| 亚洲日韩一区电影| 91精品婷婷国产综合久久竹菊| 国产97综合| 欧美精品精品一区二区| 中文字幕 国产区| 日日干夜夜操视频h| 欧美成人贴图| 波多野结衣一级视频| 亚洲色婷婷| 任我爽在线视频免费观看| yiqicaoav| 亚洲一区日韩| 午夜后入| 日B操| 亚洲自拍青操视频| 97超碰超| 久久亚洲AV成人精品无码| 五月天玖玖资源站| 最新av在线| 国产呦精品系列在线观看| 综合色啪| 国产视频大全| 国模无码人体一区二区三| 99热这里只有精品9| 欧美亚洲成人在线一区二区三区| 五月丁香激情四射| 99色在线| 久久久久久久久9| 欧美另类综合久久| 久久久18禁| 国产精品点击进入在线影院高清 | 成人26uuu| 性色avv| 精品久久久久久久| 99热精品在线播放| 色97欧美| 女人被添高潮免费视频| 久久久国产精品亚洲精品| 五十路六十路七十路熟婆| 亚洲精品97在线| 国产乱子伦一区二区三区在线观看| 激情婷婷综合久久| 999精品国产高清一区二区| 欧美另类色| 欧美色人| 欧美嗯啊……在线观看视频免费| 超碰在线91| 夜夜爽77777| 国产精品第一页国产大屁股视频免费区| 超碰人人色| 久久久久久人体| 日韩啪啪网| 夜夜性| 亚洲欧美一区二区三区在钱蜜桃| 葡萄牙性视频一二区| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 亚洲最大黄网| 日本中文熟女视频| 大香蕉在线视频重口味毛片在线| 另类TS人妖一区二区三区| 夜夜狠狠躁日日躁色视频| 亚川综合视频| 久久久久斤小| 国产不卡免费在线视频| 人妻大香蕉| 色婷网| 久草加勒比一区在线| 麻豆乱码久久精| 国产一级内射无挡观看| 少妇精品久久久八区九区| 午夜男人一级A片7777| 欧美亚洲今日在线| 97超碰天天爱天天爱| 熟女乱伦A| 黄页网站成人免费| 五月婷婷激情网| 欧美色另类| 色 婷97| 中文字幕狠狠玩| 96久久久久久久| 日本日日色视频| 无码日韩人妻av一| 性91| 日韩精品怡红院| 婷婷色影院| 综合伊人网12色| 国产自产22区| 大香蕉 222| 亚洲美女自拍偷拍视频| 欧美亚洲图片| 夜夜 中文视频rt| 九九热精品| 欧美Aⅴ| 久久老熟女| 欧美97在线观看| 色优久久| 免费精品中文字幕| 亚洲在线a| 加勒比色综合| 欧美综合97www| 欧美精品久久久久久久久88| 91欧美在线| 最新中文字幕av| 女人被添高潮免费视频| 人人看人人插| 唯美清纯 妖精视频| 日韩精品第3页| 综合网欧美在线| 黄片aaaaa一区| 偷拍 欧美 日韩| 99999亚洲| 日产成人久久| 久久最新视频免费观看| 婷婷五月丁香五月| 国产强奸超碰AV| 国产成人99久久亚洲综合| 蜜臀99精品国产高清在线观看| 男人久久精品| 国产人妻精品久久久一区二区三区| 看一级特黄a大一片| 尤物av网站免费在线播放| 欧美在线亚洲| 久热大香蕉网站| 亚洲永久AV无码精品秋霞| 久久久久13| 五月天色色网站| 亚欧无码在线| 777AV电影| 日韩性爱小视频| 91少妇人妻| 欧美激情 亚洲色图| 欧美一区二区三区成人性生活| 欧美性,亚州色| 国产精品一二三免费网站| 日韩一级欧美一级在线观看| 日韩精品人妻一| 眼镜人妻101.com| 国产粉嫩蜜臀av一区二区三区| 淫淫综合网| 亚洲欧美综合网| 97jingpin| 日本加勒比无码专区一二三| 国产成人天堂| 综合久久99亚洲人妻中文在线| 九九成人精品| 亚洲欧美九九九| 少妇与黑人高潮在线| 国产人伦精品一区二区三区| 欧美在线官网| 日韩 成人 有码| 加勒比海成人视频网| 色色综合97| 少妇专区一二三四五| A男人的天堂| 九九九草| 亚洲美腿丝袜香蕉影视欧美成人| 青青草原成人| 啊啊啊水好多| 精品久久久久久久| 国产精品视频内谢女人| 日韩亚洲欧美中文字幕| 欧美亚洲韩国视频十五区| 爱妃国产亚洲视频中文字幕| 五月丁香激情四射| 九九九九热| 一起草三级AV电影在线观看| 超碰91在线| 国产无码精品久久久久久| 国产 日韩,欧美 自拍| 国产精品内射婷婷一级二| 国产亚洲色停停久久99精品91| 日本操逼无码| 家庭乱伦国产精品| 日日日日做夜夜夜夜无码| 色婷婷视频| 日韩女模中文造逼| 精品精品精品| 极品内射| 狠狠操狠狠燥| 97干在线视频| AV乱伦专区| 淫荡少妇免费| 91一起操| 国产有码一区| 啊啊啊啊啊啊啊啊啊在线观看| 91在线国产后入风骚翘臀美女素人| 青青草原伊人网| 大粗鳼巴久久久久| 国产女同在线观看视频| 日韩精品人妻一| 超碰99在线| 国产一级久久久| 久久久久婷婷精品av电影| 欧美综合网A| 日韩黄色av中文字幕| 久久欧美性爱视频| 中文字幕一区二区三区人妻少妇在线| 久久久久久久久久黄色网| 亚欧操逼片在线观看| 97精品网| 浪人综合网| 日韩欧美视频青青| 日本九九久久99| 亚洲天堂,男人| AV 少妇 人妻 偷拍| 久久亚洲天天做| 久久这里只精品| 国产精品久久久久久久久久梁医生| 强奸乱伦麻豆| 欧美日韩免费专区在线| 国内一区二区三区| 亚洲欧洲av影音| 巨爆乳肉感一区二区三区竹菊影视 | 夜夜操一区二区| 亚洲欧美999| 欧美日韩性爱操大逼| 97硬碰| 啊啊啊啊好多水| 亚洲古典另类欧美在线| 精品无码一区二区| 欧美伊人电影| 在免费jIzzjIzz在线视频| 有码人妻系列| 国产精品噜噜噜日日日| 欧美成人性爱视频免费观看| 天色综合网| 人妻丝袜一区二区三区在线| 黄色区免费观看中文字幕| 北京专精特新企业招聘信息| 草B在线| 精品久久久久久中文| 国产白嫩精品久久| 密乳无码| 大香蕉综合在线| 一起草视频在线| 爆操无码| 麻豆区久久久久亚| 有码免费观看| 曰本精品久久久| 国产自产91区13区| 日本午夜精品理论片A级APP发布| 日日日大屁股骚女人精品| 五月丁香激情四射| 91女网站| 欧美狠狠干| 久久精品性| 亚洲熟妇AV日韩熟妇在线| 热久久国产| 熟妇艹鸡八| 亚洲字幕一区二区| 日韩精品国模| 天堂69亚洲精品中文字| 中文字幕一区av| 天天综合,91入口| 中文字幕一区二区韩| 超碰在线人妻不卡| 26uuu久久| 天天干天天操天天拍| 97资源久久| 五月天色图影视| 99999亚洲| 欧美夜夜狠| 欧洲精品二区| 九九av| 国产成人五月天丁香花| 99在线精品观看99| 麻豆天美在线| 99免费在线视频| 中文字幕激情小说| 天天日天天爽| 亚洲熟女综合一区二区| 久久99操天天日| 久草在线| av操操不卡| 啊啊啊免费视频| 综合操逼| 4tube欧美女厕所| 久久这里只精品99re66图| 另类图片五月天| 六月婷婷色综合| 欧洲精品一级二级精品综合视频综合 | 骚熟女吞| 亚洲一卡2卡3卡4卡乱码网站 | 刺激性视频黄页| 国产无码精品久久久久久| 亚州综合电影| 亚洲天堂AV在线播放| 啊啊啊啊啊舒服| 97干在线| 国产91影院| 欧美夜夜骑视频| 日韩精品1区2区中文字幕| 9997se| 丁香六月婷| 97超碰人人模人人拍人人| 欧洲与亚洲欧美精品中文字幕| 精品亚洲黄色片 国产精品导航一区二区| 91女优在线观看 | 欧美综合娱乐久久| com 首页 18岁 禁区 女优 免费 精选 同城 | 中文字幕一区日韩精| 国产精品欧美在线观看| 欧美狠狠弄| 99久久精品无码一区二区| 亚洲欧美97√| 香蕉久久精品| 五月丁香婷婷啪啪| 国产丝袜美女在线一区| 超碰视97中文| 性感女人网页在线观看视频| 成年人黄色小视频网站| 熟女熟妇一区二区三四区| 99999精品成人| 久操不卡视频| 国产精品又黄又猛又粗| 在线电影亚洲色图| 大香蕉伊人网WWWn0n| 久久精品国产亚洲AV高级北京| 天天噜| 色在线69堂| 天天操女人| 新版天堂中文资源8在线| 91精品国产91久久福利| 久久综合精品一区二区三区| av天堂5| 乱伦熟妇一区二区| 国产一区二区精品久久久不卡蜜臀| 久久夜夜夜夜| 国产1769在线| 亚洲中文字幕熟女| 啊啊啊啊,啊啊好多水| 久久久久久性爱视频| 蜜臀AV网站| 欧美18 在线观看| 欧美日韩亚洲天堂| 偷拍综合亚洲| 超碰调教97| 日本99久久| 婷婷激情五月天小说网| 亚洲精品国产精品乱码不卡| 青青草精玖玖69精品| 强奸乱伦免费网站| 国产精品香蕉热久久新品| 狠狠色噜噜狠狠狠狠狠色综合久久| 日本一区二区做爱的视频| www.婷婷| 内射卯月麻衣| 午夜小电影在线插入淫高潮| 婷婷五月天丁香| 日本羞羞的视频在线播放| 综合日本女人伊人| 青青草日韩免费观看高清在线| 96国产精品| 中国AV美女| 97人肏| 亚洲性高潮| 91精品久久久久久77777| 国产精品亚洲四五区在线观看| 国产丁香精品露脸视频| 日本福利二区视频| 国产久久久久久| 欧美欲色| 日韩欧美日韩| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 激情 欧美 亚洲 小说| 后入 亚洲 美女 射| 校园春色五月天| 亚洲欧美成人在线| 久久久精| 91c色| 亚洲图片激情综合另类| 亚洲另类电影| 资源新线在线天堂| 秋霞曰韩R级| www.av不卡中文字幕| 高潮毛片无遮挡高清免费| 97干天天| 国产精品一区av在线| 91九九九小逼| 国产毛片久久久久久久| 欧美五区| 国产午夜福利专区综合| 91人妻超碰| 日韩免费一级性爱视频| 激情四射婷婷六月天| 日韩欧美综合激情| 91性高朝久久久久久久久| 欧美亚性天堂| 无码国产精品久久久久| 97爱综合| 台湾佬中文娱乐网久久久久久久久久com | 在线岛| 91爱| 中文字幕熟女人妻丝袜| 亚洲性图91| 国产无码精品高清| 999国产精品999| 欧美色蜜桃97| 走光一区92下载| 久久久999网站| 五月天婷婷色| 亚洲熟女性高潮久久久| 囯产精品久久久久久久久久二区三区| aaa淫乱视频| 欧美大香蕉专区网| 国产美女自拍AV| 熟女激情综合网| 亚洲国产精品无码AV久久| 久久欧美激情| 亚洲性综合11| 亚洲aw毛茸茸在线| 无码黑人精品一区二区三区三| www欧美91| 九七毛片九九毛片| 2019AV天堂| 亚洲天堂另类美腿| 色婷五月| 亚洲国产精品乱码在线观看| 国语精品内射在线观看| 高颜值美女口爆高潮浪叫| 久久久久久中文字幕中文字幕最新| 一区二区你上我| 在线人妻熟女一区二区三区四区五区| 九九热精品免费视频| 亚州综合电影| 我想要啊 啊 啊|