亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Kubernetes端口不通但資源正常?Invalid Container Port排障全解析

Kubernetes端口不通但資源正常?Invalid Container Port排障全解析 凌晨三點(diǎn)的告警電話我接過(guò)太多次了但每一次還是讓人瞬間清醒。業(yè)務(wù)同學(xué)在群里說(shuō)“某某服務(wù)超時(shí)率飆升趕緊看看”我打開監(jiān)控面板翻了半天Pod 全是 RunningCPU、內(nèi)存曲線平得像一條直線連日志都沒(méi)有報(bào)錯(cuò)??煞?wù)就是訪問(wèn)不通。當(dāng)時(shí)的第一反應(yīng)是檢查網(wǎng)絡(luò)插件、防火墻、安全組折騰了一大圈最后才發(fā)現(xiàn)問(wèn)題出在一個(gè)不起眼的地方——Invalid Container Port。這個(gè)場(chǎng)景在 Kubernetes 里非常典型資源都正常、Pod 也活著、網(wǎng)絡(luò)看起來(lái)也沒(méi)問(wèn)題但流量就是到不了應(yīng)用。這篇排障手記我就把“端口不通但資源都正常”這一類問(wèn)題的完整排查思路、根因分析和實(shí)操步驟整理出來(lái)尤其適合正在做 Kubernetes 運(yùn)維、DevOps 或者后端開發(fā)的朋友遇到同類故障時(shí)可以直接照著抄。1. 癥狀與初始定位明明一切正常為什么就是連不上1.1 這類問(wèn)題最容易讓人誤判的三個(gè)方向先說(shuō)說(shuō)我那次踩坑的經(jīng)歷。業(yè)務(wù)服務(wù)通過(guò) Service 對(duì)外暴露監(jiān)控顯示異常之后我先后懷疑過(guò)三件事。第一個(gè)懷疑的是 CNI 網(wǎng)絡(luò)插件。因?yàn)?Kubernetes 的 Pod 網(wǎng)絡(luò)是靠 Calico、Flannel、Cilium 這類組件來(lái)維護(hù)的一旦網(wǎng)絡(luò)插件出問(wèn)題最常見的表象就是端口不通。我當(dāng)時(shí)先看了網(wǎng)絡(luò)插件的 Pod 狀態(tài)全部正常又看了節(jié)點(diǎn)上的網(wǎng)絡(luò)策略也沒(méi)有異常。這一輪排查純屬浪費(fèi)時(shí)間。第二個(gè)懷疑的是云平臺(tái)的安全組和防火墻。因?yàn)樵谠骗h(huán)境里安全組規(guī)則確實(shí)會(huì)影響 NodePort 和 LoadBalancer 類型的訪問(wèn)。我把安全組規(guī)則翻了又翻發(fā)現(xiàn)規(guī)則都是對(duì)的放行的端口也沒(méi)問(wèn)題。后來(lái)證明這個(gè)方向也是錯(cuò)的。第三個(gè)懷疑的是 Service 的 selector 沒(méi)有匹配上 Pod。這個(gè)方向?qū)α艘话搿獑?wèn)題確實(shí)和 Service 有關(guān)但我當(dāng)時(shí)只看了一眼 selector發(fā)現(xiàn)標(biāo)簽?zāi)芷ヅ渖?Pod就以為 Service 配置沒(méi)問(wèn)題。實(shí)際上問(wèn)題出在更隱蔽的 targetPort 上。現(xiàn)在回頭看這類問(wèn)題之所以容易繞彎路是因?yàn)樗耐庠诒憩F(xiàn)太像“網(wǎng)絡(luò)不通”但資源指標(biāo)又太像“一切正?!?。Pod 沒(méi)重啟、內(nèi)存沒(méi)飆升、CPU 也沒(méi)打滿任何人第一反應(yīng)都不會(huì)是配置問(wèn)題。但恰恰是這種“看著一切正常”的表象最容易讓人忽略最基礎(chǔ)的配置檢查。1.2 先理清流量路徑再動(dòng)手吃了一次虧之后我養(yǎng)成了一個(gè)習(xí)慣遇到端口不通先不碰網(wǎng)絡(luò)插件也不碰防火墻而是先理清楚流量走的哪條路徑。Kubernetes 里訪問(wèn)一個(gè)應(yīng)用的路徑通常有幾種直接訪問(wèn) Pod IP這個(gè)路徑最底層繞過(guò)了 Service、kube-proxy、DNS 轉(zhuǎn)發(fā)直接打到容器網(wǎng)卡。通過(guò) ClusterIP 訪問(wèn) Service這是最常用的路徑流量經(jīng)過(guò) kube-proxy 轉(zhuǎn)發(fā)的 iptables 或 IPVS 規(guī)則再到達(dá)后端 Pod。通過(guò) NodePort 或 LoadBalancer 訪問(wèn)在 ClusterIP 的基礎(chǔ)上多了一層節(jié)點(diǎn)端口映射。通過(guò) Ingress 訪問(wèn)多一層七層轉(zhuǎn)發(fā)。排查的時(shí)候要一步一步收縮范圍。我的做法是先用kubectl run臨時(shí)起一個(gè)調(diào)試 Pod里面放 curl 或 wget分別測(cè)試這幾條路徑kubectl run debug --imagenicolaka/netshoot --rm -it --restartNever -- /bin/bash進(jìn)去之后先直連 Pod IPcurl http://Pod-IP:port如果直連 Pod IP 能通說(shuō)明容器里的進(jìn)程本身在監(jiān)聽、端口沒(méi)問(wèn)題那問(wèn)題就出在 Service 層。如果直連都不通問(wèn)題大概率在容器內(nèi)部比如進(jìn)程沒(méi)監(jiān)聽、監(jiān)聽地址綁錯(cuò)了、或者協(xié)議不匹配。這個(gè)順序至關(guān)重要。先確認(rèn)底層通不通再往上層查效率至少提高一倍。我見過(guò)不少同事一上來(lái)就去翻 kube-proxy 日志或 iptables 規(guī)則翻了半天才發(fā)現(xiàn)容器里監(jiān)聽的端口跟 Service 配的 targetPort 根本不是同一個(gè)數(shù)?;A(chǔ)層沒(méi)確認(rèn)上層查得再深都是白搭。2. Invalid Container Port 到底是誰(shuí)在“判定無(wú)效”2.1 containerPort 只是“說(shuō)明書”不是“開關(guān)”Kubernetes 里有個(gè)非常容易被誤解的概念Pod 的containerPort字段。很多新手以為寫了這個(gè)字段Kubernetes 就會(huì)幫你在容器里打開某個(gè)端口。實(shí)際上完全不是這么回事。containerPort不是一個(gè)“開關(guān)”K8s 不會(huì)去監(jiān)聽這個(gè)端口也管不了容器進(jìn)程到底有沒(méi)有在這個(gè)端口上做監(jiān)聽。它只是一份“說(shuō)明書”把信息寫在 Pod 的定義里告訴別人“這個(gè)容器預(yù)期會(huì)使用這樣的端口”。真正把端口打開并監(jiān)聽的是容器里的業(yè)務(wù)進(jìn)程本身。我習(xí)慣用一個(gè)生活化的比喻來(lái)解釋這件事containerPort相當(dāng)于你家門口貼的門牌號(hào)寫的是“302室”。Kubernetes 的 Service 就像快遞員按照門牌號(hào)去送包裹。但如果 302 房間里面根本沒(méi)有人在聽門鈴——也就是說(shuō)容器進(jìn)程根本沒(méi)有監(jiān)聽這個(gè)端口——快遞員按了半天門鈴沒(méi)人開門包裹就只能被退回。此時(shí)快遞員會(huì)報(bào)告“這個(gè)門鈴無(wú)效”這就是我們看到的 Invalid Container Port 現(xiàn)象。理解了這一點(diǎn)你就明白為什么“資源都正?!眳s“端口不通”了容器里的進(jìn)程確實(shí)在跑內(nèi)存、CPU 都正常但它要么沒(méi)有監(jiān)聽 Service 指向的那個(gè)端口要么監(jiān)聽地址不對(duì)要么 Service 引用了一個(gè)根本不存在于 Pod 定義里的端口名。Pod 本身活著但流量沒(méi)人接。2.2 五種常見成因逐個(gè)拆解根據(jù)我處理過(guò)的真實(shí)故障Invalid Container Port 這類問(wèn)題可以歸納成下面五種典型成因。第一種也是最常見的一種targetPort使用了命名端口但在 Pod 里找不到同名的containerPort或者大小寫不一致。Kubernetes 的targetPort支持兩種寫法數(shù)字端口和命名端口。當(dāng)targetPort寫的是數(shù)字時(shí)控制面會(huì)直接把流量轉(zhuǎn)發(fā)到 Pod IP 的對(duì)應(yīng)數(shù)字端口這個(gè)場(chǎng)景下即使containerPort沒(méi)有聲明也能通。但當(dāng)targetPort寫成命名端口時(shí)控制面就必須去 Pod 的 spec 里找名字完全一致的containerPort。注意名字是完全區(qū)分大小寫的HTTP和http是兩個(gè)完全不同的名字。我踩過(guò)最經(jīng)典的一個(gè)坑是Service 里寫的是targetPort: HTTPPod 里聲明的是containerPort: 80, name: http。服務(wù)控制面找不到HTTP這個(gè)名字于是把 endpoint 置空表現(xiàn)就是端口完全不通但 Pod 一切正常。第二種targetPort配的數(shù)字端口跟容器進(jìn)程實(shí)際監(jiān)聽的端口不是同一個(gè)。這種情況不需要命名端口匹配endpoints 也是能生成出來(lái)的Service 的底層規(guī)則也正常但流量到容器門口時(shí)容器里沒(méi)有進(jìn)程在對(duì)應(yīng)端口監(jiān)聽。比如業(yè)務(wù)進(jìn)程監(jiān)聽的是 8080Service 的targetPort寫成 80結(jié)果就是訪問(wèn)超時(shí)或連接拒絕。問(wèn)題的根源在于K8s 不會(huì)因?yàn)槟阏f(shuō)了 80 就去調(diào)用進(jìn)程切換端口它只是原樣把流量送過(guò)去。第三種多容器場(chǎng)景下端口名定義在了錯(cuò)誤的容器上。一個(gè) Pod 里可能跑多個(gè)容器比如業(yè)務(wù)容器加 sidecar 容器。如果targetPort的命名端口匹配到了 sidecar 容器而業(yè)務(wù)進(jìn)程實(shí)際在另一個(gè)容器里監(jiān)聽就會(huì)發(fā)生“端口聲明有但實(shí)際沒(méi)人處理業(yè)務(wù)流量”的情況。這種問(wèn)題檢查起來(lái)特別費(fèi)勁因?yàn)槊謱?duì)得上、endpoints 也正常就是不通。第四種協(xié)議不匹配。Service 定義端口的時(shí)候可以指定protocol默認(rèn)是 TCP。如果容器里業(yè)務(wù)進(jìn)程實(shí)際監(jiān)聽的是通過(guò) UDP 通信的服務(wù)而 Service 定義的protocol: TCP同樣會(huì)出現(xiàn)端口不通。反過(guò)來(lái)也是同樣的問(wèn)題。這種問(wèn)題在日志里最不明顯因?yàn)?TCP 和 UDP 都是同一個(gè)端口號(hào)肉眼很難發(fā)現(xiàn)。第五種業(yè)務(wù)進(jìn)程監(jiān)聽的地址不對(duì)。這不是 Kubernetes 的配置問(wèn)題但很容易被誤認(rèn)為 K8s 問(wèn)題。比如很多 Node 應(yīng)用默認(rèn)只在127.0.0.1上監(jiān)聽這個(gè)地址在容器里只有自己能看到外部流量從 eth0 進(jìn)來(lái)自然連不上。查看監(jiān)聽狀態(tài)時(shí)一定要確認(rèn)監(jiān)聽地址是0.0.0.0或至少是 Pod 的網(wǎng)卡地址。2.3 事件日志里的有效線索遇到這類問(wèn)題一定要會(huì)看事件日志。kubectl describe svc的輸出里會(huì)直接告訴我們關(guān)鍵線索。kubectl describe svc demo-svc正常情況下輸出里會(huì)顯示Endpoints字段帶有實(shí)際的 Pod IP如果端口聲明有問(wèn)題Endpoints會(huì)顯示none。與此同時(shí)Service 的TargetPort字段會(huì)顯示你配置的值比如HTTP/TCP這時(shí)候你去對(duì) Pod 里的containerPort一眼就能發(fā)現(xiàn)大小寫不一致的問(wèn)題。在比較新的 Kubernetes 版本里EndpointSlice Controller 還會(huì)在事件里輸出類似 “invalid container port” 的警告信息直接告訴你目標(biāo)端口在 Pod 里找不到對(duì)應(yīng)項(xiàng)。不同版本的具體文案可能不一樣但排查思路完全一致事件里只要提到invalid container port或failed to build model for service十有八九就是targetPort引用出了問(wèn)題。3. 完整排查流程從 Pod 命令到抓包驗(yàn)證下面這段是我現(xiàn)在遇到“端口不通但資源都正?!鳖悊?wèn)題時(shí)實(shí)際執(zhí)行的標(biāo)準(zhǔn)流程每一步都有對(duì)應(yīng)的命令和判斷邏輯你可以直接拿來(lái)當(dāng)模板用。3.1 第一步確認(rèn)端口是“假活”還是“真活”第一個(gè)動(dòng)作永遠(yuǎn)不是查網(wǎng)絡(luò)插件而是進(jìn)到 Pod 里看進(jìn)程到底監(jiān)聽了什么。這一步的目的是回答最基礎(chǔ)的問(wèn)題容器里到底有沒(méi)有進(jìn)程在監(jiān)聽對(duì)應(yīng)的端口kubectl exec -it pod-name -n namespace -- netstat -tulpn如果 Pod 里有多個(gè)容器記得加-c container-name指定容器kubectl exec -it pod-name -n namespace -c container-name -- netstat -tulpn有些基礎(chǔ)鏡像里沒(méi)有netstat可以用ss命令kubectl exec -it pod-name -n namespace -- ss -tlnp判斷邏輯很簡(jiǎn)單如果看到目標(biāo)端口有進(jìn)程在監(jiān)聽而且監(jiān)聽地址是0.0.0.0或::那容器這一層沒(méi)問(wèn)題。如果端口根本沒(méi)有監(jiān)聽記錄說(shuō)明業(yè)務(wù)進(jìn)程沒(méi)起來(lái)或者起來(lái)了但監(jiān)聽的不是這個(gè)端口。這時(shí)候去容器里看進(jìn)程列表確認(rèn)進(jìn)程是否活著。如果監(jiān)聽了但監(jiān)聽地址是127.0.0.1那流量從外部進(jìn)不來(lái)需要改應(yīng)用的監(jiān)聽配置讓它監(jiān)聽0.0.0.0。這個(gè)步驟能快速把問(wèn)題縮小到“應(yīng)用問(wèn)題”還是“Kubernetes 配置問(wèn)題”。我在這一步至少救回過(guò)三次誤判都是因?yàn)橄热霝橹饔X得資源正常進(jìn)程就一定健康結(jié)果發(fā)現(xiàn)業(yè)務(wù)進(jìn)程其實(shí)已經(jīng)悄然退出了容器靠 init 進(jìn)程活著看著是 Running 但業(yè)務(wù)早已不服務(wù)。3.2 第二步Service 與 Endpoints 的關(guān)聯(lián)排查如果容器里監(jiān)聽正常下一步就看 Service 層。先看 Service 配置kubectl get svc service-name -n namespace -o yaml重點(diǎn)看三個(gè)字段selector、ports[].port、ports[].targetPort。然后把 selector 選中的 Pod 標(biāo)簽對(duì)比一下確認(rèn)匹配關(guān)系kubectl get pod -n namespace --show-labels再查看 endpoinds。老版本里這個(gè)對(duì)象叫 Endpoints新版本切到了 EndpointSlice但kubectl get endpoints依然能看到聚合結(jié)果排查思路是一樣的kubectl get endpoints service-name -n namespace這里會(huì)出現(xiàn)三種結(jié)果第一Endpoints顯示none說(shuō)明后端的地址列表沒(méi)有生成。此時(shí)有兩種可能selector 沒(méi)匹配到任何 Pod或者targetPort引用的命名端口在 Pod 里找不到。區(qū)分方法很簡(jiǎn)單看kubectl describe svc的輸出如果 selector 匹配了 Pod但Endpoints還是空那幾乎可以斷定是targetPort的問(wèn)題。第二Endpoints顯示了 Pod IP用kubectl get endpoints能看到類似10.244.1.5:8080這樣的記錄。這說(shuō)明 Service 層正常endpoint 已經(jīng)生成。如果這時(shí)候再?gòu)募簝?nèi)訪問(wèn) ClusterIP 不通問(wèn)題就出在 kube-proxy 轉(zhuǎn)發(fā)這一層。第三Endpoints顯示 Pod IP 和端口但端口號(hào)跟你預(yù)期的不一樣。這通常也是targetPort的問(wèn)題——你寫成命名端口匹配到了 Pod 里另一個(gè)容器的端口。這一步是最關(guān)鍵的一步。一個(gè)空 Endpoints 直接說(shuō)明問(wèn)題在 Service 引用上不用再去翻網(wǎng)絡(luò)插件。3.3 第三步kube-proxy 規(guī)則層面的驗(yàn)證如果前兩步都正常Service 和 endpoints 都有內(nèi)容但通過(guò) ClusterIP 訪問(wèn)還是不通這時(shí)候再來(lái)看節(jié)點(diǎn)上的轉(zhuǎn)發(fā)規(guī)則。先確認(rèn) kube-proxy 使用的模式。現(xiàn)在大多數(shù)集群默認(rèn) IPVS 模式有些還是 iptables??梢杂孟旅娴拿畲_認(rèn)kubectl logs -n kube-system kube-proxy-pod | grep Using如果是 iptables 模式在 Service 對(duì)應(yīng)的節(jié)點(diǎn)上查一下 nat 表規(guī)則iptables -t nat -S | grep service-name如果是 IPVS 模式ipvsadm -L -n | grep ClusterIP要特別提醒的是這一步不要放在排查的第一步去做。原因很簡(jiǎn)單iptables 和 IPVS 規(guī)則非常多在沒(méi)確認(rèn) endpoints 正常之前去看規(guī)則等于大海撈針。而且 kube-proxy 的規(guī)則本身就是根據(jù) endpoints 生成的endpoints 是空的規(guī)則自然也是空的endpoints 正常規(guī)則大多也正常。在這一步你還可以做一個(gè)快速的連通性測(cè)試。找一個(gè)集群節(jié)點(diǎn)直接 curl Service 的 ClusterIPcurl http://ClusterIP:port如果這個(gè)都不通而直連 Pod IP 又是通的再考慮是不是 kube-proxy 的問(wèn)題。有一種比較少見但真實(shí)存在的情況endpoints 變化后kube-proxy 規(guī)則刷新有延遲或者卡住了。這時(shí)候解決辦法通常是刪除并重建一個(gè) Pod強(qiáng)制觸發(fā) endpoint 刷新極端情況下重啟 kube-proxy 也能解決。3.4 修復(fù)操作兩種典型場(chǎng)景的改法定位到根因之后修改通常很簡(jiǎn)單但操作過(guò)程中有一些細(xì)節(jié)需要注意。場(chǎng)景一命名端口大小寫不一致。Service 里寫的是spec: ports: - port: 8080 targetPort: HTTP而 Pod 里聲明的是ports: - containerPort: 80 name: http解決辦法是把 Service 的targetPort改成http或者把 Pod 里的端口名改成HTTP。修改 Service 是動(dòng)態(tài)生效的改完之后 endpoint 會(huì)立刻重建不用重啟任何 Pod。場(chǎng)景二targetPort 寫的是數(shù)字端口但和容器實(shí)際監(jiān)聽端口不一致。Service 里spec: ports: - port: 8080 targetPort: 8080容器實(shí)際監(jiān)聽的是 80 端口ports: - containerPort: 80這種情況要改 Service 的targetPort為 80或者改容器監(jiān)聽的端口為 8080取決于業(yè)務(wù)約定。如果改 Pod 配置記得是修改 Deployment 的模板然后滾動(dòng)更新而不是直接改運(yùn)行中的 Pod否則 Pod 重建后配置就沒(méi)了。我個(gè)人的一個(gè)建議是能用數(shù)字端口就用數(shù)字端口簡(jiǎn)單直接不依賴containerPort的聲明如果團(tuán)隊(duì)規(guī)范要求解耦就必須使用命名端口并且把命名規(guī)則寫進(jìn)規(guī)范避免“HTTP”和“http”這種低級(jí)問(wèn)題反復(fù)出現(xiàn)。4. 常見問(wèn)題速查表與避坑經(jīng)驗(yàn)4.1 癥狀-根因-解法速查表實(shí)戰(zhàn)里遇到的情況多種多樣我整理了一張速查表做二次排障的時(shí)候?qū)χ匆谎勰苁〔簧贂r(shí)間。癥狀最可能根因快速確認(rèn)方法解法資源正常SVC訪問(wèn)不通Endpoints為空targetPort是命名端口但Pod里無(wú)同名端口或大小寫不一致describe svc對(duì)比TargetPort與Pod端口名修正端口名或改用數(shù)字端口Endpoints有IP但訪問(wèn)不通直連PodIP也不通容器進(jìn)程沒(méi)監(jiān)聽對(duì)應(yīng)端口或監(jiān)聽地址為127.0.0.1exec進(jìn)Pod執(zhí)行netstat/ss改應(yīng)用監(jiān)聽0.0.0.0改containerPort聲明Endpoints有IP直連PodIP通ClusterIP不通kube-proxy規(guī)則刷新異?;蜓舆t節(jié)點(diǎn)上curl ClusterIP檢查iptables/ipvs刪掉重建Pod觸發(fā)endpoint刷新必要時(shí)重啟kube-proxy只有NodePort不通ClusterIP正常節(jié)點(diǎn)端口被占用或安全組未放行檢查nodePort占用檢查安全組調(diào)整nodePort端口配置安全組放行headless Service訪問(wèn)不通繞過(guò)了kube-proxy直接走Pod IPdig解析域名直連解析出的Pod IP按Pod IP不通的方向排查多容器場(chǎng)景下命名端口聲明在錯(cuò)誤容器targetPort匹配到了sidecar容器端口查看Pod內(nèi)多個(gè)容器端口名將containerPort聲明調(diào)整到正確的容器Service的protocol和業(yè)務(wù)實(shí)際協(xié)議不一致TCP/UDP不匹配確認(rèn)業(yè)務(wù)實(shí)際使用的協(xié)議修改Service的protocol字段4.2 讓這類問(wèn)題少發(fā)生的幾條工程習(xí)慣排查是事了但反復(fù)踩同一個(gè)坑就是工程管理的問(wèn)題了。我歸納了幾條實(shí)際操作中驗(yàn)證過(guò)的經(jīng)驗(yàn)。第一嚴(yán)格約定端口命名規(guī)則。如果團(tuán)隊(duì)決定使用命名端口就一定要在小寫、短橫線分隔的規(guī)范上達(dá)成一致。寫 Service 的人、改 Pod 模板的人、負(fù)責(zé)評(píng)審的人都要清楚targetPort是大小寫敏感的。這個(gè)問(wèn)題在 CI/CD 流程里很容易被忽視因?yàn)?YAML 校驗(yàn)通常只檢查語(yǔ)法不檢查端口名是否真的存在。第二區(qū)分“Pod 狀態(tài)正?!焙汀皯?yīng)用可用”是兩碼事。Kubernetes 里的 Running 只說(shuō)明容器起來(lái)了不代表業(yè)務(wù)就緒。排查端口不通問(wèn)題時(shí)先看kubectl get pod輸出的 READY 列確認(rèn)前面的數(shù)字和容器數(shù)一致。如果Running 但 0/1 Ready說(shuō)明探針沒(méi)通過(guò)endpoint 也不會(huì)掛到 Service 上這同樣會(huì)表現(xiàn)為“資源正常但端口不通”。第三做好端口連通性監(jiān)控。Kubernetes 平臺(tái)自己有健康檢查還不夠最好在集群外部加一層黑盒監(jiān)控比如定時(shí)從測(cè)試機(jī)去撥測(cè) Service 的端口或者用 Prometheus Blackbox Exporter 做 TCP 探測(cè)。只有業(yè)務(wù)視角的監(jiān)控才能在你睡覺的時(shí)候幫你從“Pod 還活著但服務(wù)掛了”的假象里醒過(guò)來(lái)。第四排障順序固化下來(lái)。我現(xiàn)在遇到端口不通心里默認(rèn)走的流程是先看 READY 列再 exec 到 Pod 里確認(rèn)監(jiān)聽再查 Endpoints再查 Service 的 targetPort最后才考慮 kube-proxy 和網(wǎng)絡(luò)插件。這套順序能把 90% 的“端口不通但資源正常”問(wèn)題在十分鐘內(nèi)定位。4.3 一個(gè)容易被忽略的“假端口”陷阱最后單獨(dú)提一個(gè)小眾但真實(shí)發(fā)生過(guò)的場(chǎng)景有些業(yè)務(wù)進(jìn)程監(jiān)聽的端口是 IPv6 地址比如監(jiān)聽在[::]:8080而 Kubernetes 的網(wǎng)絡(luò)路徑走的是 IPv4。從 IPv4 角度看去這個(gè)端口是“不存在”的因?yàn)?netstat 里可能看到tcp6而不是tcp。某些語(yǔ)言或框架默認(rèn)綁定到 IPv6 時(shí)會(huì)同時(shí)支持 v4-mapped 地址但并非所有框架都會(huì)這樣做。真遇到這種情況去容器里執(zhí)行cat /proc/net/tcp /proc/net/tcp6對(duì)比 IPv4 和 IPv6 的監(jiān)聽情況很快能找到答案。解決辦法是改應(yīng)用的監(jiān)聽配置明確綁定到0.0.0.0。我個(gè)人在實(shí)際操作中的體會(huì)是這類“端口不通但資源都正?!钡膯?wèn)題最大的困難從來(lái)不是技術(shù)本身而是心理上的“它看起來(lái)沒(méi)事”帶來(lái)的迷惑感。資源指標(biāo)正常、Pod 沒(méi)崩、日志干凈太容易讓人把注意力引向網(wǎng)絡(luò)層。但只要耐住性子按“Pod 內(nèi)監(jiān)聽 → Endpoints → Service targetPort → kube-proxy 轉(zhuǎn)發(fā)”的順序一步步排除幾乎都能在十分鐘內(nèi)把根因揪出來(lái)。最后再分享一個(gè)小技巧我寫 Service 時(shí)習(xí)慣在targetPort上直接使用命名端口并且把 Pod 的containerPort名字寫進(jìn)注釋里。這個(gè)習(xí)慣看起來(lái)不起眼但配合代碼評(píng)審能從源頭攔住一大批大小寫不一致、端口名對(duì)不上的問(wèn)題。如果你現(xiàn)在正被端口不通的問(wèn)題折磨先別急著重啟 Pod花兩分鐘看一眼kubectl get endpoints很多時(shí)候答案就擺在那里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲日韩人妻中文字幕一区| 久久98| 污污污8888| 久久男人天堂| 国产熟妇一区二区| 六月丁香啪啪| 久久久久久久97| 九九热精品视频在线观看| 国产精品日日摸天天碰| 亚洲人妻av| 亚洲天堂男人| 国产青青美女玩逼视频| 狠狠色婷婷777| 中文不卡视频| 超碰97网址| 18禁美女裸体无遮挡啪啪| 亚洲一区亚洲天堂| 日韩欧美视频青青| 自怕偷自怕亚洲精品| 97热视频在线观看| 超碰97起碰| 欧美人人操人人插| 清纯唯美综合亚洲| 黑人操一区二区| 激情婷婷丁香网| 嗯嗯,啊啊,国产精品| 精品国产一区二区三区在线播出| 天欧美在线| 天天爽天天操| 欧美精品一区二区少妇免费A片| 日本影视久久免费| 激情文学亚洲| 久久啊啊| 国产精品久久| 国产操逼网站亚洲一级黄色| 欧美精品亚洲精品日韩传电影| 五月天激情网图片| 日本99热| 9久综合网| www五月| 一块操欧美性爱| 思思视频免费看网站| 亚州Av天美传媒| 操b网站亚洲无码| 在线可观看的黄色网址| 一个国产在线综合网站| 天天视频黄网站| 网站A V在线| 97操B| 99re6在线视频精品免费完整版安卓版| 东北女人被操| 中文久久96| 国产天天噜一噜久久久| 成人黄页| 中文字幕丝袜| 东北女人操逼| 人人做,人人操,人人摸| 日本韩高清无砖码22o| 亚洲在饯| 成人怡红院| 色激情综合网站| 性爱视频免费网址| japan日本高清乱xxxx| 乱伦a片视频| 我要去看2个日本美女.com曹逼| 人人操人人摸人人骑| 在线观看亚洲成人精品| 亚洲中文字幕精品久久久久久直播 | 欧美在线视频播放| 亚洲欧美日韩免费观看| 亚洲av综合色区无码一| 波多野结衣先锋影音| 丝袜熟女一区二区三区| 在线啊v一区| 啪一啪免费视频| 欧美性猛交美女自慰91| 不卡超碰护士AV在线免费播放| 99久久婷婷| 天天日B狠狠操| www.操| 欧美内射少妇| 97国产色图 | 精品少妇999| 一区二区三区黄色片a| 在线日韩日本亚洲国产| 日本无码1| 婷婷综合五月| 97色97干| 丁香五月大香蕉| 精品人妻一区二区乱码一区二区| 九热中文字幕| 在线播放中文字幕| 人妻天天爽夜夜爽2| 亚洲色图欧美色18直播在线| 日本女优在线视频福利| 在线视频五十市| 97久久超碰国产精品| 人妻81p| 欧美刺激色黄片免费看| 亚洲人精品久久久| 成人三级片无码| 亚洲精品视频二区| 精品人妻一区二区三区鲁大师| 亚洲成人激情小说视频| 欧美|91色综合| 国产夫妻性生活视频| 蜜乳中文字幕a在线| 91久久久久久久久18| 青青草啪啪网| 亚洲三区视频| 中文幕97| 亚洲一区二区三区四区视频| 色欲色香天天天综合网www-亚洲综合国| 91网站18禁| 亚洲四虎熟女精品| 打av高清| 婷婷伊人五月| 日韩一999精品| 久久岛国| 久久乐| 欧美在线综合| 99国产精品人妻人伦| 四虎在线免费视频| 91人人臊| 国产Av超碰| 婷婷99| 熟妇乱伦一区二区| 精品免费1| 操逼视频国产无套| 白丝在线一区| 久色网| 日韩综合97p| 99热综合| 亚洲av噜噜噜噜噜噜| 久操黄色视频| 人人玩人人添人人澡免费| 中文字幕第23区| 蜜臀操逼黄色视频操的好爽| 亚欧洲日韩国产精品| 欧美一级A片在线看视频性色| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 乱欲一区二区| 精品国产乱子伦一区二区三区,精品一| 成人免费福利在线观看| 少妇一区二区三区| 开心五月天激情网| 热99这里有精品综合久久 | 在线观看无码三级少妇| 久久9精品网站| 无码日韩网站| 亚洲天堂在线怕怕视频| 偷拍色图| 国产精品成人福利在线| 久久精品国产亚洲粉嫩| 亚洲激情 欧美色图| 无码精品久久| 欧美日韩欧美| 西西美女视频网| 女人爽到高潮潮喷18禁网站| 狠狠婷婷亚洲中文综合久久| 熟女熟妇伦久久影院毛片一区二区 | 中文字幕高清20页视频| 多乙久久久久久| 亚洲性高潮| 九九十八精品| 大香蕉久操| 日本欧美一区二区三区视频麻豆| 久9爱精品| 国产超碰在线一区| 99性爱| 亚洲精品性爱片| 97久操| 天天日天天屌天天操| 99精品久久| 8x福利精品第一福利视频导航| 99日视频在线免费| 91欧美性| 激情欧美日韩女同久久| 欧美激情总合网| 国产粉嫩出水在线播放| 国产欧美精选自拍一区| 日本一级婬片试看三分钟| 亚洲欧美日韩偷拍色图| 国产97亚洲| 欧美激情精品久久久| 美日韩一卡二卡三卡免费人妻精品| 日操粉逼逼| 成人自拍三级在线观看| 一级二级在线观看| 美欧色综合| 欧美色吧综合| 超碰精品97| 久久9精品网站| 嫩草伊人久久精品| 欧美熟妇乱码在线一区| 97色冈| 激情综合五| 色噜噜精品一区二区三| 屁屁影院一区二区三区国产| 亚洲国产一区二区入口| 日韩免费av片高清无码| 天天干天天燥| 2018天天干在线视频| 三级日韩一区二区三区| 亚洲成人黄色在线观看| 手机av亚洲丝袜美腿日韩第一页二页| 欧美在线色图| 中文字幕一区二区三区四区在线视频| 97在线免费观看视频| 高清孕妇孕交 交| 日本 情色 1区2区3区| 蜜桃丰满熟妇av无码区不卡| 一区二区三区在线日韩影院观看| 综合亚洲网| 欧美综合1性辶| 青青草在线视频播放器| 人人操欧美风骚| 大香蕉伊人网| 岛国激情视频软件| 蜜桃视频成a人v在线| 国产av强奸美女| 国产午夜福利专区综合| 国产久久成人| 亚洲第2页| 欧美精品1区2区3区| 国产一区二区欧美日本| 激情五月婷婷| 欧美大战久久久伊人| 丝袜狠狠草尤物 91| 亚洲猛交| 天天干天天舔| 极品极品色影院| 六月婷婷综合| 久久久久久久久久久久黄色 | 亚洲综合精品国产一区| 久久xx| 九九九九久久久| 少妇国产不卡| 夜夜爽夜夜操| 国产成人bd在线观看| 五月丁香婷婷啪啪| 日韩精品熟妇| 一区二区高清视频| 五月丁香激情综合| 牛牛久久国产精品视频一二三 | 五月婷婷六月丁香| 一区二区三区无卡视频在线观看| 天天干夜夜操一区二区| 99婷婷一区二区| 亚洲免费成人精品电影| 亚洲熟妇自偷自拍另欧美| 97硬碰| 麻豆区久久久久亚| 欧美性爱第一页久久| 在线强奷到舒服的无码视频| 影音综合网| 欧美日韩亚洲国产中文永久天天看| 97操b| 国产色综合亚洲色综合吹潮| 亚洲欧美国产日本一区二区三区| 人妻熟女一区二区三区在线| 夜夜欧美 | 欧美日韩亚洲五月天婷婷| 欧美性色欧美| 超碰精品在线| 男女性扦B| 啊啊啊啊啊啊啊啊啊啊在线观看| 2017天天拍大香蕉| 亚欧高清在线| 亚洲吊色| 一个人免费视频观看在线WWW| 激情五月天社区| 久插不卡| wwwxxx日本爽| 久久亚洲熟妇在线视频| 日本阿v天堂在线观看| 五月婷在线| 天天操天天日青青草超碰av| wwwxxx日本爽| 欧美一区二区传媒| 乱伦熟女论坛| 3571色综合一区二区二区| 夜夜国自区| 国产精品午夜高潮呻吟久久av| 热久久99999| 国产高清自拍视频| 天天欧美色| 91性感在线| 九九在线视频| 天天干18禁| 啪啪91| 视频二区美腿制服人妻欧美| 韩国一级婬片A片AAAAA| 9美女超碰在线免费观看| 国产av美女被艹的乱叫| 综合大香蕉美。| 乱伦图一区| 日日干男人的天堂| 亚洲精品无码成人久久久99| 色97综合中文字幕| 日本3级一区二区免费| 激情视频图片| 婷婷久久网| 久9无限国产| 极品丝袜无码| 日本一级婬片试看三分钟| 免费看污网址| 欧美特大黄一级片片免费| 二级毛片| 人妻熟女一区在| 尤物av网站免费在线播放| 91 丝袜在线| 久久直播国产| 哈哈操电影| 天美传媒av 在线| 国产成人91一区二区三区| 久久9亚洲| 亚洲精品白浆高清久久久久久| 日韩中文字幕av在线播放| 久久综合国产精品国产| 亚州欧美另类| 午夜毛片高清免费不卡| 九九久久精品| 久思思热视频在线观看| 国内精品久9| 国产欧美第五页| 精品无码欧美三级| 国产又大又粗又长视频| 青青草在线成人视频| 欧美日日操| 老熟女阿 国产91| 色婷婷综合久久中文字幕雪峰 | 日韩天天本| 手机看片1025| 亚洲一区二区三区播放在线| 网友自拍第1页| 亚洲大色堂| 深夜激情无码| 黄片www视频免费| 久久视频,这里只有精品 | 国产久久久久久| 老熟妇一区二区三区啪啪| 抽插无码高清一区| 国产一区二区三区久久久精品| 久9爱精品| 欧美人妻色| 成人情色一区二区| 亚洲欧综合另类无码一区| 男人的天堂2018| 国产午夜福利合集| 亚洲色图 综合| 爱爱动态120秒| 久久av成人无码免费| 日韩小电影| 尤物视频网 刘玥| 岛国小电影| 国产亚洲在线观看| 五月天社区| 可以在线观看AV的网站| 十八禁视频一区二区| 激情综合 婷婷五月 红杏| 欧美青青视频| 欧美少妇色综合| 97色论| 91久久精品国产| 欧美成va视频网站| 亚洲精品精品一区二区| 三级网色| 综合久久六月久久婷婷| 国产99精品一区二区三区免费| 欧美狠狠| 日本国产欧美一区三区二区| 久操电影| 日欧操屄| 高清成年美女黄网站免费大全| 久久精品午夜国产亚洲AV无码| 99re超碰| 少妇熟女1区2区3区| 97香蕉网| 色综合国产在线观看| 女色综合| 韩国免费播放一级毛片| 国产粉嫩蜜臀av一区二区三区| 中出欧美| 黄片免费日韩| 亚洲高清无毛一区二区| 国产丝袜欧美在线视频| 日韩人妻制服丝袜av| 熟妇的味道HD中文字幕| 日韩美女操b| 成人性爱高清视频免费看| av无码精品久久久久| 国产AV激情无码久久无码| 多毛小伙内射老太婆| 成人亚欧免费视频| 中日高清无码操逼视频| 久久久久13| 高凊专区人人操| AV天堂电影网| 骚逼自拍99| 91制服丝袜| 欧美日韩在线小说 | 白丝一区| 在线观看高清AV| aaaa少妇高潮大片| 噜噜噜狠狠色综合| 精品国产一区二区三区久久久蜜臀 | 欧美日韩美女精品久草一区二区三区| 国产麻豆91欧美一区二区久久婷婷国产精品| 噜噜噜噜天天狠狠| 亚洲日韩在线a不卡99精品| 黄视频免费| 8050无码八戒| 久久久久久久一级黄色打同平台| 日本日日色视频| 亚洲亚洲亚洲天堂天堂 | 中文字幕艹艹| 亚洲一二三四区在线免费看视频| 天天欧美| 亚洲国产精品无码AV在线| 久久99网站| 第45页一区二区| 欧美在线|亚洲| 成·人免费午夜在线观看| 国产对白刺激视频| 99在线免费视频| 九一精品牛牛一区二区| 91天堂| 少妇人妻好深太紧了vr91| 色婷网| 超碰在线人妻不卡| 2019天天干| 日韩丝袜二区| 97精品国产手机| 日韩一级二级三级在线不卡观看完整| 亚洲情色中文字幕一区| 内射中出日韩在线观看视频| 欧美肥臀在线| 日本三级网页| 啊啊啊啊二区好大| 中文字幕第2页| 欧美日韩一区二区三区四区蜜桃| 极品粉嫩一区二区| 打av高清| 乱欲视频| 日本欧美成人片AAAA| 中文字幕神马久久| 岛国大片国产| 欧亚久久偷拍视频| 人妻精品视频一区二区三区| 五月丁香六月| 日韩人妻无码不卡网站| 国产女人成人精品视频| 智利AV在线网| 太久视频| 欧美日韩人妻少妇 一区二区三区| 无码久久亚洲高清,| 亚洲色图久久成人| 亚洲人妻久久| 四虎永久在线精品免费网址| 大香蕉中文在线| 久久婷婷五月综合| 97欧美日韩综合| 天天肏夜夜肏| 超碰色大香蕉| 夜夜肏2021| 人妻少妇精品| 久久久噜噜噜久久久| 丰满人妻-区二区三区| 超碰99在线观看| 亚洲狠狠入| 超碰91在线| 综合少妇网| 丁香五月色情| 翔田千里A片一区二区| 超碰超碰95| 亚洲激情片| 女同性恋一区二区三区精品视频| 丰满美女一级毛片在线播放| 欧洲精品网| 欧美日韩国产中文精品字幕自在自线| 中文字幕无码不卡啪啪| 色99色| 91肉丝| 色爱欲亚洲| 精品人妻一区二区视频| 超碰在线在公开超碰在线在公开| 成人国产精品三级A片| 青女偷拍网| 97操97色| 嫩草影院在线观看精品 | av凤凰久久久| 欧美97超碰| 亚洲五区熟女| 国产亚洲精品自在线亚洲情侣| 青青草原香蕉日本Ap| www.色五月| 日本性爱视频一级| 日韩精品人妻中文字有码在线| 成人性爱美曰韩| 亚洲综合伊人无码久久| 九热大香蕉| 夜色AV无码手机在线影院| 日本不卡中文| 啊啊啊啊操死我了| 九九热超碰| 摸奶性爱视频网站在线免费播放| 久久久九精品| 欧美亚男人的天堂| 日本日皮视频逼| 上特色A在线| 1204金沙人妻懂旧版免费| 欧美婷婷五月天| 国产二区三区免费视频| 97超碰影音| 中文字幕亚洲欧美在线不卡| 国产CHASE男男GAYGA 毛多色婷婷| 亚洲色阁| 欧美日韩国产色五月综合在线| 好吊色在线观看| 人人摸人人干人人拍97| 婷婷色色五月天福利| 激情婷婷丁香网| 偷拍超碰| 中文字幕艹艹| 97碰在线视频| 国产精品视频白浆免费| 欧美的性爱网站免费| 久草免费在线视频| 激情文学小说一区二区| 亚洲情色在线| 操穴国产| 日韩AV一区二区三区四四| 一区二区三区 日韩欧美| 人人操人人爽人人操人人| 亚洲中文sv| 青操影院| 日韩78m视频| 亚洲精品一二三四区| 天天日夜夜爽| 天天插天天插| 色婷婷狠狠| 免费的黄片wwwwww| 久草网站免费在线观看| 高清无码在线播放网站| 国产亚洲福利第一页丝袜| 青青久久艹| 欧美综合色图网| 欧美日韩亚洲国产中文永久天天看| 白丝少妇一区二区| 亚州再线| 操一区| 高潮嗯啊性感美女久久久| 亚洲情色1区| 老熟女91av| 天天日老熟妇| 99re3这里只有精品| 婷婷成人久久久精品| 亚洲av夫妻操穴网| 99久久这里只有精品| 国语人妻精彩刺激| 国产精品制服丝袜中文字幕日韩一区二区三区 | 9999免费精彩视频| 97久久超碰| 婷婷丁香六月| 91xingse| 久久久婷婷| 性性久久| 97人人色| 久久超碰97| 人人操人人摸人人骑| 亚洲国产美女久久久久| 蜜乳av一区二区| 国产一级操B视频| 国产成人精品亚洲日本| 天天干少妇| 国产白领连续中出在线观看| 嗯嗯啊好大| 日本高清一本二本免费不卡| 91欧美网| 日熟女| 黄色片大香蕉| 欧美熟妇视频| 国产精彩女在线观看视频| 九九超碰综合网| 亚洲精品少妇| 一起草日韩| 久热免费视频| 麻豆激情综合| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 久久久久密臀视频| 超碰久久.com| 69XX一中文字幕人妻91| 亚洲一区二区三区四区视频| 男人亚洲91首页在线| 久久一二三四五六七八九区区| 伊人四虎综合| 亚洲第一页第二页激情| 美中日韩无码| 欧美一区二区在线资源| 97 国产精品| 国产无码精品无码| 亚洲精品成人激情在线| 欧美一区二区传媒| 一本色道久久综合精品婷婷| 自拍偷拍亚洲熟女妇人精品| 日韩成人精品中文字幕| 老鸭窝黄色视频网站| 自拍六区| 激情啪啪拍91| 97超碰亚洲| 白丝AV| 亚洲中文字幕精品久久久久久直播| 操死我干死我| 亚洲日韩精品一区二区| 秋霞免费AV| 97天天做| 日韩啊V| 99精品热| 亚洲天堂少妇| 色综合av男人天堂| 美女淫穴| 青娱乐淫乱1314| 91碰碰| 成人资源中文字幕在线观看| 蜜乳AV一区| 草伊人高潮喷水超碰| 国产99999| 久热99| 午夜操操操| 国产精品自拍欧美在线| 国产精品天干天干综合网麻豆| 亚洲第一页第二页激情| 精品少妇一区二区三区免费观看| 91青青在线| 中文字幕 国产 精品| 啊啊啊好大好湿| 伊人一区二区在线播放| 97超碰热线| 日本国产亚洲一区在线观看| 一牛影视久久久一区二区三区| 欧美亚洲手机在线| 另类视频在线| 999999精品| 青青草日本无码| 国产熟女精品一区二区| 色穴精品| 欧美精品久久久久久久丰满| 亚洲综合影片| 99这里只有精品国产| 婷婷另类小说| 无码精品人妻一区二区三区妖精 | 婷婷丁香五月天综合东京热| 四虎在线观看网站| 日日碰狠狠添天天爽超| 欧美日韩插逼视频| 校园春色亚洲无码| 亚洲加勒比色图| 69久久| 亚洲砖码砖专无区2023| 本道在线| 色综合色色| 搡老女人老91二区| 国产精品一区二区在钱播放| a片 xxxx受爽视频| 亚洲AV乱码专区国产噜噜亚洲| 男女性无套 免费九一| 女人一区| 中文字幕av亚洲在线| 久久黄黄黄| 97精品一二区| 国产一区在线观看无码AV| 精品久久9| www超碰| 一级乱伦网站| 日欧毛片久久| 丁香婷婷啪啪| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 欧美成人性爱视频大全| 97狠狠| 激情欧美日韩女同久久| 亚洲精品美女久久久久久久久| 大香蕉懂9| 成人精品视频一区二区| 国产树林里野战在线看| 性色aV一区二区三区噜噜| 99re只有精品| 天天干天天插| 国产亚洲精品农村妇女| 成人怡红院| 超碰97在线中文| 天天色粽合合合合合合合| 免费av高清无码| 日韩91网| 淫乱图区 | 综合性视频99| 玖玖蜜臀资源网| 黄色av一区二区在线| 国产亚洲精品一区二区三区| 日本二区不卡| 亚洲第一二区另类图| 久久人妻视频网| 免费簧片在线观看| 色屁屁影院www国产| 就去色综合| 欧美一区二区三区黄色影视| 91九久| 91一起操| 欧美性爱伊人| 国产精品永久免费10000| 99999亚洲| 疯操AV| 久久妇| 歐美性天天| 国产av白丝| 六月丁香五月婷婷| 99日精品欧美国产| AV免费在线播放一区| 日本国产欧美一区三区二区| 九久9精品| 欧美最婬乱婬爆婬牲视频| 另类视频在线| 久久综合女优| 日本97久久久精品| 午夜福利久久久噜久噜久久综合| 久久久激情| 免费一级毛片在线视频观看| 日操粉逼逼| 黄色AAAAA欧美| 成人精品久久久午夜福利| 在线观看中文字幕| 日本不卡五区| 97欧美日韩| 综合欧美亚洲| 久久69| 99久久99久久免费精品蜜臀| 啊v在线观看视频| 大香蕉草草| JuliaAnn丝袜熟女系列| 加勒比综合在线| 亚洲欧美91| 熟妇视频一区二区三区在线| 偷拍盗拍亚洲色图图片| 伊人91| 又大又大又大又粗爽高潮观看| 五十路三区在线| 男人天堂电影院| 青娱乐二区免费| 日韩中文字幕国产| 最新岛国大片| 國產尤物AV尤物在線觀看| 尤物一级在线免费观看| 亚洲精品乱码久久久久久蜜桃麻豆 | 中字乱伦AV| 日本三级中国三级99人妇网站| 激情五月综合网| 花野真衣| 最新精品久久蜜桃| 无码人妻丰满熟妇区毛片| 夜夜夜爽www精品视频| www国产精品| 久久丁香久草综合网| 欧美一级黄片视频在线| 留下AⅤ黄色片| 2020中文字幕| 日韩精品人妻中文字幕久久久| 亚洲国产青青| 亚洲丝袜在线观看| 欧美精品69性爱| 久干9操| 蜜臀av一区二区三区免费观看| 宅男91视频在线播放| 亚洲欧洲久久天堂| 97人人夜| 黑人美精品 A片| 偷窥自拍亚洲天堂网爆| 精品福利视频| 亚洲熟女少妇免费视频| 日本成人在线不卡一区二区三区| 一区二区三区黄色片a| 五月婷婷久久综合| 操操操操操操| 91色亚洲| 国产A v无码专区| 蜜桃臀av在线观看| 999九九精品| 97超碰精品| 人看人人摸人人操| 少妇一区二区三区在线观看| 九九这里只有精品| CCYY草草影院地址入口| 一区二区娱乐网站| AV在线资源| 欧美懂色综合网| 亚洲精品a人片在线观看视| 久久国色天香香蕉| 男人天堂毛片| 激情网色| 99天天超碰| 91精品久久久久| 中国东北熟女老太婆内谢| 色一射色一射| 98久久超碰| 亚洲最大AV网| 天天澡天天爽日日av| 久久神马| 青草视频在线看看看看看看看看看| 欧美色图 人妻| 国产亚洲99久久精品熟| 国产成人网| 欧美性五月| 91社操逼| 东北女人操比视频| 欧美日韩啪啪电影| 精品久久青青草| 天天操天天舔| 丁香色五月 97干| AV色五月| 国产精品女久久久久av爽| 亚洲大色堂| 久久精品国产精品一区| 久久国产三区| 78超碰| 最新欧洲欧美日本激情网站| 一本大道青青| 欧美国产日韩高清在线| 欧美在线|亚洲| 夜嗨影院| 欧美日本视频一区| 强奸乱伦日韩AV| 亚洲情色综合网| 强奸乱伦大香蕉网| 2020中文字幕在线| 蜜臀操逼黄色视频操的好爽| 粉嫩久久久极品| 精品黑人一区二区| 91激情国产| 操逼网站地址| 熟妇人妻丰满久久久久久久无码| 国产精品久久久三级无码| 亚洲熟女一区二区| 色播五月丁香| 中文字幕丰满子伦无码专区在线视频最新 | 亚洲无码?第一页| 久草草一二三四区久久| 欧美熟女操屄| 中文字幕免费在线观看| 久色网| 97免费在线观看| 伊人成人情色综合| 亚洲精品尤物yw在线影院| 狠狠做深爱婷婷久久二区| 黄色网址在线免费观看| 偷拍99| 无码免费一区二区三区啪啪| 精品免费一区| 一级黄碟在线观看| 午夜爽爽爽在线观看永久入口姬片| 中文字幕二区| 七久久久| 一区不卡在线观看av| 超碰69| 婷婷五月天成人网| a片在线播放| 亚拍在线| 亚洲高潮少妇| 精品毛片av一区二区| 国产少妇内射| 97精品国产97久久久久久户外免费| 乱性AV| 在线播放中文字幕| 久久久啊啊| 国产h片在线观看视频| 在线看污网站| 午夜欧美神马久久久久| 午夜福利成人免费视频| 99久久国产精品免费高潮| 后入式视频国产自| 91 在线亚洲| 日韩国产欧美伦理在线| 97神马久久| 97超视频在线观看| 人妻激情偷乱视频一区二区三区 | 久久有码| 26uuu欧美| 午夜福利av电影在线| 热热色91| 欧美日韩美女精品久草一区二区三区| 日本欧美韩国日产片片在线看免| 天天弄天天操| 加勒比综合网| 欧美亚洲韩国视频十五区| 中文字幕在线观看第二页| 亚洲女毛多水多21P| 尤物网站91| 欧美色图99| 精品美女少妇一区二区三区| 亚洲人妻一区二区三区| 国产激情av女片自拍| 精品日韩人妻精品一二三区| 日比av无码| 人妻天天爽| 91伊人影视综合| 丁香五月婷婷基地| 久久精视频美日韩在线视频| 婷婷av在线中文字幕| 欧美激情区| 国产视频97| 欧美天堂亚洲电影院一区在线播放| 欧美性天天影视| 国产又爽又黄| 日本视频在线观看污污污| 人人操人人爽人人操人人| 中文字幕乱亚洲美女精品一区| 少妇精品久久久八区九区| 操死我了嗯嗯嗯| 天堂资源欧美| 天美av在线观看| 熟女精品一区二区三区| 天天看,天天做| 99精品久久久久久久婷婷| 天天色,天天干,天天干| www.亚洲成人一区| 色综合av综合久久| 亚洲全色网| 99re超碰| 99在线精品视频| 99999国产| 超碰色97| 亚洲风情在线观看| 国产精品自拍视频| 少妇高潮九九九九| 啊啊啊爽爽| 好吊色综合| 五月丁香激情四射| 家庭乱伦麻豆| 立川理惠被中出无码 | 精品人妻一区二区三区视频| 久久天天躁日日躁狠狠躁| 中文字幕精品丝袜| 国产婷婷一区| 丝袜综合| 欧美男人亚洲天堂| 精品成人女人久久| 久操av在线| 蜜臀va69| 蜜臀久久99精品久久久久久婷婷 | 在线99热| 天天摸,夜夜摸| 99久久久无码| 97色97好| 国产99999久久精品| 欧美黑人168页欧美黑人167| 国产三级中文字幕粉嫩| 国产精品久久久亚洲第一牛牛_在线观看| 精品国产乱码久久久影院| 欧美人妻制服| 97无码视频在线播放| 色综合久久av| 中文字幕av亚洲在线| 任你艹| 96精品久久久久中文字幕| 国产美女激情| 91久热| 综合久久少妇中文字幕| 色操逼网| 大香蕉五月天婷婷| 国产精品九9| 日日噜噜夜夜久久亚洲一区二区| 欧美亚洲韩国视频十五区| 91精品老女人| 天天躁日日躁xxxxx| 欧美视频在线视频免费va| 欧美制服另类丝袜| 伊人精品国产| 亚洲一区二区三区婷婷| 天天谢天天干| 狠狠干婷婷| 97精品视频免费| 天天影视综合色| 国产一区二区成人av在线播放| 黄页视频网站野外| 精品久久久九九九孕妇| 大乔未久88一区| 亚洲有码视频二区| 日本高清_区二区三区| 91 手机在线播放 绯色| 欧美精品久久| 永久免费观看的毛片的网站| 亚洲国产午夜真人一级片中文字幕精品黄网站| 久久免费精彩视频| 亚洲性综合| 一区二区乱码福利| 国产热RE99久久6国产精品首| 精品久久久中文字幕不| 天天综合91入口| 天天操人人操狠狠插| 开心五月激情网| 亚洲精品黑丝| 绯色一区二区三区不卡少妇| 欧美综合区| 91爱看| 久久久性| 亚洲另类综合欧美| 成人情色综合网| 精品人妻av在线播放| 亚洲aw毛茸茸在线| 精品国产乱码久久久A| 日韩不卡毛片Av免费高清| 久久做97| 欧美欧美啪啪视频| 激情小说五月天| 99色热| 免费在线观看AV无码网站| 丰满精品人妻少妇久久字幕| 深夜福利黄片| 色欧美天天| 中文字幕乱妇免费视频| 激情久久久| 在线小说视频一区| 亚洲AV噜噜狠狠网址蜜桃动漫| 欧洲中文字幕| 最新亚洲黄色免费电影| 日韩天美| 欧美少妇色图| 亚洲18禁| 91黑丝在线| 午夜男人天堂| 97在线免费| 极品五月天噜噜| 色欧洲| 人妻激情另类| 天天噜| 亚洲AV无码天美传媒一区| 91人妻人人澡人人爽人人精品| www色色色com| 亚洲第一页色网| 99只有精品| 国产99999| 91网站18在线观看| 婷婷婷婷婷婷久久久久| AV一二区| 国产成人精品必看| 成熟熟女国产精品一区二区| 国产探花精品在线| 色悠久久久av| 99久久久无码国产精品性男| 精品丰满熟妇人妻一区| 99色色网| 91在线欧美| 欧美亚综合色图| 欧美人人曰人人操人人射射| 无码久| 睡产熟女乱伦| 97视频播放| 精品国产一区二区久久| 日本高清免费一本视频在线观看| 美女啪欧美一区| 伊人久久大香线蕉无码| 久9久9久9久9久9久9| 91操操| 精品无码一区二区三区色欲| 精品176精品2| 日韩丝袜二区| 97亚洲在线| 草蕉影视亚洲无码| 少妇干B| 久久啊啊| 日韩啪啪啪视频| 亚卅熟女乱色| 国内伊人久久久久久网站视频| 蜜臀人妻少妇久久在线观看| 美女午夜福利免费视频| 超碰色97| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 国产乱伦性爱区| 青青草在线视频美女| 91国产精品熟女| www.99中文字幕| 国产精品不卡少妇白| 久插综合| 日本岛国黄色网址| 黄色香蕉视频网站一区| 我想要啊 啊 啊| 人妻密肉在线观看| 人人看人人摸人人色| 久久久九九九| 日韩av电影网站| 亚洲欧洲美腿丝袜| 国产高清精品福利| 色色毛片| 精品丰满熟妇人妻一区| 欧美狠狠操| 婷婷六月色| 亚州操逼图| 日韩精品中文字幕人妻| 婷婷激情丁香| 神马久久啊啊| 国产欧美美女免费观看视频| 中国一区二区亚洲人妻| 日本韩国国产精品一区| 91N综合网| 人妻黑丝袜电影| 久久超碰亚洲人| 丁香五月天堂网| 精品国产www久久| 欧美日韩黄片精品在线| 日本色日夜干| 大色网久久| 爱妻综合网| 久久精品老司| 国产原创精品| 日韩三级一区 | xxx亚洲午夜天堂| 91碰碰碰| 日韩性爱网址| 亚洲最大成人a毛毛片| 国产乱伦视频污| 欧美国产婷婷久久| 天天摸天天操视频| 影音资源男人日韩| 一区二区三区成人| 久久綜合很很很| 日韩精品人妻系列无码天堂| 日本高清电影欧美色图| 97碰在线视频| 91粉嫩萝控精品福利网站_精品影音先锋国 | 亚洲精品男人的天堂| 免费精品福利在线观看| 免费啪啪一级视频| jk白丝没脱就开始啪啪| 操操逼视频| 国产无码高清操逼视频| 激情熟女12P| 你懂的在线观看区国产| 精品人妻一二三| 97碰| 国产女大学生AV| 欧美精品宗合| 五月婷亚洲精品天堂| 欧美亚洲情色| 亚洲一区二区在线观看91| 97欧美| 亚洲巨爆乳一区二区三区四季网| 久久老女人| 美日韩男女操屄视频| 色哟哟AⅤ| 69少妇一区二区| 国产女同视频在线播放| 视频在线观看免费一区二区三区| 久久久久久一日韩字幕无码| 亚洲激情综合另类男同| 91精品女厕偷拍视频| 91足交| 久热9| 超碰久久性爱| 台湾大香蕉99热| 丝袜狂射91| 日韩成人小视频| 久久人妻一区二区三区高清 |