亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

K8S Service實(shí)戰(zhàn)指南:從ClusterIP到LoadBalancer的坑與排查

K8S Service實(shí)戰(zhàn)指南:從ClusterIP到LoadBalancer的坑與排查 K8S里Service這東西表面上看就是給Pod提供一個(gè)穩(wěn)定的訪問入口真用起來才發(fā)現(xiàn)里面門道不少。從最簡單的ClusterIP到需要對接云廠商的LoadBalancer從寫YAML到排查Endpoints為空每一步都藏著細(xì)節(jié)。這篇總結(jié)我按自己平時(shí)排查問題的思路來寫不按官方文檔的順序背書重點(diǎn)放在你真正會(huì)踩到的坑和API字段背后的邏輯上。1. 為什么需要Service理解了這點(diǎn)后面的坑都好避剛接觸K8S的人經(jīng)常問一個(gè)問題Pod有IP我直接訪問Pod不就行了為什么非要搞個(gè)Service出來這個(gè)問題想清楚后面所有API字段的用途你基本都能自己推導(dǎo)出來。1.1 Pod的IP天生就不靠譜Pod的IP地址不是固定的。Deployment滾動(dòng)更新時(shí)舊的Pod被殺掉新的Pod被創(chuàng)建IP完全換了一輪。就算不滾動(dòng)更新Pod被驅(qū)逐、節(jié)點(diǎn)宕機(jī)、手動(dòng)刪除重建IP都會(huì)變。你不可能在應(yīng)用配置里寫死一個(gè)Pod的IP它今天能用明天就404了。更麻煩的是副本擴(kuò)容。一個(gè)Deployment起了三副本三個(gè)Pod各自有獨(dú)立IP客戶端要訪問哪個(gè)如果讓客戶端自己維護(hù)這三個(gè)IP的列表等于把負(fù)載均衡的邏輯踢給了調(diào)用方這在微服務(wù)架構(gòu)里根本不可行。Service正是為了解決這兩個(gè)核心問題而生的給一組動(dòng)態(tài)變化的Pod提供一個(gè)固定的虛擬IPClusterIP同時(shí)在這組Pod之間做負(fù)載均衡。從API設(shè)計(jì)的角度看Service本質(zhì)上是穩(wěn)定入口 動(dòng)態(tài)后端的抽象層。1.2 Service在K8S網(wǎng)絡(luò)架構(gòu)中的角色K8S集群里的網(wǎng)絡(luò)流量路徑大致是客戶端 - Service(ClusterIP) - kube-proxy規(guī)則 - Pod IP。Service對象本身不干活真正轉(zhuǎn)發(fā)流量的是每個(gè)節(jié)點(diǎn)上的kube-proxy組件現(xiàn)在也有其他實(shí)現(xiàn)但主流還是這個(gè)。kube-proxy通過監(jiān)聽API Server上Service和Endpoints的變化動(dòng)態(tài)維護(hù)節(jié)點(diǎn)上的轉(zhuǎn)發(fā)規(guī)則。你可以把Service理解成一個(gè)聲明Endpoints是它對應(yīng)的后端列表kube-proxy是把聲明落到實(shí)處的執(zhí)行者。這個(gè)三層分離的設(shè)計(jì)是理解Service所有行為的鑰匙Service的YAML寫得不完整kube-proxy就不知道該往哪兒轉(zhuǎn)發(fā)Endpoints沒生成Service就是一個(gè)空殼訪問它只會(huì)得到連接拒絕。我實(shí)際排查中遇到的所有Service不通的問題幾乎都能歸因到這三層中某一層出了問題。先檢查Service有沒有選到Pod再看Endpoints是否生成最后才懷疑kube-proxy這個(gè)排查順序能省下大量時(shí)間。2. Service API對象拆解核心字段逐個(gè)過K8S所有對象都是聲明式APIService也不例外。一個(gè)完整的Service定義包含apiVersion、kind、metadata、spec幾個(gè)部分最關(guān)鍵的是spec。我把核心字段按重要程度排個(gè)序每個(gè)都說說它的作用和容易出問題的細(xì)節(jié)。2.1 apiVersion和kind不能寫錯(cuò)Service的apiVersion是v1kind是Service這是最基礎(chǔ)的信息。有人會(huì)覺得這有什么好說的但我見過有人把a(bǔ)piVersion寫成apps/v1直接把創(chuàng)建請求打回來。這倆字段是API Server的路由信息告訴它你要?jiǎng)?chuàng)建什么類型的對象版本不對就是404。apiVersion: v1 kind: Service metadata: name: my-service namespace: default spec: selector: app: my-app ports: - port: 80 targetPort: 80802.2 metadata里容易被忽略的注意事項(xiàng)metadata里name是必填的并且在namespace內(nèi)必須唯一。namespace如果沒寫默認(rèn)就是default。這里有個(gè)實(shí)際開發(fā)中常見的坑如果你是用kubectl create -f方式創(chuàng)建YAML里沒寫namespace對象會(huì)進(jìn)default但你的Deployment可能部署在別的namespaceselector選不到Service就永遠(yuǎn)沒有Endpoints。另外metadata里可以加annotations有些云廠商的LoadBalancer類型Service會(huì)通過annotations來控制負(fù)載均衡器的具體行為比如是否分配公網(wǎng)IP、帶寬上限等。這塊每個(gè)云廠商的鍵名都不同用到的時(shí)候需要查對應(yīng)廠商的文檔。2.3 spec.selector決定后端Pod列表的關(guān)鍵spec.selector是Service和Pod之間的連接器。kube-proxy和API Server的Endpoints控制器會(huì)拿你的selector和集群里所有Pod的labels做匹配匹配上的PodIP會(huì)進(jìn)入Endpoints列表。這里有幾個(gè)關(guān)鍵點(diǎn)selector里的每個(gè)label都必須出現(xiàn)在Pod上是AND的關(guān)系多寫一個(gè)不存在的label直接導(dǎo)致選不到任何PodPod的labels是可以在運(yùn)行中修改的一旦修改導(dǎo)致不再匹配selector它的IP會(huì)立刻從Endpoints里被剔除已有連接會(huì)斷開。我在實(shí)際項(xiàng)目里踩過最深的坑是selector寫對了Pod labels看起來也對但就是選不上。最后發(fā)現(xiàn)原因是Pod所在的namespace和Service不一致Endpoints控制器只在同一個(gè)namespace內(nèi)做匹配。每個(gè)namespace是獨(dú)立的隔離域Service不能跨namespace選Pod。2.4 spec.ports端口映射的完整理解ports字段是數(shù)組可以配置多個(gè)端口。每個(gè)端口有三個(gè)核心配置項(xiàng)port、targetPort、protocol。portService對外暴露的端口ClusterIP上監(jiān)聽的端口客戶端訪問的就是這個(gè)端口。targetPort流量轉(zhuǎn)發(fā)到Pod時(shí)使用的端口。注意targetPort可以不填默認(rèn)等于port。如果Pod里的容器監(jiān)聽的是8080而你想讓Service的端口是80就得顯式寫targetPort: 8080。protocol協(xié)議類型支持TCP、UDP、SCTP默認(rèn)是TCP。UDP和TCP不能混用同一個(gè)Service端口不能同時(shí)監(jiān)聽TCP和UDP這是很多新手會(huì)犯的錯(cuò)誤。targetPort還有一個(gè)明細(xì)用法可以用命名端口named port。如果你的Pod定義了命名端口Service里可以直接引用名字好處是改端口號時(shí)不用改Service的YAML。舉個(gè)例子# Pod里的containerPort定義 spec: containers: - name: app ports: - name: http containerPort: 8080 # Service引用命名端口 spec: ports: - port: 80 targetPort: http2.5 spec.type一個(gè)字段決定四種工作模式type字段是Service最核心的行為開關(guān)支持ClusterIP、NodePort、LoadBalancer、ExternalName四種取值。默認(rèn)是ClusterIP。很多人在這一步就迷糊了不知道選哪種類型也不知道每種類型在實(shí)際環(huán)境中到底長什么樣。我的經(jīng)驗(yàn)是按流量來源來判斷。集群內(nèi)部訪問或者用于微服務(wù)間調(diào)用用ClusterIP就夠了這也是默認(rèn)選項(xiàng)。需要集群外部訪問但沒有現(xiàn)成的負(fù)載均衡器用NodePort在每個(gè)節(jié)點(diǎn)上開一個(gè)端口。部署在云平臺(tái)上需要自動(dòng)創(chuàng)建云負(fù)載均衡器用LoadBalancer。只是想給集群外部的服務(wù)做一個(gè)DNS別名用ExternalName它甚至不創(chuàng)建ClusterIP和Endpoints。3. 四種Service類型怎么選端到端配置實(shí)例這一節(jié)把每種類型都過一遍每個(gè)都給出完整配置和實(shí)際使用場景能直接抄作業(yè)。3.1 ClusterIP默認(rèn)也是用得最多的apiVersion: v1 kind: Service metadata: name: my-app-svc namespace: prod spec: type: ClusterIP selector: app: my-app env: prod ports: - name: http port: 80 targetPort: 8080 protocol: TCP這個(gè)Service創(chuàng)建后會(huì)分配一個(gè)ClusterIP比如10.96.88.88在集群內(nèi)部所有節(jié)點(diǎn)上都能通。訪問http://10.96.88.88:80kube-proxy會(huì)在選中的Pod里挑一個(gè)做轉(zhuǎn)發(fā)。注意幾個(gè)細(xì)節(jié)ClusterIP有默認(rèn)的IP范圍通常是10.96.0.0/12具體看你的kube-apiserver啟動(dòng)參數(shù)。如果你在配置里用了clusterIP: None這會(huì)讓Service變成headless service不分配ClusterIPDNS直接返回后端Pod的IP列表。headless service在需要直連Pod的場景比如數(shù)據(jù)庫主從或需要客戶端自己做負(fù)載均衡的場景下很有用。集群內(nèi)訪問Service通常不走ClusterIP而是走DNS。K8S內(nèi)置的DNS服務(wù)CoreDNS會(huì)自動(dòng)為Service生成DNS記錄格式是service-name.namespace.svc.cluster.local。同namespace下可以直接用Service名訪問跨namespace要帶上namespace名再拼完整域名。這也是微服務(wù)之間互相調(diào)用的標(biāo)準(zhǔn)方式。3.2 NodePort外部訪問的入門方案apiVersion: v1 kind: Service metadata: name: my-app-nodeport namespace: prod spec: type: NodePort selector: app: my-app env: prod ports: - port: 80 targetPort: 8080 nodePort: 30080NodePort是在ClusterIP基礎(chǔ)上在每個(gè)節(jié)點(diǎn)上額外開一個(gè)端口默認(rèn)范圍30000-32767。訪問方式變成http://任意節(jié)點(diǎn)IP:30080流量會(huì)從節(jié)點(diǎn)端口進(jìn)來轉(zhuǎn)發(fā)到ClusterIP再轉(zhuǎn)發(fā)到Pod。nodePort字段可以手動(dòng)指定也可以不寫讓K8S自動(dòng)分配一個(gè)空閑端口。手動(dòng)指定的好處是方便配置防火墻白名單和負(fù)載均衡器監(jiān)聽規(guī)則壞處是有可能被占用創(chuàng)建時(shí)API Server會(huì)檢查。使用NodePort有幾個(gè)實(shí)際注意點(diǎn)。節(jié)點(diǎn)IP得能從外部訪問到如果你有多套環(huán)境共用機(jī)器要規(guī)劃好端口別沖突。另外nodePort默認(rèn)范圍是可以調(diào)的在kube-apiserver啟動(dòng)參數(shù)里改--service-node-port-range但一般建議保持標(biāo)準(zhǔn)范圍避免外部設(shè)備不識(shí)別高位端口。NodePort適合什么場景本地開發(fā)、小規(guī)模集群、不想額外引入負(fù)載均衡器的場景。生產(chǎn)環(huán)境你要是直接用NodePort暴露到公網(wǎng)我見過不少但更常見的做法是NodePort配合外部的負(fù)載均衡器比如Nginx、HAProxy使用外部LB轉(zhuǎn)發(fā)到多個(gè)節(jié)點(diǎn)的NodePort。3.3 LoadBalancer云環(huán)境標(biāo)準(zhǔn)姿勢apiVersion: v1 kind: Service metadata: name: my-app-lb namespace: prod annotations: # 云廠商自定義的注解用于配置LB的具體參數(shù) # 具體鍵名因云廠商而異 spec: type: LoadBalancer selector: app: my-app env: prod ports: - port: 80 targetPort: 8080在云平臺(tái)上創(chuàng)建LoadBalancer類型的Service云廠商的控制器會(huì)自動(dòng)調(diào)用云API創(chuàng)建一個(gè)負(fù)載均衡實(shí)例并且自動(dòng)配置好監(jiān)聽器和后端轉(zhuǎn)發(fā)規(guī)則。你的應(yīng)用等于直接擁有了一個(gè)可以從公網(wǎng)訪問的入口。注意LoadBalancer其實(shí)是NodePort的超集它內(nèi)部仍然會(huì)分配nodePort云LB會(huì)綁定到節(jié)點(diǎn)的NodePort上而不是直接綁定Pod。這意味著每個(gè)負(fù)載均衡Service額外的nodePort也會(huì)被分配只是在HostPort層面占用。如果你的集群是自建的比如裸金屬部署的K8S沒有云廠商的控制器LoadBalancer類型創(chuàng)建完會(huì)一直卡在Pending狀態(tài)需要安裝MetalLB這類實(shí)現(xiàn)。LoadBalancer的一個(gè)重要限制是每個(gè)Service都會(huì)創(chuàng)建一個(gè)獨(dú)立負(fù)載均衡實(shí)例成本和時(shí)延都得考慮。多個(gè)服務(wù)更經(jīng)濟(jì)的方式是用Ingress一個(gè)入口轉(zhuǎn)發(fā)到多個(gè)Service那是另一個(gè)話題這里不展開。3.4 ExternalName特殊但偶爾很管用apiVersion: v1 kind: Service metadata: name: external-db namespace: prod spec: type: ExternalName externalName: db.example.comExternalName是一個(gè)輕量級Service它不創(chuàng)建ClusterIP也沒有Endpoints只是在CoreDNS里配置了一條CNAME記錄。當(dāng)你在集群內(nèi)訪問external-db.prod.svc.cluster.local時(shí)DNS解析會(huì)跳到db.example.com。它可以用來把外部服務(wù)的域名包裝成K8S內(nèi)部的Service名這樣應(yīng)用配置里不需要硬編碼外部域名改起來方便。也可以用來對接一些不在集群內(nèi)的舊系統(tǒng)或者做服務(wù)遷移時(shí)的兼容層。需要注意ExternalName只支持DNS解析如果你要訪問的外部服務(wù)需要走HTTP并有路徑路由的需求ExternalName可能不夠用需要自己再包一層代理。3.5 四種類型的選擇對照我用一張表總結(jié)了下四種類型的關(guān)鍵差異方便你選型時(shí)不糾結(jié)。類型是否分配ClusterIP是否支持集群外訪問典型場景注意事項(xiàng)ClusterIP是否集群內(nèi)微服務(wù)間調(diào)用默認(rèn)類型集群外不可直達(dá)NodePort是是通過節(jié)點(diǎn)IP端口簡單的外部訪問測試、小規(guī)模服務(wù)端口范圍30000-32767受節(jié)點(diǎn)IP可達(dá)性影響LoadBalancer是是通過云負(fù)載均衡器云上生產(chǎn)環(huán)境的公網(wǎng)入口依賴云廠商的控制器或MetalLBExternalName否取決于外部目標(biāo)訪問集群外部已有服務(wù)只做DNS CNAME無流量轉(zhuǎn)發(fā)能力選型思路就一句集群內(nèi)訪問用ClusterIP需要外部訪問但沒有云資源用NodePort云上有LB需求用LoadBalancer訪問外部服務(wù)用ExternalName。4. 實(shí)操全流程從編寫YAML到調(diào)試驗(yàn)證理論說完了實(shí)際動(dòng)手的時(shí)候你得有一套標(biāo)準(zhǔn)的操作流程。一個(gè)Service從無到有到驗(yàn)證通過整個(gè)流程包含四步確認(rèn)后端Pod running、編寫Service YAML、創(chuàng)建Service并檢查Endpoints、實(shí)際驗(yàn)證訪問。4.1 確認(rèn)后端Pod的狀態(tài)和labelsService不是憑空出現(xiàn)的它的selector必須能匹配到Pod所以第一步是確認(rèn)Deployment或者Pod已經(jīng)正常運(yùn)行并且labels是你預(yù)期的那一套。# 查看命名空間下所有Pod及其labels kubectl -n prod get pods --show-labels輸出里會(huì)顯示每Pod的labels比如appmy-app,envprod。檢查labels時(shí)不要漏看HEAD部分有的Pod創(chuàng)建時(shí)label很多你只摘出自己需要的兩三對來匹配就行。還有人可能遇到這種情況Pod狀態(tài)顯示Running但通過Service訪問時(shí)一直超時(shí)。排查一圈發(fā)現(xiàn)Pod起來了但容器里的進(jìn)程根本沒監(jiān)聽targetPort。Service能配置對Pod能匹配到但轉(zhuǎn)發(fā)后沒用因?yàn)榻】禉z查只到容器層面沒到端口層面。做個(gè)端口連通性測試很有必要。# 進(jìn)入集群內(nèi)一個(gè)Pod測試后端端口是否真正可用 kubectl -n prod exec -it any-pod -- curl http://某個(gè)Pod的IP:80804.2 編寫Service YAML的通用模板我習(xí)慣用模板來避免因?yàn)楣P誤出問題。一份最通用的Service YAML長這樣apiVersion: v1 kind: Service metadata: name: app-svc namespace: prod labels: app: app-svc spec: type: ClusterIP selector: app: my-app env: prod ports: - name: http port: 80 # Service暴露的端口 protocol: TCP targetPort: 8080 # 必須與容器實(shí)際監(jiān)聽端口一致 # 如果需要外部訪問按需調(diào)整type和對應(yīng)配置保存為svc.yaml后執(zhí)行kubectl apply -f svc.yamlapply是聲明式的如果Service已存在則更新如果不存在則創(chuàng)建。用kubectl create也可以但它要求目標(biāo)對象當(dāng)前不存在在CI/CD腳本里我個(gè)人更推薦apply。4.3 創(chuàng)建后的驗(yàn)證三部曲創(chuàng)建完Service不能直接走人至少做三件事驗(yàn)證。第一步看Service基本信息kubectl -n prod get svc app-svc -o wide重點(diǎn)關(guān)注EXTERNAL-IP列和PORT(S)列。ClusterIP類型的EXTERNAL-IP是None這正常。LoadBalancer類型如果EXTERNAL-IP一直Pending就要檢查云廠商控制器是否正常。第二步檢查Endpointskubectl -n prod get endpoints app-svcEndpoints列表有IP說明Selector正確選了Pod。如果顯示none說明后端沒匹配上優(yōu)先檢查namespace和labels。這里我要強(qiáng)調(diào)一下Endpoints對象是Service的實(shí)際后端狀態(tài)它是由Endpoints控制器根據(jù)Selector自動(dòng)生成的不要手動(dòng)去改Endpoints雖然有API但改了會(huì)被控制器回填。第三步做實(shí)際的連通性測試。在集群內(nèi)任意節(jié)點(diǎn)或Pod里測試# 從集群內(nèi)Pod訪問Service kubectl -n prod exec -it any-pod -- curl http://app-svc.prod.svc.cluster.local如果用的是NodePort在節(jié)點(diǎn)上直接測curl http://nodeIP:30080三步走完Service通了基本就是真通了。4.4 會(huì)話保持配置的細(xì)節(jié)Stateful應(yīng)用需要同一客戶端的請求都落到同一Pod上這就是會(huì)話保持。Service層面通過spec.sessionAffinity字段控制支持None和ClientIP兩種。spec: sessionAffinity: ClientIP sessionAffinityConfig: clientIP: timeoutSeconds: 10800配置成ClientIP后kube-proxy會(huì)根據(jù)客戶端來源IP做哈希同一個(gè)IP的請求會(huì)盡量轉(zhuǎn)發(fā)到同一個(gè)Pod。timeoutSeconds控制會(huì)話保持的超時(shí)時(shí)間默認(rèn)10800秒即3小時(shí)。這里有個(gè)明顯的副作用需要意識(shí)到如果你在集群外部前面還有一層負(fù)載均衡器做NAT或者代理所有客戶端IP都變成LB的IP那會(huì)話保持就會(huì)失效所有流量都哈希到同一個(gè)Pod上完全喪失負(fù)載均衡能力。解決方案是用Ingress層的會(huì)話保持或應(yīng)用層Session而不要依賴Service的ClientIP。5. 常見問題與排查技巧實(shí)錄Service問題排查是我日常工作中遇到頻率最高的。把所有遇到過的坑整理了一下按從最常見到最隱蔽排個(gè)序。5.1 Endpoints為空最經(jīng)典的問題癥狀Service創(chuàng)建了訪問不通kubectl get endpoints顯示none。排查步驟確認(rèn)Service和Pod在同一namespace。確認(rèn)selector的labels和Pod的labels完全匹配注意有沒有拼寫錯(cuò)誤、額外的空格、key和value的格式問題。確認(rèn)Pod確實(shí)處于Running狀態(tài)。容器一直CrashLoopBackOff的話Pod可能被重建IP在變Selector匹配上也沒用。檢查Pod是否被調(diào)度到不可達(dá)的節(jié)點(diǎn)上。某些情況下節(jié)點(diǎn)網(wǎng)絡(luò)異常Pod能跑但網(wǎng)絡(luò)不通Endpoints存在但流量到不了。如果以上的沒問題看eventkubectl -n prod describe svc app-svc大部分問題出在第二步我遇到80%的Endpoints為空都是labels寫錯(cuò)或者namespace不一致。5.2 端口配置錯(cuò)誤導(dǎo)致的“可以解析但無法連接”癥狀DNS解析能拿到Service名但請求超時(shí)或connection refused。這種情況先確認(rèn)targetPort。我見過有人把targetPort寫成8080但容器真正監(jiān)聽的是5000流量轉(zhuǎn)過去直接被拒絕。用kubectl -n prod get endpoints app-svc -o yaml查看Endpoints的port字段確認(rèn)和容器實(shí)際監(jiān)聽端口一致。還有一個(gè)容易忽略的點(diǎn)多容器的Pod。一個(gè)Pod里有多個(gè)容器時(shí)targetPort如果不指定容器名kube-proxy會(huì)把流量都轉(zhuǎn)發(fā)到Pod的第一個(gè)容器端口如果你期望轉(zhuǎn)到第二個(gè)容器比如sidecar容器就得使用命名端口并在Pod定義里明確命名不同容器端口。5.3 NodePort類型端口沖突或不可達(dá)癥狀NodePort類型Service創(chuàng)建成功但外部節(jié)點(diǎn)IP端口訪問不了。常見原因有三個(gè)節(jié)點(diǎn)的防火墻/安全組沒放行nodePort范圍。這是最常見的需要檢查云安全組或iptables規(guī)則。訪問的不是運(yùn)行中Pod所在的節(jié)點(diǎn)但NodePort類型是全節(jié)點(diǎn)監(jiān)聽的理論上訪問任意節(jié)點(diǎn)都通。如果只有特定節(jié)點(diǎn)不通檢查那個(gè)節(jié)點(diǎn)的kube-proxy是否正常運(yùn)行。nodePort端口范圍被修改過而客戶端訪問的是默認(rèn)范圍。確認(rèn)服務(wù)實(shí)際分配的端口用kubectl get svc看PORT(S)列最保險(xiǎn)。5.4 會(huì)話保持失效的分布不均問題癥狀配置了sessionAffinity: ClientIP后流量還是分散到不同的Pod。這個(gè)我前面提過如果上游有代理做NAT源IP被隱藏了所有客戶端看起來都是一個(gè)IP哈希就全指向同一個(gè)Pod這會(huì)導(dǎo)致某個(gè)Pod負(fù)載過高??梢詮娜肟诩覺-Forwarded-For并讓Service層識(shí)別但實(shí)際更常用的方案是在應(yīng)用層實(shí)現(xiàn)會(huì)話保持。5.5 LoadBalancer一直Pending癥狀LoadBalancer類型Service創(chuàng)建后EXTERNAL-IP一直顯示Pending。自建集群沒有云廠商的負(fù)載均衡控制器或者云廠商controller-manager異常都會(huì)導(dǎo)致這個(gè)問題??碿loud-provider組件日志能定位。如果是裸金屬集群可以考慮部署MetalLB來提供load balancer的實(shí)現(xiàn)它通過BGP或Layer2模式把NodePort或Pod IP廣播給外部網(wǎng)絡(luò)。5.6 UDP端口超時(shí)和丟包面向UDP的Service排查起來比TCP麻煩得多因?yàn)閁DP沒有握手和連接狀態(tài)丟包了你很難定位。kube-proxy的負(fù)載均衡是基于conntrack的UDP同樣會(huì)被跟蹤但某些場景下conntrack表項(xiàng)老化過快導(dǎo)致UDP包頻繁被分到不同后端造成服務(wù)異常。如果業(yè)務(wù)是UDP且對后端一致性有要求建議對UDP Service關(guān)閉會(huì)話保持相關(guān)配置或者用headless service讓客戶端直接連后端做應(yīng)用層處理。5.7 問題速查表癥狀優(yōu)先排查項(xiàng)次要排查項(xiàng)Endpoints為空selector與labels不匹配namespace不一致、Pod未RunningService DNS可以解析但連接超時(shí)targetPort是否正確Pod容器端口是否真正監(jiān)聽NodePort外部訪問不通安全組/防火墻放行kube-proxy狀態(tài)、端口范圍LoadBalancer一直Pending云廠商控制器狀態(tài)自建集群缺少LB實(shí)現(xiàn)會(huì)話保持不生效上游代理是否做NAT超時(shí)時(shí)間配置UDP服務(wù)偶發(fā)失敗conntrack表狀態(tài)后端Pod是否有UDP監(jiān)聽6. 一些寫在最后的實(shí)操體會(huì)Service看起來簡單但它連接了K8S的多個(gè)核心組件API Server存儲(chǔ)聲明狀態(tài)Endpoints控制器維護(hù)后端列表kube-proxy把規(guī)則下發(fā)到每個(gè)節(jié)點(diǎn)DNS服務(wù)提供域名解析。任何一個(gè)環(huán)節(jié)出問題表現(xiàn)都是Service不通但定位路徑完全不同。我的個(gè)人習(xí)慣是任何Service變更都遵循先確認(rèn)后端Pod再確認(rèn)selector再確認(rèn)端口最后看訪問的順序。遇到通一下不通一下的詭異問題優(yōu)先檢查網(wǎng)絡(luò)層kube-proxy日志、節(jié)點(diǎn)網(wǎng)絡(luò)插件狀態(tài)而不是反復(fù)盯著YAML文件看。YAML寫錯(cuò)會(huì)立刻暴露網(wǎng)絡(luò)問題才是AM隱性的。最后分享一個(gè)小技巧。調(diào)試Service時(shí)別只依賴kubectl get svc多看看kubectl get endpoints和kubectl describe svc。Endpoints是后端真實(shí)狀態(tài)的照妖鏡它有沒有IP一眼就能看出來selector是否匹配成功。比跑到節(jié)點(diǎn)上抓包快得多。掌握這個(gè)習(xí)慣后你會(huì)發(fā)現(xiàn)Service排查的效率能提高一大截。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
诱惑网综合| 91蜜臀在线久久久久| 麻豆熟妇乱妇熟色A片在线看| 久久婷婷在线观看视频| 亚洲成人久久美女| 欧美一区二区观看在线| 在线观看免费视频国产| 白嫩少妇| 欧美伊人电影| 欧美亚洲综合999| 怡红院怡春院| 综合网欧美在线| 久久精品亚洲成a人天堂| 天天视频黄| 国产欧美黑人丰满在线| 亚洲AV在线资源| 屌妞视频久久久久久久| 大香网伊人久久综合网eew| 不卡在线一区,精品一区二区三区中| 日本三级一区二区 在线| 91天天综合日韩欧美| 日本中文字幕一区| 亚洲999综合| 久久免费中文字幕在线观看| 色综合99| 不卡九肏| 亚洲视频,小说| 亚洲日产专区| 国产精品久久久视频| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 青青伊人加勒比海| 日韩精品三级片长长久久| 无码欧美有限公司| 天天日熟妇| 日韩淫色网| 噜噜噜亚洲精品| 日韩天天本| 成人片视频| 91天美传媒在线观看| 99999精品成人| 校园春色之综合网| 69人妻精品丰满熟女区| 亚码人妻| 都市久久精品激情亚洲| 五月婷婷六月丁香网址| 中文字幕交换人妻| 国产成人精品日本视频| 超碰在线国产| 国产成自自拍在线观看| 激情五月天校园春色网| 日韩欧美加勒比| 草莓精品视频在线免费观看| 久热香蕉精品在线视频| 激情婷婷| 色狠人在线99| 人妻天天爽夜夜爽2| 日韩欧美蜜桃精品久久中文字幕久久 | 久久熟女久| 99rre在线精品99re8| 久热热| 97在线视频观看| 一级二级三级黑人无码| 九九综合色| 亚洲欧美一区二区三区在钱蜜桃| 亚州成人A√| 嫩草影院永久在线制服丝袜| 熟女人妻精品一区二区视频| 亚洲最新av无码成人精品区| 色色色热| 岛国999| 9精品久久久久| 成 人 A V免费视频在线观看| 国产特级毛片AAAAAA高潮流水 | 午夜免费福利视频一区| 搡老女人老妇女老妇老熟女怎么读| 91新在线欧美| 麻豆视频国产一区二区| 男人天堂一区二区| 伦理日韩国产久久| 乱伦熟妇一区二区| 日韩AV片| 中出20p| 国产精品白丝在线播放| 暖暖精品二区三区观看| 亚洲 欧美 日本 国内 首页| 综合欧美日韩在线观看| 嗯嗯啊啊操死我| 九九九只有精品| 蜜臀久久99精品久久久| 天天流夜夜操| 亚州五月| 97摸视频| 麻豆天天躁天天揉揉AV| 成人一级性爱| 熟妇最新先锋一二三区| 亚洲国产av中文字幕久久| 色999五月色| 一级黄碟| 中文字幕日韩人妻视频一区二区三区| 激情欧美日韩女同久久| 亚洲另类天堂| 国产高清1234区| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 插穴性爱视频在线观看| 牛牛久久国产精品视频一二三| 欧亚第一综合网| 国产97/欧美| 天天干天天日天天射黄色| 欧美大香蕉专区网| AA级电影三区| 亚洲欧美日韩免费电影| 久久女人一区二区三区| 好吊妞转入那个网| 婷婷丁香五月激情啪啪| 国产精品一级毛片不卡视| 免费观看国产不卡av| 国产欧美岛国精品一区| 午夜福利免费精品视频| www网站黄| 成人综合色网| 男人精品天堂一区| 欧综合网| 2018天天干在线视频| 亚洲成人久久美女| 色狠狠综合噜一二三区| 1204金沙人妻懂旧版免费| 在线啊啊啊| 日本成熟少妇A∨网站| 成人八戒网站| 九九热精品免费视频| 伦理日韩国产久久| 国产女大学生AV| 嫖老熟女A片一二三区| 96AV精品| 超碰97COm中文| 涩涩这里只有精品视频| 香一区二区三区| 麻豆一区二区三区在线看| 岛国色情视频在线观看| 极品色社| 色妇综合网| 久久‘黄片视频| 超碰日韩美妻| 囯产精品久久久久久久久久二区三区| 久久精品日韩专区免费观看| 国产精品国产自产高清AV| 久久综合婷婷| A男人的天堂| 久久色人体| JuliaAnn丝袜熟女系列| 97二区四区| 久久久久亚洲三级电影| www被窝色com| 操b在线观看| 亚洲最新中文字幕免费| 蜜桃久久久久久久| 九九色图| 欧美大片天天看| 亚洲国产成人精品999| 曰本91情色| 91在线丝袜| 搡老女人老91二区| 国产超碰欧美| 亚州伊人色综台| 久久久久密| 天天影视综合色| 日比av无码| 亚洲影院无码在线| 国产白领连续中出在线观看| 91美女国产在线| 91久久久久久久久18| 久久久久久久97| 亚洲欧美不卡线| 欧美亚洲第1页| 亚洲日韩美女丝袜美腿人妻视频| 国产91久久九九免费精品无码| 人妻黑丝袜电影| a片偷拍视频| 丰满人妻一区二区三区在线| 天天草天天日| 亚洲网自拍| 欧成人精品H无码| 大香蕉在线视频15| 日日干天天干夜夜爽| 宅男91视频在线播放| 欧美97色| 97色论| 中文字幕丰满子伦无码专区在线视频最新 | 久久性爱视频免费看| 伊人AAA| 蜜臀一区二区三区在线| 欧美老妇女内射网址| 99自拍B亚洲 | 亚洲人妻五月丁香婷婷| 天天影视色香色欲| 99久久精品无码一区二区毛片免费 | 97精品国产97久久久久久| 亚欧成人一级片在线播放| 日本丝袜美腿人妻九九| 超碰人人干| 亚洲中文sv| 99激情视频| 性爱视频免费网址| 日韩有码回春沙龙第一页| 99热只有这里有精品| 亚洲色阁| 大香蕉男人的天堂| 亚洲激情综合| 床上啊啊啊一区二区三区| 色97干| 日本不卡免费二区| 日韩精品第3页| 久99久视频精选| 深田咏美亚洲精品福利社| 久久 国产 无码| 国产成人精品网站| 日韩中文字幕国产| 草B在线| 欧美性性性| 亚洲色婷婷久久久综合日本| 永久电影三级在线观看| 色就色综合| 国产精品久久久久久久黄无码| 国产a级午夜毛片| 色色色色色色色色色色色色色色综合| 成人AV素股で擦久久| 蜜臀99999| 欧美成人贴图| 乱伦1色页| 激情久久久| 精产国品一区二三产品| 欧美操逼录像国产黄色国产| 亚洲超碰97| 亚洲欧美综合区自拍另类| 蜜臀av在线播放一区二区三区| 97人人爱人人做人人乐| 91久| 伊人五月天激情| 啊啊啊好湿久久| 国产熟女精品区| 激情久久久| 欧美同性恋 的搜索结果 - 91n| caoni国产亚洲av| 免费黄色A片| 日本中文字幕在线视频| 欧美精品偷拍| 最近二区三区视频大全 | 一区二区播放| 中文字幕奈奈美被公侵犯| 男人天堂一区二区| 偷拍亚洲情色| 亚洲经典啪啪| 校园春色亚洲色图| 静品嫩模一区二区| 少妇高潮九九九九九九九| 日本欧美韩国国产在线| 国产精品经典一卡久久久| av网站在线看| 欧美日不卡| 久操精品| 国产天天骚| 日韩欧美操逼xxx| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚| 欧美91在线| 日韩天堂av电影在线观看| 视频一区二区免费在线| 秋霞男人网| 免费a级毛片av无码久久精品中文字幕| 天堂日本亚洲欧美| 草草影院最新网址| 国产精品另类一区大香蕉| 色婷婷影院| 999久久久| 丝袜av一区二区三区| 婬女免费一二三区A片| 无码粉嫩白虎一线天b区| 91欧洲国产成人久久精品网站| 综合网欧| www.大香| 97这里有精品| 校园春色 男人天堂 | 日韩美女久久一区二区三区| 欧美三级不卡| 欧美激情亚洲| 久久成年片色大黄全免费网站| 国产午夜福利专区综合| 天天看片麻豆| 91人妻中文| 欧美日韩人妻少妇 一区二区三区| 蜜桃精品一区二区三区ww| 超碰在线免费一区二区三区| 91色伦| 国产精品高潮久久久无码| 婷婷人妻激情| 久久九操在线观看| 1区2区3区中文字幕日韩| 成人国产视频在线观看| 日本亚欧爱爱| 国产美女精品| 天天日日本| 成人五月香网在线| 成人午夜小视频手机在线看| 欧美不卡在线一区二区| 九七超碰| 国产午夜精品理论片a大结局| 日韩天天综合| 怡红院久久老司机| 蜜区区视频79 | 欧美洲精品一级| 97资源欧美| 日本天堂网| 日韩内射视频| 久久综合精品一区二区三区| 久久发布国产伦子伦精品| 97干日韩| 91色五月俺来也| AV老汉| 欧美伦乱爱| 91精品久久久久久77777| 天天影视网色欲色香| av资源在线观看少妇| 亚洲图片日本AⅤ欧美在线| 91男女| 日本高清_区二区三区| 神马影院午夜福利久久久| 日本天天操| 欧美亚洲韩国视频十五区 | 岛国精品视频在线观看| 超97在线精品视频| 欧美最大综合网| 殴美大黄片| 国产成人五月天丁香花| 欧美精品 - 91爱爱| 亚洲最新中文字幕免费| 91亚洲网| 亚洲情色无码一区二区三区| 日本美女性生活久久久久久久| 国产家庭乱伦表演| 熟妇高潮二区三区| 91女人的网站| 在线观看国产黄色| 日韩激情无码影院| 蜜桃AV天堂| 极品五月天噜噜| 国产操伦| 97精品网| 欧美图片色五月天| 91丝袜激情在线| www成人啪啪18秘 免费| 婷婷伊人五月| 99久在线精品99re8蜜桃| 97精品97| 白丝AV网站| 日本伦乱九九九综合| 亚洲综合 欧美| 肥臀熟女福利视频一区二区| 99视频自拍| 亚洲av综合色区图片亚洲| 超碰人妻久久| 蜜臀va69| 97久操| 国产传媒美日韩av| 九九黄色网| 日本一级二级三级网站| 91搞逼视频| 国产又粗又长又大的视频| 男人久久精品| 国产亚卅97| 欧美大香蕉在线观看| 国产一区二区视频在线播放| 国产网红精品| 最新三级网址| 亚洲成人在线高清| 91色人妻| 中文字幕高清精品一区| av毛片aaaaa免费看| 欧洲精品二区| 九九热精品视频六| 91亚洲图片| 国产91丝袜在线播放蜜月| 久久天天躁日日躁狠狠躁| 97国产色综合| 精品久久久中文字幕不| 欧美日日夜夜| 色色综合97| 欧美色一二三| 操淫穴亚洲五月丁香| 亚精品无码毛片一区二区三区| 超碰性爱97| 青青草国产亚洲精品久久| 欧美老熟另类| 国精综合一二三区影视| 大乔未久88一区| 色阁阁AV综合网| 伊人久久亚洲色欲综合网站 | 亚洲成人精品在线一区| 久久性爱视频99| 黄视频免费| 色官网色综合| 六月婷婷综合| 久久久久密| 久久成年精品| 乱色老一区二区三区的观看方式 | 精品久久久久久无码| 97人人夜夜精品视频| 最新岛国大片| 香蕉婷婷| 亚洲综合有码| 欧美日韩中文字幕人妻| 亚洲高清无毛一区二区| 午夜精品探花| 性色avv| 亚洲黄色网址| 91欧美经典| 国产辣妈在线视频福利| 国产呦精品一区二区三区下载| 激情色播| AV99热18这里只有精品| 亚洲国产综合图区中文字幕| 一类无码操逼视频| 婷婷五月天福利| 少妇天堂网络| 91天堂| 久久久久久亚洲Av无码| 国产 v乱码一区二| 亚洲97P| 欧美丝袜亚洲| 亚洲国产精品9999在线观看| 密桃99999| 亚洲诱惑| 午夜性生活av免费在线看| 夜夜天天噜狠狠爱2021| 美女露胸露奶头| 乱色老一区二区三区的观看方式| 91av熟女人妻| 91五月天| 国产精品粉嫩福利在线| 自拍偷拍国产欧美日韩韩| 99热99色| a片亚洲一本通视频| 一区二区三区国产在线播放| www色色色com| 人人妻天天做天天爽| 97久久久| 欧美乱色| 狠狠爱大香蕉| 日本护士高潮| 操老熟女AV| 手机看片日韩人妻| 久久超碰爱| 97人人夜| 91日本在线观看| 少妇色综合| 啪啪啪精品| 亚洲精品97在线| 农村妇女精品一二区| 91精品国产高清久久久久久,亚洲成人 | 亚洲情色一区三区| 亚洲影院成人| 久久手机视直播| 9118禁| 久久久久久午夜男人的天堂| 国产蜜臀精品一区二区尤物| 婷婷六月色开| 超碰97COm中文| 中文激情网| 久久有码视频| 午夜精品视频777| 免费男人的天堂| 天天天天天干夜夜夜夜夜操| 欧美亚洲清纯| 亚洲男人bt天堂| 久久久久久久9| 日韩人妻操B| 91精片| 色狠狠综合噜一二三区| 中文字幕日韩电影人妻| 精品人妻一区二区乱码一区二区| 欧美精品成人在线播放| 九九热午夜欧亚国产视频| A片三级无码| 日韩成人小视频| 婷婷五月天激情网| 日韩激情电影中文字幕| 欧亚日韩三区| 久久人人爽人人爽人人片Ⅴ| 色综合大香蕉| 久草视频制服诱惑| 操逼片国产| 很很操在线| 91丝袜美女| 強姦亂倫a| 国产熟女二区| 中文字幕 码精品视频网站| 九九九九9999| 久久久专区| 99色在线观看| ji熟女.com| 久草老司机| 日韩久久三区| 亚洲中文字幕久久人妻| 男人的天堂久久| 美日韩一卡二卡三卡免费人妻精品| 亚洲av无码国产精品字幕| 97bbn| 骚逼高潮久久精品| 上海一级黄片| 99国产精品| 91N综合网在线| 久久久com| 91高清无码下载| 女人久久久| 动漫av中文| 男人兔费天堂| 粉嫩不卡一区二区性爱| 免费岛国一级片| 白嫩妹子国产骚| 亚洲综合图文| 日本三级韩三级99久久| 国产区性爱在线视频秋霞豆 | 无码人妻一区二区一牛影视| 欧美人妻久久精品二区三区| 亚洲成a人v欧美综合天堂下载| 9久精品视频在线观看| 欧美色五月| 国产理论视频在线播放| 精品无码久久久久久久久果冻糖心| 日本高清加勒比| 日韩内射视频| 2020中文字幕| 久操热线| 日韩激情啪啪| 艹精品| 一级性爱视频免费观看 | 四虎国产精品永久在线囯在线| 成人精品水蜜桃久久久久久久| 精品久久久久9999| 亚洲色图在线视频| 天天日天天舔天天喷天天射| 手机在线看片免费人成视频| 精品午夜福利国产一区二区在线观看| 亚洲欧美另类激情小说| 草草草草视频| 97天天| 色网亚洲人| 无码人妻系列少妇| 职场同事知名国产国产精品久久欧美日韩| 麻豆性爱视频在线播放| 欧美亚洲丝袜美女电影| 欧美日韩免费专区在线| oumeisetu综合| 六月丁香网| 九九AV| 久久怡红院| 91丨九色丨熟女高潮| 午夜黄色免费在线观看| 久久亚洲精品成人av| 国产AV无码AV| 日本国产成人亚洲精品无码| 亚洲激情av| 色5月婷婷| 五月天色五月| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 国产精品干干干| 国产女人高潮嗷嗷嗷叫小说 | 亚洲情色一区三区| 亚州综合AⅤ| 一区二区视频你懂的| 超碰天天操| 98福利在线视频| 久久久国产护士丝袜美腿一| 又黄又硬又粗又长国产视频| 九九热国产| 一二三区操逼国产91| 日本性爱视频一级| 3d成人精品一区二区| 久久一区二区三区入口| 黄污污污污| 一区二区三区日韩欧美 | 五月丁香亭亭| 大香蕉欧美伊| 激情四射婷婷六月天| 蜜屁av| 成人免费性爱视视| 一起草日韩| 五月丁香激情综合| 国产夜夜艹| 亚洲色图 图片| 91热| 免费一级精品啪啪视频| 日韩另类| 亚洲第一色页夜| 男人天堂无码| A片大香蕉在线| 欧美日韩操操操| 日本熟妇一区二区三区| 天天综合网1| 日本欧美不卡| 日本免费中文字幕在线| 久久性爱视频| 嗯嗯啊啊的视频| 91夜色| 久久久久亚洲Aⅴ无码| 欧美日韩m| 亚洲se电影| 色综合国产在线观看| 9久久精品| 日韩78m视频| 91bbb| 欧美,日韩,亚洲视频| 国产性感骚丝袜在线| 91美女视频。| 天天操夜夜嗨| 96AV久久久| 九九九精品美女| 免费公开人人操| 偷看洗澡一二三区美女| 久久一二区四| 美女性91| 国产成人无码网站在线视频| 精品无码人妻一区二区免费蜜桃| 久久久九九九| 中文字幕在线播放2中文字幕在线观看2| 久久啊啊啊视频| 日韩综合无码一区久久92| 色99视频| 亚洲综合色图欧美| 亚洲最大AV网| 天天日美女的B| 成人AV超碰免费在线| 男人亚洲91首页在线| 加勒比无码毛片| 久久久久国产精品喷潮免费观看臀| 欧美九九99久久精品| 久久无码精品| www.婷婷| 东京热双插| 五月花婷婷| 麻豆AV一区二区天美传媒| 国产精品自在自拍视频| 天天干人妻| 丰满岳乱妇一区二区三区| 2019天天操天天爽天天拍| 国产老太乱伦一区| ,国产乱人伦精品一区二区三区| 欧成人精品一区二区三区| 亚卅熟女乱色| 超碰色大香蕉| 又大又白奶子| 久久大黄片| 肉丝网站91| 午夜视频久久久久一区| 四虎免费看黄| 国产操操日韩三级黄| 国产后入内射| 国产67194| 大香蕉综合网| 欧色综合| 国产熟女完整版中字 | 97啪啪| 天天久久| 玖玖综合色| 在线色导航| 五十路熟女,国产欧美精品区一区二区三区 | 男人的天堂2010| 日本操逼无码| 国产青视频| 久久精品国产亚洲AV片多多| 97在线观看视频| 五月天综合网| 最新av中文字幕高清| 色制服丝袜夫妻av一区| 久久久成人国产精品无码| 国产激情在线| 亚洲国产一级中文综合久久天堂在线免费观看| 欧美性爱免费短视频| 四虎精品一区| 天天影视网综合少妇| 国产大陆天天艹| 超碰97人妻免费在线| 97这里都是精品| 伊人五月天激情| 91亚洲欧洲| yy少妇精品久久| 色优久久| 亚洲国产欧美另类自拍| 久久精品无码一区二区三区| 99xav| 九九色逼| 天天干干天天干干| 人人妻人人澡人人爽久久av| 妇人噜噜| 久久久久13| 五月天丁香婷婷综合网站| 不卡日本一区二区| 日韩中文9| 欧美18禁91| 超碰91在线| 欧美午夜视频免费观看| 日韩无码一区二区三区| 人妻少妇久久| 75大香蕉| 内射白嫩美女| 97综合在线| 激情国产乱伦Av| 亚洲自拍偷拍视频在线| 96超碰网| 国产热av| 极品后入免费视频| 99.色网| 婷婷五月色| 黄色网址在线免费观看| 欧美一二三级精品在线| 亚洲天堂欧美| 96超碰网| 蜜桃传媒视频第一区入口在线看| 久久草视频污视频| 内射黑人| 欧美天天谢综合网| 美女露胸露屁股| 色九九综合| 国产92麻豆天美精品色欲5| 国产操逼视频在线观看| 国产女大学生AV| 91欧美经典| 青青草原av| 18禁久久| 啊啊在线| 欧美韩日精品99综合| 天天情欲宗合网| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 欧美亚州综合网图片| 99热99re6国产在线播放| 亚州熟妇精品| 久久精品人妻一区二区| 国产精品视频在线播放| 九九九影院| 熟妇精品juliaannAV| 天天做天天爱天天爽AV| 91麻豆天美国产| 五月婷婷hd| 亚洲欧洲色情高清| 久久久九九九九| 囯产精品强| 人妻天天爽夜夜爽2| 国产精品97超碰| 日韩无码人妻中字久久三区四区| 日韩精品资源| 中文字幕精品码亚洲| 亚洲人妻久久| 摸奶性爱视频网站在线免费播放| 久久久精品电影| 一级性爱啪啪视频| 亚洲图片欧洲图片aⅴ| 国产 三级自拍| 天天日天天操心| 久9久| 后入式视频国产自| 99999亚洲另类| 国产精品久久| 免费αV在线视频| 美國A片| 亚洲高潮少妇| 一牛一区二区三区久久| 日韩丨制服丨中文|在线| 最新制服中文第一页| 探花视频免费观看国产专区| 欧美一级特黄淫片在线观看| 色婷婷亚洲婷婷| 亚洲人成色9999精品久久| 日韩传媒在线| 伊人欧美大香蕉视频| 999综合网| 亚洲第一狼人丝袜美女另类| 91精品91久久久中77777| 嗯嗯啊啊啊好舒服| 97在线欧| 尹人免费观看视频在线| 国产成人精品日本亚洲语言| 99啪| 欧美人妖内射| AV和黑人在线播放| 亚洲丝袜二区| 啊啊啊啊啊啊啊在线| 亚洲Av无码成人精品国产| 天堂岛av| 91女优在线观看 | 91视频综合| 狠狠色噜噜狠狠狠狠狠色综合久久| 激情丁香五月婷婷| 999 久久久| 国产高清成人免费视频| 亚洲制服欧美另类内射| 色盈盈影院| 亚洲黄色电影| 国产精品呦一区二区三区| 一区二区偷拍拍视频| 色妇91| 亚洲欧美一区二区网址| 99操逼| 日本黄色天堂| 秋霞成人做爱| 日产国产精品中文久久婷婷| 日本免费二区三区| 成人a大片在线观看| 亭亭丁香激情| 97av在线观看| 91Chinese在线| 另类专区加勒比| 免费的黄片有限公司| 青青网三级视频| 97操B| 老司机射| 欧美韩日精品资源| 操B视频日韩无码| 日韩精彩免费| 亚洲欧美999| 色色色综合| 夜夜高潮夜夜爽夜夜爱爱一区 | 天天热精品| 欧美日韩国产三级黄色| 亚洲宗合电影| AVE乱伦| 啊好大好舒服| 久久婷婷电影网| 蜜臀久久久久久999| 超碰99re| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 久久九九国产精品| 97超碰中文| 在线视频免费播放一区| 日日夜夜模| 欧美视频一区二区在线| 欧美亚洲宗合色性图| 日日夜夜骑| 婷婷五月天综合网| 欧美亚洲| JULIA一区二区三区在线播放| 欧美中字二区| 无码外流操逼视频| 91网站18在线| 免费日韩黄片| 欧美亚洲厕所精品偷拍91| 国产视频一区二区三区在线免费观看 | 久操九九九九| 四虎在线观看视频| 青娱乐导航AV| 国产精品直播在线观看直播| 亚洲AO在线| 伊人五月天婷婷| 成人久久精品| 91c色| 一区二区三区四区五区久久久久久| 在线性黄高清免费视频| 暴力av在线| 亚洲最大91网| 激情五月综合开心五月| 欧美大片一区二区三区| 五月天黄色激情视频| 女人香蕉久久毛毛片精品| 欧美成人精品A片免费一区99| 国产传媒日韩| 熟女欧美日韩综合婷婷| 蜜桃视频成a人v在线| 国产乱不卡| 天天爽天天| 精品日韩人妻视频| 亚洲综合 欧美| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 2020中文字幕在线观看| 欧美18禁91| 国产午夜无码片在线观看影视| 国产久久天堂资源| 国产自产91区13区| 国产精品久久久久久片| 成人国产二区三区在线,男女精品。| 欧美 亚洲 制服 精品| 俄罗斯一区二区视频在线观看| 国产精品乱码久久久、久久| 亚洲色五月| 高清国产性猛交xxxx乱大交| 东北女人性交| 一区二区三区蜜桃成人撸久久东京热| 成人免费不卡在线视频| 91色拍| 干妹子| 九九英色视频| 激情综合五月| 亚欧视频在线| 97国产精品视频| 超碰精品人妻狠狠干| 91亚·色| JULIA一区二区三区在线播放| 91天天综合| 久久久久久免费电影| 嗯~啊~快点 死我视频| 国产精品岛国片在线观看| 超碰成人人人爽人人爽| 桑老女人九区| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 天美传媒国产原创中文字幕亚洲欧美另类 | 狠久久| 女人的天堂大香蕉网| 色久综合| 国产成人免费观看在线视频| 网站A V在线| 国产美女高潮视频| 天天日天天操VV| 欧美第一页性| 婷婷亚洲综合| 亚洲成人免费中文字幕| 激情小说亚洲| 久久久久久人体| 69久久久久久久久久久久久| 啊啊啊 在线观看| 伊人五月天| 伊人影院综合是一个与深夜成人在线| 色99999| 九九热国产| 国产中文字幕在线| 国产情色第一第二页在线观看| 午夜福利久久久噜久噜久久综合 | 少好三P| 自拍亚洲综合| 国产视频大全| SUV一区二区在线看| 自拍视频大全亚洲专媒视频/一区二区三区 | 99re公开精品免费视频 | 91丝袜激情在线| 久久人人爽爽爽人久久久| 男人兔费天堂| 伊人久久88国产女| 天天日天天舔| 五月激情在线| 五月丁香六月| 九九内射在线| 嗯嗯啊中文字幕| 人妻久久久久久久久久久久久久久 | 大香蕉在线视频重口味毛片在线| 嗯……啊…嗯嗯…啊…好舒服| 人妻夜夜爽天天爽麻豆三区网站 | 97久久国产亚洲精品超碰热| 狠狠躁天天躁日日躁97| 夜夜免费视频| 欧美性少妇| 91热| 日韩三级伊人| 欧美一区二区一级岛国大片| AV一区观看| 成人性爱av.com| 69精品久久久久中文字幕| 丰满人妻av一区二区三区| 欧亚在线视频| 五月香婷婷| 国产13区| 欧美在线色| 啊啊啊 在线| 国产久久久久久| .精品人妻一区二区三| 国产亚洲女v在线观看| 国产成人www免费人成看片| 99热色精品| 久久e6只有精品| 亚州欧美总和| 蜜臀网 一区| 国产家庭乱伦表演| 欧美日韩操操操| 天天综合精品| 亚洲欧洲日产国产综合网| 尤物AV免费网站| 探花精品 一区二区| 91午夜无码| 狠狠综合| 欧美亚洲日韩16色| 大香蕉草草| 日本人妻伦在线中文字幕| 黑人嘿嘿嘿超爽免费视频| 五月天婷婷色| 久日91在线| 久久人妻熟女一区二区| 人妻一区二区三区视频| 国产自偷自拍一区| 欧美色图私拍91| 人妻激情视频| 91成人高清在线观看| 日本中文字幕在线电影| 精品美女在线视频| 97欧美资源| 天天摸夜夜添无码小视频| 成人情色一区二区| 99re在线视频| 一中国女人毛片水真多| 日本护士高潮| 日本黄色裸日本黄色裸体 | 蜜臀操逼黄色视频操的好爽| ′ !γ}丶。。久久精品欧美一区二区三区| 欧美国产有色电影| 老熟女网站| 男男H黄动漫啪啪无遮挡网站| 1024亚洲中文字幕久在线看片你懂的 | 久视频在线观看| 国产suv精品一区| 国产精品一区二区校花| 99国产精品人妻人伦| 91成人亚洲色图| 九月丁香婷婷色| 欧美中日韩XXXX| 天天色天天干天天射| 国产精品对白内射| 亚洲 欧美 色图| 操逼逼无码| 偷拍色图| 波多野结衣被操50分钟免费视频| 精品少妇一区二区三区免费观看| 久久久久96| 欧美经典一区二区三区| 国产伦精品免编号公布| 国产三级中文字幕粉嫩| 欧美精品日韩一区二区| 学生妹天天看| 日韩性爱毛片操骚逼| 上床不卡网站| 精品无码一区二区三区| 人妻熟女字幕一区二区| aV中文麻| WWW黄片COM| 丰满熟女人妻一区二区三五十一路| 中文字幕人成乱码熟女香港| 91人妻视频在线| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 97网站在线观看| 亚洲制服欧美另类内射| 鸥美极品| aaaa少妇高潮大片| 国产免费一区| 欧美性爱三区二区| 国产精品久久久久999| 中国国产精品一区视频| 欧美日韩大陆黑人少妇99| 婷婷伊人五月| 中文字幕视频在线观看一区二区| 一起草视频在线| 婷婷色一区| 97精品一区二区视频| 99啪啪视频| 岛国大片国产| 青草视频人妻在线观看| 家庭乱伦网站国产| 在线洲亚线| julia高潮后不停追击中出| 欧美色乱| 亚洲欧美九九九| 亚洲自拍天堂| 亚州色图片在线色| 极品白嫩美女白浆成人福利在线看| 性色高清..……| 九九色色| 精品国产一区探花在线观看| 青青草亚洲一区| 色欲无码人妻日韩欧美精品| 风骚少妇视频中文字幕| 探花精品视频| 91人人| 综合天天网| 91干熟女| 国产一国产一级毛片古装| 四虎884a| 亚洲五月婷| 国产操逼网站亚洲一级黄色| 亚洲限制级| 欧美一区二区亚洲天堂| 免费国产视频| 啊啊啊好舒服视频在线观看| 免费毛片在线播放| 久久专区| 色阁阁AV综合网| 日韩三级视频一区二区三区| 日本性爱视频一级| 中文字幕在线第二页| 天美国产三级传媒| 伊人网综合在线视频| 欧美激情在线观看视频| 久久av色| 中文字幕在线免费观看视频| 天天草天天日| 亚洲素人综合| 伊人色综合超碰| 欧美精品自慰系列寂寞少妇| 一起草三级AV电影在线观看 | www.男人的天堂| 欧美午夜视频| av天天在线观看| 夜夜影视四色| 成年人网站在线免费观看| 色偷偷综合91久久噜噜| 有码人妻系列| 玖玖在线视频| 脫衣舞一区二区三区| 青青草中文字幕| 97在线欧| 精品美女少妇一区二区三区| 人妻熟女一区在| 首页中文字幕中文字幕免费| 欧美日韩在线视频网站| 超碰人人干天天射| 超碰久在线天天做| 国产又大又粗又长视频在线| 天天爽天天操| 日本性爱网址| 精品无码久久久久久国产浪潮| 久久东京热久久| 亚洲素人综合| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 91亚洲欧洲| 午夜经典| 玖日综合网| 久久熟女久| 操逼内射干逼白丝91| www.97在线| 五月天激情小说| 成人性爱电影一区二区| 嗯啊抽插大香蕉网页| 国产高清视频无码在线| 精品福利| 亚洲精品99999| 97超碰超| 色欲久久99国产精品久久久久久| AV在线播放网址| 欧美超碰人妻97| 青青伊人久久| 91AV天堂| 免费成人在线熟妇网| 欧美色图成人网一区二区| 夜夜操av亚洲一区二区| 亚洲天堂另类| AA级电影三区| 日韩一级欧美一级国产一级台湾| 熟女91网站| 久久久久久久久久久久97 | 免费在线黄片视频| 日韩免费大片一级播放| 中文字幕国产| 激情五月天插| 国产传媒操逼视频| 99精品视频在线观看免费| 国产日韩在线播放av| 久久久久久69国产一区二区| 一区二区免费电影久久| 狠狠色噜噜狠狠狠狠2018| heyZO天然素人无码AⅤ专区| 三级AV入口| 99热99在线播放激情| 亚洲 欧美日韩 另类| 一区二区娱乐网站| 国产这里只有精品| 粉嫩国产精品久久粉嫩| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 国产久久日韩网站导航| 欧美日韩国产电影| 制服诱惑亚洲一区二区三区在线观看|