亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Helm實踐指南:從YAML部署管理到企業(yè)私有Chart倉庫搭建

Helm實踐指南:從YAML部署管理到企業(yè)私有Chart倉庫搭建 前兩周剛幫某研發(fā)團(tuán)隊處理完一套部署流程改造他們線上服務(wù)每次發(fā)版都要手動維護(hù)二十多個YAML文件從deployment.yaml到configmap.yaml一長串改個鏡像版本號要精確到第幾個文件稍不注意就會遺漏。這種場景在K8s工程師的日常里太常見了而Helm的出現(xiàn)就是專門來解決這套配置地獄問題的。這篇文章是我在推進(jìn)企業(yè)項目K8s落地過程中關(guān)于Helm部署使用以及chart倉庫搭建的完整實踐總結(jié)從基礎(chǔ)概念講到企業(yè)私有倉庫適合已經(jīng)能熟練操作K8s、但還沒系統(tǒng)用過Helm的工程師或者正在為多服務(wù)多環(huán)境配置管理頭疼的同學(xué)。1. 為什么企業(yè)里的K8s工程師最終都會走到Helm1.1 手動維護(hù)YAML的崩潰瞬間先說說我看到的普遍現(xiàn)狀。很多人第一次接觸K8s時都是從kubectl apply -f xx.yaml開始的單服務(wù)單環(huán)境勉強能對付。但一旦服務(wù)數(shù)量到了兩位數(shù)問題就開始扎堆出現(xiàn)服務(wù)A和B共用一套部署邏輯只是鏡像tag不同于是你復(fù)制一份YAML改改名字繼續(xù)用線上環(huán)境加了一個環(huán)境變量測試環(huán)境也要同步加你開始對照著十幾個文件逐個檢查某個服務(wù)回滾你翻遍聊天記錄才找到三天前部署時用的鏡像版本配置混亂到?jīng)]人敢動新同事接手第一周全在考古。這些癥狀的本質(zhì)是K8s把運維復(fù)雜性從虛擬機轉(zhuǎn)移到了YAML文件里而你仍然在用文本復(fù)制粘貼的原始方式管理它們。企業(yè)里服務(wù)一多這根本不是人力能扛住的。Helm解決的就是這個問題——把一系列K8s資源文件打包成一個可配置、可版本化、可復(fù)用的整體這個整體就是chart。1.2 Helm三板斧打包、模板渲染、版本管理Helm的核心理念并不復(fù)雜把它拆解成三個能力就夠用了第一板斧是打包。你將一套服務(wù)需要的Deployment、Service、ConfigMap、Ingress等資源文件放進(jìn)一個固定結(jié)構(gòu)的目錄這個目錄就是一個chart。它與Docker鏡像的邏輯很像——Docker打包應(yīng)用運行環(huán)境Helm打包K8s部署資源。第二板斧是模板渲染。chart里的YAML文件不必寫死可以使用{{ .Values.replicaCount }}這類模板語法再配合values.yaml提供的默認(rèn)值。實際部署時不管是測試環(huán)境還是生產(chǎn)環(huán)境同一個chart通過傳入不同參數(shù)就能渲染出不同配置這解決了多環(huán)境差異管理的核心問題。第三板斧是版本管理。每次helm install或helm upgrade都會生成一個release記錄你隨時可以查看部署歷史一條命令回滾到任意歷史版本。這直接解決了線上回滾靠回憶的尷尬。另外有必要提一下Helm 3相對舊版本架構(gòu)上的變化。Helm 2時代有個叫Tiller的服務(wù)端組件它擁有集群權(quán)限負(fù)責(zé)執(zhí)行安裝操作這在多租戶集群里有安全隱患。Helm 3直接干掉了Tiller客戶端直接調(diào)用K8s API權(quán)限由你的kubeconfig決定邏輯上更清晰也更安全?,F(xiàn)在新項目建議直接上Helm 3不用再碰Tiller那套東西了。2. 環(huán)境準(zhǔn)備Helm 3的安裝與首次上手體驗2.1 安裝方式和版本確認(rèn)Helm的安裝很輕量本質(zhì)上就是一個下載到本地的二進(jìn)制文件。Linux和macOS環(huán)境下最省心的方式是通過官方安裝腳本curl -fsSL -o get_helm.sh https://raw.githubusercontent.com/helm/helm/main/scripts/get-helm-3 chmod 700 get_helm.sh ./get_helm.sh如果你對安全要求比較高不想執(zhí)行遠(yuǎn)程腳本也可以直接到Helm官方Release頁面下載對應(yīng)平臺的壓縮包解壓后把二進(jìn)制放到/usr/local/bin下。我自己習(xí)慣用這種方式步驟雖然多一步但可控性更強靈魂拷問起來能明確回答我安裝的到底是哪個版本的包。安裝完成后驗證一下helm version輸出類似這樣就可以了version.BuildInfo{Version:v3.15.0, GitCommit:..., ...}企業(yè)內(nèi)部一般還會做一次helm repo add把官方或者自己私有的chart倉庫配好。例如添加一個內(nèi)部chart倉庫的流程helm repo add internal-repo https://chartrepo.internal.example.com helm repo update這里有一個小提醒如果部分同學(xué)所在網(wǎng)絡(luò)環(huán)境訪問公共倉庫不穩(wěn)定企業(yè)內(nèi)部一般都會搭自己的代理倉庫或離線同步方案。實際工作里團(tuán)隊內(nèi)會很早就約定好這些基礎(chǔ)設(shè)施的獲取路徑而不是每個人各顯神通。2.2 核心概念實操化理解在敲第一條部署命令之前有三個詞必須徹底吃透后面所有操作都建立在它們之上Chart一個打包好的應(yīng)用模板包含了一組描述K8s資源的文件。Releasechart被部署到集群中的一個運行實例。同一個chart可以被部署多次每次部署就是一個獨立的release。Repository存放和分發(fā)chart的倉庫??匆粋€最直觀的例子假設(shè)我已經(jīng)添加了某個公開chart倉庫想快速部署一個nginxhelm install happy-nginx repo/nginx這條命令做了三件事讀取repo/nginx這個chart根據(jù)默認(rèn)配置渲染出K8s資源然后以happy-nginx這個名字部署到集群。這時候用kubectl get pod已經(jīng)能看到對應(yīng)的Pod了。用helm list可以看到當(dāng)前的所有release及其狀態(tài)。這是排查問題時第一個應(yīng)執(zhí)行的動作——確認(rèn)release存在與否、處于什么狀態(tài)、最近一次操作是什么。values的傳遞也很直觀helm install happy-nginx repo/nginx --set replicaCount3這條命令只覆蓋了replicaCount這一個參數(shù)其他配置全部走chart里的默認(rèn)值。文件級別的參數(shù)管理放到后面講多環(huán)境時再說記住--set與--values的差別即可一個適合快速調(diào)試一個適合保存整套環(huán)境配置。3. 從零手寫一個企業(yè)級Chart以某內(nèi)部訂單服務(wù)為例光會用現(xiàn)成chart還不夠企業(yè)內(nèi)部業(yè)務(wù)是五花八門的你需要能把自己服務(wù)的部署邏輯沉淀成chart。下面拿一個后端服務(wù)來完整走一遍這個服務(wù)有標(biāo)準(zhǔn)的HTTP接口、需要連接Redis還對外暴露Ingress。3.1 Chart標(biāo)準(zhǔn)結(jié)構(gòu)與每個文件的職責(zé)創(chuàng)建一個chart最規(guī)范的方式是用官方腳手架helm create order-service生成的目錄結(jié)構(gòu)是這樣的order-service/ ├── Chart.yaml ├── charts/ ├── templates/ │ ├── deployment.yaml │ ├── service.yaml │ ├── ingress.yaml │ ├── _helpers.tpl │ ├── hpa.yaml │ └── ... └── values.yaml幾個關(guān)鍵文件的職責(zé)先捋清楚Chart.yaml是chart的元數(shù)據(jù)包含名稱、版本、聯(lián)系方式等是chart的身份證values.yaml是默認(rèn)配置所有可能在部署時變化的參數(shù)都在這里給出默認(rèn)值templates/目錄存放真正的K8s資源模板支持Go模板語法charts/目錄用于存放依賴的子chart這屬于依賴管理范疇。我的習(xí)慣是刪掉腳手架生成的亂七八糟的測試資源按實際需要精簡文件結(jié)構(gòu)。這個東西不是生成的越多越好而是每個文件都有明確的存在理由。3.2 Chart.yaml和values.yaml的設(shè)計一個精簡、可直接用的Chart.yaml長這樣apiVersion: v2 name: order-service description: 內(nèi)部訂單查詢服務(wù) type: application version: 0.1.0 appVersion: 1.2.0注意apiVersion: v2這是Helm 3要求的格式v1是Helm 2的舊格式。values.yaml要按可配置項來組織我把常用結(jié)構(gòu)整理如下# 鏡像相關(guān)配置 image: repository: harbor.internal.example.com/backend/order-service tag: 1.2.0 pullPolicy: IfNotPresent # 副本數(shù)與資源配額 replicaCount: 2 resources: requests: cpu: 200m memory: 256Mi limits: cpu: 1000m memory: 1Gi # 環(huán)境變量配置 env: REDIS_ADDR: redis-service:6379 LOG_LEVEL: info # 服務(wù)端口與Ingress域名 service: port: 8080 ingress: host: order.example.internal設(shè)計values.yaml時有一個原則凡是因環(huán)境而異或可能隨時調(diào)整的值全部抽出來。鏡像tag、副本數(shù)、環(huán)境變量、域名這些基本必抽。而一些極少變化的Pod高級調(diào)度配置就沒必要全部外放否則values文件本身會變成新的維護(hù)負(fù)擔(dān)。3.3 模板語法與動態(tài)渲染詳解模板文件是Helm的靈魂。看一個完整且常見的deployment.yaml模板apiVersion: apps/v1 kind: Deployment metadata: name: {{ include order-service.fullname . }} labels: app.kubernetes.io/name: {{ include order-service.name . }} app.kubernetes.io/instance: {{ .Release.Name }} spec: replicas: {{ .Values.replicaCount }} selector: matchLabels: app.kubernetes.io/name: {{ include order-service.name . }} template: metadata: labels: app.kubernetes.io/name: {{ include order-service.name . }} spec: containers: - name: {{ .Chart.Name }} image: {{ .Values.image.repository }}:{{ .Values.image.tag }} imagePullPolicy: {{ .Values.image.pullPolicy }} ports: - containerPort: {{ .Values.service.port }} env: - name: REDIS_ADDR value: {{ .Values.env.REDIS_ADDR }} resources: {{- toYaml .Values.resources | nindent 12 }}這里有幾個語法點需要重點理解**.Values**是模板中訪問values.yaml參數(shù)的方式類似于當(dāng)前值上下文。image.tag的引用寫成{{ .Values.image.tag }}。注意如果參數(shù)沒定義Helm會渲染出一個空字符串而不是直接報錯。include函數(shù)用于復(fù)用_helpers.tpl中定義的有名字符串片段一般用來生成統(tǒng)一的資源名稱。推薦用include而不是template因為include的輸出可以被管道繼續(xù)處理用法更靈活。**toYaml與nindent**的組合很有趣。resources在values里是一個嵌套字典直接寫在模板里很難對齊縮進(jìn)這時用{{- toYaml .Values.resources | nindent 12 }}可以把整個字典序列化成YAML并縮進(jìn)12個空格完美嵌入模板。{{-和-}}的作用是去掉前后多余的空格和換行避免渲染出奇怪的空白行。寧可多用helm template檢查也不要憑肉眼猜渲染結(jié)果。這是唯一靠得住的校驗方式。3.4 lint、template與實際部署調(diào)試寫完模板文件后先做靜態(tài)檢查helm lint order-service/lint會檢查chart目錄結(jié)構(gòu)、YAML語法等基礎(chǔ)問題。它會提示從Chart.yaml到模板語法的一切可疑點先把這個錯誤全清掉再進(jìn)入下一步。接著最值得養(yǎng)成的習(xí)慣是用helm template做一次本地渲染直接看最終生成的K8s資源長什么樣helm template order-service/這樣渲染出來的YAML不會真正部署到集群適合在寫好模板后核對生成的Deployment是否符合預(yù)期。我第一次寫模板時清一色toYaml對齊錯誤導(dǎo)致的縮進(jìn)問題全靠這條命令一一抓出來的。確認(rèn)無誤后正式部署helm install order-prod order-service/如果想臨時覆蓋某個參數(shù)可以使用--set。比如緊急調(diào)小副本數(shù)helm upgrade order-prod order-service/ --set replicaCount13.5 依賴管理與公共庫復(fù)用隨著chart數(shù)量變多你會發(fā)現(xiàn)很多服務(wù)都在用幾乎相同的Ingress模板、數(shù)據(jù)庫連接配置邏輯代碼復(fù)制的情況越來越嚴(yán)重。這時就需要借助依賴管理把公共部分抽出來做成一個公共chart其他chart通過依賴引用來復(fù)用。在Chart.yaml中添加依賴的方式非常直接apiVersion: v2 name: order-service dependencies: - name: common version: 0.4.7 repository: https://chartrepo.internal.example.com然后執(zhí)行helm dependency update order-service/它會根據(jù)Chart.yaml聲明去倉庫拉取對應(yīng)版本的chart放到charts/目錄下。模板中的公共邏輯會用類似{{ include common.labels . }}這種方式調(diào)用。依賴管理引入的復(fù)雜度也不小比如傳遞依賴的版本沖突。我建議公共部分先從簡單的通用標(biāo)簽、健康檢查、鏡像拉取邏輯開始抽不要一上來就把所有業(yè)務(wù)邏輯都塞進(jìn)去。公共chart的變更要嚴(yán)格走版本發(fā)布流程避免某個服務(wù)升級依賴時被意外行為波及。4. 企業(yè)私有Chart倉庫搭建兩種落地方案的對比實踐4.1 為什么要自建倉庫以及Chart倉庫的機制也許有人會問chart直接放到Git倉庫每次部署用helm install ./本地目錄不行嗎只在個人開發(fā)場景下當(dāng)然沒問題但企業(yè)環(huán)境里至少有三個痛點解決不了多團(tuán)隊共享困難。A團(tuán)隊做好的通用chartB團(tuán)隊想用總不能把Git倉庫鏈接丟過去讓對方自己拉版本追溯沒有標(biāo)準(zhǔn)。chart的版本管理需要與K8s資源的變更一一對應(yīng)需要統(tǒng)一的版本存儲權(quán)限與審計能力缺失。誰能發(fā)布chart、誰在什么時候用了哪個chart都需要留痕。這里需要理解一個核心機制Helm chart倉庫本質(zhì)上不是Docker Registry那樣的二進(jìn)制鏡像倉庫而是一個帶索引的靜態(tài)文件服務(wù)器。倉庫里除了.tgz格式的chart包本身還需要一個index.yaml文件這個索引記錄了所有chart名稱、版本、校驗值和下載地址。執(zhí)行helm repo update時客戶端拉取的就是這個index.yaml文件之后根據(jù)索引里的URL去下載具體的chart包。明白了這個機制自己搭倉庫的思路就打開了只要能托管靜態(tài)文件、能更新索引就可以做chart倉庫。4.2 輕量方案對象存儲 ChartMuseum如果公司已經(jīng)有對象存儲如某內(nèi)部S3兼容存儲可以采用極簡方案。我把整個搭建過程記錄一下方便復(fù)現(xiàn)ChartMuseum本身是一個開源的chart倉庫服務(wù)端程序部署方式可以是二進(jìn)制、Docker鏡像或Helm chart。假設(shè)我們把它部署在一臺內(nèi)網(wǎng)機器上并配置使用S3兼容存儲保存chart包docker run -d \ --name chartmuseum \ -p 8080:8080 \ -e STORAGEamazon \ -e STORAGE_AMAZON_BUCKEThelm-charts \ -e STORAGE_AMAZON_PREFIXchartmuseum \ -e STORAGE_AMAZON_REGIONus-east-1 \ -e STORAGE_AMAZON_ENDPOINThttp://minio.internal.example.com:9000 \ -e STORAGE_AMAZON_S3_FORCE_PATH_STYLEtrue \ chartmuseum/chartmuseum:latest這里細(xì)講一下幾個配置的含義。STORAGEamazon表示使用S3兼容協(xié)議STORAGE_AMAZON_ENDPOINT指向內(nèi)網(wǎng)對象存儲地址STORAGE_AMAZON_S3_FORCE_PATH_STYLEtrue很關(guān)鍵某些兼容實現(xiàn)如MinIO需要路徑風(fēng)格訪問不設(shè)置會報簽名錯誤。部署完成后需要啟用chartmuseum的上傳API。默認(rèn)API是開啟的之后推送chart包可以借助helm cm-push插件helm plugin install https://github.com/chartmuseum/helm-push helm repo add order-repo http://10.24.5.10:8080 helm cm-push order-service/ order-repocm-push命令會把本地chart打包并上傳到ChartMuseumChartMuseum會自動更新index.yaml。這樣其他同事執(zhí)行helm repo update后就能搜索到這個新上傳的chart并部署了。這個方案的優(yōu)點是輕、快、成本低部署過程半小時內(nèi)能完成適合沒有現(xiàn)成制品管理平臺的小團(tuán)隊。4.3 一體化方案基于Harbor的Chart倉庫如果企業(yè)內(nèi)部已部署Harbor作為容器鏡像倉庫完全不需要額外部署ChartMuseum。Harbor從1.6版本開始原生支持chart倉庫功能和鏡像倉庫在同一個平臺統(tǒng)一管理天然支持權(quán)限控制、項目隔離和審計。啟用Harbor的chart倉庫后推送和拉取流程如下。先配置Helm倉庫地址。Harbor每個項目下都有獨立的chart倉庫端點helm repo add order-repo https://harbor.internal.example.com/chartrepo/order-project關(guān)于權(quán)限要注意Harbor在簽發(fā)Robot賬號時需要勾選對應(yīng)項目”的Helm Chart讀寫權(quán)限僅僅給鏡像權(quán)限是不夠的。這一步是最容易被忽略的我在落地時沒少見到同事卡在這里報401權(quán)限錯誤。上傳chart則同樣使用helm cm-push插件helm cm-push order-service/ order-repo也可以使用Harbor API直接上傳tgz包但我實測下來cm-push更順手一條命令完成打包上傳。使用Harbor方案的好處是明顯的chart版本與鏡像版本能在同一個平臺里關(guān)聯(lián)管理基于項目做訪問控制天然適合企業(yè)多團(tuán)隊多項目的安全合規(guī)訴求。代價是要部署和維護(hù)Harbor本身基礎(chǔ)服務(wù)越多運維負(fù)擔(dān)也越大。4.4 倉庫權(quán)限與安全設(shè)計無論哪種方案倉庫的權(quán)限控制都必須認(rèn)真設(shè)計。chart文件本質(zhì)上是一段可執(zhí)行的部署邏輯任何人都能修改chart內(nèi)容并部署到集群這是相當(dāng)危險的一件事。我見過一個真實的例子有同事為了圖方便把生產(chǎn)集群的kubeconfig放在共享目錄結(jié)果任何拿到這份kubeconfig的人都能對生產(chǎn)環(huán)境執(zhí)行任何操作。所以在企業(yè)落地時至少要落實三條安全基線chart倉庫賬號權(quán)限最小化發(fā)布chart用專門的機器人賬號不用個人賬號下載權(quán)限按項目隔離普通研發(fā)人員對生產(chǎn)項目只有拉取權(quán)限不能推送chart內(nèi)容變更要經(jīng)歷審核流程最好是打包上傳由CI系統(tǒng)執(zhí)行不給人肉操作入口。5. 企業(yè)項目落地經(jīng)驗版本管理、CI/CD集成與實測踩坑5.1 版本號管理與回滾的實操節(jié)奏chart的版本管理是落地的第一道基本功。Chart.yaml中的version字段是chart本身的版本而appVersion則是打包的應(yīng)用程序版本。兩者獨立變化。舉個例子應(yīng)用代碼從1.2.0升級到1.3.0但同時調(diào)整了chart里環(huán)境變量的寫法那么appVersion和version都應(yīng)該升級。如果只是改了chart的調(diào)度策略應(yīng)用版本沒變那只需遞增version。我采用的策略很簡單凡是改動chart內(nèi)容必須遞增version。哪怕只是改了一個默認(rèn)日志級別。否則后果是release歷史里兩條記錄顯示相同版本號實際內(nèi)容卻不同回滾時你根本不知道自己在回滾到什么狀態(tài)。每當(dāng)更新圖表后及時部署并記錄helm upgrade order-prod order-service/ --namespace backend查看部署歷史helm history order-prod回滾到上一個版本helm rollback order-prod 3配合helm history里展示的REVISION號回滾操作會變得非常可控、準(zhǔn)確。5.2 CI/CD集成時最容易出問題的環(huán)節(jié)真正到了企業(yè)級應(yīng)用chart的發(fā)布流程一定會被集成到CI/CD流水線里而不是靠人SSH到服務(wù)器手工執(zhí)行。一個標(biāo)準(zhǔn)的發(fā)布流水線可以設(shè)計為四個階段代碼構(gòu)建與鏡像推送應(yīng)用代碼編譯產(chǎn)物打包成Docker鏡像推送到Harbor或內(nèi)網(wǎng)鏡像倉庫更新chart包把新的appVersion同步更新到Chart.yaml和values.yaml發(fā)布chart到倉庫執(zhí)行helm cm-push把更新后的chart上傳觸發(fā)部署任務(wù)在目標(biāo)集群執(zhí)行helm upgrade --install。實際執(zhí)行中容易出問題的環(huán)節(jié)往往是第2步和第4步的銜接標(biāo)簽與鏡像版本不一致。某個服務(wù)升級鏡像tag已推送但values.yaml里引用的還是舊tag或者CI腳本里用動態(tài)生成的tag覆蓋了模板里的硬編碼值最終部署了錯誤版本。給一個更穩(wěn)健的參數(shù)傳遞方式不要在values.yaml里寫死鏡像tag而是用CI變量動態(tài)注入。在CI腳本中顯式傳入tag參數(shù)helm upgrade order-prod order-service/ \ --namespace backend \ --set image.tag${IMAGE_TAG} \ --set replicaCount${REPLICA_COUNT}這樣一次發(fā)版全鏈路更新避免多文件維護(hù)不同步的問題。5.3 多環(huán)境配置隔離的推薦做法企業(yè)在測試、預(yù)發(fā)、生產(chǎn)等多環(huán)境之間切換時硬編碼環(huán)境變量是最危險的。比如測試環(huán)境的Redis地址滲透到生產(chǎn)部署上等數(shù)據(jù)出問題再排查事情的起因就要花很長一段時間。推薦的做法是把環(huán)境差異全部收攏到values文件按環(huán)境分文件管理。創(chuàng)建三種環(huán)境的values文件order-service/ ├── values.yaml # 默認(rèn)配置 ├── values-test.yaml # 測試環(huán)境配置 ├── values-staging.yaml # 預(yù)發(fā)環(huán)境配置 └── values-prod.yaml # 生產(chǎn)環(huán)境配置部署測試環(huán)境使用helm install order-test order-service/ --values values-test.yaml --namespace test部署生產(chǎn)環(huán)境使用helm install order-prod order-service/ --values values-prod.yaml --namespace prod每個values文件定義自己的副本數(shù)、資源配置和域名。對于敏感的數(shù)據(jù)庫密碼或認(rèn)證Secret上述方式還有一個補充原則不要寫進(jìn)values.yaml明文中而是通過外部注入的Secret引用。在模板中盡量只支持Secret名稱和鍵名的配置具體內(nèi)容留到集群的Secret管理器中。5.4 真實踩坑記錄與排查鏈路最后分享一下落地Helm過程中印象比較深刻的兩個問題及其排查思路。問題一helm install卡在pending-install狀態(tài)某次部署一個服務(wù)release狀態(tài)一直是pending-installK8s資源沒起來。常規(guī)排查流程如下先用helm list -A確認(rèn)release的存在和狀態(tài)再通過kubectl describe查看關(guān)聯(lián)的資源對象。發(fā)現(xiàn)Pod本身拉取鏡像失敗——明明私有倉庫有該鏡像卻報ImagePullBackOff。進(jìn)一步排查發(fā)現(xiàn)是chart里的imagePullSecrets沒有配置。這個配置在values.yaml里是空數(shù)組集群拉取私有鏡像時沒有憑據(jù)。解決方案是先在命名空間創(chuàng)建好docker-registry類型的Secret再在template里引用它。排查這類問題的關(guān)鍵思路是先分清問題是Helm層還是K8s層。Helm層看渲染結(jié)果和release狀態(tài)K8s層看Pod狀態(tài)和事件。用.命令快速釘死問題所在而不是瞎猜。問題二滾動升級永遠(yuǎn)不結(jié)束升級某服務(wù)后新Pod一直處于CrashLoopBackOff狀態(tài)Deployment的滾動升級因此卡住。這個問題的觸發(fā)點是liveness探針配置不合理新版本由于環(huán)境變量缺少某些值健康檢查端口沒有正常監(jiān)聽探針永遠(yuǎn)失敗。排查時用kubectl get events看事件流很快發(fā)現(xiàn)探針失敗的具體時間戳和原因。之后回到values文件補上環(huán)境變量參數(shù)再執(zhí)行helm upgrade滾動升級才順利完成。這個案例提醒了我一件事模板寫得好不代表業(yè)務(wù)配置就正確。Helm只負(fù)責(zé)把變量渲染成K8s資源至于這些資源運行起來是否符合預(yù)期仍然需要強大的K8s排障能力兜底。最后一個經(jīng)驗分享不一定寫進(jìn)文檔但很實用。我們內(nèi)部現(xiàn)在要求所有chart的發(fā)布記錄都附帶一個部署前檢查清單渲染結(jié)果人工核對、版本號確認(rèn)、命名空間確認(rèn)、配置差異對比。這套習(xí)慣跑順之后線上部署出錯的概率至少降低了一半。Helm本身只是一個工具真正讓部署流程穩(wěn)定可控的是圍繞它建立起來的發(fā)布規(guī)范和團(tuán)隊協(xié)作方式希望這些內(nèi)容能幫你在自己的企業(yè)項目里少踩幾個坑。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天天视频黄| 91成人高清在线观看| 清纯唯美亚洲综合| 影音先锋新男人| 91人妻尻屄视频| 大香蕉av在线| 欧美婷婷久久| 果冻传媒A片麻豆熟妇人妻| 无码人妻精品酒店| 日韩性爱电影一区| 欧美大香蕉在线观看| 小骚逼被操的爽不爽| 久久久九| 蜜臀AV秘一区翔田千里| 亚洲国产激情国产av| 久久大香蕉手机高清视频| 日日干男人的天堂| 亚州性色| 无码精品人妻一区二区三区妖精 | 哈哈操电影| 精品日韩人妻精品一二三区| 五月丁香综合啪啪| 一本久久久精品| 精品久久无码午夜福利| 小少妇| 97在线无精品 | 欧美精品日韩久久久九| 日本91白丝| 中文字幕久久亚州无码| 国产400孕妇孕交群| 国产亚洲美日韩Aⅴ中文字幕无码成人| 91国产精品在线看| 亚洲第一男人天堂| 亚洲国产精品无码AV在线| 欧美精品另类人妖xxxx| 色综91| 无码聚合| 亚洲欲| 国产无码精品久久久久久| 日韩乱伦视频| 中文无线日韩一区| 大香蕉一区二区在线观看.| 色蜜AV| 老司机午夜精品福利视频一区二区| 亚洲无 码A片在线观看麻豆| 你懂得91| 蜜臀av网址| 精品人妻一区二区三区四区石在线 | 久久久成人国产精品无码| 欧美亚洲第1页| 蜜臀Av一区二区三区| 在线国产福利网址导航| 精品久久九| 三男一女不戴套的A片| 九九亚洲| 三及片网站| 麻豆国产免费影片| 一区二区播放| 99精品在线| 97国产精品在线观看| 国产欧美岛国精品一区| 国产精品电影推荐| 美国人人操人人操| 久久伦理视频久久大香蕉视频| 国产日韩精品suv| 精品少妇一区二区三区免费观看| 精品免费一区| 亚州情色j区| 午夜操一视频一区| 开心激情婷婷| 91亚州| 日产狠狠干| 91欧美经典| www狠狠| 久久激情视频| 欧美中出1| 99热日| 中文字幕日韩人妻视频一区二区三区 | 一线黄色免费性爱片| 美女的肌被草喷水视频| 日本一区二区三区免费观看| 久草毛片电影怡| 亚洲欧洲无码bt精品合集| 欧美美女自慰一区二区三区| 国产久久久久久| 人妻AV在线| 97久久超碰日韩精品| 亚洲成人免费在线| 网友自拍第1页| 婷婷色综合| 亚洲欧洲综合| 三级片大波波| 2019久久久久久久久福利| 久日综合网| 男女激情黄色网址| 91蜜臀人妻中文字幕在线| 99视频内射三四| 亚洲全色网| 精品一区96| 国产一区二区在线播放量| 神马午夜久久久| 一线黄色免费性爱片| 伊人网在线视频| 欧美强奸一区二区诱惑| 狠狠爱夜夜| 校园春色综合| 一级人妻性爱视频| 亚洲在钱| 男人的天堂VA在线| 日韩性爱高清免费视频| 少妇精品久久| 91天天综合网,天天综合网| 又粗又长又爽在线观看| 一区二区三区看视频| 蜜臀久久一区二区| 午夜超爽| 99在线观看视频在线高清| 丁香六月婷婷久久综合| 国语对白露脸XXXXXX| 吉川爱美亚洲二区在线| 韩日精品四区| 国产黄片精品在线| 亚洲综合影院| 91国产丝袜美女| 9+1视频网址| 性色av大全| 中文字幕av片| 久久久久9999妇女| 综合色图区| 日韩熟女操逼| 最近二区三区视频大全| 激情情色五月天| 加勒比大香蕉视频在线| 亚洲 自拍偷拍 欧美| 欧美色图另类图片| 亚洲综合骚逼| 久久久一热在线播放| 性影在线视频| 999999精品| 走光一区92下载| 99热精品在线观看| 国产精品久久久久久久毛片1| 欧美色图20P| 欧亚久久偷拍视频| 激情小说五月天| 日韩成人在线性爱视频| 91视频综合网| 精品人妻视频一区二区在线播放| 在线97在线| 亚洲欧洲综合视频在线| 成人免费看吃奶视频网站| 午夜福利 成人 91| 97色涩| 精品一区二区三区蜜桃臀赵总 | 黄色网址在线免费观看| 人人妻碰人人免费| 日韩精品-原创伙伴| 都市激情人妻一区二区青青操视频 | 国产激情视频一区区三区| 亚洲日韩XXX| 欧美人妻精品| AV中文在线| 亚洲欧美综合区自拍另类| 美女91网站| 亚洲图片视频小说| 女人18精品一区二区三区| 日han少妇无码| 啊啊啊不要好疼视频| 成人5码视频| 国产精品盗摄 偷窥盗摄| 欲香欲色综合天天伊人| 中文字幕精品三级久久久| 综合激情97 | 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 激情综合 婷婷五月 红杏| 综合av影片| 午夜性| 中日无幕一二三四区| 日本综合久久| 亚洲黄网在哪免费看| 69少妇一区二区| 黄色无码高清黄色无码网站| 诱惑网综合| 91久久国产精品| 欧美第五页| 亚洲色综网| 97超碰超欧美。| 成人五月天色网| 亚洲色图 欧美热图 清纯唯美 另类自拍| 婷婷亚洲综合| 亚洲情色91| 九九热视频在线观看| 日本在线视频导航| 国产精品无码AV网站| 亚洲国产精品有声| 黄色毛片A片| 国产欧美日韩精品中文| 无码视频黄色网战| 亚洲精品a人片在线观看视| 91艹B视频| 日韩99精品视频综合区| 青青久久手机线视频| 激情五月综合开心五月| 成年女人黄网站| caoni国产亚洲av| 欧美一区二区三区蜜桃| 超碰人人超在线观看| 天天插天天操| 欧美1727免费观看视频| 欧美 传媒 麻豆 日韩 偷拍| 91五月天| 激情综合 婷婷五月 红杏| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 亚洲欧美另类图片| 操www| 乱伦Av网| 激情小说五月天| 亚洲有码 欧美精品| 96精品在线| 91狠狠综合久久久久久| 性色高清在线| 青青青艹在线视频| 亚洲在线综合| 久久69| 午夜福利av电影在线| 影音先锋乱| 久久婷五月| 久久色一区| 精品小视频在线| 啊啊啊啊啊啊啊在线| 欧美热图99| 三久久久四久久久久| 国产肏逼网站| 日韩av在线免费网站| 免费视频a级毛片免费视频| 狠狠久久亚洲欧美专区| 99精品网站| 爱丝福利| 亚洲97| 精品高清一区二区三区三州| 色情五月综合婷婷| 躁躁日曰躁2020| 女上位精品在线| 91A欧美电影网站| 少妇厨房愉情理伦片bd在线观看 | 欧美日韩99精品麻豆传媒| 综合网欧| 性欧美第一页| 欧美精品三级黄片| 999岛国大片| 97操97色| yazhouzaixian| 中文字幕欧美日韩三级| 日本一区二区成人在线| 91国产精品熟女| 亚洲 综合 第一页| 色99999| 无码日韩人妻av一| 日韩内射视频| 四虎影视国产精品| 美女操逼A A| 99无码精品| 97色涩| 精品91日日夜夜超清资源| 亚欧成人综合影院| 99久久无色码| 久夜操| 免费无码国产精品v片在线观看| 久热99| 热久久国产精品视频大陆精品| 欧美亚州综合网图片| 国产中文字幕在线点播| 五月丁香激情综合| 91欧美丝袜| 精品福利| 巨爆乳肉感一区二区三区竹菊影视| 亚洲91网。| 精品无码久久| 欧美视频一区二区在线| 哈哈操电影AV| 69精品| 青娱乐日韩无码| 欧美A√综合网| 午夜毛片亚洲精品片国产久久久| 性爱1区| 亚洲淫色网中文| 欧美日韩在线小说| av资源在线观看少妇| 区二区亚洲婷| 日韩免费av片高清无码| 麻豆天美国美国产| 综合色欧美| 久久久精品无码亚免费| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 久久一级无码精品毛片6| 精品人妻一区二区免费蜜桃| …亚洲黄色厕厕女女在线播…| 亚洲一区二区三区欧美日韩| 国产久久日| 成人精品久久久午夜福利| 熟女丰满人妻一区| 97天天摸天天爽| 九九人人操| 麻豆色99999| 亚洲精品亚洲人成在线麻豆| 哑洲在线| 91|九色|国产熟女| 97中文字幕九区| 日本午夜久久电影| 99热这里都是精品| 色色婷婷五月天| 色欧美色交综合| 国产AV毛片| 亚洲污污网站| 911av网站免费观看| 欧美大香蕉97| 日韩性爱毛片操骚逼| 中文有码第五页| 国产一级内射高清视频| 欧美最婬乱婬爆婬性视频 | 一级性爱视频免费观看 | 人人玩人人添人人澡免费| 国产精品九9| 日韩在线国产字幕| 欧美日韩婷婷中文| 国产精品黄色三级av| 国产精品suv一区| 日韩熟女乱伦中出| 四虎在线观看网站| 高清在线偷拍自拍视频| 人妻少妇精品| 97国伦国色| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 91大神精品长腿在线观看网站| 啊啊啊啊在线观看网址| 大香蕉 222| 四虎视频在线观看| 超碰97在线中文| 97伦乱| 超碰97久| 欧美性爱18观看| 探花在线免费观看视频国产一区| 亚洲国产欧美中日韩成人综合视频| 国产激情久久久| 看看小穴| 深夜激情| 超碰国产精品久| 欧美色婷婷| 亚洲精品天天影视综合网| 青青草日韩免费观看高清在线| 91蜜臀人妻中文字幕在线| 成·人免费午夜在线观看| 波多野42部无码喷潮在线观看| 亚洲 欧美 手机在线观看| 天天摸,夜夜摸| 99久热精品99re6热| 超碰人人干天天射| 男女激情黄色网址| 天天干天天日天天射黄色片| 蜜臀久久99精品久久久久久酒店| 亚洲人妻中文高清| 欧美在线大香蕉| 亚洲丝袜少妇在线| 亚洲超碰在线| 久草老司机| 欧美的性爱网站免费| 狠狠干婷婷| 欧美色吧综合| 久久久久久AV无码免费网站| 欧美 亚洲 91| 黄片免费久久久久久久| 亚洲一本色码中文字幕| 欧美日韩国产一区二区小黄片大全| 免费视频a级毛片免费视频| 久久久久久久久久久久久久久久9| 大香蕉99999| 97久久超碰| 天天干,夜夜爽| 亚洲无码精品AV久久久| 97在线免费视频观看| 国产按摩一区二区三区| 在线视频免费播放一区| 狠狠干狠狠色| 欧美v亚洲v综合v国产v妖精| 欧美色图 人妻| 国产精品香蕉热久久新品| 97碰久久| 五十路人妻在线| 欧美另类色图片| 国产精品无码久久久久2025| 天天噜| 亚洲色悠悠久久88| 亚洲啪啪性视频| AV天黑人| 久操免费观看| 综合久久久久久久久91| 日本高清_区二区三区 | 美女被啪到深处抽搐视频| 天天日天天看| 国产成人精品日本视频| 在线视频一区二区传媒| 长久操视频| 麻豆熟妇乱妇熟色A片在线看| 日婷婷| renqi久久久久久久久久久久| 97久久久精品| 欧美色图亚洲色| 男人天堂久久精品不卡| 黄色交缠性感爆操91国产精品免费一区二区三区 | 日本免费一级AAA大片器| 九九九色| 亚洲欧美精品国产一区二区| 一本精品日本在线视频精品 | 日日不卡av| 日韩电影中文字幕| 日本不卡免费二区| 97 国产精品| 免费99精品国产自在在线| 天美传媒AV国产在线| 国产大片精久久久久久| 国产夫妻一区二区| 嗯嗯啊好大| 久久动漫精品视频这里只有精品| 嗯嗯啊啊视频一区二区三区| 诱惑人妻欧美一区在线播放| 口爆欧美91| 九九九九九精品| 丝袜美腿av女优在线| 啊啊啊啊啊在线| 日产欧美电影一区二区三区| 91东北熟女| 操操逼视频| 成人 日本A片无码8888| 91精品黄在线观看| 熟妇高潮一区二区免费视频| 97干在线视频| 国产对白刺激视频| 去干网最新版| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 在线岛国新天堂8| 国产乱码精品一区二区三区四川| 极品色www影院| 大香蕉伊人一区在线观看| 黄资源| 69精品| 91在线无码精品秘 软件| 天天综合91在线| 欧美日本不卡| 日本一道在线播放高清| Blackedraw视频一区二区| 天天欧美色| 久久久草草精品| 国产精品探花色| 亚洲麻豆精品二区三区| 日本高清熟女久久一区| 强奸乱伦免费网站| 嗯嗯啊操我| 91中出在线| 欧美特大黄一级片片免费| 午夜欧美J进J出白浆流出久久久 | 熟女突然公开看18禁影片| 午夜欧美J进J出白浆流出久久久| 国产白丝网站| 国产伦乱91| 97av,com| 黄片在线免费在线观看| 超碰视97中文| 97福利视频| 青青草五月份天| 人人干人人搞人人摸| 91操人| 国产中文精品一区二区在线观看| 色诱中文字幕| 操逼操逼视频操逼| 男人把坤坤插入女人的下体| 亚洲日韩美国人妻| 岛国不卡超碰护士AV在线播放| 激情抓乳插进去啪啪啪日韩| 天堂网 主播 亚洲| 手机在线人成免费视频| 91中出在线| 老色69| 人人操,人人插| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 欧美中文字幕一区| 久久久久921| 婷婷色影院| 午夜福利视频在线一区| 日韩欧美性吧婷婷乱伦大香蕉| 日韩乱伦影音先锋| 在线观看日韩av不卡| 综合网色| 亚洲 图片 综合91| 久偷拍欧美日韩三区| 91精品操美女| 狠狠婷婷亚洲中文综合久久| 久久久久久国产无码精品| 成片免费播放| 快点操死我| 国产精品农村妇女精品| 操婢日韩| 欧美在线视频99| 欧美午夜视频精品久久| 精品人人| 无码天天操| 欧美色涩| 天躁夜夜躁2021| 成人在线午夜视频一区| 性感女人网页在线观看视频| 久久精品色欧美aⅴ一区二区| 97色碰| 97人人夜| 九久久九九久视频| 99re在线视频| 欧美曰韩国产精品| 一区 欧美 日韩 麻豆| 丁香激情网| 天天日B夜夜干B时时操B| 亚洲伊人成综合成人网| 亚洲视频精选| 男人天堂2030| 中文字幕三四五区| 亚洲色图欧美色图另类图片| 极品人妻少妇综合| 亚洲宅男天堂| Sekablack无码一区| 中文字幕视频在线观看一区二区| 最新av中文字幕高清| 久久久久久中文版| 福利在线黄片| 免费视频无码| 日本熟妇一区二区三区| 久久久无码国精品无码三区三区| 欧美性爱在线无码| 熟女精品一区二区三区| 国产日比| 日本天天人人狠狠在线日美女 | 亚洲精品a人片在线观看视| 久久久久久久亚洲Av无码| 亚洲 无码 偷拍| 国产精品美女视频诱惑| 男人的天堂2019| 97在线视频观看| 澳门黄片一香蕉视频| 国产隔壁老王影院在线| 操迟操逼在巾线Fre看| 国产成人综合在线播放| 欧美午夜视频精品久久| 五月丁香狠狠爱| 超碰超碰95| 色噜噜人妻丝袜AV资源| 青青欧美| 秋霞怕怕片| 日韩人妻播放| 久久精品人体| 欧美在线|亚洲| 东京热男人的天堂| 成人性爱高清视频免费看| 久久婷婷视频| 精品少妇人妻| 在线观看一级α片刺激高潮视频| 免费A V在线播放| 久久五月份| 风月影院男女十八禁| 一区二区三区麻豆| 操操逼操操逼操操逼逼| 97中文天堂| 熟妇女伦乱视频视频| 最新av中文字幕高清| 九九99精品| 操死我了嗯嗯嗯| 94色色电影网| 日韩无码专区| 激情另类激情| 亚洲熟女中文字幕在线| 91操人| 日产欧美电影一区二区三区| 97福利视频| 欧美黑人日韩少妇色情| 操逼无码一区| 97免费视频在线观看视频| 日韩有码 一区二区三区| 日日狠狠久久偷偷色综合免费| 2019亚洲男人天堂| 中文字幕乱码人妻二区三区| 青娱乐亚洲热| 97色碰| 福利风月五月天影院| 大香蕉欧美| 嗯嗯,啊啊,国产精品| 久久一二三四| 蜜臀久久99精品| 熟女字幕| 啊啊啊啊啊在线| 亚洲色图a| 91亚洲色人| 91AV天美在线视频| 欧美 亚洲 综合 制服| 综合性视频99| 久久一二三四五六七八九区区| 欧美色图私拍91| 亚洲欧洲av影音| 色香阁在线| 国产女人与拘做受视频免费| 亚洲国产成人高清在线| 国产有码一区| 久久是精品| 蜜臀99久久精品久久久懂爱| 日韩精品 视频一区二区| 五月天婷婷基地| 天天综合网久久ww| 日韩欧美麻豆 | 丝袜人妻av一区二区| 国产精品一级毛片不卡视| 黑操B| 91粉嫩萝控精品福利网站_精品影音先锋国| 欧美视频边做饭边橾| 亚洲综合色男人网| 大白逼三四级| 高清成年美女黄网站免费大全 | 中文字幕后石码三区四区| 99久久精品国产高潮| 青青草在线视频欧美| 亚洲欧美日韩激情不卡| 九九无码视频| 污电影在线观看| 操b在线观看| 欧美成人9797| 亚洲久久久| 久久99视频| 国产AV人人夜夜澡人人爽麻豆| 黄色免费网| 91 手机在线播放 绯色| 九九九九九精品视频| 操美女高潮抽搐白浆| 久草线上视频免费看| 国产亚洲精品美女久久久| 射丝袜高跟鞋99| 国产又黄又爽| 久久久久久久久久久97| 视频不卡中文字幕| 久久婷婷国产一区二区色| 97chaopengongkai| 中文字幕黑人大片| 欧美少妇色图| 青青操97| 精品无码一区二区三区| 久草婷婷| 久久国产性爱| 校园春色欧美| 国产福利精品最新在线| 日本幼女18+| 久热这里| TS人妖另类精品视频系列| 色呦呦、国产精品| 中文字幕精品一区欧美| 亚洲人久久久网| 秋霞免费AV| 免费一级a毛片久久久久久鸭绿欲| 亚洲图片婷婷五月天| 色婷婷久久综合超碰| 国产极品99热在线播放69| 麻豆人妻偷人精品无码视频| 国产精品成人蜜臀AV在线| 久久是精品| 狠狠爱综合网| 国产精品午夜AV完会免费| 欧美在线伊人色| 国产精品久久久久久照片| 国产久久久久影院老熟女| 伦理片秋霞免费影院| 欧美亚洲中文字幕| 日韩中文字幕熟妇人妻| 在线岛| 亚洲中文字幕久久无码精品| 插入综合网| 国产三级资源在线观看| 中文字幕无码不卡啪啪| AV色天香在线| 亚洲中文国际强奸字幕| 97资源久久| 久久一二三四不卡 | 色综合加勒比| 色偷综合| 日韩pv中文| 八人操人人摸人人看| 中文字幕在线免费观看| 啊啊啊好大好湿| www.色婷婷| 无码 黑人一区二区三区| 亚洲综合色图欧美| 97这里只精品| 午夜精品久久久久久久男人的天堂| 久久久精品中文字幕爱豆| 91在线丝袜| 97超碰无码网| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 不卡在线观看视频| 九九九精品一区二区无码| 成人欧美一区二区三区黑人一| 日韩激情毛片一级久久久| 欧日韩一二三f区| 国产91精品久久久久久久网曝门| 色婷五月| 可以在线观看AV的网站| 激情婷婷综合久久| 91亚洲网站| 98福利在线视频| 欧美熟女激情| av天堂影视中文在字幕在线中文| 风流老熟女一区二区三区l| 久久永久无码人妻视频| 欧美色图20P| 色香91| 国产噜噜噜噜噜久久久久久久久| 青青欧美在线| 狠狠操夜夜操蜜桃视频三区| 美女被艹尤物视频| 国产综合网站在线播放| 中文字幕精品一区欧美| 精品蜜乳AV免费观看| 99热婷婷一区二区三| 欧美极品少妇| 久草精品视频| 欧美精品三区| 2026国产精品视频| 天天看高清麻豆| 加勒比综合九九99视频在线播放| 97玖玖人妻| 欧美激情总合网| 天天日日夜夜| 国产毛片精品一区二区色欲黄A片| 性爱乱伦一区| 人妻精品视频一区二区| 操我无码| 国产懂色精品国产av| 黄色网址在线免费观看| 国产亚洲精品美女久久久m| 亚州一区二区成人片免费| 涩涩涩综合| 亚洲天堂AV在线播放| 国产日韩精品无码去免费专区国产| 日本成人在线不卡一区二区三区| 亚洲日韩国产精品| 亚洲无码视频免费在线观看网址!| 性色亚洲| 亚欧高清| 狠狠中文字幕| 亚洲一本色道中文无码aV天美| 国产精品69人妻无码久久久| 国产亚州高清国产拍精| 99精品久久久久久久婷婷蜜桃| 五月丁香婷婷综合网| 99热官网| 久久人人爽爽爽人久久久| 97久久精品国产| 骚女高跟AV在线| 色婷婷日韩精品一区二区三区| 综合色区偷拍| 夜草网站| 乳欲人妻办公室奶水| www.人人cao| 天天日天天插| 午夜欧美J进J出白浆流出久久久| 超碰地址97| 69久久| 女沟厕偷窥piss小便| 午夜.DJ高清在线观看免费7| 男男H黄动漫啪啪无遮挡网站| 九九热在线精品视频| 一及黄久一点| 操老熟女AV| 试看60秒 爽| 北约熟女超碰| 99精品网| 色天堂综合| 操一对老熟妇爽上天视频| 久久久久久久免费A片国产成a人亚洲精∨品无码| 精品国产91内射久久| 国产福利影视| 超碰色中文| 天天综合网亚洲综合网| 操一操摸一摸| 日韩精品在线观看网站| 97午夜剧场日韩| 成人久久久精品| 97干在线| 中文字幕亚洲在线一区| 人人摸人人干| 午夜精品久久久久久久第一页按摩| 51国产午夜精品视频| 日本污ww视频网站| 欧美色图成人网一区二区| 欧美激情 一区| 91精品久久久| 久都青青视频| 天天综合网~91| 精品国产一区二区三区香蕉欧美| 99热综合| 欧亚日本情色| 岛国免费黄色网址| 亚洲熟妇图片| 日本二三四区| 全球成人中文在线| 伊人国产视频| 中文久久| 五月天激情小说| 欧美亚洲清纯| 亚洲色 国产 欧美 日韩| 中文久久一区| 91在线免费精品视频| 久久综合九九| 天天天做天天天爱天天天爽| 人人艹亚洲| 欧美少妇第一页| 97视频网站| www.狠狠操| 99精品无码| 日韩激情中文字幕有码| 欧美色一二三| 国产精品麻豆成人av| 人人爽天天爽| 少妇久久久久| 97精品国产97久久久| 亚洲成成熟女人综合一区二区| 亚洲超碰AV| 久久久一区二区| 亚洲少妇综合在线播放| 白丝在线一区| 亚洲va有码在线天堂| 欧洲乱码视频| 秋霞成人一级在线观看| 久操 高清| 国产精品4p在线观看| 69综合网| 亚洲囯产精品女人久久久| 操b网站亚洲无码| 性爱网站一区二区| 热久久九九热| 一区二区三区黄色片a| 久久99999| 亚洲精品无码久久AV| 热热色色综合| 亚洲日韩成人性爱视频| 农村少妇久久久久久久| 激情丁香五月| 国产精品一二三区18| 国产熟女一区二区丰满| 国产AV色黄看到爽| 欧美大干日韩| 97人人模人人爽人人| 97在线观| 欧美色图偷拍另类| 美女极品一区二区三区| 职场同事知名国产国产精品久久欧美日韩| wwwcaobibi| 97免费视频在线| 久久久久久性爱视频| 久久透逼视频| 蜜臀久久精品久久久久视频| 狠狠色婷婷777| 亚洲综合第一页| 91美女在线视频| 日本Xx性爱| 亚洲激情在线| 人人澡综合涩| 新精精品久久精品| 国产欧美日韩精品中文| 综合性视频99| 亚洲综合春色| 国产欧美精选激情视频| 日本免费二区三区| 少妇毛片久久| 国产精品久久久久久片| 极品色综合| 一牛一区二区三区久久| 激情专区综合| 熟妇综合一区二区三区| 嗯嗯啊啊日韩精品| 亚洲天堂男人在线| 国产91啪| 97精品网| 啊啊啊久久久视频| 欧插网站| av婷婷色婷婷色六月| 免费操逼91| 视频二区熟女人妻| 99青草| 激情综合网五月婷婷五月天| 亚洲情色综合| 96精品久久久| 蜜臀99999| 久久久爆乳翘臀一线天伦理视频| 国产精品美女久久久久AⅤ国产馆| 国语精品av| 久操在97| 啊啊啊啊啊啊啊国| 中文激情网| 国产成年免费大片黄在线观看| 精品日韩| 久久婷婷苹果| 中文字幕视频免费| 中文字幕av久久爽Av| 性吧在线视频| 亚洲综合精品国产一区| 国产福利视频精品视频| 葡萄牙性视频一二区| 女上位精品在线| 天天综合网1| 久久久久久久久久久97| 婷婷激情五月综合| 中国探花熟女| 国产精品美女在线一区| 天天视频黄| 啊啊啊免费视频| 南澳成人一级片在线播放| 伊人少妇久久久| 日韩美女,国产传媒,视频一区| 中文字幕在线观看AV| 亚洲日韩一区电影| 91综合在线| 国产无套粉嫩白浆在| 国产三级多多影院2022国产AA一级毛片无码 | 日本999精品视频| 国产原创精品| 99热免费| 夜夜狼人妻| 色哟哟-国产专区| 日欧美色| 久久精9| 夜草欧美| 久久99深爱久久99精品| 成人精品欧洲亚洲| 嗯嗯啊啊啊啊轻点视频| 九九亚洲色在线观看| 欧美黑人91| 丰满欧美放荡少妇在线| 美女爽到高潮91| 情色大香蕉| 欧美日本不卡在线| 日韩欧美午夜一区二区| 国产精品久久久久久久免牛肉蒲团 | 欧美一级色| 五月丁香综合激情| 亚洲欧洲偷拍一区| 东京太热久久久| 玖玖蜜臀资源网| 日韩久久艹| 黄色一区三区| 男人的天堂com| 性色亚洲| 免费日韩黄片| 久久国产热视频97电影| 婷婷AV一区二区三区| 色色婷婷五月天| 色av中文字| 亚洲天堂第一页| 99re6国产精品99re| 色牛牛AV| 午夜天堂精品久久| 日韩 成人 有码| 91色人| 午夜爽爽爽| 国产91av在线播放| 亚洲免费成人精品电影| 欧美99热| 德国一二三不卡| 青青草玖玖爱| 91熟女丨老女人| av爱爱爱| 另类一区| 嗯嗯啊啊用力视频免费| 日日噜噜夜夜久久亚洲一区二区| 中文字幕免费在线观看| 中文字幕欧美丝袜07资源| 日本色色视频网站| 91精品国产麻豆国产自产在| 香一区二区三区| 91无摭挡| 欧美成人免费在线观看| 亚洲一卡2卡3卡4卡乱码网站| 五月婷婷六月激情| 极品久久久久久久久久久久久久| 东京热,男人的天堂| 香伊人在线| 99热啪啪| 日本中文字幕一区| 97操| 亚洲精品日韩国产欧美| 丝袜喷水在线| 9久久久久久| 伊人精品久久网站| 成人夜夜爽| 男人天堂久久精品不卡| 精品国产Av无码久久久亚洲| 黑人黄片在线免费观看| 久草婷婷| 加勒比伊人| 自拍鲍鱼一区在线高清观看免费| 97青娱乐超碰久久| 久久综合97| 熟女六十路| 欧美情色贴图| 精品九九| 久久综合九九| 日本精品一区二区三| 亚洲高清无毛一区二区| 亚洲男人天堂Av| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 午夜男人的天堂| wwwcaobibi| a片亚洲一本通视频| 日韩欧美福利视频看看| 人妻天天夜夜爽一区二区| 亚洲综合色图欧美| 国产亚州精品美女久久久免费| 一级黄碟在线观看| 国产精品直播在线观看直播| 深夜啪啪啪视频免费| 夜夜夜爽www精品视频| 爱av免费| 啊嗯嗯啊好大好爽| 超碰成人公开| 色 亚洲 91| 日本欧美一区二区三区视频麻豆| 99国产精品在线观看| 欧亚日韩一区在线| 91蜜臀熟女| 91 欧美| 少妇蜜汁| 亚洲欧美一区二区网址| 性色乱AV一区二区| 久久久999| 人妻夜夜爽天天爽麻豆三区网站 | 日本天天操| 精品天堂| 亚洲有薄码区日本系列中文字幕| 国产精品欧美在线观看 | 欧美性夜| 亚 欧 美 综合| 神马久久久久久久| 嗯嗯嗯啊啊啊操的我好爽 | 爱啪精品一区| 亚洲欧美综合区自拍另类| 综合91网| 婷婷视频在线免费观看| 99热线麻豆 | 丝袜视频网国产90| 欧美性爱五月天| 亚洲欧美另类图片| 九九热精品免费视频| 国产无码精品无码| 欧美97日韩| 国产操偷| 91热热色| 少妇高潮99p| 黄色香蕉视频网站一区| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 亚洲男人天堂2013| 粉嫩在线一区二区懂色| 少妇的嫩逼图片| 国产乱码久久| 青娱乐999| 97就爱干| 99在线精品视频| 98人妻精品一区二区色欲| www.高清无码诱惑一区.com| 日韩午夜精品一区二区三区电影| 深夜激情| 久久综合日韩亚洲欧美| 日韩精品一区二区日韩| 一本大道青青| 中美日韩毛片| 8050午夜少妇无码| 天天做天天爱| 国产精品密臀网在线观看| 中国探花熟女| 久久在线观看免费视频| 亚洲综合图片在线| 91黑丝露脚| 亚洲中文字幕久久人妻| 91少妇高潮| 97资源欧美| 成人看片网站| 91丨九色丨国产丨人妻在线| 夜夜嗨老熟女AV一区二区三区| 亚洲一区二区三区久久 亚洲一区二区| 自拍偷拍草一草| 欧美日韩小说| 神马久久69| 日韩AV电影网站 | 亚洲AV色图| 啊啊啊啊啊好大好舒服想要| 丁香婷婷九月| 亚洲一区操| 久久国产精品一区二区| surenchaopeng| 欧美一级三级| 欧美日韩香蕉| 亚洲A曰本VA欧美VA视频| 操一对老熟妇爽上天视频| 久久m| 国精品一区二区三| 91久热| 国模艳艳啪啪一区| 我要去看2个日本美女.com曹逼| 久久成人东京热人妻| 无码久| 老熟女熟妇| 天天综合日韩网| 免费A V在线| 激情无码日韩| 岛国免费视频在线| 99re98| 97se亚洲| 青青草中日韩在线| 丰满少妇高潮无码| 久久久9品一区二区三区| 久久性爱视频| 精品成人av一区二区三区在线| 天堂俺去俺来也www久久婷婷| 操碰97| 亚州一区二区| 日本在线伊人啪啪| 精品国产乱码久久久久久久久久毛片| 亚洲男人综合网| 啊啊啊97视频| 免费农村成人少妇人妻Aa一区二区视频| 能看的av| 亚洲国产综合图区中文字幕| 欧美日韩中国x| 极品粉嫩少妇视频| 无码人妻丰满熟妇奶水区毛片| 日韩精品 资源| 九月色婷婷| 91碰碰碰| 久久久中文| 婷婷综合激情| 天天色播| 97色碰| 91九色网| 亚洲 日本 一 二 三| 五月婷婷综合网| 男人的天堂亚洲| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 亚州色图片在线色| 欧美日韩青操| 秋霞福利网| 高清不卡 中文 人妻| 久久视频,这里只有精品| 精品中文一区二区| 一区二区亚州激情久婷婷欧美| 色亚州人久干视频在线观看免费版| h色99999| 中文字幕精品三级久久久| 偷窥自拍亚洲| 亚洲性天堂| 国产免费黄色一级大片| 91看黄片| 日本操大逼|