亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Kubernetes上高可用PostgreSQL實(shí)戰(zhàn):CloudNativePG部署與故障切換指南

Kubernetes上高可用PostgreSQL實(shí)戰(zhàn):CloudNativePG部署與故障切換指南 不少團(tuán)隊(duì)在K8s上部署高可用PostgreSQL時(shí)第一反應(yīng)是照搬裸機(jī)上的老經(jīng)驗(yàn)起三個(gè)Pod、配置流復(fù)制、再掛一層負(fù)載均衡或者VIP。結(jié)果折騰到半夜發(fā)現(xiàn)K8s的探針、調(diào)度、網(wǎng)絡(luò)模型每一樣都在跟數(shù)據(jù)庫(kù)的模式較勁。我做了一輪完整的部署、壓測(cè)和故障演練之后把整套方案固化成了下面這份文檔。這篇文章主要針對(duì)已經(jīng)有K8s基礎(chǔ)、想在集群內(nèi)部運(yùn)行生產(chǎn)級(jí)PostgreSQL的運(yùn)維或平臺(tái)工程師也會(huì)照顧到剛接觸有狀態(tài)服務(wù)的同學(xué)盡量把每個(gè)選擇背后的原因講透。我最終選型的是基于Operator的原生方案——CloudNativePG用它管理一個(gè)三副本的高可用PostgreSQL集群。選它的理由、部署步驟、參數(shù)含義、故障切換實(shí)測(cè)結(jié)果、備份恢復(fù)演練以及踩過(guò)的那些沒(méi)寫在官方文檔里的坑下面全部展開(kāi)。1. 有狀態(tài)應(yīng)用進(jìn)K8s為什么比無(wú)狀態(tài)難一個(gè)量級(jí)無(wú)狀態(tài)服務(wù)在K8s里是好公民ReplicaSet只管Pod數(shù)量HPA只管擴(kuò)縮容ConfigMap一掛重啟完事。但數(shù)據(jù)庫(kù)進(jìn)了K8s至少要跨過(guò)三道坎。第一道坎是數(shù)據(jù)盤和節(jié)點(diǎn)的綁定關(guān)系。一個(gè)無(wú)狀態(tài)Pod在節(jié)點(diǎn)宕機(jī)后可以立刻在別處重建但數(shù)據(jù)庫(kù)Pod的數(shù)據(jù)目錄往往是本地卷或者RWOReadWriteOnce云盤新Pod要等存儲(chǔ)層的調(diào)度和掛載完成后才有機(jī)會(huì)真正啟動(dòng)。換句話說(shuō)K8s的調(diào)度器可以秒級(jí)重建一個(gè)空殼Pod但存儲(chǔ)層不可能秒級(jí)把幾百GB的數(shù)據(jù)“搬”到新節(jié)點(diǎn)。這也是為什么數(shù)據(jù)庫(kù)高可用不能指望“Pod重啟”來(lái)解決必須靠數(shù)據(jù)庫(kù)自己的復(fù)制機(jī)制。第二道坎是角色和拓?fù)涞拇嬖?。K8s的Deployment只能告訴你“我要3個(gè)副本”它不關(guān)心這三個(gè)副本誰(shuí)是主、誰(shuí)是備、誰(shuí)在追趕WAL。但PostgreSQL高可用集群恰恰最關(guān)心這個(gè)。裸機(jī)上我們習(xí)慣用Keepalived搶VIP、用etcd做選主、用HAProxy做流量分發(fā)這套組件在K8s里面全部要重寫一遍而且K8s本身沒(méi)有VIP概念Service的Endpoints更新又是個(gè)異步過(guò)程。第三道坎是探針的誤判。K8s用livenessProbe和readinessProbe來(lái)管理Pod生命周期但數(shù)據(jù)庫(kù)有自己的健康語(yǔ)義——比如備庫(kù)短暫追不上主庫(kù)是正?,F(xiàn)象如果readiness探針在這種時(shí)候把備庫(kù)摘出去故障轉(zhuǎn)移發(fā)生時(shí)你可能連一個(gè)合格的備庫(kù)都找不到。反過(guò)來(lái)liveness探針如果過(guò)于激進(jìn)網(wǎng)絡(luò)抖動(dòng)一次就可能把主庫(kù)Pod干掉觸發(fā)一次毫無(wú)必要的failover。所以結(jié)論很明確在K8s上做高可用數(shù)據(jù)庫(kù)本質(zhì)上不是“把數(shù)據(jù)庫(kù)塞進(jìn)容器”而是“讓K8s的調(diào)度、探針、網(wǎng)絡(luò)模型去適配數(shù)據(jù)庫(kù)復(fù)制、選主、腦裂防護(hù)這套自有邏輯”。能把這層適配做干凈的目前只有Operator模式。2. PostgreSQL高可用方案選型為什么最終選了CloudNativePG我最早考慮過(guò)三條路線踩過(guò)一輪評(píng)估之后才定的方向。簡(jiǎn)單說(shuō)自己搭Patroni全家桶、用托管類Operator、用云上全托管數(shù)據(jù)庫(kù)這三條路線各有各的取舍。2.1 三條路線的橫向?qū)Ρ确桨附M件復(fù)雜度故障轉(zhuǎn)移邏輯歸屬適合場(chǎng)景常見(jiàn)痛點(diǎn)Patroni etcd HAProxy 自建高外部編排器對(duì)選主邏輯有強(qiáng)定制需求etcd本身要3節(jié)點(diǎn)、升級(jí)鏈路長(zhǎng)、排障牽扯面廣CloudNativePG 這類數(shù)據(jù)庫(kù)Operator中K8s控制器集群已經(jīng)重度K8s化、希望聲明式管理需要對(duì)CRD有信任跨大版本升級(jí)需謹(jǐn)慎云廠商全托管RDS低云平臺(tái)不想管理數(shù)據(jù)庫(kù)、能接受一定鎖定網(wǎng)絡(luò)路徑出集群、部分SQL能力受限我個(gè)人的判斷是如果你的業(yè)務(wù)已經(jīng)跑在K8s里而且短期不會(huì)遷走用Operator把數(shù)據(jù)庫(kù)納管進(jìn)來(lái)收益遠(yuǎn)大于成本。它把備份、故障轉(zhuǎn)移、滾動(dòng)升級(jí)、存儲(chǔ)配置全部收口到CRD和控制器里你可以用管理Deployment的方式來(lái)管理數(shù)據(jù)庫(kù)集群這在運(yùn)維心智上是巨大的減負(fù)。2.2 CloudNativePG的架構(gòu)精髓一實(shí)例一Pod不共享數(shù)據(jù)盤CloudNativePG的核心設(shè)計(jì)跟傳統(tǒng)“共享存儲(chǔ)集群軟件”完全不同。它不給多個(gè)Pod掛同一個(gè)存儲(chǔ)卷而是每個(gè)PostgreSQL實(shí)例一個(gè)PodPod之間通過(guò)標(biāo)準(zhǔn)的流復(fù)制協(xié)議保持?jǐn)?shù)據(jù)一致。這套邏輯和Patroni在裸機(jī)上的主備同步非常像但編排層被Operator接管了。簡(jiǎn)單類比Patroni加etcd像是在家里自己裝一套中央決策系統(tǒng)而CloudNativePG是把決策系統(tǒng)內(nèi)置進(jìn)了“物業(yè)公司”——控制器監(jiān)控每個(gè)Pod的狀態(tài)當(dāng)主節(jié)點(diǎn)不可達(dá)時(shí)控制器會(huì)根據(jù)一份預(yù)先定義的規(guī)則選出數(shù)據(jù)最新的備庫(kù)并提升為主庫(kù)然后自動(dòng)修改Service的后端Endpoints。整個(gè)過(guò)程不需要人在半夜爬起來(lái)敲命令。還有一個(gè)容易被忽略的點(diǎn)它默認(rèn)不依賴etcd這類額外組件選主用的是一套基于quorum的機(jī)制。這意味著整個(gè)高可用方案的“可故障面”少了一大塊etcd集群自身出問(wèn)題的概率被直接消除了。3. 先把環(huán)境磨平Operator安裝與存儲(chǔ)層準(zhǔn)備選型定了之后我開(kāi)始準(zhǔn)備環(huán)境。這里多說(shuō)一句不要急著創(chuàng)建Cluster資源先花十分鐘把Operator裝好、把StorageClass確定下來(lái)否則后面大概率要推倒重來(lái)。3.1 版本搭配與前置檢查我用的K8s版本是1.28左右CloudNativePG Operator對(duì)K8s版本和PostgreSQL鏡像版本都有一套兼容矩陣建議在官方release頁(yè)面確認(rèn)一下你的組合在支持列表內(nèi)。操作前先檢查集群狀態(tài)kubectl get nodes -o wide kubectl version --short kubectl get crd | grep cnpg如果沒(méi)有CRD說(shuō)明Operator還沒(méi)裝按下一步安裝。這個(gè)前置檢查很重要我見(jiàn)過(guò)有人直接apply一個(gè)Cluster定義結(jié)果CRD不在報(bào)了一堆奇怪錯(cuò)誤浪費(fèi)了不少時(shí)間。3.2 安裝Operator和kubectl插件官方支持Helm安裝和直接apply manifest兩種方式我用的是Helm好處是后續(xù)可以跟著operator的版本走h(yuǎn)elm repo add cnpg https://cloudnative-pg.github.io/charts helm repo update helm install cnpg cnpg/cloudnative-pg \ --namespace cnpg-system \ --create-namespace \ --set replicaCount2這里把replicaCount設(shè)為2是給控制器本身做了一份高可用副本避免控制器單點(diǎn)。Operator裝好后強(qiáng)烈建議再裝官方提供的kubectl插件cnpg后面查看集群狀態(tài)、發(fā)起備份、手動(dòng)切換主庫(kù)都會(huì)用到kubectl krew install cnpg3.3 存儲(chǔ)層本地盤還是云盤以及最容易踩的ReclaimPolicy高可用數(shù)據(jù)庫(kù)對(duì)存儲(chǔ)延遲非常敏感。流復(fù)制本身不需要共享存儲(chǔ)但每個(gè)實(shí)例的WAL日志寫入要快。如果條件允許優(yōu)先給數(shù)據(jù)庫(kù)Pod掛本地NVMe盤如果用的是云上CSI卷要特別注意兩個(gè)參數(shù)。第一個(gè)是reclaimPolicy。我見(jiàn)過(guò)不少集群把默認(rèn)StorageClass的回收策略設(shè)成了Delete一旦誤刪PVC底層云盤跟著沒(méi)了數(shù)據(jù)直接清零。數(shù)據(jù)庫(kù)場(chǎng)景強(qiáng)烈建議改成Retain。apiVersion: storage.k8s.io/v1 kind: StorageClass metadata: name: local-nvme provisioner: local.csi.openebs.io reclaimPolicy: Retain volumeBindingMode: WaitForFirstConsumer allowVolumeExpansion: true第二個(gè)是volumeBindingMode。這里用WaitForFirstConsumer是為了讓K8s先把Pod調(diào)度到某個(gè)節(jié)點(diǎn)再在那個(gè)節(jié)點(diǎn)上創(chuàng)建卷。這樣做的好處是卷和Pod在同一個(gè)節(jié)點(diǎn)上避免Pod已經(jīng)啟動(dòng)、卷還在跨節(jié)點(diǎn)掛載的等待時(shí)間。如果你只是想快速驗(yàn)證整套流程跑一個(gè)小型本地測(cè)試集群也可以用local-path-provisioner這類輕量方案。但記住一條原則任何存儲(chǔ)層方案都必須支持WaitForFirstConsumer否則數(shù)據(jù)庫(kù)Pod的啟動(dòng)時(shí)序會(huì)變得不可控。4. 三副本Cluster規(guī)格說(shuō)明書(shū)一份能直接改的YAML環(huán)境準(zhǔn)備好之后真正的核心工作就是寫Cluster定義。這份YAML是整個(gè)高可用方案的靈魂我在這里踩的坑也最多所以逐字段拆開(kāi)講。4.1 一份可直接實(shí)測(cè)的Cluster YAML下面這份配置我加了注釋你可以直接復(fù)制改參數(shù)但務(wù)必先看后面的字段解釋apiVersion: cnpg.io/v1 kind: Cluster metadata: name: postgres-ha namespace: database spec: instances: 3 imageName: ghcr.io/cloudnative-pg/postgresql:16.4 storage: size: 20Gi storageClass: local-nvme affinity: podAntiAffinity: requiredDuringSchedulingIgnoredDuringExecution: - topologyKey: kubernetes.io/hostname labelSelector: matchLabels: cnpg.io/cluster: postgres-ha postgresql: parameters: shared_buffers: 512MB max_connections: 300 synchronous_commit: on wal_keep_size: 512MB max_wal_senders: 10 pg_hba: - host all all all md5 bootstrap: initdb: database: appdb owner: appuser secret: name: app-db-secret backup: volumeSnapshot: className: local-nvme-snapshot monitoring: enablePodMonitor: true4.2 幾個(gè)關(guān)鍵字段為什么非配不可先看instances: 3。三副本是高可用數(shù)據(jù)庫(kù)的基礎(chǔ)形態(tài)。兩個(gè)副本雖然也能做主備切換但一旦備庫(kù)宕機(jī)主庫(kù)就失去了故障轉(zhuǎn)移的“后備力量”。三副本意味著即使一個(gè)節(jié)點(diǎn)下線仍然有足夠的備庫(kù)可以承擔(dān)選舉。再來(lái)看affinity這段。requiredDuringSchedulingIgnoredDuringExecution是硬反親和配合topologyKey: kubernetes.io/hostname可以強(qiáng)制三個(gè)副本落到三個(gè)不同節(jié)點(diǎn)上。這一步?jīng)]做對(duì)等于把三個(gè)雞蛋放在同一個(gè)籃子里——節(jié)點(diǎn)一宕整個(gè)集群可能全部不可用。然后看postgresql.parameters。這里有一個(gè)很微妙的權(quán)衡synchronous_commit: on保證主庫(kù)在收到備庫(kù)確認(rèn)后才提交事務(wù)可以做到RPO幾乎為零但對(duì)高并發(fā)寫入會(huì)有明顯性能損耗。如果業(yè)務(wù)允許幾秒內(nèi)的數(shù)據(jù)丟失可以把這一項(xiàng)改成off切換速度可以更快寫入性能也更接近單機(jī)。我在壓測(cè)中的經(jīng)驗(yàn)是默認(rèn)先開(kāi)同步等業(yè)務(wù)反饋寫入延遲是否可以接受再?zèng)Q定是否降級(jí)。最后看bootstrap.initdb。初始化階段最好直接用Secret方式創(chuàng)建數(shù)據(jù)庫(kù)用戶而不是把明文密碼寫在YAML里。Secret可以先手動(dòng)創(chuàng)建再在Cluster里引用Operator會(huì)在初始化時(shí)自動(dòng)把賬號(hào)建好。kubectl create secret generic app-db-secret \ -n database \ --from-literalusernameappuser \ --from-literalpasswordYourStrongPassword4.3 探針和PDB很多人忽略的下半場(chǎng)Cluster里的實(shí)例Pod會(huì)由Operator自動(dòng)生成對(duì)應(yīng)的探針配置但我還是建議在生成的StatefulSet或Deployment上再檢查一下探針參數(shù)。CloudNativePG默認(rèn)生成的readinessProbe用的是pg_isready這比直接執(zhí)行SQL更溫和。重點(diǎn)是把initialDelaySeconds適當(dāng)調(diào)大因?yàn)镻ostgreSQL實(shí)例剛剛啟動(dòng)時(shí)要恢復(fù)內(nèi)存中的shared buffer一個(gè)健康的備庫(kù)也可能需要十幾秒才能完全進(jìn)入就緒狀態(tài)如果探針太急會(huì)出現(xiàn)備庫(kù)反復(fù)被摘除又加回來(lái)的現(xiàn)象。另一個(gè)必須提前創(chuàng)造的是PodDisruptionBudgetPDB。PDB的作用是告訴K8s節(jié)點(diǎn)維護(hù)時(shí)同一個(gè)時(shí)間點(diǎn)最多只能刪掉一個(gè)數(shù)據(jù)庫(kù)實(shí)例。否則你執(zhí)行kubectl drain的時(shí)候K8s調(diào)度器很可能一次性把多個(gè)副本都打掉集群就直接癱瘓了。apiVersion: policy/v1 kind: PodDisruptionBudget metadata: name: postgres-ha-pdb namespace: database spec: minAvailable: 2 selector: matchLabels: cnpg.io/cluster: postgres-ha這里minAvailable: 2意味著任何主動(dòng)驅(qū)逐操作比如drain最多只能讓一個(gè)副本不可用給故障轉(zhuǎn)移留足了緩沖。5. 故障演練實(shí)錄把主節(jié)點(diǎn)拔掉之后發(fā)生了什么配置寫好了YAML apply上去Pod也起來(lái)了但這只是開(kāi)始。真正檢驗(yàn)高可用方案的唯一標(biāo)準(zhǔn)是故障發(fā)生時(shí)的真實(shí)表現(xiàn)。所以我做了一輪完整的故障注入測(cè)試步驟和觀察點(diǎn)都記錄在這里。5.1 第一步確認(rèn)三副本同步狀態(tài)故障注入之前先看集群正常狀態(tài)。三個(gè)實(shí)例都Ready其中一個(gè)角色是Primary另外兩個(gè)是Standby彼此延遲極小。kubectl cnpg status postgres-ha正常情況下輸出里能看到類似下面的信息注意查看WAL延遲列實(shí)例角色狀態(tài)延遲postgres-ha-1PrimaryReady-postgres-ha-2StandbyReady0spostgres-ha-3StandbyReady0s如果延遲單位是秒或更大先不要做故障演練應(yīng)該先檢查網(wǎng)絡(luò)和磁盤IO。備庫(kù)追不上主庫(kù)的時(shí)候強(qiáng)行切換等于把數(shù)據(jù)丟失風(fēng)險(xiǎn)直接暴露給生產(chǎn)。5.2 第二步模擬主庫(kù)物理故障最真實(shí)的故障是節(jié)點(diǎn)級(jí)宕機(jī)但為了可控我先做了一次Pod級(jí)刪除模擬“主庫(kù)進(jìn)程被誤殺”的場(chǎng)景# 先找到當(dāng)前主庫(kù)Pod PRIMARY_POD$(kubectl get pods -n database -l cnpg.io/clusterpostgres-ha \ -o jsonpath{.items[?(.metadata.labels.roleprimary)].metadata.name}) # 刪掉它 kubectl delete pod $PRIMARY_POD -n database刪除命令執(zhí)行后我開(kāi)始計(jì)時(shí)并持續(xù)觀察集群行為。大約幾秒后Operator檢測(cè)到主庫(kù)不可達(dá)開(kāi)始在兩個(gè)備庫(kù)之間發(fā)起選主。選主的邏輯并不復(fù)雜誰(shuí)的WAL位置最新誰(shuí)就優(yōu)先被提升為新的Primary。在我們這次模擬項(xiàng)目X的實(shí)測(cè)里切換耗時(shí)大概在20秒到40秒之間主要取決于探針掃描周期、選舉時(shí)間和Service Endpoints的傳播延遲。新主產(chǎn)生后Operator會(huì)自動(dòng)把往舊主的Service流量切到新主上。你不需要手動(dòng)調(diào)整任何東西這本身就是整個(gè)方案最值錢的地方。5.3 第三步觀察應(yīng)用側(cè)連接不中斷很多人在數(shù)據(jù)庫(kù)層做了高可用但應(yīng)用連接是固定的IP或者寫死的連接串這等于高可用只做了一半。業(yè)務(wù)側(cè)訪問(wèn)數(shù)據(jù)庫(kù)應(yīng)該通過(guò)Service而不是直接打到某個(gè)Pod IP上。CloudNativePG默認(rèn)會(huì)生成兩個(gè)Servicepostgres-ha-rw指向當(dāng)前Primary負(fù)責(zé)讀寫流量postgres-ha-ro在所有實(shí)例之間做負(fù)載均衡負(fù)責(zé)只讀流量在故障切換過(guò)程中postgres-ha-rw的Endpoints會(huì)自動(dòng)從舊主更新到新主。應(yīng)用如果用的是這個(gè)Service域名就能實(shí)現(xiàn)無(wú)縫切換。我在測(cè)試時(shí)用一個(gè)虛擬連接腳本循環(huán)建連、執(zhí)行select 1整個(gè)故障切換期間只出現(xiàn)了少量的連接超時(shí)和重連沒(méi)有出現(xiàn)徹底斷連的情況。5.4 腦裂怎么防quorum與fencing機(jī)制分布式的核心難題都在“腦裂”。如果網(wǎng)絡(luò)分區(qū)把集群分成兩半舊主和新主同時(shí)認(rèn)為自己是Primary就會(huì)出現(xiàn)雙寫數(shù)據(jù)一致性直接崩盤。CloudNativePG給出的方案是quorum思路備庫(kù)在提升之前會(huì)先嘗試確認(rèn)自己在多數(shù)派中。如果網(wǎng)絡(luò)分區(qū)導(dǎo)致一個(gè)備庫(kù)聯(lián)系不上其他副本它不會(huì)貿(mào)然提升。同時(shí)如果Operator檢測(cè)到舊主雖然不可達(dá)但進(jìn)程還活著它會(huì)嘗試對(duì)舊主執(zhí)行fencing操作把它的寫入能力“隔離掉”確保只有一個(gè)主節(jié)點(diǎn)在對(duì)外服務(wù)。這個(gè)機(jī)制我不建議你自己實(shí)現(xiàn)也不要試圖繞過(guò)去。我見(jiàn)過(guò)有人為了加快切換速度把quorum相關(guān)參數(shù)調(diào)得非常激進(jìn)甚至強(qiáng)制允許備庫(kù)在沒(méi)有任何確認(rèn)的情況下提升結(jié)果真的發(fā)生過(guò)雙主寫庫(kù)的慘案。6. 備份、恢復(fù)與日常維護(hù)高可用集群的最后一公里故障切換能跑通不等于集群可以不運(yùn)維了。高可用解決的是“無(wú)故障時(shí)不怕故障”備份恢復(fù)解決的是“故障已發(fā)生且數(shù)據(jù)損壞時(shí)還能兜底”。這兩件事是互補(bǔ)關(guān)系缺一不可。6.1 定期備份與WAL歸檔在Cluster定義里已經(jīng)配置了backup.volumeSnapshot這意味著Operator會(huì)基于CSI卷快照做物理備份。除了周期性快照還要配合持續(xù)性的WAL歸檔才能做到時(shí)間點(diǎn)恢復(fù)PITR。實(shí)際生產(chǎn)中我建議兩條腿走路基礎(chǔ)備份每天一次由ScheduledBackupCRD控制WAL歸檔持續(xù)開(kāi)啟把每天的WAL文件增量保存到對(duì)象存儲(chǔ)ScheduledBackup的定義類似這樣apiVersion: cnpg.io/v1 kind: ScheduledBackup metadata: name: postgres-ha-daily-backup namespace: database spec: schedule: 0 2 * * * cluster: name: postgres-ha backupOwnerReference: self引用backupOwnerReference: self是為了防止集群刪除時(shí)備份資源被誤刪這個(gè)參數(shù)很容易被漏掉。6.2 一次真實(shí)的恢復(fù)演練備份如果不做恢復(fù)演練等于沒(méi)有備份。我強(qiáng)烈建議每季度至少做一次完整的恢復(fù)演練。實(shí)操方式很簡(jiǎn)單用一個(gè)全新的名字從這個(gè)集群的備份中恢復(fù)出一個(gè)獨(dú)立集群然后驗(yàn)證數(shù)據(jù)。kubectl cnpg backup postgres-ha kubectl cnpg promote postgres-ha嚴(yán)格來(lái)說(shuō)恢復(fù)演練用的不是promote而是下面這種通過(guò)bootstrap恢復(fù)的方式apiVersion: cnpg.io/v1 kind: Cluster metadata: name: postgres-ha-restore-test spec: instances: 1 bootstrap: recovery: source: postgres-ha recoveryTarget: backupID: latest storage: size: 20Gi這個(gè)恢復(fù)集群起來(lái)之后我會(huì)執(zhí)行幾條關(guān)鍵的SQL檢查數(shù)據(jù)表行數(shù)、最新寫入時(shí)間、以及是否恢復(fù)到目標(biāo)時(shí)間點(diǎn)。整個(gè)過(guò)程如果能在半小時(shí)完成備份體系才算真正可靠。6.3 節(jié)點(diǎn)維護(hù)和版本升級(jí)的推薦順序日常運(yùn)維里最常見(jiàn)的兩個(gè)動(dòng)作是節(jié)點(diǎn)維護(hù)和PostgreSQL小版本升級(jí)。節(jié)點(diǎn)維護(hù)時(shí)正確流程是先cordon再drain。cordon讓調(diào)度器不再往該節(jié)點(diǎn)調(diào)度新Poddrain則會(huì)把已有Pod重新調(diào)度走。由于我們配置了PDB和反親和drain時(shí)Operator會(huì)等待故障轉(zhuǎn)移完成后才允許刪除Pod不會(huì)出現(xiàn)同時(shí)停兩個(gè)副本的情況。我的一次實(shí)測(cè)里兩節(jié)點(diǎn)同時(shí)維護(hù)耗時(shí)因?yàn)镻DB保護(hù)而被拉長(zhǎng)了一些但換來(lái)的是集群全程沒(méi)有單點(diǎn)故障這個(gè)等待是值得的。PostgreSQL小版本升級(jí)更簡(jiǎn)單修改Cluster里的imageName指向新版本鏡像apply之后Operator會(huì)按“先備庫(kù)、后主庫(kù)”的順序滾動(dòng)更新。升級(jí)前一定要看release note尤其是大版本之間的升級(jí)跨大版本通常需要先做邏輯備份再重建集群不建議原地直接改鏡像。6.4 日常巡檢清單最后分享一份我每天會(huì)看的巡檢清單都是很輕量的命令但能提前暴露大多數(shù)隱患檢查項(xiàng)命令預(yù)期結(jié)果Pod狀態(tài)kubectl get pods -n database所有實(shí)例Ready且持續(xù)運(yùn)行集群健康度kubectl cnpg status postgres-ha主備角色正常WAL延遲接近0WAL歸檔是否積壓查看對(duì)象存儲(chǔ)上的WAL目錄沒(méi)有大量未歸檔文件備份是否成功kubectl get scheduledbackup -n database最后一次備份狀態(tài)為Completed存儲(chǔ)容量kubectl get pvc -n database使用率未超過(guò)告警閾值這套巡檢不需要專門做一個(gè)大平臺(tái)一條cron腳本就能把這些命令串起來(lái)輸出到一個(gè)統(tǒng)一的地方。我個(gè)人的經(jīng)驗(yàn)是高可用數(shù)據(jù)庫(kù)很少死于單次故障多半是死于日常小問(wèn)題的累積——比如WAL歸檔悄悄失敗了一個(gè)星期、存儲(chǔ)使用率漲到90%沒(méi)人發(fā)現(xiàn)這些問(wèn)題遠(yuǎn)比一次主庫(kù)宕機(jī)更致命。最后再分享一個(gè)小技巧數(shù)據(jù)庫(kù)這類有狀態(tài)服務(wù)的變更永遠(yuǎn)不要在業(yè)務(wù)高峰時(shí)段做??赡艿脑挵压收涎菥氁舶才旁诹璩?。你會(huì)感謝那個(gè)在夜深人靜時(shí)給自己留出試錯(cuò)空間的決定。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
精品视频一区二区| 国模精品娜娜一二三区| 激情抓乳插进去啪啪啪日韩| 久都青青视频 | 欧美成人一级免费电影| 偷拍亚洲视频一区二区三区四区| 久久色情| 999久久久| 超碰97爽| 青青青国产手线观看视频2| 乱子伦一区二区三区国产精品| 午夜激情成人在线观看| 国产女人成人精品视频| 国产精品无套内谢| 久久最新视频免费观看| 无码逼| 日韩少妇无吗| oumeisetu综合| 精品三级在线专区| 精品美女少妇一区二区三区| 97色婷婷| 18啪啪手机免费性爱| 亚洲清纯唯美| 亚洲国产一级中文综合久久天堂在线免费观看 | 日韩免费在线视频观看| 风骚少妇视频中文字幕| 四季AV综合网址| 天天影视色香欲综合网小说| 亚洲AV不卡在线观看| 91 国产丝袜在线放观看| 97无码视频在线播放| 欧美日本一区二区a人| 国产日韩精品无码去免费专区国产| 日本一本一区二区三区四区五区欧美日韩中文字幕| 啊啊啊慢点| 九九热免费在线国产视频伊人五月| 极品久久久久久久久久久久久久| 日韩欧美操逼xxx| 亚洲综合草草| 欧美日韩婷婷中文| 职场同事知名国产国产精品久久欧美日韩| 中文字幕午夜精品久久久| 蜜臀无码一区二区| 97网址www| 人人操人人射人人干| 亚洲天堂热| 亚洲天堂性爱| 操逼操逼视频操逼| 亚洲国产一级黄色视频| 俺去俺来也在线www| 人人摸人人舔一区二区| 欧美日韩 强奸乱伦| 老熟妇乱轮| 亚洲美女av无码| 精品人妻av区天天看片| 精品福利| 色就色综合| 2020中文在线一区二区三区| 蜜臀99久久精品久久久懂爱| 人妻喷水| 91天天| 亚洲巨爆乳一区二区三区四季网| 欧美96交| 国产成人无码a| 亚洲第一精品在线视频| 91日本在线观看| 国产久久一区二区午夜| 久久久国产精品人妻丝袜| 黄呦呦在线| 免费国产| 人妻一二三区| 强奸乱伦av电影| www.色婷婷色综合| 69精品人人人人| 竹菊一区二区三区AV线| 天天艹天天日| 成人AV在线电影| 白丝AV网站| 亚洲成人妻日韩在线| 亚洲成成熟女人综合一区二区| 97超碰香蕉| 精品国产丝袜一区二区三区乱码| 青青草日韩无码| 97超碰中文字幕| 国产精品999aaa| 男人的天堂2018| 91N欧美| 我爱操| 大学生美女口爆| 国色综合天| 日韩欧美大力操| 欧美综合区| 国产高清在线观看欧美| 国产大片精久久久久久| 97视频900| 91天堂| 青娱乐久久艹| 九一国产精品| 亚洲Av无码成人精品国产| 亚洲一区二区麻豆影院| 国内一级精品| 五月婷在线| 日韩欧美天天爽爽爽天天爽爽| 午夜福利1区2区3区| 香蕉一区二区三区在线视频| BBBBB97COM| 91人妻做a观看视频| 青青操在线亚洲视频观看欧美在线| 青娱乐淫乱1314| 丁香成人五月天| 超碰九区| 亚洲 另类 丝袜 自拍 动漫| 强奸乱伦中文字幕AV| julia中文字幕在线观看| 波多野结衣一级视频| 男人下部插入女人下部| 中国AAAAAA黄色片| www.AV有限公司一区| 黑人精品一区二区在线播放| 大香蕉男人的天堂| 久久久精品国产亚洲AV无码| 欧美综合综合| 亚洲少妇喷视频看| 偷拍亚洲| 韩国毛片一区二区三区| 韩国轻伦国内自拍一区| 91丝袜在线播放| 久久精品国产99精品亚洲蜜...| 豆1无夜无码| 日韩精品资源专区二区| 东北老熟女| 91中出在线| 亚欧高清| 日本一二三免费久久| 草草电影院| 日韩9999| 91在线|亚| xxxx网站亚洲精品| 色视频蜜乳| 国产白丝在线| 丁香六月婷婷综合| 激情看片网站| 麻花传媒免费网站在线观看| 亚洲av青草久久一区二区| 秋霞色色影院| 免费视频97| 精品无码产区一区二| 丁香婷婷大香蕉| 欧美一区二区三区不卡高清视频| 黄骗免费网站| 青青草无码视频| 久久精品72| 中文字幕一区av| 欧美18老人禁| 一本一道人妻久久一区二区三区| 内射老妇BBWX0C0CK| 亚洲色图欧美色图在线播放| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 377p欧洲日本亚洲大胆| 91久久久久久| 99久久综合| 国产精品69人妻无码久久久| 国产乱伦性爱区| 9丨久久九九九| 日本男人天堂| 综合激情二| 丝袜人妻av一区二区| 精品无码秘 人妻一区二区| 久久亚洲日韩国产欧| 中文精品少妇天堂| 亚洲动态色图| 中文字幕黄片在线| 欧亚性爱啪啪| 乱人伦 国语对白:视频直接看| 精品国产乱码久久久久久久久1| 久久99网站| 久久午夜伦| 超碰爽人妻熟女Av| 久日91在线| 少妇人妻在线| 国产9 9在线 | 亚洲| 一区操逼日比视频| 亚洲精品第一| 9热9热综合网| 999色欧美中文字幕| 欧美自拍网| 蜜臀久久99精品久久久久久成人小说| 九九色图| 久久久久久久久久久久久久久乱码| 狠狠操天天干| 91欧美美女日韩国产婷婷| 成人综合网 欧美| 亚洲图片欧美另类综合免费视频大大香| 日韩一级二级三级免费看完整版国语版| 天天天天天超碰| 麻豆天美在线喷水AV| 亚洲资源站| 中文一区在线视频| 综合亚洲情色| 天天看天天日| 欧美日韩性爱操大逼| 久久夜夜夜夜| 不卡在线观看视频| 一,爱啪啪,在线免费视频| 日本一区二区三区欧美日韩中文字幕| 97超碰总站| 国产精品亚洲天堂网址| 欧美综合色站| 久久AV无码AV| 欧美日韩成人在线| 青娱乐啪啪视频| 99热超碰| 青青免费在线视频一区| 日本免费中文一区二区三区四区| 久久久女人| 日韩成人大片在线观看| 亚洲青色欧美| 久久久久亚洲AV无码专区少妇| 色狠人在线99| 欧美精品三级黄片| 亚洲资源网| 日本性爱网址| 亚州中文字幕超碰97| 91狠狠综合网| 小少妇| 欧美中日韩XXXX| 婷婷伊人网| 人妻精品一区一区三区蜜桃91| 后入式福利| 97人人夜| 精品人妻丰满熟妇一区二区三| 先锋女优在线观看视频| 日本三级中国三级99人妇网站| 极品美女嘿咻| 最近2019中文字幕国语免费版| 97爱啪| 加勒比无码一区二区三区| 91情色在线| 婷婷四五区| 亚洲高清视频在线免费观看| 久久精精区一区二区一蜜桃一区二区| 精品天堂| 60秒试看最爽10分钟网站| 青青色在线观看| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 福利风月五月天影院| 欧美日韩中文视频播放| 激情图片亚洲色图| 色婷婷成人综合| 十八禁成人网站在线观看| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 国产精品久久久无码aV去| 欧洲精品一二三在线| 青青国产精品在线| 日韩女模中文造逼| 看日韩操逼| 在线观看亚洲成人精品| 国产91丝袜在线播放蜜月| 天天看特黄的免费网站| 九久久九精品视频| 无码91| 婷婷五月丁香五月| 国产精品自产拍在线观看社区| 91天天综合| 日本一区二区中文字幕久久| 九九九999久久久网站| 欧美亚洲色的图| 青青草在线视频播放器| 亚洲综合在线91| 亚洲性猛交| 操逼999| 日韩视频小说在线观看| 欧洲小说色图视频另类| 97干色天堂| 日韩内射视频| 精品人妻一区二区乱码一区二区| 久久综合女优| 91在线国产后入风骚翘臀美女素人| 亚州色站 日韩电影| 久久久久久久久九九久孕交| 欧美亚洲高清不卡| 欧美亚洲清纯| 日本ZZ高免费A级视频| 香港久久久| 日韩精品午夜操呦呦不卡影院| 人妻五十路在线| 91欧美另类| 日韩电影天堂视频一区二区| 91美女看B| 欧美亚洲厕所精品偷拍91| 伊人991| 亚洲熟女一区| 亚洲好色人妻| 久草新在线| 国产精品久久久久久照片| 午夜欧美女人操逼| 中美日韩毛片| 久久超碰av在线| 男人的天堂va在线| 国产中文精品一区二区在线观看| 欧美日不卡| 9999九九九久久久| 韩国手机不卡无码三级视频| 日本一级一级一级一级| 加勒比伊人影院| 欧美色图亚洲激情| 精品国产久热在线观看| 中文一区二区| 老熟女熟妇| 成人天天爽| 国产精品久久久久久夜夜夜夜| 日本加勒比无码专区| 国产 无码 一区二区| 日韩中文字幕二区| 国产麻豆一区二三区| 色香AV| 少妇熟女1区2区3区| 八人操人人摸人人看| 亚洲AV免费在线| 综合色拍| 大香蕉专区| 色久综合| 欧美亚州综合网图片| 三级日韩一区二区三区| 九色婷婷| 精品少妇一区二区三区| 91啪啪| 长长久久88视频| 精精品人妻一区二区三区| 操逼天美3区| wuyechaopeng| 国产色产精品在线观看| 亚洲se91| 青青国产精品在线| 中文字幕日韩精品久久| 97超碰色屌| 国产亚洲精品精AV.| 久久爽爽精品| 99re69| 婷婷国产精品九区| 综合久久99亚洲人妻中文在线| 97免费视频在线观看| 无码精品一区二区三区潘金莲| 另类图片欧美激情综合| 草伊人高潮喷水超碰| 欧美午夜视频免费观看| rivers-china.com| 久久香蕉国产线看观看猫咪av| 欧美日韩国产人人| www.色操逼| 96一区二区三区| 99热最新网址| 最新日本中文字幕| 欧美色日本| 天天操夜夜嗨| 欧洲自拍第一页| 日本三级韩国三级99| 久久精品—区二区三区内射| 欧美性视频二区三区| 99热日本| 影音先锋视频在线| 1769成人国产精品视频| 亚洲欧美日韩中文久久自慰| 欧美日日夜夜| 中文字幕jul-617人妻熟女| 国模私拍一区二区三区神乳| 在线观看啊啊啊啊啊| 欧美精品丝袜久久久中文字幕| 熟女视频久久| 国产视频一区二区免费| 精品九九九九九| 亚洲色性| 日本加勒比无码专区一二三| 亚洲资源网| 国产传媒美日韩av| 少妇天堂网络| 99国产精品免费| 色婷婷综合久久中文字幕雪峰| 超碰人人超在线观看| 亚州AV无码国产精品| 老子午夜伦不卡影院| 超碰九7免费| 26uuu偷拍亚洲欧洲综合| 粉嫩绯色AV一区二区在线| 男人天堂无码| 欧美丝袜美女电影一二三四区| 久久骚| 大香蕉99热| 国产精品色哟哟| 日韩AV一区二区三区四四| 天堂资源欧美| 精品无人区麻豆乱码久久久| 亚 欧 美 综合| 欧美美女自慰一区二区三区| 婷色五月| 久久综合九九| 在线黄页看毛片| 操久久久久久| 黄色成品网站| 欧美少妇性乱| 国产风韵犹存熟妇三区| 997色在线| 亚洲熟妇AV日韩熟妇在线| 91欧美性| 久久久久久久唑| 家庭乱伦国产| 天天射,天天操,天天爽-国内精品一区二区三区-成人AV | 久久老熟女| 九九九色| 久久久 国产精品| 精品人人| 欧美洲精品一级| 91丨人妻丨国产丨丝袜| 人人模人人看| 欧美久热| 伊人少妇久久久| 中文字幕人妻资源在线| 日韩av在线播放不卡| 色五月婷婷麻豆在| 超碰在线在公开超碰在线在公开| 欧美97超碰| 国产主播福利| 日韩三级网址| 91综合色噜噜| 久久人人爽人人爽人人片Ⅴ| AV在线资源| 亚洲无码com| www.91久久| 91女优在线观看 | 久九色| 网页导航五月天免费一二三区 | 激情五月综合网| 97超碰精品图片| 亚洲日韩美女中文字幕乱| 91大神电影天堂| 久九9精品| 眼镜人妻101.com| 天天干天天干天天| 久久久久国产精品久久久| 欧美成人性爱视频免费观看| 高清不卡一二三区视频......| 99色在线| 亚洲色图欧美一区二区不卡| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 天堂伊人久久| 青娱乐91| 色偷偷综合91久久噜噜| 中文字幕一区二区三区人妻不卡| 无码人妻精品一区二区中文| 天堂69亚洲精品中文字| 久久动漫精品视频这里只有精品| 亚洲本色精品一区二区久久| 亚洲影院小综合| 国产精品白丝| 亚洲限制级| 国产精品宅男免费| 色香天天| 国产精品天干天干综合网麻豆| 国产亚洲精品第一最新| 3P丝袜熟女 色综合| 久操高青| 人人透人人操| 日产操逼| 久久久久幕乱码| 日韩成人色图| 国产精品免费美女视频| 少妇天堂| 欧美亚洲美少妇一区二区| 黄色电影观看久久9| 亚洲一二三四区在线免费看视频| 亚洲色鬼| 天天干天天干天天| 99这里只有精品国产| 国产一区二区久久| 国产精品午夜成人福利| 偷窥自拍A片| 人妻精品免费一二三区| 变态另类专区| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 超碰97最新人妻| 啊啊啊好湿久久| 国产91美女高潮| 亚洲激情av| 人人操人人摸人| 久久av一级av少妇av高潮| 欧美资源| 性色A∨91| 青草影院内射高潮| 精久久久91| 夜夜嗨AV蜜臀av| 亚洲综合激情五月久久| 综合久久婷婷| 国产夜夜艹| 丁香五月av| 精品久久久亚洲AV成人网站| 在线a v| www.91逼逼.com| 色色色色日本| 伊人久操| 九九aV| 夜夜嗨一区二区| 激情第四色| 色九九九九久| 亚洲精品国产av天美传媒| 欧美狠狠操| 久久熟女久| 人妻少妇无码| 亚洲影视综合| 性久久久| 欧美性巨大╳╳╳╳╳高跟鞋| 天天谢天天干| 色综合久| 伊人久久亚洲色欲综合网站| 啊啊啊啊好疼视频| 99久久99久久免费精品蜜臀| 三级日本一区二区三区| 亚洲密乳AV| 一本一道波多野毛片中文在线| 香蕉综合网| 欧美天天拍| 九九九九九九九九九五码| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 欧美日本视频一区| 欧美97av| 亚洲国产av中文字幕久久| 人人妻人人狠人人| 少妇人妻无码| 久久久9999| 一级免费啪啪片| 91女网站| 操逼操逼操| 一块操欧美性爱| 亚热日本熟女| 亚洲交性| 一区二区日韩欧美久久| 夜夜久久久| 男女激烈网站最新| 人妻在线大香蕉| 亚洲少妇视频| 激情国产乱伦Av| 久久亚洲不卡一区二区三区| 国产精品对白自产拍| 午夜福利无毒不卡| 清纯唯美激情四射| 竹菊一区二区三区AV线| 国产成人+综合亚洲+天堂| 亚洲情色 无码专区| 欧美性爱18观看| 亚洲av总站| 久操91视频| 樱花草社区www中国| 欧美福利视频啊啊啊啊| 99热这里只有精品9| 中出20p| 激情国产乱伦Av| 欧美日日网| 久久女婷| 日韩97视频| www.大香| 久久久久网站-538在线视频-欧美永久乱码 | 亚洲日韩欧美一区二区| 国产AAAAAABBBBB| 久久同城AV| 啊啊啊啊啊舒服| 高清在线偷拍自拍视频| 加勒比伊人综合| 久草视频分类在线| 亚洲精品电影| 久九干| 国产美女口爆吞精视频| 家庭乱伦网站国产| 亚洲一级特黄大片在线播放91| 亚洲一区二区三区在线激情| 日本肉体xxxx裸交| 超碰98综合网| 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 激情五月激情综合网| 日日干男人的天堂| 淫荡网址| www五月| 欧美顶级黄片AAAAA在线免费看| 日韩欧美中文| 超碰免费人妻人人| 西西美女视频网| 亚洲国产婷婷在线播放| 福利天堂| 91老熟妇| 日本大片日本一区二区免费高清| 欧美姓爱综合网| 久久99黄色卞西瓜| 中文字幕日韩精品一区二区三区| 精品人妻一区春色| av影院十区| 美女91| 操b在线观看| 亚洲精品官网在线观看| 九九热精品| AV老汉| 青青青草原| 国产高清亚洲日韩一区| 国产av又色又爽又黄| 久久久久9| 欧美在线伊人色| 中文字幕精品亚洲熟女| 日韩性爱啪啪视频| 久久香蕉国产线看观看猫咪av| 亚洲天堂中文字幕无码男同| 九九九九九用不成了| 亚洲蜜臀精品视频久久| 91P0RNY大屁股人妻| 操逼操操操91| 99热导航| 91色综合| 国产成人综合网| 色欲色香天天天综合网www-亚洲综合国| 拍拍拍拍大尺度黄色三级片拍拍拍拍拍照| 欧美一级A一级a爱片久久| 日本高清_区二区三区| 久久熟女人| 高清无码91| 亚洲AV噜噜狠狠网址蜜桃动漫| 九九热免费视频| 日日日色色色色色| 亚洲av无码成电影在线播放| 亚洲宅男天堂| 精品丰满熟妇人妻一区| 人妻 丝袜美腿 中文字幕| 台欧久久精品视频| 亚洲日韩精品一区二区| 成人性爱电影一区二区| 四虎在线免费视频| 成人精品一区二区91毛片不卡| 91在线页| 69一区二区| 婷婷中文字幕| 校园春色第一页| 大香蕉黄色一区| 999熟女精品| 日本免费人成视频播放120秒| 男人的天堂.com| 免费试看60秒| 青青青国产| 亚洲黑人在线| 天天综合色电影| 成人小电影网站tex| 色婷婷网| 欧美综合亚洲综合| 爱射综合| 人人模人人看| 久久夜夜夜夜| 欧美αv.com| 超碰97久久国| 国产三区免费在线观看| 久久精品一区二区三区蜜桃臀| 嗯啊抽插大香蕉网页| 亚洲欧美在线综合| 亚洲一本大道中文字幕无码在线| 啊啊啊啊好疼视频| 在线观看国产黄色| 青青久日| 丁香六月天| 91综合网站| 屌色在线97视频| 亚洲九九九| 日日AV加勒比| 五月天婷精品激情| 国产路线专区| 欧美狠狠弄| 26uuu性| 日日骚一区二区三区| 天天日少妇逼AV| 永久电影三级在线观看| 中文字幕十五区| 男女真人网18| 亚洲色91| 久热久操| 色墦五月丁香| 国产高清吃奶免费视频网站| 国产精品动态一区二区三区四四| 亚洲操逼网| A级国产欧美激情在线| 美女干逼2| 亚洲综合在线视频| 久久中文字幕一区不卡| 国产精品夜夜夜| 四虎永久在线精品免费网址 | 玖色av| 人妻一区二区三区| 亚洲国产成人精品无码专区| 美女91在线| 老女人碰碰在线碰碰视频| 婷婷色播婷婷| 天天色天天干天天爱| 97鸡把在线视频| 中文字幕久久精视频久久大全| 亚洲四虎熟女精品| 内射夫妻三片| 粉嫩av一区二区三区天美传媒| 久久少妇视频| 夜夜爽77777| aaaa黄片| 国产日韩区| 超碰97中文| 羞答答AV中文字| 九九热视频这里只有精品| 精品婷婷| 人妻人人做人人澡人人爽欧美一区| 色综合一区二区三区| 青青久日| 超碰97首页| 青青草视频久久久久| 无码又爽又硬又激情免费视频| 一区二区三区黄片免费观看| 日本熟女不卡视频| 欧亚日韩一区在线| 欧美一区二区| 1204人成网站色www| 欧美 青青草| 日本久久久久久久久| 97人人干人人操| 国模不卡| 白天啪啪晚上啪啪视频| 久久超碰国产一区二区三区| 亚洲久9| 人妻夜爽夜夜爽| 美女91色黄18| 亚州日韩97| 久久久久久久久九九久孕交| 美女露胸露屁股| 无码9区| 动漫av中文| 亚洲图片另类| 加勒比日本在线| 色欧美天天| 日本免费一级AAA大片器 | 99国产人成精品| 日韩激情无码影院| 九九国产热| 亚洲中文sv| 香蕉99秘 一区精品蜜桃臀| 日日嗷| 一区 欧美 日韩 麻豆| 中文字幕一区二区三区字幕| 日韩激情电影中文字幕| 色老久久| 天堂种子在线www网资源| wwwcaobibi| 操一操摸一摸| 熟女高潮合集-永久久久-成人AV| 射欧美综合| 久偷拍| 精品无码人妻一区二区免费蜜桃| 久久鲁夜| 91色s| 农村少妇久久久久久久| 色与欲影视| 深夜福利黄片| 大香蕉www.超碰| 日韩精品 视频一区二区| 郑州宾馆老熟女露脸啪啪| 国产一区二区在线电影| 欧美一级黄色18片免费看| 综合欧美日韩在线| 在线97在线| 国内三级自拍小视频在线观看| 中字幕人妻一区二区三区| 69少妇一区二区| 强奸乱伦大香蕉网| 男人的天堂2010| 欧美性暴力猛交XXXX| 一区二区视频你懂的| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 在线免费观看高清无码视频| 婷婷丁香九月| 99操碰| 日韩熟女精品无码专区一区二区| 日日噜噜夜夜久久亚洲一区二区| com 首页 18岁 禁区 女优 免费 精选 同城| 亚洲区小说| 国产精品美女久久久久久网站| 日本成人A片免费看| 色婷婷导航| 97人人爱人人做人人乐| 亚洲九九视频| 三级AV入口| 25国产精品免费观看| 91撸色网 玖玖网 欧美| 91黄射| 日本高清视频xxxx| 五月丁香啪啪啪| 欧美91精彩| 久操97| 亚洲 欧美日韩 另类| 久热大香蕉网站| 精品人人插人人操| 亚洲 中文 女同| 白嫩妹子国产骚| 秋霞一级A片黄色视频| www.狠狠| 亚洲精品国产熟女久久久| 99色网| 九九色精品| 走光一区92下载| 日本熟女不卡视频| 涩涩五月天| 天天弄天天操| WWW操逼| 日韩av影片在线观看| 不卡人妻少妇精品毛片一区23区视频| 俺也射| 黄页视频网站野外| 欧美精品第四五页中文字幕在线观看| 麻豆一区二区AV天美| 欧美日韩国产高清在线一二三区 | 亚洲人妻av| 啊啊啊啊啊好舒服视频| 少妇一级婬片免费放一级a性色.| 黄色AV影视| 91 偷| 激情视频网址| 午夜福利合集| 国产久久久久久久久一区二区| 亚洲丝袜99| 日韩无码a片| 国产美女激情| 亚洲第一免费视频| 久久香蕉超碰97国产精品| 丁香七月婷婷| 丰满翘臀美女影院视频| 国产三级片在线观看| 五月丁香啪啪啪| 青青草公开在线免费不卡视频| 国产强奸超碰AV| 丝袜狠狠草尤物 91| 97精品熟女少妇一区| 亚洲国内精品成人不卡| 岛国片国产成人亚洲播放| 91精品国久久久久久无码| 国产特级毛片AAAAAA高潮流水| 97人人爱人人做人人乐| 成人自拍三级在线观看| 天操老女人| 日韩Va亚洲va欧美Ⅴa久久| 伊人久久亚洲中文字幕不卡| 欧美精品99久久久**| 射丝袜大香蕉| 亚洲AV无码久久久国产精品 | 国产精品麻豆成人AV艾秋| 91天堂| 人妻 欧美 中文| 午夜福利在线合集| 91N综合网在线| 久久高清欧美国产| 天美av在线| 黄污污污污| 亚洲色婷婷久久91| 精品久久久久久久久久久久| 欧美精品日韩久久久九| 亚洲偷拍欧美激情| 久久久com| 91免费看一区二区三区| 吉川爱美亚洲二区在线 | 欧美色图 人妻| 一个人免费HD91视频| 青草一区二区| 天天综合香 ld视频| 一级黄色性爱A级片| 黄页网站成人免费| 国产四虎在线| 日韩国产乱子伦App| 清纯唯美综合| 色爱综合网欧美| 日本性爱少妇| 中文字幕欧美日韩三级| 中亚黄色三级大片| 嗯嗯啊中文字幕| 被男人添B超爽视频| 九七超碰人人乐| 欧美精品第四五页中文字幕在线观看| 国产一级操B视频| 成人性交午夜免费片| 宗合情欲网| 熟女突然公开看18禁影片 | 天天干天天日天天射黄色| 乱伦图av| 人妻三级在线中文字幕| 九草九九九| 国产60区。| 九九色逼| 2019久久久久久久久福利| 91国模| 亚洲国产精品久久久久婷婷老年| 欧美色棕合| 手机在线看片免费人成视频| 美女天天干| 啊啊啊啊免费视频| 国外91| 色哟哟-国产专区| 五月天久久久| 啪啪啪精品视频| a亚洲欧美色欲| 欧洲亚洲人妻无码高清久久三区四区| 九九夜精品九九在线| 1024香蕉视频| 26uuu国产免费观看| 欧美一区二区日韩三区| 九九综合久久中文字幕| 404操逼福利视频| 久久m| 亚洲美欧999| 一区二区三区精品黑丝白丝酒店对鸡| 久久久久久国产无码精品| 在线午夜成人无码视频| 色综合天天爱去电影网| 超碰97资源网亚洲| 亚州色阁| 熟妇人妻一区二区三在线| 免费的av网| 裸体美女国产免费久久久网站| 韩国一级做A片免费的| 人干人人人操人人摸| 91搞逼视频| 亚洲av无码国产精品字幕| 另类图片天天影视| 熟女精品日韩一区二区三区 | 人妻81p| 性爱Av免费| 日本成人A片网站| 国产日韩无码一区二区三区久久区| 久久东京热久久| 蜜臀网 一区| 亚洲精品国产拍免费91在线| 少妇蹲下买菜露大唇0| 物业黑人 AV一区| 九9热伊人| 蜜桃臀一区二区aV| 国产精品大屁股999| 天堂精品| 亚洲第二页| 精品国产99999| 欧美性夜| 欧美日本成人一区二区| 天天上日日上日韩精品| 麻豆视频国产一区二区| 高清无码一区二区三区| 又粗又长又爽在线观看| 国产亚洲精品农村妇女| 免费啪啪一级视频| 手机在线看片免费人成视频| 亚洲图片偷拍视频区| 婷婷五月天激情网| 日本三级久| wwe 天天干.com| 超碰98综合网| 国产久9| 91亚洲欧美激情| 国产精品 视频| 大香蕉黄色一级片免费看| 久久人人爽爽人人爽人人片αV| 亚洲成熟国产精品美女| 色噜噜综合网| 中文字幕在线观看第二页| 久久夜嗨| 一区超碰一区| 天天综合官网| 国产精品亚洲无码| 久久久 国产精品| 天美传媒国产原创中文字幕亚洲欧美另类| 中日无幕一二三四区| 成人在线视频一区| 久久大香蕉97| 欧洲在线性爱视频| 久久成人国产| 伊人久久88国产女| 高跟伊人julia ann| 日本幼女18+| 欧美高清18A片| 欧美日韩操逼嗦吊| 精品人妻夜夜草| 久久9999 | 亚洲日本激情| 国产精品9999| 久久98| 最新av中文字幕高清| 日韩亚洲中文字幕在线| 久久久五月天| 神马午夜久久久| 91色艳| 欧美日韩91| 精品人妻1237| 欧美九一精品久久久熟妇| 啊啊啊啊啊在线| 国产亚洲精品av一区| 国产av高清版| 麻豆人妻偷人精品无码视频| 试看60秒 爽| 欧美成人一级免费电影| 看黑人AV不卡| 日本三级精品| 精品偷拍13p欧美dodk视频| 1956日韩精品| 91久热| 人妻 中文 日韩| 九九热精品在线| 精品十八在线观看| 国产中文精品一区二区在线观看| 夜夜操天| 夜夜高潮夜夜爽夜夜爱爱一区| 亚洲图片激情综合另类| 最新加勒比丝袜在线| 欧美最婬乱婬爆婬牲视频| 国产人妖的免费的视频| 99丝袜福利在线播放| 欧亚 另类 久| 日本国产高清色www视频在线| 精品国产一区二区三区久久久蜜臀| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 日韩黄片影院| 精品国产乱码久久久久久影片| 暴力av在线| 熟女六十路| 色呦色呦色精品| 91午夜无码| 日韩在线97| 黄人人操人人操| 亚洲91色在线| 福利视频香蕉免费一区二区在线| 色婷婷av在线观看| 久久久精品,3| 成人网址在线观看| 97资源站国产精品| 一区二区三区机械有限公司| 成人欧美日超碰| 日本成人A片免费看| 日日黄色三级网站| 亚洲国产精品有声| 素颜老阿姨乱情色| 免费看A片毛毛片在线播| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 中文字幕精品三级久久久| 夜夜影视四色| 福利天天都操| 九九99精品| 美女久久久久久久久久久| 玖玖视频在线资源一区二区三区| 亚洲欧美碰碰| 日韩精品一二三四| 亚洲男人天堂网| 色狠人在线99| 免费人成在线观看网站品爱网| 免费网色网站| 综合操逼| 骚日日av| 青草视频在线看看看看看看看看看| 91亚洲人| 婷婷色香| 一区操逼日比视频| 99蜜月精品久久| 五月天综合网| 欧美性爽xyxOOOO| 大香网伊人久久综合网eew| 成人性爱视频在线看| 97天天插| 综合色图亚洲欧美| 日韩免费三级黄片电影| 亚洲国产丝袜在线观看| 精品人人插人人操| 亚洲天天操| 久久久久网站-538在线视频-欧美永久乱码| 一类无码操逼视频| 人妻熟女一区二区三区视频| 日韩99神马视频播放片在线播放| 浓厚中出中文字幕在线| 免费97视频| 猛交交| 午夜视频好爽啊| 天天肏夜夜肏| 夜夜嗷嗷一区二区| 亚欧性爱在线无码| 欧洲性爱无码区| 超碰精品人妻狠狠干| 欧美有码激情视频一区二区三区| 强奸乱伦免费网站| 91精品国产91久久久久久久久久久久| 青青国产精品在线| 中文一区在线视频| 欧美激情综合| 亚洲久久东京热一二三四五区视频| 日本三级韩三级99久久| 中文字幕奈奈美被公侵犯| 天天肏夜夜肏| 亚州综合AⅤ| 天天91~综合入口| 人妻日日干| 日韩免费福利在线观看| 欧美桃色网| 在线黄色污污网站| 大香蕉伊人色偷偷在线| 欧美丝袜制服久久| 日韩电影在线观看网址| 91精品国| 日韩不卡网操逼中文字幕日韩| 五月激情综合网| 黄骗免费| 日本性感人妻91| 久草看看看| 爱妻综合网| 美女大乳久久久久久久女人18| 九九伊人网| 老司机射| 涩涩涩综合| 啪啪视频免费在线观看| 69久久| 国产AV人人夜夜澡人人爽麻豆| 国产精品久久久久久夜夜夜| 色色色热| 久久HD| 91动漫操逼视频| 国产又黄又爽又刺激久久久久久| 日躁天天爽爽| 久久久久久人体| 97久久国产精品| 情侣操 逼视频99| 综合网亚| 97中文字幕色| 夜夜操91744565| 91在线|亚| 久久极品伊人| 欧美性爱五月天| 欧美色色色| 欧美日综合| 色色婷| 大香蕉手机视频| 亚洲综合在线高清| 国产亚洲99久久精品熟| 翘臀vidoes| 亚洲?V无码专区在线电影| 偷拍色图| 日韩欧美麻豆大片| 金莲网址| 粉嫩av平台| 91制服丝袜| 精品999日本| 97中文超碰| 欧美色色色| 新婚人妻扶着粗大强行坐下| 欧美日韩理论一区| 色女网日韩| 婷婷成人久久久精品| 91美女丝袜诱惑视频| 久久久久人妻| 国产又粗又又黄又猛| 日韩三级久久久| 久草视频制服诱惑| 欧美日韩一干二干| 欧美成人色| 色好看av| 91女在线观看| 亚洲aV性爱| 盗摄女人妻在线|