亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

容災方案模板如何落地:RTO/RPO計算與切換避坑指南

容災方案模板如何落地:RTO/RPO計算與切換避坑指南 簡介這是一份面向企業(yè)容災規(guī)劃、IT運維與架構設計人員的《容災方案》規(guī)范化寫作模板聚焦災備策略如何制定、恢復等級怎樣選擇、資源要素如何落地等關鍵問題適合作為制度文件或項目方案的底稿。壓縮包內(nèi)為1個Word格式文檔整體大小約73KB目前已有160人學習/下載。文檔采用模塊化結構開篇總結以高層訪談、業(yè)務影響分析、成本效益分析、合規(guī)要求與可擴展性為依托的容災設計原則并細致界定機房火災、電力故障及網(wǎng)絡攻擊等典型場景。正文依據(jù)恢復時間目標與恢復點目標將能力分為六級進而圍繞數(shù)據(jù)備份、備用數(shù)據(jù)處理、備用網(wǎng)絡、備用基礎設施、專業(yè)技術團隊、運行維護管理及災難恢復預案七個要素展開架構設計每個要素均給出了建設建議和資源需求分析。結尾還補充了云備份、虛擬化、異地站點選擇以及全天候監(jiān)控演練等建議可作為容災體系評審、項目申報或內(nèi)部制度編撰的實用參考。該模板兼顧理論框架與實操落地適合直接復制調(diào)整使用。1. 容災方案(模板).doc為什么一份空模板撐不起真實故障手里這份“容災方案(模板).doc”多半是從文庫下載的標準框架封面、目錄、風險分析、備份策略、恢復流程目錄齊全表格規(guī)整。但真正讓它失效的從來不是格式而是里面填的數(shù)字沒被認真算過——RTO 拍腦袋寫 2 小時RPO 抄同行寫 15 分鐘切換步驟只寫到“聯(lián)系廠商”演練記錄一欄全是“計劃中”。下面按著這份 doc 的章節(jié)順序把每欄該填什么、參數(shù)怎么計算、流程怎么推演講清楚再列出我在真實切換里踩過的五個坑。適合正在補交容災文檔的系統(tǒng)維護工程師也適合負責評審這類方案的人拿來做對照清單。2. 先把 RTO/RPO 和故障分級定死再填模板這兩個數(shù)字決定方案值多少錢2.1 用業(yè)務可接受的損失倒推 RTO/RPO而不是抄同行的值很多模板里“核心系統(tǒng) RTO≤2小時、RPO≤15分鐘”寫得很整齊問來源答參照某某大廠架構。這就是空模板最容易埋雷的地方。容災目標和恢復能力是兩件事能力由同步備份方案決定目標必須由業(yè)務能扛的損失倒推。我一般會請業(yè)務負責人回答三組問題系統(tǒng)中斷多久會造成多少實際營業(yè)額損失或合同違約丟失多長時間的數(shù)據(jù)你是否能向財務、監(jiān)管交差哪些訂單和報表事后可以補錄哪些必須原樣保留把答案換算成時間再除以 2 作為緩沖系數(shù)才是該寫進模板的目標值。比如業(yè)務說停 4 小時以內(nèi)可以人工引導客戶排隊那 RTO 就定 2 小時說丟 10 分鐘以上數(shù)據(jù)沒法交代那 RPO 就定 5 分鐘。緩沖是為了給切換操作留出錯空間真故障時一切都比預想慢一點。下面是一個我常用的目標值參照表具體值必須按業(yè)務訪談修正系統(tǒng)類別典型業(yè)務容忍建議 RTO建議 RPO數(shù)據(jù)同步要求核心交易/支付中斷 30 分鐘開始產(chǎn)生重大損失≤15 分鐘≤5 分鐘同步復制或?qū)崟r日志訂單/客戶主數(shù)據(jù)中斷 1 小時內(nèi)可接受人工引導≤30 分鐘≤15 分鐘半同步/秒級日志內(nèi)部 OA/協(xié)作中斷半天可接受≤2 小時≤30 分鐘分鐘級同步數(shù)據(jù)分析平臺中斷一天可接受≤4 小時≤1 小時小時級增量同步表格寫完后必須讓業(yè)務負責人和分管領導簽字。不是走形式是明確“這個目標是你認可的”否則真出了 3 小時數(shù)據(jù)丟失業(yè)務方第一反應是“誰定的 RPO 15 分鐘”。模板里如果沒有這一欄自己加一頁“目標確認與評審簽字”。2.2 故障分級表怎么寫等級、判據(jù)、響應人三列必須精確到人故障分級不是按設備壞了幾臺而是按業(yè)務損失范圍和時間來分。分級表的目的是讓當班人員在一分鐘內(nèi)決定“要不要啟動容災切換”。我常見的問題是把判據(jù)寫成“核心系統(tǒng)故障”“重大故障”什么叫核心、什么算重大兩個人有兩個解釋。判據(jù)必須數(shù)字化。故障等級判據(jù)滿足任一即升級響應負責人處置時限上報路徑是否啟動切換一級核心業(yè)務中斷超過 RTO 的一半或數(shù)據(jù)丟失風險達到 RPO或出現(xiàn) SLA 違約系統(tǒng)負責人 運維總監(jiān)立即響應15 分鐘內(nèi)決策10 分鐘內(nèi)上報 CTO/COO是二級非核心業(yè)務中斷或核心業(yè)務性能嚴重下降但未中斷模塊負責人1 小時內(nèi)處置并決策1 小時內(nèi)上報部門主管評估后決定三級單節(jié)點故障、部分功能降級業(yè)務未中斷當班運維4 小時內(nèi)修復記入日報否每一條判據(jù)都必須是硬條件比如“核心業(yè)務中斷超過 RTO 的一半”RTO 是 2 小時那 1 小時就是觸發(fā)點“數(shù)據(jù)丟失風險達到 RPO”意思是同步延遲已經(jīng)超過 RPO 目標不能只盯中斷。桌面推演時最容易吵起來的就是“這個算一級還是二級”把數(shù)字寫在表格里爭議立刻小一半。具體操作上故障分級表要貼在值班室的墻上也要存在內(nèi)部文檔庫監(jiān)控系統(tǒng)的告警級別和分級表一一對應。告警級別和故障級別如果不一致值班員會按監(jiān)控優(yōu)先級來判斷而不是按業(yè)務影響來判斷。模板里往往缺這一條對齊規(guī)則務必加上。2.3 “系統(tǒng)掛了”和“數(shù)據(jù)丟了”是兩件事恢復點到底指什么模板里“數(shù)據(jù)恢復點目標RPO”這一節(jié)經(jīng)常被寫成“備份保留 30 天”。這是完全兩回事。RPO 指的是數(shù)據(jù)能恢復到故障發(fā)生前的哪個時刻它取決于“最后一次能用的備份/日志點”不是“備份文件存了多久”。舉個例子數(shù)據(jù)庫每天凌晨 2 點全量備份二進制日志實時傳到災備端。如果災備端只是接收日志、沒有持續(xù)應用那么故障發(fā)生在上午 11 點可恢復點仍然可能是凌晨 2 點而不是 10:59。只有災備端把這些日志連續(xù)應用并落盤恢復點才會接近故障時刻。所以模板里必須分兩欄寫數(shù)據(jù)備份保留周期數(shù)據(jù)同步與日志應用方式。前者回答“我能回溯多少天”后者回答“我能離故障時刻多近”。組件備份/同步方式最近可用恢復點影響 RPO 的瓶頸備注主數(shù)據(jù)庫全量凌晨 2 點 日志實時傳輸并應用故障前最后一條已應用日志日志應用延遲延遲超過 300 秒需告警配置中心配置變更記錄 每 5 分鐘導出最近一次導出點導出任務是否成功對象存儲保留 7 天對象存儲跨區(qū)域復制復制目標端最后同步時間復制隊列積壓每天檢查積壓數(shù)量同樣的邏輯也適用于 RTORTO 不是“數(shù)據(jù)庫進程啟動時間”而是“業(yè)務能對外提供完整功能的時間”。完整功能包含登錄、查詢、下單、消息推送任何一個依賴服務沒恢復都不能算恢復。因此寫方案時把“數(shù)據(jù)恢復時間”“應用恢復時間”“依賴恢復時間”三個字段分開列最后回填到切換流程里才能避免把局部成功宣傳成整體恢復。這也是評審時最容易被問倒的地方。3. 逐節(jié)拆解模板拓撲、同步方式、切換流程這三處最容易填成廢話3.1 文檔頭、術語表和職責矩陣模板的占位說明留不得從文庫下載的模板第一頁基本是“項目名稱、編制人、日期”的占位符。很多人只改了項目名就往下交。但真正決定這份方案能不能在故障時被執(zhí)行的是最不起眼的三個部分版本記錄、術語表、職責矩陣。版本記錄至少要有日期、修改人、修改內(nèi)容三列并且每次演練后都要加一行。否則現(xiàn)場拿到的方案自己都不知道是不是半年沒更新的舊版。術語表需要把 RTO、RPO、災備中心、切換、回切這些詞統(tǒng)一解釋一遍因為業(yè)務、運維、管理層對“切換”的理解經(jīng)常是完全相反的。職責矩陣比人員名單更實用寫清每個階段“誰有權拍板、誰來操作、誰來驗證、通知誰”。階段決策人執(zhí)行人驗證人通知對象時限故障發(fā)現(xiàn)、定級當班運維當班運維監(jiān)控系統(tǒng)值班長5 分鐘一級故障升級運維總監(jiān)值班長無CTO/COO10 分鐘啟動容災切換運維總監(jiān) 業(yè)務負責人系統(tǒng)工程師業(yè)務代表全員公告15 分鐘災備業(yè)務驗證業(yè)務負責人應用工程師業(yè)務代表客服/客戶經(jīng)理30 分鐘回切決策運維總監(jiān) 業(yè)務負責人系統(tǒng)工程師業(yè)務代表全員公告回切窗口內(nèi)特別注意執(zhí)行人一欄寫崗位不要寫具體人名。我見過某份方案把切換執(zhí)行人寫成一位已經(jīng)離職的同事真故障時所有人看著這個空位不敢動。崗位定義之后人員變動只需要更新排班表不需要改方案正文。3.2 容災拓撲怎么畫生產(chǎn)中心、災備中心、同步鏈路一個不能少拓撲圖不需要畫得多漂亮但必須包含四個信息生產(chǎn)中心與災備中心各自的范圍每條數(shù)據(jù)同步鏈路的復制方式和方向鏈路帶寬與時延切換邊界。很多方案只畫了生產(chǎn)到災備兩條線旁邊標注“同步復制”看起來干凈卻丟失了大量決策信息。更重要的是拓撲要把依賴系統(tǒng)畫全。切換數(shù)據(jù)庫和應用只是第一步DNS 解析、負載均衡、認證中心、消息隊列、對象存儲這些外圍依賴如果還指向生產(chǎn)業(yè)務就會“切了個寂寞”。比如客戶端配置了固定 IP 直連生產(chǎn)DNS 切了也沒用負載均衡后端沒切換流量還是會進到老的服務池。要素生產(chǎn)環(huán)境災備環(huán)境依賴關系切換后需要改什么Web 入口/VIP生產(chǎn) SLB 地址災備 SLB 地址依賴 DNS、證書DNS 記錄、LB 后端池應用服務集群生產(chǎn)應用節(jié)點災備應用節(jié)點依賴配置中心、數(shù)據(jù)庫配置項、環(huán)境變量主數(shù)據(jù)庫生產(chǎn)主庫災備從庫/備庫同步鏈路、日志應用數(shù)據(jù)源地址消息隊列生產(chǎn)集群災備集群消費端連接客戶端連接地址對象存儲生產(chǎn)桶災備桶復制任務域名/路徑改寫在鏈路帶寬與時延的填寫上給一個經(jīng)驗值同城機房 RTT 小于 2 毫秒存儲層同步復制基本能接受跨城 RTT 超過 20 毫秒時同步復制會嚴重拖累生產(chǎn)寫入性能常見做法是降級為半同步或異步日志。模板里如果沒有“時延”這個參數(shù)欄請自己加因為它是選型同步方式的主要依據(jù)。3.3 數(shù)據(jù)同步方式選型和帶寬評估這塊最容易在兩年后翻車數(shù)據(jù)同步方式?jīng)Q定 RPO 上限帶寬決定同步是否能持續(xù)跟上。模板里“數(shù)據(jù)同步方案”一節(jié)通常只寫幾個字“主備庫實時同步”。具體用什么機制、多久校驗一次、帶寬夠不夠一個字都沒有。這里給一張對比表方便你直接替換到方案里。同步方式原理典型 RPO 能力對生產(chǎn)影響切換復雜度適用距離存儲層同步復制塊設備級鏡像秒級距離近時影響較小鏈路抖動可能拖慢 IO低存儲版本需一致同城/短距離數(shù)據(jù)庫日志同步日志實時傳輸并應用秒級到分鐘級低占用少量網(wǎng)絡與 IO中需處理一致點同城/跨城均可應用雙寫業(yè)務代碼同時寫兩中心亞秒級高需改造代碼、處理沖突高需設計補償機制任意定時備份傳輸周期性備份后傳到災備小時級低低任意選擇邏輯不復雜能接受 5 分鐘級 RPO日志同步是性價比最高的要求秒級則存儲層同步或應用雙寫。需要提醒的是存儲同步復制不是“買了就穩(wěn)”鏈路抖動會導致生產(chǎn)寫 IO 變慢災備端磁盤慢也會反過來拖生產(chǎn)。所以方案里要注明同步鏈路必須獨立于業(yè)務帶寬并且每季度壓測一次。帶寬評估我一般用一個經(jīng)驗公式帶寬需求Mbps≈ 每日增量數(shù)據(jù)量GB× 8 × 壓縮比系數(shù) × 峰值系數(shù) / 備份窗口小時/ 3600 × 1000。舉個例子每天日志增量 200GB文本類日志壓縮比按 0.3 算峰值系數(shù)取 2要求 4 小時傳完帶寬需求就是 200 × 8 × 0.3 × 2 / 4 / 3600 × 1000約 67Mbps。再考慮切換時繼續(xù)追增量實際申請帶寬建議留 30% 到 50% 余量至少申請 100Mbps。模板里不要只寫“帶寬 100M”要把這個計算過程留在附錄里方便兩年后數(shù)據(jù)量翻倍時重新評估。3.4 切換與回切流程必須精確到人、分鐘和具體命令模板里的“切換流程”常常寫著通知業(yè)務、停止生產(chǎn)、拉起災備、驗證。四個動詞就想覆蓋一次事故。真實切換至少有十步每一步都要有負責人、預計耗時、檢查手段和通過標準步驟操作負責人預計耗時通過標準1. 發(fā)布故障公告并凍結變更客服、CMDB 同時公告值班長5 分鐘公告已發(fā)出變更窗口關閉2. 停止生產(chǎn)寫入口掛維護頁/停接入運維工程師5 分鐘新寫入流量歸零3. 確認災備同步一致點查詢?nèi)罩緫梦恢肈BA10 分鐘延遲為 0無報錯4. 拉起災備數(shù)據(jù)庫切換主備角色DBA15 分鐘數(shù)據(jù)庫可讀寫5. 進行一致性檢查對比關鍵表行數(shù)/checksumDBA10 分鐘差異為 06. 切換配置中心與 DNS更新配置項/DNS 記錄應用工程師10 分鐘新域名解析指向災備7. 拉起應用服務集群啟動災備應用應用工程師10 分鐘健康檢查通過8. 驗證核心業(yè)務鏈路登錄/查詢/寫測試數(shù)據(jù)業(yè)務代表15 分鐘全部用例通過9. 對外公告恢復客服、客戶經(jīng)理同步運維總監(jiān)5 分鐘公告已發(fā)布10. 觀察窗口監(jiān)控連接數(shù)與錯誤率當班運維30-120 分鐘錯誤率低于閾值有些步驟可以并行但這張表是最慢路徑的基線。方案里必須寫清第 3 步和第 5 步的具體檢查命令和期望輸出比如“查詢同步狀態(tài)IO/SQL 線程均為 Yes延遲小于 300 秒”。沒有這些期望輸出操作者會憑感覺判斷是否一致這正是切換失敗的主要來源?;厍斜惹袚Q更容易翻車。災備端作為生產(chǎn)運行期間也會產(chǎn)生增量數(shù)據(jù)回切時必須把這些增量按相反方向同步回生產(chǎn)再做一致性校驗才能把流量切回來。模板里如果只有“切換”沒有“回切”直接補一節(jié)回切窗口選業(yè)務低峰期、先反向增量同步、校驗行數(shù)與 checksum、切換生產(chǎn)入口、做破壞性驗證。我見過最慘的一次事故就是在回切時數(shù)據(jù)不一致導致重復訂單比故障本身損失更大。4. 讓模板變成能跑的體系演練四步法加配套文檔而不是網(wǎng)盤里的擺設4.1 演練四步法從桌面推演到真切換每一步的產(chǎn)出物是什么容災方案最怕的是“文檔寫完了一次沒練過”。不演練的方案等于給領導看了張效果圖。責任心強也沒用因為很多細節(jié)只有跑一遍才會暴露。我建議把演練拆成四個遞進等級按季度和年度滾動執(zhí)行每一級都有明確產(chǎn)出物。演練級別操作內(nèi)容頻率建議產(chǎn)出物參與范圍桌面推演按方案逐條朗讀流程口頭模擬每季度流程修訂清單全體相關角色單組件模擬災備端拉起數(shù)據(jù)庫/存儲驗證同步每季度數(shù)據(jù)一致性報告DBA 運維半切換只將只讀流量或測試賬號切到災備每半年連通性與性能報告應用 業(yè)務代表實切演練低峰期按正式流程切換真實生產(chǎn)流量每年切換記錄 改進項全員桌面推演的成本很低但收獲最大。第一次推演大多會發(fā)現(xiàn)流程里有 3 到 5 處矛盾比如職責矩陣寫“DBA 執(zhí)行切換”可 DBA 的排班表上那天不在切換流程第 2 步“停止生產(chǎn)寫入口”和第 3 步“同步一致點”的邏輯順序反了冒然停寫會丟失最后一小段數(shù)據(jù)。推演的目的就是把這些問題改到紙上而不是留到故障時現(xiàn)場解決。單組件模擬用來驗證災備端本身是否可用。很多災備端數(shù)據(jù)庫從搭建就沒有再用過補丁落后、磁盤余量不足、同步作業(yè)早就失敗只有模擬時才會暴露。半切換則測試“流量改道”這一環(huán)DNS、負載均衡、客戶端緩存都可能在這里現(xiàn)形。4.2 配套腳本和 check 清單光有 doc 沒有 runbook 就是廢紙模板正文寫得再細也代替不了可執(zhí)行的操作卡。我們內(nèi)部叫“runbook”每個容災對象系統(tǒng)都要有一份。runbook 不必是復雜系統(tǒng)一個表格就可以操作步驟、執(zhí)行位置、檢查命令、期望輸出、失敗處理。關鍵是要讓一個不熟悉該系統(tǒng)的人也能照著做。步驟執(zhí)行位置檢查命令/操作期望輸出失敗處理1災備數(shù)據(jù)庫主機查詢主從同步狀態(tài)IO/SQL 線程均為 Yes延遲 300 秒聯(lián)系 DBA禁止繼續(xù)切換2災備數(shù)據(jù)庫主機檢查磁盤剩余空間剩余空間 200GB 或超過增量 2 倍清理并擴容后再繼續(xù)3生產(chǎn)負載均衡停用生產(chǎn)后端節(jié)點生產(chǎn)流量為 0確認維護頁已生效4災備應用主機啟動應用服務健康檢查接口返回 200查日志重復啟動步驟不超 3 次5災備環(huán)境執(zhí)行核心業(yè)務用例登錄、查詢、下單全部成功報告指揮啟動回退預案這些命令必須寫明“期望輸出”不能只寫“檢查是否正?!薄UG闆r下誰也說不清正常長什么樣有了期望輸出的對照執(zhí)行人一點不猶豫。失敗處理也要預先寫好比如“同步狀態(tài)異常時禁止切換”而不是“聯(lián)系 DBA 確定”因為故障現(xiàn)場的高壓環(huán)境里聯(lián)系 DBA 的結果往往是等 DBA 慢慢查半小時。腳本和 runbook 要進版本管理和方案 doc 一起發(fā)布并且每次演練后更新。常見做法是在內(nèi)部代碼倉庫建一個“容災”目錄每個系統(tǒng)一組方案 doc、切換腳本、checklist、演練記錄、復盤報告。這套東西不是一次性的是持續(xù)維護的運維資產(chǎn)。只把模板存在網(wǎng)盤里不管下次用的時候一定和你記憶中的版本不一樣。4.3 文檔版本管理與復盤機制模板要在演練后繼續(xù)活容災方案和代碼一樣必須版本化。每次架構變化都要觸發(fā)更新應用從物理機遷到虛擬化數(shù)據(jù)庫版本升級網(wǎng)絡分區(qū)變動業(yè)務系統(tǒng)下線。這些變化任何一個都會讓既有方案失效。模板里如果只有“編制日期”沒有“版本記錄”說明這份方案大概率已經(jīng)過期。我建議給模板加兩個機制一是每年評審機制到期由運維負責人發(fā)起評審確認 RTO/RPO 是否仍然被業(yè)務認可災備容量是否跟得上生產(chǎn)增長同步延遲是否在合理區(qū)間。二是演練后強制復盤機制每次實切演練結束后 5 個工作日內(nèi)必須輸出復盤報告列出“流程偏差、原因、改進動作、責任人”。復盤報告要回到文檔本身改錯的直接改到模板里而不是只寫一句“下次注意”。這就是讓 doc 從“被下載的模板”變成活文檔的關鍵。5. 容災方案落地避坑5 個讓模板失效的血淚點5.1 現(xiàn)象RPO 拍板寫 15 分鐘真故障丟了 3 小時增量數(shù)據(jù)某次故障后復盤方案白紙黑字寫著“RPO ≤ 15 分鐘”實際恢復時卻丟失了約 3 小時的數(shù)據(jù)。原因不是恢復操作失誤而是 RPO 目標與數(shù)據(jù)同步能力根本沒有對賬備份作業(yè)每 4 小時一次最后一次全量已經(jīng)跑了 2 小時日志傳輸鏈路中間斷了 1 小時沒人發(fā)現(xiàn)恢復時只能回到最后一次成功的備份點。RPO 是“寫出來的承諾”同步能力是“實際交付的水平”兩者差了一截。解決把 RPO 目標值除以 3 作為同步告警閾值。比如目標 15 分鐘那么同步延遲超過 5 分鐘就要告警超過 10 分鐘必須人工介入。同時每周統(tǒng)計一次“最近可用恢復點與當前時間”的差值把它做成儀表盤貼在運維周報里。這樣 RPO 從紙面數(shù)字變成可觀測指標不再是黑匣子。5.2 現(xiàn)象災備端切換成功業(yè)務卻連不上DNS 和接入層沒人管演練時數(shù)據(jù)庫和應用都起來了測試工程師輸入域名卻打不開頁面。查了半天發(fā)現(xiàn)切換腳本只切了數(shù)據(jù)庫與應用的 IP 地址DNS 解析還指向生產(chǎn)環(huán)境的 VIP負載均衡后端也仍然綁著生產(chǎn)節(jié)點。也就是說肚子里已經(jīng)換了系統(tǒng)門口的路標還指著舊地址。很多人默認“數(shù)據(jù)庫切了就代表容災成功”忘記了用戶只能通過入口訪問。解決在模板中把流量入口切換作為獨立步驟列出四類入口DNS 記錄、負載均衡后端、客戶端連接配置、CDN 回源地址。切換后必須做“從外部視角”的驗證比如從一臺不相關的主機執(zhí)行域名解析和健康檢查而不是在生產(chǎn)環(huán)境的服務器上自測。自測出現(xiàn)“本地通”的情況十有八九是走了本機 hosts 或內(nèi)網(wǎng)地址。5.3 現(xiàn)象災備機房從沒被讀過恢復時才發(fā)現(xiàn)磁盤滿了、補丁落后一次真實切換災備數(shù)據(jù)庫拉起來后只讀測試就報錯進一步看磁盤剩余空間只有幾 GB數(shù)據(jù)庫補丁落后生產(chǎn)兩年復制任務三個月前就因磁盤滿而失敗。原因是災備端一直處于“待機”狀態(tài)平時沒人巡檢備份作業(yè)報了錯也只是報警郵件躺在郵箱里。沒有業(yè)務流量不代表沒有運維任務災備端需要持續(xù)喂養(yǎng)。解決給災備端建立專項巡檢清單每天查同步狀態(tài)與延遲每周查磁盤容量、備份作業(yè)日志每月做一次“只讀拉起”測試至少把庫啟動起來跑幾條查詢每季度做完整冒煙。更重要的是把這些巡檢結果接入現(xiàn)有監(jiān)控平臺而不是靠人肉眼去看否則只要連續(xù)兩周沒人看這個方案就等于又回到了紙面狀態(tài)。5.4 現(xiàn)象切過去了回不來回切流程永遠只是模板里的一句話某系統(tǒng)故障時順利切到災備運行兩天后需要回切卻發(fā)現(xiàn)災備端產(chǎn)生的增量數(shù)據(jù)沒有同步回生產(chǎn)兩邊的庫存表行數(shù)差了幾十萬回切直接導致重復訂單。模板里的“回切”只有一句話“按照切換流程反向操作”完全沒寫增量同步和一致性校驗。災備端作為生產(chǎn)運行的每一分鐘都在產(chǎn)生新數(shù)據(jù)把這些數(shù)據(jù)弄回生產(chǎn)正是回切的關鍵。解決在方案中單獨寫回切章節(jié)故障恢復后業(yè)務繼續(xù)在災備端運行至少 24 小時選擇低峰窗口回切先做反向增量同步比較關鍵表的行數(shù)和 checksum差異歸零后再恢復生產(chǎn)流量回切后關閉災備端寫入口防止兩邊同時寫入造成腦裂。回切和切換一樣要寫入年度演練計劃至少每年實切一回否則項目里這最后一公里永遠是盲區(qū)。5.5 現(xiàn)象軟件授權到期了技術支持才說“只覆蓋安裝不覆蓋切換”有單位買的容災軟件授權里技術支持響應時限是“工作時間內(nèi) 48 小時”真在周六凌晨發(fā)生故障電話打了三小時沒人接最后是供應商值班人員“友情支持”處理的。合同里根本沒寫“故障啟動支持”和“演練陪伴”服務。軟件授權通常只保證你能用軟件不保證有人能幫你切換也不保證切換時業(yè)務能通。解決把服務問題寫進方案附錄而不是口頭約定。方案里要有一頁“供應商責任矩陣”明確軟件版本、維保期限、支持響應時限、是否包含演練技術支持、是否包含故障現(xiàn)場支持。至少每半年更新一次供應商聯(lián)系人。這個動作不復雜但能讓容災方案從“軟件功能清單”變成“可承諾的業(yè)務保障”。要知道出故障時最可怕的不是恢復時間長而是沒人拍板、沒人能操作、沒人承擔邊界。6. 容災方案的最后一公里用“紅隊演練”驗證這版 doc 的真實成色6.1 一個值得養(yǎng)成的習慣每年做一次不打招呼的“故障注入”常規(guī)演練都有一個通病提前通知所有人該修的隱患提前修了該背的腳本提前背了演練結果自然好看卻很難證明方案真正可靠。紅隊演練的思路是只有運維負責人和高層知道業(yè)務側與當班人員完全不知情在某個月業(yè)務低峰時段對生產(chǎn)系統(tǒng)做一次“受控故障注入”觀察值班人員在沒有預演的情況下是不是真的能按模板完成切換。實施時要控制邊界階段操作要點準備期選定一個只讀功能或非核心接口提前申請變更窗口選錯故障點會傷到生產(chǎn)紅隊演練也別真把數(shù)據(jù)搞壞故障注入模擬同步鏈路中斷或數(shù)據(jù)庫連接池打滿制造的是“可觀測故障”不是“不可控災難”觀察期不提示只記錄從告警到啟動預案的時間重點看值班人員是否第一時間想到翻模板復盤期對照 RTO/RPO 目標逐項打分找出超過閾值的步驟回寫方案和腳本我第一次組織紅隊演練時把災備數(shù)據(jù)庫的同步狀態(tài)設成了“延遲 10 分鐘”觀察發(fā)現(xiàn)值班員看到了告警卻等了 20 分鐘才叫醒負責人更沒人去打開容災模板因為腳本里的執(zhí)行人寫著某位離職工程師的名字。那次之后我養(yǎng)成了兩個習慣所有容災文檔的“執(zhí)行人”一律寫崗位不寫人名每季度翻一次模板改掉所有與實際環(huán)境不一致的地方。紅隊演練不用多一年一次就好但它能把一份模板從“目錄整潔”變成“真能被執(zhí)行”。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
开心五月天激情网| 日夜精品| 欧美亚洲美少妇一区二区| 久久精品中文字幕观看| 欧美色图亚洲激情| AV色女综合| 91美女在线看| 人妻少妇精品一区二区三区| 五月天激情网图片| 九月丁香| 五月丁香社区婷婷日韩欧美精品影院| 久久国内| 免费看国产曰批40分钟怎么下载| 强奸乱伦AV网址| 超碰97欧美| 青青草原香蕉日本Ap| julia中文字幕在线观看| 激情自拍 校园春色| 自拍偷拍 高清无码| 12一15性XXXX粉嫩国产| 91老熟妇| 百度百度日本操逼| 狠狠操使劲操| 国产一区二区成人av在线播放| 亚洲AV色图| 国产精品国产| 亚洲人精品久久久| 桑老女人九区| 欧成人精品一区二区三区| 亚洲丰满很很操| 久草精品一区| AV色五月天| 亚洲av热热色| 大香蕉92| 久久久九| 风韵犹存大大大大香蕉| 欧美天天综合网| 2020中文字幕在线观看| WWW.操逼.COM| 秋霞一级鲁丝片A片| 91五十路| 国产日韩欧美操逼视频 | 综合色播| 天美av在线观看| 亚州精人品大香蕉| 亚洲自拍一区夜夜操| 丰满少妇高潮无码| 色综合 加勒比| 成人精品欧洲亚洲| 丰满人妻一区二区三区免费| 亚洲欧美电影| 秋霞免费AV| 色成人Www精品永久观看| 免费看国产曰批40分钟怎么下载| 日韩另类| 国产天天骚| m欧洲一级午老| 操死我了啊啊啊| 日韩无码服务区| 极品出轨视频网站| 精品一区二区国产日韩| 日日操丁香五月天| 久久97| 国产精品交换一区二区| 亚洲免费97免费| 五月开心久久AV官网| 亚洲色综网| jazzjazz国产精品麻豆| 欧美一区二区观看在线| 女优免费一区二区永久| 天天影视之亚洲综合网| 亚洲av综合色区无码一| 天天综合网久久ww| 国产成人亚洲精品无| 国产一进一出视频网站| 五月丁香婷婷色| 性爱动态120秒| 大香蕉十区| 中文子幕一二三| 高清孕妇孕交| 激情四射五月天| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 国产乱伦视频污| 国产 亚洲 丝袜 制服| 超91综合网| 操老熟女AV| 亚洲色婷婷久久91| 天天日天天爽| 国产精彩女在线观看视频| 玖玖爱影院| 色999;丁香五月| 国产熟女精品区| 欧美中文综合| 欧美婷婷五月天| 在线观看视频91| 欧美激情综合网| 日本一区二区成人在线| 九九九草| 黄色免费网页无码| 成人在线永久| 天天操天天干一区二区 | 国产有码一区| 色图综合| 另类小说五月天| 一区二区三区在线日韩影院观看| 激情抓乳插进去啪啪啪日韩 | 中文字幕97色| 久综合国内精品自在自线| 2010男人的天堂| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 国产人妻天天干精品| 欧美性爱一区二区三区四区| 国产精品免费日韩| 91蜜臀人妻中文字幕在线| 免费人成在线观看网站品爱网| 97中文超碰| 91成人无码| 九九色影院| 福利五区| 99综合| 伊人九九| 91天天综合网,天天综合网| 肏逼视频日本| 神马久久啊啊| 亚洲偷拍自拍在线视频| 精品国产乱码久久久久久久久久毛片| 黄色高清无码无码破解免费暗网 | 日韩 欧美 另类 人妻| 曰本91情色| 午夜福利精品| 东京热男人天堂| 黑丝少妇| 人人操人人摸人人看人人插| 亚洲高清男人天堂| 五月色丁香| 亚洲综合网91| 91新在线欧美| 欧美国产伊人久久久久| 热热色91| 91爰爱欧美| 乱论91| 国产区在线| 色五月激情网| 日韩色欲久久一二三四区| 91无摭挡| 精品人人| 日韩一级特黄av毛片| 乱人乱色一区二区三区免费| 久久黄色网址| 一区操逼日比视频| 日本成人A片网站| 任你艹| 国产精品无码成人精品| 久久久久久久久久久999| 色噜噜精品一区二区三| ?亚洲伊人伊成久久人综合网| 欧美图片偷拍| 亚洲精品毛片在线观看| 中韩中文字幕在线观看| 一起草三级AV电影在线观看| 中国小夫妻勾搭露脸淫荡对白| 18禁超污无遮挡无码免费网| 超碰97护士| 噜噜噜久久亚洲精品色情| 大香蕉久操| a男人的天堂久久一级A毛片| 97亚洲中文| 国产丰满少妇久久久精品影院| 99久久久久久久久| a'v在线资源| 任你干在线视频| 亚洲骚女一区二区三区| 国模精品一区二区三区苹果色戒| 欧美日韩另类在线| 999热这里只有精品| 99re在线视频| 亚洲自拍欧美国产首页网曝| 亚洲日本成人动漫| 欧美日韩性爱视屏免费看了| 嗯啊抽插大香蕉网页| 亚洲影视综合| 97视频在线观看免费高清| 丰满搜索结果 -第18页- 久久高清无码| 国产精品亚洲一区二区三区四区| 乱伦a片视频| 超碰97人妻| 舔人妻中文免费视频| 国产美女精品| 欧美中文字幕一区| 91蜜臀在线久久久久| 日韩不卡a级视频专区| 中文字幕一区二区日韩网| 91综合站| 天天天肏屄肏屄肏屄欧美欧美| 东京热熟女亚洲视频网站| 亚洲国产欧美日韩人妻日中文| 欧美在线观看综合国产| 日韩一性一交一A片俄罗斯| 26uuu最新| 亚洲学生妹高清av| www.99中文字幕| 岛国激情视频在线观看| 亚洲图片激情综合另类| 第四色奇米影视777| 人妻激情另类| 成人欧美一区二区三区黑人一| 亚洲国产一级精品毛一级精品看免费视频| ,成人免费啪啪视频| 欧洲亚洲人妻无码中字久久三区四区 | 性开放中文AV高清无码免费看| 欧美大香蕉久| 鸡巴插逼视频| 狠狠色婷婷7777久| 欧美老熟另类| 欧美精品丝袜久久久中文字幕| 精品国产乱码久久久久久久久1| 亚洲激情av| 激情五月婷婷| 国产天天骚| 久久久9视频| 中文字幕丝袜人妻| 亚洲综合99999| 久久久久78| 免费超碰97久久| 91色人| 中文字幕黄色一起草| 这里只有97精品| 天堂综合网| 国产精品ww久久| av天堂精品久久| 一级特级aaaa毛片免费观看 | 97综合日韩| 精品乱子一区二区三区99| 久草婷婷| 高精欧美色| 国产精品操| 人妻一区二区三区四区视频| 内射中出日韩在线观看视频| 少妇国产不卡| 97热视频在线观看| 亚洲 暴爽 AV人人爽日日碰| 日韩中文字幕国产| 十八禁啪啦拍视频无遮挡| 91neishe| 99久久9| 加勒比海色香蕉婷婷| 都市久久精品激情亚洲| 久久大香蕉手机高清| 久草热制服丝袜在线观看| 久草成人影片| 日语五十路和六十路亚洲国产精品| WWW操逼| 第一高清av中文字幕| 超碰97资源中文字幕| 久草久日| 青草青草久热| 国产精品 午夜福利| 日韩亚洲97| 97视频在线| 69精品久久久久中文字幕| 精品久久久久,69国产成人精| 日日A∨| 成人久久久| 人人摸人人干人人拍97| 美国久久一二三四| 国产操逼网站亚洲一级黄色| 91麻豆va国产精品| 屌妞视频久久久久久久久久久久| 麻豆一区二区三区在线看| 精品一区二区国产日韩| 色噜噜综合在线| 夜夜春夜夜操| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 亚洲情色婷婷五月天| 欧美影音在线| 大香蕉免费3| 久久麻豆一区二区| 超碰97综合| 日本色色色色色视频| 鸥美插入视频| 亚洲成aⅴ人片不卡无码| 大香蕉九九| 在线观看午夜婷婷久久久久清性观看| 国产毛片久久久久久久| www.高清无码诱惑一区.com | 人人色人人操在线| 一区二区播放| 激情接吻视频久久久久久| 九九自拍伦理| 国产一区二区三区白丝| 嗯嗯,好大,好爽,好骚| 亚洲伊人久久综合97| 亚洲综合色男人网| 亚洲欧美情色| 天天欧美色| 亚洲97超碰| 99在线精品视频| 超碰导航97| 国产女生在线| 天堂综合网| av天堂影视中文在字幕在线中文| 亚洲在线a| 色女女女导航| 国产 亚洲 一二三四| 嗯嗯,啊啊,国产精品| 精品人妻一二三| 综合影院亚洲| 天天视频网站黄| 白丝少妇一区二区| 在线性黄高清免费视频| 9久9久| AA丁香综合激情| 人妻熟妇一区二区三区| 中文有码9| 日韩啪啪视频| 在线视频亚洲无码| 97频视在线| 黄片免费看黄片免费看| 一区二区中文| 少妇99| 五月色综合| 97精品一区二区视频| 91欧美偷拍| 在线一道啪| 99草精| 黄页大片在线观看| 强歼乱伦资源网| 美女十八禁| 91在线综合网| 黄色性爱网网| 国产女大学生AV| 久久婷婷亚洲欧| 久久婷综合| 色综合av综合久久| 在线观看午夜婷婷久久久久清性观看| www.色五月| 另类图片欧美激情综合| 91插B网站| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 亚洲av无码成人精品国产| 欧美色图色综合| 老熟妇一区二区三区啪啪| 日韩中文字幕二区| aaaa少妇高潮大片| 亚洲成人激情小说视频| 这里都是精品| 亚洲人妖网| 狠狠干综合| 国产成人无码啪| 欧美色网络| 老司机久久| 德国一二三不卡| 狠狠综合| 超碰碰碰碰| 伊人五月天激情| 台湾一区国产高清在线| 97天堂| 一二三四区操操Av| 中文字幕人乱码中文字的预防方法| 亚洲色诱惑| 性爱边摸边日免费AV| 男人天堂2030| 欧美日韩制服| 大香蕉淫人| 俺去啦自拍| 中文字幕十五区| 快点操死我| 中亚av| 五月天色综合| 亚洲一区二区麻豆影院| 七久久久| AV 少妇 人妻 偷拍| 丁香六月东京热| WWW啪啪的com| 久草视频观看视频在线| 一区二区三区四区免费视频| 国产福利在线视频网站| 看黄片视频免费| 欧亚性爱在线视频| AV免费在线播放一区| 亚洲精品xxx| 在线看的av| 高清无码一区二区三区| 啪啪啪东京| 国产精品蜜臀久久久久无码AV| 亚洲欧美综合| 大香蕉免费3| 可以免费看黄片的视频| 在线观看免费视频国产| 免费啪啪av| 黄人人操人人操| 欧美黄色大片在线观看 | 伦理弟一页| 女生自91网站| 丝袜色综合| 9九九国产| 亚洲性刺激| 日韩三级av片| 黄色香蕉视频网站一区| 黄片免费看的| 婷婷亚洲色| 91精品电影18| 99RE在线视频精品,这里只有精品| AV天堂男人的天堂| 欧美亚洲宗合色性图| 骚妻少妇精品性色无码四色A V| 欧美日日人人天天| 婷婷超| 日本狂喷奶水在线播放212| 无套内射人妻在线播放| 5278欧美一区二区三区| 欧亚综合一卡二卡中文字幕| 国产成人AV麻豆| 97精品97久久| 久久春色| 中文字幕一区电影在线观看| 婷婷五月天福利| 天天日日日射| 后入式999| 91亚洲人| 久久成人午夜精品影院| 五月丁香啪啪| 中国熟女网站| 一区二区影视| 九九色影院| 欧美亚综合色图| 超碰9 7女人| 成人av性爱电影在线观看| 亚洲国产成人精品久久久国产成人一区二区三. | 亚洲色偷偷色噜噜狠狠99网| 偷拍2020| 久久性爱视频| 成人精品欧洲亚洲| 凹凸视频在线一区二区| 精品亚洲国产成人AV制服丝袜 | 怡红院成人视频| 精品国产一区二区三区在线播出| 狠狠狠狠狠狠| 狠狠躁久久躁| 精品人妻一区二区视频| 四虎永久在线精品免费网址 | 另类小说综合网| 天天插天天干| 国产91丝袜在线播放蜜月| 无码一区免费在线不卡| 午夜丁香婷婷| 中文字幕午夜精品久久久| av网站免费线看| 一级黄色影片| 97超碰伊人| 欧美偷拍区| 免费人人搞97| 精品无码久久久久久久杏吧| 99色婷婷| 中文字幕av片| 人妻少妇av在线观看| 亚洲成人色情五月天丁香花| 囯产精品久久久久久久久久梁医生 | 久久精品亚洲成a人天堂| 精品美女在线视频| 欧美特大AA级黄片| 日韩中文字幕熟妇人妻| 久久大| 五月激情综合网| 亚洲性天堂| 亚洲精品丝袜-不卡成人免费……| 亚洲AV在线资源| 2019久久久久久久久福利| 中文字幕精品探花视频| 亚洲色图久久精品蜜| AV色女综合| 中文字幕永久在线| 97欧美在线| 嗯啊免费视频| 日韩 国产 欧美自拍| 欧美性区| 国产精品亚洲一级av第二区| 亚州色国| 日本三级R| 91超碰在线观看| 中文字幕 国产 精品| 日韩欧美麻豆| 天天做天天爱天天爽| 熟妇女伦乱视频| 熟女日韩| 亚洲欧洲综合av在线| 日本新免费二区三区| 男人高清无码一区二区| 九九精品网| 激情自拍 校园春色| 91天天综合| 色情亚洲日本成人| 亚洲AV无码黄色强奸| 欧美偷| 亚州情色j区| 久久中文字幕不卡人妻| 国产精品午夜福利视频| 操逼操操操91| 天天日天天干天天操| 区一在线观看| 日韩在线一区二区| 久区视频| 麻豆伊人网| 岛园激情| A片大香蕉在线| 男人的天堂在线| 色色婷婷五月天| 黑人免费福利视频| 99久在线精品99re8| 青草视频在线看看看看看看看看看| 无码高清操逼| 一区超碰一区| 96免费视频在线| 人人射人人操人人摸| 玖草在线视频| 97操97干| 亚洲性猛交| 98色网| 亚洲va有码在线天堂| 欧美性高潮在线| 蜜臀99999| 久久久久久欧美精品se一二三四| 岛国A V在线免费看| 99热在线只有精品| 天天看高清麻豆| 亚洲无套久久嗯嗯| 日韩黄色一区二区三区| 超碰国产精品无码| 97爱综合| 亚洲综合伊人无码久久| 久久精品中文| 天天做天天爱天天爽AV| 日本特黄f c2| 九九黄色网| 日韩AV无码中文一区二区| 激情av| 美國A片| 92性色国产午夜福利在线661| 国产一区二区在线看| 老司机久久| 一本正道久久熟女| 亚州色图第三区| 久热婷婷| 五月丁香啪啪网| 欧美人妻精品一区二区| 日本日逼高清| 1级午夜影院费免区| 97超碰人妻| 欧美成人精品欧美一级乱黄一区二…| 少妇高潮喷水无套久久久久久| A啊啊在线观看| 欧美综合色站| 国产高清不卡视频| 欧美97日韩| 国产亚卅97| 欧美 综合| 玖玖综合色| 校园春色欧美色图| 影音先锋一区二区在线资源| 日韩av色图综合| 亚洲色图欧美色图制服丝袜| 日韩精品人妻中文字幕久久久| 久久做97| 亚洲天堂情色| 久欲AV| 欧美肥臀在线| 欧美 亚洲| 久久久久97| 2017av无码免费无线播| 97人人夜夜精品视频| 亚瑟国产精品久久无码| 四虎影视在线| 日本潮催一卡操| 国产精品直播在线观看直播| 亚洲国产精品无石码久久 | 国产亚洲女v在线观看| 亚洲欧美日韩偷拍色图| 黄色免费一级在线毛片| 精品视频在线观看精品| 1769国内精品视频| 亚洲va有码在线天堂| 国产自产一区视频在线| 丁香九月激情啪| 国产av尤物| 精品99999久久久久久| 久久亚州高清| 超碰是碰在线观看| 啊啊啊啊好多水| 欧洲性爱无码区| 亚瑟国产精品久久无码| 入口操逼网站| 亚洲另类综合欧美| 久久香蕉超碰97国产精品| 韩日自拍| 国产色产精品在线观看| 欧美黄色大片在线观看| 99色天堂| 美女大乳久久久久久久女人18| 欧美青青视频| 精品传媒在线一区| 日韩一区二区精品视频| 久久25| 91精产一区二区三区| 大香蕉狠狠爱| 国产传媒操逼视频| 中文字幕第页| 人妻激情在线视频| 加勒比综合| 国产精品69人妻无码久久久| 久久人妻视频| 偷拍色图| 天天视频黄| a级成人毛片免费视频高清| 99热这里只有精| 欧美日韩国产电影| 亚洲一二三四区| 久久riav中文精品| 97视频观看| 91熟女视频网| 少妇人妻太紧太深av| AV九九| 加勒比伊人综合| 百度百度日本操逼| 青青草中文-久久青草精品一区二区三 | 日韩三级在线观看网站| 亚洲欧洲另类| 啊啊啊 在线| 国产精品婬乱一级毛片彝族| 躁躁日曰躁2020| 熟女少妇视频| 五月婷婷综合网| 久久精品人妻一区二区三区| 丰满人妻无码一区二区三区| 日本999精品视频| 欧美爱爱97| 床上啊啊啊一区二区三区| 国产少妇内射| 成人性爱全视频观看| 久操在97| 操逼啊啊啊91| 亚洲日韩东京热一区| 天天操人人操狠狠插| 国产怡红院| yw尤物av无码点击进入麻豆| 色999人与兽| 亚洲欧美色图| 韩国轻伦国内自拍一区| 国产一区二区三区高清视频| 中文字幕加勒比海高清无码免费视频| 操熟女91| 精品精品精品| 午夜性刺激视频免费观看| 极品丝袜无码| 九九九精品成人免费视频小说| 久久精品欧美一区蜜桃| 欧美视频一| 欧美综合在线91| 亚洲国产精品有声| 97亚洲国产| 九色视频91| 97亚洲中文| 久草综合京东| 国产视频一区二区三区在线免费观看 | 欧美人妻精品| 天天看天天干| 久偷拍欧美日韩三区| 在线欧美69V免费观看视频| 欧美青青草视频| 超碰成人国产| 黑人猛交| 久久久久ab| 熟女视频久久| 久久97超碰| 亚洲综合图色在线| av午夜影院在线播放| 欧美精品系列| 北京专精特新企业招聘信息| 无码国产Av| 亚洲天堂一二| 99999精品成人| 欧美国产伊人久久久久| 欧美激情内射| www.高清无码诱惑一区.com| 日本高清一区二区在线| 97视频网站| 中文久久96| 美女尤物福利视频| 丝袜剧情| 日本成a人v网站在线观看| 啊啊啊好大好湿| 久久久久人妻| 亚洲精品国产熟女久久久久久| 国产人伦a片信息免费片| 亚洲亚洲亚洲天堂天堂| 99re6久热只有精品6在线直播 | 78久久久| 五月色网| 韩国午夜理伦三级好看| 亚洲色人| 在线洲亚线| 熟女欧美日韩综合婷婷| 97人人草| 日本一级二级三级网站| 国产毛片片精品天天看视频| 国产一区二区在线看| 欧美无圣光在线| 五月天婷婷影院| 丰满人妻无码一区二区三区| a'v在线资源| 夜夜嗨一区| 超碰久久网| 吉田爱美AV在线| 九九热在线视频| 黑人无码一区二区| 国内精品a| 乱伦强奸区日韩| 伊人国产AV| 久久99深爱久久99精品| 色婷婷蜜臀av| 天美av在线观看| 长长久久88视频| 免费毛片在线播放| 日本国产高清色www视频在线| 伊人国产成人av网站| 91中出视频| 久久风骚城市人| 精品中文一区二区| 极品久久久久久久久久久久久久| 天天综合亚在线| 婷婷五月丁香五月| 欧美色五月| 99热自拍| 九九热超碰| 婷婷伊人綜合中文字幕| 在线国产探花| 亚洲福利中文字幕在线| 国产精品久久久久久片| 成人性爱美曰韩| 免费A V在线播放| 国产操操日韩三级黄| 欧美日韩另类在线播放| 日本性爱欧美性爱| 台湾成人无码AV| 超碰在线观看av不卡| 草草影院日本第一页| 国产91乱伦| 日本操逼视频导航| 天天做日日做天天欢。| 亚洲精品a人片在线观看视| 伊人久操| 操人91| 91在线页| 少妇同性| 国产情色第一第二页在线观看| 自拍亚洲综合| 俺去啦自拍| 91精品国产91熟女| 成人一二| 国产精品国产自产高清AV| 国产三级多多影院2022国产AA一级毛片无码| 人人玩人人添人人澡免费| 美女极品一区二区三区| 亚洲美女自拍偷拍视频| 婷婷伊人网| 欧插网站| 97国产色图| 91日韩网站| 操东北女人| 一级性爱啪啪视频| 欧美日韩岛国大片在线观看| 五月婷婷丁香六月| 超碰97玖玖爱| 大香蕉手机在线| 97在线视频观看| 亚洲 欧美 偷拍 唯美| 99色天堂| 九九英色视频| 一卡二卡三卡| 中文字幕日韩人妻视频| 俺去俺来也在线www| 欧美九九爱| 亚洲性综合| 囯产精品久久久久久久久久二区三区| 久久精品久久久久久久久| 成人性爱高清视频免费看| 素人播放一区| 99热国产精品| 久久草草亚洲蜜桃臀| 亚洲超碰AV| 亚洲中文字幕乱码无码一区二区| 欧美激情亚洲情色| 97超碰人人操人人操| 18禁超污无遮挡无码免费网| 91色碰| 亚洲天堂无码| 97亚洲一区| 67914在线兔费成人视频| 久久午夜鲁丝片| 91精品大奶人妻| 狠狠躁天天躁日日躁| 久9精品| 亚洲综合一区二区| 亚洲永久AV无码精品秋霞| 婷婷激情四射| 日韩性爱再线视频| 青青草男人天堂| 超碰97久久| 99热66| 国产AV天美传媒一区二区三区 | 日韩激情啪啪啪| 91人妻人人妻| 婷婷国产精品一区二区| 亚洲色 国产 欧美 日韩| 中文久久一区| 亚洲啪啪综合?v一区综合精品区| 日韩不卡a级视频专区| 色偷偷色偷偷欧美日韩| 国产在线视频午夜精华在| 亚洲色综合| 激情内射| 婷婷丁香五月天综合东京热| 97精品97| 国产传媒午夜理伦精品| 91亚洲不卡一区| 久久久久九九九| 国产一区二区三区中文字幕| 91少妇高潮| 操逼日韩无码 | 99操视频| 国产伊人精品在线| 新版天堂中文资源8在线| 99re6在线视频精品免费完整版安卓版| 激情五月天插| 嗯嗯啊好大| 无码精品人妻一区二区三区妖精 | 国内毛片国产专区二| 天天操天天日天天干| 国产欧美成人第一页在线观看 | 国产精品久久99日日| 久草男人天堂| 日韩精品免费高清视频在线| 啊啊啊啊啊啊啊啊啊啊在线观看| 操逼天美3区| 操91| 美女被艹尤物视频| sewuyueav| 插入综合网| 色激情综合网站| 极品内射| 国产精品久久久久中文字幕| 97久久精品不卡| 另类天堂| 久久久久久久人妻丝袜| 久久人人爽爽爽人久久久| 成人AV超碰免费在线| 日本999精品| 视频分类 国内精品| 香港久久久| 女同亚洲欧美一二三区久久电影| av影片在线观看不卡| 10000部十八禁看电影| 欧日a| 91性情| a人欧美综合天堂麻豆| 亚洲超碰AV| 好吊色综合| 传媒免费一区二区三区| 欧美成人一区二区三区在线播放| 91bbbbbb| 丝袜视频一区二区在线播放国产中文| 国产极品99热在线播放69| 天美传媒精品久久视频| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 78m啪啪啪| 九九九久千久久激情蜜桃在线看 | 殴美色网| 亚洲色图欧美色图制服丝袜| 人人摸人人叼| 91夜色| 人妻熟女一区二区| 欧美人妻二区三区| 国产亚洲精品玖玖玖在线观看| 香蕉视频精品亚洲一区二区三区在线播| 国产精品乱人伊人网| 国产强奸超碰AV| 狠狠久久手机视频精品| 亚洲男人天堂2| 澳门成人网站久国产日韩| 久久激情亚洲精品无码?V| 亚洲视频精选| 色香91| 色五月69夫妻| 天天日天天舔| 久久av成人无码免费| 99热在线观看| 欧美,日韩,中文,另类| 中出789在线视频| 好吊妞转入那个网| 欧美日韩国内不卡| 91啪9色| 激情四射五月天| 国产精品无码久久久久2028| 91丨人妻丨国产丨丝袜| 国产精品午夜福利| 青青草日韩免费观看高清在线| 性色一线| 欧美在线视频99| 韩国午夜理伦三级好看| 国产美女在线精品免费看| 啪啪啪亚欧美视频| 欧美色道啊| 91激情综合| 久久久久久久久久久久黄色| 91亚洲黑人| 丁香六月婷婷| 成人国产精品三级A片| 日本操大逼| 26uuu成人影片| 探花精品 一区二区| 亚洲自拍97| 夜夜夜夜久久久久| 中出91视频| 午夜精品久久999热蜜桃介男人用| 天天综合影院91| 国产视频三区四区| 色综合中文字幕不卡| 亚洲第一页色| 日韩精品一区二区三区四虎影视| 五月天激情影院| 久操不卡视频| 日韩成人综合网| 5月婷婷6月六月丁香| 精品亚洲国产成人AV制服丝袜| 日韩国产乱子伦App| 久久首页| 黄色AAAAA欧美| 脫衣舞一区二区三区| 精品人妻中文字幕4399| 日韩无码操逼片| 欧美极品性爱天天射| av在线观看不卡网站| 国产东北女人在线视频| 丰满人妻无码一区二区三区| 国产东北女人在线视频| 你想操日本小逼吗| 欧美人人AAA| 国产精品视频精品一二| 五月香婷婷| 亚洲不卡AV在线| 国产女上位好爽在线| 亚洲限制级在线| 一区二区 电影 亚洲| 超碰在线97国产| 蜜桃精品视频一区二区三区| 人妻蜜桃臀| 欧美色97| 欧美色人| 日韩乱伦AⅤ| 亚欧高清在线| 久热无码| 欧美一区二区日韩传媒搭讪精品| 秋霞一区二区三区四区五区六区七区| 91欧美性| 色妺妺AⅤ| av毛片aaaaa免费看| 蜜乳AV一区| 婷婷大香蕉| av大香蕉网站| 欧美激情亚洲情色| 九九久久久| 免费的黄片有限公司| 日本操BAV| 天天日老熟妇| 成人精品视频| 亚洲欧美91| 国产一区二区三区白丝| 日本道久久综合色色| 久久久亚洲精品电影免费看| 精品二999| 亚洲 欧美 色图| 新久久AV| 九九热九九热| 国模久久在线| 欧美精品成人一区二区在线观看| 玖玖爱免费观看视频| 无码免费一区二区三区啪啪| 91久久久老司机| 精品视频一二三中文| 人妻一区视频| 91啪9色| 黄站在线免费观看| AV麻豆免费一区| 五月综合久久| 黄久在线| 日本αv| 午夜大香蕉| 亚洲十八禁止| 精品国产一区探花在线观看| 在线视频日韩欧美国产| 东京成人一区| 欧美91在线| 玖玖婷婷五月天| 青青草玖玖爱| 欧美精品23| 精品久久視頻在线| 亚洲天堂电影网99999| 成人av福利在线观看| 亚洲另类综合欧美| 99色在线| 亚洲国产精品无码AV在线| 啊啊啊com| 91宗合网| 极品色www影院| 欧美精品久久| 乱伦一区二区三区‘| 欧美制服网站美腿丝袜| 农村少妇久久久久久久| 91成人久久 | 我要去看2个日本美女.com曹逼| 色噜噜综合网| 啊啊啊轻点在线观看| 2019天天干天天操| 精品小视频在线| 人妻偷拍一区二区三区| 男人的天堂2018东京热啪啪啪| 日本一二三免费久久| 粉嫩av在线一区二区| 秋霞福利网| 九九久久一区二区伦理| 97频视在线| yellow网站免费观看日韩高清无码| 青青草精玖玖69精品| 中文AV制服乱伦| 啊啊啊啊视频免费| 天堂v无码免费视频| 青青操97| 小说区 图片区色 综合区| 99999精品视频| 日本孕妇一区二区视频操逼免费看| 国产精品老熟女一区二区| 精品无吗m| 97干com| 日韩操p| 黄资源| 天堂无码精品国产久| 韩国嫰模上门援交视频| 日韩丝袜二区| 校园激情狠狠四射| 猛交交| 日本羞羞的视频在线播放| 嗯嗯啊啊用力视频免费| 人人妻人人爽 97人人看碰人免费公开视频 | 久久精品国产97欧美精品亚洲| 亚洲综合成人网| 亚洲se91| 欧洲乱码一区二区| 日日噜噜夜夜狠狠视频无| 色欧洲97| 巨爆乳肉感一区二区三区竹菊影视 | 欧美中文字幕日韩在线| 歐美性天天| 日本人人操人人操| 国产激情在线| 麻豆久久久久久久久丝袜| 日本免费中文字幕在线 | 久久婷婷伊人| 无码精品久久久久久亚洲| 亚州久久9| 成人av动漫在线观看| 日韩欧美加勒比| 欧美91精彩| 欧美日韩91| av毛片aaaaa免费看| 精品九九九九九九九九九| 欧美 亚洲 另类 综合| 成人国产精品三级A片| 亚洲欧美成人网站AAA| 日日摸日日碰| 色婷五月天| 国产极品精品美女视频| 天美传媒精品久久视频| 九九九午夜| 伊人女女资源在线观看| 日韩三级伊人| 午夜精品久久久久久久99| 天天欧美色| 人妻乱仑一区二区三区| 色99999| 97久久天天综合色天天综合色电影| av中文字幕在线熟女| 国产精品激情久久久久久久| 免费视频97| 91 国产丝袜在线播放-百度| 91蜜臀熟女| 国产色精品午夜大片| 欧美国产精品久久九九| 51一区二区三区| 国产女同性恋视频| 久久婷婷六月综合| 性在久久久久久| 日韩肏逼视频| 麻豆一区二区三区在线看| 中国黑人三级片网站上区| 丁香五月AV| 国产欧美日韩精品中文| 亚洲无码国产探花在线观看| 亚洲欧美综合网| 91九九九吃| 日韩午夜国产| 99国产精品人妻人伦| 久99久视频| 久久性爱网站| 91深夜夜| 中国熟女老妇仑乱一区二区三区| 91热| 超碰 欧美| 色九九综合AV| 91久久18禁| 男人的天堂激情| 920日本午夜免费| 操99| 久久久精品成人国产| 3d成人精品一区二区| 午夜激情成人在线观看| 欧美Ⅴ性爱| 欧美亚洲中文| 东北女人操逼| 美女啊啊啊啊啊啊| 亚洲 日本 不卡| 色天天野狼综合社区| 亚洲综合伊人| 中文在线视频| 欧美亚州色的图| 欧美色日本| 色超碰综合| 亚洲资源网| 久久九操在线观看| 久草在| 超碰免费欧美7| 98福利在线视频| 欧美天天在线| 羞答答AV中文字| 999久久芭蕾| av草草在线电影| 玖玖大干人妻| 国产精品伦理| 天天干18禁| 97在线看| 蜜乳AV免费观看| 中国少妇XXXX做受| 老熟妇一区二区三区…| 噜噜噜在线视频| 国产亚洲精品美女久久久m| 久久亚洲AV无码专区国产精品| 无码操逼网| 日本一级性爱| 大奶啊啊好爽 | 美女网站黄页| 天干天干天干天天做| 亚洲成人ab|