亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

專有云CSB運(yùn)維指南:從架構(gòu)巡檢到故障排查的完整實(shí)踐

專有云CSB運(yùn)維指南:從架構(gòu)巡檢到故障排查的完整實(shí)踐 簡(jiǎn)介阿里云專有云企業(yè)版V3.7.1云服務(wù)總線CSB運(yùn)維指南是一份面向云平臺(tái)運(yùn)維工程師及架構(gòu)師的官方技術(shù)文檔用于指導(dǎo)CSB組件的安裝部署、配置維護(hù)與日常監(jiān)控。資源為單個(gè)PDF文件大小約986KB內(nèi)容結(jié)構(gòu)完整依次涵蓋法律聲明、通用約定、運(yùn)維概述、系統(tǒng)架構(gòu)、安裝部署、配置管理、監(jiān)控管理及故障排查等模塊適合作為運(yùn)維人員的案頭參考手冊(cè)。已有281人學(xué)習(xí)下載說明該版本資料在CSB運(yùn)維場(chǎng)景中具有一定參考價(jià)值。閱讀者可從中獲取CSB系統(tǒng)組件與部署架構(gòu)說明、詳細(xì)安裝步驟、配置文件管理方法、監(jiān)控項(xiàng)與操作指引以及常見問題解決思路可幫助快速上手CSB的基礎(chǔ)運(yùn)維工作并降低誤操作風(fēng)險(xiǎn)。1. 專有云 CSB 運(yùn)維指南這份 V3.7.1 文檔為什么值得先讀為敬阿里云專有云企業(yè)版云服務(wù)總線 CSB 運(yùn)維指南 V3.7.1我拆完第一反應(yīng)是終于有份把 CSB 從黑匣子變成可巡檢、可排障、可配置系統(tǒng)的材料了。CSB 在專有云里承擔(dān)的是服務(wù)接入與開放控制Broker、Console、Admin、Cache、Store 加上 TLog、DAuth、HBase、JStorm 這些公共組件任何一個(gè)環(huán)節(jié)出問題線上 API 調(diào)用都會(huì)直接受影響。這份文檔適合兩類人一是剛接手專有云 CSB 的駐場(chǎng)運(yùn)維需要弄懂組件架構(gòu)和巡檢流程二是要處理服務(wù)連續(xù)性故障的 SRE需要照著排障思路快速定位。內(nèi)容覆蓋系統(tǒng)架構(gòu)、高危操作、巡檢、故障處理、配置參考和 DAuth 接入屬于少見的把運(yùn)維全流程講完整的材料。下面我按實(shí)際運(yùn)維順序把每個(gè)模塊的要點(diǎn)和踩坑點(diǎn)拆開說。2. 先吃透架構(gòu)再動(dòng)手組件職責(zé)、端口映射與高危操作分級(jí)2.1 組件分組與職責(zé)服務(wù)總線、管控中心、公共基礎(chǔ)組件CSB 從邏輯上分為服務(wù)總線系統(tǒng)、管控系統(tǒng)和運(yùn)維監(jiān)控系統(tǒng)但落到運(yùn)維層面真正需要盯的是表格里這些組件。文檔里把組件分成三組每組職責(zé)差異很大巡檢和排障時(shí)先判斷問題出在哪個(gè)分組能少走一半彎路。組件分組組件職責(zé)說明部署形態(tài)CSB 服務(wù)總線CSB Broker負(fù)責(zé)服務(wù)接入與開放控制處理認(rèn)證鑒權(quán)、協(xié)議轉(zhuǎn)換、流量控制雙節(jié)點(diǎn)集群可橫向擴(kuò)展CSB 服務(wù)總線CSB Console服務(wù)、用戶、系統(tǒng)的維護(hù)管理控制臺(tái)雙節(jié)點(diǎn)CSB 服務(wù)總線CSB Admin支持控制臺(tái)并向服務(wù)實(shí)例提供管控服務(wù)雙節(jié)點(diǎn)CSB 管控中心CSB Cache服務(wù)定義、授權(quán)、系統(tǒng)配置、消費(fèi)狀態(tài)的高速緩存Redis 集群雙節(jié)點(diǎn)CSB 管控中心CSB Store保存實(shí)例、服務(wù)元數(shù)據(jù)、用戶和訂購(gòu)信息MySQL 集群雙節(jié)點(diǎn)公共基礎(chǔ)組件DAuth用戶賬號(hào)系統(tǒng)接入和服務(wù)訪問的認(rèn)證、授權(quán)、鑒權(quán)集群部署公共基礎(chǔ)組件TLog服務(wù)日志采集統(tǒng)一配置和管控集群部署公共基礎(chǔ)組件HBase海量服務(wù)數(shù)據(jù)分布式存儲(chǔ)集群部署公共基礎(chǔ)組件JStorm服務(wù)、數(shù)據(jù)的實(shí)時(shí)計(jì)算集群部署公共基礎(chǔ)組件Butler系統(tǒng)監(jiān)控報(bào)警能力集群部署拆這份文檔時(shí)我特別注意了 Cache 和 Store 的說明CSB Cache 實(shí)質(zhì)是 Redis 集群CSB Store 實(shí)質(zhì)是 MySQL 集群。這對(duì)運(yùn)維是很有用的信息意味著排查緩存不一致或元數(shù)據(jù)異常時(shí)可以直接套用 Redis 和 MySQL 的排查經(jīng)驗(yàn)而不是把它當(dāng)成一個(gè)完全陌生的黑盒組件。Broker 是服務(wù)鏈路里最核心的節(jié)點(diǎn)所有 API 請(qǐng)求都經(jīng)過它做協(xié)議轉(zhuǎn)換和鑒權(quán)Broker 出問題影響的是全量調(diào)用。Console 和 Admin 更像是管理面Console 掛了影響控制臺(tái)操作但不影響已經(jīng)發(fā)布的服務(wù)正常運(yùn)行。公共組件里 DAuth 是鑒權(quán)鏈路的關(guān)鍵DAuth 不可用時(shí)即使 Broker 本身是健康的新請(qǐng)求也會(huì)因?yàn)闊o法完成鑒權(quán)而失敗這一點(diǎn)在排障時(shí)容易被誤判成 Broker 故障。2.2 部署架構(gòu)與端口映射雙節(jié)點(diǎn)、負(fù)載均衡和八類端口CSB 整體是雙節(jié)點(diǎn)部署B(yǎng)roker、Console、Admin、Cache、Store 都是成對(duì)存在Broker 對(duì)外接負(fù)載均衡文檔里明確說負(fù)載均衡由客戶提供可以是 F5 或 SLB。雙節(jié)點(diǎn)架構(gòu)意味著巡檢時(shí)要兩個(gè)節(jié)點(diǎn)都看不能只看一臺(tái)機(jī)器健康就判定服務(wù)正常節(jié)點(diǎn)間的網(wǎng)絡(luò)隔離或時(shí)鐘不一致也會(huì)引發(fā)級(jí)聯(lián)調(diào)用問題這是專有云環(huán)境里常見的隱性故障源。端口是巡檢和排障的入口文檔里給出的端口說明我整理成了表格。注意新版和老版 Broker 的端口有差異檢查監(jiān)聽狀態(tài)前先確認(rèn)當(dāng)前環(huán)境用的是哪個(gè)版本。端口協(xié)議/用途備注8081CSB 互通內(nèi)部協(xié)議端口新版統(tǒng)一級(jí)聯(lián)8086HTTP 開放端口新版 Broker8087HTTP/HTTPS 開放端口老版兼容8082CSB 互通內(nèi)部協(xié)議端口老版級(jí)聯(lián)9081Web Service 開放端口所有版本12205HSF 開放端口新版12206HSF 開放端口老版8080管控中心 Tomcat 端口Console這里面最容易踩坑的是 8081 和 8082 的區(qū)分。文檔里寫得很清楚8081 是新版統(tǒng)一級(jí)聯(lián)端口8082 是老版級(jí)聯(lián)端口如果環(huán)境升級(jí)過但巡檢腳本里還在盯舊端口會(huì)出現(xiàn)端口未監(jiān)聽的誤報(bào)嚴(yán)重的時(shí)候會(huì)把健康節(jié)點(diǎn)誤判成故障節(jié)點(diǎn)觸發(fā)告警。我拆到這一節(jié)時(shí)特意把端口表和組件表放一起看目的是提醒自己排障第一步永遠(yuǎn)是確認(rèn)當(dāng)前環(huán)境的版本和對(duì)應(yīng)端口而不是憑記憶去 grep。2.3 高危操作分級(jí)G1、G2、G3 的審批邊界文檔里有一個(gè)容易跳過的章節(jié)——高危操作但它可能是整份文檔里最能避免翻車的部分。CSB 把運(yùn)維操作分成三個(gè)級(jí)別核心區(qū)別在于要不要做變更申請(qǐng)以及操作會(huì)不會(huì)影響業(yè)務(wù)。G1 是 L1/L2 人員按文檔執(zhí)行完全安全的操作不需要變更申請(qǐng)不影響業(yè)務(wù)。G2 需要駐場(chǎng)人員做變更申請(qǐng)并向產(chǎn)品側(cè)咨詢確認(rèn)操作本身不影響業(yè)務(wù)。G3 需要向產(chǎn)品側(cè)和客戶側(cè)雙方確認(rèn)操作有可能影響業(yè)務(wù)。文檔里有一句關(guān)鍵表述涉及服務(wù)連續(xù)性故障的操作均屬于高危操作需要按照 G3 處理。這句話的實(shí)際含義是重啟 Broker、切換節(jié)點(diǎn)、改數(shù)據(jù)庫(kù)密碼這類操作即使你有把握也必須走 G3 流程而不是自己評(píng)估風(fēng)險(xiǎn)后直接執(zhí)行。我之前遇到過一次線上事故操作人覺得只是重啟一下 Broker 雙節(jié)點(diǎn)中的一個(gè)問題不大結(jié)果重啟過程中另一個(gè)節(jié)點(diǎn)因負(fù)載過高也掛了服務(wù)連續(xù)性直接受損。后來復(fù)盤時(shí)對(duì)照文檔才發(fā)現(xiàn)這種操作從一開始就應(yīng)該按 G3 處理提前做好變更申請(qǐng)和客戶確認(rèn)而不是讓現(xiàn)場(chǎng)人員自行判斷。注意G1/G2/G3 不是能力等級(jí)而是操作的風(fēng)險(xiǎn)等級(jí)。判斷標(biāo)準(zhǔn)不是「我會(huì)不會(huì)操作」而是「這個(gè)操作影響不影響業(yè)務(wù)」。3. 例行巡檢兩條線Butler 自動(dòng)巡檢與命令巡檢清單3.1 Butler 巡檢HTTP、TCP、PING、DB 四類規(guī)則CSB 的巡檢由兩部分組成Butler 巡檢和命令巡檢。Butler 是部署上完全獨(dú)立的監(jiān)控組件提供 HTTP、TCP、PING、DB 四種巡檢類型。文檔里特別說明了一個(gè)細(xì)節(jié)csb broker 和 csb console 服務(wù)發(fā)布時(shí)會(huì)自動(dòng)配置 Butler 巡檢規(guī)則也就是說正常交付后這類規(guī)則是自帶好的不需要手動(dòng)創(chuàng)建。手動(dòng)創(chuàng)建巡檢規(guī)則的流程分三步登錄 Butler 控制臺(tái)進(jìn)入系統(tǒng)管理下的巡檢管理創(chuàng)建巡檢配置。配置對(duì)象時(shí)先選租戶、產(chǎn)品、服務(wù)、組件和 IPIP 有兩種選法選全部機(jī)器則無需設(shè)置 IP選部分機(jī)器則從容器 IP 列表里勾選。配置巡檢方案時(shí)關(guān)鍵參數(shù)如下參數(shù)是否高級(jí)含義規(guī)則名稱否巡檢規(guī)則名字建議簡(jiǎn)明易懂HTTP 端口否要撥測(cè)的端口HTTP URI否撥測(cè)的 URIIP 已選過這里只填 URI檢測(cè)周期否5、10、15、30、60 分鐘可選出錯(cuò)描述否告警內(nèi)容可通過 ${url} 獲取完整撥測(cè) URL狀態(tài)碼檢測(cè)否多條匹配規(guī)則從上到下順序匹配任一命中即告警HTTP 請(qǐng)求類型是GET/POST/HEAD/DELETE默認(rèn) GET撥測(cè)范圍是單節(jié)點(diǎn)或多節(jié)點(diǎn)默認(rèn)單節(jié)點(diǎn)讀超時(shí)時(shí)間是從建立連接到讀取第一個(gè)字節(jié)的超時(shí)單位 ms連接超時(shí)時(shí)間是從發(fā)起請(qǐng)求到建立連接的超時(shí)單位 msAccessKey/SecretKey是發(fā)起阿里云簽名時(shí)的密鑰多節(jié)點(diǎn)撥測(cè)有一個(gè)容易誤用的點(diǎn)單節(jié)點(diǎn)撥測(cè)各個(gè)對(duì)象結(jié)果互相獨(dú)立多節(jié)點(diǎn)撥測(cè)會(huì)把多個(gè)對(duì)象結(jié)果做比對(duì)返回不同就判定異常。這在業(yè)務(wù)后端存在灰度或 A/B 發(fā)布時(shí)很危險(xiǎn)不同節(jié)點(diǎn)返回不同內(nèi)容會(huì)被誤判成故障。我的習(xí)慣是后端接口存在版本差異的巡檢規(guī)則一律用單節(jié)點(diǎn)撥測(cè)。創(chuàng)建完成后有立即撥測(cè)功能剛建好規(guī)則時(shí)先手動(dòng)觸發(fā)一次驗(yàn)證規(guī)則有效性確認(rèn)返回結(jié)果符合預(yù)期再交給調(diào)度。編輯和刪除規(guī)則都會(huì)同步影響調(diào)度管理里的調(diào)度規(guī)則刪除巡檢配置前注意看是否還有引用。3.2 命令巡檢進(jìn)程、端口、磁盤與地址服務(wù)器Butler 巡檢覆蓋的是撥測(cè)層面的健康檢查命令巡檢則是登錄機(jī)器后的主動(dòng)檢查。文檔給出的命令巡檢路徑很清晰按服務(wù)總線、管控中心、公共基礎(chǔ)組件、安全維護(hù)和端口健康檢查五個(gè)維度展開。服務(wù)總線巡檢是最核心的部分Broker 是 Java 進(jìn)程檢查順序是進(jìn)程、端口、日志、磁盤、地址服務(wù)器。# 檢查 CSB Broker 的 Java 進(jìn)程是否存在 ps -ef | grep java | grep cloud-gateway # 檢查服務(wù)端口是否正常監(jiān)聽按實(shí)際版本選擇端口 netstat -ano | grep 8086 netstat -ano | grep 8081 # 檢查日志目錄磁盤占用防止日志寫滿磁盤 df -lh /home/admin/cloud-gateway/logs # 檢查軟負(fù)載地址服務(wù)器連通性 ping jmenv.tbsite.net第一條命令用 grep 過濾的是 cloud-gateway 關(guān)鍵字因?yàn)?Broker 進(jìn)程雖然是 Java 進(jìn)程但直接 grep java 會(huì)匹配到很多無關(guān)進(jìn)程加上 cloud-gateway 后能精確到 CSB 相關(guān)進(jìn)程。第二條命令的端口要對(duì)照當(dāng)前版本選新版盯 8086 和 8081老版盯 8087 和 8082端口弄混是命令巡檢最常見的誤判來源。日志默認(rèn)路徑是 /home/admin/cloud-gateway/log/aosp.log磁盤檢查要單獨(dú)看日志目錄的掛載盤因?yàn)槿罩颈P和數(shù)據(jù)盤經(jīng)常分開只看 df -lh 總覽可能發(fā)現(xiàn)不了問題。地址服務(wù)器檢查容易被忽略文檔里給出的 ping 目標(biāo)是 jmenv.tbsite.net。這個(gè)域名對(duì)應(yīng)的是軟負(fù)載地址服務(wù)器 Address ServerBroker 啟動(dòng)和運(yùn)行期間依賴它做服務(wù)發(fā)現(xiàn)這個(gè)地址 ping 不通服務(wù)注冊(cè)和發(fā)現(xiàn)都會(huì)出問題。公共基礎(chǔ)組件的命令巡檢主要是確認(rèn) TLog、DAuth、HBase、JStorm 的進(jìn)程和服務(wù)狀態(tài)。3.3 巡檢踩坑滾動(dòng)日志、端口兼容和巡檢規(guī)則誤報(bào)第一坑是日志寫滿磁盤。文檔里說 CSB 已啟動(dòng)滾動(dòng)日志機(jī)制并建議保持該巡檢以備萬(wàn)一但滾動(dòng)日志解決的是單個(gè)日志文件無限增長(zhǎng)的問題解決不了整體磁盤被堆滿的問題。異常堆棧、慢查詢?nèi)罩?、多?shí)例重復(fù)打印都會(huì)加速磁盤消耗。我的做法是把 df -lh /home/admin/cloud-gateway/logs 放進(jìn) crontab每小時(shí)跑一次超過 80% 就告警不依賴 Butler 的巡檢周期。第二坑是端口兼容誤報(bào)。Broker 升級(jí)后服務(wù)發(fā)布時(shí)自動(dòng)創(chuàng)建的 Butler 巡檢規(guī)則可能還盯著舊端口導(dǎo)致健康節(jié)點(diǎn)被反復(fù)告警。排查時(shí)先核對(duì)端口表確認(rèn)當(dāng)前產(chǎn)品版本對(duì)應(yīng)哪些端口再?zèng)Q定是改規(guī)則還是加白名單。第三坑是多節(jié)點(diǎn)撥測(cè)誤判。前面講過多節(jié)點(diǎn)撥測(cè)會(huì)把不同節(jié)點(diǎn)的返回結(jié)果做比對(duì)一有差異就告警。后端服務(wù)在灰度發(fā)布、返回內(nèi)容帶時(shí)間戳或 traceId 時(shí)多節(jié)點(diǎn)撥測(cè)天然會(huì)失敗。非核心鏈路我一般用單節(jié)點(diǎn)撥測(cè)只有強(qiáng)一致性的內(nèi)部服務(wù)才用多節(jié)點(diǎn)。4. 故障排查與避坑從服務(wù)找不到到 CPU 飆高的五個(gè)典型場(chǎng)景4.1 服務(wù)發(fā)布失敗先從管控鏈路查起別急著重啟 Broker現(xiàn)象在 CSB 控制臺(tái)發(fā)布服務(wù)時(shí)提示發(fā)布失敗或者發(fā)布成功但調(diào)用方反復(fù)報(bào)錯(cuò)。原因服務(wù)發(fā)布失敗集中在管控中心鏈路涉及 Store、Admin、Cache 三層。Store 保存服務(wù)元數(shù)據(jù)Admin 提供管控服務(wù)Cache 緩存服務(wù)定義和授權(quán)信息。任何一個(gè)環(huán)節(jié)不一致Broker 拿到的服務(wù)定義就是舊的或不完整的。最常見的原因是管控中心到 Broker 的網(wǎng)絡(luò)隔離或者授權(quán)信息沒有同步到 Cache。解決先看 Store 里的服務(wù)元數(shù)據(jù)是否存在再看 Admin 日志里有沒有發(fā)布請(qǐng)求的報(bào)錯(cuò)最后確認(rèn) Broker 側(cè) Cache 是否刷新。文檔里有一句話值得記住服務(wù)總線從服務(wù)控制器獲得服務(wù)定義如果控制鏈路有問題Broker 側(cè)做再多排查都是白費(fèi)。4.2 服務(wù)找不到調(diào)用方報(bào) 404 或 No Provider現(xiàn)象調(diào)用方請(qǐng)求服務(wù)時(shí)返回服務(wù)不存在或者 HSF 調(diào)用直接報(bào) no provider。原因第一類是服務(wù)根本沒發(fā)布成功屬于 4.1 的管控鏈路問題。第二類是服務(wù)已發(fā)布但消費(fèi)方?jīng)]有完成訂閱或授權(quán)CSB 的調(diào)用前需要做授權(quán)授權(quán)信息通過 Cache 下發(fā)到 Broker。第三類是 Broker 節(jié)點(diǎn)狀態(tài)不一致雙節(jié)點(diǎn)中有一個(gè)節(jié)點(diǎn)緩存了舊的服務(wù)定義負(fù)載均衡把請(qǐng)求分發(fā)到了這個(gè)節(jié)點(diǎn)上。解決先區(qū)分是哪一層的問題??刂婆_(tái)確認(rèn)服務(wù)狀態(tài)調(diào)用方確認(rèn)訂閱關(guān)系Broker 側(cè)對(duì)比兩個(gè)節(jié)點(diǎn)的緩存是否一致。如果是雙節(jié)點(diǎn)緩存不一致通常要等 Cache 同步周期或者按文檔里的方式檢查是否需要重啟進(jìn)程刷新緩存。但注意重啟 Broker 屬于 G3 高危操作必須先走變更流程不能為了刷緩存直接重啟否則就是拿服務(wù)連續(xù)性換排查效率。4.3 HSF 調(diào)用不穩(wěn)定與超時(shí)線程池和 GC 是主要嫌疑現(xiàn)象HSF 服務(wù)調(diào)用時(shí)而成功時(shí)而超時(shí)錯(cuò)誤率呈周期性波動(dòng)服務(wù)本身看著是正常的。原因HSF 調(diào)用不穩(wěn)定問題通常不在鏈路而在資源。Broker 的線程池被打滿時(shí)新請(qǐng)求會(huì)排隊(duì)等待超出超時(shí)閾值后表現(xiàn)為偶發(fā)超時(shí)。另一個(gè)原因是 JVM GC特別是老年代頻繁 Full GC 時(shí)Broker 會(huì)短暫停止響應(yīng)這個(gè)時(shí)間段內(nèi)的所有請(qǐng)求都會(huì)超時(shí)。解決先看監(jiān)控指標(biāo)里的線程池活躍線程數(shù)和 GC 頻率再?zèng)Q定是調(diào)線程池配置還是優(yōu)化業(yè)務(wù)代碼。文檔里把線程池配置單獨(dú)列了一章第 7 章說明這類問題在現(xiàn)網(wǎng)并不少見。偶發(fā)超時(shí)的排查順序是客戶端到 Broker 的鏈路時(shí)延、Broker 線程池狀態(tài)、Broker JVM GC、Broker 到后端服務(wù)的鏈路時(shí)延。四個(gè)環(huán)節(jié)逐層排除不要一上來就改超時(shí)參數(shù)超時(shí)參數(shù)調(diào)的過大反而會(huì)讓故障請(qǐng)求堆積在 Broker 上。4.4 控制臺(tái)內(nèi)存溢出與無法訪問Tomcat 層的問題現(xiàn)象登錄 CSB 控制臺(tái)時(shí)頁(yè)面加載緩慢或直接打不開報(bào)內(nèi)存溢出錯(cuò)誤或者控制臺(tái)進(jìn)程還在但頁(yè)面無法訪問。原因CSB Console 是 Tomcat 容器控制臺(tái)報(bào)告內(nèi)存溢出通常是 JVM 堆內(nèi)存配置偏小隨著服務(wù)數(shù)量和調(diào)用量增長(zhǎng)控制臺(tái)需要加載的元數(shù)據(jù)越來越多堆內(nèi)存被打滿??刂婆_(tái)正常啟動(dòng)但無法訪問要單獨(dú)看 8080 端口的監(jiān)聽狀態(tài)和 Tomcat 日志。解決控制臺(tái)內(nèi)存溢出按文檔思路調(diào)整 JVM 參數(shù)后重啟操作前先確認(rèn)是否有正在執(zhí)行的服務(wù)變更??刂婆_(tái)無法訪問時(shí)先 netstat 檢查 8080再確認(rèn) Console 進(jìn)程是否假死必要時(shí)按 G2 流程申請(qǐng)重啟??刂婆_(tái)登錄后出現(xiàn)安全提示通常是瀏覽器對(duì)證書的校驗(yàn)問題文檔里提到用谷歌瀏覽器配置代理登錄證書類提示先檢查代理和證書信任鏈不要一上來就改安全配置。4.5 數(shù)據(jù)庫(kù)密碼變更后的連鎖故障最容易被低估的 G3 操作現(xiàn)象CSB 控制數(shù)據(jù)庫(kù)Store 的 MySQL密碼變更后Console 和 Admin 出現(xiàn)連接失敗服務(wù)無法發(fā)布甚至部分已發(fā)布服務(wù)也異常。原因CSB Store 的元數(shù)據(jù)被 Console、Admin、Broker 多條鏈路依賴密碼變更后如果配置沒有同步更新受影響的不是單個(gè)組件而是整條管控鏈路。文檔里把數(shù)據(jù)庫(kù)用戶名密碼變更單獨(dú)列為一個(gè)故障場(chǎng)景說明這個(gè)操作在現(xiàn)網(wǎng)踩過坑。解決變更前先梳理依賴關(guān)系確認(rèn)哪些組件讀取了數(shù)據(jù)庫(kù)配置。變更后逐項(xiàng)驗(yàn)證Console 能登錄、Admin 日志無連接報(bào)錯(cuò)、Broker 緩存未受影響。整個(gè)過程按 G3 處理變更申請(qǐng)里要寫明回滾方案一旦驗(yàn)證失敗能在窗口期內(nèi)回滾密碼配置。這條場(chǎng)景是典型的「操作五分鐘驗(yàn)證兩小時(shí)」寧可慢不可跳。5. csb-broker 配置參考線程池、連接、網(wǎng)絡(luò)與 CORS 參數(shù)5.1 線程池配置先看監(jiān)控指標(biāo)再動(dòng)參數(shù)文檔第 7 章把 csb-broker 的配置分成線程池、連接、網(wǎng)絡(luò)、http-cors 四類線程池排在第一位。Broker 收到請(qǐng)求后由線程池分配線程處理線程池太小請(qǐng)求排隊(duì)太大則線程切換開銷升高、內(nèi)存占用增大表現(xiàn)為響應(yīng)時(shí)間不降反升。文檔沒有給出具體推薦值我的做法是根據(jù)監(jiān)控指標(biāo)來定。先看 Butler 或監(jiān)控容器里的活躍線程數(shù)曲線如果長(zhǎng)期處于線程池上限附近優(yōu)先考慮擴(kuò)容 Broker 節(jié)點(diǎn)而不是無限調(diào)大線程池。線程池調(diào)整遵循一個(gè)原則每次只調(diào)一個(gè)參數(shù)觀察一個(gè)完整業(yè)務(wù)周期至少一天的響應(yīng)時(shí)間和錯(cuò)誤率再?zèng)Q定下一步。同時(shí)調(diào)核心線程數(shù)和最大線程數(shù)出了問題很難定位是哪個(gè)參數(shù)導(dǎo)致的。5.2 連接與網(wǎng)絡(luò)配置超時(shí)、連接數(shù)與優(yōu)雅停止連接配置影響的是 Broker 與后端服務(wù)和調(diào)用方之間的鏈路穩(wěn)定性。連接數(shù)上限決定 Broker 能同時(shí)維持的 socket 連接數(shù)量連接數(shù)打滿時(shí)新連接請(qǐng)求會(huì)等待表現(xiàn)和線程池打滿類似都是偶發(fā)超時(shí)。區(qū)別是線程池打滿時(shí)活躍線程數(shù)高連接數(shù)打滿時(shí)監(jiān)控里的連接數(shù)指標(biāo)會(huì)頂?shù)缴舷?。網(wǎng)絡(luò)配置里有一個(gè)容易被忽略的點(diǎn)連接超時(shí)和讀超時(shí)的設(shè)置。連接超時(shí)是建連的超時(shí)時(shí)間讀超時(shí)是建連后等待第一個(gè)字節(jié)的時(shí)間。兩個(gè)超時(shí)如果不能覆蓋現(xiàn)網(wǎng)最慢端的響應(yīng)時(shí)間會(huì)出現(xiàn)正常請(qǐng)求被誤殺的情況。我一般會(huì)把讀超時(shí)設(shè)成后端服務(wù) P99 響應(yīng)時(shí)間的 2 到 3 倍留出余量又不會(huì)讓故障請(qǐng)求堆積太久。優(yōu)雅停止是 CSB 里一個(gè)很有用的能力。Broker 重啟前先觸發(fā)優(yōu)雅停止停止接收新流量等存量請(qǐng)求處理完再重啟進(jìn)程可以把重啟對(duì)業(yè)務(wù)的影響降到最低。文檔把優(yōu)雅停止單獨(dú)列在故障處理章節(jié)里說明這是生產(chǎn)環(huán)境重啟的標(biāo)準(zhǔn)動(dòng)作而不是可選優(yōu)化項(xiàng)。5.3 http-cors 配置跨域開放的正確姿勢(shì)http-cors 解決的是瀏覽器跨域調(diào)用 CSB 服務(wù)的問題。配置 CORS 時(shí)最常見的錯(cuò)誤是把 allowedOrigin 設(shè)成 *全放開跨域來源。CSB 的調(diào)用本身帶著 AccessKey/SecretKey 做簽名鑒權(quán)全放開跨域來源等于繞過了瀏覽器層面的隔離攻擊面會(huì)明顯擴(kuò)大。我的做法是只配置實(shí)際需要跨域訪問的來源域名方法用 OPTIONS 預(yù)檢能過的最小集合。CORS 配置改動(dòng)后用瀏覽器的開發(fā)者工具實(shí)際驗(yàn)證一次跨域請(qǐng)求確認(rèn)響應(yīng)頭里帶上了正確的 allow-origin而不是只在服務(wù)端看配置生效了沒有。CORS 配置錯(cuò)誤在服務(wù)端日志里往往只有一行 CORS 拒絕記錄很容易被當(dāng)成普通的鑒權(quán)失敗忽略掉。6. 進(jìn)階企業(yè)賬號(hào)系統(tǒng)接入 DAuth 標(biāo)準(zhǔn)的三個(gè)關(guān)鍵接口6.1 接入流程登錄頁(yè)面、獲取用戶、查詢用戶企業(yè)自有賬號(hào)系統(tǒng)接入 CSB 時(shí)DAuth 是認(rèn)證鑒權(quán)的核心。文檔第 8 章把接入工作拆成三個(gè)實(shí)現(xiàn)點(diǎn)實(shí)現(xiàn)登錄頁(yè)面、實(shí)現(xiàn)獲取用戶接口、實(shí)現(xiàn)查詢用戶接口可選。三個(gè)接口的職責(zé)不同缺一個(gè)都會(huì)導(dǎo)致接入鏈路不通。實(shí)現(xiàn)項(xiàng)職責(zé)是否必選登錄頁(yè)面完成企業(yè)自有賬號(hào)的登錄認(rèn)證登錄后跳轉(zhuǎn)回 CSB必選獲取用戶接口根據(jù)登錄態(tài)或用戶標(biāo)識(shí)返回用戶詳細(xì)信息供 DAuth 完成鑒權(quán)必選查詢用戶接口支持按條件查詢用戶列表用于管理或批量場(chǎng)景可選接入時(shí)最容易出的問題不是接口本身而是登錄跳轉(zhuǎn)和用戶信息的傳遞鏈路。登錄頁(yè)面認(rèn)證成功后CSB 側(cè)需要拿到用戶標(biāo)識(shí)并調(diào)用獲取用戶接口如果標(biāo)識(shí)傳遞丟失或不一致會(huì)出現(xiàn)「登錄成功但鑒權(quán)失敗」的典型癥狀。聯(lián)調(diào)時(shí)先抓登錄跳轉(zhuǎn)的完整請(qǐng)求鏈路確認(rèn)用戶標(biāo)識(shí)每一步都在再去看接口返回的數(shù)據(jù)格式。6.2 驗(yàn)證與閉環(huán)巡檢規(guī)則加日志確認(rèn)接入完成后別急著驗(yàn)收先用 Butler 巡檢規(guī)則把 DAuth 鏈路納入日常撥測(cè)確保新接入的賬號(hào)認(rèn)證路徑在無人值守時(shí)也能被及時(shí)發(fā)現(xiàn)異常。登錄 CSB 控制臺(tái)驗(yàn)證一次完整調(diào)用然后去 DAuth 日志確認(rèn)認(rèn)證記錄最后在 Broker 側(cè)看一次調(diào)用鏈路的日志。三層確認(rèn)都通過DAuth 接入才算閉環(huán)。從那以后我每次做 CSB 的運(yùn)維拆解和二次接入都會(huì)強(qiáng)制自己走一遍完整流程先看組件架構(gòu)確認(rèn)端口和版本再按巡檢清單過一遍 Broker 和 Console最后把 DAuth 或配置變更項(xiàng)單獨(dú)列出來逐項(xiàng)驗(yàn)證。這套動(dòng)作幫我避開了好幾次因?yàn)槎丝谂?、操作等?jí)沒分清楚導(dǎo)致的線上問題。文檔里的內(nèi)容不一定每條都能用上但架構(gòu)、端口、操作等級(jí)這三樣是每次都必須核對(duì)的基礎(chǔ)信息。希望這份拆解能幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
啊好大好舒服| 熟女六十路| 蜜臀久久99精品久久久久免费观| 日韩成人精品视频自拍| 秋霞一级鲁丝片A片| 久草精品国产蜜臀| 色情五月丁香| 欧美夜夜| 欧美精品欧美精品系列| 久久久久久大| 婷婷五月天色色| 啊啊啊好大好深| 久久久久ab| 免费啪啪啪网站18岁| 亚洲中文字幕在现观看| 天天天干977| 骚熟女吞| 人人摸人人干| 国产精品一二三免费网站| 99在线免费公开视频| 久久9精品网站| 91爱综合| 国产精品制服丝袜中文字幕日韩一区二区三区| 激情综合婷婷| 唐山老熟妇露脸啪啪叫| 日韩黄色av中文字幕| 日本2020一区二区| 国产麻豆91欧美一区二区久久婷婷国产精品 | 国产无码精品成人| 超碰免费97| 超碰在线在公开超碰在线在公开| 91欧美成人色站| 午夜天堂精品久久久久91| 日韩女模中文造逼| 成人激情无码在线视频| 熟女色综合久久| 国产专区第一页| 蜜乳视频网站| 久久综合国产精品国产| 精品成人无码| 中国大陆国产高清AⅤ毛片| 国产熟妇 码视频户外直播| 欧美人妻熟女在线| 后入综合久久| 熟女露脸激情自拍视频| 中文一区二区| 中国少妇啪啪视频| 日韩9区| 亚洲色图欧美色18直播在线| 亚洲第一页色网| 乱伦熟女论坛| 亚洲欧美情色| 超碰在线一区二区| 中文字幕天堂在线| 色噜噜人妻丝袜a∨先锋影 | 亚洲人体视频在线观看| h无码动漫在线观看| 亚洲无码太久| 一级黄色视频网| 免费伦费视频在线观看| 日本在线视频导航| 成人在线日韩| 美女主播色欲91抠b在线播放| 欧美日韩免费专区在线| 99热导航| 久久久久久久综合,国产| 欧美亚洲高清不卡| 热G综合热G中文| 亚洲se电影| 五月天九九日国产精品一区二区三区| 日本加勒比无码专区| 91超碰在线播放| 99久久9| 一本色道久久综合狠狠操| 国产麻豆一区二三区| 玖玖超碰熟| 日韩无码人妻中字久久三区四区| 91w欧美| 亚洲无码国产探花在线观看| 亚洲欧洲中文日韩女优乱码| 色情五月丁香| 屌妞视频久久久久久久久久久久| 免费观看的黄色的网站| 成人夜夜爽| 九九久久久九九| 成人A片男人的天堂| 九一性生活免费视频| 91超碰在线观看| 九九九九九精品视频| 97在线免费| 一区AV| 伊人久久大香线蕉无码| 96久久科窝| 欧色性第一页| 中文久久久| 日本操嫩b网| 五月婷婷综合网| 乱老熟女一区二区三区| 91欧美www| 岛国在线免费视频| 欧美大香蕉在线观看| av日韩手机在线影视| 亚洲天堂热| 夜夜嗨av午夜成人| 91天堂网| 色激情五月天| 色综合20p| 女生看匆91网站| 日韩乱伦AⅤ| 蜜桃视频精品一区二区| 国产日韩中文字幕欧美| 免费的很黄很污的全部视频| 97超碰69| 高潮精品| 91蜜臀在线久久久久| 风骚少妇视频中文字幕| jizzjizz欧美| 人妻喷水| 欧美婷婷五月天| 嫩草影院永久在线制服丝袜| 国产精品久久妻无码网站| 色婷婷久久| 亚洲人妻久久久| 国产美女mm131爽爽爽爽| 亚洲综合五月天婷婷丁香| 97频视在线| 国产精品久久久| 一区二区三区精品视频| 欧美激情综合色综合啪啪五月| 欧美色图20P| 成人乱码一区二区三少妇| 亚洲 欧美 小说| 亚洲天堂精品日韩电影| 后入美女国产| 日本一区不卡| 欧洲免费一区二| 欧美性高潮| 无遮挡h肉动漫在线观看| 国产人妻一区二区三区欧美毛片| 91美女视屏| 男人久久天堂| 午夜精品久久久久| 日韩人成网站在线播放| 亚洲AV免费在线观看| 国产 日韩 欧美一区| 日本丝袜美腿人妻九九| 日本欧美一区二区三区视频麻豆| 欧美亚洲国产日本在线,久久精品国产| 免费的黄片有限公司| 97这里都是精品| 亚洲伊人a线观看视频| 久久久久网站-538在线视频-欧美永久乱码 | 人人爱人人乐人人操| 天堂岛av| 欧美成人一级麻豆| 熟女网站最新| 殴美,日韩国产伦精品| 东北老熟女| 色色色综合| 亚洲欧美电影| 91操人| 日本网色| 日韩精品一区二区高清| 国模久久在线| 久久久久久久78| 欧美亚洲尤物久久| 日本精品五区| 91天天综合在线观看| 亚洲激情在线一区二区| 国产最新小视频在线播放下载| 国产日韩人人| 欧美极品女人的天堂| 欧美日韩午夜精品一区二区三区 | 影音先锋少妇| 国产高清成人免费视频| 96精品一区| 激情综合亚洲| 国产视频大全| 夜夜狼人妻| 午夜精品五区| 亚洲影院成人| 好色美女九七第一页| 欧美 亚洲 制服 精品| 1769一区| 精品一级| 日本不卡免费二区| 国产精品色哟哟| 婷婷五月综合激情| 日韩欧美中文| AV乱伦国产| 日日AAvv| 女同性恋中文字幕| 大香蕉欧美日韩| 六月色色| 色色无码| 无码 有码 国产18p| 2024黄色视频| 一区二区高清视频| 欧美激情区| 国产免费一区| 精品美女少妇一区二区三区| 精品91摸| 中文字幕精品人妻丝袜| 久久人妻四季| 熟女丰满人妻一区| 成人福利视频网| 永久免费av无码网站国产app| 日韩少妇一区二区三区| 久久精品国产Aⅴ| 中文字幕AV中出| 久久久性少妇| 亚洲清纯综合| 国内一级精品| 久久久久久久久久久久97 | 欧美亚洲第一页| 污色区网站| 久9精品| 亚洲男人在线观看天堂| 亚洲情色综合网| 台湾佬中文娱乐网久久久久久久久久com | 婷婷综合网站| 东北夫妻性偷拍| 男人的天堂2010| 婷婷五月丁香五月| 久久这里都是精品| 日韩欧美成人大香蕉| 久久久无码国精品无码三区三区| 嗯啊不要在线观看嗯啊| 欧美精品另类人妖xxxx| 男人的天堂.com| www.操| 北京专精特新企业招聘信息| 中文久久一区| 日韩一级二级三级免费看完整版国语版 | 色av中文字| 爱爱动态120秒| 九九在线视频| 视频在线观看一二三区| 亚洲男人的天堂AV| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 久久精品店| 国产极品馒头逼| 91亚洲欧洲| 日本人妻丰满熟妇久久久久久| 97香蕉网| 欧美精品日韩久久久九| 亚洲久热| 密桃99999| 日本加靬比网站发布页| 操少妞在线视频| 噜噜噜噜天天狠狠| 日韩欧无码一区二区三区免费不卡 | 天久久久噜噜噜久久国产精品爽爽| 99999国产精品| 插入逼91| 日韩啪啪视频| 后入人妻一区| 日韩日韩日韩-国产乱码精品一区二区| 97在线播放 | 国模限制级电影| 黄色激情电影在线观看| 亚洲黄网在哪免费看| 嗯啊不要啊在线 | 久操九九九九| 欧美淫乱视频| 天天综合欧美| 国产亚洲日本精品在线| 999日韩中文精品观看视频。| 精品十三区| 暴力av在线| 国产强奸乱伦xd| 亚洲国产一区二区三区四区国产| 台湾大香蕉99热| 欧美少妇高潮视频| 日韩免费高清大片在线| 殴美性色a级欧美| 日韩精品影视| 男女猛烈无遮掩视频免费软件| wwwxxx日本爽| 另类亚洲图色| 欧亚日韩中文在线| 麻豆国产96在线| 北京专精特新企业招聘信息| 91中文字幕在线观看| 秋霞操逼片| 99久热| 色呦色呦色精品| 久操九九九九| 人人妻人人爽| 亚洲视频1区| 日韩人妻精品久久久久| 国产尤物在线三区| 极品色www影院| 美女的肌被草喷水视频| 青青青在线高清视频在线一二三四区| 激情综合二| 91欧美美女日韩国产婷婷| 1024精品在线| 亚洲久热| 吊色| 91粉嫩萝控精品福利网站_精品影音先锋国| 亚洲综合性感在线| 欧美日韩插逼视频| 夫妻四区五区六区| 久久夜夜| 亚洲精品天天影视综合网 | 激情视频网址| 99热这里只有精品18| 男人的天堂一区三区| 国产亚洲精品美女| 中文字幕一区二区韩| 男人的天堂VA在线| 国产日韩欧美中文在线播放| 国产欧美后入| 激情久久av一区av二区av| 中文字幕在线2| 久久久久久国产精品免费网站| 人妻少妇三级| 亚洲av影院在线观看| a片亚洲一本通视频| 亚洲国产一级黄色视频| 亚洲成人性爱网站在线播放| 中文字幕第23区| 一本久道在线综合视频| 91碰碰| 亚洲精品国产精品乱码不99| 精品人妻一区二区蜜桃视频| 99视频只有精品| 91白虎| 91男女啊啊啊| 麻花豆传媒剧国产MV出差| 久久久久网站-538在线视频-欧美永久乱码| 91一区二区三区蜜桃| 性性欧美| 四虎AV在线观看| 亚洲久久久久| 亚洲图片在线| 防屏蔽在线视频| 免费观看成人www精品视频| 一区中文字幕二区日韩| 乱伦熟女区| 91 丝袜在线播放| 亚洲色图 图片| 婷婷视频网| 亚洲欧美日韩偷拍色图| 国产久久一区二区| 婷婷五月天在线观看| 国产精品久久久啊| 97伦乱| 熟妇熟女视频一区二区三区| 亚洲精品久久久久毛片A片拉屎 | 动漫爆乳3D奶水一区在线观看| 美女9118禁| 日本中文字幕高跟| 久久五月视频| 色黄色美女大长腿午夜视频| 91久久国产精品| 久久夜色一区二区| 噜噜吧,噜噜色,噜噜| 18禁看网站一区| 超碰是碰在线观看| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 日本污ww视频网站| 99久久婷婷丁香| 欧美美女视频| 99草精| 操b网站亚洲无码| 天天弄天天操| 少妇干B| 四虎午夜影院| 超清中文乱码字幕| 九九九九精品精| 亚洲一二三四区在线免费看视频| 精品人妻一区二区免费蜜桃| 99热亚洲| 中文久久爆乳| 91小视频| 亚洲精品人妻吞精av| 免费久久一级毛片大黄| 亚州91| 农村少妇久久久久久久| 自拍啪啪视频| 视频在线观看青青99国产| 老鸭窝黄色视频网站| 97色在线观看| 亚州精品一区二区三区香中文字幕在线| 91艹B视频| 超碰日韩人妻| 99re免费视频精品全部| 午夜性生活av免费在线看| 亚洲毛片基地专区| 97免费视频在线| 亚洲国产日韩精品久久久| 亚洲人精品午夜不卡| 超碰97久久国| 精品二区三四区五电影 | 草草影院最新网址| 日韩人妻一二三区视频| 激情无码日韩| 曰韩成人免费视频| 久久男女激情视频网站| 欧美一级黄片免费播放| 婷婷五月天补不补| WWW4虎| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 人人妻人人爱人人玩| 熟妇人妻精品一区二区| 3级毛片一二| 五月天婷婷社区| 啊v在线观看视频| 午夜毛片亚洲精品片国产久久久| 四虎精品永久在线播放| 国产成人91一区二区三区| 午夜男女爽爽爽影院视频| 国产精品99精品视频网站| www.久久制服糖| 亚洲 自拍偷拍 欧美| 户外裸露刺激视频第一区| 国产区性爱在线视频秋霞豆| 日本99热| 爱爱动态试试看6 0秒| 99re在线观看| 国产视频97| 狠狠爱夜夜| 老熟女乱伦片| 国内毛片婷婷六月色| 性爱乱伦一区| 熟妇人妻精品一区二区视频色欲| 91在线限制级| 久热这里| 国产辣妈在线视频福利| 免费作爱一级视频| 好吊妞转入那个网| 欧美亚洲涩涩| 日本一二区不卡| 91丝袜在线观看| 中文字幕国产| 伊人网在线观看| 美女t无毒不卡不卡| 国产粉嫩蜜臀av一区二区三区| 久久久久久69国产一区二区| 五月婷婷综合激情| 黄色小说亚洲| 欧美三级偷拍| 日韩欧美国产一区二区三区四区| 激情小说五月天| 日韩av色图综合| 91天堂| 日本 色 导航| 亚洲成人av色网| 91综合国产精品| 好爽免费视频| 91啪啪视频| 日韩伦理久 久久 清纯| 青青草国产一区二区三区| 日韩av性爱在线播放| 国产久久久久久久久一区二区 | 亚洲图片91| 伊人久久综合影院| 久久只有精品一区二区三区| 精品在线蜜臀| 丁香五月婷婷基地| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 蜜桃传媒一区二区亚洲| 中文字幕在线免费观看 | 视频不卡中文字幕| 国产精品午夜高潮呻吟久久av| 台湾佬中文娱乐自偷自拍| 丁香九月激情| 黄久在线| 操比国产| 嫩草91| 18禁网站在线播放| 亚洲91网站| 天天看夜夜看日日干| 亚洲有码 视频一区| 日日骚av| 久久伊人大香蕉| 中文字幕一区二区三区蜜桃视频| 温婉少妇玩3p| 国产久久男人天堂| 亚洲无码AV九九九| 欧洲亚洲天堂精品 | 日日妻色网| 人人玩人人添人人澡免费| 欧美草草| 熟女露脸激情自拍视频| 天美精品一区二区三区四区在线观看| 蜜桃成人1区2区3区| 色婷五月天| 天天看,天天做| 中文字幕精品一区二区精| 成人免费性爱视视| 午夜噜噜噜| 9I1性色影院| 婷婷五月天激情网| 男人的天堂午夜av| 精品国产丝袜一区二区三区乱码| 在线观看成人性爱免费小视频| 天天影视色香欲综合网小说| WWW操逼| 亚洲日韩人妻中文字幕一区| 久久久精品网| 天天综合网网欲色| 不卡中文字幕aⅴ在线| 国产97亚洲| 国产精品免费久久久久久久久久 | 极品销魂美女一区二区| 精品毛片av一区二区| 亚洲av国产av综合av卡| 精品人妻av在线播放| 国语对白在线播放视频| 国语精品内射在线观看| 久色网| 久插综合| 骚逼高潮久久精品| 日韩国产十八禁| 啊啊啊啊啊舒服| 日本东京热久久久电影| 免费在线黄片视频| 亚州国产精品乱| 国产亚洲日本| 亚洲一区在线观看欧洲 | 97干在线| 美女91av| 东京热视频网| 可以看的av| 成人A片男人的天堂| 人人操人人肉久久精品| 多毛小伙内射老太婆| 怡红院视频在线| 亚洲区限制级 99| 草草影院日本第一页| 欧美色偷拍| 日产中文字幕2020| 在线αⅴ| 蜜桃在线观看一区二区三区| 精品九九九九九九| 五月天激情网图片| 欧美亚洲宗合色性图| 五月天婷婷在线看| 欧美天天综| 欧美日韩在线视频网站| 九九热免费国产视频婷婷伊人| 后入福利| 六月丁香啪啪| 欧美 亚洲| 女人高潮大叫一级毛片| 97久久超碰亚洲| 九九在线视频| 国产精品第一区第一页| 亚洲丝袜色图| 婷婷丁香五月天亚洲天堂网| 亚洲国产丝袜在线观看| 在线看片国产精品每日更新| 91狠狠狠| 久操综合在线| 人妻 丝袜美腿 中文字幕| 亚洲色图殴美色图激情乱伦| 日本伦理一区二区| 色就色综合| 午夜亚洲| 九区国产| 色色激情| 日产操逼| 91国精产品| 久久人妻视频| 成人乱人伦一区二区| 中文字幕在线第二页| 天天色综合天天操| 偷拍 欧美 日韩| 97久久精品国产| 激情啪啪拍91| 91久久免费视频互動交流| 大白逼三四级| 乱老熟女一区二区三区| 97福利视频| 国产精品无码av| 一本色道久久综合亚洲二区三区| 丝袜av一区二区三区| 日本大香蕉综合网红本杳社区| 国产欧美美女免费观看视频| 9999免费精彩视频| 青娱乐国产精品| 免看60秒涩涩视频| 亚洲色资源| 天天日少妇逼AV| 免费一级视频特黄色大片| 操国产逼| 亚洲图片欧美色图| 亚洲欧美综合网| 欧美日韩美女精品久草一区二区三区| 7月婷婷综合| 九九色热| 最新日产中文在线麻豆| 草草影院最新网址| 韩国手机不卡无码三级视频| 色牛aV| 久久是精品| 亚洲伊人久久精品影院| 久久仑合| 人妻激情在线视频| 精品人妻av在线播放| 一区不卡在线观看av| 日本操逼无码| 日韩卡一卡二卡三在线| 欧美黄片欧美黄片xxx| 国内自拍 日韩激情 99| 色色色色综合网| 久久久中文| 嗯嗯,啊啊,国产精品| 丝袜制服字幕在线| 一本大道综合伊人精品热热| 成人一级二级| 91色插| 国产隔壁老王影院在线| 日韩欧美中文| 天天干天天操天天拍| 天天天天做夜夜夜夜做| 欧美日韩欧美| 91性高朝久久久久久久久| www成人啪啪18秘 免费| 日本天天色| 欧美色图私拍91| 亚洲成人色情五月天丁香花| 亚洲中文丝袜美腿诱惑字幕| 午夜小电影在线插入淫高潮| 福利操逼| 天天综合网国产| 丝袜美腿射精91| 诱惑网综合| 无码精品一区二区三区潘金莲| 国产热RE99久久6国产精品首| 欧美亚洲激情小说| 亚洲色图欧美色18直播在线| J?P?NESEHD熟女熟妇伦| 蜜乳av首页| 欧美日韩99精品麻豆传媒| 97在线观看免费| 久久天天艹| 少妇一区二区三区在线观看| 亚洲日韩美女丝袜美腿人妻视频| 东京热男人的天堂精品| 91麻豆天美国产| 人人澡人人干| 九九热超碰| 亚洲色性| 五月激情小说| 免费视频一二三区| 综合久久欧美| 亚洲人妻久久久| 人妻精品一区二区在线| 亚洲影视高清第一页| 青娱乐久久艹| 超碰在线在公开超碰在线在公开| 欧美顶级黄色大片免费| 老鸭窝黄色视频网站| 免费看黄片现成| 东京热不卡视频| 熟女这里只有精品6| 久久久久9| 无码高清专| 天天干1区2区在线| 激情开心五月天| 久久精品国产Aⅴ| 国产美脚女优尤物在线观看| 欧美不卡在线一区二区| WWW4虎| 国产婷婷综合在线观看| 夜夜夜久久| 国产欧美成人第一页在线观看| 97久久久精品| 中文字幕五区| 欧美日韩亚洲一区二区在线观看| 狠狠干妹子| 欧美熟女少妇| 国产91福利小视频在线观看| 日韩伦理视频| 人人看人人爰人人操 | 男人的天堂1024| 99这里有精品| 操我无码| 欧美精品23| 欧美日韩人妻精品一区二区三区 | 人妻天天爽夜夜爽精品2| xxxx网站亚洲精品| 日日夜夜精品视频| 久久人妻一区二区三区高清| 婷婷尹人大香蕉免费| 欧美大波激情xxxx| 骚女天天综合网| 中文字幕精品三级久久久| 欧美日韩人人精品| 99热99色| 精品一二三区久久AAA片| 超清福利精品视频在线| 美女9118禁| 久久人人爽av亚洲精品天堂桃色 | 一级一性爱免费视频| 大乔未久88一区| 中文字幕版| 欧美78p| 96国产精品| 青青草日韩免费观看高清在线| 亚洲91极品| 校园春色制服丝袜中文字亚洲| 亚洲系列第一页| 亚洲国产成人7777| 成人a v在线播放免费| 男人天堂网站| 亚洲天堂中文字| 欧美日韩日产免费网站看| 无码操逼视频一下| 激情小说日韩无码| 免费黄色片。| 操逼逼无码| 蜜桃色色网站视频三区| 天天摸,夜夜摸| 欧美综合骚| 亚洲射综合网| 综合九九| 超碰人妻久久| 久综合国内精品自在自线| 国产91啪| 福利色色| 97资源超碰| 午夜福利在线视频1000| 欧美久久人体| 被操高清无码视频| 97色婷婷| 岛国免费视频在线| 欧美天天干| 99免费在线视频| 日韩懂色网| 亚州欧美在线| 久操网视频| 欧美久久九九| 欧美97网| 久久国产热视频97电影| 91丨九色丨东北熟女| 国产亚卅97| 精品国产乱码久久久久久免费| 大香蕉黄色一区| 91N欧美| 秋霞鲁丝午夜无码一区二区三| 超碰99在线| 制度丝袜99| 91大胆欧美| 青青草大香蕉在线视频| 久久久青青草| 久久东京伊人一本到鬼色| 日韩AV片| 凌辱美少妇久久aV| 天天干天天狼在线视频| 人妻丝袜肏逼| 一区二区三区黄片免费观看| 欧美精品丝袜久久久中文字幕| 国产97综合| 综合自拍| 国产熟女高潮一区二区三区| 国产AV久久野战精品| 蜜桃臀 后入 一区 二区 三区 在线| 欧美日韩一二三| 九九碰九九爱97| 在线情色电影 91大 | 男人高清无码一区二区| 日韩偷拍色图| 99久在线精品99re8蜜桃| 美國A片| 色婷婷日韩精品一区二区三区 | 69人妻人人揉人人躁人人精品| 少妇无码999| 婷婷超| 日韩干B| 加勒比久久av| 国产AV人人夜夜澡人人爽麻豆| 97色97好| 国产视频第2页| 学生妹天天看| 日韩欧美~中文字| 一级黄色视频网| 97 超碰 人人做 人人爱| 99欧美| A一级色女| 婷婷五月天社区| 国产视频一区二区三区在线免费观看| AV色五月| 欧美页片| 性色高清在线| 国产九月婷婷| 激情综合色| 青娱乐国产精品| av一区二区三区四区| 超碰在线一区二区三区| 99re视频在线播放青草| 精品人妻伦一区二区三区久久| 久久精品视频28| 人妻精品综合中文字幕在线 | 久久性爱视频免费看| 91九色丨风韵犹存| 夜夜嗨一区二区三区直播内容| 欧美一区二区三区成人性生活| 福利天堂| 亚洲性少妇| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊| 欧美美女自慰一区二区三区| 三级三久久线久久99久目本WW| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 五月丁香综合激情| 亚洲精品 大香蕉| 久久,精品一二三| 亚洲成人碰碰| 美女淫穴| 蜜桃臀一区二区三区久久| 欲色啪| 性色A∨91| 午夜福利一区二区影院| 女同女同恋久久级三级| 日本大片日本一区二区免费高清| 夜夜操夜夜高潮夜夜爽国产精品区| 国内成人圈中文字幕无码视频| 日韩熟女操逼| 999九九精品| 2024人人操人人摸| 中文字幕三四区| 欧美少妇色综合| 激情久久久| 乱伦日本中文自拍| 欧美日本视频一区| 国产视频一区二区在线| 996热| 夜精品久无码| 男女啊啊啊| 欧美日韩制服| 麻豆这里只有精品| 国语对白露脸XXXXXX| 欧美国产操逼| 精品免费1| 强歼乱伦资源网| 超碰97色| 高潮9999外国| 欧美久久婷婷| 蜜桃臀av在线观看| 一级黄色性爱A级片| 亚洲精品人体| 中文字幕精品亚洲熟女| 精品一区二区三区最新| 激情久久久| 老熟女搡BBBB搡BBBB视频| 78精品在线| 狠狠操狠狠燥| 大香蕉一人在线| 狼人综合婷婷激情四射 | 超碰视97中文| 色婷婷综合久久久久中文一区二区| 日欧操屄视频| 国产Aα| 久久精品人人做人人看| 日本不卡在线二区三区| 久久99久久99精品天美传媒棢·纸:. | 精品色色| 偷窥自拍A片| 狼狼色丁香久久婷婷综合五月| 国产传媒日韩欧美| 一区二区三区麻豆| 欧美专区17页| 97jingpin| 亚州色阁| 欧美玖玖爱免费玖玖| 日韩中文字幕av在线播放| 91久久国产综合久久| 国产一级片| 无套内射性感少妇视频| 国产伦乱91| 日本午夜精品理论片A级APP发布| 国产aⅴ无码片毛片一级网站| 久艾草在线精品视频在线观看| 亚洲av性爱电影| 粉嫩av在线| 日本操逼视频免费| 国产一区二区二区按摩精品啪视频| 九九九九九九九九九国产精品| 中文字幕第7页| 老鸭窝在线视频播放| 无码人妻丰满热妇又大又粗| 天堂俺去俺来也www久久婷婷| 国产亚洲欧美每日在线| 强奸乱伦免费网站| 日韩黄色av中文字幕| 蜜臀AV秘一区翔田千里| 亚洲无码太久| 亚洲一级性爱视频免费看| 久久无码成人| 伊人久操| 五月丁香综合| 婷婷四五区| 日本淫色网| 色色99| 国产熟女二区| 精品无码一区二区三区| 亚洲 欧美 日韩另类 麻豆| 午夜操一视频一区| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 日本天天吊| 亚洲精品丝袜| 熟女网站最新| 国产精品久久久午夜夜伦鲁鲁| 视频二区美腿制服人妻欧美| 香蕉视频精品亚洲一区二区三区在线播| 青草一区二区| 亚洲无码电影久久久| 大屁股人妻女教师撅着屁股| 尤物网址| 日本色婷婷| 久久久久久久久久久久久9999| 91 国产丝袜在线放观看| 天天干天天中出av| 啊啊啊啊,啊啊好多水| 中文字幕第2页| 99re免费视频精品全部| 美女一区二区国产精品| 五月天精品| 欧美久久毛片基地| 天天干1区2区在线| 男人的午夜天堂| 一区二区三区黄色片a| 欧美十八禁在线看| 东北黄色电影| 亚洲美女黄色| 欧美99999| 无码操逼网| 99只有精品| 亚洲区限制级| 久草这里只有精品 | 日本国产亚洲一区在线观看| 久久av成人无码免费| 久久午夜伦| 欧美大战久久久伊人| 超碰诱惑| 欧美日本中字另类在线| 91狠婷| 麻豆这里只有精品| 欧美熟妇乱码在线一区| 97射欧美| 国内偷自视频区视频综合| 六月丁香啪啪| 九九九九九九九九九九精品视频| 亚洲风情在线观看| 欧美大香蕉同搞| 天天操女人| 91插B网站| 国产传媒午夜理伦精品| 五月天激情网站| 色五月激情AV在线| 日本孕妇一区二区视频操逼免费看 | 97人人操人人摸人人爱| 性爱综合网| 欧美性天天影院| av毛片aaaaa免费看| 久99久视频| AV中文字幕剧情1区2区3| 亚洲男人天堂网| 久99热| 中文字幕伊人| 另类TS人妖一区二区三区 | 999精品国产高清一区二区| 激情五月天婷婷| 欧洲一区二区三区四区在线观看| 一区操逼| 欧美成人精品一区二区三区| 91亚洲网站| 欧美一级A片在线看视频性色| 丰满精品人妻少妇久久字幕| 亚洲高清视频在线免费观看| 婷婷五月综合激情| 色综合 加勒比| 中文字幕91页| 97超碰免费人人性爱| 测评在线观看AV| 亚洲性综合9| 四虎影视精品| 东京日日夜夜| 992大香蕉| 香蕉久久国产AV一区二区| 男人天堂无码| 亚洲操逼视频网站| 碰人碰碰人人开房人肉| 福利视频一区二区微拍| 男人把坤坤插入女人的下体| 性爱视频啪啪啪啪| 91高跟美女在线播放| 思思热在线视频免费| 人妻一区二区三区| 久久久性| 亚洲 欧美 小说| 欧美激情性久久久久久| 亚洲男人天堂网久久| 一道α片欧美| 五十路熟女工口 | 亚洲欧美综合| 第二页中文字幕| 国内毛片热久久思思热| 欧美一区二区传媒| 日日噜噜夜夜久久亚洲一区二区| 天天操夜夜嗨| 大屁股熟女一区二区三区| 亚洲无码久久久久久久| 日韩在线观看AV| 色色国产| 国产精品久久久啊| 欧美亚洲影视| 伊人影院综合是一个与深夜成人在线| 精品久久艹| 97啪啪| 精品熟女呻吟久久91| 嗯阿好爽好紧| 精品欧美А∨无码黑人大荫蒂| 爱妻综合网| 色人久久| 手机看片91人妻| 性性欧美| 99久久婷婷国产综合| 欧美一二三| 中文字幕78| 无码国产精品午夜不卡(| 97手机日韩| 欧美一二在线| 欧美日韩性爱操大逼| 性色综合网| 亚洲 欧美 小说| 日韩丝袜二区| 日日摸天天爽夜夜欢| 精品视频97| 精品久久人妻成人网| 国产女人视频三四五区| 97干天天| 欧美操人| 素人一区二区三区日韩| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 欧美日韩午夜精品一区二区三区| 日韩综合97P| 九九九九久久久| 变态乱伦伪娘灌肠一区二区| 欧美97免费| 欧洲亚洲人妻无码中字久久三区四区 | 亚洲精品人妻在线| 妇女一区二区三区| 日韩中文字幕2020| 天天干美少妇一区| 最新三级网址| 日本一区不卡| 夜夜做夜夜爽精品视频| 蜜臀精品1区2区| 午夜福利成人免费视频| 98人妻精品一区二区色欲| 后入式福利| 久草新免费| 国产亚洲一黄| 乱伦日本色图AⅤ| 蜜臀无码视频在线观看| 精品免费成人久久| 熟妇精品juliaannAV| 96精品在线| 亚卅熟女乱色| 精品无码不卡视频| 亚洲国产精品成人久久蜜臀| 中文字幕精品专区搜索结果91| 大鸡吧尹人在线| 久久色情| 中日韩熟女| 久久久一区二区三区三州| 激情欧美97| 素人伊尹大香蕉免费下载视频| 在线97在线| 色噜噜人妻av 中文字幕| 婷婷丁香五月激情啪啪| 人人操人人操人人操人人操人人操人人人11.CM | 91模特在线观看| 亚洲欧美在线综合| 精品国产72| 精品射1999| 亚洲 欧美 91| 五月天综合在线| 入口操逼网站| 中日韩久久久| 国产一区自拍欧美日韩| 91肉片| 久草加勒比一区在线| 亚洲 欧美综合| 91日韩网站| 激情婷婷丁香网| 加勒比性爱成人在线| 精品二999| #NAME?| 久久一本大香蕉| 九九自拍伦理| 好舒服视频| 操逼999| 国产第11页| 大香蕉青青9| 亚洲超碰综合网| 精品一二三区四视频| 超碰综合色| 青青草色插素人| 国产精品在线网站| 成熟熟女国产精品一区二区| 淫乱图区 | 人人澡人人干| 久久人| 久久精品一区二区| w w w.久久精品| 69av一区二区三区| 亚洲精品国产无码高清| 午夜视频好爽啊| 亚洲无吗在线视频| 极品尤物女神在线观看| 中文字幕成人理论在线| 亚洲熟女中文字幕在线| 超碰在线成人| 一道本久久棕合爱| 欧美激情视频一区二区三区不卡| 久久久久久久久久久久久久久乱码| 欧美色图私拍91| 亚洲日产专区婷婷| 91碰碰| 粉嫩AV一区二区夜夜| 日本道不卡| 欧美日韩性爱电影在线| 久久久久久久国产视频| 十八禁视频网站| 97超级久久强资源| 天天香香欲综合| 97视频www| 久久有码视频| 蜜臀久久99精品久久久久| 澳门黄片一香蕉视频| www.大香| 大香蕉九九| 夜夜操av亚洲一区二区| 一区二区国产视频在线观看| 午夜福利一区二区三区四区五区色婷婷| 夜夜嗨一区二区三区三州加勒比 | 搡老女人老熟女91| 日韩黄色片子| 久久婷婷综合国际产色怕| 91美女中出| 啊啊啊啊啊啊好湿好爽视频| 美女丝袜激情小说| 欧美亚洲首页| 久草精品国产99| 亚洲精品无码少妇久久| 国产不卡片| 亚洲91综合| 又粗又长又大国产不卡| 色色色色日本| 啊啊啊操一区| 在线情色电影 91大| 老妇女91| 18禁的网站在线| 欧美精品另类人妖xxxx|