亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天天综合网久久ww| 久久午夜神马| 国产色呦呦| 黄页网站成人免费| 午夜啊啊啊| 无码天天操| 中文字幕黄色一起草| 九九热精品在线| 高清成年美女黄网站免费大全 | 暖暖精品二区三区观看| 久久久久久国产成人| 日韩欧美中文字| 色欲天天综合网| 日韩免费a级毛片无码a∨ | 草草影院日本第一页| 午夜福利合集| 国产青青美女玩逼视频| 天堂蜜桃无码视频一区二区| 先锋色眉乱伦资源| 综合久久久久久久久91| 蜜臀久久久99久久久久 | 欧美丝袜激情| 激情终合网| 床上啊啊啊一区二区三区| 风月影院十八禁| 亚洲 欧美 综合 91| 久久精品国产精品亚洲艾通辽熟妇 | 欧美久久人妻少妇一区二区| 91久久久视| 婷婷五月天av| 亚洲综合激情五月久久| 人人摸人人叼| 国产精品无码在线| 欧美黄色片在线播放| 另类亚洲一区二区三区| 青娱乐久久艹| 8x福利精品第一福利视频导航| 在线不卡视频| 伦理片秋霞免费影院| 精品人妻一区二区三区四区不卡在| 亚洲精品1区| 色盈盈影院| 啊啊啊 在线观看| 激情婷婷五月天| 性爱1区| 日韩操逼HD| 久久这里只精品免费福利| 精品人妻一区二区三区四区不卡在| 啊啊啊好大好湿| 亚洲人在线成线成人| 亚洲一区中文字幕一区| 五月丁香六月婷| 欧美日韩香蕉| 国产高清精品福利| 五月激情啪啪| 中国东北熟女老太婆内谢| 欧美高清无码免费视频高清版| 五月天亚洲色图| 777超碰| 清纯唯美亚洲| 欧差乱伦二三| 色色香蕉| 天天操综合网| 江都AV在线| 91色黑人少妇| 天天日天天干天天摸天天操| 清纯唯美综合| 精品国产三级av韩国在线| 乱伦日本中文自拍| 久久AV无码网址| 大香蕉五月天婷婷| 艳美熟妇先锋一二三区| 蜜臀久久久国产| 亚洲色图欧美色图制服丝袜| 人人喜人人妻| 亚洲第一页综合在线| 亚洲精品国产拍免费91在线| 91欧美亚洲| 成人a v在线播放免费| 亚洲天堂久久久久久粉红视频| 九色PORNY9l原创自拍| 99色在线| 久九9精品| 久久久精精精| 岛国免费黄色网址| 狠狠干,狠狠操| 欧美色三级片91| 亚州久久9| 美女爽爽爽刺痛洞洞| 中国91AV| 国产 热久久久久国产精品| 国产精品久久久久av| 少妇蜜汁| 久热热| 天天综合91| 韩国一级AAA| av在线资源| 在线天堂999| 久久精品99久久久久久| 久久美国毛片| 精品一级毛片在线观看| 日韩人妻中文视频| 国产视频一区二区三区久久亚洲天堂| 熟女熟妇伦久久影院毛片一区二区| 日本大香蕉综合网| 蜜乳Av成人片网站| 色婷婷基地| 大肉棒导航| 精品综合久久久久久97| 国产又黄又粗的视频| 狠狠操官网| 视频二区美腿丝袜制服人妻欧美| 国产精品久久久久久久免牛肉蒲团 | 亚洲天堂男人网| 亚洲高清无毛一区二区| 久久久久性熟视频| 粉嫩av一区二区三区天美传媒| 人人么人人操| 午夜超爽| 91精品久久久久久77777| 亚洲九区| 中文字幕亚洲热播人妻| 青青爽| 99青青草国产视频| 成人小说另类在线| 一本色道无码DVD中文字幕| 久久久成人精品| 黄色二级片网站| 久久精品黄色| 日本欧美不卡| 久久9视频| 免费看污网站| 粉嫩av平台| 玖玖97综合| 久草精品在线| 日韩中文欧美| 亚洲女人91| 婬女免费一二三区A片| h色99999| 操逼视频亚洲| 日日摸天天爽夜夜欢| 人妻少妇久久久| 夜夜骑日日| 精品国产91av一区二区三区| 爱啪精品一区| 精品人妻视频入口| a片亚洲一本通视频| 粉嫩av久久一区二区三区| 亚洲日韩av一区二区三区百合| 84YTCOM性无码| 成人八戒网站| 国产美女高潮视频| 偷拍 精品另类 凸凹了四区| 精品日韩| 99re6国产精品99re| 一级黄色性爱A级片| www.高清无码诱惑一区.com| 青娱乐休闲视频在线观看| 欧美综合第一| 青草av在线| 97这里有精品| 人妻22p| 91老司机精品| 成人五月天色网| 久久国产在线一区二区| 走光一区92下载| 日本99视频| 国产91 丝袜在线播放00-百度| 特污免视频| 久久夜夜夜| 伊人天天久久动态图| 日韩国产十八禁| 97超碰磁| 亚洲av资源| 三级片大波波| 最新亚洲人成网站在线影院| 亚洲人妻熟妇三十三区| 色欲久久99精品久久| 天天色天天干天天爱| 日本不卡一二区| 九九九精品成人免费视频小说| 99啪啪| 日韩一级成人毛片免费观看| 欧美狠狠鲁| 午夜精品久久一区二区| 少妇贴图| 欧美一级专区免费大片| 水野优香在线观看| 人妻性爱一区二区| 超碰99在线| 欧亚第一综合网| 成人日本视频人妻在线| 欧美性爱日韩高清| 91成人无码| 在线观看午夜婷婷久久久久清性观看| 欧美性爱精品一区二区| 欧美人妻精品一区二区| 一级性爱视频免费观看| 国产精品日日摸天天碰| 香港日本韩国人妇99www.wccm20| 色五月婷婷五月天| www九九热| 国产特级毛片AAAAAA高潮流水| 婷婷午夜清品久久久久久久性色视频观| 蜜臀久久99精品久久综合| 九九九精品成人免费视频小说| 欧美一区二区成人一卡| 宅男午夜在线视频| 国产怡红院| 亚洲丁香花色| 日韩无码成人电影| 激情干在线| 国产对白刺激视频| 真实高潮91| 亚洲素人综合| 久久久草成人网站久久久草成人久久久草久久久| 欧美色图99| 久久超碰av在线| 最新av在线| 亚洲精品少妇| 波多野结衣一级视频| 天天色天天干天天射| 国产成人在线观看网址| 啊啊啊好想要| 人人操人人插人www| 色哟哟511老熟女| 国产精品直播在线观看直播| 久草成人| 一二三区操逼国产91| 啊啊啊免费| 蜜桃精品一区二区三区久在线| 97超视频在线观看| 亚洲天堂资源| 久久9999 | 欧美精品91| 97 亚洲 日韩 欧美 在线| 亚洲乱码国产乱码精网站| 国产精品美女久久久久久网站| 美女操逼A A| 狠狠操狠狠燥| 天天操天天舔| 黄片www视频免费| 欧美日韩97| 午夜国产综合视频在线观看| 老熟妇一区二区三区…| 欧美一区二区亚洲天堂| 国产成人久久久精品免费AV| 欧美综合自拍成人自拍第二十页| 又大又黄国产| 青春草A| 草伊人高潮喷水超碰| 97超久碰| 干美女人妻| 婷婷午夜清品久久久久久久性色视频观| 猛猛干| 欧美+日产+中文| 久久伊人最新网址视频| 影音先锋视频在线| 久久久中文| 夜夜操夜夜爽夜夜高潮| 看看小穴| 岛国色情视频在线观看| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 国产精品久久久久婷婷二区次| 国产97亚洲| A 在线网址| 99视频自拍| 久久久不能久久久久| 九九精品美女高溯喷水| 亚洲97网站| 99热最新| 97色欧洲| 亚洲色欲天天天堂色欲网女| 翔田千里av一区二区三区| 亚洲AV免费在线观看| 打av高清| 欧美色亚洲色| 日韩78m视频| 超碰美女97| 欧美精品三级黄片| 日本媚薬中文字幕在线| 97se亚洲综合自| A 在线网址| 色婷婷五月天| 久湿久久| 亚洲囯产精品女人久久久| 涩涩五月天| 91劲爆| 欧美综合另类| 超碰79人人乐| 超碰97伊人| 亚欧无码在线| 夜夜嗷嗷一区二区| 自拍偷拍 日韩欧美| 夜夜免费视频| 99热这里是精品| 亚洲欧美97| 综合啪啪| 日韩性爱再线视频| 久久老熟女| 首页亚洲国产高跟丝袜诱惑视频 | 色综合色| 99re在线观看| 成人午夜小视频手机在线看| 91综合天天| 操淫穴亚洲五月丁香| AV乱伦专区| 欧美姓爱综合网| 秋霞一集毛片观看| 黄色成品网站| 国产精品午夜福利亚洲综合网| 性色avv| 另类小说欧美激情校园春色| 丰满人妻av一区二区三区| 性性久久| 青青久久手机线视频| 久久久久78| 亚洲好看强奸乱伦| 黑人干亚洲| 久久香蕉综合一本到3atv| 综合97亚洲| 久久久久亚洲?V片无码V| 狼人综合婷婷激情四射| 91老司机精品| 久久视网78| 中文字幕99999| 天天爽天天爽| 免费看黄片现成| 亚洲色图大香| 91视频国品一二三区| 91偷拍欧美亚洲| 91综合色噜噜| 大香久久| 岛国激情视频在线观看| 久久久久久加勒比| 二三四区精品| 青青久久久| 亚洲精品国产无码高清| 四虎884| 国产传媒美日韩av| 久久黄黄| 国产av热热色| 亚洲日韩成人性爱视频| 国内毛片四区| 亚洲色图久久精品蜜| 女人天堂av在线播放| 成人综合网 欧美| 成人蜜乳小视频网站| 综合网,亚洲,欧美| 3d成人精品一区二区| 四虎免费在线播放| 天天综合网在线| 91三级理论片播放器| 四季av一区二区凹凸精品小说| 丁香五月AV| 国产福利电影| 国产91丝袜 在线播放| 99re69综合| 久久东京伊人一本到鬼色| 人人操,人人液| 2017大香蕉国产精品久久| 91|九色|国产熟女| av天堂精品久久| 中文字幕国产| 99色综合| 中文字幕一区二区三区四区在线视频| 中文在线视频| av天堂影视中文在字幕在线中文| 国产精品 久久久精品一牛| 91中文字幕在线观看| 伊人影院综合是一个与深夜成人在线| 高潮精品| 久久视频少妇美女| 九九拍拍精品视频在线播放| 国产精品麻豆成人AV艾秋| 无码天天操| 91精品久久久久| 91在线综合网| 久久黄黄| 97超碰磁| 亚洲无 码A片在线观看麻豆| 淫淫综合网| 黄总AV色图| 九月婷婷综合| 福利伊人玖玖国产| 97色色国产视频| 九九九九免费高| 精品国产乱码久久久兰草影视| 国产亚州高清国产拍精| 亚洲精品久久久久毛片A片拉屎| 欧美日韩中文视频播放| 俺去啦自拍| 1区2区3区中文字幕日韩| 性爱网站一区二区| 中文字幕久久精品一区| 日韩在线欧美精品一区二区| 加勒比综合a∨| 久久久久国产精品喷潮免费观看臀| 丝袜天堂网| 鲁鲁色综合网| 日本幼女18+| 成人久久久精品| www.婷婷六月天| 久久系列| 97视频网站在线观看| 九九aV| 天天色综亚洲91污| www.av在线观看| 亚洲一卡2卡3卡4卡乱码网站 | 在线观看A啊啊啊| 草伊人高潮喷水超碰| 天天肏美女| ss久久| 亚洲五区熟女| 大香蕉琪琪日本女优不卡| 麻豆区久久久久亚| av婷婷色网| 亚洲精品乱码久久久久久蜜桃麻豆| 丰满人妻大屁一区二区| 大香蕉伊人久久| 久热99| 日韩三级久久久| 丰满少妇一区二区三区专区| 欧美日韩国产电影| 少妇超碰在线| 五月丁香六月激情| 欧美性区| 欧美国产伊人久久久久| 一区二区激情国产熟女| 操人妻逼91| 男人亚洲91首页在线| 97一区二区蜜臀| 久久亚洲天天做| 青青草日本无码| 欧美日韩婷婷中文| 久久春色| 久久三区四区| 一个色导综合| 偷拍自拍在线视频观看| 秋霞曰韩R级| 97av在线视频| 亚洲AV无码久久精品蜜桃小说| 超碰人妻中文在线| 麻豆AV一区二区天美传媒| 九九热九九| 凹凸视频在线一区二区| 丰满高潮18xxxx| 小草精彩毛片| 日日噜噜夜夜久久亚洲一区二区| 97看操| 中出789在线视频| 国产无码精品成人| 大香樵伊人网| 麻豆天美AV传媒第一页| 国产成人超碰在线| 日本五十路熟女一区二区| 96AV精品| 91精产一区二区三区| 色噜噜人妻av中文字幕| 干少妇视频| 国产久久成人| 蜜色网色哟哟| 这里都是精品| dy888午夜老子影视达达兔| 粉嫩av在线一区二区| 色伊人91| 夜夜国产一区| 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 亚洲熟妇综合久久久久久| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 人妻素股| 97香蕉网| 人人做人人妻人人夜视频| 伊人久久大香蕉线AV五月天| 1240青青草一区二区三区视频天爱| www黄片免费看com| 强奸熟女一区二区三区 | 久久一区二区三区入口| 日韩精品三级片长长久久| 伊人天天久久动态图| 一区二区视频在线播放| 女人妻一区| 亚洲毛片基地专区| 吻戏激情性巴克| 精品国产乱码久久久| 人妻天堂网| 激情五月婷婷综合| 亚洲欧美清纯| 亚洲婷婷五月天| 98超碰欧美| 五月丁香啪啪| 国产视频大全| 天天色综亚洲91污| 东京热精品97综合网| 欧美日韩日产免费网站看| 欧美熟女妇同| 天天射天天操天天干天天吃2018| 天天综合网91入口| 亚洲图片激情综合另类| 欧美日韩青操| 一起草精品人妻| 青青草乱入乱欲视频在线观看| 国产又黄又粗又猛大片| 亚洲AV无码天美传媒一区| 国产精品久久久 | 岛国不卡超碰护士AV在线播放| 色综合av男人天堂| 台湾佬大香蕉| 热久久精品| 亚欧毛片基地国产毛片基地| 国产尹人在线视频免费| 大香久久| 美女裸体麻豆天美蜜桃91| 国产精品亚洲无码| 2003天天干夜夜操| 97爱爱爱综合| 18禁免费视频| 国产精品另类| 亚洲成人在线播放| 91欧美亚洲| 久操99| 亚洲 小说 欧美 激情 另类| 天天干1区2区在线| 爱我干综合| 色女99一级片在线观看| 91丨九色丨国产丨人妻在线| 国产中午字一暮区| 亚洲欧美日韩精品久| 亚洲综合电影| 日韩欧美蜜桃精品久久中文字幕久久| 国产又粗又又黄又猛| 欧美天天| B049AV在线播放| 天天色粽合合合合合合合| 乱操乱伦AV| 蜜桃网熟妇| 亚洲色图欧美色图制服丝袜 | A级毛片在线看免费| 国产极品久久久| 免费观看啪视频| 99久久久久久亚洲精品不卡| 小骚逼被操的爽不爽| 成人夜夜爽| 无码天天操| 中文字幕国产在线天堂| 蜜臀99久久精品久久久久久| 东京热av男人的天堂| 天天添天天干电影| 无遮挡又黄又刺激的视频| 人妻人久久精品中文字幕| 中文97国产| 欧美综合自拍成人自拍第二十页| 无码精品一区二区三区潘金莲| 欧美精品三级黄片| 大香蕉视频啪啪啪啪| 亚洲成人妻日韩在线| 亚洲AV小说| 日本在线激情一区二区三区| 亚洲导航深夜福利| 欧美自拍偷拍综合图片| 翔田千里爆乳巨臀无码| 精品玖九九久| 97中文字幕一区| 亚欧美综合网。| 色av中文字幕| 欧美狠狠鲁| 91丝袜在线观看视频在线观看| 欧美一级特黄淫片在线观看| 国产精品ⅴ无码大片在线看.| 久久男人的天堂| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 99精品久久| 丁香六月激情| 偷拍亚洲熟女视频播放| 欧美综合网| 久久精品黄色| 色婷婷一区二区三区久久| 超碰碰97资源站| 精品人妻一区二区三区四区| 婷婷激情丁香| 亚洲图片欧美色图| 亚洲高清视频在线免费观看| 黄色免费网| 色色色色日本| 殴美大黄片| 免费精品福利在线观看| 国产精品麻豆视频网站| 亚洲中文日韩欧美大香蕉视频| 波多野42部无码喷潮在线观看 | 快灬快灬 一下爽蜜桃在线观看| 在线观看成人性爱免费小视频| 精品久久九| 91在线美女| 超AV色女| 日韩精品熟妇| 啊啊啊啊在线观看网址| 91国产美女丝袜足交精品视频 | 丝袜 中出 制服 人妻 美腿 中文字幕| 国际精品久久久| 亚洲一区二区av| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 欧美激情黑人| 97视频www| 国产人妻精品一区二区三区秋霞 | 国产精品久久久久久久毛片1| 在线观看成人性爱免费小视频| 国产无马视频| 午夜AV人气不卡| 凸凹视频在线观看| 动漫爆乳3D奶水一区在线观看| 亚洲导航深夜福利| 久草视频观看视频在线| 色五月婷婷久久| 久久亚洲骚逼综合| 亚洲色综合| 99re这里只有精品3| 91强在线播放| 日本二三四区| 亚洲天天综合| 亚洲欧美国产中文视频| 亚洲无码久久久久久久| 亚洲av综合色区图片亚洲| 亚州AV无码国产精品| 久久啊哟| 精品人人| 东北女人| 夜夜精品视频| 国产精品人妻一区二区| 国产免费一区二区在线A片视频| 日少妇亚洲版| 新精精品久久精品| 国产400孕妇孕交群| 日韩国产乱子伦App| 五月天春色激情网| 亚洲999综合| 欧美97网| 人人操,人人插| www超碰| 成人一区二区三区四区| 欧美日本不卡| 伊人黄色片| 另类图片五月| 亚洲黄色电影| 首页中文字幕中文字幕免费| 99RE在线视频精品,这里只有精品| 成人性交午夜免费片| 黄片aaaaa一区| 欧美一二在线| 99婷婷一区二区| 日韩丝袜二区| 亚洲和欧美裸体美女双飞视频| 91天天综合日韩欧美| 收看日本人日bb| 丁香六月啪| 91女优在线观看 | 啊啊啊免费视频| 一区在线观看中文字幕| 天天干天天日天天射黄色片| 午夜啪| 亚洲夜夜欢无码一区二区| 国产 大胆 对白| 伊人网免费视频| 淫妻综合网| 九九九成人| 色婷久久| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 黄片免费视频2019| 国产成人AV麻豆| 99婷婷一区二区| 黑丝91视频| 久久黄片国产一区二区| 人妻在线大香蕉| 欧美日韩日产免费网站看| 亚洲欧美日韩国产丝袜自拍中文| 亚洲精美粉嫩嫩泬在线观看| 天天日天天舔东京热| 欧美aaaaaaa| 9997se| 天堂8在线新版官网| 暴力av在线| 久操大香蕉手机视频在线看| 国产日韩久久| 少妇天堂网络| 国产欧美岛国精品一区| 欧美亚洲清纯| 五月天激情网站| 国产激情视频一区区三区| 91亚洲欧美色图| 色狠狠 - 百度| 一本大道久| 欧美日韩国产在线| 影音先锋乱伦资源| 搡老熟女国产1000部| AA丁香综合激情| 婷婷超| 91欧美丨精品丨入口| 人妻9117c| 精品人妻一区二区乱码一区二区| 韩国三级理论在线| 啊v在线观看视频| www.高清无码诱惑一区.com | 牛牛aV| 中文字幕黄色一起草| 大香蕉伊人亚洲| 亚洲综合另类小说色区亚洲成av人片在www| 欧美激情亚洲情色| 小少妇| 免费试看60秒| 亚州五月| 神马午夜久久久| 国产久久久久久久久一区二区| 嗯嗯啊啊操我| 啊啊啊啊啊啊啊啊要喷了| 一级黄色影片| 久久av一级av少妇av高潮 | 天天插天天操| 天天综合网日韩| 日韩精品国模| 色噜噜综合网| 伊人激情五月天一区二区| 日本一区不卡| 91欧美巨乳| 欧美性,色九九| 色五月激情综合网| 欧美丰满少妇xx高潮| 国产三级片在线观看| 日韩少妇无吗| 狠狠穞A片一區二區三區| 精品无码欧美三级| 欧美激情高清性猛交| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 一级性爱视频免费在线| 天天肏夜夜肏| 亚州图片第一页| 美女97超碰| 超碰97精品在线| 91 刺激在线| 亚欧无码在线| 翔田千里AⅤHD无码| 亚洲av综合伊人久久| 淫荡网址| 久久人妻熟女一区二区| 女人天堂网| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 97超碰磁| 亚洲欧美色图| 男女啊啊啊啊啊| 天天综合站| www被窝色com| 情色五月天网| 99久在线精品99re8a| 欧美成人精品一区二区三区| 国产精品91一样| 床上啊啊啊一区二区三区| 99无码视频| 久久黄黄| 精品久久青青草| 日本操逼视频导航| 久久久久久久亚洲Av无码| 国产精品99999| 亚洲乱妇p22| 999999精品| 国产日韩久久| 美女诱惑一区| 女沟厕偷窥piss小便| 91狠狠综| 影视综合无码少妇| 97资源视频| AV不卡在线| 中国一区二区亚洲人妻| 粉嫩av在线一区二区| av日韩在线观看电影| 最新国产精品久久精品| 午夜理论片在线观看免费| 中文字幕免费看大片| 99re久久| 91久久久久免| 丝袜狠狠草尤物人妻av91| 手机在线人成免费视频| 综合网色| 天天看综合网| 啊啊啊啊啊啊啊啊啊啊在线观看| 午夜AV污污污| 91在线观看,天天综合| 欧美亚洲首页| 免费观看网黄| 国产精品亚洲天堂网址| 国产精品一区二区 尿失禁| 久久9视频| 熟啊v色欧美热| 欧美日韩人妻婷婷一区| 日日嗷| 九九九久久久| 国产亚洲日韩在线三区黑人| 欧美操逼一二三区| 久久伊人青青草| 快播久久人人aV| 女欧美一区二三区| 久久久亚洲欧美综合| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 影音先锋日本乱伦| 插日本熟女视频| 综合操逼| 男人天堂2012| 欧美日动态视频| 91欧美网| 懂色av色欲av蜜臀av| 五月天精品| 91丝袜激情在线| 蜜臀久久99精品久久久久久酒店| 26uuu欧美日韩| 国产精品成人蜜臀AV在线| 日本高清有码网址视频| 亚洲精品一二三四区| 中文精品少妇天堂| 日本操逼视频在线| 五月丁香狠狠爱| 超碰爽人妻熟女Av| q2午夜理论片夜色av| 一级性爱视频免费观看| 99色婷婷| 91欧美丝袜| 日本孕妇一区二区视频操逼免费看| 久久久久久精品免费看A级| 亚洲熟女乱色| 久久久久元码视频| 一区二区三区免费视频入口| 亚洲熟女av日韩熟女| 久久999久| 亚洲做性| 日本精品中文字幕视频| 国产精品美女在线一区| 日韩pv中文| 熟妇高潮二区三区| 伊人久久综合影院| 9l视频自拍9l九色成人| 日本超碰色精品| 国产精品亚洲色婷婷久久久| 大香蕉男女超碰精品在线| 夜夜精品视频一区二区| 很黄很色的视频在线观看| 国产成人亚洲精品无码古代早漏男| 亚洲砖码砖专无区2023| 欧美激情久| 亲子敌伦对白在线播放| 在线 制服丝袜中出 人妻| 日本精品九九九| 午夜福利av电影在线| 91国产大片| a亚洲欧美色欲| 久久最新免费视频23| 九九久久久| 婷婷九月| 极品肉射| 九九香蕉网| 欧美日韩制服| www.99色| 欧美精品双插| 91春色| 东京热激情视频一二三区| 亚洲成人ab| 大香蕉伊人久久| 天堂性色| 2018色综合天天操| 精品国产AV一区天美传媒| 人人摸人人叼| 校园春色美腿丝袜| 丁香五月婷婷啪啪| 男人综合网| 无码91| 男生通女生屁股| 女人爽到高潮潮喷18禁网站 | 日韩欧美成人综合在线| 日韩精品三级片长长久久| 性饥渴少妇av无码毛片| 91国产美女丝袜足交精品视频| 久久日韩精品一区二区| 久久精品视| 十八禁视频网站| 国产成人五月天丁香花| 天天色悠悠激情| 欧美日韩大香蕉| 香蕉免费一区二区三区不读| 亚洲黄网在哪免费看| 男人的天堂久久| 午夜精品视频777| 久久久久久久久久9| 人妻密肉在线观看| 中文字幕精品一区二区精| 久久九七| 国产美女高潮叫床视频| 人妻久久一区二区三区 | 日本一片一区| hd成人一区二区在线| 淫荡网址| 国产精品视频在线播放 | 精品一区二区三区蜜桃| 91九九九逼| 天天做日日爱夜夜爽| 天天综合中文字幕 91| 99re9这里只有精品| 免费A片三p视频| 无码操逼天堂| 日韩另类色图| 啪啪啪精品视频| 国产精品久久蜜乳av| 91性生活久久久| 柠檬AV导航| 亚洲精品久久久久久久蜜桃臀| 60秒免费小视频| 日日夜夜天天| 久久精品国产亚洲AV嘿嘿| 天天色怡春院| 久久久不能久久久久| 玖玖爱免费观看视频| 精品欧美不卡在线播放| 91欧洲入口| 天天舔九色婷婷| 少妇滛荡视频| 五十路六十路素人熟女| 久久精品国产亚洲粉嫩| 偷拍在线观看视频| 青青草在线成人视频| 激情久久av一区av二区av| 97在线免费公开视频| 最新精品久久蜜桃 | 精品美女少妇一区二区三区| 丁香五月婷婷基地| 性爱边摸边日免费AV| 黄色视频高清无码网站| 啊啊啊啊嗯嗯在线久久久| 欧美A√综合网| 99在线免费视频| 九九aV| 婷婷中文网| 国产传媒av天美传媒在线| 人人操超碰在线| 中文字幕文字幕无码一区二区三区电影99| 国产懂色精品国产av| 91欧美综合| 91天天爽| 中文字幕福利视频一区二区三区在线观看| 国产精品一区二区后入| 精品97久久综合| 大香蕉伊在线久草麻豆天堂故事| 伊色综合天堂色97| 欧洲综合视频| 日韩乱码av| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 91在线秘 男同| 啪啪啪综合网| 欧美成人一级麻豆| 人人操人人色网| 97超碰超碰| 超碰色老头| 91性片| 9丨久久九九九| 亚洲欧美校园| 人伦四五区| 97色色色综合网站| 淫乱图区 | 激情五月天丁香社区| 91粉嫩萝控精品福利网站_精品影音先锋国 | 少妇无码av专区线| 91人妻人人澡人人爽人人精品| 久久精品国产亚洲AV清纯| 国产精品美女久久久久久网站| 午夜视频黄| 在线无码视频| 把腿张开老子CAO烂你| 久久精品国产亚洲AV片多多| 久久婷婷亚洲| 91人妻尻屄视频| 精品一二三区久久AAA片| 91精品人妻电影| 乱色视频中文字幕| 99久久这里只有精品| 伊人国产av| 大香蕉色欲AV| 97色操| 欧美v亚洲v综合v国产v妖精| 琪琪精品免费一区二区三区 | 无遮挡一级毛片视频免费的| WWW.操逼.COM| 91快色色色色色| 无码日韩网站| 男人的天堂.com| 日韩精品人妻中文字幕久久久| 黑人综合色| 日韩9区| 视频国产精品未满十八禁止在线观看| 亚洲 欧美日韩 另类| 曰韩欧美国产传媒麻豆第一区| 久久嫩草国产成人一区| 欧美78| 国产熟妇 码视频户外直播| 91成人高清在线观看| 乱色视频中文字幕| 大香蕉 222| 亚欧美色图| 综合亚洲网| 黑人免费福利视频| 精品美女久久久久| 熟女人妻一区二区三区| 高清不卡视频| 大香蕉伊然在亚洲91| 精品视频一区二区| 在线看片国产精品每日更新| 亚洲第一综合| 啊啊啊不要啊啊受不了了视频在线| 香蕉精品二区二区 | 97玖玖人妻| 亚洲精品熟妇1区2区3区。| 亚洲美女AV无码| 激情综合五月丁香| 欧美大香蕉97| 久久系列| 亚洲成人美女无吗| 久久久∴| 青青操日韩| 日本精品网站在线中文| 色官网在线| 大香蕉综合久久| 欧美亚洲图片| a级理论午夜日本| 91天美传媒精品| 91九色丨风韵犹存| hd成人一区二区在线| 欧美日韩999| 是还免费视频1727我| 天天看夜夜看日日干| 亚洲成人在线播放| 伦理日韩国产久久| 国产a片操逼| 色噜噜综合在线| 日本高清一本二本免费不卡| 久久久久久久久久久免费精品| 91 刺激在线| 97精品一区二区视频在线观看| 国产精品人妻熟女aⅴ| 四虎AV无码| 免费视频一二三区| 巨爆乳肉感一区二区三区竹菊影视 | 偷窥自拍亚洲| 在线精品福利免费播放| 国产中文日韩欧美一区二区三区人妻丝袜美腿 | 日本五十路在线| 欧美国产精品久久九九| 日产狠狠干| 欧美午夜熟妇黑人精品91| 日本色色色色色视频| 亚洲综合性网址| 欧美伊人久久综合网| 亚洲射综合网| 天天色综合天天操| 裸体1区| 日韩无码黄色片| 日韩美女高潮喷水视频| 亚洲欧美情色| 婷婷亚洲中文字幕在线| 91宗合网| 久久精品国产精品亚洲艾通辽熟妇 | 亚洲熟女人妻中文字幕一区二区| 殴美大黄片| 91色欧美| 亚欧精品久久久久久久久久久| 乱伦强奸区日韩| 亚州成人a∨| 在线岛| 日韩av色图综合| 天堂男人网| 性色乱AV一区二区| 一本色道熟妇| 天天综合网一91网| 久久日本熟妇熟色一区| 91逼逼女人91| 国产品精品自在在线午夜免费 | 欧美性爱网97| 日韩精品一区二区高清 | 国产精品福利资源在线尤物| 啪啪啪综合网| 久久天堂| 中字乱伦AV| 欧美,亚洲,日韩,v,天堂,手机在线观看| 日韩欧美字幕亚洲一区二区| 91 丝袜在线播放| 色性欧美| 国产免a费看黄片在线| 九九热午夜欧亚国产视频| 九九碰九九爱97超碰| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 亚洲**2021在线观看| 男人久久天堂| 久久九九一区二区三区成人| 久久毛卡| 992大香蕉| 中美日韩毛片| 3P乱轮视频| 日韩一级二级三级| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 天天爱天天操| 67194无码不卡| 国产精品免费视频不卡| 美女91网址| 有码人妻系列| 亚洲最新a在线观看| 熟女91网| 美女黄页| 欧美懂色综合网| 91人妻久久久久久久久久久久久| 99久久9| 天天操人人操狠狠插| 亚洲天天自拍| 久久成年精品| 99在线精品观看99| 日韩精品在线视频在线观看| 欧美激情 亚洲色图| 青青草视频导航官网| 97色碰| 婷婷五月天激情四射| 自拍丝袜美腿人妻| 天天色综亚洲91污| 蜜臀无码视频在线观看| ai欧美亚洲小说| 日日日日日| 亚洲日韩精品一区视频在线| 干超碰碰熟女| 一区e区三| 九九久久首页| 亚洲成人综合在线| 人人艹亚洲| 91色综合| 吉田爱美AV在线| 成人日韩欧美| 久久青青草原免费视频| 亚洲男人天堂av| 蜜区区视频79 | 职场同事知名国产国产精品久久欧美日韩| 日韩性爱小视频在线观看| 国内偷拍精品一区二区| 日韩人妻无码不卡网站| 插老姨肥穴| 亚州色站 日韩电影| 国产av强奸美女| 天天插夜夜操| 国产60页| 性欧美91| 少妇淫妇久久久久久久| 偷拍新久久| 久久激情四射婷婷丁香五月天| 中文字幕女同在线| 成人色女网| 日本有码影片下载| 亚洲色图大香| 狠狠综合网| 五月婷丁香| 99热自拍| 97久久精品亚洲| 久久一二三四五六七八九区区区 | 日韩免费大片一级播放|