亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實戰(zhàn)洞察。

XXL-JOB 企業(yè)微信機(jī)器人報警實戰(zhàn):自定義 JobAlarm 實現(xiàn)與避坑指南

XXL-JOB 企業(yè)微信機(jī)器人報警實戰(zhàn):自定義 JobAlarm 實現(xiàn)與避坑指南 1. 任務(wù)調(diào)度報警的痛點(diǎn)與破局思路做過分布式任務(wù)調(diào)度的同行大概都有過這種體驗凌晨兩點(diǎn)某個核心對賬任務(wù)掛了XXL-JOB 的控制臺安安靜靜直到第二天業(yè)務(wù)方打電話來問“昨天的數(shù)據(jù)怎么沒跑出來”你才發(fā)現(xiàn)調(diào)度失敗了一整晚。XXL-JOB 自帶的郵件報警在真實生產(chǎn)環(huán)境里其實挺雞肋的——郵件容易被淹沒在各類通知里而且很多人根本沒有隨時查郵件的習(xí)慣。短信報警又要額外對接運(yùn)營商通道成本高、配置繁瑣。企業(yè)微信機(jī)器人報警就是在這個場景下最順手的一個方案。它的本質(zhì)是把 XXL-JOB 的調(diào)度失敗事件通過企業(yè)微信群的 Webhook 地址以 Markdown 消息的形式推送到運(yùn)維群或者業(yè)務(wù)群。群里的每個人都能第一時間看到還能直接 相關(guān)責(zé)任人。這篇文章我會把整個實現(xiàn)過程拆開講透包括 XXL-JOB 報警機(jī)制的底層原理、企業(yè)微信機(jī)器人的消息格式約束、自定義報警器的代碼實現(xiàn)、以及我在實際接入過程中踩過的那些坑。適合閱讀這篇內(nèi)容的讀者有三類一是正在用 XXL-JOB 做任務(wù)調(diào)度、想升級報警能力的后端開發(fā)二是負(fù)責(zé)運(yùn)維告警體系、需要把調(diào)度告警統(tǒng)一接入企業(yè)微信的運(yùn)維同學(xué)三是對 Java SPI 擴(kuò)展機(jī)制感興趣、想通過一個真實案例理解框架擴(kuò)展點(diǎn)的開發(fā)者。不管你是剛接觸 XXL-JOB 還是已經(jīng)用了兩三年下面這些細(xì)節(jié)應(yīng)該都能給你一些參考。XXL-JOB 的報警能力本身是開放的它預(yù)留了 JobAlarm 接口默認(rèn)提供了郵件報警的實現(xiàn)。很多人不知道這一點(diǎn)以為只能用郵件其實只要實現(xiàn)這個接口并注冊成 Spring Bean就能接入任意報警渠道。企業(yè)微信機(jī)器人恰好提供了一個極簡的 HTTP Webhook 接口不需要申請應(yīng)用、不需要配置回調(diào)地址、不需要處理加解密創(chuàng)建一個群機(jī)器人就能拿到一個 URL往上面 POST JSON 就能發(fā)消息。這兩者結(jié)合起來整個接入成本非常低。但低成本不代表沒有細(xì)節(jié)。企業(yè)微信機(jī)器人的消息有格式要求XXL-JOB 的報警回調(diào)有觸發(fā)時機(jī)的限制多實例部署時還有重復(fù)報警的問題。這些如果不提前想清楚上線之后就會各種翻車。接下來我按照“整體設(shè)計思路 → 核心細(xì)節(jié)解析 → 完整實操過程 → 常見問題排查”的順序把整個方案講清楚。2. 整體設(shè)計與核心思路拆解2.1 為什么選企業(yè)微信機(jī)器人而不是其他渠道報警渠道的選擇本質(zhì)上是在“觸達(dá)率”“接入成本”“信息豐富度”三個維度之間做權(quán)衡。郵件觸達(dá)率低但接入成本幾乎為零短信觸達(dá)率高但需要付費(fèi)通道且內(nèi)容長度受限釘釘/企業(yè)微信/飛書機(jī)器人則處于中間位置——觸達(dá)率取決于群消息的活躍度接入成本很低消息支持 Markdown 格式所以信息豐富度也不錯。企業(yè)微信機(jī)器人相比釘釘機(jī)器人有一個實際使用中的優(yōu)勢很多公司的內(nèi)部溝通主陣地就是企業(yè)微信運(yùn)維群、項目群、值班群都在上面報警消息直接推到這些群里不需要額外讓團(tuán)隊成員再裝一個 App。而且企業(yè)微信機(jī)器人的 Webhook 接口非常穩(wěn)定我用了兩年多沒有遇到過接口本身不可用的情況。從技術(shù)實現(xiàn)角度看企業(yè)微信機(jī)器人只需要一個 HTTP POST 請求請求體是 JSON支持 text 和 markdown 兩種消息類型。markdown 類型支持標(biāo)題、加粗、引用、鏈接、字體顏色等基礎(chǔ)排版對于報警消息來說完全夠用。唯一需要注意的是 markdown 類型不支持 某個人只有 text 類型才支持 mentioned_list 參數(shù)來 人。這個限制后面在消息設(shè)計時會專門處理。2.2 XXL-JOB 報警機(jī)制的底層邏輯XXL-JOB 的報警觸發(fā)鏈路是這樣的調(diào)度中心xxl-job-admin在執(zhí)行器任務(wù)調(diào)度失敗后會調(diào)用 JobFailMonitorHelper 這個失敗監(jiān)控線程。這個線程每隔一段時間掃描一次數(shù)據(jù)庫中的失敗日志記錄對于“報警狀態(tài)為未報警”的記錄遍歷所有注冊的 JobAlarm 實現(xiàn)類逐個調(diào)用 alarm() 方法。如果任意一個報警器返回 true就把該條日志的報警狀態(tài)標(biāo)記為已報警后續(xù)不再重復(fù)報警。這里有幾個關(guān)鍵點(diǎn)需要理解清楚。第一報警是在調(diào)度中心側(cè)觸發(fā)的不是在執(zhí)行器側(cè)所以自定義報警器要放在調(diào)度中心項目里而不是執(zhí)行器項目里。第二報警是異步的失敗監(jiān)控線程獨(dú)立運(yùn)行不會阻塞正常的調(diào)度流程。第三JobAlarm 是一個 SPI 接口XXL-JOB 通過 Spring 的依賴注入把所有實現(xiàn)類收集到一個 List 中遍歷調(diào)用。這意味著你只需要寫一個類實現(xiàn) JobAlarm 接口加上 Component 注解它就會自動生效不需要修改任何框架代碼。JobAlarm 接口的定義非常簡潔只有一個方法public interface JobAlarm { public boolean alarm(XxlJobInfo info, XxlJobLog jobLog); }XxlJobInfo 包含了任務(wù)的基本信息任務(wù) ID、任務(wù)描述、負(fù)責(zé)人、報警郵件等XxlJobLog 包含了本次執(zhí)行的日志信息執(zhí)行器地址、執(zhí)行結(jié)果、執(zhí)行備注等。這兩個對象里的信息足夠我們拼裝一條完整的報警消息。2.3 多實例部署下的報警去重問題如果你的調(diào)度中心是集群部署的生產(chǎn)環(huán)境通常會部署兩個節(jié)點(diǎn)做高可用那么失敗監(jiān)控線程會在每個節(jié)點(diǎn)上各跑一份。這就帶來一個潛在問題同一條失敗日志可能被兩個節(jié)點(diǎn)同時掃描到導(dǎo)致重復(fù)報警。XXL-JOB 本身對這個問題的處理方式是在更新報警狀態(tài)時使用樂觀鎖或者條件更新只有成功將“報警狀態(tài)”從未報警改為已報警的那個節(jié)點(diǎn)才會真正發(fā)送報警。但實際實現(xiàn)中不同版本的 XXL-JOB 處理方式略有差異。比較穩(wěn)妥的做法是在自定義報警器里也做一層冪等控制比如用 Redis 做一個短期的去重 keykey 的過期時間設(shè)置為報警間隔的兩倍左右。這樣即使框架層面有并發(fā)窗口業(yè)務(wù)層面也能兜住。不過話說回來對于報警消息來說偶爾重復(fù)一條并不是什么致命問題反而比漏報要好。所以如果你的環(huán)境里重復(fù)報警并不頻繁也可以不做額外去重接受這個 trade-off。我在實際項目中觀察下來XXL-JOB 2.3.x 及以上版本在集群模式下的報警去重做得已經(jīng)比較好了重復(fù)報警的概率很低。3. 核心細(xì)節(jié)解析與實操要點(diǎn)3.1 企業(yè)微信機(jī)器人 Webhook 的獲取與限制創(chuàng)建企業(yè)微信機(jī)器人的操作路徑是進(jìn)入一個群聊 → 點(diǎn)擊右上角 → 群機(jī)器人 → 添加機(jī)器人 → 選擇“自定義” → 設(shè)置機(jī)器人名稱和頭像 → 獲取 Webhook 地址。這個地址的格式是https://qyapi.weixin.qq.com/cgi-bin/webhook/send?keyxxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx拿到這個 URL 之后往上面 POST 一個 JSON 就能發(fā)消息。但有幾個限制必須提前知道頻率限制每個機(jī)器人每分鐘最多發(fā)送 20 條消息。超過之后會被限流返回錯誤碼 45009。對于任務(wù)調(diào)度報警來說如果短時間內(nèi)大量任務(wù)同時失敗比如數(shù)據(jù)庫掛了導(dǎo)致所有依賴數(shù)據(jù)庫的任務(wù)全部失敗很容易觸發(fā)這個限制。后面我會講怎么處理這種情況。消息長度限制markdown 類型的消息內(nèi)容最長 4096 字節(jié)超出部分會被截斷。所以報警消息里不要塞太多內(nèi)容關(guān)鍵信息點(diǎn)到為止。markdown 語法限制企業(yè)微信的 markdown 不是標(biāo)準(zhǔn) markdown支持的語法比較有限。支持標(biāo)題# 到 ######、加粗**、引用、字體顏色、鏈接、行內(nèi)代碼。不支持表格、不支持圖片圖片需要單獨(dú)用 image 類型消息發(fā)送、不支持有序列表的自動編號。 人限制markdown 類型不支持 成員只有 text 類型支持 mentioned_list 和 mentioned_mobile_list。如果報警需要 到具體負(fù)責(zé)人要么用 text 類型要么在 markdown 里手動寫上負(fù)責(zé)人的名字但沒有 的提醒效果。這些限制看起來多但對于報警場景來說其實夠用。報警消息的核心是“哪個任務(wù)失敗了、什么時候失敗的、失敗原因是什么、誰該去看”這些信息用 markdown 排版完全能表達(dá)清楚。3.2 報警消息的內(nèi)容設(shè)計一條好的報警消息應(yīng)該讓接收者在 3 秒內(nèi)判斷出“這事跟我有沒有關(guān)系、嚴(yán)不嚴(yán)重、要不要馬上處理”。基于這個原則我設(shè)計的報警消息模板包含以下字段字段說明是否必填任務(wù) IDXXL-JOB 中的任務(wù)主鍵是任務(wù)描述任務(wù)的業(yè)務(wù)含義是負(fù)責(zé)人任務(wù)的負(fù)責(zé)人是調(diào)度時間本次觸發(fā)調(diào)度的時間是執(zhí)行器地址實際執(zhí)行任務(wù)的節(jié)點(diǎn)是失敗原因執(zhí)行返回的備注信息是報警時間消息發(fā)送的時間否消息的 markdown 格式大概長這樣## 任務(wù)調(diào)度失敗報警 **任務(wù)ID** 1024 **任務(wù)描述** 每日訂單對賬 **負(fù)責(zé)人** 張三 **調(diào)度時間** 2024-01-15 02:00:00 **執(zhí)行器地址** http://192.168.1.100:9999/ **失敗原因** font colorwarningjava.lang.NullPointerException: .../font **報警時間** 2024-01-15 02:00:15用引用塊把信息包起來視覺上比較緊湊。失敗原因用 warning 顏色標(biāo)紅一眼就能看到。標(biāo)題用 ## 級別在企業(yè)微信里顯示為較大的字體起到醒目的作用。這里有個細(xì)節(jié)失敗原因可能非常長比如完整的異常堆棧直接塞進(jìn)消息里會超過長度限制。我的做法是截取前 200 個字符后面加省略號完整信息讓用戶去 XXL-JOB 控制臺查看。截取的時候要注意按字符而不是按字節(jié)截取避免把中文截成亂碼。3.3 報警器的代碼結(jié)構(gòu)設(shè)計自定義報警器的代碼結(jié)構(gòu)其實很簡單核心就是一個類實現(xiàn) JobAlarm 接口。但為了代碼的可維護(hù)性和可測試性我建議拆成三層報警器層實現(xiàn) JobAlarm 接口負(fù)責(zé)從 XxlJobInfo 和 XxlJobLog 中提取信息組裝成消息內(nèi)容調(diào)用發(fā)送器。消息組裝層負(fù)責(zé)把結(jié)構(gòu)化數(shù)據(jù)渲染成 markdown 文本方便后續(xù)調(diào)整消息模板。HTTP 發(fā)送層負(fù)責(zé)實際的 HTTP POST 請求處理超時、重試、異常。這樣拆的好處是如果以后要換一個報警渠道比如換成飛書機(jī)器人只需要改發(fā)送層消息組裝層可以復(fù)用。如果以后要調(diào)整消息格式只需要改組裝層不影響其他部分。在 Spring 環(huán)境下這個報警器類加上 Component 注解就會被自動掃描到。XXL-JOB 的 JobAlarm 收集邏輯是通過 Autowired 注入一個 List Spring 會自動把所有實現(xiàn)類注入進(jìn)來。所以不需要額外配置加個注解就行。但有一個坑需要注意如果你的調(diào)度中心項目里同時存在多個 JobAlarm 實現(xiàn)比如默認(rèn)的 EmailJobAlarm 加上你的自定義報警器那么每次報警會同時觸發(fā)所有報警器。如果你只想用企業(yè)微信報警、不想發(fā)郵件需要把 EmailJobAlarm 的配置關(guān)掉在 application.properties 里設(shè)置 xxl.job.alarm.email 相關(guān)配置為空或者不配置。不過實際上同時保留郵件和企業(yè)微信報警也不是壞事多一個渠道多一份保障。4. 完整實操過程與核心環(huán)節(jié)實現(xiàn)4.1 環(huán)境準(zhǔn)備與依賴確認(rèn)在開始寫代碼之前先確認(rèn)幾個環(huán)境條件XXL-JOB 版本建議 2.3.0 及以上這些版本的 JobAlarm 接口比較穩(wěn)定失敗監(jiān)控線程的邏輯也比較完善。我實測過 2.3.1 和 2.4.0都能正常工作。調(diào)度中心項目你需要有 xxl-job-admin 的源碼因為自定義報警器要加在這個項目里。如果你是用官方編譯好的 jar 包部署的需要重新拉源碼編譯。HTTP 客戶端調(diào)度中心項目本身依賴了 Spring Boot所以可以直接用 RestTemplate 或者 HttpClient。我習(xí)慣用 Java 11 自帶的 HttpClient不需要額外引入依賴。如果你用的是 Java 8可以用 OkHttp 或者 Apache HttpClient。JSON 庫XXL-JOB 本身依賴了 Gsoncom.google.gson可以直接用來組裝 JSON不需要額外引入 Jackson 或 Fastjson。確認(rèn)好這些之后在 xxl-job-admin 項目的 alarm 包下新建一個類比如叫 WeChatRobotJobAlarm。4.2 核心代碼實現(xiàn)先看消息組裝的部分。我定義了一個簡單的消息模板方法private String buildMarkdownMessage(XxlJobInfo info, XxlJobLog jobLog) { StringBuilder sb new StringBuilder(); sb.append(## 任務(wù)調(diào)度失敗報警\n); sb.append( **任務(wù)ID** ).append(info.getId()).append(\n); sb.append( **任務(wù)描述** ).append(info.getJobDesc()).append(\n); sb.append( **負(fù)責(zé)人** ).append(info.getAuthor()).append(\n); sb.append( **調(diào)度時間** ).append(DateUtil.formatDateTime(jobLog.getTriggerTime())).append(\n); sb.append( **執(zhí)行器地址** ).append(jobLog.getExecutorAddress()).append(\n); String failMsg jobLog.getTriggerMsg(); if (failMsg ! null failMsg.length() 200) { failMsg failMsg.substring(0, 200) ...; } sb.append( **失敗原因** font color\warning\).append(failMsg).append(/font\n); sb.append( **報警時間** ).append(DateUtil.formatDateTime(new Date())).append(\n); return sb.toString(); }這里用了 XXL-JOB 自帶的 DateUtil 工具類來格式化時間避免自己寫 SimpleDateFormat 的線程安全問題。失敗原因做了 200 字符的截斷處理防止消息過長。然后是 HTTP 發(fā)送的部分private boolean sendToWeChatRobot(String content) { try { MapString, Object body new HashMap(); body.put(msgtype, markdown); MapString, String markdown new HashMap(); markdown.put(content, content); body.put(markdown, markdown); String json new Gson().toJson(body); HttpClient client HttpClient.newHttpClient(); HttpRequest request HttpRequest.newBuilder() .uri(URI.create(webhookUrl)) .header(Content-Type, application/json) .POST(HttpRequest.BodyPublishers.ofString(json, StandardCharsets.UTF_8)) .timeout(Duration.ofSeconds(5)) .build(); HttpResponseString response client.send(request, HttpResponse.BodyHandlers.ofString()); if (response.statusCode() 200) { JsonObject result JsonParser.parseString(response.body()).getAsJsonObject(); int errcode result.get(errcode).getAsInt(); if (errcode 0) { return true; } logger.warn(企業(yè)微信機(jī)器人返回錯誤errcode{}, errmsg{}, errcode, result.get(errmsg).getAsString()); } } catch (Exception e) { logger.error(發(fā)送企業(yè)微信報警失敗, e); } return false; }這段代碼有幾個細(xì)節(jié)值得說明。超時時間設(shè)置為 5 秒是因為報警消息不需要等待太久如果企業(yè)微信接口 5 秒還沒響應(yīng)說明網(wǎng)絡(luò)有問題重試也沒有太大意義。返回結(jié)果里要檢查 errcode企業(yè)微信的接口即使 HTTP 狀態(tài)碼是 200也可能在 body 里返回業(yè)務(wù)錯誤碼。常見的錯誤碼有 45009頻率超限、93000機(jī)器人被移出群聊等。最后是 JobAlarm 接口的實現(xiàn)Component public class WeChatRobotJobAlarm implements JobAlarm { private static final Logger logger LoggerFactory.getLogger(WeChatRobotJobAlarm.class); Value(${xxl.job.alarm.wechat.webhook:}) private String webhookUrl; Override public boolean alarm(XxlJobInfo info, XxlJobLog jobLog) { if (webhookUrl null || webhookUrl.trim().isEmpty()) { logger.debug(未配置企業(yè)微信機(jī)器人 Webhook跳過報警); return false; } String content buildMarkdownMessage(info, jobLog); return sendToWeChatRobot(content); } }Webhook 地址通過配置文件注入這樣不同環(huán)境可以用不同的機(jī)器人開發(fā)環(huán)境推到開發(fā)群生產(chǎn)環(huán)境推到運(yùn)維群。如果沒配置 Webhook直接返回 false不影響其他報警器。4.3 配置文件與部署驗證在 application.properties 里加上一行配置xxl.job.alarm.wechat.webhookhttps://qyapi.weixin.qq.com/cgi-bin/webhook/send?key你的key然后重新編譯打包 xxl-job-admin部署到調(diào)度中心。驗證的方式很簡單在 XXL-JOB 控制臺里手動觸發(fā)一個會失敗的任務(wù)比如把一個執(zhí)行器的地址改錯或者讓任務(wù)拋異常觀察企業(yè)微信群里是否收到報警消息。如果沒收到先看調(diào)度中心的日志搜索“企業(yè)微信”相關(guān)的日志輸出。常見的問題包括Webhook 地址配錯了、網(wǎng)絡(luò)不通調(diào)度中心所在服務(wù)器無法訪問企業(yè)微信接口、消息格式不對被企業(yè)微信拒絕。日志里會打印具體的錯誤信息按圖索驥基本都能解決。4.4 頻率限制的應(yīng)對策略前面提到企業(yè)微信機(jī)器人每分鐘最多 20 條消息。如果短時間內(nèi)大量任務(wù)失敗比如數(shù)據(jù)庫連接池耗盡導(dǎo)致所有任務(wù)全部失敗可能會瞬間產(chǎn)生幾十條報警觸發(fā)限流。我的應(yīng)對策略是在發(fā)送層加一個簡單的令牌桶或者計數(shù)器。用 Guava 的 RateLimiter 就可以private final RateLimiter rateLimiter RateLimiter.create(0.3); // 每秒0.3個即每分鐘18個 // 在發(fā)送前調(diào)用 if (!rateLimiter.tryAcquire(1, TimeUnit.SECONDS)) { logger.warn(企業(yè)微信報警頻率超限本條報警被丟棄); return false; }這樣最多每秒發(fā) 0.3 條每分鐘 18 條留一點(diǎn)余量給其他用途。被限流的報警消息會被丟棄但日志里有記錄事后可以追溯。如果你覺得丟棄不可接受也可以改成把消息攢起來批量發(fā)送但實現(xiàn)復(fù)雜度會高不少。對于報警場景來說我傾向于簡單限流加日志記錄因為大量任務(wù)同時失敗時看一條報警和看十條報警的信息量差不多關(guān)鍵是知道“出大事了”。5. 常見問題與排查技巧實錄5.1 報警不觸發(fā)或觸發(fā)異常這是最常見的問題類型。我整理了一個排查速查表現(xiàn)象可能原因排查方法任務(wù)失敗但完全沒報警報警器沒被 Spring 掃描到檢查類上是否有 Component包路徑是否在掃描范圍內(nèi)任務(wù)失敗但完全沒報警Webhook 未配置或配置為空檢查 application.properties 中的配置項任務(wù)失敗但完全沒報警失敗監(jiān)控線程未啟動檢查調(diào)度中心啟動日志中是否有 JobFailMonitorHelper 相關(guān)日志報警消息發(fā)送失敗網(wǎng)絡(luò)不通在調(diào)度中心服務(wù)器上 curl 一下 Webhook 地址報警消息發(fā)送失敗消息格式錯誤查看企業(yè)微信返回的 errcode 和 errmsg報警消息發(fā)送失敗頻率超限查看 errcode 是否為 45009重復(fù)報警集群模式下多節(jié)點(diǎn)同時掃描檢查 XXL-JOB 版本考慮加 Redis 去重報警消息內(nèi)容為空XxlJobLog 字段為 null檢查 jobLog.getTriggerMsg() 是否為空加空值判斷其中“報警器沒被掃描到”是最容易犯的錯誤。很多人把報警器類寫在了執(zhí)行器項目里或者寫在了調(diào)度中心項目但包路徑不在 SpringBootApplication 的掃描范圍內(nèi)。XXL-JOB 的調(diào)度中心啟動類在 com.xxl.job.admin 包下所以你的報警器類要么放在這個包及其子包下要么在啟動類上手動加 ComponentScan。5.2 消息內(nèi)容顯示異常企業(yè)微信的 markdown 渲染和標(biāo)準(zhǔn) markdown 有一些差異我踩過的坑包括換行問題企業(yè)微信 markdown 里單個 \n 不會換行需要兩個 \n 或者用引用塊。我一開始用 \n 拼接結(jié)果所有內(nèi)容擠在一行后來改成每個字段后面加 \n并且用引用塊包裹顯示就正常了。字體顏色只支持 info綠色、warning橙紅色、comment灰色三種顏色寫其他顏色值不會生效會顯示為默認(rèn)顏色。特殊字符任務(wù)描述里如果包含 等字符可能會破壞 markdown 結(jié)構(gòu)。建議在拼接前做一次 HTML 轉(zhuǎn)義或者至少把 和 替換掉。超長內(nèi)容前面說過 4096 字節(jié)限制但實際測試下來超過 2000 字節(jié)左右企業(yè)微信客戶端就可能顯示不全。所以消息內(nèi)容盡量精簡。5.3 集群環(huán)境下的重復(fù)報警如果你的調(diào)度中心部署了兩個節(jié)點(diǎn)理論上同一條失敗日志可能被兩個節(jié)點(diǎn)同時處理。XXL-JOB 在 JobFailMonitorHelper 里通過數(shù)據(jù)庫的樂觀鎖來保證只有一條記錄被更新成功但不同版本的實現(xiàn)細(xì)節(jié)有差異。我在 2.3.1 版本上實測集群模式下重復(fù)報警的概率大概在 5% 左右不算高但確實存在。如果你對重復(fù)報警零容忍可以加一層 Redis 去重String dedupKey xxl:alarm:dedup: jobLog.getId(); Boolean success redisTemplate.opsForValue().setIfAbsent(dedupKey, 1, 5, TimeUnit.MINUTES); if (Boolean.FALSE.equals(success)) { logger.debug(報警已發(fā)送過跳過重復(fù)報警logId{}, jobLog.getId()); return true; }用 jobLog 的主鍵作為去重 key5 分鐘內(nèi)不重復(fù)發(fā)送。這樣即使框架層面有并發(fā)窗口業(yè)務(wù)層面也能兜住。返回 true 是為了告訴框架“報警已處理”避免框架反復(fù)重試。5.4 報警消息的負(fù)責(zé)人 提醒前面提到 markdown 類型不支持 人。如果你確實需要 到具體負(fù)責(zé)人有兩個方案方案一改用 text 類型消息用 mentioned_mobile_list 參數(shù) 負(fù)責(zé)人的手機(jī)號。但 text 類型不支持 markdown 排版消息看起來比較樸素。方案二在 markdown 消息里手動寫上負(fù)責(zé)人的名字雖然沒有 的強(qiáng)提醒效果但群里的人看到自己的名字自然會關(guān)注。我傾向于方案二因為報警消息的排版清晰比 提醒更重要而且企業(yè)微信群里 太多也容易引起反感。如果一定要 可以發(fā)兩條消息一條 markdown 類型的詳細(xì)報警一條 text 類型的 提醒。但這樣會消耗兩倍的頻率配額需要權(quán)衡。5.5 報警消息的靜默與降噪上線一段時間后你可能會發(fā)現(xiàn)某些任務(wù)的報警特別頻繁比如一個每分鐘執(zhí)行一次的任務(wù)偶爾失敗一次就報警一天下來幾十條消息群里的人都麻木了。這時候需要做報警降噪。我的做法是在報警器里加一個簡單的靜默邏輯同一個任務(wù)在 N 分鐘內(nèi)只報警一次。用 Redis 記錄每個任務(wù)的上次報警時間如果距離上次報警不足 N 分鐘就跳過。N 可以根據(jù)任務(wù)的執(zhí)行頻率來設(shè)置比如每分鐘執(zhí)行的任務(wù)設(shè)置 10 分鐘靜默每天執(zhí)行的任務(wù)設(shè)置 0 分鐘每次都報。String silenceKey xxl:alarm:silence: info.getId(); Boolean canAlarm redisTemplate.opsForValue().setIfAbsent(silenceKey, 1, silenceMinutes, TimeUnit.MINUTES); if (Boolean.FALSE.equals(canAlarm)) { logger.debug(任務(wù){(diào)}處于靜默期跳過報警, info.getId()); return true; }這個邏輯和前面的去重邏輯可以合并用同一個 Redis key 同時實現(xiàn)去重和靜默。靜默時間可以通過任務(wù)的執(zhí)行頻率動態(tài)計算也可以做成可配置的。5.6 測試環(huán)境與生產(chǎn)環(huán)境的隔離開發(fā)測試環(huán)境的任務(wù)失敗頻率通常比生產(chǎn)環(huán)境高很多如果測試環(huán)境的報警也推到生產(chǎn)運(yùn)維群會造成大量噪音。我的做法是通過配置文件區(qū)分不同環(huán)境的 Webhook 地址開發(fā)環(huán)境推送到開發(fā)群測試環(huán)境推送到測試群生產(chǎn)環(huán)境推送到運(yùn)維群。Spring Boot 的多環(huán)境配置application-dev.properties、application-prod.properties天然支持這一點(diǎn)。另外測試環(huán)境的報警可以設(shè)置更長的靜默時間或者干脆只在特定時間段比如工作時間發(fā)送報警避免半夜吵醒人。這些都可以通過配置項來控制不需要改代碼。6. 一些實操后的個人體會這套方案我在三個不同的項目里落地過從最初的簡單版本迭代到現(xiàn)在帶限流、去重、靜默的完整版本前后大概改了五六次。最大的體會是報警系統(tǒng)的核心不是“發(fā)出去”而是“發(fā)得對”。發(fā)得太多大家會麻木發(fā)得太少又會漏掉關(guān)鍵問題。找到這個平衡點(diǎn)需要根據(jù)團(tuán)隊的實際情況不斷調(diào)整。另外一個容易被忽視的點(diǎn)是報警消息的可操作性。一條好的報警消息應(yīng)該讓接收者能直接點(diǎn)擊鏈接跳到 XXL-JOB 控制臺查看詳情而不是自己去翻控制臺找任務(wù)。企業(yè)微信 markdown 支持鏈接語法可以在消息里加上控制臺的任務(wù)詳情頁鏈接點(diǎn)擊直接跳轉(zhuǎn)。這個小小的改進(jìn)能顯著提升處理效率。最后分享一個小技巧企業(yè)微信機(jī)器人的 Webhook 地址里那個 key 是敏感信息不要直接硬編碼在代碼里提交到代碼倉庫。用環(huán)境變量或者配置中心來管理避免泄露后被惡意利用。雖然機(jī)器人只能發(fā)消息不能讀消息但被人惡意刷消息也是挺煩的。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美人体性爱互联网第一页婷婷日本| 蜜桃天美传媒AV一区二区三区| 强奸a片网| 激情图片亚洲色图| 成人一二| 中国小夫妻勾搭露脸淫荡对白| 欧美18 在线观看| 老鸭窝亚洲毛片| 嗯嗯啊好爽| 婷婷四五区| 97热视频在线观看| 天天日天天爽| 欧美午夜视频精品久久| 亚洲在线91| 中文字幕精品丝袜| 青青草原人妻| 天天天天天干夜夜夜夜夜操| 无码精品久久久久久亚洲| 目产99999久久999| 不卡啪啪视频| 伊人五月天| av在线不卡一区二区三区| 亚洲性综合| 日夜啪电影| 岛国精品视频在线观看| 91狠狠| 九九九九九用不成了| 国产欧美美女免费观看视频| 佐山爱中文字幕| 国产久久成人| 精品国产乱码久久| 色呦呦国产精品免费看| 亚洲一二三四区| 久久一二三四不卡| 九九九九九九成人| 精品97久久综合| 高树玛利亚无码流出| 久久无码电影| 在线视频 亚洲精品| 骚货 中文字幕 av| 欧美aⅴ99久久黑人专区| 久久久精品国产亚洲AV无码| 日韩欧美字幕亚洲一区二区| 国内精品久久人妻性色av| 91操熟女视频 | 96久久久精品| 91n免费处女| AV男人天堂网| 午夜精品久久久久久久男人的天堂| 操一对老熟妇爽上天视频| 国产操逼视频在线观看| 国产第二页| 97激情97激情| 97色欧州| 天天肏美女| 久久久久久久久久8888| 91情色| 亚洲高清欧美总合| 国产精品久久久777| 中文字幕国产精品1区| 蜜色网色哟哟| 午夜寂寞欧美| 91精品女厕偷拍视频| rivers-china.com| 久久超碰97中文字幕| 色哟哟511老熟女| 青青草影视蜜久久| 中国熟女91| 精品久久久久瑟瑟| 欧美日韩精品一区二区三区高清| 日本操逼视频不卡直接放| 久久久亚洲高清不打码| 国产亚洲色婷婷久久99精品91| 欧美激情 一区| 三级色影综合网| 久久精品99| 欧美色日| 啪啪综合网| 欧亚无码视频| 中文字幕三四区| 女欧美一区二三区| 天天综合网日韩| 人妻精品一区一区三区蜜桃91| 99999精品成人| 97色涩| 国产精品日日摸夜夜添骚逼| 熟女乱伦A| 99精品网| 精品乱子一区二区三区99| 日韩欧美中文字幕搭讪巨乳美人妻视频| 精品九九| 久久这里精品国产99丫e6| 91亚洲狠狠色| www黄片免费看com| 91综合色| 欧美性爱1080p| 91操人| 精品精品精品| 自拍亚洲综合| 久久精品国内Av熟女高清| 一级日本牲交大片好爽在线看| 色狠狠 - 百度| 欧美色综合影院| 超AV色女| 97亚洲中文| 日韩电影中文字幕| 成人性爱AV在线免费观看| 一起草av| 日本伦乱九九九综合| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 97色网| 激情五月婷婷| 国产久久天堂资源| 9/A片| WWW操逼| 天天射,天天操,天天爽-国内精品一区二区三区-成人AV | 97在线免费看| 亚洲第一狼人丝袜美女另类 | 亚洲九九视频| 91l欧美在线| 国产操伦| 久久亚洲不卡| 后入式福利| 岛国在线一区二区三区| 久草精品一区| 无码国产精品午夜不卡(| 1204人成网站色www| 综合久久久久久久综合网| 久九9精品| 91露脸熟女专区| 美腿丝袜高跟网免费视频免费视频| 超碰久久性爱| 花花AV导航| 人妻久热在线| 日本无码1| 欧洲精品一级二级精品综合视频综合| 日本啊啊啊啊啊视频| 日韩亚洲欧美中文字幕| 欧美日日人人天天| 午夜福利区| 色婷婷五月天| 色乱二区| 18禁无码永久免费无限制| 欧美综合色综合| 天天色香欲综合网| av无码av无码专区| 激情五月天中文字幕色| 久久香蕉国产线看观看亚洲女人 | 色爱综合网| 男女做爰猛烈动高潮A片免费应用| 国产suv精品一区二六| 亚洲精品丝袜| 日本精品88888888| 色嘟嘟人妻天堂网| 大香蕉五月天| 国产传媒操逼视频| 日本成人A片网站| 97干在线视频| 亚洲青青草| 97舔舔| 亚洲中文字母在线播放| 日韩亚洲中文有码视频| 家庭乱伦性爱av| 秋霞一级A片黄色视频| 神马久久午夜| 性综合网| 日日爱99| 一本色道久久综合狠狠操| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 最新制服中文第一页| 欧美激色| 欧洲亚洲人妻无码久久三区四区| 欧美中字不卡| 热G综合热G中文| 精品视频一区二区| 青娱乐二区免费| 精品无码久久久久久久杏吧| 国产乱伦视频污| 人人弄人人摸| 日本亚洲熟女视频| 超碰78| 大香蕉99999| 免费观看网黄| 新版天堂中文资源8在线| 久久久久国产无av| 欧美熟妇乱码在线一区| 日夜久久久九九九久| 国产精品九9| 欧美日韩国产高清在线一二三区| 在线人人人人人人精品超| 一区二区三区 日韩欧美| 欧日韩不卡视.频| 欧美日韩资源在线| 中文字幕乱妇免费视频| 国产成人在线观看网址| 桃花色涩综合影院| 99re这里只有精品3| 国产欧美后入| 中文字幕高清精品一区| 国产精品久久99日日| 大香蕉免费乱伦视频| 日韩欧美视频青青| 屌色在线97视频| 欧美日韩国产传媒在线精品| 国产自制av蜜乳| 97天天操天天干| 亚洲砖码砖专无区2023| 97国伦国色| 欧美偷拍区| 天天做日日做| 人妻夜夜爽天天爽麻豆三区网站 | 久噜噜| 熟妇高潮一区二区免费视频| 天天操天天日天天干| 艳尻美人妻| 亚洲码在线中文在线观看| 欧中美三级一区二区三区| 9久9久| 男人的天堂激情| 日韩AV噜噜噜一区二区三区四区| 久久内射| 91艹B视频| 60秒免费小视频| 熟妇人妻精品一区二区| 屌逼麻豆| 欧美日韩不卡传媒| 另类小说五月天| 人妻丝袜美腿中文字幕| 精品久久在线区一区| 日韩精品人妻一区二区| 欧美 传媒 麻豆 日韩 偷拍| 一区AV| 精品国产自在在线99| 亚洲情欲| 欧美大香蕉97| 久操不卡视频| 麻豆91熟妇人妻中文字幕茄子| 国产1769在线| 中文字幕国产在线天堂| 青青青青草av在线观看| 强奸乱伦动态污图免费 | 国产99热| 性爱AV天堂| 国产精品蜜乳AV| 国产精品午夜福利| 神马久久久久眼| 一级久久性爱视频| 男人天堂2019| 亚洲宗合网| 青草地一本线一区二区三区| 天天综合亚在线| JuliaAnn丝袜熟女系列| 色九九久九九| 亚洲欧美一区二区三区在钱蜜桃| 天天cao在线| 亚洲精品国语在线播放| 婷婷天堂站| 一区二区三区 丝袜 高跟 美腿| 十八禁黄色成人网站观看| 人人妻天天做天天爽| 久久区| 国产91乱伦| 九九九九久久久| 素颜老阿姨乱情色| 26uuu最新| 333kkkk·亚洲com久久| 中文字幕88av在线| 欧美色图20p| 免费啪啪一级视频| 最新精品久久蜜桃| 91肉片| 97干在线| 99精品综合久久久久五月天| 欧美黑人精品在线播放| 熟妇视频一区二区三区在线观看| 91高潮| 欧亚免费视频| 亚洲天堂少妇| 一起草av| 久久αⅴ| 色噜噜人妻av 中文字幕| 夜夜无码| 熟女被操视频网址| 国产又粗又长的视频| 91精品久久久| 欧美九九99久久精品| 国产美女自拍视频| 亚洲人妻AV| 四虎精品永久在线观看| 国产日韩欧美三级片| 亚洲性综合| 国产一区在线观看无码AV| 欧美大香蕉97| 小视频玖玖| 大香蕉男人的天堂| 人人操人人操草草| 国产97在线播放| 欧美色综合影院| 无码九九| 强奸a片网| 美女天天干| 亚洲五码一区二区三区| 中文字幕欧美日本乱码一线二线| 少妇丝袜在线观看AV| 翔田千里A片一区二区| 狠狠中文字幕| 久久国产熟女影院| 久久久男人的天堂| 被操高清无码视频| 丝袜狠狠草尤物 91| 涩涩这里只有精品视频| 超碰综合97在线| 欧美性爱一级操| 人妻丰满熟妇av无码区蜜桃| 丁香五月成人| 成人日本片久久久蜜桃| av九九| 啊啊啊好想要| 330dv亚洲成年视频网| 日本操逼视频导航| 亚洲精品蜜桃久久久| 五月丁香激情综合| 超碰午夜| 久久久精精精| 欧美激情色婷婷花野真衣一区二区| 亚欧成人综合影院| 啊啊啊水好多| 97超碰逼| 伊人久久婷婷| 欧美熟妇成人一区二区| 99精品综合久久久久五月天| 天天干2019| 国产精品黄色三级av| 亚洲不卡一| 中文字幕视频2区| 国产欧美日韩一区二区三区| 极品少妇久久久| 二区熟妇韩日| www.久久爱| 伊人黄色片| 欧美综合色图片| 操美女人妻| 九九aV| 亚洲人妻中文在线视频| 精品人妻久久久久一区二区三区| 久久久久中出| 色播五月丁香| 逼逼逼逼操操操操操操操操操午夜剧场| 久久老熟女| www.AV有限公司一区| 五月综合激情网| 欧美成人四级在线播放| 欧州一区二区三区四区| 亚洲熟女综合网| 97网址97| 国产熟女二区| 9超碰免费| 天天综合~91入口| 亚洲操逼视频网站| 国产av波波国产精品| 久久久96| 97免费在线观看视频| 97爱碰| 91色图片| 亚洲成人精品久久久| 亚洲无码99| 色色色色网站| 久久98| 国精精品无码一二三区水多多| 免费精品国偷自产在线在线 | 不卡日本一区二区| 国产精品播放| 国产一区在线播放| 操逼A∨| 亚洲中文字幕熟女少妇一区二区| 后入日本1234| 大香交| 人澡逼| 超碰久久精品| 欧美日韩国产色五月综合在线| 蜜桃视频一区二区三区在线观看| 亚洲精品 超碰| av在线人气| 日韩偷拍色图| 亚洲AV资源| 色月天AV导航| 欧美老妇女内射网址| 久久久啊啊| 色一射色一射| 免费网色网站| 日韩八十路老熟女| 精品丰满熟妇人妻一区| 欧美天天影院| 97综合久久| 97香蕉网| 岛国黄| 亚洲欧综合另类无码一区| 成人七区| 国产女人成人精品视频| 97操操| 中文字幕第页| 亚洲91亚洲| 精品乱码久久久久| 美女爽爽爽刺痛洞洞| 九九久精品| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 成人免费看吃奶视频网站| 91人精品妻入口| 美国一区二区三区视频| 久久精品国产亚洲AV成人直播| 国产一区二区三区精品观看啪| 日本黄 R色 成 人网站| 欧洲天天在线| 碰超人人在线一区二区三区| 久久大香蕉97| 亚洲啪啪视频免费| 日韩av不卡在线观看| 人妻少妇色综合| 亚洲欧美天堂在线| 青青草这里只有精品| 97在线视频观看| 成年女人黄网站| 中文字幕在线免费观看视频| 久久一二三级一一一| 中文字幕一区二区三四五区日日骚| 98超碰欧美| 亚洲av无码国产精品字幕| 国产精品久久久久无码AV会牛| 麻豆久久久一区二区| 不卡人妻少妇精品毛片一区23区视频| 精品人妻一二三四区视频| 欧洲视频在线| 91精品国产日韩欧美综合| 天天干天天拍| 内射中国少妇高清视频免费视频 | 爽 好舒服 无码刺激久久| 国产青一二三| 日韩欧美久久婷婷网站| 久久久久亚洲av综合波多野制衣| 成人av在线播放| 欧美亚洲中文字幕| 91老熟女老女人国产老太| 熟妇色99| 高清国产av无码| 91欧美综合在线| 中国AAAAAA黄色片| 99亚亚热| 日韩99999| 欧美熟女操屄| 都市激情人妻一区二区青青操视频| 欧美性爱一区二区三区| 青娱乐日韩无码| 亚洲www91| 无码一区免费在线不卡| 欧美日韩性感| 97在线免费看视频| 色色婷婷五月天| 亚州欧美综合| 手机看片1024你懂的国产| 十八禁黄色成人网站观看| 欧美少妇色图| 欧美色图天堂在线| 99国产女人| 日本在线不卡一二区| 日本最新1区2区3区| 日韩av不卡在线看| 欲香欲色天天天综合和网| 黄片免费日韩| 日韩av三四区| PMv在线观看| 午夜呻吟欧美| 永久免费av无码网站国产app| 极品丝袜无码| 国产真乱mangent| 中文字日本乱码| 人妻色偷色噜| 欧美日本天堂| 色情乱伦AV| 日韩av电影网站| 欧美激情中文字幕另类小说| 欧美日韩不卡传媒| 色色色综合网| 又粗又长又大国产不卡| 日本日日色视频| 免费黄色片。| 国产欧洲精品亚洲午夜拍精品| 最新中文字幕精品在线| 欧美手机在线综合| 五月天激情小说| 探花视频免费观看国产专区| 欧美老妇女内射网址| 黄色激情电影在线观看| 久久九操在线观看| 午夜一区| 成人a v在线播放免费| 黄日韩| 26uuu国产免费观看| 欧美碰碰综合色| 九九热免费国产视频婷婷伊人五月 | 四虎 精品 WWW| 欧美偷拍区| 欧美综合777| 男人天堂一区二区| 国产v片在线免费观看| 亚精品无码毛片一区二区三区| 国产一级作爱毛片| 欧洲精品一级二级精品综合视频综合| 射丝袜高跟鞋99| 国产精品麻豆视频网站| 97K超碰在线| 天天综合网在线| 亚洲AV无码成人精品久久| 亚洲中文字幕熟女少妇一区二区| 亚洲综合影片| 五月丁香婷婷色| 在线观看一级α片刺激高潮视频| 国产精品一二三| 中文字幕一区二区三区人妻少妇在线| 97人人操人人摸| 亚洲熟女综合网| 亚洲中亚日激情视频| 久久久草成人网站久久久草成人久久久草久久久 | 天天爱综合网| 天天综合网久久ww| 亚洲精品色| 亚洲成人一区二区精品| 中文字幕一区二区视频在线观看| 亚洲精品97久久中文字幕| 91九色丨国产丨爆乳| 国模精品娜娜一二三区 | 精品97精品97| 中文高清一区二区的| 国产亚洲精品美女久久久m| 精品无码秘 人妻一区二区| 在线 欧美 亚洲| av一区二区三区四区五区久草臀| 97舔舔| 99热精品在线| 欧美黄片视频在线观看免费 | 亚洲久热| 欧美黄色片AAAAA| 人人艹亚洲| 欧美日韩国产成人高清| 夜夜性| 日本免费二区三区| 九色 蝌蚪 熟女自 | 人人看人人爰人人操| 97啪啪| 性91| 精品久久久久久久| 九九热三级片| 少妇淫妇久久久久久久| 精品少妇一区二区| 97在线公开视频| 欧美特黄视频网站| 精品国产乱码久久久影院| 97欧美色综合| 亭亭在线资源| 免看60秒涩涩视频| 神马久久久久久久久| 亚洲骚男同com| 91美女国产在线| 韩国毛片一区二区三区| 九九免费影片| 久肏视频字幕| 亚洲风情在线观看| 女人天堂av在线播放| 又大又大又大又粗爽高潮观看| 美女网站91| 人人搞人人插人人操| 一级毛片电影免费看| 91操操操操| 岛国1区2区3区在线观看| 日韩极品无码B| 人妻少妇被猛烈进入中| 人妻日日干| 久久久夜夜嗨免费视频| 婷婷六月天| 99热超碰| 欧美亚洲se91| 欧美黑人与女人91| 白丝AV| 黄色片一区二区三区四区五区| 操逼免费视频无码国产| 中文字幕狠狠玩| 精品超碰中文在线| 精品国产99| 职场同事知名国产国产精品久久欧美日韩| 噜噜瑟| 91香蕉国产尤物视频| 无码高清操逼网址| 日韩成人大片一区二区| 亚洲 图片 综合91| 99蜜桃臀久久久欧美精品网站| 日韩综合色网| 高清国产精品福利网站| 日韩国产成人自拍视频| 中文字幕啊啊啊在线观看视频| 天天弄欧美| 超碰这里有精品| 亚洲97综| 999岛国大片| 91色综合激情| 就去色综合| 免费一级性爱久久| 精品视频久久久久九九九九9999| a人欧美综合天堂麻豆| 日日干日日摸| 91在线超高颜值国产| 五月丁香激情综合| 99精品高潮| 亚洲色图欧美一区二区不卡| 蜜桃av综合网发布| 青青草大香蕉在线视频| 色噜噜国产精品视频一区二区| 岛国大片国产| 日韩99神马视频播放片在线播放| 亚洲图片欧美另类综合免费视频大大香| 亚洲天天操| 欧美成人午夜免费福利785| 自拍盗摄一区| 偷拍 亚洲 欧美| 爆操无码| 色香91| 国产精品无码久久久久2025| 日本曲间由美性生活片| 欧美成人贴图| 日韩av在线免费网站| 亚洲永久永久永久永久一级一级一级精品 | 欧色网址| av一区二区三区 中文| 超碰综合色| 乱伦熟妇一区二区| 日本久久久久久久久| 亚洲图片 欧美电影| 3028国产精品| 狠色婷婷久久一区二区三区_| 人人么人人操| 一区久久久二区| 国产精品自拍视频| 日韩有码一区三区| 中文字幕青青草| 亚洲 欧美 手机在线观看| 久久夜夜夜| 大香焦A片| 97超视频在线观看| 日本成人电影资源网| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 亚州成人a∨| 中文字幕欧美丝袜07资源| 丁香五月婷婷啪啪| 国产精品成人午夜福利| 97色色色| 97视频在线播放| 91在线美女| 大JI巴好深好爽又大又粗视频| 天美传媒国产原创中文字幕亚洲欧美另类| 精品一级| 神马久久久久眼| 久草尤物| 九九九九精品一区| 国产69精品久久久久99尤物| 黄站在线免费观看| 婷婷五月天色| 亚洲国产丝袜熟女av| 猛交交| 国产粉嫩蜜臀av一区二区三区| 欧美色图片91| 久久国产热视频97电影| 97精品视频在线| A V少妇特黄三级| 国产拍偷精品网站| 亚洲欧美精品久| 欧美麻豆成人同性GⅤ在线| 麻豆天美在线| 欧美第38页| 午夜偷拍久久熟女| 亚洲情色 欧美| 宗合情欲网| 精品毛片久久久精品毛片| 新91视频.cmp| 久热久一区二区三区| 一级特黄aaa大片在线观看成人一级片在线观看| 欧美性生活内射| 狠狠激情综合狠狠操中文字幕| 葡萄牙性视频一二区 | 中文字幕五月婷婷免费| 一二区在线观看视频| 97亚洲国产影视| 亚洲精美粉嫩嫩泬在线观看| 热热色91| 2019午夜福利视频| 久久久久久久久久久久久久久性生活视频 | 黑丝制服中文字幕| 人人爽夜夜操| 欧美十八禁在线看| 日韩一级久久毛片| 人妖欧美一区二区| 青青草啪啪网| 蜜臀少妇一区二区| 亚洲日韩美女中文字幕乱| 热99re69精品8在线播放| 加勒比伊人综合| 少妇高潮九九九九九九九| 四虎免费视频| 在线观看十八禁| 午夜乱轮操逼视频免费看| 亚洲同性aV综合| 91黑丝美女| 日本在线一二 | 精品.99999| 熟妇操花| 色婷婷激一区二区三区| 大学生美女口爆| 欧美亚洲清纯| 精品无码久久久久| 日本不卡高清免v欧美日韩在线观看| 亚洲国产一级精品毛一级精品看免费视频| 在线观看中文字幕| 男人的天堂视频精品乱在线| 熟妇激情| 亚州熟妇精品| 91总综合网| 成人无码专区精品视频| 九九九九久久久| 六月丁香久久| 亚洲欧洲网站免费观看| 综合久久六月久久婷婷| 日本一区视频在线观看| 亚洲无码精品AV久久久| 97在线视频观看| 999精品久久久久久久| 18精品一二区| 精品人妻久久久久一区二区三区| 91精品免费| 日韩精品电影| 98福利在线视频| 青青伊人久久| 偷拍2020| 婷婷激情五月综合| 亚洲有薄码区久久在线一区| 无码人妻丰满熟妇区毛片| 九九九草| 日韩日韩日韩-国产乱码精品一区二区| 91精品久久久久久久久久| 97视频www| 天天综合麻豆视频| 久久风骚城市| 亚洲黄色AV电影| 伊人骚琪琪亚洲天堂网站| 大香蕉淫人| 91网站18| 国产又黄又爽又刺激久久久久久| 国产a片操逼| 国产不卡免费在线视频| 亚洲天堂无码| 日本在线一二| 玖玖爱综合| 曰本91情色| 我想要啊 啊 啊| 天天综合青苹果| 日韩兔费看黄片| 麻豆国产视频精品观看| 三级网色| 欧美精品99久久久| 久久久不能久久久久| 嗯嗯,好大,好爽,好骚 | 国产强奸乱伦xd| 欧美人妻久久精品二区三区| 91九色精品熟女内射| 91男女啊啊啊| 超碰98综合网| 久久国产精品m码| 干我久操| 深田咏美亚洲精品福利社| 日本 欧美 亚中文字幕| 日日橹狠狠爱欧美超碰| 人妖欧美一区二区| 永久免费观看的毛片的网站| 先锋色眉乱伦资源| 99热成人| 狠狠亚洲| 欧美日韩1234| a级成人毛片免费视频高清| 思思热在线视频精品| 求求你操操我| 外国免费性情大片| 天天狠操| 大香蕉色十月| 久欲AV| 91国产操逼视频| 精品人人插人人操| 香港日本韩国人妇99www.wccm20| 狠狠色五月亚洲91| 亚洲 日本 国产 综合| 啪啪91| 白丝在线一区| 精品人妻一二三| 大香蕉丝袜一级片| 试看福利| 国产精品点击进入在线影院高清 | 亚洲在线综合| 少妇一区二区三区高速| 啊啊啊啊嗯嗯嗯用力好爽 | 久久久久亚洲精品| 啪啪自拍九九综合| 欧美日韩国产色图在线| 97视频7| 天天综合网日韩| www.99色| 久久噜噜噜精品国产亚洲综合| 午夜亚洲WWW湿好大| 久久久久久久人妻| 怡红院网站在线视频| 日韩免费在线视频观看| 蜜桃传媒一区二区亚洲| 日韩精品-原创伙伴| 亚洲综合中文字幕有码 | 国产亚洲精品玖玖玖在线观看| 国产美女91视频| 日韩欧美性爱电影在线观看| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 乱伦日本色图AⅤ| 超碰碰激情97+久| 免费av高清无码| 在线视频一区二区传媒| 老熟妇乱轮| 精品久久一区二区三区四区五区| 青青草原香蕉日本Ap| 8050午夜少妇无码| 久久视频,这里只有精品| 亚洲国产奇米影视久久| 久久夜夜夜| 欧美性生活免费网| 97在线青| 午夜寂寞欧美| 欧美最婬乱婬爆婬牲视频| 国产亚洲精品第一最新| 人妻天天爽夜夜爽2| 人人操人人叉人人插人人| 99热大香蕉伊在线| 3p国产色噜噜一区| 91操熟女视频 | 亚洲欧美清纯| 嗯嗯啊中文字幕| 97精品久久| 亚洲人在线| 大香蕉www.超碰| 豆1无夜无码| 麻豆国产96在线| 少妇精品| 久久久久久性爱视频| 国产色综合亚洲色综合吹潮| 九九自拍伦理| 国产成人无码网站在线视频| 欧美精品庄| 黑丝少妇麻豆| 乱伦av国产| 性生活性生大爱77AV国产| 久久五月天婷婷| 亚洲超碰97| 性生活无遮挡纯毛片在线看| 极品美女福利在线观看| 国产成人五月天丁香花| 富二代亚洲精品99| 久久东京伊人一本到鬼色| 久男人久久| 亚洲男人天堂Av| 亚洲乱色熟女一区| 九草九九九| 欧美日韩性感| 久草国产在线视频| 午夜福利合集| 色婷婷蜜臀av| 免费综合亚洲中文| 丁香色狠狠色综合久久小说| 97在线观视频免费观看| 亚洲精品视频在线播放| 激情天天视频| 中文字幕1区2区| 欧美性色综合网| 欧美黄色大香蕉一区二区| 天天激清| 欧美97av| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 国产诱惑| 久久一二区四| 自拍鲍鱼一区在线高清观看免费| 亚洲无码 国产无码| 蜜臀无码一区二区| 日本淫色网| 色婷婷色99国产综合精品| 国产偷拍网站| 综合色区偷拍| 激情五月天校园春色网| 亚洲欧美九九| 婷婷99狠狠躁天天躁| 超碰国产精品久| 91狠狠综合网| 久9爱精品| 亚洲人久久久网| 肉丝网站91| 婷色五月天| 国产92麻豆天美精品色欲5| 黄色免费一级在线毛片| 伊香蕉综合久久久久久久噜噜噜| 天天摸天天舔天天操| 亚洲精品97在线| AV九九| 精品国产www久久| 2020中文在线一区二区三区| 97视频网站| 麻豆av一区二区| 国产自偷| 丝袜色综合| 久久伦理视频久久大香蕉视频| 亚洲日本男人天堂网| 婷婷色婷婷| 免费一级视频特黄色大片| 婷婷影院入口| 激情综合二| 日本免费人成视频播放120秒| 日本孕妇一区二区视频操逼免费看| 四虎影视精品| 嗯嗯啊啊啊好爽| 2017,超碰| 久久久999国产精品| 色777999综合| 少妇精品久久久八区九区| 青青伊人加勒比海| 亚州色国| 偷拍综合亚洲| 精品久久9| 国产精品一区二区后入| 日日日骚女人精品| 强奸熟女一区二区三区 | 日本成人A片网站| 性饥渴少妇av无码毛片| 国产高清午夜成人在线观看| 91肉片| 免费αV在线视频| 中文字幕高清精品一区| 男人的天堂午夜av| 亚洲成人免费中文字幕| 大香蕉强奸乱伦| 免费黄色A片| 超碰在线国产| 口爆综合网| 午夜呻吟欧美| 久久伊人青青草| 国产精品久久久久999| 四虎影视永久在线观看精品免费网站 | 色吊丝 日日骚 清纯唯美| 中文字幕视频在线观看| 久久午夜色播影院免费高清| 国产乱伦视频污| 俄罗斯一区二区视频在线观看| 激情网色| 26uuu国产免费观看| 日本色婷婷| 久草视频制服诱惑| 2017大香蕉国产精品久久| 国产精品在线一区二区| 色色97爱| 99精品国产户外露出| 岛国大片在线观看网站入口| 国产亚州日韩欧美看片| 热久久91婷婷| 亚洲精品1区| 欧美伊人电影| 欧美性爱日韩高清| 91操人| 欧美人妻精品| 久久亚码| 天天综合中文字幕 91| 国产v片在线免费观看| 一本一道vs波多野结衣| 免费观看有码高清视频| 一区,二区,三区视频| 91操熟女视频 | 有码免费观看| 久久久久久裸体| 亚洲欧美999| 国产精品久久久久久久毛片1| 五月婷婷激情网| 91N综合在线| 9久久久久| 午夜偷拍久久熟女| 亚洲18禁| 超碰9 7女人| 中文字幕精品免费一区二区| 国产成人无码网站在线视频| 精品无人区麻豆乱码久久久| 青青草色AV| 亚洲导航深夜福利| 无码欧美有限公司| 91精品国| 亚洲一区二区三区中文字幕| 婷婷日韩一区二区三区中文字幕在线| 人妻丝袜肏逼| 久久性爱视频免费看| 久久激情五月| 走光一区92下载| 日本黄大片在线观看视频| 日本黄 R色 成 人网站| 成人久久精品| 亚洲精品国语在线播放| 色色色欧美| 欧美一二级| 久久久久久日韩| 中文字幕精品丝袜| 亚洲熟女人妻中文字幕一区二区| 国产一级作爱毛片| 亚洲诱惑| 操婢日韩| 嗯嗯嗯啊啊啊操的我好爽| 综合 亚洲 欧美| 久青草影院| 啊啊啊骚| 深田咏美亚洲精品福利社| 中文字幕人乱码中文字的预防方法 | 欧美日韩操操操| 好屌色综合| 91香蕉视频在线观看免费| 区一在线观看| 3PAV乱伦视频| 久久久com| 97精品网| 亚洲有码 欧美精品| 日日躁夜夜躁狠狠躁超爽| 人人透人人操| 精品人妻一区二区三区蜜桃视频| 操B在线观看| 国产乱青青草久久| 精品亚洲黄色片 国产精品导航一区二区| 殴美日韩m| av毛片aaaaa免费看| 久久精品视频久久久| 青草综合| 肥臀熟女福利视频一区二区| 色激情综合网站| 国产精品久久久久绯色| 亚洲中字幕日本一区二区三区| 爱爱动态120秒| 百度百度日本操逼| 亚洲欧美爆| 日韩操p| 久日综合网| 国产粉嫩出水在线播放| 男人天堂毛片| 亚洲精品男人的天堂| 亚洲精品九九九| 亚洲国产一区二区三区在线 | 色婷婷蜜臀av| 国产大陆天天艹| 亚洲青青草| 五月天大香蕉| 成人羞羞视频国产| 天天综合欧美综合| 金莲网址| 啊啊啊啊无码| 欧美有码亚洲中文字幕一区二区三区四区| 欧美福利视频啊啊啊啊| 欧美一区二区成人一卡| 国产精品成人蜜臀AV在线| 九九九偷拍| 操穴国产| 国产大学生口爆吞精合集| 亚洲操操操无码| 旡码电影特区| 日韩一级特黄av毛片| 91美女精品| 成人日韩中文字幕| 欧美日韩一区二区三区四区蜜桃| 偷拍欧美亚洲| 影音综合网| 亚洲欧洲国产综合av| 九九九九9999| 天天综合网~91综合网| 超碰99在线| 亚洲阿v天堂无码z2018| 竹菊一区二区三区AV线| 香一区二区三区| 欧亚性爱视频免费看| 日韩一二三区| 欧美性视频二区三区| 日韩人体偷拍| 插日本熟女视频| 国产熟女精品一区二区| 啊啊啊啊啊啊啊在线| 久久精品欧美一区蜜桃| 人妻 中文 日韩| 97在线看| 97欧美色综合| 乱理日韩中文| 婷婷综合| 能在线播放的国产三级| 亚洲欧美色图片| 69丨亚洲丨精品丨入口免费播放| 97香焦色区| 亚洲精品乱码久久久久久蜜桃麻豆 | 亚洲福利中文字幕在线| 男人女人18禁片免费看网站| 新91视频.cmp| 97精品国产精品免费观看| 国产剧情一区在线观看| 亚洲成人性爱在线观看| 久操91视频| 91 丝袜在线播放| 大香蕉日亚洲日本亚大| 男女激情中文字幕| 99国产精品人妻人伦| 午夜丁香| 久草福利在线资源站| 91丨九色丨国产丨人妻在线| 欧美日韩在线小说 | 人人妻人人狠人人| 亚洲日本激情| 日韩欧美亚洲自拍偷拍| 天天干18禁| 91中出在线| 超碰综合97在线| 九九av| 久久熟女久| 欧美 牲| 欧美后入视频| 禁十八久久| 99啪啪视频| 大香蕉 222| 性色乱AV一区二区| 67914亚洲精品| 天天干天天干天天干| 无码伊人久久大杳蕉中文无码| 91黄射| 思思热在线视频免费| 偷拍盗拍亚洲色图图片 | www.大香| 欧美激情另类一区二区| 十八禁视频一区二区| 亚洲无码 国产无码| 亚洲av性爱电影| 91欧洲国产成人久久精品网站| 99re免费| 国产v亚洲v日韩v欧美v片另类| 91综合中文字幕| 亚洲天堂男人| 亚洲精品自拍| 天天射天天操天天干天天吃2018| 国产女大学生AV| 欧亚无码视频| 天天色黄色影院天天操| 午夜亚洲国产理论秋霞| 色综合天天| 亚洲欧综合另类无码一区| 亚洲成?V人片在线观看福利| 亚洲偷拍自拍在线视频| 婷婷精品视频| 欧美色偷拍 | 亚洲国产97| 明星性猛交ⅹxxx乱大交|