亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
暴力av在线| 有码色中文字幕在线观看| 国产女人9999| 国产精品99精品视频网站| 另类天堂| 久久激情视频| 成人网欧美风情| 亚洲另类欧美精品| 成人草草视频| 亚洲欧美另类少妇精品| 亚洲一区操| 国产精品久久久久999| 大香蕉520| 欧美美女视频| 久久 久久国内精品亚洲| 国产成人精品日本亚洲语言 | 果冻传媒一区二区三区| 精品久久久不卡一区二区| 欧美曰韩国产精品| 人妻另类 专区 欧美 制服| 98精品国产乱码久久久久久| 亚洲色婷婷久久91| 近亲乱伦一区二区| 人妻少妇久久中文字幕一区二区 麻豆| 丝袜高跟澳门91视频| 久久精品国产亚洲粉嫩| 这里只有97精品| 在线有码中文字幕| 99xav| 东北老女人的激情视频| 天天综合97| 日韩乱伦影音先锋| 丁香六月婷婷综合| 人妻精品4K4K4K4K4| 午夜免费视频1000| 青青操视频在线| 亚洲春色欧美激情自拍| 污到发麻的视频 国产| 人妻精品综合中文字幕在线 | 18禁看网站一区| 九九九九久久久久| 四虎AV在线观看| 久久精品操| 无码人妻丰满热妇又大又粗| 日韩青久久| 综合色啪| 日逼逼免费看| 青娱乐啪啪视频| 混色激情av| 久久香蕉国产传媒一区剧情天美| 美女91网| 青青草视频久久久久| 亚洲成人精品在线一区| 久久久久ab| 亚洲情色中文字幕一区| 久久精品人妻一区| 成人欧美日超碰| 探花精品视频| 成人av影院在线观看| 亚洲欧美综合图片| 电影69乱码96| 久久婷婷色| 91综合色| 天天性射网| 九九av| 亚洲男人天堂2| 欧美极度丰满熟妇hd| 欧成人精品一区二区三区| 99热99re超碰精品| 久久‘黄片视频| 9热9热综合网| av资源在线观看少妇| 中文字幕熟女人妻丝袜| 美日韩一二三区| 99热亚洲| 91少妇通奸网站| 97天天| 大香蕉在线视频重口味毛片在线| 亚洲天堂自拍| 91碰碰| 日本操逼视频在线| 刺激性视频黄页| 操逼天美3区| 久九9精品| 99色婷婷| 久久怡红院| 五月婷婷激情综合| 99免费在线视频| www色日本| 性爱视频啪啪啪啪| 熟妇综合一区二区三区| 热久久国产| 碰碰97| 96精品久久久| 91老熟妇| 噜噜噜在线视频| 国产精品久久久久久久AV大片| 国产色产精品在线观看| 嗯嗯不要视频| 日本视频在线观看污污污| 怡红院亚洲怡春院av| 一本大道久| 亚洲无 码A片在线观看麻豆| 久肏视频字幕| 日本一级特级毛片视频| 26uuu性物| 91小视频| 久9久9精品| 九九精品网| 色吧5亚洲| 一类无码操逼视频| 射丝袜高跟鞋99| 精品999日本| 精品无码产区一区二| 床戏久久久av一区二区麻豆| 色色色色日本| 亚洲情色电影网| 91色综| 精品乱码久久久久| 亚洲天堂男人网| 大香蕉一区二区在线观看.| 亚洲人妻在线一区| 69视频福利导航| 性91| 国产在线综合福利网站| 性色av婷婷久久一区二区点复制| 五十路熟女工口 | 五月天玖玖资源站| 伊人aaa| 亚洲中文字幕噜噜噜久久久| 婷婷伊人一区| 91综合中文字幕| 美女黄色一级A视频| 久久r精品| 欧洲在线性爱视频| 国产欧美伊人| 亚洲av噜噜噜噜噜噜| 超碰人妻久久| 97操97色| 精品女同一区| 六月丁丁香| 丰满人妻一区| 久久久精品一区二区| 人妻丰满熟妇一区二区三| 亚洲男人的天堂网| 日韩精品高清资源在线| 麻豆AV短剧| 亚洲色综合| 欧美精品日韩久久久九| 亚洲美女黄色| 蜜臀99999| 91天天爱| 天美麻花大全视频| 91社区伊人| 欧美在线伊人色| 91中出视频| 国产成人网站在线观看| 亚洲中文字幕在现观看| 久久伊人在线五区| 久久草大香蕉| 久久精品三级影视| 亚洲国产另类在线中文| 嫩草 人人网精品| 中文字幕在线播放2中文字幕在线观看2| 日日AAvv| 东京热熟女亚洲视频网站| 欧美大香蕉专区网| 国产操伦| 亚洲无码一二三区| 亚洲 无码 偷拍| 国产60页| 日逼97| 欧美亚洲天堂| 亚洲双插| …中文字幕亚洲乱,97人妻无码费视… | 啊啊啊啊免费视频| 超碰在线人妻不卡| 乱理日韩中文| 9九九九九视频在线观看| 在线一道啪| 国产精品探花色| 国产高清午夜成人在线观看| 欧美啪啪色吧在线| 人人澡人人干| 天天看天天日天天操| 色综合天天爱去电影网| 亚洲图片欧美色| 欧美精品丝袜久久久中文字幕| 啪啪啪大香蕉| www老逼91| 又黑又大又粗 | 国产suv精品一区| 日韩偷拍色图| 久久久无码视频| 欧美亚洲日韩16色| 国产精品乱码久久久久久久久久久久| 搞中出视频在线观看| 1二区9| 伊人伊人LD| 清纯唯美亚洲| 日韩操人| 人妻内射一区二区在线视频| 蘋果手機免費看成人Av| 91搡老女人老妇女老熟女歌词翻译| 久久东京伊人一本到鬼色| 久久五月天婷婷| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 被体育老师抱着c到高潮| 欧美 亚洲 偷拍自拍| 日本人体九九九九九九| 亚洲小说视频| 999在线电影香蕉| 丰满人妻一区| 天天视频黄网站| 美女人妻色网站| 传媒在线观看一区二区三区| 久操网无码在线| www.夜夜操| 中文字幕欧洲有码| 国色天香av| 亚洲精品乱码久久久久久蜜桃麻豆 | 欧美日韩精品国产91| 我想要 啊 啊 啊| 亚洲超碰在线| 91丨人妻丨国产丨丝袜| 香蕉99秘 精品一区丁香| 久久超碰97| 激情自拍 校园春色| 91九九九馒头| 国产亚洲色婷婷久久99精品91 - 百度 | 免费一级欧美片片线观看| 啊啊啊啊二区好大| 9久热| 裸体1区| 激情抓乳插进去啪啪啪日韩| 人伦四五区| 99亚亚热| av绯色| 91插B网站| 猛交交| 操国产逼| 人妻精品一区二区| 精彩久久中文| 亚洲……91| 在线观看AV片| 男人的天堂VA| 中日无幕一二三四区| 日本性爱欧美性爱| 超碰97人妻免费在线| 欧美高潮| 超碰久久网| 大香蕉AV丝袜| 粉嫩国产精品久久粉嫩| 青草视频在线看看看看看看看看看| 男女无套 免费网站| 亚洲天天影视色综合| 免费观看有码高清视频| 人妻少妇一区二区| 激情自拍 校园春色| 岛国免费视频在线| 日本乱人伦片中文三区| 69少妇一区二区| 无码一区免费在线不卡| 国语精品对白| 易易A毛视频| 国模91| 激情文学 亚洲图片| 小草三级久久观看| julia ann久久| 亚州再线| 91日产欧美| A男人的天堂| 欧美色图 人妻| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 97精品国产| 欧美最婬乱婬爆婬性视频 | 亚热日本熟女| 综合亚州欧美| 偷拍精品一区二区三区| 神马久久久久久久| 台湾一区国产高清在线| 18禁免费视频| 狠狠干婷婷| 视频黄色国产一级| 人人射人人操人人摸| 国产精品不卡一区二区三区av| 欧美乱伦专区| 丰满高潮18xxxx| 8050无码八戒| 亚洲人在线| 天天热精品| 色哟哟av网址| 亚洲一区二区av| 国产91 丝袜在线播放00-百度| 亚洲成人性爱网站在线播放| 91视频国品一二三区| 国产精品经典一卡久久久 | 欧美色图91p| 四虎精品一区| 狠狠操官网| 另类视频在线| 亚洲国产精品久久久男人的天堂| 午夜成人爽爽爽爽A片李冰冰| 国产一区二区三区导航| 东北女人| 狠狠色综合网| 特级大荫道BBwBBwBBW| 欧美综合 站| 91美女视频| 熟女人妻一区二区三区| 欧美在线伊人色| 人人妻人人澡人人爽久久av| 亚洲欧美一区二区三区在钱蜜桃| 欧美亚洲特P| 91香蕉视频在线观看免费| 亚洲中文字幕97久久精品少妇| 大但人体久久久久| 激情综合二| 久湿久久| 国产精品色色| 国产精品点击进入在线影院高清| 日韩紧密久久| 在线中文字幕| 日本好吊色视频| 精品国产91av一区二区三区| 久久一二三四不卡| 久久婷婷热| 久九色| 一个人在线看的黄色电影网站| 久久爽爽精品| 欧美熟女激情| 中文字幕日韩人妻视频一区二区三区 | 日韩无码AB| 国产精品露脸在线观看| 精品美女人人干| 骚逼高潮久久精品| 午夜无遮挡男女啪啪视频| 熟妇视频一区二区三区在线观看| av无线看| 欧美激情1区| 中文字暮97| 日韩欧美tv一区二区在线观看| 青青草字幕AV| 快点操死我| 中文字幕精品资源在线| 亚洲国产一级黄色视频| 一级毛片电影免费看| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 91人妻尻屄视频| 久操免费电影| 欧美综合传媒| 欧美情色贴图| 九九九九88| 尤物网址| 精品国产人成在线| 隔壁邻居波多野结衣中文字幕| 国产天天噜一噜久久久| 久久精品视频久久久| 成年女人18级毛片毛片免费观看| 日韩操啪| av三级电影在线播放| 亚洲综合春色| 精品美女人人干| 精产国品一区二三产品| 91精品国产91久久久久久久久久久久| 啊啊啊啊视频免费| 色播丁香| 91中文在线| 亚洲色欲天天人妻无码系列专区| 日韩性爱毛片操骚逼| 亚洲视频中文一区| 国产黄色影片在线观看| 狠狠操夜夜| 99国产精品视频尤物| 日本国产欧美一区三区二区 | 超碰人人乐97| 女人一区| 国产剧情AV不卡在线观看| 在线播放免费av福利片| 精品人妻一区二区视频| 日韩女模中文造逼| 久久侵犯人妻爽爽爽| 国产精品电影| 色娱乐色呦呦夜夜夜夜av| 制服丝袜第二页| 天天综合~91| 国产精选视频| 操操操五月天婷婷丁香影院| α√在线| av在线浏览| 久久久久久免费电影| 岛国不卡超碰护士AV在线播放| 欧美伊人电影| 口爆吞精在线观看| 无码99| 国产偷人妻精品一区二区在线| 噜噜噜噜天天狠狠| 日日日日做夜夜夜夜无码| 无码人妻丰满热妇又大又粗| 色999人与兽| 国产suv精品一区| 久久riav中文精品| 色噜噜国产在线| 97欧美色| 欧美大香蕉同搞| 开心五月天激情网| 日韩成人人妻网站| 综合一区中亚洲国产成人综合精品| 大香网伊人久久综合网eew| 91亚洲欧美激情| 成人性爱视频在线看| 色性欧美| 老司机福利社视频在线观看| 国产网红精品| 日韩欧美中文字| 91成人精品在线播放| 亚洲大胆人体av| 秋霞操逼片| 欧美制服另类丝袜| 天天激情综合站| 日韩国产欧美伦理在线| 五十路熟女工口| 欧美激情视频一区二区| 人妻夜夜爽天天爽麻豆三区网站 | 一区二区三区欧美激情| 97国产精品久久久久| 国产女人91精品嗷嗷嗷嗷| 三级片大波波| www..com操老师| 天天综合,91入口| 91精品综合久久久久久五月丁香| 啊啊啊啊好爽好舒服一区二区易域| 日韩免费看黄片| 在线中文字幕视频| 色99色| 强奸乱伦AV一天堂网| 精品久久久久瑟瑟| 国产一区二区三区久久久精品| 美女毛片999| 一区在线观看中文字幕| 国产日韩精品无码去免费专区国产| 91草草草| 国产天天骚| 日本视频在线观看污污污| 高清孕妇孕交 交孕妇| 亚洲欧美天堂在线| 亚洲欧美精品一区天堂久久 | 国产女人与拘做受视频免费| 本道综合精品| 99久久久| 久久久久幕乱码| 欧美亚洲高清不卡| 香蕉一区二区三区在线视频| 91九色首页| wwwxxx日本爽| 性天堂| 欧美色色人| 四虎884a| 国产精品丝袜久久亚洲不卡| 中文字幕一区二区三区蜜臀| 防屏蔽在线视频| 91精品人妻一区二区三区蜜桃臀| 国产综合色精品在线观看| 欧美亚洲手机在线| 92久久| 亚洲色交| 96精品久久久久久久久| 国产精品欧美在线观看| 中文精品一区二去| 中国一级操逼视频| 91视频在线观看18| 91情色在线| 密臀国产在线| 精品对白久久不卡| 欧美精品91| 91殴美大片| 中文字幕日韩精品一区二区三区| 99精品在线观看| 女优视频第10页| 蜜奶av| 美女91在线观看| 久肏视频字幕| 亚洲精品久久久久毛片A片拉屎| 国产真实子伦对白| 26uuu国产日韩综合在线观看| 99久久e免费热视| 9久超碰| 97超碰天天爱天天爱| 蜜桃精品视频一区二区三区| 91在线视频国产网站| 人人操人人摸人人看人人干| 丁香五月色情| 风骚少妇视频中文字幕| 欧美一区二区三区不卡高清视频| 性久久久| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 色五月AV| 日韩av在线播放不卡| 97色插| 精品国产乱码久久久影院| 夜夜草天天| 91亚洲人电影| 久草午夜| 97色在线| 欧美性暴力| 色噜噜综合在线| a啊啊啊啊啊啊啊啊一区二区| 国产乱伦搜索结果91P| 99热啪啪| 亚洲图片91| 亚洲自拍青操视频| 国产91美女视频| 欧美亚洲特P| 老女人综合网| 丁香九月激情啪| 九九九久千久久激情蜜桃在线看 | 亚洲色图A| 无码高清操逼网址| 色欲天天综合网| 欧美日韩夜夜| 熟妇无码视频三区| 欧美一级黄色免费专区| 久久久国产av美女私房| 欧美日韩色图片| 好湿好紧视频| 亚洲va有码在线天堂| 亚洲有码 视频一区| 青青草久久在线| 日日超碰亚洲| 极品色社| 五十路熟女人妻一区二区在线观看 | 青青草在线成人视频| 久热精品在线| 18禁超污无遮挡无码免费网| 大香蕉之青青草原| 久久riav中文精品| 东京热毛片177b2viP| 精品国产人成在线| 91艹| 亚洲成人综合在线| 五月情色天| 一本久道久久综合狠狠爱| 久久久专区| 成人av影院在线观看| 亚洲永久AV无码精品秋霞| 日本爽爽爽爽爽爽免费视频| 久久久啊啊| 黄色无码高清黄色无码网站| 96AV精品| 变态乱伦伪娘灌肠一区二区| 久草草一二三四区久久| 强奸乱伦日韩AV| 中文字幕免费看| 伊人色综合网| 亚洲日韩天堂| 成熟熟女国产精品一区二区| 日韩无码黄色片| 日韩精品人妻中文字幕不卡乱码| 五月婷婷色色| 香港澳门日本三级网站| 日韩中文字幕av在线播放| 国产A v无码专区| 色爱亚洲| 欧洲与亚洲欧美精品中文字幕| 日本操逼视频不卡直接放| 久久久免费懂色| 亚洲综合成人网| 92性色国产午夜福利在线661| 91 国产丝袜在线播放-百度| 日本人体九九九九九九| 丰满岳乱妇一区二区三区| 大香蕉手机在线| 污到发麻的视频 国产| 亚洲国产成人精品无码专区| 亚洲国产精品无码AV久久| 97丝袜亚洲在线播放| 亚洲婷婷五月天| ji熟女.com| 鸥美中出| 亚洲性天堂| 男人的天堂日韩| 欧美午夜色妇色鬼| 欧美黑人猛交春色影视大全| 欧美十八禁在线看| 乱伦a片视频| www.91视频网| 国产精品夜夜| 日韩欧美女求操每天更新| 蜜桃狠狠色伊人亚洲综合 | 国产久久久久影院老熟女| 久久9精品视频| wwe 天天干.com| 懂色AV蜜臀无码精品APP| 在线综合 亚洲 欧美中文字幕| 久久男人的天堂| 亚欧美色| 中文字幕蜜乳av| 淫淫综合网| 精品久久久久久中文字幕视频免费 | 色999亚洲人成色| 九九热在线精品视频| 综合色啪| 中文字幕老熟妇黄色视频| 综合色图亚洲欧美| 亚洲美欧999| 久久久久无码一妻区| 久久人人爽av亚洲精品天堂桃色 | 久久久久9久久久久| 人妻精品综合中文字幕在线| 91丝袜在线观看视频在线观看| 精品超碰中文在线| 久久久熟妇熟女国产| 中文字幕一区二区三区蜜桃视频| 香蕉大久久久| 亚洲图片激情小说| 日韩国产乱子伦App| 婷婷五月成人| 又摸又舔在线观看网站| 91中文字幕在线观看| 亚洲视频精选| 免费啪啪av| 狠狠综合| 精品视频久久区| 99在线精品视频| 精品亚洲一区在线观看| 亚洲操逼无码| 久久天天躁日日躁狠狠躁| 欧美成人国产精品| 三级精品三级在线观看| 激情综合色| 欧美91网站| 中文字幕第9页萱萱影音先锋| 无码人妻丰满热妇又大又粗| 青青草国产亚洲精品久久| 欧美色图另类图片| 免费看A片毛毛片在线播| 99色在线视频| 91成人精品| 国产野战露脸在线播放| 欧美嗯啊……在线观看视频免费| 成人色女网| 丝袜 中出 制服 人妻 美腿 中文字幕| 国产亚洲欧美每日在线| 精品国产乱码久久久久A| 加勒比海人人操超碰在线| 国产麻豆福利av在线播放| 麻豆国产原创AV色哟哟| 蜜桃久久一区二区| 久久色情| 久久久久久九九九九九 | 亚洲综合射| 国产成人自拍视频视频| 久久夜精品一区二区三区| 中文人妻av高清一区| 丝袜狠狠草尤物人妻av91| 久操电影网| 少妇超碰在线| 亚洲天天综合| 美女AV一区二区| 涩涩涩综合| 欧美日韩国产人人| 青青伊人这里只有精品| 91色欧美| 美女大乳久久久久久久女人18| 欧美精品精品一区二区| 人妻天天爽夜夜爽精品2| 国产中文大片资源中文字幕| 台湾佬中文娱乐网久久久久久久久久com| 国产精品无码av嫩草| 久久视频,这里只有精品| 婷婷久久大香蕉| 久无码| 好属操| 丰满搜索结果 -第18页- 久久高清无码| 激情五月天中文字幕色| 97国产精品视频| 国产精品激情久久久久久久| 男女香蕉一区二区| 五月丁香成人网| 国产日韩色综合| 亚洲高清91| 精品免费国产二区三区| 九月婷婷综合| 日本精品无码三级网站| 精品久| 狠操91,com| 91美女在线精品视频| 91快色色色色色| 男人的天堂va| 欧美第五页| 淫骚熟女一区二区三区| 情侣开房子拍 日韩无码 女的很漂亮| 艹精品| 99热在线播放| 97操b| 怡红院亚洲怡春院av| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 色九月婷婷| 探花激情视频| 国产福利影视| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 国产69精品久久久久99尤物| A 天堂| 天天看片青娱乐| 老鸭窝成人免费毛片视频| 99热日| 国产日产欧产美韩系列麻豆免费| AV在线资源| 夜夜狠狠躁日日躁色视频| 日韩色女精品| 少妇人妻无码| 九九av| 亚洲亚洲亚洲天堂天堂| 天美传媒在线一区| 99国产精品久久久在线播放| 亚洲欧洲色情高清| 欧美一品道| 激情文学亚洲| 午夜在线播放| 熟妇xxxxx性春色| 日韩国产在线观看av| 激情接吻视频久久久久久| 日韩精品1区2区中文字幕| 女生91网站| 久久这里只精品免费福利| 亚洲欧洲日本精品中文a∨| 中文字幕精品免费一区二区| 岛国片在线播放| 男女猛烈无遮掩视频免费软件| 1级午夜影院费免区| 熟女色综合久久| 日韩欧美视频青青| 色盈盈影院| 日本熟妇色熟妇在线视频播放| 欧美日韩亚洲电影| 亚洲综合色图欧美| 18禁看网站一区| 影音先锋中文字幕日本好一区二区| 99色视频| 三级片网站在线播放| 伊人97色天使| 国产一区二区精品在线视频| 夜夜躁狠狠躁日日躁av| jk白丝没脱就开始啪啪| 欧美黄片视频在线观看免费| 欧美三级免费伊人| 伊人在线大香蕉视频久久| 青娱乐黄色录像| 欧美日产国产在线成人第一区| 亚洲欧美一区二区三区在钱蜜桃| 久久久18禁| 91在线免费精品视频| 亚洲高清在线| 中亚黄色三级大片| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 在线岛| 亚洲 91 在线| 亚洲怡春院| 啪啪啪精品| 欧美碰碰综合色| 久久精品国产72国产精品福利| 亚洲成人一二三区| 国产精品国产精品国产| 欧美亚洲综合色| 日日夜夜骑| 亚洲第一在线视频| 高潮9999外国| 色婷婷视频| 青娱乐91| 97精品国产97久久久久久免费| 青青草一区二区高清无码视频| 久久99网站| JuliaAnnXXX888| 色婷婷六月| 久久高潮妇女视频| 欧美男女午夜啪啪| 激情小说图片亚洲首页| 大香蕉 222| 女性喷水高潮在线观看| 国产精品视频播放| 郑州宾馆老熟女露脸啪啪| 国产热av| 99超碰色| 久久精视频美日韩在线视频| 素人伊尹大香蕉免费下载视频| 久热无码| 午夜福利国产欧美日韩夜夜| 99只有精品| 中文字幕123| 91在线免费精品视频| 一级@啪啪视频| 国产后入清纯| 五月天社区| 秋霞影音一区二区三区| 人人妻人人爱人人玩| av婷婷色网| 亚洲制服欧美另类内射| 无码人妻精品酒店| 99只有精品| 人妻啊啊人妻啊| 天天干天天操天天干天天操| 亚洲欧美另类激情小说| 97超碰国产亚洲精品| 久久秀这里有精品| 色嗨嗨在线| 亚洲日韩人妻中文字幕一区| 午夜经典| 亚洲有码视频二区| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 立川理惠被中出无码| 男人的天堂1024| 91久久久久久久| 97色欧州| 欧美色偷拍 | 91综合色噜噜| 久久超碰97| 后入精品| 美女黄站| 国产无码成人无码| 夜夜爽夜夜操| 四虎884| 青青草中文-久久青草精品一区二区三| 成人av福利在线观看| 97操综合| 91亚洲图片| 久久久9品一区二区三区| 熟女人妻久久中文字幕一二区| 天天综合网国产| 日本三级大片| 一块操欧美| 久久9精品视频| 中文字日本乱码| wwe 天天干.com| 国产亚洲欧洲在线观看| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 校园春色之综合网| 97中文字幕色| 成年人免费观看网站| 欧美综合亚洲| 白丝av| 亚洲成人在线高清| 一区二区三区 日韩欧美| 欧美顶级黄片AAAAA在线免费看| 日韩不卡a级视频专区| 1024人妻| 性色av一区二区| 人澡逼| 日韩啊V| av网页一区二区三区| 六六久久日韩不卡| 99热99re6国产在线播放| 91综合色| 日韩成人无码| 黄片直播三级黄片两女一男| 91粉芽高清在线一区二区| 18禁免费视频| 粉嫩久久久久| av网页一区二区三区| 性一交一乱一交A片久久四色| 日本中文字幕高跟| 偷拍亚洲| 97精品国产97久久久久久户外免费| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 97色视频在线| a啊啊啊啊啊啊啊啊一区二区| 乱性AV| 日日日日日| 日韩无码服务区| 欧美一级黄色免费专区| 一区二区偷拍拍视频| 96久久久久久久| 免費黃色視頻觀看一| 亚州色阁| 亚洲色图殴美色图激情乱伦| 久久綜合很很很| 尤物网址| 日本五十路在线| 成人一级性爱| 在线五区| 亚洲一区二区麻豆影院| 91爱剪切久久| 91色碰| 97爱爱爱| 欧美色图亚洲特色| 免费一级特黄特色大片在线观看看 | 人妻精品一区二区全免费| 在线毛片片免费观看| 区一二区日韩亚洲乱码av电影| 草草草视频在线免费看| 91美女丝袜诱惑视频| 国产精品白领在线观看| 久久久久久久久久久999| 岛国视频一二三区| 欧美在线电影| 久久仑合| 九色婷婷| 爱爱动态60秒| 粉嫩小泬久久久一区二区| JULIA一区二区三区在线播放| 大香蕉中文201| 久久久久亚洲Av无码专区老牛影视 | 国产成人精品日本视频| 亚洲精品国产熟女久久久久久| 国产成人 综合亚洲 天堂| 无码一区免费在线不卡| 亚洲av综合伊人久久| 五码视频在线观看| 骚货操死你| 亚洲天堂自拍| 超碰99在线观看| 日韩在线一区高清在线| 99久久久| 久久久草草精品| 加勒比AV网| 亚洲 日韩 欧美 国产综合体| 亚洲最新Av| 久久人妻熟女一区二区| 丝袜喷水在线| 婷婷久草| 18禁超污无遮挡无码免费网| 一中国女人毛片水真多| 五十路一区无码| 久久久免费高清中文视频| 天天爱综合网| 91色堂| 麻豆一区在线| 亚洲第一页欧美| 伊人久久亚洲中文字幕| 神马久久久久眼| 国产91美女高潮| 芊芊操逼视频无码| 1人人看人人摸人人操| 中文字幕一区二区视频在线观看| 亚洲无码日韩电影| 国产综合久| 91亚洲人| 人妻少妇久久中文字幕一区二区 麻豆 | 成人免费福利在线观看| 国产精品电影大全| 懂色中文一区二区三区| 视频一区二区三区精品| 欧美1区二区三区公司| 51久久夜色精品国产麻豆| 久久久亚洲Av| 伊人激情五月天一区二区| 人妻激情偷乱视三区频一区二区| 大香蕉综合在线| 五月天春色激情网| 情色五月天久久久| 精品一区二区三区四区外站| 色香天天| 九九精品99| 99综合| 亚洲美乱| 欧美洲精品一级| 中文久久久| 日韩中文字幕精品一区在线| 亚洲一区中文字幕一区| 麻豆天美国美国产| 天天天天做夜夜夜夜做| 91在线丝袜| 亚洲日韩精品久久久久一区壹牛| 久久男人精品| 丰满人妻一区二区三区免费,| 亚洲不卡av在线| 高清无码91| 国产大学生口爆吞精合集| 欧美日韩性爱精品| 亚洲蜜臀视频精品久久| 强奸乱伦亚洲第一页| 少妇人妻好深太紧了vr91| 亚洲精品97在线| 91日韩网站| 粉嫩绯色AV一区二区在线| 国产精品人妻无码久久久老鸭窝| 婷婷五月天小说| 97在线播放 | 国产自产一区视频在线| 激情久久久| 国产97亚洲| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 亚洲AV成人精品网站在AV| 婷婷五月天综合网| 国产精品久久久久久久久久久久久久吹| 岛国成人av在线播放网址| 超碰综合色| 国产高清成人mv在线观看| 东京热AV男人的天堂| 中文字幕狠狠玩| 超碰导航97| 婷婷99狠狠躁天天躁| 日韩一二三区| 欧美大香蕉97| 国产免a费看黄片在线| 91在线丝袜| 嗯啊不要啊在线 | 综合一区中亚洲国产成人综合精品| 欧美线天码中字| 思思热er精品视频| 97国产精品在线观看| 91超级碰| 日本操逼视频免费| 中文日韩欧美熟| 欧美日韩性爱精品| 中国91AV| 99蜜桃臀久久久欧美精品网站| 少妇滛荡视频| 国产又黄又粗的视频| 人妻少妇无码| 久久成人午夜狠狠| 精品大久久| 成人福利视频网| AA级电影三区| 97国产超碰| 人妻素股| 黄色片G G G| 国色天香av| 大香蕉一线视频| 久久 国产 无码| 欧美色图欧美| 天天性射网| 精品乱码久久久久| 9久综合网| 综合色图亚洲欧美| 婷婷久久大香蕉| 97精品熟女少妇一区| www.伪伪| 強姦亂倫a| 国产无马在线| CCYY草草影院地址入口| 操东北女人| 91色交| 欧洲特黄毛片免费看欧洲毛片| 淫纸中9区| 国内一级精品| 校园春色AV天堂| 青青草原香蕉日本Ap| 超碰导航97| 日韩精品人妻中文字幕不卡乱码| 天天爽入口| 大香蕉一人| 欧美热图99| 色哟哟 日韩精品| 激情熟女12P| 久久97超碰| 久久久亚洲高清不打码| 国产一区在线观看无码AV| 秋霞免费AV| 成人精品在线| 天美国产精品| 日韩欧美资源| 色淫网站优优视频| 影音先锋日本一区二区| 亚洲无码?第一页| 精品毛片久久久精品毛片| 蜜臀av在线播放一区二区三区| 麻豆天美电影一区二区| 一区二区三区四区姦女| 人人妻人人色一区二区三区| 欧美宗合网| WWW啪啪的com| 内射老妇BBWX0C0CK| 日日爱99| 91精品无码人妻系列| 91亚·色| 久久久久深夜无码| 激情五月天中文字幕色| 天天视频黄网站| 91在线视频免费中出| 粉嫩av一区二区三区四季| 日本孕妇一区二区视频操逼免费看 | 午夜福利无毒不卡| 日韩人妻资源在线看| 天天欧美| 一区二区三区成人高清视频| 超碰无码加勒比| 操操操操操操| 人人操我人人干| 99热精品在线| 福利大香蕉| 在线毛片片免费观看| 日夜啪电影| 91精品国| 日本亚洲熟女视频| 大香蕉92| 人人操人人大香蕉| 99精品久久久久久| 18禁超污无遮挡无码免费网| 欧美色色人| 国产一级操B视频| 婷婷五月天色网| 人人操,人人液| 日本A级视频| 青青在线视频日韩欧美| 国产欧美日韩女同性恋ww喷水精品| 久久久久女教师免费一区| 激情综合五月天| 99久久久无码国产精品性啊聊| 天天插天天舔舔天天干| 可免费观看的av毛片中日美韩| 日本美女性生活久久久久久久| 久久久久久久9| 欧美亚洲第1页| 成人网站 免费观看| 一本一道久久综合久久| 九九玖玖精品| 日韩欧美成人午夜福利| 91中出在线| 超碰 97国产熟女| 人妻一区二区三区视频| 欧美日韩亚洲少妇寂寞影院正在播放 | 免费精品福利在线观看| 一本久久久精品| 超碰美女97| 日韩精品国模| 亚洲欧美激情在线视频| 国产资源中文字幕在线| 日韩av情韩国爱禁区av一区二区| 五月色综合| 成年人网站在线免费观看| 日韩欧美资源| 五月天色图影视| 日比av无码| 啊啊啊啊好疼视频| 800zy一区二区| 九九热精品| 色网在线视频观看免费| 久久激情婷婷| 校园春色美腿丝袜| 综合情欲网| 中文字幕十五区| 青青草在线视频人人想人人上 | 青青青艹在线视频| 91美腿丝袜在线观看| 91精品黄在线观看| 综合久久六月久久婷婷| 日韩操逼HD| 国产极品美女高潮无套在线观看| 欧美呦呦性爱| 久久久久久亚洲Av无码精| 无码不卡亚洲成?人片| 色97欧美| 夜夜高潮夜夜爽夜夜爱爱一区| 2019男人的天堂| 97免费在线观看| 中文字幕丝袜| 啊啊啊在线观看| 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 亚洲欧美另类小说| 熟女熟妇伦久久影院毛片一区二区 | 激激五月| 青青草精品| 激情视频一二三| 欧美91网| 欧美在线天堂| 在线人成亚洲视频免费观看| 久草精品在线| 豆花视频操逼网址| 91大神精品长腿在线观看网站| 午夜a成v人电影|