亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

MySQL中間件Atlas實踐:讀寫分離、分表與踩坑全指南

MySQL中間件Atlas實踐:讀寫分離、分表與踩坑全指南 剛開始看到“atlas”這個名字我腦子里瞬間閃過好幾個東西希臘神話里扛天的泰坦神地圖冊的英文名波士頓動力的雙足機器人Facebook的廣告系統(tǒng)……但如果你是個干后端、搞數據庫的大概率第一反應是那個曾經在國內互聯(lián)網圈子里很火的MySQL中間件。沒錯這篇文章的主角就是它——奇虎360開源的數據庫中間件Atlas。這個項目源代碼托管在GitHub上奇虎360在2013年左右開源出來定位是MySQL代理層。它的核心價值說白了就是兩個讀寫分離和分表。你可以把它理解成數據庫門口的智能分流閘機——讀請求往從庫去寫請求往主庫去還能把一張千萬級的大表按規(guī)則拆成多張小表分攤存儲和查詢壓力。在那個MySQL官方還沒出什么像樣的中間件方案、MyCat還沒聲量那么大的年代Atlas確實算是很多團隊的首選。這篇東西我不打算寫成一份照抄官方README的說明書而是從實際落地角度出發(fā)把部署、配置、原理、踩坑一條線捋清楚。如果你正在用或者準備選型Atlas這篇文章能幫你少走不少彎路。文章里所有的操作步驟和配置示例都基于CentOS 7 MySQL 5.7的環(huán)境版本差異比較大的地方我會單獨標出來。1. 為什么選擇Atlas一個老牌中間件的價值與邊界先說清楚一個觀點Atlas不是萬能的它解決的問題非常聚焦。但正因為聚焦它在自己的領域里做得相當純粹。很多時候我們選型失敗不是因為工具不好而是因為期望值放錯了位置。1.1 解決了什么問題在MySQL主從架構里一臺主庫負責寫若干臺從庫負責讀。如果沒有中間層你的業(yè)務代碼就得自己感知哪臺是主、哪臺是從。比如你要寫數據就得連主庫要讀數據就得連從庫一旦主從切換所有連接配置都要跟著改。這在小團隊、小業(yè)務量時還能湊合一旦服務多了維護成本就上來了。Atlas就是為了解決這個痛點出現的。業(yè)務方只需要連接Atlas完全不用理會背后有幾臺MySQL、哪臺是什么角色。你發(fā)給Atlas一條SQL它會自己判斷這條語句該發(fā)到主庫還是從庫然后把結果返回給你。這相當于把“數據庫拓撲感知”這件事從業(yè)務端下沉到代理層業(yè)務代碼瞬間變得干凈了。另外一個殺招是分表。單表數據量超過千萬甚至億級的時候索引再優(yōu)化也扛不住寫入和查詢的延遲。Atlas支持按某個字段的哈希值取模把一張邏輯大表拆分成物理上的多張小表。業(yè)務還是按原表名去查Atlas在中間做映射和路由。這確實是解決大表問題的有效手段后文我會詳細講它的局限在哪。1.2 哪些場景不適合用AtlasAtlas是基于MySQL協(xié)議的代理它天然有一些限制。比如對事務的支持就不夠完美——開啟事務后事務里的語句默認還是走讀寫分離規(guī)則如果你的事務內是先寫后讀就可能出現讀到舊數據的情況。另一個是跨庫跨表的JOIN和子查詢性能會很差因為Atlas需要把數據從多個后端節(jié)點撈回來再做關聯(lián)。所以這個方案更適合OLTP場景下的簡單查詢復雜分析類SQL建議直接上專門的OLAP方案或數倉別在Atlas這里硬扛。我還見過有人拿Atlas做分庫分表之外的“高可用”兜底這個用法其實有點錯位。Atlas本身不是集群方案它自身就是單點。真要防Atlas這臺機器掛掉得靠Keepalived做VIP浮動或者前置一層負載均衡比如HAProxy來做故障轉移否則它一掛整個數據庫入口就癱了。1.3 與其他老牌/同期方案對比下面這個表格是我在選型時候做的對比當時備選的幾個方案都列出來了便于你有個直觀印象方案讀寫分離分表分庫管理界面協(xié)議兼容性活躍度Atlas支持支持單鍵哈希不支持管理端口命令高基于MySQL原生協(xié)議維護狀態(tài)社區(qū)活躍度一般MyCat支持支持支持有Web管理高支持多協(xié)議社區(qū)比Atlas活躍但配置復雜ShardingSphere-JDBC支持支持支持無中間件層嵌入應用極高應用內集成很活躍云原生友好MySQL官方Router支持不支持不支持有API高官方維護但功能少看這張表你就明白了Atlas對比同期方案最大的優(yōu)勢是輕量、部署簡單、MySQL協(xié)議兼容性好。業(yè)務幾乎不用改代碼接上就能跑。對比現在的ShardingSphere-JDBC這種應用內集成方案Atlas的劣勢是功能不夠全、擴展性偏弱但它作為獨立代理層對業(yè)務代碼的侵入性為零運維維護上也更直觀。這兩種路線各有各的適用場景沒有絕對的好與壞。2. 核心架構拆解讀寫分離和分表在Atlas內部是怎么跑起來的知其然更要知其所以然。我把Atlas內部幾個關鍵機制捋了一遍這塊搞清楚了后面配置和排錯會輕松很多。2.1 連接管理前端連接與后端連接池Atlas本質上是一個代理但它不是簡單的轉發(fā)。它內部維護了兩類連接一類是業(yè)務程序連接到Atlas的連接叫前端連接另一類是Atlas連接到后端MySQL數據庫的連接叫后端連接。這里有一個很關鍵的機制后端連接是池化的。前端來一個連接Atlas不會立刻向后端建立一個對應的MySQL連接而是從空閑連接池里取一個分配給前端。用完歸還。這樣做的好處是避免每個業(yè)務請求都要進行一次完整的MySQL握手認證大幅降低后端數據庫的連接建立開銷。類比一下就像你去銀行辦事大堂經理Atlas不會每次都在柜臺新開一個窗口MySQL連接給你而是把你引導到已有的空閑窗口。窗口數量是有限的業(yè)務量再大后端數據庫的連接數也能被控制在合理區(qū)間。我在生產環(huán)境里就遇到過因為連接管理不當導致MySQL連接數被打滿的故障Atlas這個機制幫了大忙。2.2 讀寫分離的判斷邏輯MySQL協(xié)議層玩兒的正則匹配Atlas怎么判斷一條SQL是讀還是寫呢如果你以為它解析了SQL語法那就太小看它了。它的判斷邏輯非常簡單直接對SQL語句進行正則匹配。如果一個語句以SELECT開頭去掉注釋、空白符后并且不是SELECT ... FOR UPDATE這種帶鎖的查詢Atlas就把它歸為讀請求其余的全部歸為寫請求。包括INSERT、UPDATE、DELETE、CREATE、ALTER、DROP等凡是修改數據或結構的一律走主庫。這里注意兩個容易被忽略的點一是“SELECT ... FOR UPDATE”會被識別為寫請求這是合理的因為FOR UPDATE加的是行級排他鎖必須走主庫二是一些看似讀實則寫的情況比如自定義函數里執(zhí)行了更新外部套了SELECT。這類SQL會被判斷成讀請求而路由到從庫一旦從庫是只讀復制狀態(tài)就會報錯。這種邊角情況在業(yè)務里確實會遇到后面踩坑部分我會專門說。2.3 分表實現哈希取模的規(guī)則世界Atlas的另一個標志性功能是分表。它支持的是一種哈希取模的分片策略指定分表鍵shard key和分表數量N然后計算分表鍵的哈希值跟N取模得到的結果就對應物理分表的表后綴。舉個例子訂單流水表叫T_ORDER分表鍵是ORDER_ID分表數量是16。那哈希值對16取模的結果就是表后綴實際物理表就是T_ORDER_0、T_ORDER_1、T_ORDER_2……一直到T_ORDER_15。業(yè)務插入一條數據時Atlas根據ORDER_ID算出該去哪個分表然后把SQL改寫后路由到對應分表。但這里有個極大的坑如果你的分表規(guī)則設計不合理查詢時沒有帶分表鍵那Atlas就只能對所有分表做全表掃描把每條分表的結果全部合并返回。這在數據量小的時候問題不明顯等數據量大了一次查詢可能要打幾十張表性能直接崩掉。所以分表鍵的選擇和查詢習慣的設計是分表方案能否跑得好的核心前提比中間件本身還重要。2.4 主庫故障下的主從切換一個需要你提前準備的動作Atlas自身不具備數據庫高可用切換能力。也就是說它只是知道哪臺是主庫、哪臺是從庫如果主庫掛了它不會自動把從庫提升為主庫并修改自己的配置。這需要借助外部工具做故障轉移比如MHAMaster High Availability或者自研腳本去觸發(fā)MySQL主從切換然后把Atlas.conf里的Master和Slave配置改掉再重啟Atlas。我看到很多初次使用Atlas的團隊都會忽略這個問題默認以為Atlas會自己搞定結果主庫一掛整個服務直接癱瘓。所以務必在前期架構設計時就把主從切換的流程想清楚并且做好演練。后面我會專門有一節(jié)講這個踩坑。3. 部署實操從源碼編譯到生產環(huán)境上線Atlas的安裝方式主要有兩種官方提供了編譯好的二進制包至少有CentOS和Ubuntu版本另一個是自己從源碼編譯。我強烈建議一般團隊直接使用官方二進制包省時省力只有需要定制化內核或改代碼的團隊才需要走編譯這條路。3.1 環(huán)境準備與依賴檢查操作系統(tǒng)層面我用的CentOS 7 x86_64。依賴方面Atlas需要依賴libevent、glib2、mysql-devel這些基礎庫。如果你下載的二進制包在啟動時報缺少動態(tài)庫的錯誤通常就是這些依賴沒裝齊。yum install -y libevent libevent-devel glib2 glib2-devel mysql-devel ncurses-devel建一個專用的系統(tǒng)用戶來跑Atlas不推薦直接用root這是個基本的安全習慣。useradd -M -s /sbin/nologin atlas mkdir -p /usr/local/mysql-proxy chown -R atlas:atlas /usr/local/mysql-proxy3.2 安裝與目錄規(guī)劃把二進制包解壓到/usr/local/mysql-proxy目錄后里面會有bin和conf兩個目錄。bin里是一個叫mysql-proxy的可執(zhí)行文件Atlas的運行就是靠它。注意雖然它繼承了mysql-proxy的名字但奇虎360在原版基礎上做了大規(guī)模改造和MySQL官方的mysql-proxy已經完全不是同一個東西了。Atlas啟動之后主要監(jiān)聽兩個端口一個默認是1234這是業(yè)務流量入口就是給應用連的另一個是2345這是管理端口運維人員和腳本通過這個端口執(zhí)行管理命令。配置文件放在conf目錄下一般叫Atlas.conf。還有個重要的文件是分表規(guī)則文件默認叫shard.conf或者加在Atlas.conf尾部各版本命名有差異按實際來。我習慣這樣規(guī)劃目錄conf/Atlas.conf —— 主配置文件conf/sharding.conf或Atlas.conf中的分表段 —— 分表規(guī)則logs/ —— 日志目錄包括sql.log和error.logbin/mysql-proxy —— 可執(zhí)行程序3.3 配置文件的詳細解析下面是一份我在生產環(huán)境中用的Atlas.conf模板去掉了敏感信息每個關鍵項都注釋了含義[mysql-proxy] # 是否以后臺守護進程方式運行 daemon true # 管理端口綁定的地址和端口 admin-address 0.0.0.0:2345 # 業(yè)務流量入口綁定的地址和端口 proxy-address 0.0.0.0:1234 # 管理接口的用戶名和密碼用于連接管理端口 admin-username admin admin-password admin_pwd # 后端主從MySQL配置 # 主庫可寫 proxy-backend-addresses 10.0.0.2:3306 # 從庫可讀多個從庫用逗號分隔 proxy-read-only-backend-addresses 10.0.0.3:3306,10.0.0.4:3306 # 連接Atlas自身的認證用戶 pwds root:xxxxxx # 分表規(guī)則所在的文件 shard-file /usr/local/mysql-proxy/conf/shard.conf # 日志級別debug級別會輸出每條SQL生產建議用message診斷問題臨時開debug log-level message log-path /usr/local/mysql-proxy/logs # 工作線程數建議與CPU核數相同 event-threads 8 # 會話空閑超時時間單位秒 wait-timeout 60這里面有幾個容易踩坑的地方第一pwds是連接Atlas的認證用戶配置格式是“用戶名:加密后的密碼”。這里的密碼不是明文是MySQL加密后的密碼串。怎么獲取在MySQL服務器上執(zhí)行SQL來生成SELECT PASSWORD(your_password);把返回的那一串密碼填進去。千萬不要直接填明文否則Atlas會拒絕認證。這是新人使用Atlas最常見的坑。第二如果暫時不分表shard-file可以留空或不配置。但一旦配置了Atlas啟動時就會強制校驗分表規(guī)則文件的格式格式不對會啟動失敗。3.4 啟動、停止與驗證啟動很簡單/usr/local/mysql-proxy/bin/mysql-proxy --defaults-file/usr/local/mysql-proxy/conf/Atlas.conf注意Atlas默認使用/etc/mysql-proxy.cnf作為配置文件如果你把配置放在了別的路徑一定要用--defaults-file指定。而且配置文件要求權限是0600否則啟動時會報錯。這也算是一個隱蔽坑我遇到過直接復制配置文件過去忘了改權限的情況。啟動后驗證兩件事業(yè)務端口是否監(jiān)聽netstat -tlnp | grep 1234管理端口是否監(jiān)聽netstat -tlnp | grep 2345然后用管理端口連進去看后端狀態(tài)mysql -h127.0.0.1 -P2345 -uadmin -padmin_pwd執(zhí)行SELECT * FROM backends;應該能看到主庫和從庫的狀態(tài)。正常狀態(tài)下主庫的type是rw從庫type是rostatus是up。為了業(yè)務流量連通性最好再用一個有業(yè)務的賬號試連一下1234跑一條簡單的SELECT確認讀寫分離生效mysql -h127.0.0.1 -P1234 -uappuser -papppass -e SELECT 1;如果這條能通整體鏈路基本就算起來了。把Atlas注冊成systemd服務也好寫個啟動腳本扔進rc.local也好反正要保證開機自啟。4. 分表與讀寫分離配置實戰(zhàn)讓規(guī)則真正跑起來我見過很多團隊部署完Atlas測試讀寫分離正常然后就開始跑業(yè)務了。但用到分表功能時由于分表配置不正確或使用方法不對上線當天就出了線上事故。這一節(jié)我專門把分表配置的前前后后講透。4.1 分表規(guī)則文件到底怎么寫我用的shard.conf是一個Python風格的規(guī)則文件核心就是注冊一個函數函數返回分表后的表名。例如def main(): # 讀取分表鍵的值 from atlas_shard_rule import * return get_shard_table(4)稍微解釋一下邏輯Atlas的分表規(guī)則文件使用Python語法Atlas在啟動和路由SQL時會加載并執(zhí)行這個文件根據你寫的規(guī)則確定物理表名。整個配置文件里可以寫多個規(guī)則函數每個函數對應一種分表模式。函數的返回值就是實際路由到的物理表名Atlas會用它替換SQL里的邏輯表名。我自己的分表規(guī)則文件一般長這樣def rule_order(): table_name T_ORDER shard_num 16 return get_shard_table(shard_num) def rule_user(): table_name T_USER shard_num 8 return get_shard_table(shard_num)等等這個寫法其實還需要再細化。前面例子里的get_shard_table內部會拿到當前語句的分表鍵值再對分表數量取模。具體使用哪個分表鍵是在SQL語句的WHERE條件里體現的。Atlas會從句法層面解析出分表鍵的值帶入Python函數函數計算出目標分表名后Atlas再改寫SQL并路由。4.2 建分表的最佳實踐提前建好還是動態(tài)創(chuàng)建Atlas本身不負責自動創(chuàng)建分表。你必須在MySQL實例上把所有分表手動建好。假設邏輯表名是T_ORDER分16個分表你必須先在數據庫里創(chuàng)建T_ORDER_0、T_ORDER_1、一直到T_ORDER_15這16張表。每張表的表結構完全一致索引也一致。如果業(yè)務端有DDL變更也要同步到所有分表上。我強烈建議你在項目啟動腳本里或者在發(fā)布流程里寫一個遍歷建表和遍歷改表的腳本確保所有分表結構完全一致。否則后期排查數據缺失問題會痛不欲生。我自己就經歷過因為某分表少了索引個別訂單查詢奇慢無比的問題。不同MySQL實例上的分表怎么分布Atlas支持在不同后端MySQL節(jié)點上放不同的分表。比如主庫上放T_ORDER_0到T_ORDER_7從庫上放T_ORDER_8到T_ORDER_15。這種情況下路由邏輯會先根據哈希值找到分表名再根據分表名找到對應的后端節(jié)點。這個功能在生產上非常有用可以把一個大表的數據分散到不同機器上進一步降低單機壓力。4.3 分表后SQL編寫的硬性要求分表規(guī)則生效后SQL寫入和查詢時必須帶上分表鍵。我給你的最實在的建議是在項目初期的代碼規(guī)范里就明確下來所有涉及分表的表查詢、更新、刪除必須強制帶上分表鍵。例如-- 錯誤示范沒有帶分表鍵Atlas只能全分表掃描 SELECT * FROM T_ORDER WHERE ORDER_STATUS PAID; -- 正確示范帶分表鍵Atlas可以直接路由到唯一分表 SELECT * FROM T_ORDER WHERE ORDER_ID A123456789;如果確實需要在不帶分表鍵的情況下查詢雖然Atlas會廣播到所有分表再合并結果但這種操作應該被嚴格控制盡量在業(yè)務低峰期執(zhí)行或者提前在中間層緩存/搜索引擎里做條件查詢。說實話廣播查詢在分表數量少比如4張、8張且數據不是特別巨大時勉強能用到了16張以上基本就別指望了延遲會指數級上升。還有一個容易被忽略的點分表鍵不能更新。如果你把某行的分表鍵值改了它的哈希值就變了理論上的位置也跟著變但實際上數據還在老分表里查新分表就找不到了。所以一條鐵律分表鍵只支持新增和查詢不支持修改。4.4 讀寫分離加分表聯(lián)調測試配置完成之后我是這樣做的聯(lián)調驗證先在主庫上手動插入幾條測試數據分表規(guī)則比如ORDER_ID100和ORDER_ID101會路由到不同的分表插入成功后再去各分表確認數據落位正確。通過在代碼里同時發(fā)讀請求和寫請求觀察Atlas日志里SQL實際被路由到了哪個后端、哪個分表。開啟debug日志臨時觀察在Atlas.conf中把log-level改成debug重啟Atlas執(zhí)行幾條典型的CRUD查看logs/sql.log里的實際路由信息確認無誤后再把log-level改回message并重啟避免生產環(huán)境留下大量調試日志。5. 生產環(huán)境踩坑實錄這些問題網上真的搜不到現成答案在寫這篇文章之前我特意翻了翻以前運維Atlas這段時間積累的排障筆記。有些問題在當時花了很大力氣才定位現在回想起來如果早點有人寫出來真的能省很多功夫。下面這些都是我實際踩過的坑按踩坑的頻率和影響程度排個序。5.1 連接全部掛起問題出在backends狀態(tài)不一致有一次線上突然出現大面積請求超時檢查Atlas的backends發(fā)現主庫和從庫都顯示up但業(yè)務就是卡住不動。后來仔細排查發(fā)現問題出在MySQL端主庫因為一次大事務導致臨時表空間滿了所有寫請求堵塞連帶Atlas的業(yè)務線程全部卡在等待后端響應上。當時的解決辦法是先把主庫上的慢事務殺掉等主庫恢復后Atlas自然就恢復了。但這個過程我意識到一個很重要的問題Atlas沒有健康檢查機制它不會自動把掛掉的后端從輪詢列表里移出去。你的監(jiān)控系統(tǒng)必須覆蓋到Atlas這一層否則你只會看到業(yè)務超時卻不知道根源在哪。后來我加了一個定時腳本每30秒檢查一次Atlas的backends狀態(tài)只要發(fā)現某個后端狀態(tài)異?;蝽憫臅r超高立刻報警。這類腳本網上沒有現成的統(tǒng)一方案我建議就自己在服務器上寫個Python腳本連上管理端口拉狀態(tài)推送報警到釘釘或者企業(yè)微信非常管用。5.2 主從切換后Atlas還指向舊主庫這是幾乎每個用Atlas的團隊都會遇到的問題只是早晚。當主庫宕機你用MHA把從庫提升為新主庫之后必須手動修改Atlas.conf中的proxy-backend-addresses和新從庫地址然后重啟Atlas。我踩過的坑是MHA切換完成后網站還是慢得一塌糊涂。因為舊主庫恢復了但已經變成從庫還在被Atlas當成主庫接收所有寫流量新主庫只是作為只讀從庫在背后默默復制。數據看著沒丟但高可用完全失效了。后來我總結出一套相對順暢的切換流程確認MHA完成主從切換新主庫狀態(tài)正常修改Atlas.conf把舊的proxy-backend-addresses改成新主庫地址把舊主庫地址加入proxy-read-only-backend-addresses用mysql-proxy --defaults-file... --reload有些版本是HUP信號嘗試熱加載配置如果版本不支持就重啟Atlas重啟后立刻在管理端口執(zhí)行SELECT * FROM backends;確認主從角色正確讓業(yè)務側做一輪功能回歸測試確認寫入讀取都正常整個切換過程我們后來控制在分鐘級別而且專門做了演練確保操作人員不需要臨時翻文檔就能執(zhí)行。5.3 FOR UPDATE語句導致的死鎖誤判有一次業(yè)務頻繁報死鎖但數據庫自身的死鎖日志根本不顯示任何記錄。查了半天發(fā)現是業(yè)務代碼里在事務里用了SELECT ... FOR UPDATEAtlas判斷正確地將它路由到了主庫但由于同一個事務里的普通SELECT被路由到了從庫瞬間產生了兩個不同的連接一個在主庫鎖定行一個在從庫讀取快照。此時如果主庫的行一直鎖著從庫讀請求依賴的binlog位置就會一直等待業(yè)務表現為死鎖超時。這個問題的根源是Atlas的讀寫分離粒度太粗它對“事務內語句”沒有明確的黏合機制。解決思路有幾種一是把此類需要嚴格一致性的查詢都顯式加上FOR UPDATE強制走主庫二是在配置里將所有該業(yè)務的用戶設為只走主庫也就是把該用戶加進非讀寫分離名單三是修改代碼把事務內的查詢和寫庫操作合并到同一個連接上執(zhí)行。第三種方案最徹底但需要業(yè)務配合改動。我當時是讓業(yè)務把事務內的讀改成了FOR UPDATE或者干脆在事務里只做寫操作事務結束之后再做查詢。這個方案治標也治本至少業(yè)務保持一致性了。5.4 連接數被打滿Atlas自身線程和MySQL連接數的聯(lián)動關系Atlas默認的連接池行為是一個前端連接對應一個后端連接。如果業(yè)務方連接池配置得比較大比如最小連接數200最大連接數500同時有多個服務連同一個Atlas那Atlas到后端的MySQL連接數會非??鋸垺ySQL默認最大連接數是151很快就被打滿了。解決這個問題需要多端聯(lián)動調大MySQL的max_connections但要有度別把系統(tǒng)資源拖垮控制業(yè)務連接池大小不要在連接池里設置過大的空閑連接數在Atlas層面event-threads線程數不要盲目調大設成CPU核數比較合適讓Atlas和MySQL之間保持內網通信降低TCP連接建立時間我這里給出一個我經過壓測調優(yōu)后的參數組合供參考參數位置參數名推薦值說明my.cnfmax_connections1000根據最大并發(fā)和內存綜合評估m(xù)y.cnfwait_timeout60讓空閑連接盡快釋放Atlas.confevent-threadsCPU核數太高反而引入上下文切換開銷Atlas.confwait-timeout60和MySQL保持一致業(yè)務連接池maximum-pool-size50~100按服務實例數和吞吐量評估5.5 分表鍵沒走索引少了一個普通的WHERE條件引發(fā)的慘案分表鍵的選擇也很講究。前面說業(yè)務查詢必須帶上分表鍵但如果你帶的是個區(qū)分度很低的字段比如狀態(tài)字段那分表本身意義不大因為哈希結果會集中在某幾個分表上造成數據傾斜。更嚴重的是如果你在建表時沒有為分表鍵建索引那么即使路由對了分表在分表內部也會產生全表掃描。分表只是把你的大表變成多張小表但如果你不建索引每張小表依然要全掃。所以設計表結構時必須把分表鍵納入索引設計的第一優(yōu)先級。一般建議分表鍵同時是查詢高頻條件比如訂單號、用戶ID。這樣既能精準路由又能在單表內用上索引性能才真正有保障。6. 日常運維與監(jiān)控讓Atlas穩(wěn)定運行的管理手段一個中間件跑起來之后日常維護工作其實不少。Atlas本身提供的功能有限但用好管理和監(jiān)控手段還是能過得比較從容。6.1 管理接口的實用命令管理端口是整個運維的核心入口以下命令是我最常用的-- 查看所有后端節(jié)點的狀態(tài) SELECT * FROM backends; -- 動態(tài)加入一個從庫節(jié)點避免重啟 ADD RO BACKEND 10.0.0.5:3306; -- 動態(tài)下線一個后端節(jié)點常見于數據庫實例維護 REMOVE BACKEND 3; -- 查看當前Atlas的配置信息 SELECT * FROM config;動態(tài)上下線功能特別重要。比如要從庫做備份或者升級直接REMOVE再ADD業(yè)務側完全無感知不需要重啟Atlas。6.2 日志是排障的第一現場Atlas的日志目錄下一般有sql.log和error.log。sql.log在log-leveldebug時記錄每一條SQL的路由詳情error.log則記錄運行時的錯誤信息。平時排障我的順序是先看error.log再看sql.log最后看系統(tǒng)層面的dmesg和MySQL慢查詢日志。調試SQL路由問題時一條典型的debug日志大概長這樣[DEBUG] 2024-05-20 10:15:30: (sql) SELECT * FROM T_ORDER WHERE ORDER_ID 123 - route to backend 10.0.0.3:3306, table: T_ORDER_5看到這行日志你就能明確知道這條SQL被路由到了哪個從庫、哪個分表。如果發(fā)現路由結果和預期不符先檢查分表規(guī)則文件再檢查SQL是否帶了正確的分表鍵。6.3 監(jiān)控項不盯這些出了問題只能干瞪眼根據我對Atlas長期的運維觀察下面這幾個監(jiān)控指標至少要有Atlas進程是否存活最簡單一個進程監(jiān)控腳本或systemd守護就能解決管理端口能不能連能連說明進程本身沒死但可能處在異常狀態(tài)backends里各節(jié)點的連接數如果某個后端節(jié)點連接數異常高大概率是有慢查詢堵住了連接池Atlas到后端的響應延遲可以用tcprstat之類工具統(tǒng)計Atlas和MySQL之間的網絡延遲也可以直接在MySQL端開general_log觀察Atlas過來的請求是否變慢分表數據分布是否均勻定期抽查各分表的行數確認數據沒有嚴重傾斜這些監(jiān)控項不用全部自己造輪子如果你有Zabbix或Prometheus可以直接接進去。Atlas沒有官方exporter我當年是用腳本輪詢管理端口拿到狀態(tài)數據再轉成metrics推到Prometheus畫到Grafana上。效果挺好中間件自身的狀態(tài)一目了然。6.4 高可用架構的完整形態(tài)最后說一個理想的Atlas部署形態(tài)避免讀者在搭建時只在單臺機器上跑一個Atlas就以為完事了。我建議的架構是兩臺機器各部署一個Atlas實例前置一臺HAProxy做負載均衡后端的MySQL主從由MHA或自研工具負責切換。這樣任意一臺Atlas掛了HAProxy會自動摘除業(yè)務流量全部轉發(fā)到存活的那臺。Atlas本身是無狀態(tài)的代理配置保持一致即可不涉及數據同步問題所以高可用實現起來并不難。后端MySQL層面主庫掛了MHA自動切換然后通過外部腳本更新兩臺Atlas的配置。整個鏈路里HAProxy是唯一還需要再考慮高可用的點通常再配一組Keepalived漂移VIP就能解決。這套架構跑下來數據庫入口層基本就沒有明顯的單點了。業(yè)務方只認一個VIP背后具體是哪個Atlas在扛、哪臺MySQL是主都跟業(yè)務無關運維自主可控。回到Atlas這個項目本身雖然它不像今天云原生時代的很多新組件那么花哨但作為MySQL中間件領域一個極其務實的開源項目它的設計思路和實現方式放到現在的很多場景里依然有參考價值。如果你正在評估輕量級讀寫分離方案或者想理解代理層數據庫中間件的工作機制Atlas確實是個值得研究的樣本。最后留一句實在話任何中間件都只是工具用得好不好關鍵還是理解它背后的路由邏輯和邊界條件。配置照著抄很簡單真正考驗功力的是出了問題之后你能不能從一堆日志里快速定位到它把SQL送到了哪里、為什么會送錯。掌握這個能力比會裝一個Atlas值錢多了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美熟女逼久久久久久| 久久av成人无码免费| 91久久国外网| 台湾佬激情综合| 亚洲av无码成电影在线播放| 久久精品区| 91伊人大香蕉| 人妻天天爽夜夜爽爽| 九九九色| 999久久久久久久久| 伊人色综合网| 国产AV激情无码久久无码| 欧美精品庄| 亚洲欧美setu| 天天综合网日韩| 色悠久久久av| 伊人国产av| 手机在线观看不卡无码av| 综合久久9| 欧美 亚洲 另类 综合| 大胆91| 亚洲精品天堂久久A∨51成人漫| 操熟女91| 91日韩网站| 蜜桃色院一区久久 | 凹凸视频在线一区二区| 中文字幕熟女人妻丝袜丝| 国产性刺激| 久久人妻视频网| 国产亚洲精品玖玖玖在线观看| 国产福利视频精品视频| 九七超碰人人乐| 是还免费视频1727我| 啊啊啊 在线观看| 婷婷99狠狠| yellow网站免费观看日韩高清无码| 啊啊啊爽爽| 少妇人妻在线| 亚洲drav色图| av一区二区三区四区五区久草臀| 丁香五月天婷婷姐| 中文字幕日韩国产传媒欧美精品| 欧美日韩操逼嗦吊| 色久桃花影院在线观看| 国产丸一视频| 超碰碰激情97+久| 久9久| 99亚洲精品| 影音先锋国产精品| 在线国产一区二区av| 亚洲成人免费中文字幕| 啪啪啪东京| 色综合一本| 91成人18| 国产久久久久久| 五月天婷婷社区| 亚洲天天精品| 玖玖爱视频网站| 大香蕉92| 丝袜加勒比| 人妻色情天天操| 日韩精品第3页| 三级网站超变态精品| 久久久久久久久久久久久久9999| 亚洲国产综合久久天堂| 欧美美女啪啪视频| 很黄很污的免费网站| 十八禁网站在线| 爽爽歪在线视频| 超碰在线国产| 猛交交| 操狠狠| 欧美一区91大爱| 欧美日韩99精品麻豆传媒| 淫妻综合网| 中文字幕啊啊啊在线观看视频| 中文字幕 国产 精品| 日韩在线观看字幕精品| 无码抄逼网| 韩国一级做A片免费的| 亚洲欧美中文日韩视频中国语| 乱伦日本色图AⅤ| 欧美麻豆成人同性GⅤ在线| 日韩欧美中文| 亚洲图片偷拍视频区| 成人片在线播放| 狼人久草| 97爱爱爱综合| 午夜成人福利影视| 亚洲图片 激情小说| 91久久久久久久| 久久激情视频| 欧美人妻少妇| 欧美在线永久天堂| av在线不卡一区二区三区| 亚洲 日本 国产 综合| 国产操操日韩三级黄| 国产精品不卡一区二区电影| 国产一级特黄大片处女| 无码聚合| 亚洲色偷偷色噜噜狠狠99网| 黄总AV色图| 欧美天堂超碰97| 免费超碰97久久| 福利五区| 精品亚洲成人免费在线| 女人 A一级| 熟女六十路| 大香交伊人网| 日本A级视频| 欧美91精彩| 亚洲日本天堂| 亚洲综合色图欧美| 国产精品ww久久| 色天使亚洲综合在线观看| japan日本高清乱xxxx| 91呆哥人妻| 97干日韩| 中文字幕久久亚州无码| 91美女在线| 尹人免费观看视频在线| 亚洲高清无码免费观看视频| 国产农村妇女一区二区| 国产 大胆 对白| 欧美玖玖爱免费玖玖| 日韩欧美女求操每天更新| 岛国黄片网站| 天天爽夜夜操| 国产后入内射| 亚洲一区中文精品| 99啪啪| 爱爱动态试试看6 0秒| 超碰综合97在线| 超碰78| 超碰人人超在线观看| 好淫网一二三视区| 天天舔日美女视频| 激情网色| 日韩传媒在线| 91亚洲综合在线| 襙一襙| 台湾成人无码AV| 日本天天色| 岛国人妻少妇av在线观看| 成人草草视频| 草草影院最新网址| 精品91摸| 超碰天天去日穴| 国产AAAAAABBBBB| 天美麻花大全视频| 蜜桃精品视频一区| 欧美亚洲天堂| 囯产操逼片| 国产农村妇女精品1区二区| 蜜桃AV天堂| 久久性爱精品一区| 夜夜爽爽爽| 欧美亚洲性爱一区二区| 九久9精品| 777奇米影视777四色| 九九九九九用不成了| 日韩大香蕉| 天天躁日日躁AAAXX| 性爱AV天堂| 亚洲精品自拍| 97人妻色| 成人怡红院| 大香蕉人妻| 欧美激情精品久久久| 天天草夜夜草高潮片| 少妇毛片久久| 91美女视频| 性欧美另类高清| 男人的天堂Va| 伊人久久婷婷| 亚洲天天自拍| 97天堂| 超碰在线1234区| 亚洲成人免费中文字幕| 欧亚日韩三区| 国产精品一区av在线| 成人综合网 欧美| 家庭乱伦国产精品| 亚洲天堂自拍| 日本操大逼| 伦在线97| av日韩在线观看电影| 青青欧美| 国产AV无码AV| 极品美女嘿咻| 蜜桃臀av在线观看| 亚洲激情片| 九九热免费国产视频婷婷伊人五月 | 亚热日本熟女| 人人人人插| 日韩不卡网操逼中文字幕日韩| 操逼日批| 天天天天天超碰| 亚洲一区二区三区播放在线| 久热久| 国产成人一级av88| 亚洲影视第一页| 国产高清成人传媒影视| 中文字幕一区二区视频在线观看| 久久久久中出| 无码免费在线观看黄色片| 天堂国产AV| 久久受www免费人成| 欧美在线视频播放| 亚洲黄网在哪免费看| 蜜臀网址在线| 丝袜美腿欧美| 樱花蜜乳av| 综合激情一一91| 激情五月天丁香社区| 91日韩网站| 96AV精品| AV一区观看| 天堂综合| 九九热精品| 亚洲成人激情小说视频| 看看日B真人视频| 久久久久9| 麻豆视频一区二区| 黑人嘿嘿嘿超爽免费视频| AV男人天堂网| 国产成人亚洲精品自产在线 | 天天日B狠狠操| 日韩av在线精品观看| 久久久九九九九| 亚洲图片偷拍视频区| 精精品人妻一区二区三区| 91色五月俺来也| 日本操大逼| 欧美日本不卡在线| 久久伊人网视频一区二区三区| 国产 日韩 欧美高清| 久久久久久99999国产精品| 青青操青娱乐| 操逼天美3区| 久久宗合97| 九九热免费国产视频婷婷伊人五月| 国产欧美日本亚洲精品| 欧洲站一级二级三级h| 天天操女人| www.av在线视频| 一区二区三区麻豆| 一区| 成人资源中文字幕在线观看天天 | 久久国内| 97干97色| 天美麻豆黄色录像| 99999精品视频| 国产粉嫩出水在线播放| 黄色香蕉视频网站一区| 在线天堂资源亚洲| 伦在线97| 天综合网| 日韩AC| CCYY草草影院地址入口| 老熟妇91| 国产精品国产| 91女网站| 久久HD| 人妻干天天| 国内一级精品| 欧美综合网1| 日韩97超碰中文字幕| 国产精品一级毛片不卡视| 欧美高清第一页| 久草老司机| 亚洲91色在线| 920日本午夜免费| 亚洲高清国产理伦片| 欧美黄页| 日本幼女18+| 精品久久大胆人体| 色哟哟-国产专区| 丁香九月激情| 欧美色视频在线| 加勒比伊人| 天天干夜夜操一区二区| 国产视频大全| 午夜天堂网| www.狠狠| 狠狠综合| 大香蕉中文| 中文字幕一二三av| 久久精品国产久精国产| 国产熟女一区二区丰满| 97超碰69| 丁香五月激情综合| 最新日韩黄片| 免费观看的黄色的网站| 欧美一区二区三区四区综合| 2024黄色视频| 成人线上超碰| 久夜视频| 亚洲高清欧美总合| 日韩BBN| 日本精品九九九| 熟妇精品juliaannAV| 国产久久视频| 97视频观看| 国产av尤物| 免费AV播放| 天天躁日日躁AAA片李宗瑞| 亚洲中文字幕久久人妻| 亚欧毛片基地国产毛片基地| 欧美欧美啪啪视频| 久久中出| 啊啊啊好想要| 国产强奸乱伦无码视频| 亚洲色91| 亚洲日韩天堂| 啊啊啊想要| 久9精品| 91性网| 高颜值美女口爆高潮浪叫| 一摸二插三插| 亚洲成人帖图| 91精品人妻一品二品三品| 国产日韩精品一区二区三区| juliaann精品熟女一区| 精品国产少妇高潮视频| 78综合网| 青青草吊丝| 色综合潮| 久久久穴999| 亚洲精品欧洲精品| 精品美女少妇一区二区三区| 操死我了嗯嗯嗯| 伊人精品视频| 日韩三级性| 97av,com| 九九九九九九综合| 久久99国产精品| 久热这里只有精品9| 中国91AV| 91东北熟女| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 色呦呦、国产精品| 天天天天天天天天综合| 亚州男人的天堂| 日韩色女精品| 日韩精品影视| 欧美日本不卡在线| 欧美资源| 成年人三级黄色片视频| 一区二区视频在线播放| 五月天久久久| 久久免费中文字幕在线观看| 美女久久久久久久| 99re这里| 亚洲中文sv| 成人性生活高清视频在线播放| 欧美狠狠| 亚洲天堂一区二区久久| hd成人一区二区在线| 色综合久久久久| 男人亚洲91首页在线| 天天弄欧美| 欧美一区二区三区黄色影视| 无码粉嫩白虎一线天b区| 美女诱惑一区| 高清成年美女黄网站免费大全 | 在线 欧美 亚洲| 色色九区| 日韩精品一区二区高清| 自偷自拍的亚洲视频| 久久天天摸| 性性欧美| 九九九九九九九九九国产精品 | 后入人妻无码| 无码动漫av中文字幕| 人人操人人搞人人草| 亚洲国产日韩欧美熟妇在线| 久久久久无码| AV色五月天| 91色香| 亚洲一区二区三区播放在线| 91久久99久久91熟女精品| 久久久久久久久久久人妻| 欧美亚洲涩涩| 国内外内射高清视频| 在线综合 亚洲 欧美中文字幕| 熟女人妻一区二区三区| 久久久999网站| 欧美激色| TS人妖另类精品视频系列| 人妻 丝袜美腿 中文字幕| 色色99| 最新中文字幕av| 蜜臀Av一区二区三区| 爱妃国产亚洲视频中文字幕| 日本欧美国内在线| 国产午夜视频| 爱爱啊啊啊| 婷婷视频在线免费观看| 91电影色诱| 99re99在线视频| 美国黄片aaa| 99啪啪视频| 美美91成人国产精品欧美精品久久久久久久| 极品人妻少妇综合| 精品视频免费在线一区| 国产欧美伊人| 91无码人妻精品一区二区三区蜜桃| 免费久久一级毛片大黄| 猛交交| 加勒比av网| 日韩免费中文字幕视频| 五月天婷婷基地| 97视频900| 久久久久久9| 国产视频一区二区免费| 国产丰满少妇久久久精品影院| 欧美日韩亚洲天堂| 久久免费精品视频免一| 国产精品网站www| 密臀在线一区尤物| 簧片免费看视频| 欧美韩国你懂得在线 | 最新av中文字幕高清| 99这里只有精品| 啊啊啊啊啊啊啊啊啊在线观看| 亚洲av成人精品一区| 99性视频| 超碰 国产熟女精品一区| 伊人久久综合影院精品久久久 | 啊啊啊啊二区好大| 日韩成人性日韩成人性爱视频在线免费观看| 国内精品伊人久久久久影院会| 国产午夜视频| 91精品人妻偷情| 欧美亚洲丝袜人妻制服99| 在线 欧美 亚洲| 免费一级黄色录像影片| 精彩国产视频播放1区2区| 日韩射精| 激情第四色| 亚洲风情综合网| jizzjizz欧美| 欧美日韩青操| 亚洲伊人a线观看视频| 啊嗯好大视频在线观看| av激情亚洲五月天| 久久久不能久久久久| 天天噜| 黑丝少妇| 欧美黄业| 欧日韩不卡视.频| 欧美日韩久久精品爱爱| www久久久| 久草综合网| 岛国成人av在线播放网址| 日韩人人精品| 欧美性爱在线无码| 九九九不卡| 91free福利| 日韩电影免费网站麻豆视频| 国产一区二区在线电影| 九九免费影片| 色情五月综合婷婷| 欧美丝袜中文字幕07在线| 久久99亚洲精品久久99果| 97综合久第一页| 国产精品熟女丝袜一区二区| 日韩欧美~中文字| 久久老子无码午夜伦不卡| 久久熟女精品不卡一区| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 久久久久亚洲熟妇熟女| 亚洲免费日韩在线一区二区| 一个色导综合| 六月婷婷一区二区三区| 国产精品一区二区 尿失禁| 国产女主播视频在线观看| 丝袜熟女一区二区三区| 国产9熟妇视频网站| 国产成人网址| 精品人妻一区二区三区在线视频不卡| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 免费久久一级毛片大黄| 少妇内射www在线观看视频| 亚洲囯产精品女人久久久| 色在线69堂| 自拍偷拍2025在线观看| 亚洲视频精选| 一区中文字幕二区日韩| 黄片色区软件| 日本ZZ高免费A级视频| 五月天激情小说网| 亚洲天堂情色| 亚洲无码久久久久久久| 久久久91| 欧美 青青草| 亚洲精品一二区| 国产精品一二三| 五月丁香啪| 国产日韩精品suv| 国产白丝在线| 在线不卡视频| A 天堂| 色制服丝袜夫妻av一区| 凹凸视频特色日本特黄| 农村女一级毛卡片| 天天操人人操骚逼网站| 精品久热| 中文?日韩?免费?精品| 亚洲美女 晚间男人天堂 | 91亚洲欧洲| 久久久18禁| 久久一区二区三区入口| 蜜臀在线视频| 亚洲色图伊人网| 久久久爆乳翘臀一线天伦理视频| 国产成人亚洲精品无码最新在线| 久久6热精品99视频| www.狠狠| 免费一级黄色录像影片| 中文字幕一区二区三区人妻不卡| 成人色女网| 国产97色在线| 本道在线| 色蜜AV| 久久精品久久九九精品| 欧美偷拍| 欧美少妇高潮久久91| 99爱在线视频| 伊人精品久久网站| 丰满人妻一区二区三区四区| 超碰人妻中文在线| 天天干一干| 欧美国产欧美在线观看| 亚州男人天堂| 亚洲国产中文字幕| 少妇诱惑视频| 色情综合| 美女尤物人人操| 亚州一区二区| 九九九九九九免费视频| 爱干爱射网啊啊啊| 大香蕉伊人久久| 高潮的A片激情扒开一区| 天天干夜夜鈤| 欧美亚洲宗合色性图| 超碰调教97| 天天躁日日躁XXXXYY| 男插女青青影院| 大茄子熟女AV导航| 日本孕妇孕交| yazhousetuoumei| 日本色婷婷| 国语av最新自产拍在线观看| 亚洲欧洲无码bt精品合集| 天天干18禁| 91网站在线播放| 97青娱乐超碰久久| 欧美日不卡| 天天看,天天做| 高清无码在线播放网站| 97在线视频观看| 国产在线激情| 激情情色五月天| 丝袜美腿校园春色| 色婷婷成人综合| 国产伦精品一区二区三区视频女| 综合自拍| 乱伦Av网| 操迟操逼在巾线Fre看| 国产一级舔足在线观看| 搡老女人老91二区| 国产蜜臀精品一区二区尤物| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 波多野结衣一级视频| 被操高清无码视频| 97色97干| 青草精品视频日本久久久久网站在线| 97精品一区| 91国内外在线| 欧洲精品一二三在线| 久久綜合很很很| 91 国产丝袜在线放观看| 国产丝袜视频| 中文字幕 人妻不满 在线视频| 操婷婷逼| 亚洲天堂 视频你懂的| 日韩欧美中文日韩欧美色| 高潮的A片激情扒开一区| 三级日本一区二区三区| av网站免费看| 亲子敌伦对白在线播放| 91内射| 天天综合~91| 精品九九| 亚洲婷婷综合网| 可免费观看的av毛片中日美韩| 丰满人妻一区二区三区四区| 久久精品国产亚洲av水密被窝| 在线看污网站| 欧美92| 精品久9| 丰满人妻一区二区三区蜜桃视频| 天天网综合| 午夜毛片亚洲精品片国产久久久| 天久久久噜噜噜久久国产精品爽爽| 欧美丝袜中文字幕07在线| 国产人妻久久精品一区二区三区| 久久线上视频免费看| 中文字幕AV中出| 久久系列| yiqicaoav| 91精品人妻偷情| 18禁在线视频| 草草影院最新网址| 国产亚州精品美女久久久免费| aaaa少妇高潮大片| 国产亚州日韩欧美看片| 99热啪啪| 97国产色综合| 亚州综合电影| 欧美亚洲宗合色性图| 天天热精品| 日韩内| 国产传媒日韩| 中字幕人妻一区二区三区| 天天草夜夜草高潮片| 老司机射| 97人人草| 夜夜嗨AV蜜臀av| 欧美变态激情网| 后入福利| 久久加勒比| 1000部熟女视频在线观看| 无码人妻精品一区二区中文 | 国产精品一区二区手机看片| 少妇啪啪自拍| 不卡免费av在线播放| 1024香蕉视频| 射欧美综合| 呦女网站| 久热最新在线杭州| a片偷拍视频| 人人摸人人摸人人干| 九九热AV| 人妻一区久久二区三区色播| 人妻素股| 丰满少妇一区二区三区免费看| 激情熟女12P| 黑人无码一区二区| 蜜桃视频精品一区二区| 亚洲综合小视频小说在线观看| 亚洲男人久久综合天堂| 成人资源中文字幕在线观看| 激情内射| 日韩在线观看三级电影| 欧美日产国产在线成人第一区| 午夜亚洲WWW湿好大| 无遮挡男女激烈动态图| 一级性爱网| 风月影院十八禁| 97免费在线观看| 国产精品片| 午夜在线播放| 欧美天天综合| 亚洲综合九九| 国产乱伦视频污| 亚洲精品一二牛牛| 中文字幕人成乱码熟女香港| 大香蕉www.超碰| 免费一级a毛片久久久久久鸭绿欲 国产精品亚洲天堂网址 | 久久久免费视频18| 另类欧美色| 成人国产二区三区在线,男女精品。| 2017天天操| 午夜亚洲国产理论秋霞| 亚洲精品国产精品乱码不99| 丝袜熟女2P| 人妻五十路在线| 久久精品六区| 欧美性爱超碰97| 免费AV中文网在线观看| 另类TS人妖一区二区三区| 成人免费毛片| 九九久久一区二区伦理| 白嫩嫩一区| 中 文字幕一区二区三四 五 区日 日 骚| 日日夜夜青青草母狗| 天天色综合影视网| 91肉片| 秋霞蝌科网日本一区| 色五月av| 男人的天堂VA在线| 超碰人人干天天射| 欧美日韩啪啪电影| 色色婷婷丁香| 色情亚洲日本成人| 超碰97综合在线| 五月天久久综合网| 97操操| 综合av影片| 九九九九AV| 欧美日韩一区二区三区四区蜜桃| 色999五月色| 亚洲限制级| 欧洲精品二区| 亚洲高清无码在线桃色| 亚洲一区深夜| 超碰在线1234区| 人人做,人人操,人人摸| 91麻豆va国产精品| 乱欲性色| 中文字幕一区二区三区四区在线视频| 免費黃色視頻觀看一| 殴洲老熟女| 五月天亚洲色图| 国产超碰人人操| 美女网站黄页| av绯色| 91在线/欧洲| 无码操逼视频一下| 人人妻人人操人人乐| 蜜臀Av一区二区三区| 亚洲精品啪视频| 欧美午夜视频| 啪啪视频亚洲第一| 97天天综合网| 国产精品黑人一区二区三区| 日韩成人色图| 蜜臀久久99精品久久久| 精品女人999| 精品国产乱子伦一区二区三区,精品一| 久久99人妖视频国产| 很狠操| 亚洲AV无码国产精品久久久久 | 九七超碰人人乐| 激情五月天色色网| 一本色道人妻久久| 99色在线| 亚洲人综合19| 久操黄色视频| 神马麻豆福利院| 久久久久免费少妇| 97亚洲综合| 蜜伊人色综合97| jizz啪啪| 青青欧洲黑| 园内精品自拍视频在线播放| yy少妇精品久久| blacked精品一区国产| 97国产精品久久久久| 欧美久久伊人| 97网色| 亚洲色图在线视频| 免费成人在线观看91| 中文字日本乱码| 啪啪啪东京| 国产精品一区二区后入| 黄色性爱网网| 少妇天堂| 亚洲欧美另类少妇精品| 日韩无码a片| 国产av色网| 香港日本韩国人妇99www.wccm20| 国产高清吃奶免费视频网站| 色九九九九九九| 中文字幕精品人妻丝袜| 日韩欧美午夜视频在线| 99re免费| 久久久熟女一区| 亚洲射综合网| 人妻少妇久久久| 久久美女国产| 国产精品人妻无码久久久老鸭窝| 久久精品91| 久久久久久久久九九久孕交| 激情综合婷婷| 午夜电影在线观看无码专区| 1区2区3区视频| 女同性恋中文字幕| 黄资源| 国产精品小视频一区二区三区| 中文字幕av乱伦| 九月丁香婷婷色| 久久久久久久强迫| 96一区二区| 精品熟妇视频一区二区| 九九九热精品| 美腿丝袜高跟网免费视频免费视频| 色色99| www超碰| 18禁超污无遮挡无码免费网| 国产家庭乱伦性爱视频| 91无码西班牙视频在线| 欧美激情内射| 4tube欧美女厕所| 亚洲AV色图一区| 丝袜狂射91| 加勒比伊人影院| 国产十八禁视频| 六月丁操逼| 成人五月天色网| 97资源欧美| 亚洲人在线| 丝袜喷水在线| 天天享受天天看| 九九热免费国产视频婷婷伊人五月| 亚洲综合中文字幕有码| 2017亚洲天堂| 五月天开心网| 97日韩| 91黑丝美女| 久久久无码国精品无码三区三区| 欧美日韩国产高清在线一二三区| 91天堂| 少妇内射www在线观看视频| 国产又粗又又黄又猛| 亚洲啪啪视频免费| JIZZJIZZ亚洲女人被躁| 国产成人在线观看网址| 亚洲欧美日韩制服另类| 国产精品久久久久久高清无码免费看| 黄色免费网| 中文字幕一区二区日韩网| 日韩性爱毛片操骚逼| 手机在线视频国内精品| 郑州宾馆老熟女露脸啪啪| 美女被艹尤物视频| 综合激情五月丁香| 67914亚洲精品| 欧洲中文字幕| 日韩精品9区| 午夜经典| 亚洲av综合伊人久久| 国产大学生口爆吞精合集| 六月丁香久久| 色鬼在线综合| 免费亚洲国产精品久久一区| 久久久啊啊啊| 97无码视频在线播放| 26uuu国产成人综合| 99热这里都是精品| 超碰97网址| 欧洲一区二区| 日韩熟女操逼| 国产成人精品日本亚洲语言| 精品人妻1237| 日日日色色色色色| 国产精品网址| 欧美日本一区二区a人| 中文伊人大香蕉视频| 日本中文字幕一区| 国产传媒av天美传媒在线| 亚洲字幕一区二区| 欧亚洲精品有视频| 美女91av| 色色色日本| 另类小说五月天| 成人天天爽| 国产内射爽爽大片| 亚洲综合九九| h色99999| 无码免费在线观看黄色片| 日韩无码a片| 欧美日韩电影一区二区| 日本肏逼视频在线观看| 青青免费在线视频一区| 我要色综合网站| 中文字幕诱惑制服人妻丝袜美丝袜美 | 国产日比| 天天狠操| 九九热精品视频六| 极品五月天噜噜| 国产精品久久久啊| 在线观看A啊啊啊| 在线观看AV片| 国产蜜臀精品一区二区尤物| 91男女啊啊啊| 日本一区视频在线观看| 少妇第一页| 三级三久久线久久99久目本WW| 精品国产乱码久久久久久日本公司| 欧美亚洲尤物久久| 亚洲 在线| 91女优在线观看| 国产一区二区在线播放量| 精品一区二区成人动漫| 超碰人人妻| 97精品视频免费| 久污| 欧美国产精品久久九九| 亚洲成人网站在线观看| 久久久少妇诱惑精品视频| 囯产操逼片| 久久久草草精品| 国产精品三级视频网站| 情色大香蕉| 狠狠干,狠狠操| 91精品人妻一区二区三区蜜桃| 激情五月天婷婷| 69一区二区三区 | 亚洲日韩少妇一道本视频| 国产精品美女久久久久AⅤ国产馆| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 五月综合色| 天天综合中文字幕 91| 97亚洲综合电影| 一区二区三区美女超清| 东北老女人的激情视频| 欧美黄片免费在线观看视频| 天天搞欧美| www.夜夜操| 无码不卡八戒| 加勒比色综合| 婷婷久久综合| 亚洲成人性爱网站在线播放| 天天拍天| 精品久久視頻在线| 亚洲天堂在线怕怕视频 | 隔壁邻居波多野结衣中文字幕 | 一级黄色性爱A级片| 欧美天天影院| 1024亚洲中文字幕久在线看片你懂的 | 五月天成人综合| 色网综合网| JIZZJIZZ国产精品喷水| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 日本操逼aaaaa| 人妻 制服 日韩 中文 在线| 伊人久久艹| 免费的黄片有限公司| 91亚洲综合在线| 亚洲色图A| 午夜毛片高清免费不卡| 九九九九九九九九九九九蜜桃| 热热色综合网| 欧美性色网| 亚洲人妻中文在线视频| 久久国产免费激情视频| 围产精品一区二区三区视频播放| 免费一级毛片在线视频观看| 九九内射在线| 96AV久久久| 亭亭在线资源| 国产日韩怡红院| 立川理惠被中出无码| 国产成年精品高清在线观看91| 午夜福利免费精品视频| 可以免费观看的av| 红桃视频高潮| 中文一区二区| 人人妻人人澡人人爽久久av| 激情黄色片在线观看| 三级网色| 久久午夜伦| 东京热av男人的天堂| 一本色道久久综合狠狠操| 免费国产视频| 日韩亚洲中文有码视频| 色5月婷婷| 亚州色站 日韩电影| 亚洲精品久久一区二区三区蜜桃臀| 黄色工厂这里只有精品| 在线毛片片免费观看| 天天日B夜夜干B时时操B| 久久极品一区二区| 国产熟女精品区| 国语精品av| 自拍偷拍草一草| 欧亚免费视频| 超碰97资源大奶| 久久风骚城市| 一级片视频啪啪| 亚洲Av无码成人精品国产| 大香蕉在线视频15| 夜色97| 女色综合| 强奸乱伦资源| 97干com| 91熟女视频网| A级国产欧美激情在线| 国产吞精a级片激情电影| 日韩一999精品| 亚洲在线A| 92性色国产午夜福利在线661 | 夜夜嗷嗷一区二区| 欧美色蜜桃97| 国产日韩色综合| 婷婷五月天基地| 9久精品视频在线观看| 久九色| 日本五十路熟女一区二区| 美腿色图| 97操B| 精品国产一区二区三区香蕉欧美| 操操AV电影| 精品无码一区二区人妻久久蜜桃| 九九九久久久| 2020国产精品| 和协影院中文字幕三区| 蜜臀视频网站| 女人被添高潮免费视频| 狠狠图片青青草| 欧美一二三| 手机看片1025| 日本男人插女人的逼黄色| 91青青草| 色婷久久| 久久久久久久9最新免费视频观看| 国产区日韩区在线观看| 97婷婷色| 东北操逼| 久综合国内精品自在自线| 91neishe| 日本 情色 1区| 亚洲无码AV九九九| 大香蕉宅男伊人| 精品视频一区二区| 日本三级大片| 欧美,亚洲,日韩,v,天堂,手机在线观看| 在线毛片片免费观看| 91国产精品在线看| 久久久久久久久女黄| 亚洲成人日韩小说| 色婷婷综合久久久久中文一区二区| 密臀在线一区尤物| 亚洲熟女中文字幕在线| 内射卯月麻衣| 大香蕉www.超碰| 久久色一区| 天天射日日干| 狠狠操狠狠爱| 97超碰影音| 欧美国产伊人久久久久| 亚洲AV不卡在线观看尤物| 国产成人亚洲精品无码最新在线| 亚 欧 美 综合| 欧美 亚洲精品首页| av一区二区三区 中文| 五十路人妻在线| 国产精品一区二区校花| 青青久操| 成人a v在线播放免费| 久久久久久性爱片| 五十路熟女人妻一区二区在线观看| 日韩啪啪网| 色九色久| 怡红院一区二区熟女人妻| 超碰到97情色| 亚洲日韩美女中文字幕乱| 欧美青青视频| 欧美一级久久久丰满| 啊啊啊啊二区好大| 亚洲无无码αⅴ每日更新| 情色av电影| 三级日本一区二区三区| 嗯嗯啊啊操死我| 欧差乱伦二三| 久久不卡一区二区 | 亚洲系列第一页| 久偷拍欧美日韩三区| 777AV电影| av东京热男人的天堂| av天堂天堂av日韩| 一区二区三区成人| 天天躁日日躁xxxxx| 日韩精品电影| 午夜无码精品免费看性色| 粉嫩av一区二区三区四季| 3D污黄视频在线观看| 日本一级不卡一二区| www.av在线观看| 国产精品一区在线播放| 婷婷在线视频| 天堂男人网| 后入 亚洲 美女 射| A片大香蕉在线| 欧美情色男人的天堂| 欧美日韩日产免费网站看| 加勒比五月天| 操屄不卡视频| 97亚洲综合在线| 一区二区偷拍拍视频| 亚洲精品97| 天天综合欧美综合| 欧美一级黄片视频在线| Aa东京男人的天堂| 综合一区中亚洲国产成人综合精品 | 欧洲Au麻豆| 亚洲无码太久| 蜜乳av一区二区三区四区不卡| 蜜乳AV色欲AVAV无码| 欧美性爱一区二区三区| 性色一线| 国产精品白丝在线播放| 新视频sss国产| 日本在线视频导航| 日本不卡在线二区三区| 蜜臀AV一区二区三区激情综合| 国产精品日韩在线一区| 亚洲日韩XXX| 四色永久成人网站| 国产福利合集| 人人妻人人色| 日韩av影片在线观看| 600国产精品视频| 96AV久久久| 超97在线精品视频| 超碰97久| 在线女人91| 久久美女国产| 91精品久久久久| 蜜臀在线免费观看在线免费观看| 日韩人妻一二三区视频| 2020天天色综合| 美女啊啊啊啊啊啊啊| 天天艹天天日| 日韩无码人妻中字久久三区四区| 东北夫妻性偷拍| 亚洲一区二区三区中文字幕| 91老妇女| 福利风月五月天影院| 一区二区影院| 欧美加勒比| 60秒免费小视频| 六月丁香啪啪| 无码人妻一区二区三区色欲aⅴ| 日韩淫色网| 日本一区三级韩国| 超碰成人公开| 亚洲色电影在线| 欧美视频第二页| 日本免费亚洲欧美| 中文AV制服乱伦| 极品一区二区三区免费| 欧洲综合视频| 国产乱人伦AVA麻豆软件.| 亚洲男人天堂AV| www.男人天堂| 亚洲不卡AV在线| 日韩无码黄色片| 上特色A在线| 呦女网站| 国产suv精品一区二区四| 操逼逼福利视频| 亚洲 暴爽 AV人人爽日日碰| 四虎在线免费视频| 人妻久热在线| 亚洲AV无码成人精品久久| 精品欧美不卡在线播放| 91超碰在线观看| 操B久久| 五月丁香在线| 亚洲成人免费中文字幕| 超碰欧美97| 久欲AV| 国产污视频麻豆传媒一区二区| 成年女人18级毛片毛片免费观看| 亚洲av无码国产精品字幕|