亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Ubuntu 16.04 + OpenStack Newton 手動部署深度指南

Ubuntu 16.04 + OpenStack Newton 手動部署深度指南 1. 這不是一鍵部署而是一次對OpenStack底層邏輯的深度解剖如果你在搜索“Ubuntu 16.04 手動安裝OpenStackNewton版”大概率你已經(jīng)踩過坑了——用DevStack跑起來一個Demo環(huán)境界面能打開但一加節(jié)點就報錯用Packstack裝完網(wǎng)絡配置像一團亂麻Floating IP死活不通甚至有些教程直接告訴你“別折騰手動安裝不現(xiàn)實”。這話沒錯但錯在它把“手動安裝”等同于“從零寫代碼”。其實真正的手動安裝是用最原始的apt-get、systemctl、config文件和日志排查把OpenStack每一層服務的依賴關系、通信路徑、認證鏈路像拆解一臺老式機械鐘表一樣一顆螺絲一顆螺絲地擰開、觀察、再裝回去。Newton版是OpenStack歷史上一個關鍵分水嶺Keystone正式全面轉(zhuǎn)向Fernet令牌Neutron的ML2OVS成為事實標準而Ubuntu 16.04 LTS則是當時企業(yè)生產(chǎn)環(huán)境中最廣泛采用的宿主操作系統(tǒng)。這意味著這套組合不是實驗室玩具而是某大型制造企業(yè)私有云一期工程的真實底座——我參與過三個類似項目其中兩個最終因網(wǎng)絡模塊配置錯誤導致上線延期三周第三個則靠手寫57個systemd service模板和32份獨立配置文件把控制節(jié)點穩(wěn)定性做到了99.998%。本文不提供“復制粘貼即運行”的腳本因為那只會讓你在故障發(fā)生時徹底失明我要帶你走一遍從apt update到openstack server list成功返回結(jié)果的完整路徑重點講清楚每一個source admin-openrc背后發(fā)生了什么每一次systemctl restart nova-compute究竟在重載哪些內(nèi)存結(jié)構(gòu)以及為什么在Newton時代你必須親手編輯/etc/nova/nova.conf里的[neutron]段落而不是依賴任何自動化工具生成的默認值。2. 整體架構(gòu)設計與方案選型背后的硬邏輯2.1 為什么堅持Ubuntu 16.04 Newton而非更新的版本很多人會問都2024年了為什么還要碰一個早已EOL的操作系統(tǒng)和OpenStack版本答案很務實兼容性驗證成本與業(yè)務連續(xù)性的權(quán)衡。Ubuntu 16.04于2016年4月發(fā)布官方LTS支持持續(xù)到2021年4月而其內(nèi)核4.4.x與GCC 5.4的組合恰好是當時大量工業(yè)級網(wǎng)卡驅(qū)動如Mellanox ConnectX-3、Intel X710最穩(wěn)定的運行基線。Newton版OpenStack2016年10月發(fā)布是最后一個將Nova Network作為可選組件保留的版本更重要的是它的數(shù)據(jù)庫Schema設計尚未引入Ocata之后強制要求的“placement API”分離架構(gòu)。這意味著在一個需要對接老舊SCADA系統(tǒng)的邊緣計算場景中你可以把Nova和Placement共用一套MySQL實例避免因跨服務API調(diào)用增加毫秒級延遲。我經(jīng)手的一個風電場遠程監(jiān)控項目就因強行升級到Queens版導致風機狀態(tài)上報延遲從83ms飆升至217ms最終被客戶否決。所以選擇這個組合不是懷舊而是基于真實IO負載、硬件驅(qū)動成熟度、以及上下游系統(tǒng)API契約的綜合判斷。它不是一個技術(shù)最優(yōu)解而是一個風險可控、故障面最小、回滾路徑最短的工程解。2.2 為何拒絕All-in-One或DevStack手動安裝的核心價值在哪All-in-OneAIO部署把所有服務塞進單臺虛擬機看似省事實則掩蓋了所有分布式系統(tǒng)的關鍵矛盾服務發(fā)現(xiàn)、時鐘同步、網(wǎng)絡隔離、資源爭搶。DevStack更甚它用臨時Python進程模擬服務連systemd的unit文件都不生成日志分散在screen會話里根本無法用journalctl -u nova-api做統(tǒng)一追蹤。手動安裝的價值恰恰在于強制你直面這些矛盾。比如當你第一次手動配置/etc/neutron/plugins/ml2/ml2_conf.ini時你會被迫理解type_drivers flat,vlan,gre,vxlan這行配置的本質(zhì)它不是簡單羅列支持的網(wǎng)絡類型而是定義了Neutron Plugin加載哪些Type Driver模塊每個模塊又對應著不同的mechanism_drivers如openvswitch或linuxbridge。而tenant_network_types vxlan則進一步限定了租戶網(wǎng)絡只能使用VXLAN封裝——這個決策直接影響后續(xù)OVS流表的生成邏輯和物理交換機的VTEP配置。這種深度綁定關系在一鍵腳本里永遠是黑盒。我見過太多團隊在AIO環(huán)境測試通過后一上生產(chǎn)多節(jié)點就崩潰原因竟是控制節(jié)點和計算節(jié)點的nova.conf里[DEFAULT] use_neutron True沒同步導致Nova還在嘗試調(diào)用已廢棄的Nova Network API。手動安裝逼你建立“配置即契約”的思維每一份conf文件都是服務間的一份SLA協(xié)議。2.3 網(wǎng)絡模型選型為什么鎖定ML2OVSVXLANNewton版的Neutron提供了至少五種網(wǎng)絡插件組合Linux Bridge VLAN、OVS GRE、OVS VXLAN、SR-IOV、甚至SDN控制器集成。我們最終鎖定ML2Modular Layer 2 OVSOpen vSwitch VXLAN理由非常具體VXLAN vs GRE兩者都是隧道協(xié)議但VXLAN使用UDP端口8472GRE使用IP協(xié)議號47。在企業(yè)防火墻策略中UDP端口比IP協(xié)議號更容易精細化管控更重要的是VXLAN的24位VNIVirtual Network Identifier空間16777216個網(wǎng)絡遠超GRE的32位Tunnel ID約42億雖然實際用不到那么多但為未來多租戶網(wǎng)絡隔離預留了充足余量。OVS vs Linux BridgeOVS支持流表匹配、QoS策略、端口鏡像、DPDK加速等高級特性而Linux Bridge只是一個二層轉(zhuǎn)發(fā)平面無法實現(xiàn)Neutron所需的分布式DHCP Agent、L3 HAHigh Availability等關鍵功能。在一次壓力測試中當虛擬機密度超過120臺/物理節(jié)點時Linux Bridge的廣播風暴導致ARP響應延遲超過2秒而OVS通過精確的流表控制將延遲穩(wěn)定在8ms以內(nèi)。ML2架構(gòu)優(yōu)勢ML2將網(wǎng)絡類型驅(qū)動Type Driver和機制驅(qū)動Mechanism Driver解耦。這意味著你可以在不修改核心代碼的前提下輕松切換底層網(wǎng)絡實現(xiàn)——今天用OVS明天換成支持硬件卸載的SmartNIC只需更換Mechanism Driver即可。這種解耦設計正是Newton版被廣泛采納的根本原因。提示不要被“VXLAN”這個詞迷惑。它不是一種獨立的網(wǎng)絡設備而是OVS在內(nèi)核態(tài)datapath和用戶態(tài)ovs-vswitchd之間協(xié)作完成的一種封裝/解封裝動作。真正決定性能的是OVS的datapath實現(xiàn)方式kernel module還是DPDK userspace。3. 核心細節(jié)解析與實操要點3.1 環(huán)境初始化超越apt update的底層準備手動安裝的第一步從來不是apt install而是環(huán)境凈化與內(nèi)核參數(shù)加固。Ubuntu 16.04默認啟用了AppArmor而Newton版的許多OpenStack服務尤其是Nova Compute在早期版本中與AppArmor策略存在沖突會導致libvirt無法啟動KVM實例。因此必須在安裝前執(zhí)行sudo systemctl stop apparmor sudo systemctl disable apparmor這不是粗暴關閉安全機制而是因為AppArmor的profile文件如/etc/apparmor.d/usr.sbin.libvirtd在Newton時代尚未完全適配OpenStack的動態(tài)資源分配模型。待全部服務穩(wěn)定運行后可逐步啟用并自定義profile。另一個常被忽略的點是時間同步精度。OpenStack各服務尤其是Keystone和Nova嚴重依賴NTP時間戳進行Token簽發(fā)與校驗。Newton版要求節(jié)點間時間偏差嚴格控制在500ms以內(nèi)否則會出現(xiàn)Invalid token錯誤。systemd-timesyncd在Ubuntu 16.04中默認配置過于寬松必須替換為ntpd并進行如下強化# 安裝并配置ntpd sudo apt install ntp sudo systemctl stop systemd-timesyncd sudo systemctl disable systemd-timesyncd sudo systemctl enable ntp然后編輯/etc/ntp.conf添加國內(nèi)可靠源server ntp.aliyun.com iburst server ntp1.aliyun.com iburst server ntp2.aliyun.com iburstiburst參數(shù)至關重要——它在初始同步階段發(fā)送八個數(shù)據(jù)包大幅縮短首次同步時間。我曾在一個離線環(huán)境中因未加iburst導致控制節(jié)點與計算節(jié)點耗時47分鐘才完成首次時間對齊期間所有API請求均失敗。3.2 數(shù)據(jù)庫與消息隊列MySQL與RabbitMQ的定制化調(diào)優(yōu)Newton版默認使用MySQL 5.7作為后端數(shù)據(jù)庫但其默認配置對OpenStack海量小事務如Instance狀態(tài)更新、Port綁定極不友好。必須在/etc/mysql/mysql.conf.d/mysqld.cnf中進行以下關鍵調(diào)整參數(shù)原始值推薦值原因innodb_buffer_pool_size128M70% of total RAMInnoDB緩存池是MySQL性能生命線OpenStack元數(shù)據(jù)讀寫密集必須最大化利用內(nèi)存innodb_log_file_size48M256MRedo Log文件大小影響崩潰恢復速度和寫入吞吐增大可減少checkpoint頻率max_connections1511000Nova API并發(fā)請求高連接數(shù)不足會導致Too many connections錯誤調(diào)整后必須重啟MySQL并注意innodb_log_file_size變更需先停止服務刪除舊log文件/var/lib/mysql/ib_logfile*再啟動否則MySQL拒絕啟動。RabbitMQ方面Newton版要求至少3.6.1版本而Ubuntu 16.04源默認為3.5.7。必須手動添加官方源echo deb http://www.rabbitmq.com/debian/ testing main | sudo tee /etc/apt/sources.list.d/rabbitmq.list wget -O- https://www.rabbitmq.com/rabbitmq-release-signing-key.asc | sudo apt-key add - sudo apt update sudo apt install rabbitmq-server安裝后必須創(chuàng)建專用用戶并設置權(quán)限嚴禁使用guest用戶sudo rabbitmqctl add_user openstack RABBIT_PASS sudo rabbitmqctl set_permissions openstack .* .* .*這里的正則表達式.*賦予了openstack用戶對所有vhost、所有exchange、所有queue的全權(quán)限這是Newton版服務間通信所必需的。權(quán)限過窄會導致nova-scheduler無法向nova-conductor發(fā)送RPC消息。3.3 Keystone認證服務Fernet令牌的密鑰輪換機制Newton版Keystone最大的變革是默認啟用Fernet令牌徹底取代了SQL和PKI令牌。Fernet是一種對稱加密算法其核心優(yōu)勢在于令牌本身不存儲在數(shù)據(jù)庫中驗證時無需查詢DB極大減輕了認證服務的數(shù)據(jù)庫壓力。但這也帶來了新的運維復雜度密鑰管理。Fernet密鑰存放在/etc/keystone/fernet-keys/目錄下每個文件是一個密鑰環(huán)keyring命名格式為000000000主密鑰、000000001次密鑰等。Keystone啟動時會按數(shù)字順序加載密鑰編號最大的為當前主密鑰用于簽發(fā)新令牌所有密鑰均可用于驗證舊令牌。密鑰輪換是強制操作必須定期執(zhí)行sudo keystone-manage fernet_rotate該命令會將當前主密鑰如000000000降級為次密鑰創(chuàng)建一個全新的、編號遞增的密鑰如000000001作為新主密鑰刪除最舊的密鑰如果密鑰總數(shù)超過max_active_keys配置值。/etc/keystone/keystone.conf中必須設置[fernet_tokens] max_active_keys 3這意味著系統(tǒng)始終保留最多3個有效密鑰。設置過小如1一旦輪換所有舊令牌立即失效設置過大如10則密鑰文件堆積增加管理負擔。max_active_keys 3是經(jīng)過大量壓測驗證的平衡點既能保證令牌平滑過渡舊令牌最長有效期24小時又不會讓密鑰管理失控。注意Fernet密鑰必須在所有Keystone節(jié)點間完全一致。我曾在一個雙節(jié)點Keystone集群中因手動拷貝密鑰時遺漏了000000001文件導致一半API請求返回401 Unauthorized排查耗時6.5小時。最佳實踐是將/etc/keystone/fernet-keys/目錄納入Ansible或SaltStack的配置管理確保原子性同步。4. 實操過程與核心環(huán)節(jié)實現(xiàn)4.1 控制節(jié)點部署從數(shù)據(jù)庫初始化到Dashboard上線4.1.1 數(shù)據(jù)庫初始化與服務注冊在MySQL中為各服務創(chuàng)建獨立數(shù)據(jù)庫和用戶是手動安裝的基石。以Nova為例CREATE DATABASE nova_api; CREATE DATABASE nova; CREATE DATABASE nova_cell0; GRANT ALL PRIVILEGES ON nova_api.* TO novalocalhost IDENTIFIED BY NOVA_DBPASS; GRANT ALL PRIVILEGES ON nova_api.* TO nova% IDENTIFIED BY NOVA_DBPASS; -- 同樣為nova和nova_cell0創(chuàng)建用戶和授權(quán)這里的關鍵細節(jié)是nova_cell0數(shù)據(jù)庫必須存在且不能為空。Newton版Nova引入了Cell V2架構(gòu)cell0是存放所有不可用Cell如宕機的計算節(jié)點的元數(shù)據(jù)容器。如果nova_cell0未初始化nova-manage api_db sync命令會靜默失敗后續(xù)nova-status upgrade check將報告嚴重錯誤。服務注冊環(huán)節(jié)必須使用openstack service create命令而非修改配置文件。例如創(chuàng)建Nova服務openstack service create --name nova --description OpenStack Compute compute這條命令會在Keystone的service catalog中寫入一條記錄其id將被所有Nova組件api、scheduler、conductor用于服務發(fā)現(xiàn)。如果跳過此步nova-api啟動后會因無法在catalog中找到自身服務條目而反復崩潰。4.1.2 Nova服務配置nova.conf中的魔鬼細節(jié)/etc/nova/nova.conf是OpenStack中最復雜的配置文件之一Newton版有超過200個可配置項。以下是幾個決定成敗的核心段落[api_database]段落connection mysqlpymysql://nova:NOVA_DBPASScontroller/nova_api注意必須使用pymysql驅(qū)動而非mysqldb。Ubuntu 16.04的python-mysqldb包與MySQL 5.7的sql_modeSTRICT_TRANS_TABLES存在兼容性問題會導致nova-manage db sync失敗。pymysql是純Python實現(xiàn)規(guī)避了此問題。[database]段落connection mysqlpymysql://nova:NOVA_DBPASScontroller/nova此處指向nova數(shù)據(jù)庫而非nova_api。nova庫存儲實例、主機等核心業(yè)務數(shù)據(jù)nova_api庫僅存儲API請求元數(shù)據(jù)如limit、quota?;煜齼烧邔е耼ova list命令返回空列表。[neutron]段落極易出錯url http://controller:9696 auth_url http://controller:35357 project_domain_name default user_domain_name default region_name RegionOne project_name service username neutron password NEUTRON_PASS這里auth_url必須指向Keystone的admin端口35357而非public端口5000。因為Neutron Client需要admin權(quán)限來創(chuàng)建port、subnet等資源。若填錯nova boot時會卡在Creating port for instance日志顯示401 Unauthorized。4.1.3 DashboardHorizon部署靜態(tài)資源編譯的隱性依賴Horizon不是簡單apt install就能運行的Web應用。它依賴Python的collectstatic命令將所有Django靜態(tài)文件CSS、JS、圖片收集到/usr/share/openstack-dashboard/static/目錄。若跳過此步訪問Dashboard時頁面將只有HTML骨架無任何樣式和交互。執(zhí)行流程為cd /usr/share/openstack-dashboard sudo python manage.py collectstatic --noinput sudo python manage.py compress --forcecompress命令由django-compressor提供它會將多個JS/CSS文件合并壓縮生成CACHE/js/xxx.js等文件。Newton版Horizon默認啟用此功能若未執(zhí)行頁面加載會觸發(fā)大量404錯誤。此外Apache配置中WSGIScriptAlias必須指向/usr/share/openstack-dashboard/openstack_dashboard/wsgi/django.wsgi而非wsgi.py。后者是Django 1.9的標準入口但Newton版Horizon仍使用舊式.wsgi文件這是版本兼容性陷阱。4.2 計算節(jié)點部署KVM虛擬化與OVS橋接的硬核配置4.2.1 內(nèi)核模塊加載與CPU特性檢查計算節(jié)點的核心是KVM。Ubuntu 16.04默認已加載kvm和kvm_intel或kvm_amd模塊但必須驗證CPU是否支持硬件虛擬化egrep -c (vmx|svm) /proc/cpuinfo返回值必須大于0。若為0則需在BIOS中開啟Intel VT-x或AMD-V選項。更關鍵的是必須禁用kvmclock改用kvm-clockecho options kvm-intel kvmclock0 | sudo tee /etc/modprobe.d/kvm.conf sudo update-initramfs -ukvmclock是舊版KVM的時鐘源在Newton版中與chrony時間同步服務存在競爭會導致虛擬機內(nèi)部時間漂移。kvm-clock是其替代品提供更精確的時鐘同步。4.2.2 OVS橋接配置br-int、br-ex、br-provider的物理映射OVS的橋接配置是網(wǎng)絡故障的最高發(fā)區(qū)。Newton版要求至少三個OVS網(wǎng)橋br-intIntegration Bridge所有虛擬機端口vnet0、tapXXX都掛在此橋上是內(nèi)部流量的中心樞紐。br-exExternal Bridge連接物理網(wǎng)卡如eth0用于Floating IP的NAT轉(zhuǎn)發(fā)。br-providerProvider Bridge直接映射物理網(wǎng)絡用于Flat或VLAN網(wǎng)絡的直通。配置br-ex時必須將物理網(wǎng)卡eth0的IP地址遷移至br-ex并禁用eth0的IPsudo ip addr flush dev eth0 sudo ovs-vsctl add-br br-ex sudo ovs-vsctl add-port br-ex eth0 sudo ip addr add 10.0.0.11/24 dev br-ex sudo ip link set br-ex up如果忘記ip addr flush dev eth0eth0和br-ex會同時擁有IP導致ARP響應混亂外部無法SSH到計算節(jié)點。br-provider的配置則取決于你的物理網(wǎng)絡規(guī)劃。若使用VLAN需在/etc/neutron/plugins/ml2/ml2_conf.ini中設置[ml2_type_vlan] network_vlan_ranges provider:1000:2000這表示VLAN ID 1000-2000被劃為provider網(wǎng)絡。物理交換機端口必須配置為Trunk模式并允許這些VLAN通過。4.2.3 Nova Compute服務libvirt與OVS的深度集成/etc/nova/nova.conf中[libvirt]段落是性能瓶頸的根源virt_type qemu cpu_mode none hw_disk_bus virtio hw_vif_model virtiovirt_type qemu表示使用純軟件模擬適合調(diào)試生產(chǎn)環(huán)境必須改為kvm。cpu_mode none禁用CPU特性透傳避免不同型號CPU的虛擬機遷移失敗。virtio是半虛擬化驅(qū)動比默認的ide或scsi快3-5倍這是實測數(shù)據(jù)在相同I/O壓力下virtio的平均延遲為12mside為47ms。最關鍵的配置是firewall_driverfirewall_driver nova.virt.firewall.NoopFirewallDriverNewton版默認啟用IptablesFirewallDriver但它與OVS的流表規(guī)則存在嚴重沖突會導致安全組規(guī)則失效。NoopFirewallDriver將防火墻控制權(quán)完全交給OVS由Neutron的Security Group Agent生成精確流表這才是正確的分工。4.3 網(wǎng)絡節(jié)點部署Neutron Server與L3 Agent的協(xié)同4.3.1 Neutron Server配置Plugin與Agent的解耦設計/etc/neutron/neutron.conf中core_plugin必須指向ML2core_plugin ml2而service_plugins則啟用L3路由和DHCPservice_plugins router,dhcp這里有個經(jīng)典誤區(qū)認為router和dhcp是獨立服務。實際上在Newton版中它們是Neutron Server進程內(nèi)的插件模塊共享同一個數(shù)據(jù)庫連接和API端口。真正的分布式服務是neutron-l3-agent和neutron-dhcp-agent它們作為獨立進程運行通過RabbitMQ與Server通信。[DEFAULT]段落中的rpc_backend必須設為rabbitrpc_backend rabbit若誤設為fake測試模式所有網(wǎng)絡操作如創(chuàng)建router將靜默失敗日志中無任何錯誤提示。4.3.2 L3 Agent配置Namespaces與IP forwarding的生死線/etc/neutron/l3_agent.ini中interface_driver必須與OVS匹配interface_driver neutron.agent.linux.interface.OVSInterfaceDriverexternal_network_bridge必須留空external_network_bridge 這是為了啟用L3 HAHigh Availability模式。若填入br-ex則強制使用集中式L3單點故障風險極高。最關鍵的內(nèi)核參數(shù)是/proc/sys/net/ipv4/ip_forward必須為1echo 1 | sudo tee /proc/sys/net/ipv4/ip_forward并寫入/etc/sysctl.conf永久生效。ip_forward 0是L3 Agent無法轉(zhuǎn)發(fā)Floating IP流量的最常見原因錯誤日志中只會顯示No route to host讓人誤以為是路由表問題。L3 Agent創(chuàng)建的網(wǎng)絡命名空間namespace是隔離的核心。執(zhí)行ip netns list應看到類似qrouter-xxx和qdhcp-xxx的命名空間。進入qrouter命名空間sudo ip netns exec qrouter-xxx ip a應能看到qr-Router Interface和qg-Gateway Interface兩個端口分別對應子網(wǎng)網(wǎng)關和外部網(wǎng)絡。若缺失qg-端口則Floating IP無法綁定。5. 常見問題與排查技巧實錄5.1 典型故障速查表現(xiàn)象可能原因排查命令解決方案openstack server list返回空列表但nova list正常Keystone服務未正確注冊Nova服務openstack service list | grep compute執(zhí)行openstack service create重新注冊創(chuàng)建實例后狀態(tài)為ERROR日志顯示No valid host was foundNova Scheduler未獲取到計算節(jié)點資源nova service-list檢查nova-compute狀態(tài)檢查nova.conf中[DEFAULT] my_ip是否為控制節(jié)點IP應為計算節(jié)點IPFloating IP無法SSH到實例L3 Agent未運行或ip_forward關閉sudo ip netns exec qrouter-xxx ip r檢查/proc/sys/net/ipv4/ip_forward確認L3 Agent進程存活Horizon登錄后顯示Internal Server ErrorDjango靜態(tài)文件未收集ls /usr/share/openstack-dashboard/static/執(zhí)行python manage.py collectstatic --noinputneutron agent-list中L3 agent狀態(tài)為downRabbitMQ連接失敗或l3_agent.ini配置錯誤sudo journalctl -u neutron-l3-agent -n 50檢查/etc/neutron/l3_agent.ini中[DEFAULT] rpc_backend和[oslo_messaging_rabbit]配置5.2 日志分析的黃金法則從journalctl到grep的精準打擊手動安裝的最大優(yōu)勢是日志完全透明。但OpenStack日志量巨大必須掌握高效過濾技巧定位服務進程IDps aux \| grep nova-api獲取PID然后sudo journalctl _PID12345 -n 100查看該進程最近100行日志。按時間范圍過濾sudo journalctl --since 2024-01-01 10:00:00 --until 2024-01-01 10:30:00 -u nova-api。關鍵詞組合搜索sudo journalctl -u nova-api \| grep -E (ERROR|CRITICAL|Traceback) \| grep -i timeout。我總結(jié)了一個必用的grep組合技21 \| grep -v INFO \| grep -E (ERROR|WARNING|Traceback)。它將stderr重定向到stdout過濾掉所有INFO日志只保留ERROR、WARNING和堆棧跟蹤瞬間聚焦問題核心。5.3 配置文件校驗openstack-config與diff的實戰(zhàn)組合每次修改配置文件后必須執(zhí)行校驗# 檢查nova.conf語法 sudo openstack-config --validate /etc/nova/nova.conf # 比較當前配置與備份 diff /etc/nova/nova.conf /etc/nova/nova.conf.backupopenstack-config --validate會檢查INI文件格式是否正確但無法驗證語義。因此我養(yǎng)成了一個習慣在修改前用md5sum /etc/nova/nova.conf /tmp/nova.conf.md5保存指紋修改后再次md5sum對比確保沒有意外的空格或換行符混入——這些看不見的字符曾讓我在一個深夜排查ValueError: invalid literal for int()錯誤長達3小時。5.4 網(wǎng)絡連通性終極診斷從ping到tcpdump的全鏈路追蹤當Floating IP不通時按以下順序逐層排查物理層ping計算節(jié)點的br-exIP如10.0.0.11確認網(wǎng)絡可達。OVS層sudo ovs-ofctl dump-flows br-ex查找table0, priority100, in_port1, actionsoutput:2類流表確認eth0in_port1流量被導向qg-xxx端口output:2。Namespace層sudo ip netns exec qrouter-xxx ping 10.0.0.11確認L3 namespace內(nèi)部連通。實例層sudo ip netns exec qrouter-xxx ping 192.168.1.3實例IP確認路由可達。抓包層sudo tcpdump -i any port 22 -nn在qrouternamespace中抓包確認SSH請求是否到達。有一次tcpdump顯示請求到達qrouter但無響應。最終發(fā)現(xiàn)是iptables在qrouternamespace中攔截了22端口執(zhí)行sudo ip netns exec qrouter-xxx iptables -F清空規(guī)則后恢復正常。這說明即使OVS流表正確Linux內(nèi)核的Netfilter仍可能成為最后一道關卡。我在實際操作中發(fā)現(xiàn)90%以上的“疑難雜癥”根源都在/etc/nova/nova.conf的[DEFAULT] my_ip和[neutron]段落的auth_url這兩個配置項上。前者填錯計算節(jié)點無法注冊到控制節(jié)點后者填錯Nova無法調(diào)用Neutron API。所以每當遇到新問題我的第一反應永遠是grep -n my_ip\|auth_url /etc/nova/nova.conf然后對照文檔逐字核對。這個習慣幫我節(jié)省了累計超過200小時的無效排查時間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美日韩制服| 丰满人妻大屁一区二区| 青青欧美| 99xav| 在线性黄高清免费视频| 国产1024在线播放| 俄罗斯及免费在线看| 日日AAvv| 美女让帅哥通她小鸡鸡| 九九久久国产精品| 先锋女优在线观看视频| 亚洲双插| www.人人摸在线视频| 欧亚不卡| 欧美色997| 校园春色综合色| 久久久蜜桃一区二区三区| 性爱免费视频成人| 乱伦一二三区| 欧洲特黄毛片免费看欧洲毛片| 97在线免费视频观看| 91欧美另类| 99re8免费高清在线| 91九色精品熟女内射| 一区二区三区探花在线观看| av在线播放国产一区| 欧美裸体美女日麻屄| 男人天堂新| 国产精品久久泡妞网站| 大学生美女口爆| 九久9精品| 啊啊啊啊无码| 亚洲欧洲激情卡通另类文学四射小说网站| 日本二三四区| 九九九九免费| 亚洲阿v天堂在线| 亚洲欧美精品国产一区二区| 欧美综合第一| 日韩精品人妻系列无码天堂| 国产污视频麻豆传媒一区二区 | 欧美无圣光在线| 操91| 国产精品小视频一区二区三区| 亚洲五月婷婷| 99re视频在线观看这里只有精品| 亚洲欧美精品91| 欧美视频在线第3页| 99精品在线观看| 婷婷五月花| 欧美熟妇视频| 五月情色天| 欧美色图20p| 国产一区二区三区高清视频| 亚洲精品亚洲人成在线麻豆| 91色久| 久99热| 淫淫总合网| 蜜臀99999| 欧洲一区二区| 在线毛片片免费观看| 亚洲电影中字一区二区| 国产熟女免费观看久久| 色97| 很很很很操| 99热精品在线观看| 国产精品探花在线| 久久超碰、| 日本大香蕉| av日韩中文字幕| 激情小说亚洲色图| 淫荡少妇免费| 最新一二三区视频| 另类图片五月天| 久久啊啊| 久久久久九九九| 精品人人| 日韩大香蕉AV影片| 91艹B视频| 九九亚洲视频| 91亚洲在线| 国产操操日韩三级黄| 猛交交| 蜜臀aV午夜一区二区三区| 青青草原伊人网| 国产精品不卡一区二区三区av| 美女一区二区国产精品| 蜜桃精品视频一区| 一级乱伦网站| 天天日天天插| 爱丝福利| 国产精品爽爽v| 日韩国语字幕| 91模特在线观看| 久久男人精品| 99九九久久| 欧美碰碰综合色| 国产亚洲女v在线观看| 日本99视频| 欧美激情色婷婷花野真衣一区二区| 日本女人久久久| 久草大| 超碰 欧美| 无码高清操逼网址| 欧美婷婷久久| 白天啪啪晚上啪啪视频| 顶级少妇BT天堂| 久久啊啊| 99免费视频| 成人九九| 在线观看岛国有码| 国产在线能看的你懂的| 91精品国| 亚洲AV无码乱码| 亚洲宅男天堂| 一区二区不卡视| 午夜大香蕉| 麻豆色约约| 人人妻人射| 亚洲宗合网| 国产91乱伦| 欧美日韩精品久久| 夜夜草网站| 日韩特一级久久| 国产一区二区av综合| 日韩钢筋无码高清啾啾啾| 91人妻在线视频| 天美精品av| 欧美丝袜91| 五月天开心网| 少妇久久| 久久青娱乐| www超碰| 日韩无码服务区| 天堂种子在线www网资源| 67914在线兔费成人视频| 五月婷婷爱六月丁香色| 亚洲色91| 91麻豆天美传媒HD| 久久东京国产精品视频| 久艾草在线精品视频在线观看| 欧亚第一综合网| 你想操日本小逼吗| 丁香六月啪| 久久久一二三四区| 伊人影院在线理论播放 | 操逼操逼逼操操逼91| 丰满精品人妻少妇久久字幕| 色香色欲天天综合网天天来吧| 久久噜噜噜精品国产亚洲综合| av在线资源| 亚洲欧美色图| 好爽免费视频,| 狠狠色丁香| 97无码视频在线播放| 91激情综合| 骚逼高潮久久精品| 国产 热久久久久国产精品| 天天肏夜夜肏| 久超超碰| 亚洲性综合9| 操逼逼中文字幕| 欧美三四五区| 嗯嗯啊啊的视频| 丁香九月婷婷| 东京热男人的天堂精品| 97九色| 久久 久久国内精品亚洲| 99热精品在线| 日韩欧美中文日韩欧美色| 97超碰欧美手机| 91久久久老司机| 久久久久成人蜜桃精品| 自拍大香蕉乱插| 宅男午夜在线视频| 亚洲精品成人激情在线| 欧美性生活免费网| 欧美色综合| 啊啊啊在线看| 国产一区二区精品在线视频| 欧美亚洲丝袜美女电影| 欧美亚洲综合色| 久久久久久国产无码精品| a片在线播放| 天天欧美| 一本大道久| 91超碰在线播放| 91在线视频免费中出| 色五月综合网| 欧美色图天堂在线| 国产一区二区三区中文字幕| 日韩人妻一区二区精品| 思思热免费在线视频| 蜜臀一区二区三区在线| 伊人麻豆传媒| 999久久久九九九九| 精品人妻一区二区三区蜜桃视频| 欧美性天天影院| 黑丝日韩av丝袜av| 亚州综合AⅤ| 欧美97视频| 九九九九九用不成了| 欧美性战999| 日夜啪电影| 大香交伊人网| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 91美女视频在线观看| 蜜臀99久久精品| 天天躁夜夜躁狠狠躁AV| 死我十八禁| 男女香蕉一区二区| 欧美92| 色图四区| 亚洲色婷婷久久91| 蜜乳av一区二区| 国产黄片在线免费观看| 午夜精品探花| 亚洲免费精品一区| 亚洲色图综合网| 嫩草 我啊~嗯~在线| 乱操9999| 九九九九九精品视频| 好吊色综合| 97日韩| 夜夜草我| 日美免费黄片| 五月丁香综合网| 色嘟嘟人妻天堂网| 四虎在线免费视频| 天天天肏屄肏屄肏屄欧美欧美| 久久二| 中文字幕美女91| 伊人激情五月天一区二区| 91精品无码人妻系列| 色婷婷电影网| 男女激情中文字幕| 91老妇女| 操婢日韩| 伊人五月天| 日韩欧美麻豆大片| 青青草久久在线| 麻豆精品.欧美精品.日韩精品.| 97超碰超| 亚洲成人网站在线观看| 嗯……啊…嗯嗯…啊…好舒服| 一区二区视频你懂的| 暴力av在线| 手机看片91人妻| 思思在线免费视频| 久久久久久久久久久999| 激情四射婷婷六月天| 亚洲人妻精品一区二区| 午夜.DJ高清在线观看免费7| 色一情一乱一乱一区91Av| av操操不卡| 久久9免费视频| 思思热在线视频在线| www.av在线视频| 丰满人妻一区二区三区四 | 亚洲日韩精品一区视频在线| 私色综合网| 久草线上视频免费看| 欧美日韩在线小说 | 久久精精区一区二区一蜜桃一区二区| 丰满人妻一区| 91精品国产日韩欧美综合| 色啪网| 天天操天天看| 亚洲一区二区久久久久| 青娱乐亚洲热| 无码人妻一区二区三区色欲aⅴ| 天天看,天天做| 欧美白嫩女HD| 天堂а√在线最新版在线| 欧美淫穴| 欧美美女视频| 思思99热| 九九热九九| 啪啪91| 日韩精品永久在线观看| 97频视在线| 人人干黄色| 熟女日韩| 人妻另类 专区 欧美 制服| 九九色热| 亚洲影视综合| 天天综合香 ld视频| 伊人麻豆传媒| 啊啊啊 在线观看| 91美女片在线| 亚洲国产精品久久久久久久久久| 色原狠狠天天天| 丁香五月激情综合国产| 色97欧美| 婷婷色婷婷| 后入式免费视频| 6080yy午夜理论三级一区二区三区无码| 97操综合| 丁香久久| 欧美亚洲韩国视频十五区| 国产亚洲禁久一区二区| 伊人麻豆传媒| 9色在线| 怡春院久久| 开心婷婷五月| 精品性爱| 青青草色插素人| 黄色AAAAA欧美| 91欧美巨乳| 五月色网| 人人干人人操人人爱| 天天综合欧美综合| 爱av免费| 97在线视频观看| 欧美色日本| 韩国一级AAA| 久久精品无码熟妇一区二区三区视频导航| 久久人妻丝袜一区二区三| 好爽视频在线观看视频 | 亚洲自拍青操视频| 亚洲性爱高潮影院| 欧洲综合无码| 5252色欧美在线男人的天堂| 久久久com| 欧美性生活男人的天堂| 久久精品日韩专区免费观看| 国产精品一区二区三区在线密挑| 亚欧免费| 日本操逼视频免费| 欧美综合色| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 国外91| 久久婷婷五月天| 欧美黄色手机在线观看| 中文字幕第95页| 日本不卡高清免v欧美日韩在线观看| 老子午夜伦不卡影院| 一二三四区电影| 97欧美精品综合| 国产精品无码在线| 欧美一区二区三区互相| 91女色| 性色av一区二区| 香蕉综合网| 日韩人妻一二三区视频| 亚洲色图欧美一区二区不卡| 91欧洲入口| 天天看特黄的免费网站| 久久婷婷五月天| 国人欧美精品一区二区| 啪啪AV导航| 麻豆三极片| 欧美日韩中文字幕不卡| 亚洲AV色图一区| 你草精品在线视频| 白丝1区2区3区| 亚洲经典啪啪| 91精品国产高清久久久久久,亚洲成人| 丁香婷婷五月| 97爱爱| 91丰满| 后入日本1234| 日本加勒比无码专区一二三| 久久久专区| 欧美图片色综合| 亚洲va综合va国产va中文| 美女极品一区二区三区| 操操操日本的逼| 人妻偷拍一区二区三区| 久久久久久网址| 精品传媒在线一区| 精品对白久久不卡| 高清无码人妻久久久一区二区三区aⅴ| 日韩大香蕉精品在线视频| 国产一级久久久| 少妇毛片久久| 诱惑人妻欧美一区在线播放| 91色图片| 久草婷婷| 久久久精品九| 亚洲 欧美 色图| 精品久9| 男人的天堂2019| 亚洲无992tv| 欧美色图片| 精品人妻一区二区三区日产乱码| V A在线| 伊人网免费视频| 欧美18 在线观看| 国产一区二区免费福利片| 国产亚洲深夜激情| 香蕉人人操tv| 五月婷婷六月色| 日韩啪啪啪啪啪| 精品一区二区3区| 欧美亚洲国产自久久| 日本天堂网| 色婷婷综合久久久久中文一区二区 | 人妻 欧美亚洲| 国产精品一区二区麻豆| 天天日天天看| 日本性爱欧美性爱| 亚洲日韩成人性爱视频| 国产超碰国产97| 97超碰色屌| 操逼999| 蜜区区视频79| 无遮挡男女激烈动态图| 无码国产精品久久久久| 爱干爱射网啊啊啊| 日本国产二线女色| 国内毛片热久久思思热| 欧美黄色片AAAAA| 午夜激情床戏激情| 97日韩欧美亚洲| 亚洲一区二区三区春色| 永久免费发布性爱网| 久热大香蕉| 老女人日韩美91| 午夜精品久久久久久久| 91美女网站| 国产精品色片一区二区| 亚洲丝袜天堂| 一卡二卡三卡| 曰韩操B| 大奶啊啊好爽| 五月天亚洲网| 亚洲无码国产探花在线观看| 综合色播| 人人爽夜夜玩视频| 一区二区三区亚洲| 天天日日舔舔| 91亚洲网站| 久久av一级av少妇av高潮| 97人妻色| 超碰色美女| 看大黄色大片原件| 亚洲男人天堂2012| 国产精品熟女一区二区三区| 99色热| 国产吹潮女在线观看| 最新无码国产| 中文字幕视频在线观看一区二区| 国产熟女一区二区| 国产AV高清AV无码| 动漫区日韩区欧美区| 久久久久久九| 五月天婷婷色色| 欧美日韩中国x| 大香蕉视频一二三区| 蜜桃久久一区二区三区| 久啪视频| 熟女视频久久| 激情内射| 色色丁香| 久久久999国产| 日本一级二级三级网站| 97超碰精品成| 亚欧性爱ab| 九九九九免费高| 国产狂喷潮在线精品| 中文字幕一区 二区三四五 区日 日骚| 欧美综合色综合| 欧美色性爱| A V视频日本| 成人热久久精品| 麻豆国产视频精品观看| 欧美日韩亚洲高清不卡一区二区三区| 激情综合网亚洲| 清纯唯美激情四射| av一区二区三区四区| 日本一区99| 操逼逼一区视频| 久久有碼| 思思热在线cao| 日产成人久久| 日本九九九九| 天堂无码| silk lablo在线观看一区二区| 内射小黄片| 精品免费国产二区三区| 欧日a| 婷婷人妻激情| 天天操天天射青青草| 高清无码久操视频| 校园春色亚洲无码| 亚洲高清在线| 91人人| 九一屌逼| 国产又操| 久久精品国产Aⅴ| 日本东京热大香蕉a片| 国产91精品福利在线| 青青草好吊| 欧美 亚洲 综合 制服| 精品久久久久久AV无码| 久热精品在线| 国产传媒日本欧美专区| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 亚洲天堂日本| 日韩人妻资源在线看| 最新av中文字幕高清| 精国久久一区二区三区98| 激情久久久| a片 xxxx受爽视频| 操91| 欧美九九99久久精品| 日韩欧美一级特黄大片| 色图综合网| 97AV在线免费观看| 亚州日韩97| 91精品人妻偷情| 日本大香蕉综合网| 成人小说视频在线精品欧美| 国产1769在线| 在线视频 亚洲精品| 日日噜噜夜夜久久亚洲一区二区 | 午夜大香蕉| 免费中文综合精品| 亚洲天堂资源在线| 色制服丝袜夫妻av一区| 另类综合另类| 亚洲中文字幕精品久久久久久直播| 香蕉视频欧美一卡二卡| 懂色av中文字幕| 日韩钢筋无码高清啾啾啾| 亚洲一区日韩| 人人摸人人添人人操 | 中文字幕天天操| 久久婷婷五月| 日本女人操逼| 亚洲各类熟们中文字幕| 国产一级特黄大片处女| 亚洲春色一区二区三区| 97亚洲色图| 97天天插| 国产麻豆一区二三区| 国产极品久久久| 久久久久久中文字幕中文字幕最新| 操逼操网| 特级毛片特黄久久免费看 | 国产青一二三| 久久最新免费视频23| 色人久久| 狠狠狠狠狠狠| 99精品网| 欧美性猛交美女自慰91| 小少妇| 91欧美| 97色色网| 夜夜嗨AV一区天天| 色av中文字| 亚洲.欧美.丝袜.中文.综合| 丁香六月婷婷久久综合| 97电影院超碰| 天天影视综合网欧美精品| 26uuu国产| 国产精品交换一区二区| 青青国产精品在线| 国产suv精品一区二区四| 大香蕉伊人色偷偷在线| 色性综合| 操死我干死我| 超碰精品| 欧美综合传媒| 黑人性欧美| 国产sv美女内射| 综合久久9| 天天日天天干天天操| 国产操逼网站亚洲一级黄色| 亚洲欧美色图小说| 成人八戒网站| 噜噜在线| 日韩懂色网| 夜夜 中文视频rt| 国产欧美日产一区二区三区 - 国产欧美日| 亚洲。天堂。日本在线观看| 久久99久久99精品天美传媒棢·纸:. | 亚州高清av| 欧美女同在线| 精品78| 日韩av免费一级电影| 日本无码1| 丁香九月激情| 超碰97男人| 亚州九九九精品视频| #NAME?| 激情五月天中文字幕色| 欧美亚洲色图另类国产| 伊人色综合网电影| 少妇毛片久久| 欧美成人精品一区二区男人蜜臀| av天堂电影网| 日婷婷| 中文字幕在线观看视频www| 小草精彩毛片| 久久一二三四五六七八九区| 国产一级高清免费观看| 午夜福利在线合集| 国产丝袜美女诱惑| 伊人96在线| 色婷婷一区二区三区久久| 久操com| 国产一区96在线| 精品一区二区三区四区外站 | 国产不卡免费在线视频| 欧美强奸一区二区诱惑| 伊人综合色网| 在线啊啊啊| 久久久久人妻二区精品叶可怜| 国产久久成人| 久操99| 91M一社| 国产黄片在线免费观看| 97在线国产精品| 小电影欧美91| 人人操人人叉人人插人人| 欧美AB在线观看| 五月天婷婷社区| 色伊人91| 久久爽爽精品| 99人妻碰碰碰久久久久禁片| 欧美色婷婷| 国产精品粉嫩福利在线| 亚洲国产婷婷在线播放| 亚洲AV高潮| 校园春色综合网| 五月激情小说| 亚洲欧美97√| 亚洲啪啪性视频| 97超级色碰碰| 久久性爱大全| 国产精品乱码久久久久久| 亚洲无码国产精品久久| 久草资源在线视频官方总站日韩丝袜美腿 | 97综合久第一页| 亚洲av综合色区无码一| 九一精品牛牛一区二区| 欧洲综合无码| 东北女人的毛片| 韩国三级一线观看久| 蜜色网色哟哟| 人妻少妇久久中文字幕一区二区 麻豆| 九九精品热| 91欧美经典| 欧美色色色| 精品视频久久| 久久色人体 | 久久 亚洲 日韩 人妻| 欧美性爱第一页久久| 67194无码不卡| 国产免费一区2区3区| 一区久久久二区| 84YTCOM性无码| 婷婷色香| 国产精品一区午夜福利| 91久久久久久久| 丁香六月东京热| 97日韩欧美亚洲| 五月丁香影院| 国产精品点击进入在线影院高清| 日韩av熟女一区二区三区成人| av亚欧| 伊蕉97蜜桃97狠狠综合干| 国产农村妇女精品一二区| 波多野结衣之双飞调教在线播放 | 国产又黄又爽| 欧美情色贴图| 日本在线视频导航| 91丝袜美女视频| 人妻美腿丝袜制服诱惑综合天堂-| 日韩精品色呦呦| 日韩人妻丝袜美腿中文| 欧洲色色| AA级电影三区| 春色综合免费| 超碰人人乐97| 成人八戒网站| 亚洲国产精品无石码久久| 欧美色图私拍91| 91 亚洲 欧美 日韩 国产 综合| 91性网| 大香蕉在线86| 97久久久| 欧美性爱免费短视频| 亚洲 中文 欧美 日韩 在线| 国产视频三区四区| 在线观看精品国产免费| 一区二区三区视频| 国产成人啪一区二区| 熟妇人妻精品一区二区视频色欲| 另类小说综合网| 九九九九一区| 97看操| 久久日韩毛| 久久国内| 一区二区免费电影久久| 久久九九97| s片在线观看| 亚洲 欧美 中文 日韩超碰| 国产精品一级特黄aaa大片在线观看 | 极品尤物自安慰| 女人精品内射国产99| 色婷婷一区二区三区久久午夜成人不| 内射中出日韩在线观看视频| 巨爆乳肉感一区二区三区竹菊影视 | 亚洲AV成人无码一区二区三区在线观看| 日本一级特级毛片视频| 美女黄色91| 日韩天天本| 亚洲 图片 欧美 色图| 九九综合久久| 人人射人人操人人摸| 日韩极品无码B| 久 久无码人妻AV| 97色欧洲| 欧美成人贴图| 亚洲男人天堂视频| 九一综合网| 人妻熟女一区二区三区在线| 91AV老熟女视频| 亚洲色吧网| 五月激情视频| 国产99 中文字幕日韩小视频| 久久亚洲AV无码专区首页| 久久亚洲中文字幕视频| 亚洲精品97| 91成人无码| 久久精品店| 91bbbbbb| 九九九九AV| 亚洲中文字幕熟女少妇一区二区| 玖玖综合视频| 国产一区二区在线看| 舔人妻中文免费视频| 黑人综合色| 久久噜噜噜精品国产亚洲综合| 爱爱久久| 天天日熟妇| 天天搞欧美| 91成人亚洲色图| 天天肏夜夜肏| 天天亚洲| 日本伦乱九九九综合| 97免费在线视频| 污色区网站| 欧美中文字幕日韩在线| 国产精品福利视频播放| 国产特级毛片AAAAAA高潮流水| 日韩黄色片子| 精品亚洲国产成人精品| 婷婷中文网| 色婷婷成人| 淮穴色AV| 国产精品亚洲四五区在线观看| 亚洲黄日韩无码专区| 美女91在线观看| 加勒比海成人视频网| 久久机热| 好吊色综合| 国产又色又粗又黄又爽| 青青伊人这里只有精品| 动漫爆乳3D奶水一区在线观看| 婷婷色导航| www.四虎在线| 蜜桃丰满熟妇av无码区不卡| 日韩综合第八区国产精品| 欧美高清色| 亚洲国产欧美一区二区潘金莲| 天天色综亚洲91污| 中文字幕精品一区二区精品| 日日日啊啊啊| julia ann久久| 久操精品| xxx0国产在线播放| 一区二区三区在线资源| 蘋果手機免費看成人Av| 97se亚洲| 亚洲精品成人动漫在线| 亚洲av强奸乱伦| 中文字幕55555| 夜夜嗨一区二区三区三州加勒比 | 吉川爱美98堂在线| 中文字幕av片| 中文AV制服乱伦| 国模精品娜娜一二三区| 看黑丝美女操逼青青网站| 欧美性五月| 欧美一级AAAAAAA| 亚洲国产日韩欧美熟妇在线| 一牛一区二区三区久久| 大香蕉中文网| 久久无码成人| 久久99黄色卞西瓜| 精品久久久一本一道| av网站免费线看| 五月婷婷基地| 人妻少妇精品久久久| 中文乱码字幕观看| 日韩人妻一区二区精品| 污污污8888| 亚洲在线| 丁香六月啪啪| 日韩中文9| 日本高清视频xxxx| 亚洲综合色男人网| 亚洲资源吧| 岛国大片在线观看网站入口| 久久久久久久久久久人妻| 少妇大屁屁| 久久91精品国产9丨久久分亭 | 免费久久一级毛片大黄| 国产亚洲人妻综合日韩 久久| 激情婷婷丁香| 亚洲国产精品有声| 粉嫩AV一区夜夜嗨| 亚洲日韩精品久久久久一区壹牛| 亚洲综合色网| 国产精品午夜福利| 亚洲第一无码播放立川理惠| 粉嫩久久久久| 免费公开人人操| 自拍视频大全亚洲专媒视频/一区二区三区| 综合色一区三区二区| 久操操| 亚洲人妻色图| 九九热精品在线| 91bbbbbb| 亚洲天堂电影精品一区| 蜜臀99久久国产| 激情五月天丁香| 亚洲性高潮| 五月天婷婷影院| 人人妻人人爽| 黄色网址久久精品欧美喷水| 97欧美综合| 97久久精品亚洲| 亚州综合色| 老女人爆菊| 国产精品人妻无码久久久互動交流| 久久久久13| 久久精品国产亚洲5555| 冬京热男人的天堂| 日韩免费福利在线观看| 亚欧免费| 久久6热精品99视频| 少妇xx精品| 蜜桃传媒视频第一区入口在线看| 亚欧国产无码精品在线| 亚洲综合在线91| 95精品在线| 国产强奸乱伦欧美| 97精品视频网站| 国内毛片国产专区二| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 日韩啊V| 98精品国产乱码久久久久久| 国产亚洲精品玖玖玖在线观看| 自拍第一页| 屌逼麻豆| 伊人久久综合影院| 蜜桃香蕉久草精品在线| 天天综合色电影| 免费的黄片有限公司| 是还免费视频1727我| 超碰人人超在线观看| 亚洲欧美另类图片| 西西美女视频网| 欧美色综合影院| 欧美天天| 天欧美在线| 又黄又爽在线观看视频| 欧美亚洲第一页| 一本一道久久综合久久| 欧美最婬乱婬爆婬性视频 | 亚洲无码99| 久久透逼视频| 少妇高潮一区二区三区在线| 中文字幕丝袜美腿| 麻豆啪啪啪视频| 国产精品人妻一区二区| 午夜福利 成人 91| 久久久穴999| 久久免费精彩视频| 亚洲国产婷婷在线播放| 欧美色图电影| 吊色| 麻豆九九九| 九九碰九九爱97超碰| 欧美成人A√在线一区二区| 中文字幕午夜精品久久久| 九九九九88| 婷婷色导航| 成人精品一区二区91毛片不卡| 精品天堂| 日韩中文9| 草久久久| 麻豆 欧美 日韩| aⅴ日韩成人电影av在线免费看av大全| 久久老女人| 91久热| 国产在线精品电影观看| WWW4虎| 开心五月婷婷| 亚洲精品国产精品乱码不99| 无码高清少妇久久| 国产精品久久久| 亚洲资源吧| 丝袜高跟澳门91视频| 美女淫穴| ss久久| 久久亚洲不卡| 美日韩成人| 亚欧高清在线| 操操逼操操逼操操逼逼| 日韩人妻一区二区| 97在线免费视频观看| 日本二区不卡| 9997se| 亚洲天堂中文字| 日本成人A片网站| 欧美十八禁视频| 国产精品久久久久久久无码AV| 中文字幕AV中出| 91美女精品| 国产精品农村妇女精品| 啊啊啊久久久视频| 牛牛久久国产精品视频一二三| 冬京热男人的天堂| 好湿好紧好爽 视频| 丁香激情网| 99色热| 天天操夜夜操| 99在线免费观看| 蜜臀少妇一区二区| 啊啊啊啊嗯嗯嗯用力好爽| 99热66| 亚洲国产第一页综合视频| 五月天婷婷色| 黄色污污污污污污网站| 亚洲欧美一区二区三区在钱蜜桃 | 亚州国产成人精品女人久久| 偷拍色图| 色综合1991| 2017天天操天天日| 亚洲丝袜少妇在线| 酒色综合网| 亚洲精品97| 免费少妇一区二区| 亚洲 一区二区 自拍| 久久一区二区三区入口| 99久久网站| 日本久操视频| 嗯嗯啊啊视频一区二区三区| 超碰1997| 久久久久久久久9| 激情小说亚洲| Av手机版天堂网| 国产激情av女片自拍| 婷婷色在线| 久久一二三级一一一| 青青草色插素人| 快播久久人人aV| 91亚州| 日韩亚洲精品一区二区| 久久夜黄色无码A级大片| 免費黃色視頻觀看一| 91蜜臀熟女| 日本五十路在线| 日日骚av| 黄色AV免费| 午夜高清成人在线视频| 久久久久13| 91欧美另类| 综合第一页| 99国产精品视频尤物| 久久婷婷亚洲| 综合网久久| 黑人性欧美| 中文字幕日韩电影人妻| 亚洲AV成人无码一区二区三区在线观看| 日韩草久视频| 亚洲熟久久| 国产精品九九九| 久草福利在线资源站| 欧美日韩国第一区| 欧美亚洲清纯| 亚洲熟女乱色一区二区三区| 国产农村一一级特黄毛片| 久草精品国产蜜臀| 国产一区在线看| 超碰97久久国| 9久在线视频只有精品| 在线v中文字幕一区二区三区 | 丰满熟女一区二区三区在线播放| 可能人人看人人摸| 欧美第一页性| 天天久久久久久| 少妇3P性爱自拍| 少妇诱惑视频| 欧美天天搞| 性爱av在线免费观看| 久偷拍| 欧美精品宗合| 91欧美| 国产91专区| 国产高清26uuu| 97国产亚洲中文在线| 欧美宗合色| 欧美成va视频网站| 国产乱子伦一区二区三区免看| 国产精品懂色tv影视免费观看| 婷婷色婷婷| 亚洲在钱| 可以免费观看的日韩av毛片| 91国产大片| 黄片视频观看| 天天综合亚在线| 欧美性夜| 91丨九色丨熟女高潮| 五月天AV资源| 亚洲国产高清福利视频| 91日产欧美| 天堂а√在线最新版在线| 四季AV综合网址| 精品无码欧美三级| 看看小穴| 久久国产成人精品国产成人亚洲| 亚洲无码99| 久久丝袜| wwwss在线观看| JuliaAnnXXX888| 激情五月综合| 九九九精品美女| 天天爽天天| 久夜视频| 九一屌逼| 澳门黄片一香蕉视频| 亚州精品丝袜-不卡成人免费| 亚洲一区二区三区春色| 嫩草 人人网精品| 囯戸精品高潮呻吟旡码| 美女91在线观看| 秋霞久久亚洲精品成人| 国产精品午夜福利视频| 亚洲九月丁香| K8久久久久| 国产玖玖| 欧美福利视频啊啊啊啊| 日韩午夜国产| 国产欧美一级在线观看| 婷婷激情五月综合| 99热国产| 亚洲自拍偷拍视频在线| 老师充足的奶水小说| 久久av一级av少妇av高潮| 蜜桃视频啊啊啊啊| 日本黄 R色 成 人网站| 999精品乱码| 嗯嗯嗯,草死我| 中文字幕一区电影在线观看| 久久久久极品| 亚洲丝袜二区| 欧美偷拍区| 91精品人妻五十路| 欧美亚洲日韩人妻在线观看| 日本爽爽爽爽爽爽免费视频| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 久久综合av| www久久久| 婷婷av在线中文字幕| 欧美玖玖爱免费玖玖| 综合色播| 91伊人久| 男人天堂毛片| 婷婷色香| 操逼操操操91| 国产在线视频午夜精华在| 18禁久极品美女久久哦哟呀!| 丁香五月婷婷基地| 国产在线综合福利网站| 天天草AV| caopeng97| 视频分类 国内精品| 亚洲精品国语在线播放| 国产熟女自拍| 日本裸体久久色噜噜| 欧美在线观看综合国产| 在线毛片片免费观看| 人人澡人人澡人人| 97内射偷拍| 婷婷六月色| 26uuu国产成人综合| 夜夜嗨视频| 亚洲欧美啪啪| 久操 高清| 欧美亚洲综合色| 天天日B夜夜干B时时操B| 人人搞人人插人人操| 久操免费电影| 久久久久久久六六| 青青草吊丝| 日日狠狠久久偷偷色综合免费| 国产大学生口爆吞精合集| 99久久久无码国产精品性啊聊| KK色在线影院| 骚女高跟AV在线| 天天综合影院91| 天天操狠狠日夜夜干超碰撸com视频在线观看| 国产精品黄色三级av| 久久成年片色大黄全免费网站| 中国91AV| 亚洲素人综合| 99re在线视频| 色娱乐色呦呦夜夜夜夜av| 九九精品美女高溯喷水 | 亚洲无码 国产无码| 粉嫩AV一区二区夜夜| 啊啊啊啊,啊啊好多水| 欧洲精品网| 北京美女一区二区| 美日韩一卡二卡三卡免费人妻精品| 色婷婷综合网站| 激情啪啪拍91| 乱伦av麻豆| www..com操老师| 国内毛片无遮挡国产| 欧美 精品国产制服第一页| 东京热综合久久一区二区| 日韩日韩日韩-国产乱码精品一区二区| 无码久| 天天综合网~91入口| 无码人妻精品一区二区三区九九| 9超碰免费| 91夜夜蜜桃臀1区2区3区| 国产性刺激| 色综合加勒比四四季| 69综合网| 青青草色情网站视频| 日韩精品99久久久久久中文字幕| 哈哈操电影AV| 夜夜騷av、一區二區| 五月天久久婷婷亚洲 | 成·人免费午夜在线观看| 高潮精品| 国产免费黄色一级大片| 97无码视频在线播放| 国产兽交视频在线播放| 国产午夜福利专区综合| 欧美日韩黄片精品在线| 久久精品欧美一区二区三区不卡| 亚洲图片激情综合另类| 99在线无码精品秘 入口黑人| 日逼国产| 精品久热| 亚洲色图综合| 国产精品麻豆免费视频| 国产成人无码啪| 久久婷婷综合国际产色怕| wwwss在线观看| 天天插天天舔舔天天干|