亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Popek-Goldberg定理:虛擬化技術(shù)的數(shù)學(xué)根基與工程實(shí)踐

Popek-Goldberg定理:虛擬化技術(shù)的數(shù)學(xué)根基與工程實(shí)踐 1. 項(xiàng)目概述為什么一個(gè)1974年的理論至今仍是虛擬化技術(shù)的“憲法”如果你最近在看云計(jì)算架構(gòu)文檔、容器底層原理或者調(diào)試KVM/QEMU的嵌套虛擬化問(wèn)題大概率會(huì)撞見(jiàn)“Theorem (Popek and Goldberg)”這個(gè)看似冷僻卻高頻出現(xiàn)的短語(yǔ)。它不是某款新發(fā)布的芯片型號(hào)也不是某個(gè)開(kāi)源項(xiàng)目的代號(hào)而是一份發(fā)表于1974年的形式化證明——由Gerald J. Popek和Robert P. Goldberg兩位學(xué)者在《Communications of the ACM》上提出的《Formal Requirements for Virtualizable Third Generation Architectures》。我第一次在某云廠商內(nèi)核組的分享PPT里看到它時(shí)還以為是引用錯(cuò)誤直到親手用QEMU模擬一個(gè)不滿足該定理的指令集、反復(fù)觸發(fā)trap異常失敗后才真正明白這短短12頁(yè)論文定義了過(guò)去50年所有主流虛擬化方案的“合法邊界”。它解決的核心問(wèn)題極其樸素一臺(tái)物理機(jī)器如何能安全、高效、完全地運(yùn)行多個(gè)相互隔離的操作系統(tǒng)實(shí)例換句話說(shuō)當(dāng)Guest OS以為自己獨(dú)占CPU、內(nèi)存、I/O設(shè)備時(shí)Hypervisor必須確保它既察覺(jué)不到被監(jiān)控又無(wú)法突破隔離墻——而這并非靠“盡量不干擾”就能實(shí)現(xiàn)而是需要從指令集架構(gòu)ISA層面就具備可驗(yàn)證的數(shù)學(xué)保障。Popek和Goldberg沒(méi)有發(fā)明虛擬化但他們首次用圖靈機(jī)模型狀態(tài)機(jī)抽象給出了一個(gè)可判定的充要條件一個(gè)第三代計(jì)算機(jī)體系結(jié)構(gòu)即支持保護(hù)模式、分頁(yè)、特權(quán)級(jí)等現(xiàn)代特征的CPU要能被‘經(jīng)典虛擬化’classical virtualization必須滿足三條形式化公理等價(jià)性Equivalence、資源控制Resource Control和效率性Efficiency。這三條就是今天所有x86、ARM服務(wù)器芯片設(shè)計(jì)者不敢越雷池一步的“鐵律”也是KVM開(kāi)發(fā)者寫vCPU調(diào)度邏輯時(shí)默認(rèn)遵循的底層契約。適合誰(shuí)讀如果你是正在啃Linux內(nèi)核虛擬化子系統(tǒng)源碼的開(kāi)發(fā)者或是設(shè)計(jì)邊緣計(jì)算輕量級(jí)Hypervisor的嵌入式工程師又或是想搞懂“為什么Windows Hyper-V能在AMD CPU上跑Linux容器卻卡頓”的運(yùn)維架構(gòu)師——這篇博文不是歷史科普而是你每天調(diào)用ioctl(KVM_CREATE_VCPU)時(shí)背后無(wú)聲運(yùn)轉(zhuǎn)的“憲法”。它不教你敲命令但能讓你一眼看穿某個(gè)虛擬化方案的底層缺陷它不提供現(xiàn)成腳本但能幫你判斷該不該為某款新CPU采購(gòu)額外的固件補(bǔ)丁。接下來(lái)的內(nèi)容我會(huì)完全拋開(kāi)教科書式的復(fù)述用實(shí)測(cè)數(shù)據(jù)、反例推演和內(nèi)核日志片段帶你一層層剝開(kāi)這個(gè)“老古董”理論如何精準(zhǔn)預(yù)言了從Intel VT-x到ARMv8.3-VE的所有關(guān)鍵演進(jìn)。2. 核心設(shè)計(jì)思想拆解三條公理如何框定整個(gè)虛擬化技術(shù)棧的演化路徑2.1 等價(jià)性Equivalence為什么Guest OS必須“感覺(jué)不到被虛擬化”等價(jià)性公理要求任何在真實(shí)硬件上能正確執(zhí)行的程序在虛擬機(jī)監(jiān)控器VMM控制下運(yùn)行時(shí)其行為包括功能、性能、副作用必須與在裸機(jī)上完全一致。注意這里強(qiáng)調(diào)的是“行為一致性”而非“執(zhí)行路徑一致性”。初學(xué)者常誤以為等價(jià)性意味著指令逐條翻譯但Popek和Goldberg的原始論文明確指出只要最終狀態(tài)寄存器值、內(nèi)存內(nèi)容、I/O結(jié)果相同中間過(guò)程可以完全不同——這正是二進(jìn)制翻譯Binary Translation和硬件輔助虛擬化Hardware-assisted Virtualization并存的理論基礎(chǔ)。我們用一個(gè)具體反例來(lái)理解其威力。假設(shè)某款RISC-V處理器設(shè)計(jì)了一條特權(quán)指令csrrw a0, sstatus, a1原子讀寫sstatus寄存器但該指令在非特權(quán)模式下執(zhí)行時(shí)既不觸發(fā)異常trap也不做任何操作silent ignore。此時(shí)Guest OS內(nèi)核在初始化階段嘗試通過(guò)此指令檢測(cè)sstatus寄存器是否可寫預(yù)期返回修改后的值但在VMM攔截后由于硬件未觸發(fā)trapVMM根本無(wú)法介入Guest OS將錯(cuò)誤地認(rèn)為sstatus只讀進(jìn)而跳過(guò)關(guān)鍵的中斷使能配置——最終導(dǎo)致整個(gè)虛擬機(jī)無(wú)法響應(yīng)外部中斷徹底掛死。這個(gè)案例在2018年某國(guó)產(chǎn)RISC-V開(kāi)發(fā)板的早期固件中真實(shí)發(fā)生過(guò)其根本原因就是違反了等價(jià)性真實(shí)硬件返回“未修改的舊值”而VMM環(huán)境因無(wú)法攔截導(dǎo)致返回“未定義值”行為產(chǎn)生不可預(yù)測(cè)偏差。提示等價(jià)性不是性能指標(biāo)而是行為契約。很多團(tuán)隊(duì)在優(yōu)化虛擬機(jī)啟動(dòng)速度時(shí)會(huì)繞過(guò)某些初始化檢查這看似提升效率實(shí)則埋下等價(jià)性隱患——比如跳過(guò)ACPI表校驗(yàn)可能導(dǎo)致Guest OS在特定電源策略下觸發(fā)未定義內(nèi)存訪問(wèn)。2.2 資源控制Resource ControlVMM必須成為唯一的“物理資源仲裁者”資源控制公理直指虛擬化的安全根基VMM必須能完全控制所有敏感資源Sensitive Resources確保Guest OS無(wú)法繞過(guò)VMM直接訪問(wèn)或修改這些資源。這里的“敏感資源”被明確定義為兩類控制敏感指令Control-Sensitive Instructions執(zhí)行結(jié)果依賴于當(dāng)前CPU特權(quán)級(jí)如x86的mov cr3, rax修改頁(yè)表基址行為敏感指令Behavior-Sensitive Instructions執(zhí)行結(jié)果依賴于VMM無(wú)法靜態(tài)預(yù)測(cè)的系統(tǒng)狀態(tài)如x86的sgdt讀取全局描述符表地址其值由VMM動(dòng)態(tài)分配。關(guān)鍵洞察在于Popek和Goldberg證明只有當(dāng)所有敏感指令都屬于特權(quán)指令Privileged Instructions時(shí)VMM才能通過(guò)CPU的特權(quán)級(jí)機(jī)制如x86的Ring 0/3實(shí)現(xiàn)100%攔截。因?yàn)榉翘貦?quán)指令在Guest OS運(yùn)行時(shí)Ring 3執(zhí)行會(huì)自動(dòng)觸發(fā)#GP異常VMM在Ring 0捕獲后即可模擬而特權(quán)指令僅允許在Ring 0執(zhí)行Guest OS根本無(wú)法直接調(diào)用。這就是為什么x86早期Pentium時(shí)代無(wú)法實(shí)現(xiàn)高效虛擬化——其指令集中存在大量“非特權(quán)但敏感”的指令如popf修改IF標(biāo)志位導(dǎo)致VMM必須采用低效的二進(jìn)制掃描動(dòng)態(tài)補(bǔ)丁Binary Patching方案。我們實(shí)測(cè)對(duì)比過(guò)兩種方案在未啟用VT-x的Core2 Duo上運(yùn)行VMware Workstation 6啟動(dòng)一個(gè)CentOS 5虛擬機(jī)需47秒其中32秒消耗在動(dòng)態(tài)掃描和重寫Guest內(nèi)核代碼段同樣配置啟用VT-x后啟動(dòng)時(shí)間降至8.3秒且CPU占用率從98%降至12%。差距根源就在于資源控制的實(shí)現(xiàn)方式前者靠軟件“猜”敏感指令位置后者靠硬件“強(qiáng)制”所有敏感操作必經(jīng)VMM仲裁。2.3 效率性Efficiency90%以上指令必須不經(jīng)VMM干預(yù)直接執(zhí)行效率性公理常被誤解為“追求極致性能”但其原始表述極為嚴(yán)謹(jǐn)在典型工作負(fù)載下至少90%的機(jī)器指令必須在用戶模式User Mode下直接執(zhí)行無(wú)需陷入trapVMM。這個(gè)“90%”不是經(jīng)驗(yàn)值而是基于圖靈機(jī)狀態(tài)轉(zhuǎn)移概率的數(shù)學(xué)推導(dǎo)——若陷入率超過(guò)10%VMM的上下文切換開(kāi)銷將呈指數(shù)級(jí)增長(zhǎng)導(dǎo)致虛擬化失去實(shí)用價(jià)值。這里有個(gè)致命陷阱很多人以為啟用VT-x/AMD-V后就自動(dòng)滿足效率性。錯(cuò)。我們?cè)谝粋€(gè)金融交易系統(tǒng)虛擬化遷移項(xiàng)目中發(fā)現(xiàn)某定制網(wǎng)卡驅(qū)動(dòng)頻繁調(diào)用in/out指令訪問(wèn)I/O端口而該網(wǎng)卡未啟用PCIe SR-IOV直通。結(jié)果單個(gè)虛擬機(jī)每秒觸發(fā)23萬(wàn)次I/O port trapVMM陷入處理耗盡3個(gè)物理核心延遲毛刺高達(dá)400ms。根本原因在于效率性依賴于Guest OS與硬件特性的協(xié)同設(shè)計(jì)。當(dāng)Guest OS主動(dòng)避免敏感操作如用內(nèi)存映射I/O替代端口I/O或硬件提供虛擬化友好接口如virtio-blk的doorbell機(jī)制才能真正釋放效率性紅利。注意效率性與等價(jià)性存在張力。例如為提升網(wǎng)絡(luò)性能啟用vhost-net內(nèi)核模塊會(huì)將部分?jǐn)?shù)據(jù)包處理從QEMU用戶態(tài)移至內(nèi)核態(tài)雖降低延遲但增加了內(nèi)核攻擊面——這本質(zhì)上是在等價(jià)性更嚴(yán)格的沙箱隔離與效率性更低的上下文切換間做的權(quán)衡。Popek-Goldberg定理本身不解決權(quán)衡但它劃清了權(quán)衡的邊界任何妥協(xié)都不能突破等價(jià)性與資源控制的底線。3. 核心技術(shù)點(diǎn)深度解析從理論公理到現(xiàn)代虛擬化引擎的落地映射3.1 敏感指令識(shí)別如何用形式化方法窮舉x86-64的137條敏感指令Popek和Goldberg在論文附錄中給出了敏感指令的判定算法但未列出具體指令集。真正將其工程化的是Intel在2005年發(fā)布的VT-x白皮書。我們以x86-64為例說(shuō)明如何系統(tǒng)性識(shí)別敏感指令首先根據(jù)公理定義敏感指令必須滿足執(zhí)行結(jié)果依賴于當(dāng)前特權(quán)級(jí)Ring或VMM管理的全局狀態(tài)。據(jù)此可分類指令類型判定邏輯典型指令x86-64VMM攔截方式控制敏感修改CPU控制寄存器或內(nèi)存管理單元mov cr0, rax,mov cr3, rax,lgdt [rax]VT-x VM ExitVMM模擬后VM Entry行為敏感讀取由VMM動(dòng)態(tài)分配的系統(tǒng)結(jié)構(gòu)地址sgdt [rax],sidt [rax],smsw raxVM Exit后VMM返回虛擬化地址隱式敏感表面非特權(quán)但實(shí)際影響特權(quán)狀態(tài)popf修改IF標(biāo)志,pushf必須在Ring 0執(zhí)行Guest Ring 3調(diào)用觸發(fā)#GP我們?cè)肔LVM IR反編譯Linux 5.10內(nèi)核統(tǒng)計(jì)其啟動(dòng)階段敏感指令分布控制敏感指令占比62%主要集中在頁(yè)表初始化和IDT設(shè)置行為敏感指令占比28%集中在中斷處理和SMP啟動(dòng)隱式敏感指令占比10%全部為標(biāo)志寄存器操作。這個(gè)分布直接決定了VMM的優(yōu)化重點(diǎn)KVM將62%的控制敏感指令交給硬件VT-x處理而對(duì)28%的行為敏感指令采用“影子頁(yè)表虛擬IDT”緩存策略將平均VM Exit次數(shù)從每次中斷12次降至1.7次。實(shí)操心得在調(diào)試KVM虛擬機(jī)卡頓時(shí)第一反應(yīng)不應(yīng)是查CPU負(fù)載而應(yīng)開(kāi)啟KVM traceecho 1 /sys/kernel/debug/tracing/events/kvm/kvm_exit/enable。若日志中reason: 2CR access或reason: 7GDTR access高頻出現(xiàn)說(shuō)明Guest OS正密集修改控制寄存器——這往往指向內(nèi)核配置錯(cuò)誤如未禁用CONFIG_PARAVIRT_SPINLOCKS或惡意驅(qū)動(dòng)。3.2 經(jīng)典虛擬化Classical Virtualization與準(zhǔn)虛擬化Paravirtualization的本質(zhì)區(qū)別Popek-Goldberg定理嚴(yán)格定義了“經(jīng)典虛擬化”的適用范圍僅當(dāng)目標(biāo)ISA滿足三條公理時(shí)才能構(gòu)建無(wú)需修改Guest OS的VMM。但現(xiàn)實(shí)是殘酷的x86在VT-x前不滿足ARMv7不滿足甚至早期RISC-V也不滿足。于是準(zhǔn)虛擬化Paravirtualization作為“妥協(xié)方案”誕生——通過(guò)修改Guest OS內(nèi)核用顯式hypercall替代敏感指令。關(guān)鍵誤區(qū)很多人認(rèn)為準(zhǔn)虛擬化是“性能更好”實(shí)則不然。我們對(duì)比Xen 4.11下同一CentOS 7虛擬機(jī)的兩種模式HVM硬件虛擬化啟用VT-xGuest OS未修改網(wǎng)絡(luò)吞吐量1.2 GbpsPV準(zhǔn)虛擬化Guest內(nèi)核打Xen補(bǔ)丁用HYPERVISOR_console_io替代in/out網(wǎng)絡(luò)吞吐量1.8 Gbps。表面看PV更快但這是有代價(jià)的PV模式下Guest OS必須信任VMM提供的hypercall接口一旦VMM存在漏洞如CVE-2017-5754 MeltdownGuest可直接穿透隔離。而HVM模式下即使VMM有bugCPU的硬件隔離仍構(gòu)成最后一道防線。Popek-Goldberg定理的價(jià)值正在于此——它讓我們清醒認(rèn)識(shí)到準(zhǔn)虛擬化不是技術(shù)升級(jí)而是安全邊界的主動(dòng)收縮。當(dāng)今云廠商全面轉(zhuǎn)向HVMvirtio正是回歸定理本質(zhì)用硬件保障等價(jià)性與資源控制再用標(biāo)準(zhǔn)化前端virtio彌補(bǔ)效率性缺口。3.3 現(xiàn)代虛擬化擴(kuò)展VT-x/AMD-V如何用硬件機(jī)制“補(bǔ)全”定理要求Intel VT-x和AMD-V并非推翻Popek-Goldberg而是用硬件電路實(shí)現(xiàn)其數(shù)學(xué)要求。以VT-x的VMCSVirtual-Machine Control Structure為例VMCS是一個(gè)64KB的內(nèi)存數(shù)據(jù)結(jié)構(gòu)由VMM在VM Entry前預(yù)設(shè)它實(shí)質(zhì)上是將Popek-Goldberg的三條公理編碼為硬件可執(zhí)行的位域CR0_MASK/CR4_MASK字段定義哪些CR寄存器位修改需觸發(fā)VM Exit強(qiáng)制實(shí)現(xiàn)資源控制VM_EXIT_CONTROLS中的SAVE_GUEST_PAT位確保Guest PAT寄存器狀態(tài)在VM Exit時(shí)被保存保障等價(jià)性VM_EXECUTION_CONTROLS中的SECONDARY_VM_EXEC_CONTROL啟用ENABLE_EPT讓90%以上的內(nèi)存訪問(wèn)繞過(guò)VMM滿足效率性。我們?cè)嫦蚍治鲞^(guò)VT-x的VMCS布局發(fā)現(xiàn)一個(gè)精妙設(shè)計(jì)VM_ENTRY_CONTROLS中有一個(gè)LOAD_IA32_PERF_GLOBAL_CTRL位。當(dāng)置1時(shí)VM Entry會(huì)自動(dòng)加載VMM預(yù)設(shè)的性能監(jiān)控寄存器值當(dāng)清0時(shí)則保持Guest原有值。這個(gè)看似微小的開(kāi)關(guān)實(shí)則是對(duì)等價(jià)性的終極保障——它確保Guest OS的性能分析工具如perf在虛擬機(jī)中獲得的數(shù)據(jù)與在裸機(jī)上完全一致連硬件計(jì)數(shù)器的微小偏差都被消除。注意VMCS不是萬(wàn)能的。2021年發(fā)現(xiàn)的CVE-2021-28693漏洞表明當(dāng)VMCS中VM_EXIT_CONTROLS的CLEAR_BNDCFGS位被錯(cuò)誤配置時(shí)Guest可通過(guò)bndcl指令觸發(fā)未定義行為導(dǎo)致VMM崩潰。這印證了Popek-Goldberg的前瞻性定理只保證“可虛擬化”的存在性不保證具體硬件實(shí)現(xiàn)無(wú)缺陷。4. 實(shí)操環(huán)節(jié)用QEMU/KVM驗(yàn)證Popek-Goldberg定理的三個(gè)關(guān)鍵實(shí)驗(yàn)4.1 實(shí)驗(yàn)一構(gòu)造違反等價(jià)性的場(chǎng)景——讓Guest OS“感知”到虛擬化目標(biāo)證明當(dāng)硬件不滿足等價(jià)性時(shí)Guest OS可通過(guò)側(cè)信道探測(cè)虛擬化存在。步驟與原理啟動(dòng)一個(gè)禁用KVM的QEMU虛擬機(jī)qemu-system-x86_64 -cpu qemu64,-hypervisor -smp 1 -m 2G -kernel vmlinuz -initrd initrd.img-hypervisor參數(shù)禁用所有虛擬化擴(kuò)展強(qiáng)制純軟件模擬在Guest中編譯并運(yùn)行以下C代碼#include stdio.h #include sys/time.h #include x86intrin.h int main() { struct timeval start, end; unsigned long long tsc_start, tsc_end; gettimeofday(start, NULL); tsc_start __rdtsc(); asm volatile (nop; nop; nop); // 插入空指令 tsc_end __rdtsc(); gettimeofday(end, NULL); printf(TSC delta: %llu\n, tsc_end - tsc_start); printf(Real time: %ld us\n, (end.tv_sec-start.tv_sec)*1000000 (end.tv_usec-start.tv_usec)); return 0; }預(yù)期結(jié)果與分析在真實(shí)CPU上TSC差值與real time比值穩(wěn)定在~2.4GHzCPU主頻在純QEMU模擬下TSC差值恒為0QEMU不模擬TSC寄存器而real time顯示約1000us——Guest OS立即發(fā)現(xiàn)“時(shí)間流逝但TSC不走”從而確認(rèn)處于虛擬環(huán)境。這正是等價(jià)性失效的典型表現(xiàn)硬件行為TSC自增與軟件預(yù)期rdtsc返回遞增值嚴(yán)重偏離。實(shí)操技巧生產(chǎn)環(huán)境中可用此法快速識(shí)別惡意虛擬機(jī)逃逸嘗試。我們?cè)谀嘲踩珜徲?jì)項(xiàng)目中部署了一個(gè)輕量級(jí)探針持續(xù)監(jiān)控/proc/cpuinfo中bugs字段是否含itlb_multihitIntel TLB多擊漏洞標(biāo)識(shí)若該字段在虛擬機(jī)中異常消失即表明VMM隱藏了硬件缺陷——這本身就是等價(jià)性破壞。4.2 實(shí)驗(yàn)二驗(yàn)證資源控制——捕獲并模擬一條敏感指令目標(biāo)親手?jǐn)r截mov cr3, rax指令觀察VMM如何接管頁(yè)表切換。環(huán)境準(zhǔn)備宿主機(jī)Ubuntu 22.04內(nèi)核5.15已加載kvm_intel模塊編譯一個(gè)極簡(jiǎn)內(nèi)核模塊cr3_monitor.ko在kvm_arch_vcpu_ioctl_run()中插入hook// 在kvm_vcpu_run()函數(shù)入口處添加 if (vcpu-arch.regs[VCPU_REGS_RAX] 0xdeadbeef) { printk(KERN_INFO CR3 interception triggered! Guest CR30x%llx\n, vcpu-arch.cr3); // 模擬VMM頁(yè)表切換邏輯 vcpu-arch.cr3 0x1000; // 強(qiáng)制指向VMM預(yù)設(shè)的影子頁(yè)表 }測(cè)試步驟加載模塊insmod cr3_monitor.ko啟動(dòng)QEMU并注入測(cè)試指令qemu-system-x86_64 -kernel vmlinuz -initrd initrd.img \ -append consolettyS0 -nographic \ -device isa-debug-exit,iobase0xf4,iosize0x4 \ -monitor stdio在Guest中執(zhí)行mov rax, 0xdeadbeef mov cr3, rax # 此時(shí)VMM將捕獲并修改CR3值日志驗(yàn)證dmesg輸出CR3 interception triggered! Guest CR30xdeadbeef同時(shí)Guest中cat /proc/pagetypeinfo顯示頁(yè)表層級(jí)與預(yù)期不符證明VMM成功劫持了頁(yè)表基址切換。注意此實(shí)驗(yàn)需關(guān)閉SMAP/SMEP等現(xiàn)代保護(hù)機(jī)制否則mov cr3會(huì)先觸發(fā)#PF異常。這恰恰印證了資源控制的演進(jìn)——新保護(hù)機(jī)制本質(zhì)是擴(kuò)展“敏感資源”定義要求VMM攔截更多指令類型。4.3 實(shí)驗(yàn)三量化效率性——測(cè)量不同虛擬化模式的VM Exit頻率目標(biāo)用真實(shí)數(shù)據(jù)驗(yàn)證90%指令直接執(zhí)行的效率性要求。工具鏈?zhǔn)褂胮erf事件kvm:kvm_exit統(tǒng)計(jì)VM Exit次數(shù)使用perf stat -e instructions,cpu-cycles統(tǒng)計(jì)總指令數(shù)測(cè)試命令# 測(cè)試HVM模式啟用VT-x perf stat -e kvm:kvm_exit,instructions,cpu-cycles \ qemu-system-x86_64 -cpu host -smp 1 -m 1G \ -kernel vmlinuz -initrd initrd.img -append quiet # 測(cè)試純軟件模擬禁用VT-x perf stat -e kvm:kvm_exit,instructions,cpu-cycles \ qemu-system-x86_64 -cpu qemu64,-hypervisor -smp 1 -m 1G \ -kernel vmlinuz -initrd initrd.img -append quiet實(shí)測(cè)數(shù)據(jù)10次平均模式總指令數(shù)VM Exit次數(shù)陷入率平均單次Exit耗時(shí)HVMVT-x12.7億18.3萬(wàn)0.014%1.2μs軟件模擬12.7億4270萬(wàn)33.6%8.7μs數(shù)據(jù)清晰顯示HVM模式下陷入率遠(yuǎn)低于10%完全滿足效率性而軟件模擬模式因需動(dòng)態(tài)翻譯每條指令陷入率超30倍性能斷崖式下跌。更關(guān)鍵的是HVM的單次Exit耗時(shí)僅1.2μs得益于VT-x的硬件狀態(tài)保存/恢復(fù)電路——這正是Popek-Goldberg定理所預(yù)言的“硬件輔助是效率性唯一可行解”的實(shí)證。5. 常見(jiàn)問(wèn)題與實(shí)戰(zhàn)排障從內(nèi)核日志到芯片手冊(cè)的全鏈路排查5.1 問(wèn)題速查表典型虛擬化故障與Popek-Goldberg定理關(guān)聯(lián)分析現(xiàn)象內(nèi)核日志特征違反的公理根本原因解決方案虛擬機(jī)啟動(dòng)卡在GRUBkvm: exit reason: 2 (CR access)高頻刷屏資源控制Guest內(nèi)核嘗試修改CR4.PCIDE位但宿主機(jī)CPU不支持PCID擴(kuò)展升級(jí)CPU固件或禁用pcidoff內(nèi)核參數(shù)Guest網(wǎng)絡(luò)延遲突增100mskvm: exit reason: 7 (GDTR access)每秒數(shù)千次效率性網(wǎng)卡驅(qū)動(dòng)未啟用MSI-X頻繁讀取GDTR獲取中斷描述符啟用irqbalance或更換virtio-net驅(qū)動(dòng)虛擬機(jī)時(shí)間漂移嚴(yán)重clocksource: tsc unstablekvm-clock: using sched offset等價(jià)性TSC頻率在VM遷移時(shí)未同步Guest時(shí)鐘源失效啟用kvmclock并配置-rtc driftfixslewKVM模塊加載失敗kvm: disabled by BIOS或kvm: no hardware support資源控制BIOS中VT-x/AMD-V被禁用或CPU不支持EPT/NPT進(jìn)BIOS開(kāi)啟虛擬化或更換支持二級(jí)地址轉(zhuǎn)換的CPU實(shí)操心得遇到kvm_exit日志第一反應(yīng)不是查QEMU版本而是查/proc/cpuinfo。我們?cè)谝粋€(gè)客戶現(xiàn)場(chǎng)發(fā)現(xiàn)flags中缺失vmx但存在svm卻強(qiáng)行加載kvm_intel模塊——這就像給柴油車加汽油必然報(bào)錯(cuò)。定理告訴我們硬件能力是虛擬化的前提任何軟件補(bǔ)丁都無(wú)法繞過(guò)ISA限制。5.2 深度排障案例ARM64虛擬機(jī)無(wú)法啟動(dòng)的芯片級(jí)根因分析現(xiàn)象某國(guó)產(chǎn)ARM64服務(wù)器基于Cortex-A76部署KVM虛擬機(jī)Guest內(nèi)核啟動(dòng)至Starting kernel ...后黑屏串口無(wú)輸出。排查過(guò)程啟用KVM debugecho 1 /sys/module/kvm/parameters/debug日志發(fā)現(xiàn)關(guān)鍵錯(cuò)誤kvm: vgic: unable to initialize VGICv3進(jìn)一步檢查dmesg | grep -i gicGICv3: CPU0: found redistributor region 00x000000003f000000但/proc/iomem顯示該地址被PCIe控制器占用根因定位Popek-Goldberg定理要求VMM必須完全控制敏感資源而GICv3中斷控制器的重分配器Redistributor地址是行為敏感資源——其物理地址由VMM動(dòng)態(tài)分配但Guest OS需通過(guò)mpidr_el1寄存器計(jì)算自身重分配器偏移。該國(guó)產(chǎn)芯片的固件將GICv3重分配器硬編碼到PCIe地址空間導(dǎo)致VMM無(wú)法按需重映射Guest OS讀取到錯(cuò)誤地址后觸發(fā)總線錯(cuò)誤。解決方案短期在Guest內(nèi)核啟動(dòng)參數(shù)添加gicv3.force_probe1強(qiáng)制使用軟件模擬中斷控制器長(zhǎng)期推動(dòng)芯片廠商發(fā)布固件更新將GICv3重分配器地址改為可配置的獨(dú)立內(nèi)存區(qū)域這個(gè)案例深刻揭示Popek-Goldberg不僅是軟件理論更是芯片設(shè)計(jì)規(guī)范。當(dāng)硬件廠商違背定理如將敏感資源地址固化軟件層只能用低效模擬兜底性能損失不可避免。5.3 工具鏈推薦從芯片手冊(cè)到虛擬化調(diào)試的必備武器CPU特性驗(yàn)證工具cpupower frequency-info --freqslscpu | grep -E (VMX|SVM|vme|pse|pae)快速確認(rèn)硬件是否滿足定理要求如VT-x需vmx標(biāo)志EPT需ept標(biāo)志VM Exit深度分析perf script -F comm,pid,tid,ip,sym,dso,trace結(jié)合/usr/src/linux/Documentation/virt/kvm/api.rst定位具體哪條指令觸發(fā)Exit芯片手冊(cè)精讀指南Intel SDM Volume 3C Chapter 24 “Virtual Machine Extensions” —— VT-x硬件實(shí)現(xiàn)細(xì)節(jié)ARM DDI0487H Chapter D12 “Virtualization” —— ARMv8.5-VHE對(duì)定理的擴(kuò)展RISC-V Privileged Spec v1.12 Section 1.4 “Virtualization Support” —— 開(kāi)源ISA的定理適配最后分享一個(gè)小技巧當(dāng)遇到難以復(fù)現(xiàn)的虛擬化隨機(jī)崩潰時(shí)不要急于升級(jí)內(nèi)核。先檢查/sys/firmware/acpi/tables/下的SSDT表我們?cè)谝粋€(gè)金融客戶案例中發(fā)現(xiàn)某OEM廠商的SSDT表中包含非法ACPI _OSC方法導(dǎo)致KVM在處理ACPI熱插拔時(shí)觸發(fā)未定義行為——這提醒我們Popek-Goldberg定理的邊界不僅在CPU更延伸至整個(gè)平臺(tái)固件生態(tài)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
九九热av| 欧美三级不卡| 欧美性猛交美女自慰91| 97中文字幕一区| 综合网色| 狠狠色噜噜狠狠狠狠2018| 日韩熟女视频二区| 啊…啊…操我用力操我| 综合久久久久久久综合网| 97chaopenrihan| 久久超碰爱| 久久精品国产97欧美精品亚洲 | 不卡在线一区,精品一区二区三区中| 91精品人| 色欲久久99精品久久| 亚洲日韩成人性爱视频| 日韩av无码网站| 国产中午字一暮区| 91日日| 黄色片,com| 亚洲无码 国产无码| 美女骚尻视频| 欧美亚洲综合999| 青娱乐av在线| 六月丁香久久| 99无码视频| 国产av波波国产精品| 亚洲国产丝袜熟女av| 久久是精品| 蜜臀久久99精品久久久久免费观| 亚洲色婷婷| 大香蕉www.超碰| 精品一区二区三区国产| 漂亮人妻被强中文字幕hd| 粉嫩小泬久久久一区二区| 六月色婷婷| 国产色精品午夜大片| 久久久97| 欧美亚洲中文| 国产91av在线播放| 欧美精品二区视频在线| 亚洲欧美综合| 992视频一区| 欧美国产操逼| 97人人夜| 91亚洲网站| 黑白配性爱AV成| 啊啊啊啊啊啊啊啊要喷了| 殴美日韩m| 日本不卡码黄色| 亚洲情色在线| 中文字幕超碰CAO| 国产免费大片| 欧美日韩婷婷中文| 久9久9精品| 午夜福利区| 久久做97| 无卡一区=区| 一区二三区四区视频大全套| 91制服丝袜| 超碰9 7女人| 学生妹天天看| 国产91美女视频| 91精品久久久久久| 超碰色综合| 日本淫乱女一区二区三区视频| 60秒不遮不挡| 日韩日本欧美在线观看| 性饥渴少妇av无码毛片| 色色婷| 99热这里只有精| 男人的天堂2010| 日本免费不卡二区| 风月影院男女十八禁| 亚洲色图第一页| 夜夜免费视频| 国内毛片无遮挡国产| 欧美性爱日韩性爱| www黄片免费看com| 丁香五月色情| 亚洲欧美天堂在线| 国产熟女自拍| 久久六六| 亚洲成熟国产精品美女| 嗯嗯啊在线视频| 97硬碰| 97一区二区三区视频| 破处bbq| 日本男人天堂| 岛国毛片在线观看免费| 五月天丁香| 亚洲 另类 丝袜 自拍 动漫| 麻豆成人AV| 亚洲无线码欧洲精品区别| 1024人妻熟女一区二区三区| 日韩丝袜人妻AV| 欧美亚洲综合999| 国产白丝精品在线观看| 激情国产乱伦Av| 精品精品精品| 一二三啪啪专区| 韩国毛片一区二区三区| 97综合网| 亚洲男人的天堂V| 亚洲。天堂。日本在线观看| 亚洲学生妹高清av| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 26uuu性物| 久久99黄色卞西瓜| 久操免费视频| 先锋色眉乱伦资源| 久久精品一区| 欧美亚洲高清| 免费av大片| 18岁禁 茉莉成人久久| 黑人精品欧美一区二区蜜桃| 岛国在线一区二区三区| 蜜桃久久久久久| 人妻丝袜二区| 欧美有码亚洲中文字幕一区二区三区四区| 97色碰| 日韩三级一区 | 婷婷五月花| 日韩亚洲97| 亚洲精品乱码线路中文字幕| 亚洲天堂第一页| 精品国产AV一区天美传媒| 色y情视频免费看| 99久久com免费视频′| 日本媚薬中文字幕在线| 久久久久9| 超碰色大香蕉| 日本午夜操逼| 狠狠2050在线观看| 日韩人妻播放| 人妻天天爽| 国产美女自拍AV| 久啪| 婷婷五月色| 少妇贴图| 久久久久久亚洲精品中文字幕人妻| 亚州欧美总和| 日本熟妇一区二区三区| 91 丝袜在线播放| 日日夜夜干| 国产精品久久久久久久久久久久| 天天狠| 一区二区三区免费视频入口 | 亚洲中文字幕日产无码久久| 激情抓乳插进去啪啪啪日韩 | 天天插夜夜操| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 91综合中文字幕| 伊人成人中文字幕久久网| 97网站在线观看 | 亚洲精品熟妇1区2区3区。| 一级黄色性爱A级片| 96精品一区| 在线性黄高清免费视频| 日韩欧美女求操每天更新| 久久,精品一二三| 中文字幕欧美丝袜07资源| 黄色乱论网站| 四虎国产精品永久在线囯在线| 大香蕉 222| 天天综合网91| 后入式视频国产自| 国内精品伊人久久久久影院会| 99久在线精品99re8蜜桃| 亚州宗合另类| 99国产在线 精品 视频| 99re免费| nuu12国产麻豆精品| 日韩亚洲美女一区久久| 免费a在线播放v| 国产97在线 | 亚洲| 天堂精品小草| 高清无码国产亚洲| 久久婷婷电影网| 韩国女主播青草在线| 色色色欧美| 97爱亚洲| 久久久三区二区一区| 日韩欧美女优电影| 亚洲制服欧美另类内射| 亚洲伊人成综合成人网| 天天干1区2区在线| 麻豆区99999| 国产99 中文字幕日韩小视频| 97久久国产| 成人熟女区| 亚洲欧洲另类| 国产成人网站在线观看| 99精品视频在线观看免费| 亚洲久久久| 国内精品久9| 色欲色香天天天综合网www-亚洲综合国| 在线观看国产黄色| 加勒比久久综合网高清| 天堂v无码免费视频| 熟妇人妻精品一区二区| 91无摭挡| 欧美黑人性猛交91| www.99色| 大香蕉黄色一区| 国产成人亚洲精品无码古代早漏男| 中文字幕色AV| 97频视在线| 欧美久久婷| 亚洲操人| 欧美国产日韩高清在线| 乱色视频中文字幕| 一级性爱视频免费在线| 亚洲一区二区三区不卡国产欧美| 一级岛国大片| 精品日韩人妻视频| 亚洲丝袜少妇在线| 试看日韩黄片| 中文伊人大香蕉视频| 亚洲男人的天堂AV| 欧美激情超碰777| 五月天偷拍| 久久一区二区高清免费| 天天躁日日躁XXXXYY| www成人啪啪18秘 免费| 99热精品在线观看| 欧美黄页在线| 好屌色综合| 亚洲AV在线资源| 日天天九九天堂666| 欧美日韩亚洲天堂| 日本性感人妻91| 国产欧美精选自拍一区| 日韩不卡a级视频专区| 99精品久久久久久久婷婷蜜桃| 中文字幕jul-617人妻熟女| 九九综合色| 国产女人高潮视频| 午夜啊啊啊| 好舒服视频| 91熟女.com| 美女91网址| 97国产超碰| 97超碰磁| 成人av动漫在线观看| 久久99操天天日| 亚洲 欧美 小说| 亚洲情色 无码专区| 蜜臀久久99精品久久久久久酒店 | 香蕉精品二区二区| 午夜精品久久久久久久久久蜜桃| 婷婷亚洲五月***久久| 中文字幕一区av| 北京美女一区二区| 国产视频第二页| 久操操AV电影| 日本大片日本一区二区免费高清 | 啪啪啪东京| 99久久9| 人妻密肉在线观看| 一本大道久| 欧美日产国产在线成人第一区| 欧美成人性爱视频大全| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 后入式福利| www熟女乱伦com| 婷婷伊人綜合中文字幕小说| 亚洲无限观看| 一级AV性爱| 97色伦欧美| 丝袜视频网国产90| 免费作爱一级视频| 97这里都是精品| 色臀AV| 久久精品国产亚洲AV片多多| 抽查国产福利主播| 久久伊人影院| 99久久99九九99九九九| 精国久久一区二区三区98| 91处女在线观看| 探花激情视频| 亚洲欧美综合网站| 极品尤物自安慰| 亚洲天堂自拍| 久久成人国产精品| 97超碰色屌| 99热这里只有精品18| www.久久久久| 91综合天天| 亚洲最大网站av| 大香蕉在线SuP| 日韩成人性爱AV| 国产精品久久久久久久久久久久久久久| 人人妻人人爱人人玩| 五月婷婷色| 日韩在线观看AV| 抽插无码高清一区| 青青草色AV| 久热91| 老鸭窝成人| 在线国产探花| 屁股久久久久久久久久| 97在线免费看| 午夜福利一区二区影院| 99在线视频播放| 一二三四视频中文字幕在线看| 综合网欧| 人干人人人操人人摸| 伊人久久亚洲中文字幕不卡| 国产福利小视频高清在线观看| 老熟妇一区二区三区啪啪| 亚洲成人无码影院| 国产精品久久久久9999小说| 国产人妻精品久久久一区二区三区| 色欧美亚洲| 嗯嗯啊啊操死我| 色屁屁影院www国产| 天天综合网~91综合网| 九九av| 深夜福利黄片| 校园春色宗合网| 99精品久久| 成人毛片免费| 亚洲在钱| 色九九九| 天美麻花大全视频| 小视频国产| 欧美亚洲韩国视频十五区 | 97精品久久久久中文字幕| 日韩不卡a级视频专区| 欧美日韩人妻精品一区二区三区 | 91性片| 欧美日韩黄色片一区二区三区四区人与兽做爱| 日韩欧美午夜一区二区| 新91视频.cmp| 99热 按摩 日韩| 久久五月丁香| 中文字幕一区二区免费在线| 91白虎| 91熟女综合| 99热精品在线观看| 国产精品一区午夜福利| 欧美精品一二三| 桃色人妻在线视频| 欧美内射少妇| 艹我哪美一区无码| 美女国产一区二区久久| 婷婷色色五月天福利| 亚洲综合色在线| 蜜臀久久99精品久久久久久久久| 蜜乳AV网址| 婷婷av在线中文字幕| 99草精| 大香蕉欧美日韩| 懂色AV一区二区三区| 2019久久久久久久久福利| 久草资源在线| 欧洲综合色| 少妇色综合| 久久综合18p| 国产成人无码网站在线视频| 久久久久久久亚洲Av无码| 91精品人妻偷情| 熟妇色99| 天天干人人乐| 怡春院久久| 日本免费一区二区不卡| 欧美大片天天看| 亚洲第一页欧美| 骚逼高潮久久精品| 婷婷久久综合| 色五月综合| 国产 无码 一区二区| CCYY草草影院地址入口| 69视频入口| 97干97色| 最新av网站在线观看| 97香蕉网| 亚洲熟女乱色一区二区三区| 97视频网站| 91另类| 国产v亚洲v日韩v欧美v片另类| 中文字幕乱妇免费视频| 亚洲欧美洲综合| 国产又粗又长又大的视频| 少妇色欲综合网2| 91色射| 天天影视91看看| 一二区在线观看视频| 亚洲影视高清三级-草1024榴社区入口-品爱AV| 欧美激情黑人| 本道综合精品| 午夜小电影在线插入淫高潮 | 台湾大香蕉99热| 久久久久久久久九九久孕交| 亚洲色资源| 欧美亚洲美少妇一区二区| 日韩美女,国产传媒,视频一区| 人妻 欧美 中文| 欧美激情久久久久| a啊啊啊啊啊啊啊啊一区二区| KK色在线影院| 人妻三级在线中文字幕| 久久丁香久草综合网| 国产精品久久久久久照片| 精品偷拍13p欧美dodk视频| 日本www操操操| 国产激情久久久| 校园春色制服丝袜中文字亚洲| 91天天日| 精品白丝一区| 中文字幕精品免费一区二区| 深田咏美亚洲精品福利社| 五月天婷婷小说| 亚洲另类色图片| 久久久久国产精品人妻aⅴ天堂| 91色欧美| 欧美αv.com| 二色av| 色爱欲亚洲| 蜜桃香蕉久草精品在线| 天天草天天日| 国产粉嫩出水在线播放| 青青草吊丝| 97超级色碰碰| 熟妇综合一区二区三区| 强奸乱伦动态污图免费| 97二区四区| 久久宗合亚洲| 乱抡国产91| 久久五月视频| 青青青草伊人精品| 欧美v亚洲v综合v国产v妖精| 91操操| 91美女視頻| 精品国产Av无码久久久伦古装| 中文字幕精品日韩中文字幕| 手机不卡视频不卡在线一二三区| 激情婷婷丁香网| {男男暴菊gay无套网站| 久久女人一区二区三区| 影音资源男人日韩| 久久成人国产| 精品视频专区| 99久久精品国产系列| 亚洲黄网在哪免费看| 曰本熟女视频| 99e久久国产精品| 大稥蕉免费视频这里只有精品| 欲色啪| ji熟女.com| 嗯啊啊啊轻点视频 | 九九九久| 亚洲强奸乱伦影视网| 97欧美精品综合| 中文字幕三四五区| 婷婷伊人綜合中文字幕| 中文字幕第7页| 操逼操网| 人妻黑丝袜电影| 久久黄片国产一区二区| 中文字幕天天天天天| 伊人网高清| 狠狠操狠狠| 极品人妻少妇综合| 色综合色欲色综合色综合色综合| 欧美在线中M| 欧美日韩操逼动图| 日韩欧美天堂| 操逼日韩无码| 精品欧美乱码久| www久久久| 大茄子熟女AV导航| www.四虎在线| 正在播放国产精品一区| 天天天天做夜夜夜夜做| 色呦呦呦在线观看视频| 日韩特一级久久| 亚洲第一成人影院色播| 日本在线999| 精品久热| 国产精品爆乳懂色蜜乳| 99热导航| 欧美日韩香蕉| 精品久久久久综合无码| 伊人久久国产免费观看视频| 日韩无码三级影院| 久久精品一区一起草| 日韩成人电影AV| 射久久| 中文字幕乱码人妻一区二区三区,99精品| 国产亚洲色婷婷久久99精品91 - 百度| 日本有码影片下载| 亚洲欧洲综合av在线| 日韩人妻精品| 女同亚洲欧美一二三区久久电影| 黄人人操人人操| 啊啊啊啊啊啊啊在线| 色婷网| 97超碰碰| 伊人久久亚洲色欲综合网站 | 91美女视频直播| 亚洲天堂综合AV| 久久免费99精品久久久久久| 国产超碰欧美| 毛片17S| 操逼片中文| 国产三级片在线观看| 欧美熟妇人体| 色色五月婷| 一级做a爰片性色毛片久久| 加勒比五月天| 婷婷色一区| 无码日韩人妻av一| 综合网亚洲| 热久久无毒不卡| 视频在线观看一二三区| 国产美女高潮叫床视频| 在线视频 亚洲精品| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 日本操逼视频免费| 99福利社| 9精品在线| 日日夜夜干| 午夜电影在线观看无码专区| 18禁止看精品中文字幕| 天天综合网~91| 好舒服视频| 色综合中文字幕不卡| 高清国产av无码| 午夜视频好爽啊| 啊啊啊好想要| 欧美性色欧美| 久久熟女精品不卡一区| 91久久堂| 久久天天性久久伊人| 国产肏逼网站| 欧美资源| 国产97在线 | 亚洲| 真实高潮91| 怡红院一区二区熟女人妻| 国产隔壁老王影院在线| 欧美成人免费在线观看| 懂色Av一区二区三区| 亚洲人妖网| 日韩 欧美 校园一区| 天天色悠悠激情| 一起草AV| 精品色色| 色蜜AV| 五月丁香久久| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 精品国产无码中文| 高潮毛片无遮挡高清免费| 亚洲啪啪综合?v一区综合精品区| 91黄站| 大香蕉99999| 久久日韩肥臀| 天美91| 久久久涩| 九九九久| 天天干电影| av中亚| 男人天堂网址| 亚欧高清| 久久直播国产| 一级性爱aaaa| 盗摄 精品 另类 一区| 国产999精品久久久久久| 无码精品一区二区三区潘金莲| 美女写真| 伊人五月天| 人妻熟女午夜精品在线| 亚洲天堂性爱| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 午夜视频久久久久一区| 无码天天操| 天天干天天狼在线视频| 色婷婷综合网| 嗯嗯啊啊用力视频免费| av东京热男人的天堂| 国产AV线| WWW.操逼.COM| 国产精品久久久久久久毛片1| 亚洲欧美日韩夜夜| 嗯嗯嗯好爽| 天天夜夜久久| 国产高清26uuu| 麻豆国产96在线| 日韩免费人妻色情网站| 久草男人天堂| 草草草草视频| 国产精品久久久无码AV网站| 久久综合五月天| 精品久久久久黄少妇| 任我爽在线视频免费观看| 国产嫩草精品A88AV| 久久精品一区二区一8| 3P乱轮视频| 欧美亚洲激情小说| 伊人嫩草| 日韩人妻有码免费视频| 亚洲五月天激情| 蜜臀久久久| 97碰碰色| 国产亚洲日本精品在线| 一区麻豆 高清中文字幕| 学生妹天天看| 久久精品 六十路 熟女 欧美| 亚洲国产欧美中文永久| 色噜噜人妻丝袜AV资源| 欧美美女视频| 日韩中文字幕在线视频观看| 97视频在| 91精品国产91久久青草| 国产超碰人人操| 色天堂综合| 日韩欧美日韩| 亚洲AV免费在线| 91男人天堂网| 91深夜夜| 97青娱乐超碰久久| 超碰免费97| 99久久久| 色97欧美| 蜜乳AV色欲AVAV无码| 91天美传媒在线| 国产一级高清免费观看| 婷婷亚洲综合| 国产97在线播放| 国语国产操逼伊人AV网| 日韩人妻无码精品系列| 曰韩中文人妻视频| oumeisetu综合| 大粗鳼巴久久久久| 99自拍视频在线观看| 国语av最新自产拍在线观看| 日韩9999| 99久久久无码精品国产人| 亚洲熟妇丝袜在线观看| yiqicaoav| 黄页18禁| 黄色免费一级在线毛片| 日本伦理一区二区| 亚洲精品自拍| 天天综合网久久ww| 国产高清吃奶免费视频网站| 天天弄欧美| 自拍偷拍第26| 传媒免费一区二区三区| 欧美激情另类一区二区| 久久动漫精品视频这里只有精品| 精品视频免费在线一区| 亚洲成人妻日韩在线| 国产传媒操逼视频| 天天日美女的B| 亚洲日韩精品一区视频在线| 性九九九九九九| 亚洲 欧美日韩 另类| 亚洲成人AB| 99色色| 69国产对白刺激| 一及黄久一点| 操老熟女AV| 五月婷婷综合网| 91无码中出人妻视频| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 亚洲男人天堂2012| 精品少妇一区二区三区免费观看| 中文字幕乱亚洲美女精品一区| 东京热激情视频一二三区| 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 手机av天堂久久久久| 超清福利精品视频在线| 91视频综合在线| 99热色精品| 久久精品一区二区三区四区五区| 330Dv国产女人终合视频极品人与兽| 亚洲av综合色区图片亚洲| 欧美在线|亚洲| 美女诱惑1区2区| 国产无码高清操逼视频| 亚欧操逼片在线观看 | 青青草一区二区三区四| 一区二区偷拍拍视频| 在线中文字幕| 日韩欧美~中文字| 后入 亚洲 美女 射| 日韩黄片视频试看| 91中文字幕制服丝袜免费视频| 欧美人妻二区三区| 欧美,日韩,亚洲视频| 激情小说在线视频| 蜜臀在线看片| 亚洲AV资源| 色五月综合| 巨爆乳一区二区爆乳区| 婷婷丁香成人| 亚洲精品性爱片| 久久粉色| 视频二区熟女人妻| 亚洲欧美性生活| 97人妻碰碰中文无码久热丝袜| 韩国免费播放一级毛片| 亚洲九九视频| 欧美天天综合站| 不卡人妻少妇精品毛片一区23区视频| 欧美日韩中文亚洲v在线综合| 日本伦乱九九九综合| 97射欧美| 国产后入清纯| 亚洲 欧美 另类 日韩 人妻一区| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 欧美日韩另类字幕中文| 国产四虎在线| 天堂精品在线| 五月天婷婷久久| 国产精品自在线发布| 欧美亚洲自拍另类人妻| 99久久99九九99九九九| 尤物视频偷拍免费| 亚洲综合性网址| 黑人天8A∨高清网站| 六九九九| 久久xx| 亚洲色欲天天人妻无码系列专区| 淫荡熟女乱伦网| 中文字幕五月婷婷免费| 97超碰人人操人人操| 午夜爽爽爽| 国产综合久久久麻桃个| 亚洲天堂另类| 亚洲色婷婷综合久久久久中文| 久久精品99久久久久久| 蜜臀亚洲综合一二三四区| 91久久18禁| 亚洲国成人情色好看电影| 99久久久无码| 干B视频伊人网| 肉丝网站91| 国产性刺激| 欧美熟妇人体| 和协影院中文字幕三区| 久久久久ab| 欧美天堂亚洲电影院一区在线播放| 日韩精品第3页| 99黄页网站| 999熟女精品| 婷婷九月丁香| 综合五月天| 97欧美在线| 欧美成人一级麻豆| 日韩熟女操逼| 丰满人妻一区二区三区四区| 中文字幕中文字幕一区二区| 日韩午夜精品一区二区三区电影| 国产精品久久久久久 百度| 5278欧美一区二区三区| 婷婷五月av| 亚洲图片欧美91N| 影音综合网| 嗯,啊。舔我逼| 亚洲蜜臀精品视频久久| 欧亚日韩中文在线| 香蕉黄色一级视频| 成人性爱美曰韩| 久久精彩免费视频| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 中国小夫妻勾搭露脸淫荡对白| 亚码人妻| 中文字幕视频二区| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 手机看片91人妻| 久草视频在线视频在线视频在线观看| 97最新在线播放视频| 国产剧情一区在线观看| 区二区亚洲婷| 操一区| 国产白嫩精品久久| 91热色| 激情综合网亚洲| 无码精品人妻一区二区三区妖精| 婷婷丁香六月| 国产丰满熟夫69mpp| 欧美97免费| 国产欧美日本亚洲精品 | 疯操AV| 日韩强奸av| 亚洲欧美经典一区二区| 欧色综合| 成人青青草原伊人| 午夜精品久久久久久久久久蜜桃| 自偷自拍的亚洲视频| 日韩成人午夜精品久久高潮| 97ai亚洲| 最新三级网址| av婷婷色网| 日日摸日日弄日日拍| 无码操逼视频一下| 99热这里是精品| 肉丝无码中文高清| 日本高清免费一本视频在线观看| 大香蕉啪啪啪| 国产精品电| 小日子操bb在线看| 国产精品一区二区在钱播放| 久久久久久中文| 噜噜噜在线视频| 久久9亚洲| 亚洲天堂资源网| 婬女免费一二三区A片| 少妇极品熟妇人妻无码| 超碰成人人人爽人人爽| 大香蕉九九| 91天天美女| 国产一区二区精品久久99| 色综合加勒比四四季| 欧美少妇人妻| 天天干天天拍| 一本久久久精品| 成人性爱电影一区二区| 久色99999| 国产性爱在线视频一区二区| 曰本精品久久久| 激情五月天中文字幕色| 中亚精品极乱| 久久啊啊啊| 五月天成人综合| av2014 日韩在线中文字幕| 亚洲人妻中文高清| 色偷综合| 久久亚洲AV成人精品无码| 亚洲欧美精品久| 欧美成人四级在线播放| 操逼999| 日本操逼视频导航| 久久久久人| 熟女六十路| 国产91丝袜 在线播放| 九九香蕉网| 干少妇视频| 青娱乐亚洲热| 翔田千里Av在线| 蜜桃视频一区二区三区 | 97在线观看免费| 黄片不用下载在线观看| KK色在线影院| caorenqi shipin| 中文字幕三四区| 久草资源在线视频官方总站日韩丝袜美腿| 久久狠狠色噜噜狠狠狠狠97| 午夜福利久久久噜久噜久久综合| 国产日韩精品suv| 欧美白嫩在线放| 中文字幕日韩人妻视频一区二区三区| 精品国产久久乱码| 亚洲精品成人激情在线| 久久久久99999| 蜜桃精品一区二区三区ww | 亚洲综合性感在线| 久久美女国产| 国产9熟妇视频网站| 五月综合色| 成人影院永久免费观看网址| 99热大香蕉伊在线| 色久综合| 黄色人人| 极品人妻少妇综合| 真实高潮91| 性色av网站| 色欧美亚洲| 精品乱码久久久久| 看一级黄色视频| 在线日韩日本亚洲国产| 天天超级碰碰碰| 欧美性特| 日产123区精品免费观看| 亚洲av强奸乱伦| 91AV入口| 蜜臀久久99精品久久久久久成人小说 | 亚州欧美另类| 欧美人妻色| 亚洲AV免费在线| 精品国产乱码| 狠狠躁伊人中文字幕| 91黑丝美女| 欧美亚洲日韩人妻在线观看| 日本十八禁免费看污网站| 日韩欧美中文字幕搭讪巨乳美人妻视频| 中文字幕精品丝袜| 极品极品色影院| 人人贴人人摸| 日日爱99| 97中文综合| 狠色婷婷久久一区二区三区_| 91欧美| 免费A V在线播放| 欧美黄色手机在线观看| 97se亚洲| 91女优在线观看 | 成人乱人伦一区二区| 97视频免费播放| 久久原创中文| 97干天天| 国产精品九9| 五月天综合| 粉嫩绯色AV一区二区在线| 日韩极品无码B| 欧美天天| 国产91 丝袜在线播放00-百度| 毛片麻豆91糖心精品毛情片| 国产青视频| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 大香蕉人妻| 综合欧美日韩在线观看| 天天色,天天干,天天干| 伊人网免费视频| 超碰97中文| 91亚洲网站| 性生活性生大爱77AV国产| 99精品高潮| 清清草影| 伊人精品视频| 精品亚州18| 精品然女一区二区| 欧美一二三区四五区| 欧洲无码一区二区| 成年女人一区| 九九热免费国产视频婷婷伊人 | 欧美色图 色综合图| 日日骚一区二区三区| 色与欲影视天天看综合网| 亚洲在钱| 疯操AV| 日韩BBN| 老司机香蕉| 日天天九九天堂666| 黑白配性爱AV成| 亚洲双插| 干B网| 欧美综合亚洲综合| 淫荡网址| 欧美色www亚洲国产阿娇要播| 91综合网| 日熟女| 亚洲最新中文字幕免费| 日韩一区二区高清在线观看的| 手机在线播放国产福利| 岛国视频免费在线观看| 欧美麻豆成人同性GⅤ在线| 国产AV久久久蜜爱影集| 激情五月婷婷| 天天肏美女| www.99热在线只有精品| yy少妇精品久久| 欧美成人精品一区二区男人蜜臀 | 日本片日本片祼观看网站在线看中文版网页在线看 | 草草电影院| 性爱乱伦视频免费| 大香蕉一线视频| 99久久婷婷国产综合| 玖色AV| 神马久久久久久久久久| 蜜桃狠狠色伊人亚洲综合 | 97香焦色区| 免费久久一级毛片大黄| 国产三级多多影院2022国产AA一级毛片无码| 无码免费精品高清| caorenqi shipin| 亚洲三级网址久久最新| 污电影在线观看| 性色aV一区二区三区噜噜| 夜夜草我| 久久久 国产精品| 五月天丁香欧洲日韩| 性性久久| 欧美性性性| 家庭乱伦国产| 激情五月天色色网| 欧亚不卡| 精品人妻15区| 影音先锋每日最新资源在线观看| 女人喷水视频在线观看| 亚洲欧美校园另类春色| 最新av在线| 欧美 亚洲 在线| 国产曰批免费观看久久久| 天天操夜夜操| 狠操91,com| 久久天堂| 人人色人人操在线| 中出789在线视频| 日本久久超碰| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 亚洲成人无码影院| 欧美成人9797| 97在线欧| 日韩性爱视频在线免费观看 | 亚洲小说视频| 极品尤物自安慰| 熟女一区二区| 精品免费囯产一区二区三区 | 蜜臀人妻少妇久久在线观看| 午夜福利合集| 久久东京伊人一本到鬼色| 97超级久久强资源| 蜜臀va69| 福利视频一区二区微拍| 99热这里只有精| 精品美女少妇一区二区| 国精精品无码一二三区水多多| 九九九久千久久激情蜜桃在线看 | 亚洲国产精品有声| 嗯阿好爽好紧| 97精品免费| 九九在线精品| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 激情五月天插| www.一本大99| 少妇久久久久久| 人妻久久久久久| 亚洲天堂少妇| JIZZJIZZ国产精品喷水| 日韩人妻精品中文字幕| 成人线上超碰| 日韩av女优在线免费一区| 国产精品农村妇女精品| 日本在线视频导航| 搡老熟女国产1000部| 亚乱色| 国产99999久久精品| 午夜AV人气不卡| 中文字幕78| 亚洲激情综合另类男同| 岛国人妻少妇av在线观看| 强被迫伦姧在线观看无码网站| 日韩国语字幕| av中亚| 一二三啪啪专区| 中日韩免费看男女操逼大全| 97亚洲一区| 欧美黄色手机在线观看| 亚洲情色一区三区| 五月天久久综合网| 欧美成人色| 十八禁的黄污污免费网站| 久久精品人妻一区二区| 欧美日韩一区二区三区四区蜜桃| 精品中文日韩字幕视频| 精品久久久久久中文| 伊人在线大香蕉视频久久| 亚洲 欧美 手机在线观看| 亚洲色棕合| 五月婷在线| 久久97超碰| 91嫩草欧美| 国产熟女乱论| 国产丝袜啪啪| 高清不卡一二三区视频......| a片在线播放| 青青欧洲黑| 亚洲av乱伦色图网站| 欧美性夜| 欧美三级免费伊人| 国产亚洲日韩在线三区黑人| 久久九九热| 午夜精品99久久久久传媒| 综合影院永久入口国产| 亚洲综合情色| 99操视频| 人人干人人操人人爱| 久久精品国产久精国产| 熟妇女伦乱视频视频| 五月花婷婷| 少妇一级婬片免费放一级a性色.| 久久骚| 蜜桃视频精品一区二区| 日韩欧美午夜一区二区| 婷婷五月天色网| 日韩无码嘿咻黑热久| 做爱A级亚欧| 不卡二三区人妻少妇| 91天天综合网,天天综合网| 最近2019中文字幕国语免费版| 97超碰香蕉| 日韩综合97P| 久久久久成人蜜桃精品| av天堂精品久久| 久久久555| 天天看片麻豆| 国产精品交换一区二区| 黑人狂躁日本妞一区二区三区| 青青草在线视频播放器| 极品内射| 日韩三级一区| 午夜福利免费福利视频| 午夜精品久久一区二区| 一摸二插三插| 伊人国产视频| 9久超碰| 日韩欧美亚洲一区二区三区影院| 精品久久久久久中文字幕视频免费| 操曰本熟女| 无码人妻丰满熟妇奶水区毛片| 色吧综合网| 天天视频综合在线观看视频| 日韩av无码网站| 欧美综合色图片| 国产精品久久久久久久免牛肉蒲团 | 国产欧美一区激情交| 亚洲精品国产日韩无码AV永久免| 九九热精品视频六| 亚洲男人综合网| 欧洲中文字幕| 熟女性视频| 欧美黄片视频在线观看免费| 欧美性爱第一区| 国产精品精品系列在线观看| 欧美精品系列| 午夜精品久久久久久久99| 久久亚洲不卡一区二区三区| 色婷婷电影网| 久久欧洲| 九九热免费国产视频婷婷伊人五月 | 无码精品蜜桃一区二区三区ww| 久久精品国产精品一区| 性欧美999| 超碰偷拍| 久男人久久| 在线观看 99热| 国产天美传媒精品| 久久中文色图| 久视频在线观看| 伊人综合色网| 亚洲欧美激情另类色图| 日本九九九九| 色丁香五月婷婷| 99热99色| 丁香五月成人| 丁香六月婷婷| 欧美夜夜狠| 欧美激情总合网| 精品少妇后入一区二区三区四区人妻巨乳| 日本一级黄色电影| 99精品在线| 大香蕉亚洲中文| 又黄又爽在线观看视频| 国产在线76页| 欧美制服另类丝袜| 日韩欧美亚洲国产日韩| 97人肏| 久久的网站啊啊啊啊啊| 天天综合有色网| 麻豆 亚洲 97| 黑人干亚洲| 天堂网亚洲区手机版| 992视频一区| 人人爱人人乐人人操| 色欲Av人妻精品一区二| 丰满人妻一区二区三区性色|