亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

UFS 3.1協(xié)議深度解析:從分層架構(gòu)到WriteBooster與HPB實(shí)戰(zhàn)

UFS 3.1協(xié)議深度解析:從分層架構(gòu)到WriteBooster與HPB實(shí)戰(zhàn) 1. 項(xiàng)目概述與核心需求解析1.1 為什么要寫UFS 3.1協(xié)議分析UFSUniversal Flash Storage通用閃存存儲(chǔ)在移動(dòng)設(shè)備和嵌入式系統(tǒng)里已經(jīng)全面普及這幾年從UFS 2.1到UFS 3.0再到UFS 3.1中間還穿插著UFS 2.2這種過渡版本整個(gè)演進(jìn)節(jié)奏非???。我最初接觸UFS 3.1協(xié)議分析的時(shí)候手頭正好在做一款旗艦級(jí)移動(dòng)平臺(tái)的存儲(chǔ)子系統(tǒng)適配芯片端的主控和UFS 3.1的Flash顆粒之間頻繁出現(xiàn)鏈路協(xié)商異常、命令超時(shí)和吞吐量不達(dá)標(biāo)的問題。那時(shí)候才發(fā)現(xiàn)光會(huì)調(diào)驅(qū)動(dòng)、看日志遠(yuǎn)遠(yuǎn)不夠必須真正理解協(xié)議層的機(jī)制尤其是UFS 3.1相比老版本引入了哪些新特性、這些新特性又依賴哪些協(xié)議字段和交互流程才能真正定位問題。這篇博文我想做的事是把UFS 3.1協(xié)議分析中最基礎(chǔ)也最關(guān)鍵的框架性內(nèi)容整理出來。它不是一個(gè)完整的JEDEC規(guī)范翻譯也不是針對某個(gè)廠商主控的調(diào)試手冊而是從協(xié)議分層的視角把UFS 3.1是什么、為什么需要它、它如何工作、調(diào)試時(shí)需要盯住哪些點(diǎn)講清楚。適合的讀者包括剛進(jìn)入存儲(chǔ)行業(yè)的嵌入式軟件工程師、做移動(dòng)平臺(tái)BSP底層的同學(xué)、以及需要跟Flash廠商和主控廠商打交道但協(xié)議底子不厚的系統(tǒng)工程師。在展開細(xì)節(jié)之前先用一句話概括UFS 3.1的本質(zhì)UFS是一套完整的“主機(jī)端控制器 協(xié)議命令集 物理鏈路”三位一體的閃存存儲(chǔ)方案3.1版本則是在3.0高速傳輸能力之上補(bǔ)齊了一組面向隨機(jī)讀寫性能、低功耗、大容量場景的增強(qiáng)特性。整個(gè)協(xié)議??梢圆鸪扇龑觼砜磻?yīng)用層UFS Command Set、傳輸層UTPUFS Transport Protocol、互連層UICUFS Interconnect每一層都有自己的職責(zé)也是排查問題時(shí)的分層邊界。1.2 項(xiàng)目拆分與章節(jié)規(guī)劃我計(jì)劃把UFS 3.1協(xié)議分析分成四個(gè)章節(jié)來處理這次先聚焦第一章到第四章的整體脈絡(luò)第一章UFS概述與系統(tǒng)架構(gòu)。搞清楚UFS在系統(tǒng)里的位置、主機(jī)側(cè)和設(shè)備側(cè)的組成、協(xié)議分層模型。第二章傳輸層與命令機(jī)制。深入U(xiǎn)PIUUFS Protocol Information Unit、命令描述符、數(shù)據(jù)傳輸流程。第三章物理層與鏈路管理。包括UniPro、M-PHY、鏈路啟動(dòng)、速率協(xié)商和功耗狀態(tài)切換。第四章UFS 3.1新特性與工程實(shí)踐。分析WriteBooster、HPB、DeepSleep等增強(qiáng)功能在真實(shí)項(xiàng)目里怎么用、怎么調(diào)。這種拆法不是為了按部就班而是遵循實(shí)際工作中的排查路徑先看清系統(tǒng)全貌再定位命令通路接著查鏈路物理層最后回到特性和性能優(yōu)化。很多剛?cè)胄械耐孪矚g一上來就翻UPIU結(jié)構(gòu)體定義結(jié)果被字段淹沒遇到實(shí)際問題仍然無從下手。我比較推薦的服務(wù)順序是架構(gòu) → 命令 → 鏈路 → 特性一步步把黑盒打開。2. UFS 3.1的整體設(shè)計(jì)思路與演進(jìn)邏輯2.1 從eMMC到UFS存儲(chǔ)接口到底變了什么要說清楚UFS 3.1的價(jià)值得先回頭看一眼eMMC。eMMC本質(zhì)上是個(gè)并行總線接口8位數(shù)據(jù)線半雙工模式讀寫不能同時(shí)進(jìn)行。它的命令機(jī)制簡單直接——主機(jī)發(fā)命令設(shè)備執(zhí)行然后通過數(shù)據(jù)總線傳輸。但這種設(shè)計(jì)在高性能場景下很快撞到天花板并行總線頻率提升困難、信號(hào)完整性問題隨頻率上升越來越嚴(yán)重、半雙工浪費(fèi)了總線帶寬。UFS方案從誕生那天起就走了一條完全不同的路。它引入了一套類似SATA/NVMe的串行傳輸架構(gòu)底層用M-PHY做物理傳輸U(kuò)niPro做鏈路管理和協(xié)議適配。兩個(gè)lane可以同時(shí)一個(gè)收一個(gè)發(fā)全雙工模式等效傳輸效率遠(yuǎn)高于同頻的eMMC。在協(xié)議模型上UFS還參考了SCSI體系結(jié)構(gòu)模型使用命令描述塊CDB 任務(wù)管理函數(shù)的模式這讓它天然支持命令隊(duì)列、亂序執(zhí)行、多任務(wù)調(diào)度。從UFS 2.1到UFS 3.0最大的變化是HS-G4High Speed Gear 4速率的引入。M-PHY在HS-G4速率下每個(gè)lane的線速率接近11.6Gbps配合雙lane配置理論上可以達(dá)到單lane約1450MB/s、雙lane約2900MB/s的HS速率這是在考慮了8b/10b編碼開銷后的結(jié)果實(shí)際有效載荷帶寬還需要進(jìn)一步乘以協(xié)議開銷系數(shù)。這個(gè)速率等級(jí)遠(yuǎn)比UFS 2.1的HS-G3每個(gè)lane約5.8Gbps有效帶寬大約725MB/s翻了好幾倍。UFS 3.1又在這個(gè)基礎(chǔ)上做了三件大事新增WriteBooster解決寫入性能偏低的問題。它利用SLC Cache機(jī)制把隨機(jī)寫入先吸收到SLC緩沖區(qū)再后臺(tái)回寫TLC/QLC區(qū)域大幅降低前端寫延遲。引入HPBHost Performance Booster把部分FTL映射表放到主機(jī)內(nèi)存中緩存減少設(shè)備端加載映射表的開銷提升隨機(jī)讀性能。強(qiáng)化低功耗管理DeepSleep狀態(tài)讓設(shè)備在待機(jī)時(shí)可以關(guān)閉大部分模塊供電顯著降低休眠功耗。這些特性不是孤立存在的它們都依賴協(xié)議層的字段和控制機(jī)制來生效。比如WriteBooster需要擴(kuò)展UFS Descriptor中的配置項(xiàng)HPB需要專門的控制命令和UPIU類型來管理主機(jī)端映射緩存。2.2 UFS 3.1系統(tǒng)架構(gòu)與協(xié)議分層模型一個(gè)典型的UFS系統(tǒng)由主機(jī)Host和設(shè)備Device兩部分構(gòu)成。主機(jī)端包括應(yīng)用處理器上的UFS Host Controller存儲(chǔ)控制器IP以及配套的軟件?!狶inux內(nèi)核的ufshcd驅(qū)動(dòng)、SCSI層、塊設(shè)備層。設(shè)備端則是一顆UFS IC通常整合了控制器和NAND Flash或者由獨(dú)立的控制器芯片加上多片NAND組成。從協(xié)議分層來看應(yīng)用層Application Layer定義了UFS命令集UCS、設(shè)備管理器Device Manager和任務(wù)管理器Task Manager。SCSI命令通過UFS封裝成CDB下發(fā)設(shè)備管理器負(fù)責(zé)處理描述符Descriptor、屬性Attribute、標(biāo)志位Flag的讀寫任務(wù)管理器則處理任務(wù)管理請求比如Abort Task。傳輸層UTP負(fù)責(zé)把上層請求封裝成UPIU通過UNIPRO的傳輸服務(wù)訪問點(diǎn)Data Transport Service Access PointDTSAP傳給下面。UTRDUTP Transfer Request Descriptor是核心數(shù)據(jù)結(jié)構(gòu)保存了命令相關(guān)的所有指針和狀態(tài)?;ミB層UIC由UniPro層和M-PHY物理層組成。UniPro負(fù)責(zé)鏈路啟動(dòng)、速率協(xié)商、流控和錯(cuò)誤恢復(fù)M-PHY則負(fù)責(zé)真正的物理信號(hào)收發(fā)。調(diào)試時(shí)建議用這個(gè)分層模型來隔離問題如果命令發(fā)出后沒有任何中斷回應(yīng)優(yōu)先查傳輸層和設(shè)備狀態(tài)如果命令正常但吞吐量低再到UIC層看速率協(xié)商和Lane數(shù)量如果掉電重啟后鏈路穩(wěn)定但系統(tǒng)喚醒時(shí)報(bào)錯(cuò)重點(diǎn)查DeepSleep和鏈路恢復(fù)流程。3. 核心細(xì)節(jié)解析與實(shí)操要點(diǎn)3.1 UTRD和UPIU讀懂協(xié)議的兩把鑰匙整個(gè)UFS傳輸機(jī)制的核心可以濃縮成一句話主機(jī)在內(nèi)存中構(gòu)造UTRDUTRD指向一組UPIU緩沖區(qū)和PRDTPhysical Region Descriptor Table寫Doorbell寄存器通知設(shè)備設(shè)備執(zhí)行完再通過CQCompletion QueueDoorbell和中斷通知主機(jī)。這段話里包含了大量信息逐個(gè)拆開看。UTRD的數(shù)據(jù)結(jié)構(gòu)大致包括命令類型命令UPIU、任務(wù)管理請求UPIU等。數(shù)據(jù)方向讀還是寫。一個(gè)指向命令UPIU緩沖區(qū)的地址。一個(gè)指向響應(yīng)UPIU緩沖區(qū)的地址。PRDT的物理地址和條目數(shù)??倲?shù)據(jù)傳輸字節(jié)數(shù)。PRDT是DMA傳輸?shù)年P(guān)鍵。UFS采用S/G表機(jī)制主機(jī)側(cè)物理內(nèi)存未必連續(xù)系統(tǒng)可以把一次大塊讀寫拆成多個(gè)不連續(xù)的物理段每個(gè)PRD條目記錄一段物理地址和長度。設(shè)備根據(jù)PRDT拿到數(shù)據(jù)完成寫入或讀取。這里的經(jīng)典坑在于PRDT條目的地址必須是物理地址而且對齊要求很嚴(yán)格通常要求對齊到32字節(jié)或64字節(jié)具體以主控手冊為準(zhǔn)長度字段則是按塊粒度對齊。如果上層傳下來的S/G表項(xiàng)不是塊大小的整數(shù)倍底層驅(qū)動(dòng)需要處理尾部部分塊這是很多寫DMA路徑的工程師容易漏掉的細(xì)節(jié)。UPIU是UFS傳輸?shù)淖钚 靶欧狻背R婎愋桶∟OP OUT UPIU用于鏈路保活和超時(shí)檢測。COMMAND UPIU承載SCSI命令CDB是正常讀寫命令的載體。RESPONSE UPIU設(shè)備返回的命令執(zhí)行結(jié)果攜帶狀態(tài)、Sense Data長度等信息。DATA IN UPIU / DATA OUT UPIU數(shù)據(jù)階段傳輸分別對應(yīng)讀和寫。TASK MANAGEMENT REQUEST UPIU承載任務(wù)管理請求。QUERY REQUEST UPIU / QUERY RESPONSE UPIU用于設(shè)備管理讀寫Descriptor、Attribute、Flag。每個(gè)UPIU都有固定的頭部結(jié)構(gòu)其中LUN邏輯單元號(hào)、Task Tag任務(wù)標(biāo)簽、Expected Data Transfer Length期望傳輸長度都是高頻使用字段。排查命令掛起問題時(shí)要養(yǎng)成先看Task Tag的習(xí)慣它能把UFS設(shè)備內(nèi)部的任務(wù)和主機(jī)側(cè)提交的任務(wù)一一對應(yīng)起來。3.2 數(shù)據(jù)傳輸流程一次讀命令的完整旅程以一次從UFS設(shè)備讀取4KB數(shù)據(jù)的命令為例完整流程如下上層文件系統(tǒng)或塊層構(gòu)造一個(gè)讀請求SCSI層生成READ(10)命令CDB。ufshcd驅(qū)動(dòng)分配一個(gè)UTRD初始化命令UPIU、響應(yīng)UPIU緩沖區(qū)并把本次讀的PRDT填好。驅(qū)動(dòng)把UTRD的物理地址寫入主機(jī)控制器的UTRLDBRUTP Transfer Request List Doorbell Register置位相應(yīng)bit。設(shè)備端看到Doorbell置位后通過UniPro鏈路讀取UTRD和命令UPIU。設(shè)備解析CDB訪問Flash把讀取到的數(shù)據(jù)組裝成DATA IN UPIU按總長度拆分成多幀傳輸。設(shè)備通過Host Controller的UTRLCLRUTP Transfer Request List Clear Register寄存器清掉Doorbell對應(yīng)bit并產(chǎn)生中斷。主機(jī)在中斷處理中檢查響應(yīng)UPIU的狀態(tài)字段數(shù)據(jù)已經(jīng)由Controller通過DMA直接寫入主機(jī)內(nèi)存。這個(gè)流程里面藏著幾個(gè)關(guān)鍵點(diǎn)。第一數(shù)據(jù)搬運(yùn)不完全依賴設(shè)備端“發(fā)數(shù)據(jù)包”主機(jī)控制器的DMA引擎會(huì)根據(jù)PRDT把從UniPro接收到的數(shù)據(jù)直接搬運(yùn)到系統(tǒng)內(nèi)存。第二UTRLDBR和UTRLCLR的配合是命令生命周期的主線任何一環(huán)卡住都會(huì)導(dǎo)致命令超時(shí)所以抓日志時(shí)這幾個(gè)寄存器的歷史值非常有價(jià)值。3.3 命令超時(shí)的排查思路與現(xiàn)場日志分析在UFS調(diào)試中命令超時(shí)是我遇到最多的異常類型。它的表現(xiàn)通常是上層I/O卡住系統(tǒng)日志里出現(xiàn)xxx命令請求超時(shí)如Device failed to respond或者任務(wù)管理函數(shù)失敗。排查步驟建議這樣第一步確認(rèn)命令是否真正提交到了設(shè)備側(cè)。抓取UTRLDBR寄存器狀態(tài)如果Doorbell bit一直沒有被清掉說明設(shè)備根本沒從主機(jī)取走任務(wù)。這時(shí)問題大多在UIC鏈路或者設(shè)備側(cè)電源狀態(tài)而不是命令本身。第二步查看UIC層的錯(cuò)誤寄存器比如UniPro的錯(cuò)誤狀態(tài)寄存器UECPA、UECDL等看是否有物理層調(diào)通、幀重傳、CRC錯(cuò)誤等記錄。如果有大量CRC錯(cuò)誤基本可以判定M-PHY信號(hào)質(zhì)量出問題需要檢查PCB走線、終端電阻、參考時(shí)鐘。第三步確認(rèn)設(shè)備是否處于低功耗狀態(tài)導(dǎo)致沒有及時(shí)響應(yīng)。UFS支持多種電源狀態(tài)Active、Idle、Sleep、DeepSleep如果設(shè)備進(jìn)了DeepSleep而主機(jī)側(cè)軟件沒有做喚醒動(dòng)作命令下發(fā)必然超時(shí)。我在實(shí)際項(xiàng)目里碰到過一個(gè)很典型的案例系統(tǒng)頻繁休眠喚醒后偶爾出現(xiàn)UFS命令超時(shí)。排查下來發(fā)現(xiàn)喚醒路徑中主機(jī)控制器先恢復(fù)了Link但設(shè)備還在DeepSleep狀態(tài)需要額外的設(shè)備喚醒機(jī)制。后來在喚醒處理里增加了對設(shè)備喚醒狀態(tài)的檢查并在鏈路恢復(fù)前先通過DME命令把設(shè)備從DeepSleep拉回Active狀態(tài)問題就再?zèng)]復(fù)現(xiàn)過。4. UFS 3.1新特性解析與工程實(shí)踐4.1 WriteBooster的機(jī)制、配置與應(yīng)用場景WriteBooster是UFS 3.1引入的一項(xiàng)提升寫入性能的機(jī)制它的本質(zhì)是在設(shè)備內(nèi)部劃分出一塊SLC單層單元模式的緩沖區(qū)。普通TLC/QLC顆粒寫入時(shí)需要分多步編程延遲高而SLC編程只需要一到兩次延遲低得多。WriteBooster把寫入的數(shù)據(jù)先快速寫到SLC緩沖區(qū)然后由設(shè)備在后臺(tái)把數(shù)據(jù)搬移到TLC/QLC區(qū)域從而降低主機(jī)側(cè)感知的寫延遲。在Linux內(nèi)核中通過UFS設(shè)備管理器提供的bWB相關(guān)Descriptor和Attribute來配置WriteBooster關(guān)鍵參數(shù)包括bWriteBoosterBufferType緩沖區(qū)類型一般配置為SLC模式。dWriteBoosterBufferSize緩沖區(qū)大小這個(gè)值直接由設(shè)備固件決定主機(jī)只能讀取。dWriteBoosterBufferLifeTimeEstSLC緩沖區(qū)的壽命估算可以直觀了解設(shè)備的擦寫壓力。工程上需要特別注意WriteBooster的緩沖區(qū)本質(zhì)上是借用NAND壽命換性能。如果SLC緩沖區(qū)寫滿設(shè)備需要做“強(qiáng)制回寫”Forced Flush這時(shí)突發(fā)寫入會(huì)被拖慢同時(shí)在回寫過程中不能斷電否則存在數(shù)據(jù)一致性風(fēng)險(xiǎn)。實(shí)際測試中我會(huì)用fio先做小文件隨機(jī)寫壓測觀察前幾十GB的寫入延遲是否明顯低于穩(wěn)定期再對比穩(wěn)定期寫入速度以此判斷WriteBooster是否存在配置問題。4.2 HPB的映射緩存機(jī)制與調(diào)優(yōu)心得HPB的全稱是Host Performance Booster它的出現(xiàn)是因?yàn)閁FS設(shè)備使用NAND時(shí)需要一個(gè)FTLFlash Translation Layer映射表把邏輯地址轉(zhuǎn)換成物理地址。在TLC/QLC時(shí)代映射表本身不小如果設(shè)備端每次讀命令都要查一遍映射隨機(jī)讀性能會(huì)受影響。HPB的思路是把映射表的一部分“借”到主機(jī)內(nèi)存中緩存設(shè)備通過UPIU向主機(jī)提供映射表信息主機(jī)下發(fā)讀命令時(shí)可以把對應(yīng)的映射條目一起發(fā)給設(shè)備省掉設(shè)備端查表的過程。HPB在Linux內(nèi)核的實(shí)現(xiàn)比較復(fù)雜涉及ioctl接口、hpb相關(guān)sysfs節(jié)點(diǎn)、以及UFS驅(qū)動(dòng)新增的映射管理邏輯。調(diào)HPB時(shí)我踩過幾個(gè)坑主機(jī)內(nèi)存中緩存的映射表必須與設(shè)備FTL保持同步否則會(huì)產(chǎn)生讀數(shù)據(jù)錯(cuò)誤。因此設(shè)備端GC垃圾回收導(dǎo)致映射變化時(shí)需要向主機(jī)發(fā)送失效通知。HPB區(qū)域不是所有LBA范圍都使能的通常只對設(shè)備指定的一段區(qū)域生效。測試時(shí)如果沒有先在設(shè)備上使能HPB區(qū)域后續(xù)所有HPB相關(guān)參數(shù)都不會(huì)生效。啟用HPB后隨機(jī)讀性能的提升不是無條件的。在映射表穩(wěn)定、碎片化程度較低的場景下提升幅度能到30%以上但如果設(shè)備本身映射表經(jīng)常更新HPB反而可能因?yàn)榫彺媸幚矶黾娱_銷。4.3 DeepSleep功耗狀態(tài)與喚醒流程UFS 3.1的電源管理狀態(tài)包括Active、Idle、Sleep、DeepSleep。DeepSleep是功耗最極端的模式幾乎關(guān)閉了設(shè)備內(nèi)部除少量喚醒邏輯外的所有供電代價(jià)是從DeepSleep恢復(fù)到Active耗時(shí)較長耗時(shí)可能在幾十毫秒甚至百毫秒級(jí)別。系統(tǒng)設(shè)計(jì)時(shí)要權(quán)衡短時(shí)暫停用Sleep即可長時(shí)待機(jī)才應(yīng)該進(jìn)入DeepSleep。在移動(dòng)平臺(tái)上我一般建議這樣配置系統(tǒng)suspend時(shí)先把UFS鏈路切到Sleep狀態(tài)。如果預(yù)計(jì)待機(jī)時(shí)間較長如超過數(shù)分鐘再通過設(shè)備管理命令把設(shè)備切到DeepSleep。喚醒時(shí)主機(jī)控制器先復(fù)位Link然后通過DME命令讓設(shè)備退出DeepSleep再重新啟動(dòng)鏈路和對齊流程。這個(gè)流程里最容易出問題的就是“鏈路先于設(shè)備恢復(fù)”。設(shè)備還處于DeepSleep時(shí)如果主機(jī)嘗試通過Link發(fā)送命令會(huì)出現(xiàn)dme_error或者命令超時(shí)。因此軟件恢復(fù)流程必須嚴(yán)格遵循“設(shè)備先恢復(fù)鏈路后啟用”的順序。5. 常見問題排查技巧與避坑指南5.1 經(jīng)典問題速查表現(xiàn)象可能原因排查方法UFS設(shè)備無法識(shí)別供電時(shí)序不對、頻率配置錯(cuò)誤檢查電源軌、參考時(shí)鐘抓Link啟動(dòng)階段的DME錯(cuò)誤命令超時(shí)設(shè)備低功耗未喚醒、鏈路物理異常抓取UTRLDBR狀態(tài)和UIC錯(cuò)誤寄存器順序讀吞吐量低速率協(xié)商失敗只跑到HS-G1或HS-G2檢查UniPro配置、發(fā)送預(yù)加重/均衡參數(shù)隨機(jī)讀性能差HPB未正確啟用或映射失效頻繁檢查HPB region配置和hit ratio寫入速度突然下跌WriteBooster SLC緩沖區(qū)寫滿觀察Force Flush事件測試穩(wěn)定期寫入性能運(yùn)行一段時(shí)間后I/O出錯(cuò)高溫導(dǎo)致信號(hào)完整性劣化排查供電、散熱、M-PHY通道串?dāng)_5.2 抓日志與現(xiàn)場復(fù)現(xiàn)的獨(dú)家技巧在UFS調(diào)試中最有效也最容易被忽視的動(dòng)作是抓完整的歷史寄存器狀態(tài)。很多工程師遇到超時(shí)后直接重啟設(shè)備結(jié)果關(guān)鍵現(xiàn)場丟失。推薦做法是在代碼里保留UFS相關(guān)所有寄存器的環(huán)形緩沖結(jié)構(gòu)包括UTRLDBR、UTRLCLR、UTRSTATUS、UIC錯(cuò)誤寄存器中斷處理函數(shù)里實(shí)時(shí)更新。在命令超時(shí)后不立即復(fù)位而是先暫停指令流把環(huán)形緩沖區(qū)的寄存器歷史值打印出來和抓取的波形數(shù)據(jù)對比。這套方法幫我在多個(gè)項(xiàng)目里快速鎖定過“中斷丟失導(dǎo)致命令卡死”的問題。中斷丟失的根因往往是設(shè)備發(fā)出的完成中斷與主控側(cè)的中斷mask寄存器配置不匹配或者中斷線在系統(tǒng)suspend/resume過程中被意外shutdown。如果把中斷狀態(tài)寄存器一并打進(jìn)環(huán)形緩沖這類問題的定位時(shí)間可以從半天縮短到半小時(shí)以內(nèi)。5.3 鏈路質(zhì)量與信號(hào)完整性檢測M-PHY是UFS 3.1高性能傳輸?shù)牡鼗?。很多吞吐量不達(dá)標(biāo)的問題根源不在協(xié)議層而在物理層信號(hào)質(zhì)量。判斷信號(hào)質(zhì)量可以看三個(gè)關(guān)鍵指標(biāo)眼圖、誤碼率、信號(hào)完整性抖動(dòng)。工程環(huán)境下沒有高端示波器時(shí)至少可以做兩件事一是檢查UFS控制器上報(bào)的CRC錯(cuò)誤計(jì)數(shù)二是用設(shè)備端回環(huán)測試Loopback驗(yàn)證物理鏈路?;丨h(huán)測試可以分別測PHY到PHY的傳輸以及Controller到Controller的完整通路從而把問題域縮小到固定層面。如果CRC錯(cuò)誤持續(xù)增長優(yōu)先懷疑終端電阻不匹配或者走線阻抗連續(xù)性不佳而不是懷疑協(xié)議軟件邏輯。6. UFS 3.1協(xié)議分析工具鏈與測試方法6.1 Linux用戶態(tài)工具與協(xié)議跟蹤Linux平臺(tái)做UFS測試有幾個(gè)常用的用戶態(tài)工具我逐一說明適用場景ufs-utils提供針對UFS設(shè)備管理器的用戶態(tài)工具可以讀取/寫入Descriptor、Attribute、Flag。通過它可以直接觀察WriteBooster的緩沖區(qū)大小、HPB狀態(tài)、設(shè)備壽命信息比直接改內(nèi)核代碼方便很多。fio性能基準(zhǔn)測試的標(biāo)準(zhǔn)工事。UFS測試建議分別測順序讀寫、隨機(jī)讀寫同時(shí)加入混合讀寫模式和不同的隊(duì)列深度用隊(duì)列深度1、4、16、32分別觀察性能曲線。blktraceiostat定位請求在塊層的排隊(duì)情況。如果塊層排隊(duì)時(shí)間過長說明SCSI層或者UFS驅(qū)動(dòng)有瓶頸如果排隊(duì)很短但請求始終不完成問題可能在設(shè)備側(cè)。/sys/kernel/debug/ufshcd內(nèi)核UFS驅(qū)動(dòng)的debugfs節(jié)點(diǎn)。不同平臺(tái)暴露的內(nèi)容不一樣但通常包含命令歷史、錯(cuò)誤狀態(tài)、鏈路速率等關(guān)鍵字段。6.2 性能測試的具體操作流程以fio為例一組有意義的UFS 3.1性能測試步驟是先執(zhí)行blkzone reset或者全盤TRIM確保測試前設(shè)備處于干凈狀態(tài)。用順序讀測試拿上限基準(zhǔn)fio --nameseqread --rwread --bs1m --size2g --iodepth32 --numjobs1 --direct1 --group_reporting。用順序?qū)憸y試觀察WriteBooster生效前后的差異fio --nameseqwrite --rwwrite --bs1m --size2g --iodepth32 --direct1。用隨機(jī)讀寫模擬真實(shí)業(yè)務(wù)fio --namerandrw --rwrandrw --rwmixread70 --bs4k --size2g --iodepth32 --direct1。每次測試前都記錄設(shè)備溫度和dWriteBoosterBufferLifeTimeEst因?yàn)镹AND在高溫下會(huì)觸發(fā)溫控降速不記錄溫度容易把溫控降速誤判為協(xié)議問題。這個(gè)細(xì)節(jié)我在多次評(píng)測中吃過虧室溫從26℃升到42℃后同一塊盤的順序?qū)懶阅艿袈淞藢⒔?0%不明真相時(shí)很容易導(dǎo)向錯(cuò)誤的排查方向。6.3 如何用邏輯分析儀觀測協(xié)議交互如果需要深入觀測UFS協(xié)議交互邏輯分析儀依然是利器。UFS 3.1的HS-G4速率在11.6Gbps等級(jí)普通邏輯分析儀完全無法直接采集需要配合廠商的協(xié)議分析儀或者使用M-PHY探針轉(zhuǎn)接板。在分析時(shí)重點(diǎn)抓幾個(gè)節(jié)點(diǎn)Link啟動(dòng)階段的M-PHY速率協(xié)商序列。命令下發(fā)階段的UPIU頭字段對比Command UPIU的CDB內(nèi)容。數(shù)據(jù)傳輸階段的DATA OUT UPIU和DATA IN UPIU幀間隔。每次命令完成后的RESPONSE UPIU的Sense Data。協(xié)議分析儀的優(yōu)勢是可以把物理波形自動(dòng)解碼成協(xié)議字段期間還能統(tǒng)計(jì)各Layer的retry計(jì)數(shù)和錯(cuò)誤統(tǒng)計(jì)。但它的價(jià)格和上手門檻都不低日常調(diào)試還是建議先用軟件層日志縮小范圍確需鏈路級(jí)證據(jù)時(shí)再上分析儀。7. 從協(xié)議理解到系統(tǒng)優(yōu)化的延伸思考7.1 UFS 3.1之后UFS 4.0的傳承與變化說完UFS 3.1不得不提一句它的后繼者UFS 4.0。UFS 4.0在鏈路速率上翻倍到HS-G5單lane速率約23.3Gbps雙lane理論帶寬可以超過7Gbps同時(shí)引入了VRSVariable Rate SuperSpeed之類的電源優(yōu)化機(jī)制和更多針對QLC顆粒的優(yōu)化策略。但底層協(xié)議框架依然延續(xù)了UFS 3.x時(shí)代建立的模型UTRD UPIU Doorbell的基本交互方式?jīng)]有變UPDATE的底層機(jī)制沒變。所以現(xiàn)在花時(shí)間把UFS 3.1協(xié)議吃透并不會(huì)白費(fèi)后續(xù)遷移到UFS 4.0時(shí)的學(xué)習(xí)曲線會(huì)平滑很多。7.2 與NVMe/UFS架構(gòu)思想的異同做存儲(chǔ)的工程師經(jīng)常會(huì)拿UFS與NVMe比較。NVMe是PCIe接口基礎(chǔ)上的協(xié)議棧使用Queue Pair機(jī)制命令提交和完成都通過共享內(nèi)存隊(duì)列完成效率極高。UFS的UTRD機(jī)制在思路上與NVMe有相似之處但UFS還保留了更傳統(tǒng)的門鈴寄存器模式和更細(xì)粒度的電源狀態(tài)管理這是由移動(dòng)設(shè)備的低功耗需求決定的。在實(shí)際項(xiàng)目中理解這兩套體系的異同很有價(jià)值如果你的設(shè)備從移動(dòng)端轉(zhuǎn)向汽車電子或邊緣計(jì)算場景很可能需要從UFS切到NVMe SSD那時(shí)你對Doorbell、Queue、DMA映射、Command Completion這些概念的理解都可以平移復(fù)用差異點(diǎn)只在鏈路層和命令格式上。7.3 后續(xù)可以繼續(xù)深入的方向UFS 3.1協(xié)議分析的內(nèi)容遠(yuǎn)不止這一篇文章能講完。后續(xù)可以展開的深水區(qū)包括UFS設(shè)備描述符/屬性/標(biāo)志位的完整字段解讀、SCSI命令集在UFS上的實(shí)現(xiàn)細(xì)節(jié)、UFS電源管理狀態(tài)機(jī)的完整轉(zhuǎn)移條件、UFS主機(jī)控制器的寄存器級(jí)編程指南、Flash轉(zhuǎn)換層FTL對UFS行為的影響、隨機(jī)讀性能優(yōu)化中的HPB演進(jìn)思路。我自己打算接下來抽時(shí)間寫第二部分重點(diǎn)講UPIU字段級(jí)解析和異常事件處理流程。如果你們在實(shí)踐中有有意思的UFS問題歡迎帶著業(yè)務(wù)場景來討論很多協(xié)議細(xì)節(jié)在規(guī)范里寫得非常隱晦只有在具體問題面前才能暴露出來。我在多個(gè)項(xiàng)目里反復(fù)體會(huì)到一件事UFS 3.1的穩(wěn)定性上限往往不取決于控制器和Flash的紙面參數(shù)而取決于軟件棧對協(xié)議細(xì)節(jié)的尊重程度。一個(gè)DPU字段沒配好、一次低功耗喚醒順序顛倒、一個(gè)PRDT對齊沒處理都可能在量產(chǎn)后的隨機(jī)場景里集中爆發(fā)。把協(xié)議吃透本質(zhì)上就是為自己的產(chǎn)品上了一道無形的保險(xiǎn)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
操婢日韩| 一本大道不卡一二三区| 92性色国产午夜福利在线661| 91N综合网| 国产啊v在线免费播放| 99热这里只有精品1| 把腿张开老子CAO烂你| 91亚州欧美| 亚洲 日本 国产 综合| 成人无码专区精品视频| 国产精品第一区第一页| 性九九九九九九| 亚洲国产午夜真人一级片中文字幕精品黄网站| 97丝袜亚洲在线播放| 国产日韩精品人妻久久久久色欲网站 | 破苞ⅩXXX性无码动漫无码| 欧洲精品网| 黄色高清无码无码破解免费暗网| 久热影视| 亚洲交性| 亚洲日韩欧美一区二区| 欧美内射少妇| 新婚人妻扶着粗大强行坐下| 男人天堂黄片| 3PAV乱伦视频| 情色五月天就去干| 麻豆黄色五月天| 日韩综合无码色欲vv| 美女91在线| 中文字幕视频2区| 91热爆在线| 男啪女色黄无遮挡免费观看| 北条麻妃性愛视频| caorenqi shipin| 日韩精品一区二区高清| 久久欲| 国产又猛又粗又爽又黄| 麻豆国产精品午夜视频| 久久久精品九| 欧美成人精品欧美一级乱黄一区二… | 四方色播| 777超碰| 久久熟女久| 成人性爱AV在线免费观看| 精品人人插人人操| 九九久久久九九| 91黑丝在线播放| 91在线综合网| 日本视频一区二区三区| 91女网站| 全球成人中文在线| 九九九九九九九九九五码| 国产一区二区三区免费视频在性观看 | 亚洲av强奸乱伦| 日日骚中文字幕| 乱伦av麻豆| 五月综合久久| 亚洲日韩精品久久久久一区壹牛| 公司1区2区3区精产精| 成人国产视频在线观看| 97 国产一区| 国产精品成人午夜福利| 91动漫操逼视频| 高清无码在线播放网站| 日本人妻丰满熟妇久久久久久| 亚洲欧美精品一区天堂久久| 操逼无码一区| 熟女人妻一区二区三区| 亚洲乱码尤物193YW| 中文字幕人妻资源在线| 精品欧美老熟女一二区| 日韩成人私密一级精品av| 国产深喉| 欧美专区第一页| 国产精品白领在线观看| 亚洲欧美电影| 操亚州| 99.色网| a片在线播放| 麻豆91熟妇人妻中文字幕茄子| 色69大色97香蕉| 成人一区二区三区四区| 99操逼| 夜夜嗨视频| 日韩精品99久久久久久中文字幕 | 婷婷色五月激情| 伊人九九| 色婷婷久久| 日本肉体xxxx裸交| 欧美日韩电影成人在线| 91在线页| 99热在线观看| 夜夜 中文视频rt| 欧美宗合网| 性饥渴少妇av无码毛片| 97色色婷婷| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 国产免费内射视频| 八戒午夜福利理论片| 天天做日日做天天欢。| 欧美日韩99精品麻豆传媒| 探花一区在线| 玖玖爱伊人玖玖爱| 97国产伦理| 亚洲少妇在线影音| 美女久久久| 强奸乱伦动态污图免费| 欧美视频第二页| 欧亚日韩三区| 成人免费毛片| 欧美性爱一区二区三区四区| 18禁看网站一区| 色色无码| 高清有码一区二区| 97视频在线免费看| 99人妻碰碰碰久久久久禁片| 精品一久久久| 日本熟女中文字幕一区| 色婷视频| 日韩精品人妻中文字幕有码午| 九九九九热只有精品| 强奸乱伦亚洲第一页| 欧美久久草熟女| 91亚州| 丁香激情五月| 成人五月天丁香激情综合| 成人午夜无码视频| 极品另类| 91色综合色| 久久久免费的精品| 中文字幕久久婷婷丁香五月天| 婷色五月| 伊人久久亚洲色欲综合网站 | 精品久9| 密桃99999| 国产后入| 久久女人一区二区三区| 18禁看网站一区| 色婷婷婷五月天激情四射| 久久91精品国产9丨久久分亭| 一,爱啪啪,在线免费视频| 国产天天看| 91天堂色男人的天堂| 亚洲女优有码无码高清| av绯色| 欧洲精品人妻| 欧洲免费一区二| 蜜乳AV一区| 日韩综合成人免费视频| 人妻熟女一区二区| 日本一二区免费| 99久久婷婷丁香| 久久久精品网站| 亚洲综合射| 亚洲一区二区三区春色| 久久久久久97| 91狠狠狠| 91久久婷婷| 在线视频资源| 欧美偷拍| 亚洲精品少妇| 超碰97.com| 91成人国产综合久久精品蜜月| 久久婷婷热| 日韩成人性日韩成人性爱视频在线免费观看| 国产精品久久久久久夜夜夜夜| 韩国女主播青草福利视频| 成人性爱电影网| 欧亚成人| 天天做天天爱天天高潮| 97视频在线观看高清资源| 艾草av| 在线天堂999| 日本色婷婷| 久久久新亚洲AV| 18禁的网站在线| 国产成人91一区二区三区| 91熟女在线| 亚洲欧美另类小说| 热久久国产| 无码在线亚洲| 亚洲日本韩国极品一区二区| 情色av电影| 天天射夜夜| 亚州综合图片| 在线日韩日本亚洲国产| 强奸乱伦大香蕉网| 亚洲图片欧美91N| 精品美女少妇一区二区三区| 97欧美日韩精品| 日韩少妇无码| 久久激情亚洲精品无码?V| 久操热线| 啊嗯嗯啊好大好爽| 午夜小电影在线插入淫高潮| 亚洲婷婷丁香在线| 丁香五月偷拍| 久久久天堂| 99人妻碰碰碰久久久久禁片| 操逼999| 亚洲亚洲亚洲天堂天堂 | 在线观看成人性爱免费小视频| 一区二区三区探花在线观看| 夜夜高潮夜夜爽| 亚洲在线综合| 欧美麻豆成人同性GⅤ在线| 嗯嗯嗯不要不要免费视频| 日本新免费二区三区| 色97| 成人线上超碰| 午夜久久一区二区无码中出| 久久国产精品m码| 久久久久成人亚洲国产| 97精品97| 国模艳艳啪啪一区| 亚洲极品| 欧美图片偷拍| 日夜精品| 国产午夜在线观看| 中文字幕一二三| 国语对白在线播放视频| 俞拍久久国应视频| 91女人的网站| 午夜激情成人在线观看| 久久人妻一区二区三区高清| 国产67194| 91丝袜| 中文伊人大香蕉视频| 极品国产内射| 妇人噜噜| 日韩一区二区精品视频| 人人妻碰人人免费| 台湾佬中文娱乐网久久久久久久久久com | 日本中文字幕一区| 色色国产| 精品天堂| 久久久久久久久久久久久久久久9| 青青草视频久久久久| 2019久久久久久久久福利| 黄色电影在线播放综合网站 | www.色操逼| 亚拍在线| 日韩大香蕉AV影片| 日韩福利综合一区| 日本丝袜人妻内射| 东京热激情视频一二三区| 91大神电影天堂| 久久99精品九九久久久婷婷| 国产精品午夜福利| 国产主播福利| 一块操欧美性爱| www.天天干| 九九九久千久久激情蜜桃在线看 | 亚洲人妻久久久| 超碰97综合| 91看黄片| 一本久道久久综合狠狠爱| 中文字幕在线观看AV| 99re在线精品78| 色综合91好| 国产成年免费大片黄在线观看| 久久99人妖视频国产| 小草三级久久观看| 任我爽在线视频免费观看 | 少妇蜜汁| 国产AV中文| 亚洲第2页| 九九无码| 少妇的嫩逼图片| 日韩一区二区高清在线观看的| 天天色综合图片| 色欧美色交综合| 爱妃国产亚洲视频中文字幕| 久久久人妻| 精品国产久久乱码| 伊蕉97蜜桃97狠狠综合干| 久热网| .精品人妻一区二区三| 好吊妞转入那个网| 一二三区精品视频| 99热只有这里有精品| 天天享受天天看| 高潮精品| AV天天在线观看| 超碰久超碰久| 亚洲精品日日夜夜52| 伊人久久大香蕉线AV五月天| av亚欧| 开心婷婷五月| 97资源站日韩| 天天欧美色| 欧美狠狠狠| 国产精品亚洲高清在线| 熟妇艹鸡八| 91综合网| 久久欧美1卡2卡3| 欧美性性性| 99视频自拍| 亚洲日韩97| 久久婷婷综合国际产色怕| 超碰欧美在线欧美| 国语精品内射在线观看| 欧美色老汉| 国产亚洲色婷婷久久99精品91葵花宝典| 亚洲综合小视频小说在线观看| 亚洲天堂在线怕怕视频| 成人日本精品九区| 中文字幕精品日韩中文字幕| 久久久神马影院| 黄色av片三级三级三级免费看| 嗯嗯啊啊好疼| 欧美综合区| 一区二区三区一亚洲中文字幕、综合区灬 | 久久99草| 岛国精品视频在线观看| 99999国产精品| 女优视频第10页| 色臀AV| 精品99999久久久久久| 东京热一区二区中文字幕| 日韩精品.久久精品.AV女优.天美传媒| 香蕉精品二区二区| 九月丁香婷婷| 日韩在线性爱免费视频| 精品97久久| 亚洲欧洲小说图片视频 | 99re这里只有精品3| 国产大陆天天艹| 色偷偷综合91久久噜噜| 精品一区二区三区蜜桃臀赵总| 啊啊啊啊啊啊啊啊视频| 欧美色一二三| 五月香婷婷| 国产又黄又爽又刺激久久久久久| 久草线上视频免费看| 91黑丝露脚| 国产丝袜美女在线一区| 操高情无码| 久热精品在线| 加勒比综合九九99视频在线播放| 久久性爱大全| 日韩欧洲操屄视频| 九九九九亚洲| 国产天美传媒精品| 成人五月香网在线| 日本三级精品| 一区二区三区色综合| 五月丁香啪啪| 去干网最新版| 国产在线激情视频| 久久久亚洲| 香蕉大久久久| 人人妻人人色| 英伦大奶子熟妇吊带| 丰满高潮18xxxx| 9色国产精品一区粉嫩 | 国产精品电影| 密乳AV免费观看| 午夜毛片亚洲精品片国产久久久| 一二视频神马久久传媒| 精品然女一区二区| 伊人97色天使| 久久天天性久久伊人| av天堂手机版追回| 一类无码操逼视频| 欧美成人免费在线观看| 亚洲深夜福利| 亚洲AV不卡在线观看| 国产精品网站www| 96精品在线| 丁香五月大香蕉| 操操逼操操逼操操逼逼| 91精品亚洲内射孕妇| 综合久久99| 60秒不遮不挡| 丁香五月婷婷基地| 九九色图| 狠狠操综合| 日本在线视频导航| 日本在线不卡v二区| 国产一区二区三区视频在线看| 天美91| 91第一页| 久久久中文| 亚洲欧美另类图片| 天天日天天操天天射河南省| 91一区二匹| 9久久精品| 精品午夜福利| 亚洲97成人在线观看| 国产精品不卡一区二区三区av| 操碰97| 97久久久| 在线免费观看日韩一区| 国产不卡免费在线视频| 国产日本久久免费精品| 免费观看啪视频| 色综合网1| 丁香五月偷拍| 国产乱婷婷精品二区三区| 91美腿丝袜在线观看| 一区中文字幕二区日韩| 色超碰综合| av草草在线电影| 96超碰网| 日韩成人高清一区二区| 国产人伦a片信息免费片| 女人 A一级| 99热99色| 日韩懂色网| 亚洲s色图| 亚洲欧美综合网| 91人人| 乱抡国产91| 乱欲一区二区| 91精品国产91熟女| 亚洲 无码 偷拍| 国产毛片久久久久久久| 日韩女模中文造逼| 国产青视频| 亚洲蜜臀精品视频久久| 大学生美女口爆| 美国一区二区三区视频| 激情五月天色播| 99啪啪| 91精品操美女| 熟女乱3伦999| 色综合尤物| 天天日日日射| 嗯嗯啊啊啊好爽| 熟女这里只有精品6| 搡老熟女老女人老熟妇免费视频| 久久精品亚洲东京热色播| 2003天天干夜夜操| 一级AV性爱| 久久婷综合| 天天色怡春院| 国内毛片热久久思思热| 一区二区激情国产熟女 | 日韩人妻丝袜中文字幕| 亚洲91在线播放影院| 美女刺激久久国产欧美| av草草在线电影| 色视频蜜乳| 色优久久| 屁股久久久久久久久| 日韩性爱啪啪视频| 日韩精品一区二区三区四虎影视| 久久久久久久久国产| 99久久精品国产系列| 翔田千里av一区二区三区| 久久伊人青青草| 久久精品一区二区三区四区五区| 亚洲色欲天天人妻无码系列专区| 干B| 黄色香蕉视频网站一区| 江都AV在线| 熟女少妇视频| 日本九九九九| 欧美极品性爱天天射| 四月丁香婷婷| 日本一二区不卡| 激情四射五月天| 五月天人妻综合| 国产91精品福利在线| oumeizonghese,www| 黄色AV免费| 日本青青草在线| 久久久久97| 美女啊啊啊啊pc| 国产日本一区二区三区蜜臀在线观看| 五月婷婷激情| 免费成人自拍视频在线| 欧美日韩情色一区二区| 天天综合91| 亚洲有码 视频一区| 无码人妻一区二区三区免费九色| 亚洲天堂,男人| 欧美双插| 大香蕉综合| 内射夫妻三片| 狠狠做深爱婷婷久久二区| 18禁免费视频| 久久亚州大香蕉| 97婷婷色| 天天综合亚洲综合| 性欧美体内射精| 久久久久亚洲av综合波多野制衣| 久操在97| 激情五月婷婷| 亚洲色欧美| 丝袜性亚洲| 亚洲中文字幕久久人妻| AV色五月天| 日本色婷婷| 婷婷五月天激情四射| 日本不卡高清免v欧美日韩在线观看| 亚洲欧美日韩偷拍色图| 欧美日韩亚洲天堂网| 欧美成人午夜免费福利785| 激情婷婷黑人91| 六九九九| 天天日B夜夜干B时时操B| 操一对老熟妇爽上天视频| 麻豆人妻精品一区二区| 可以免费看黄片的视频| 国产黑白丝在线| 欧美色三级片91| 四虎影视永久在线免费| 亚洲a色| 97 视频在线| 欧亚免费视频| 92性色国产午夜福利在线661| 亚洲伊人久久精品影院| 大香蕉手机在线视频| 免费看黄视频亚洲网站| 欧美劲爆第一页| 亚州春色| 人妻久热在线| 亚洲乱熟女一区二区三区大香蕉| 不卡av免费在线网址| 欧美激色| 亚洲熟妇无码一区二区三区| 国产精品熟女乱伦| 天天躁日日躁成人字幕aⅴ| 少妇色欲综合网2| 亚洲情色一区三区| www.久久| 国产精品无套内谢| 乱伦色图网址是多少| 九九九国产| 人妻激情在线视频| 国产精品网站www| 中文字幕一区av| 欧美日本国产日韩激情视频| {男男暴菊gay无套网站| 78久久| 久久宗合97| 夜夜 中文视频rt| 久久精品老司| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 伦理片秋霞免费影院| 亚洲成人精品在线一区| 亚洲欧美高清| 日韩精品-原创伙伴| 夜夜高潮夜夜爽国产伦精品| 成熟熟女国产精品一区二区| 成人色女网| 在线天堂999| 九九精品美女高溯喷水| 国产乱码久久| 欧美日韩超碰在线| 1024香蕉视频| 婷婷五月天小说| 国产伦精品一区二区三区在线观| 留下AⅤ黄色片| 欧美大香蕉专区网| 日操粉逼逼| 综合久久久久久久综合网| A级片日韩欧美国产欧美视频精选观看| 青青久久艹| 中文字幕成人乱码熟女精品国50| 天天久久久久久| 黄色交缠性感爆操91国产精品免费一区二区三区 | 乱码人妻一区二区三区| 尤物视频网 刘玥| 视频在线中文字幕| 天天操福利视频综合网站| 欧洲一区二区三区四区在线观看| 五月天亚洲网| 欧美性高潮| 97干97色| 久久久久久久伊人精品| 亚洲精品无码成人久久久99| 欧美色性爱| 亚洲欧洲国产综合av| 97国产成人精品免费视频| 国产亚洲精品自在线亚洲情侣| 91精品黄在线观看| 中文字幕在线播放2中文字幕在线观看2| 日本特黄f c2| 一区麻豆 高清中文字幕| 操B久久| 97超碰人操| 91中出在线| 中文字幕欧美日韩三级| 大屁股人妻女教师撅着屁股| 丁香五月综合| 一区二区激情国产熟女| 91麻豆天美国产| 色偷偷超碰亚洲| 久久久555| 亚洲AV麻豆Aⅴ无码电影一| xxxx网站亚洲精品| 色婷婷狠狠| n1038 一二三区| 久久久熟女一区| 色图综合网| 精品一区二区成人| 920日本午夜免费| 狠狠色一区二区中文字幕| 玖色av| CCYY草草影院地址入口| 欧美性爱伊人| a男人的天堂| 2003天天干夜夜操| 香蕉黄色一级视频| 五月天激情小说网| 精彩久久中文| 很很操在线| 久99久视频| 欧美少妇性乱| 日韩欧美日韩| 99自拍视频在线观看| 久艹伊人精品综合在线| 久久久久久人体| av天堂天堂av日韩| 熟妇最新先锋一二三区| 欧美色97| 中国国国产一级特黄毛片| 亚洲天堂女优在线| 综合五月天| 在线强奷到舒服的无码视频 | 91天天综合在线观看| 人人操,人人插| 亚洲成人碰碰| 人妻久久| 精品性爱一区二区| 成人一级二级| 国产成人亚洲精品无码古代早漏男| 国产伦精品免编号公布| 色综合大香蕉| 欧美特大黄一级片片免费| 四虎国产成人精品免费一女五男| 天美传媒精品一区二区| 亚洲一区二区麻豆影院| 日日躁狠狠躁天天躁精品| 26uuu国产日韩综合在线观看| 男人的天堂激情| 91天美| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 91天射| 国产家庭乱伦性爱视频| 婷婷五月天久久精品视频一区二区三区 | 大香蕉中文在线| 五月婷婷爱六月丁香色| 精品大全99999| 顶级丝袜熟女一区二区三区| 麻豆天美在线喷水AV| 女人被男人桶爽视频网站| 人人澡综合涩| 中国少妇XXXX做受| 无码久| 久久久无码av精| 亚洲区限制级 99| 在线观看精品国产免费| 欧美色图片欧美色图| 在线人人人人人人精品超| 精品乱码在线观看| 色牛牛AV| 欧美碰碰综合色| 女人爽到高潮久久久| 欧美综合另类| 岛国AV一区二区电影| 牛牛操视频逼| 91碰碰| 婷婷综合网站| 另类天堂| 欧美亚洲美少妇一区二区| 亚洲精品xxx| 肉丝中文无码高清| 精品一区二区三区蜜桃臀赵总 | 狠狠操狠狠燥| 思思热在线观看| 26uuu最新| 欧美青青视频| 国产高潮AA片免费看| 极品色综合| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 91欧美网| 久久111| 91丨九色丨国产丨人妻在线| 国产在线精品电影观看| 免费一级视频特黄色大片| 丝袜AV一区二区三区| 不卡超碰护士AV在线免费播放| 999精品国产高清一区二区| 成人久久久精品| 91美女中出| 18啪啪手机免费性爱| 大香蕉2017| 青青草黑寡妇男人天堂| 国产人妻天天干精品| 97在线免费观看视频| 日韩精品大香蕉伊人在线| 日本色婷婷| 一二三四视频中文字幕在线看| 九九九九九九综合| 97资源欧美| 天天躁日日躁AAAXX| 日本乱人伦片中文三区| 日本免费二区三区| 五月天久久婷婷亚洲| 五月开心网| 99精品视频在线观看免费| 夜夜欢天天干| 蜜桃AV天堂| 91欧美美女日韩国产婷婷| 国产伦精品一区二区三区视频女| 在线看片国产精品每日更新| 日韩三级伊人| 五月天婷婷社区| 久久精品中文| 中文字幕88av在线| 麻豆60秒| 99色综合| 国内精品久久久久影院亚洲| 无遮挡一级毛片视频免费的| 亚洲色宗合| 夜夜夜夜久久久久| 五月天亚洲网| 97公开久久| 青青草黑寡妇男人天堂| 精品一区二区三区蜜桃臀赵总| 在线精品福利免费播放| 中文字幕日韩专区精品系列 | 午夜福利成人免费视频| 中文字幕精品一区二区精| 国产综合色精品在线观看| 大香蕉99999| 人妻久久| 国产伊人精品在线| 久久精品成人| 日韩电影中文字幕| 热久久无毒不卡| 中国的操老妇女| 五月丁香六月综合缴清无码 | 日韩在线女优天天干| 美女丝袜激情小说| 久久国产精品91| 婷婷久草一区二区三区| 67194国产| 久久精品店| 中文字幕中文字幕一区二区| 操逼免费视频无码国产| 国产97/欧美| 校园春色亚洲无码| 欧美 亚洲 另类 综合| 久久久中文版| 97免费免费视频网| 麻豆伊人网| 9精品久久| 校园春色欧美| 亚洲999综合| 欧美草草| 超碰99在线| 狠狠操使劲操| 一区二区三区视频| 亚洲A曰本VA欧美VA视频| 麻豆视频国产一区二区| 乱伦熟妇一区二区| 日韩中文字幕人妻视频| 操逼视频亚洲| 日本欧美国内在线| 亚洲图片欧美在线视频| 国产黄a三级三级三级av在线看| 亚洲有码 视频一区| 久久色一区| 国产传媒美日韩av| 老色鬼成人精品视频下载大在线观看| 日本不卡免费二区| 97碰碰色| 明星性猛交ⅹxxx乱大交| 亚洲精品性爱片| 成人性爱电影网| 91啪9色| 中文字幕在线观看第二页| 亚洲 欧美 另类 日韩 人妻一区| 综合色久欲| 久草线上视频免费看| a啊啊啊啊啊啊啊啊一区二区| 男人天堂欧美| 国产精品久久久久无码A√| 亚洲成a人片在线观看中文!!!| 精品一区二区亚洲国产| 欧美精品人妻视频| 婷婷精品国产欧美精品亚洲人人爽| 玖玖大干人妻| 日韩欧美福利视频看看| 亚洲第一成人影院色播| 毛片17S| 青青操视频在线| 97视频在线看| 五月天婷精品激情| 伊人五月天青青草婷婷| 日本欧美色| 97在线免费看视频| 精品在线观看视频在线| 欧洲天天在线| 国产日韩怡红院| 免费αV在线视频| 久久九九99| 2026国产精品视频| 欧美性暴力猛交| 亚洲女毛多水多21P| 99.色网| 熟妇女伦乱视频| 黄片色区软件| 爽爽爽免费视频| 黑人综合网| 大香蕉丝袜一级片| 久久神马影院| 久久久久97| 操91| 亚洲日韩狠狠撸视频| 午夜国产成人精品视频| 国产成人亚洲精品自产在线 | 九久久九精品视频| 好湿好紧视频| 国产熟女免费观看久久| 99精品热| 婷婷久月| 欧美操逼一二三区| 亚洲天堂久久| 成人性爱高清视频免费看| 67194无码不卡| 久久久久久久97| 婷婷综合网站| 欧美久久人体| 人妻日日干| 97网址97| 亚洲操逼无码| 国偷自 一区| 国产大学生口爆吞精合集| 精品999日本| 一级做a爰片久久毛片图片| 校园春色欧美色图| 91人人操| 久都青青视频 | 中文字幕在线24| 精久久久| 亚洲中文字母在线播放| 加勒比色综合| 国产一区二区视频在线播放| 中出后入| 黄色免费网页无码| 男人天堂网手机版婷婷| 久操精品网| q2午夜理论片夜色av| 国产美女高潮叫床视频| 伊人久大| 91狠狠色丁香婷婷综合久久精品| 欧美精品,四区。五区| 亚洲免费成人精品电影| 日韩欧美蜜桃精品久久中文字幕久久| 日韩亚洲Av人人夜夜澡人人爽| 国产一区二区精品在线视频| 东北丰满熟女国产一区 | 极品色www影院| 色婷婷五月综合激情中文字幕| 欧美激情色婷婷花野真衣一区二区| 黄色AAAAA欧美| 欧美日日人人天天| 亚洲日韩一区电影| 丝袜足交视频| 青青草在线视频欧美| av在线免费一区二区| 中出20p| 久久精彩免费视频| 中国农村熟妇毛片视频| 国产精品久久久久久久久久久久久久久久 | 欧美一级久久久久久久大片动画| 91 国产丝袜在线播放-百度| 亚洲激情在线| 国内亚洲高清无码| 欧美日韩美女精品久草一区二区三区| 日韩在线观看字幕精品| 免费视频97| 久久国99999| 成人午夜视频免费播放| 欧美亚洲丝袜人妻制服中文99| 91电影色诱| 超碰成人国产| 亚洲黄片免费在线播放| 亚欧美综合网。| 男人的天堂亚洲| αⅴ天堂| 国产成人亚洲精品无| 97超碰人操| 日韩成人精品中文字幕| 色欲av一区二区三区蜜芽| 蜜区区视频79| 久久鲁夜| 超碰在线91| 一级黄色性爱A级片| 91人妻在线视频| 中文字幕乱偷人妻久久艾草网| 午夜免费视频1000| 亚洲国产精品有声| 九九草| 操91| 求求你操操我| 超碰97起碰| 欧美成人黄网色网站| 欧美91精品国产自产| 国产AV天美传媒一区二区三区 | 亚洲AO在线| 丁香九月激情啪| 免费一级黄色录像影片| 操一操摸一摸| 啊啊啊啊啊啊啊啊啊在线观看| 久久大香蕉手机高清| 久久婷婷影院| 丁香五月综合| 日本成人A片网站| 综合色一区三区二区| 久久亚洲日韩国产欧| 久久久久久久久久久999| 99re这里只有精品中心播放| 亚洲国产麻豆一区二区三区| www.人人摸在线视频| 黄呦呦在线| 精品免费一区二区三区在线亚洲人成| 岛国艾薇凹凸视频天堂| 91P0RNY大屁股人妻| 中文字幕av片| 嗯嗯嗯啊啊啊在线免费观看| 国产中文日韩欧美一区二区三区人妻丝袜美腿| 日本三级久| 大屁股xxxxx| 国产精品懂色tv影视免费观看| 熟女一区二区三区| 激情图片伦理国产一区二区日韩| 99色在线观看| 黄片无码在线制服| 久久久精品91八戒| 国产sv美女内射| 国产夫妻性生活视频| 加勒比五月天| 加勒比av官网在线| 欲香欲色天天天综合和网| 亚州春色| 国产AV人人夜夜澡人人爽麻豆| 欧美性天天影院| 另类亚洲图色| 日本天堂网| 蜜臀久久99精品| 天天操天天日天天干| 美女网站黄页| 中出人妻中文字幕91在线| 日本精品加勒比海一区| 亚洲色交| av一区二区三区不卡| 天天干天天燥| 噜噜噜在线视频| 操屄不卡视频| 涩涩五月天| 九九九网页| 日韩久久艹| 熟妇高潮精品一区二区三区下载| 日本孕妇孕交| 怡红院成人视频| 97超碰碰| 芊芊操逼视频无码| 强歼乱伦资源网| 二色av| 黄色成品网站| 九七人妻在线| 78超碰| 999久久久免费精品国产牛牛| 欧美黄色大片在线观看| 爽 好舒服 无码刺激久久| 天天日日夜夜| 中国黑人三级片网站上区| 欧美999999| 国产97色在线 | 亚洲| av亚欧| 黄色视频特级毛片| 在线啊啊啊啊| 精品小视频在线| 欧美精品欧美精品系列| 少妇大屁屁| 被操高清无码视频| 亚洲午夜福利视频| 嫩草 人人网精品| 97超碰国产亚洲精品| 91在线免费精品视频| 波多野结衣被操50分钟免费视频| 中文久久爆乳| 国产污视频麻豆传媒一区二区| 91亚洲欧美综合高清在线| 91少妇人妻| 日韩国产欧美伦理在线| 亚洲性综合9| 中国熟女91| 夜夜草天天| 国产成人+综合亚洲+天堂| 日本不卡高清免v欧美日韩在线观看| 97超色| 无码137片内射在线影院| 在线国产探花| 日韩欧美天天爽爽爽天天爽爽| 性欧美精| 蜜乳中文字幕a在线| 狠狠综合网| 97网址97| 午夜视频好爽啊| 人妻天天爽夜夜爽爽| 青青草久久| 精品成人无码| 欧美日韩免费专区在线| 免费一级毛片在线视频观看| 大香蕉天天看妹子| 中文字幕人妻丝袜乱一区三区| 黄页视频网站野外| 插老姨肥穴| 国产精品免费久久久久久久久久| 国产伦乱91| 男人下部插入女人下部| 91劲爆| 2019久久久久久久久福利| 美女在线H91| 日韩少妇无码| 亚洲成人av色网| 熟女露脸激情自拍视频| 大香蕉www.超碰| 大香蕉伊人在线成人AV在线观看| 超碰97欧美| 开心激情站| 国产成人主播| 眼镜人妻101.com| 亚洲97P| 性色av大全| 蜜臀亚洲中文| 欧美18老人禁| 丝袜美腿欧美| 91天天综合日韩欧美| 日本久久网| 91bbbbbb| 国内91熟女人妻丝袜天天精品视频在线 | 久久97资源 网| 乱操乱伦AV| 九一屌逼| 国产在线综合福利网站| 性色高清在线| 国产精品久久久久久久久久梁医生| 亚洲天堂另类小说男人| 一二三区操逼国产91| 欧美黑人性猛交91| 欧美片第一页| 嗯嗯,好大,好爽,好骚| www.yeyecao| 色婷婷淫色网| www色日本| 性感美女啊啊啊在线| 熟女人妻一区二区三区| 亚洲情色 自拍| 欧美熟女少妇| 一级二级三级黑人无码| 丰满人妻-区二区三区免费| 美女久久久久久久久久久| 青青11操操操操操操操操| 被窝影院午夜看片无码| 97频视在线| 国产热RE99久久6国产精品首| 色综九九九一区| 九九热视频在线观看| 美女裸体无遮挡永久免费观看网站| 成人综合视频久久| 国产AV激情无码久久无码 | 色在线亚洲视频www| 日韩国产九九精品一区二区三区毛片| 国产农村一一级特黄毛片| 国产精品农村妇女| 97色色色综合网站| 丝袜美腿制服人妻二区中文字幕 | 亚洲一区日韩| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 国产毛片在线| 日本三级精品| 97视频在线观看播放与子乱对白在线……| 囯戸精品高潮呻吟旡码| 天天综合网合集91| 神马久久久久眼| 顶级丝袜熟女一区二区三区 | 2019AV天堂| 动漫爆乳3D奶水一区在线观看| 97香蕉网| 久久久免费视频18| 国模一区二区三区| 精品国产人成在线| 另类天堂| 综合熟妇一区二区三区| 午夜欧美J进J出白浆流出久久久| 不卡啪啪视频| 无码精品久久久久久亚洲| 91精品人妻啪啪间| 91在线美女| 99久久9| 91社操逼| 日韩欧美大片免费高清啪啪| 欧美超碰人妻97| 99re3这里只有精品| 五月天色色网站| 狠日操| 国产日韩无码一区二区三区久久区| 精品少妇高潮久久| 五月天婷婷久久| 亚乱色| 无码一区二区精品视频久久久春药| 干B网| 亚洲精品九九九九九九| 天天天天做夜夜夜夜做| 亚洲另类久操网| 色综合网1| 黄片免费久久久久久久| 大香蕉狠狠爱| 成人精品久久久午夜福利| 欧美性爱一区二区三区| 青青草无码视频| 久久这里精品国产99丫e6| 能看的av| 色五月婷婷中文字幕| 大香蕉免费乱伦视频| 隔壁邻居波多野结衣中文字幕| 亚洲国产精品久久AV| 熟女熟妇一区二区三四区| 加勒比五月天| 9精品久久| 久久婷婷亚洲欧| 9久久美女首页| 欧美 综合| 第四色色综合91| 久久人妻视频网| 色五月婷婷五月天| 九九热精品| 在线 制服丝袜中出 人妻| 91超级碰碰| 五月丁香成人网| 国产毛片精品一区二区色欲黄A片| 国产91精品福利在线| 岛国色情视频在线观看| 超碰在线观看av不卡| 亚洲三区视频| 色网在线视频观看免费| 国产最新小视频在线播放下载 | 中文激情网| 色婷亚洲五月在线观看| 五月色网| 999久久久精品国产| 久久久久久久久久久六六| 国产精品一区二区三区在线密挑| 亚洲中文字幕精品久久久久久直播| 乱伦av.com| 久久精品店| 亚欧高清| 天天综合网~91| 青娱乐黄色录像| 东京太热男人的天堂久久久| 91美女视频直播|