亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久精品电影| 婷婷色色五月天福利| 久久五月丁香| 欧美躁死她一区二区| 久久久91| 国产第11页| AV中文在线| 亚洲色婷婷综合久久久久中文| 无码99| ..日韩av毛片精品久久久| 青青草一区二区三区四| 激情五月丁香五月| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 欧美综色欧| 岛国大片在线观看网站入口| 91精品老女人| 国产风韵犹存熟妇三区| 麻豆精品A片免费观看| 中文字幕精品区先锋资源| 国产又长又大又粗的视频| 开心激情婷婷| 操国产高清| 亚热日本熟女| 91色五月俺来也| 精品国产乱码久久久久久影片| 高清无码在线播放网站| 久久久久成人网| 九久9热| 国产乱码久久| 超碰97欧美在线 | 国产欧美日韩在线不卡第一页| 亚洲中文字幕在现观看| 偷拍综合网| 久久亚洲一区二区色婷婷| 操我啊啊啊啊啊| 日本国产成人亚洲精品无码| 人妻偷拍一区二区三区| 欧美狠狠| 国产美女口爆吞精视频| 久久六六| 91丝袜在线观看| 女人18精品一区二区三区| 大香蕉啪啪啪啪在线| 啊啊啊好湿久久| 日本九九久久99播| 久久蜜色情在线视频xxx免费观看| 日韩久久三区| 欧美在线官网| 欧美影音在线| 在线视频97| 国产农村妇女精品| 香蕉热人人精品| 中文字幕美女91| 最近二区三区视频大全| 久久久久久久九九九九九九| 999国产精品999| 大地资源在线观看中文第二页| 中国女人内射6XXXXX| 国产aⅴ无码片毛片一级网站| 国产精品免费久久久久久久久久| 人人操人人干网页| 久久久久久久亚洲Av无码| 国产绿奴视频在线观看| 日本一区二区三区四区免费观看| 丁香久久| 精品十三区| 欧美日不卡| 婷婷三区| 嗯嗯嗯啊啊啊干死我吧| 日韩精品一区二区人人人| 欧美中文综合| 伊人网青青| 在线免费观看日韩一区| 熟女精品一区二区三区| 天美欧美国产| 中文字幕第9页萱萱影音先锋| 国产精品久久伊人| 蜜汁欧美| 久久亚洲国产成人| 无码人妻丰满热妇又大又粗| 熟女啪啪视频| 久草在| 中文字幕第23区| 久久久少妇诱惑精品视频| 亚洲色综网| 日韩国产精品人妻无码久久久| 大香蕉综合网| 国产黄色剧情影片麻豆免费播放| 人人看人人爰人人操| 欧美性爱www免费版| 久热在线精品免费观看| 丁香六月啪| 强奸乱伦 亚洲一区| 久久久一热在线播放| 极品美女福利在线观看| TS人妖另类精品视频系列| 中文字幕一二区二三区人妻专区| 欧美九9 9 9| 久久大香蕉手机高清| 欧美久久人妻少妇一区二区| 亚洲 欧美 日韩另类 麻豆| 性天堂| 日人妻视频91| 久久综合精品一区二区三区| 99夜夜操| 欧亚性爱视频免费看| 少妇同性| 91观看 国产白丝| 国产91av在线播放| 午夜精品久久久久久久男人的天堂 | 精品视频免费在线一区| 99国产人成精品| 乱色老一区二区三区的观看方式| WWW.操逼.COM| 国产九月婷婷| 超碰97极品9| 天堂а√在线最新版在线 | 亚洲官网在线| 91狠狠综合网| 骚逼高潮久久精品| 日本精品久久久久久久| 日本人妻丰满熟妇久久久久久| 99亚洲天堂| 日韩无码久久熟女一级片| 亚洲精品久久久久毛片A片拉屎 | 九九人妻| 日韩乱伦视频| 亚洲欧美首页| 婷婷五月天久久精品视频一区二区三区 | 91女优在线观看| 中文字幕乱码人妻二区三区| 国产SV一线| 欧美精品宗合| 少妇500双飞99| 精品午夜福利| 日韩精品国产精品五码一区二区| 日韩少妇无码| 99999精品成人| 7777奇米影视久久| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊| av无线看| 亚洲精品蜜桃久久久久久久| 久久透逼视频| 亚洲自拍小说| 中文字幕av乱伦| 综合大香蕉美。| 日韩免费中文字幕视频| 精品国产一区二区三区久久久蜜臀| 中文字幕黄片在线| 91美女视频。| 日本熟妇熟色97一本在线观看| 亚洲日韩乱码中文无码蜜桃臀网站 | 99精品伊人| 91av一区二区在线观看| www被窝色com| 国产又黄又猛又粗又爽的网站| 99久久99久久免费精品蜜臀| 色眯眯射| 久久ww| 亚洲精品九九九| 天天干,天天日| 超碰人妻久久| 久久久不卡区一区二区三区久久久| 草草草视频在线免费看| 无毛精品| 97舔舔| 7777奇米影视久久| 加勒比五月天| 91精品电影18| 国产欧美日韩一区二区三区| 成人久久久| 成人性爱电影一区二区| 日韩免费在线观看不卡| 天天天堂影视日韩亚洲91| 色婷婷网| 国产成人精品亚洲日本| 日韩av不卡在线看| 久久久久网站-538在线视频-欧美永久乱码 | 欧美日韩淫加| 3d成人精品一区二区| 久久亚洲日韩熟女精品| 久久鲁夜| WWW.加勒比人妻一区不卡.com| 国产精品久久久久中文字幕| 91亚洲情色| 国产青青美女玩逼视频| 九九夜精品九九在线| 国产免费永久精品无码| 97国产精品| 亚洲人妻久久久| 久久国色天香香蕉| 国产亚洲在线观看| 丁香激情网| a片在线播放| 国产精品69久久久久孕妇欧美 | 视频二区美腿丝袜制服人妻欧美 | 91色人妻| 国产精品久久久吖| 乱伦a片视频| 97手机日韩| 亚洲1区2区三区高清中文字幕| 一区二区三区麻豆| 中文字幕福利视频一区二区三区在线观看| 欲射影视| 亚洲五区熟女| 99热伊人| 九月丁香| 桃色五月天| 无码聚合| 日本人妻最新在线中| 日韩性色| 久久久久99999| 91无码精品| av草草在线电影| 久久蜜桃综合网| 亚洲天堂东京热| 五月综合视频| 蜜桃视频精品一区二区| 亚洲色图久久精品蜜| 五月香婷婷| 亚洲成人性| 1区2区3区视频| 秋霞鲁丝午夜无码一区二区三| 欧美日韩大陆黑人少妇99| 国产精品老熟女一区二区| 日韩av一级黄片| 欧美人妻久久精品二区三区| 国内亚洲高清无码| 亚洲自拍天堂| 一区二区三区四区免费视频| 十八禁成人网站在线观看| 免费簧片在线观看| 色噜噜人妻丝袜a∨先锋影 | 色在线69堂| 欧美亚洲AN| 看黑人AV不卡| 日韩ab网| 青草伊人网| 96超碰网| 2017人人操,人人摸| 黄色操人| 国产精品一区二区 尿失禁| 97任你吞精| 免费看欧美美女黄色大片| 五月天大香蕉| 欧美九9 9 9| 欧美永久激情一区二区| 欧美色图在线视频少妇| 男同专区一区二区三区在线| 熟妇综合一区二区三区| 网页导航五月天免费一二三区| 婷婷五月天激情网| 国产欧美日韩在线观看麻豆传媒公司| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 色欲av一区二区三区蜜芽| 亚洲国产成人福利在线观看| 国产色呦呦| 国产亚洲色婷婷久久99精品91| 亚洲高清无码在线桃色| 天天综合精品| 久久久噜噜噜久久人妻| 97精品免费视频网站| 97人人夜夜精品视频| 综合操逼| 亚洲不卡不卡中文字幕不卡| 亚洲情色 自拍| 欧美精品久久96人妻无码| 日韩乱伦影音先锋| 色鬼在线综合| 97超碰久久| 91成人久久| 久久综合18p| 精品久久久九九九孕妇| 欧美综合传媒| 中文字幕日韩精品久久| 亚洲欧洲偷拍一区| 国产精品97超碰| 日韩欧美性吧婷婷乱伦大香蕉| 97人人操人人摸| 欧美婷婷五月天| 国产精品乱人伊人网| 国产深喉| 国产情侣自拍在线播放| 午夜福利在线视频1000| 91精品91久久久久77777俄罗斯老妇姓x| 乱伦色图网址是多少| 91精品综合久久久久久五月丁香| 蜜臀亚洲综合一二三四区| 人妻一区二区三区熟女| 中文字幕aⅴ在线视频| 啊好爽受不了无码| 亚洲色图欧美色图另类图片| 凸凹视频在线观看| 亚州九九九精品视频| 超碰色大香蕉| 日韩AV熟女乱伦| 亚洲污污网站| 国产狂喷潮在线精品| 精品视频久久久久九九九九9999| 久久九精品| 久久久555| 色情五月综合婷婷| 99最新日韩偷拍视频| 九九无码| 国产午夜视频| 思思久热在线精品66| 激情综合网激情五月天| 久久99国产精品| 国产亚洲精品av一区| 操91| 国产日本久久免费精品| 青女在线| 欧美久久伊人| 黄色工厂这里只有精品| 丁香六月婷| 三四中文字幕| 婷婷99狠狠| 国产精品另类| 超碰97起碰| 男人天堂欧美| 九九热五区| 亚洲色图欧美色图日韩色图| 国产精品第一页国产大屁股视频免费区i| 免费精品无码一级毛片牛牛影视| 婷婷六月天| 天天看片青娱乐| 色爽爽文学| 国产强奸无码乱伦| 91国产伊人大香蕉| 精品大久久| 欧美十八禁视频| 九九热超碰97亚洲最新香蕉 | 天天做天天爱夜夜爽毛片试看| 天操天操夜操夜月操月年年操| 大香蕉乱级| 超碰综合色| 人人贴人人摸| www.成人无码| 肥臀熟女福利视频一区二区| 狠日操| 91欧美少妇| 亚洲不卡AV在线| 国产辣妈在线视频福利| 欧美色91| 精品久久久av| 久久加勒比| 99re69| 久热超碰| 精品国产无码中文| 东京热男人的天堂| 国产欧美日产一区二区三区 - 国产欧美日| 久久精品国产亚洲AV成人直播| 精品一区二区三区18| 爱欲AV| 人妻精品一区二区在线| 国产精品天堂| 使劲用力艹少妇视频一区二区 | 亚洲日韩人妻中文字幕一区| 97操97干| 国产精品视频| 欧洲免费一区二| 国产三级多多影院2022国产AA一级毛片无码 | 国产有码一区| 久久精品国产亚洲AV嘿嘿| 青青草玖玖爱| 久久久精品国产亚洲伊人| 午夜一级免费毛片| 国产一区二区三区免费视频在性观看 | 在线a v| 亚洲人妻精品一区二区| 亚洲天堂情色| 亚洲综合性感在线| 国产欧美亚洲精品a第2页| 极品国产内射| 国语av狠狠色丁香婷婷综合激情| 亚洲少妇视频| 无码精品啪啪啪一区二区三区三州| 精品国产自在在线99| 97人人模人人爽人人| 中文字幕人成乱码熟女香港| 午夜乱轮操逼视频免费看| 久久高潮妇女视频| 99re欧美| 国内一级精品| 亚洲 在线| 超碰综合97在线| 亚洲精品1区| 欧美色一二三| 69精品人人人人| 在线不卡视频| 97人肏| 日韩精品一二三四| 99免费视频| 五月天婷婷色色| 日韩久久激情精品| 精品久久99| 五月丁香综合啪啪| 天天综合精品| 嗯嗯嗯嗯啊啊啊好紧好大| 日韩免费人妻色情网站| 丝袜美腿欧美| 成人欧美一区二区三区黑人一| 91操碰| 亚洲色天堂日韩中| 97亚洲国产影视| 大香蕉伊人网WWWn0n| 欧美专区第一页| 亚洲AV免费在线观看| 久久亚洲天天做| 老汉网| 91激情网| 国产精品伦理| 国产毛片片精品天天看视频| 小日子操bb在线看| 久久性生大片免费观看性| 日韩欧洲操屄视频| 免费精品中文字幕| 久久,精品一二三| 九九久久国产精品| 色九色久| 99久久精品欧美国产| 色黄色美女大长腿午夜视频| 激情综合婷婷| 97久久精品国产| 2017天天透天天通天天擦| 人人操超碰在线| 热热色中文无码| 中文字幕一区二区三区字幕| 97日视频| 天天综合欧美黑人| 粉嫩av平台| 天天躁日日躁AAAAXXXX国产| 伊人影院中文字幕| 囯产精品强| 午夜九九九九九九| 乱伦av麻豆| 色五月婷婷麻豆在| 久热久| 91无码人妻| 九九九九热| 狠狠色噜噜狠狠狠狠狠色综合久久 | 欧美日韩中国x| 亚洲夜色在线| 88xx成人精品视频| 欧美激色| 日韩不卡毛片Av免费高清| 亚洲第一男人天堂| 女人喷水视频在线观看| 超碰美女97| 美女裸体麻豆天美蜜桃91| 秋霞一级视频在线观看免费| 91搡老女人老妇女老熟女歌词翻译| 久久精品国产99国产精品亚洲| 久久九九国产精品| 国产精品午夜福利亚洲综合网| 精国久久一区二区三区98| 久久婷婷五月天| 亚洲色图欧美一区二区不卡| 欧美亚洲首页| 嗯嗯啊啊的视频| 久久久久久性爱视频| 久久高清欧美国产| 一本色道无码DVD中文字幕| 久久精品人妻一区二区三区| 天天亚洲综合| 色呦呦、国产精品| 亚洲激情在线一区二区| 秋霞成人一级在线观看| 青青草久草| 啊啊啊啊好大好硬啊啊啊啊啊| 超碰97欧美在线| 久久国语| 传媒免费一区二区三区| 欧美AB在线观看| 亚洲日本韩国在线| 一区二区三区免费岛国片| 欧美日韩大黄片| 亚洲色图一区二区三区| 久久久久国色αv免费观看| 好看的久久不射无码影视影院| 又大又白奶子| 香蕉综合网| 黄片www.| 日本色色色视频| 日韩免费看在线黄色片| 日本影视久久免费| 伊人加勒比| 久久无码精品| 亚洲av资源| 中文无线日韩一区| 亚洲天堂电影网| 九九九精品色乱九九九| 久久美国毛片| 天堂综合| 日曰骚久久精品| 97日韩欧美亚洲| 丝袜视频网国产90| 日韩无码服务区| 欧美色图97| 97天天在线| 欧美精品91| 黄色高清久久无码依人| 免费人人搞97| 绑缚麻绳人妻寝取完整版| 青青爽| 殴美,日韩国产伦精品| 女优免费一区二区永久| 成人综合网 欧美| 国产精品午夜成人福利| 亚洲精品国产av天美传媒| 91麻豆天美传媒HD| 欧美日韩另类字幕中文| 人妻人久久精品中文字幕| 青青草十区九区爱夜| 午夜精品久久久久久久99热影院| 青青青青草av在线观看| 亚洲污污网站| 91女优在线观看| 青久久| 亚洲第一页色网| 色网亚洲人| 超碰97COm中文| 加勒比伊人| 无码高清少妇久久| 美女操逼福利视频| 九九性视频| 观看免费区二区三区二| 热热色国产一二区AV| 理论久久婷婷网8| 我想要 啊 啊 啊| PMv在线观看| 蜜乳AV一区二区三区四| 五月丁香啪| 青青草伊人久久| 久久久天堂| 蜜臀无码视频在线观看| 在线无码网站| 性吧在线视频| 91AV天美在线视频| 久久精品国产亚洲av水密被窝| 国产午夜精品理论片一二三区区 | 97国产色综合| 韩国国产欧美情侣视频在线| 九t超碰| 中字幕人妻一区二区三区| 中文字幕一区二区免费在线| 色墦五月丁香| 性性久久| 日日超碰亚洲| 人人干人人操人人..com| 中文字幕啊啊啊在线观看视频| 青久操| 日韩精品一区二区人人人| 中文字幕精品免费一区二区| 免费自拍三级综合| 欧美劲爆视频一区二区| 成人网欧美风情| 97资源站国产精品| 免费自拍三级综合| 国内外色色色色色成人视频| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 国产欧洲精品亚洲午夜拍精品| 色香网| www.亚洲成人一区| 日本大片日本一区二区免费高清| 爱丝福利| 精品久久久高清无码| 日韩精品99999| 毛片99-全集电影手机免费观看完整-B029AV| 2024年最新色情网站在线观看| 久久精品国产96精品亚洲拳交| 东京成人一区| 麻豆久久精品亚洲精品88| 成视频在线观看免费看| 九九九精品一区二区无码| 加勒比综合| 婷婷六月色| 亚洲男人天堂视频| 操逼逼中文字幕| 超碰97色色| 嗯嗯啊啊好爽| 欧美淫穴| 色香综合| 欧美亚洲玖玖玖| 人人操人人操人妻人| 欧美丝袜制服久久| 久久综合久色欧美综合狠狠| 日韩无码三级影院| 磁力99AV| 中日亚韩免费视频| 自拍欧美| 国产视频一区二区三区在线免费观看| 日韩内射视频| 亚洲乱码精品一区二区| 欧洲中文字幕| 国产a片操逼| 美女91在线观看| 亚洲码在线中文在线观看| 久久发布国产伦子伦精品| 97视频在线看| 欧美日日夜夜| 日韩精品色呦呦| 久草精品国产蜜臀| 亚洲国产婷婷在线播放| 91激情综合| 在线无码操| 欧美青青视频| 色五月大香蕉| 人人妻人人爱人人玩| 97免费在线视频在线观看| 国产深喉视频一区二区| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 久久久久久久久久精| 操逼www.| 99热这里只有精品1| 9久久精品| 久久久久久久久999| 亚洲。日韩。欧美| 日本欧美韩国国产在线| 95精品在线| 尤物网址| 俺也射| 色五月婷婷五月天| 91精品国产91久久福利| 超碰97亚洲区| 久久草草欧美精品| 亚洲AV成人精品网站在AV| 骚熟女吞| 激情五月丁香五月| 囯产精品久久久久久久久久梁医生| 日韩三四五区| 人人操人人插人www| 中文字幕国产| 9999伦理视频| 性爱1区| 欧美欧美啪啪视频| 97超碰伊人| 性色中出| 久热91| 玖玖爱在线视频免费观看| 欧美日本不卡| 99久久e免费热视| 激情五月天中文字幕色| 男女香蕉一区二区| 一个人在线看的黄色电影网站| 激情综合二| 欧美超碰97| 91在线视频免费中出| 肉嘟嘟www视频在线观看高清| 91制服丝袜中文字幕| 成人一区二区三区四区| 99热日本| 最新中文字幕在线亚洲| 日韩免费高清大片在线| 中韩中文字幕在线观看| 热热热热日日漂亮永久永久国产日| 看一级黄色视频| 久久亚州精品成人Av无| 日韩人妻无码不卡网站| 无码人妻系列少妇| 亚洲精品男人的天堂| 无码操逼网| 日韩电影在线观看网址| 性生活性生大爱77AV国产| 无码一区二区三区四区五区六区七区八区九区十区视频 | 3571色综合一区二区二区| 亚洲精品三区在线观看| 国产精品白领在线观看| 亚洲色图A| 曰韩香蕉97| 精品亚洲俞拍视频一区| 熟妇视频一区二区三区在线观看| 日本αv| 91欧美经典| 美女91网址| 久草久日| 久久婷婷在线观看视频| 性爱动态120秒| 五月婷婷爱六月丁香色| 国产精品露脸在线观看| AAAA欧美日韩| 91高清欧美| 久草成人影片| 天天大干大香蕉| 久久啊啊啊视频| 欧洲亚洲人妻无码中字久久三区四区 | 青青色综合| 99九九精品| 久操操| 九九热精品| 婷婷久久综合久| 欧美国产日韩高清在线| 国产男女边吃边摸视频网站| aaa亚无码专区| 97操| 偷拍 欧美 日韩| 中文字幕在线免费观看2| 91天堂| 91久久青青草原精品| 男人久久天堂| 亚洲国产综合图区中文字幕| 九九九免费视频| 在线综合网| 色哟哟 日韩精品| 中文一区二区三区影院| 国产又粗又大硬免费色网视频| 99久久99久久免费精品蜜臀| 国产h小视频在线观看免费| 操国产高清| 人妻娇喘 激情视频| 日本亚洲嫩草影院啪啪| 亚洲欧美视| 久草精品视频| WWW美腿丝袜香蕉中文| 懂色影视久久| 男同专区一区二区三区在线| 欧美激情 一区| 91亚洲情色| 日韩免费中文字幕视频| 翔田千里Av在线| 在线综合色| 色色色欧美| 两性综合网| www狠狠| 99热这里只有精| 四虎884a| 亚洲天堂一二| 91色人| 人妻夜爽夜夜爽| 999久久久| 久久久久免费看少妇A片特黄| 1禁看欧美黄片免费看| 久久草草欧美精品| 成人色女网| 色777999综合| 欧美一区二区男人天堂| 夜夜草天天| 夜夜影视四色| 在线观看十八禁| 日韩天天本| 日本天天干天天操一区| 精品无码秘 人妻一区二区| 尤物黄色在线观看网站| 五月丁香综合激情| 99热 按摩 日韩| 国产精品动态一区二区三区四四| 亚洲欧美综合网| 亚洲无码超碰免费| 九月丁香| 久久啊啊啊视频| 久久久9999| 人人天天干干| 二对二中文字幕。| 久久老熟女| 国产aⅴ无码片毛片一级网站| 婷婷五月色| 91 综合 色| 九九九九热| 思思热久久成人| av资源在线播放天堂| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 97超碰久久色| 久久男人的天堂| 婷婷综合| 久久9免费视频| 一本大道不卡一二三区| 夜夜中出国产| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 人人妻人人狠人人| 超碰人妻中文在线| 日韩无码人妻| 日本91白丝| 久干网| 在线观看一级α片刺激高潮视频| 99久久精品国产高潮| 欧美丝袜激情| 亚洲图片偷拍欧美| 无码日韩人妻av一| 淫乱图区 | 久久国产99精品72福利| 骚货操死你| 无码日韩网站| 欧美玖玖爱免费玖玖| 欧美一级美片在线观看免费| 美女黄频a美女大全免费皮| 日日嗨AV一区二区夜夜| 国产一区二区三区久久久精品| 91丨国产丨白浆| 精品对白久久不卡| 淫妻综合网| 992视频一区| 99热这里只有精| 91久久国产精品| 黄污污污污| 超碰美女97| 狠狠久久亚洲欧美专区| 蜜臀AV一区二区三区| www激情| 偷偷人人精品女女久久| 亚洲激情四射| 欧美性91| 欧美亚洲一区二区久久久婷精品大包诱| 91综合在线| 欧美极品少妇交| 久久9久| 狂操嫩妻视频一区二区三区| 78超碰| 久久伊人影院| 精品少妇后入一区二区三区四区人妻巨乳 | q2午夜理论片夜色av| 国产精品点击进入在线影院| 亚洲自拍一区夜夜操| 蜜臀99久久精品久久久懂爱| 五月天丁香欧洲日韩| 精品一区二区三区国产| 四虎免费看黄| 日韩免费在线观看不卡| 午夜精品久久久久久久99热影院| 黄色激情电影在线观看| 2017超碰| 久久这里只精品99re66图| 欧美色图20P| 免费视频在线观看啊啊啊啊啊| 搡老熟女免费视频| 亚洲涩涩| 99啪啪视频| 超碰97久久| 中文一区二区| www.色婷婷| 久久亚洲中文字幕视频| 男人的天堂在线| 激情综合网激情五月天| 精品人妻免费观看| 亚洲色图 综合| 国产视频一区二区免费| 嗯嗯嗯嗯啊啊啊好紧好大| 蜜臀99999| 97日韩欧美| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 激情四射熟女丝袜| 午夜丁香婷婷| 欧美一区二区三区四区综合| 亚洲色婷婷综合久久一区二区三区| 天天做天天爱| 国产一区二区在线播放量| 久久久久久九九九九九九| 高树玛利亚无码流出| 91人妻少妇| 亚洲综合射| 嗯嗯啊在线视频| 欧美gv在线观看| 老熟女阿 国产91| 亚洲精品天天影视综合网 | 首页中文字幕中文字幕免费| 精品对白久久不卡| 日本五十路在线| 熟女视频久久| 欧美午夜视频免费观看| 蜜臀久久久99久久久久 | 噜噜噜狠狠色综合| 国产一区二区三区久久久精品| 亚洲色天堂九9| 蜜臀久久99精品久久久老,,| 亚洲精品无码成人久久久99 | 亚洲爱爱视频一区二区| 在线黄页看毛片| a级成人毛片免费视频高清| 大色网久久| 97爱碰| 9热9热综合网| 97电影院超碰| 在线观看色视频| 欧差乱伦二三| 男人天堂新| 欧美色图自拍| 成人一级二级| 蜜臀久久99精品| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 久艹99| av天天在线观看| 久久久久久AⅤ无码免费肉站| 69国产对白刺激| 96久久久久| 国产午夜精品一区二区三区牛牛| 91强在线播放| 99xav| 精品国产网站| 亚洲综合另类欧美久久久| 激情综合五| 中文字幕在线免费观看视频| 久久久国产亚洲精品系列| 久操网视频| 在线播放免费av福利片| 欧美高清18A片| 78超碰| 搡老女人老91二区| 校园春色五月天| 高清视频一区| 亚洲欧美不卡线| 日本精品一区二区不卡| 成人九九| 日本999精品| 久久久久久久久久久久久久久久9| 婷婷综合在线观看| 亚洲色欲一区二区三区| 操b网站亚洲无码| 五十路熟女工口| 校园春色综合香蕉| 欧美在线视频观看一二三四区高清| 亚洲综合校园春色| 日韩精品人妻中文字有码在线| 精品然女一区二区| 国内操逼视频二区| 久久亚码| yazhouzaixian| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 久9无限国产| 久久精品国产亚洲粉嫩| 天天综合色图| 91精品人妻一品二品三品| 麻豆亚洲AV成人无码久久精品| 青草综合| 黑人精品XXX一区一二区| 一区操逼| 欧美性爱三区二区| 91粉芽高清在线一区二区| 麻豆天美国美国产| 五月天综合网| www.人人摸在线视频| 丰满人妻一区二区三区免费 | 在线人妻熟女一区二区三区四区五区| 国产夜夜艹| 久久精品视频在线观看| 日韩人妻丝袜美腿中文| 啊啊啊爽爽| 成人一道本免费视频| 日韩精品 视频一区二区| 不卡免费av在线播放| 亚洲色图超碰在线| 国产熟妇一区二区| 精品人妻视频一区二区在线播放 | 小视频国产| 国产福利av精彩对白| 长长久久88视频| 99热精品国产| 插插综合网天天影视网| 久久精品国产亚洲AV清纯| 在线日韩精品一区二区三区| 国产区91柔拿会所技师| 蜜桃午夜视频一区二区 | 中文字幕十五区| 果冻传媒A片麻豆熟妇人妻| 欧美不卡五十路| 国模无码一区二区三区在线| 亚洲精品中文字幕一区在线视频| 91狠| 天天干1区2区在线| 亚洲天天操| 免费毛片在线播放| 人妻在线中出视频| 91男人综合| 欧美日韩国产三级黄色| 无码又爽又硬又激情免费视频| 91视频成人福利网站在线一区| 青青草国产一区二区三区| 亚洲一级黄色毛片| 九九探花视频在线观看| 精品大久久| 国产精品乱码久久久| 日韩无码a片| 国语人妻精彩刺激| 久久久草草精品| 欧美片第一页| 可以免费观看的AV| 激情小说亚洲视频| 日韩极品无码B| 中文字幕 码 自拍 视频 区| 97av,com| 97精品久久| 99热日本| 热热热热日日漂亮永久永久国产日| 亚洲欧洲日韩中文字幕一区| 国产白嫩漂亮KTV在线| 亚洲欧美国产其他二区| 走光一区92下载| 亚洲AV成人精品网站在AV| 日本99热| 大茄子熟女AV导航| 一区三区啪啪| 欧日韩在线观看| 日韩综合成人免费视频| 人人妻人人操人人乐| 亚洲丝袜二区在线| 亚洲无码久久久久久久| 最新精品久久蜜桃| 呦呦影院| 美日韩一卡二卡三卡免费人妻精品| 久久亚洲日韩熟女精品| 女人喷水视频在线观看| 精品无码人妻一区二区免费蜜桃| 欧美成年人性爱视频免费观看| 韩国一区二区精品亚洲| 男人的天堂久久狠| 性久久| 欧美激情久久久久| 日韩国产不卡在线视频| 色情亚洲日本成人| 丰满美女一级毛片在线播放| 99热这里只有精| 97视频新免费| 无码人妻丰满热妇又大又粗| 久久AV色| 精品国产肉丝袜在线拍国语| 人乳av| 深田咏美亚洲精品福利社| av2014 日韩在线中文字幕| 亚洲熟女中文字幕在线| 性感美女啊啊啊在线| 激情啪啪拍91| 蜜桃臀AV在线| 精品国产精品一区二区| 丝袜AV一区二区三区| 天美国产三级传媒| 国产h小视频在线观看免费| 日本丝袜美腿人妻九九| 69av一区二区三区| 久插综合| 激情国产乱伦Av| 日本无码1| 超碰综合97在线| 亚洲 图片 综合91| 美女天天干| 国产九九久久久精品| 国产一区二区在线播放量| 狠狠躁天天躁日日躁| 婬女免费一二三区A片| 亚洲欧美清纯| 亚洲人在线| 国产又大又硬又长又粗| 九九热re99re6在线精品| 日日狠狠久久偷偷色综合免费| 97视频在线| 噜噜噜久久亚洲精品色情| 日韩乱伦影音先锋| 东京热毛片177b2viP| 日韩精品高清资源在线| 黄色视频高清无码网站| 欧亚久久偷拍视频| 黄色欧美性爱视频| 天天插天天操天天摸天天射天天看| 国产丝袜美女在线一区| 日韩三级性| 97精品综合久久| 黑人娇小av在线播放| 香蕉免费一区二区三区不读| 无码99| 激情抓乳插进去啪啪啪日韩| 91N综合在线| blacked精品一区国产| 亚洲美女精品九九视频| 白丝1区2区3区| A V视频日本| 亚洲骚逼少妇| 欧美男女午夜啪啪| 久久激情亚洲精品无码?V| 97视频免费| 操死我了啊啊啊| 亚洲情色电影网| 99久久e免费热视| 国产精品久久久久久亚洲色欲| 呻吟 欧美 日本 中出| 啊啊啊啊啊操我视频| 亚洲日韩视频二区| 亚洲色婷婷综合久久一区二区三区| 亚洲一二三四区机械| 激情视频图片| 九九久久一区二区三区| 久久欧美性爱视频| 少妇一级无码精品| 欧美亚洲韩国视频十五区| 午夜精品99久久久久传媒| 色呦呦呦在线观看视频| 日本成人在线不卡一区二区三区| 亚洲综合性感在线| 成人日韩欧美| 色情乱伦AV| 国产一级特黄大片处女| 蜜臀久久99精品久久久久久婷婷 | 色婷五月| 中文字幕一区电影在线观看| 97欧美视频| 一区二区三区男人的天堂| 国产精品情侣啪啪| 天天干美少妇一区| 中文字幕成人理论在线| 欧美伊人久久综合网| 久久精品一区二区| 亚洲色天堂九9| 大香蕉青青9| 91久久18禁| 中亚精品极乱| www.男人天堂| 97se综合网| 九九热免费在线国产视频伊人五月| 欧美黄片视频在线观看免费 | 综合免费无码中文| 一二视频神马久久传媒| 日本三级一区二区 在线 | 久久超碰国产一区二区三区| 东京成人一区| 99re久久| 91色人妻| 九九热只有精品| 亚洲 欧美 小说| 激情五月天综合网| 岛国A V在线免费看| 久久人妻一区二区三区高清 | 丁香六月婷婷综合| 国产精品久久久久久高清无码免费看| 男人的天堂久久狠| 人人摸人人干| 蜜乳AV色欲AVAV无码| 亚洲密乳AV| 天天欲望网| AV丝袜东京热| 久久久噜噜噜久久久| 日va操| 日韩亚洲中文字幕在线| 91白嫩| 啊啊啊啊啊舒服| 久久神马影院| 九九九九九九亚洲| 色情综合网| 欧美很很操视频| 黄片qw| 97无码视频在线播放| 久久是精品| 在线观看A啊啊啊| 操我啊啊啊啊啊| 国产传媒日本欧美专区| 国产亚州精品美女久久久免费| 超碰在线人人射| 性91| 精品无码秘 人妻一区二区| 亚洲毛片久久| 91精品91久久久久77777俄罗斯老妇姓x| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 九九热久久99精品re| 亚洲偷91色| 青青青草原| 曰韩香蕉97| 超碰久久.com| 搡老女人老91妇女熟女| 欧美一区二区情色| julia在线观看久久| 很黄很污的免费网站| 噜噜噜亚洲精品| 可乐操亚洲蜜911| 国产精品天堂| 五月婷婷六月丁香网址|