亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

AI-RAN架構(gòu)深度解析:ARM+GPU如何重塑5G-A與6G接入網(wǎng)

AI-RAN架構(gòu)深度解析:ARM+GPU如何重塑5G-A與6G接入網(wǎng) 1. 這次調(diào)研的起點(diǎn)AI-RAN和O社的ATR項(xiàng)目最近一直在追AI-RAN方向的資料我把它當(dāng)作接下來幾年移動(dòng)通信最有變量的一塊來研究。整理到后面O社的ATR項(xiàng)目成了繞不開的樣本公開材料反復(fù)出現(xiàn)幾個(gè)標(biāo)簽基于ARM架構(gòu)的GPU平臺(tái)、同時(shí)覆蓋集中式和分布式AI-RAN、面向5G-A和6G演進(jìn)。這幾點(diǎn)放在一起就是一次完整的架構(gòu)換代不是某個(gè)基站部件的小修小補(bǔ)。AI-RAN全稱是AI-Radio Access Network字面意思是“人工智能無線接入網(wǎng)”。但這個(gè)詞在行業(yè)里其實(shí)有三層理解容易混。第一層是AI for RAN用AI做信道估計(jì)、波束管理、網(wǎng)絡(luò)節(jié)能相當(dāng)于給無線算法加了一個(gè)“智能調(diào)度大腦”第二層是AI on RAN把基站機(jī)器變成邊緣AI算力節(jié)點(diǎn)讓原本閑置的資源對(duì)外輸出推理能力第三層是AI and RAN強(qiáng)調(diào)AI和無線通信真正共享底層計(jì)算資源。ATR項(xiàng)目做的最關(guān)鍵事情就在第三層讓5G基帶處理和AI推理跑在同一塊GPU上用一個(gè)硬件平臺(tái)同時(shí)承擔(dān)通信和算力兩種角色。換句話說傳統(tǒng)基站的基帶處理是交給專用芯片的ASIC、FPGA、DSP好用是好用但只能做無線這一件事。AI服務(wù)器又是另外一臺(tái)設(shè)備GPU常年開著利用率卻經(jīng)常不到百分之二十。AI-RAN想改變的是這種浪費(fèi)。它把無線接入的功能“軟”下來跑在通用GPU上閑時(shí)算力再給AI任務(wù)用?;緩耐ㄐ旁O(shè)備變成了“能通信的計(jì)算節(jié)點(diǎn)”這是整個(gè)產(chǎn)業(yè)邏輯變化的核心。ATR項(xiàng)目為什么值得單獨(dú)拎出來看主要因?yàn)閮牲c(diǎn)。第一這是運(yùn)營商自己下場做RAN軟件棧而不是買設(shè)備商的整機(jī)O社動(dòng)的其實(shí)不是射頻還是天線而是把基帶處理整個(gè)搬到GPU上重新做一遍第二它同時(shí)定義了集中式和分布式兩種部署方式不是實(shí)驗(yàn)室里演示一把就完而是給了實(shí)際組網(wǎng)的路線圖。這次調(diào)研我主要就是圍繞這兩點(diǎn)展開的。1.1 一個(gè)通俗的比喻把AI-RAN說清楚基站流量是典型的潮汐曲線白天寫字樓區(qū)域流量拉滿凌晨基本空閑。傳統(tǒng)方案里BBU設(shè)備不管有沒有流量整塊電路板都在通電待命就像一家餐廳固定開著一個(gè)大廚房但一天只有兩個(gè)飯點(diǎn)有人來吃飯。AI-RAN的思路是把廚房變成可以外接訂單的中央廚房。人少的時(shí)候廚師們做外賣、做其他餐食把設(shè)備和場地利用起來。到了飯點(diǎn)信號(hào)處理任務(wù)優(yōu)先級(jí)最高所有算力立刻切給業(yè)務(wù)。同一個(gè)廚房不同時(shí)間做不同的事。CPU、GPU這類通用計(jì)算資源天然適合這種“彈性分工”而專用芯片做不到ASIC的邏輯在出廠時(shí)就焊死了。這個(gè)比喻還能往下走一層。集中式AI-RAN相當(dāng)于把幾個(gè)餐廳的廚房合并到一個(gè)中央廚房統(tǒng)一采購、統(tǒng)一排班效率更高但距離遠(yuǎn)了菜送過去路上一慢會(huì)涼分布式AI-RAN相當(dāng)于每家店保留一個(gè)中廚單店響應(yīng)快但每家店的設(shè)備使用率不如中央廚房。這兩種模式?jīng)]有絕對(duì)的優(yōu)劣要看現(xiàn)場條件。1.2 AI-RAN要解決的不只是成本問題很多人以為運(yùn)營商做AI-RAN就是為了省電、省設(shè)備其實(shí)這只是最表層。另一個(gè)更深的原因是現(xiàn)網(wǎng)設(shè)備的軟件化比例太低。傳統(tǒng)基站里協(xié)議棧大部分跑在封閉環(huán)境里想新增一個(gè)AI優(yōu)化功能需要依賴設(shè)備商升級(jí)版本周期非常長。O社這種體量的運(yùn)營商既有用戶規(guī)模優(yōu)勢(shì)又有AI研發(fā)能力自然想打破這個(gè)閉環(huán)。把RAN跑在GPU上以后很多以前不敢想的場景就通了?;颈旧砭褪且粋€(gè)帶AI能力的推理節(jié)點(diǎn)可以本地做視頻結(jié)構(gòu)化分析、工業(yè)設(shè)備異常監(jiān)測、自動(dòng)駕駛的低時(shí)延協(xié)同。以前這些東西需要單獨(dú)在邊緣機(jī)房部署AI服務(wù)器再把結(jié)果通過網(wǎng)絡(luò)送到用戶一來一回時(shí)延至少幾十毫秒。現(xiàn)在基站的GPU直接把AI服務(wù)開在離用戶最近的地方時(shí)延壓到個(gè)位數(shù)毫秒這是5G-A和6G場景里非常重要的一張牌。ATR項(xiàng)目選的硬件路線也很有意思它沒有走傳統(tǒng)設(shè)備商最熟悉的x86 CPU加FPGA加速卡路線而是直接用ARM CPU和GPU融合的平臺(tái)。這個(gè)選擇背后是好幾筆賬我在下一節(jié)詳細(xì)算。2. 硬件底座為什么是ARM架構(gòu)GPU平臺(tái)2.1 三種硬件方案的對(duì)比我在調(diào)研中把當(dāng)前RAN加速方案分成了三類放在一起做對(duì)比這樣才能看清ARM加GPU這套組合的位置。第一類是傳統(tǒng)ASIC/FPGA方案。典型場景是現(xiàn)網(wǎng)中大量早期5G基站基帶L1層走專用芯片性能和功耗都很好但問題也很明顯開發(fā)周期長迭代一次物理層算法要按年來算AI能力基本為零除非額外掛一臺(tái)AI服務(wù)器否則這塊加速卡無法承接任何AI業(yè)務(wù)運(yùn)維上也是黑盒出了問題只能交給設(shè)備商定位。第二類是x86 CPU加FPGA加速卡的方案。這也是不少廠商在5G中后期采用的路線。FPGA做L1高性能流程x86跑協(xié)議??刂泼姹華SIC靈活但AI生態(tài)仍然弱。FPGA上部署深度學(xué)習(xí)模型需要專門做量化、編譯和布線人力成本極高沒法像NVIDIA那樣用CUDA生態(tài)快速落地。更重要的問題是x86本身功耗高基站站點(diǎn)通常只給幾千瓦的電力預(yù)算一臺(tái)x86服務(wù)器放上去電源、散熱、機(jī)房空間都要重新設(shè)計(jì)。第三類就是ARM加GPU。ARM CPU負(fù)責(zé)協(xié)議棧控制和通用計(jì)算GPU承擔(dān)L1物理層同時(shí)也作為AI推理引擎。GPU的好處是同一塊硬件天然能跑AI生態(tài)極其完整從訓(xùn)練框架到推理引擎全都現(xiàn)成。ARM CPU的好處是功耗低單核能效遠(yuǎn)好于x86而且ARM在電信設(shè)備里其實(shí)是老熟人很多基站的控制面早就在用ARM核兼容性不是問題。三類方案的關(guān)鍵差異我用一張簡表列出來后面講參數(shù)方便一點(diǎn)。維度ASIC/FPGAx86 FPGAARM GPU基帶處理性能高中高中高AI負(fù)載承接差差好開發(fā)迭代速度慢中快功耗低高中資源池化能力弱中強(qiáng)生態(tài)基礎(chǔ)封閉封閉開放2.2 ARM和GPU之間那根“高速管道”是關(guān)鍵很多沒做過RAN的人第一次看ARM加GPU方案會(huì)有一個(gè)疑問ARM CPU和GPU是兩個(gè)東西數(shù)據(jù)在這兩者之間來回搬運(yùn)會(huì)不會(huì)成為瓶頸這里就涉及平臺(tái)本身的設(shè)計(jì)。ATR方案里選的是某GPU廠商的服務(wù)器級(jí)加速平臺(tái)它把ARM CPU和GPU做成了緊密耦合的一顆大芯片CPU與GPU之間不是走傳統(tǒng)的PCIe總線而是通過高帶寬的一致性互聯(lián)通道直接相連。PCIe的典型雙向帶寬在數(shù)十GB每秒這個(gè)平臺(tái)的一致性互聯(lián)在規(guī)格上高出一個(gè)量級(jí)。更重要的是它支持緩存一致性CPU和GPU訪問內(nèi)存時(shí)不需要頻繁做數(shù)據(jù)拷貝和驅(qū)動(dòng)同步這對(duì)毫秒級(jí)信號(hào)處理尤其關(guān)鍵?;鶐幚淼谋举|(zhì)是實(shí)時(shí)數(shù)據(jù)流天線端收到信號(hào)經(jīng)過前傳接口進(jìn)入GPU做FFT變換、信道估計(jì)、解調(diào)再交回ARM CPU做協(xié)議處理。整個(gè)過程要在幾毫秒內(nèi)完成任何一個(gè)環(huán)節(jié)出現(xiàn)DMA拷貝延遲和數(shù)據(jù)等待都可能拖壞空口指標(biāo)。ARM和GPU融合成一顆芯片后數(shù)據(jù)路徑短延遲可控這是它和“x86服務(wù)器插一塊GPU卡”最大的區(qū)別。很多公開技術(shù)資料里還提到了配套的DPU網(wǎng)卡。這塊卡在AI-RAN里的作用很多人忽略了其實(shí)非常關(guān)鍵?;厩皞鹘涌诔休d的是樣本數(shù)據(jù)需要高精度的時(shí)間同步傳統(tǒng)方案里靠BBU里的獨(dú)立時(shí)鐘模塊解決但在GPU平臺(tái)里這個(gè)功能被卸載到DPU上由DPU完成eCPRI協(xié)議解析、時(shí)間戳打標(biāo)、同步和流量整形。DPU還順帶承擔(dān)了網(wǎng)絡(luò)虛擬化的負(fù)載把容器間通信、OVS轉(zhuǎn)發(fā)這些開銷從CPU上解放出來。2.3 功耗與實(shí)時(shí)性這筆賬RAN工作負(fù)載和普通AI推理有一個(gè)本質(zhì)區(qū)別無線信號(hào)處理是有硬性實(shí)時(shí)要求的符號(hào)級(jí)任務(wù)必須在微秒級(jí)時(shí)間窗口內(nèi)完成過了這個(gè)窗口物理層的幀結(jié)構(gòu)就錯(cuò)了用戶直接掉線。GPU本身就是為吞吐量設(shè)計(jì)的一個(gè)任務(wù)排隊(duì)等幾百微秒很正常所以直接在GPU上跑L1基帶會(huì)出問題必須有軟件棧做實(shí)時(shí)調(diào)度。O社的ATR方案里軟件層面的玩法是把L1處理切成兩類任務(wù)。一類是高優(yōu)先級(jí)實(shí)時(shí)任務(wù)例如每個(gè)時(shí)隙內(nèi)的核心符號(hào)處理用GPU的專用硬件隊(duì)列來做嚴(yán)格鎖定執(zhí)行窗口另一類是低優(yōu)先級(jí)非實(shí)時(shí)任務(wù)怎么做都行后臺(tái)慢慢跑比如測量上報(bào)、日志分析。AI推理任務(wù)則被放在最低優(yōu)先級(jí)只能占用RAN任務(wù)不用的計(jì)算資源。功耗賬更要細(xì)算。服務(wù)器級(jí)GPU芯片功耗不低一塊卡就要幾百瓦到上千瓦放在中頻基站站址常常超過機(jī)房的單機(jī)柜供電上限。所以ATR項(xiàng)目在分布式部署場景里直接推出了低功耗版本的設(shè)計(jì)GPU的時(shí)鐘頻率被鎖定到較低檔位同時(shí)采用外置散熱整機(jī)整機(jī)功耗控制在1千瓦以內(nèi)。這個(gè)數(shù)字放到傳統(tǒng)基站里依然偏高但已經(jīng)逼近機(jī)柜能接受的范圍了。集中式部署則可以把功耗壓力轉(zhuǎn)移到邊緣機(jī)房用液冷解決這也是集中式架構(gòu)在實(shí)踐中更好落地的原因之一。2.4 為什么這套平臺(tái)適合做“運(yùn)營商級(jí)”AI-RAN我個(gè)人的判斷是ARM加GPU這個(gè)組合技術(shù)上有取舍但商業(yè)上很聰明。GPU的AI生態(tài)是現(xiàn)成的不用重新推動(dòng)產(chǎn)業(yè)ARM的授權(quán)生態(tài)又是開放的運(yùn)營商可以自己選處理器、選網(wǎng)卡、選服務(wù)器不用被單一設(shè)備商綁定。O社這樣做等于把原本封閉的RAN產(chǎn)業(yè)從“賣整機(jī)”變成了“組裝機(jī)”。代價(jià)是系統(tǒng)集成難度極高。傳統(tǒng)設(shè)備商交付的基站是經(jīng)過整體測試的整機(jī)運(yùn)營商插上電就能用現(xiàn)在ARM服務(wù)器、GPU卡、DPU、前傳光模塊、實(shí)時(shí)操作系統(tǒng)、容器平臺(tái)都要自己拼運(yùn)維團(tuán)隊(duì)的要求一下子被拉高了。這也是ATR方案目前更多停留在大型項(xiàng)目合作和PoC驗(yàn)證階段的原因真正大面積替換現(xiàn)網(wǎng)基站還有一段距離。3. 兩種架構(gòu)形態(tài)集中式與分布式怎么用3.1 集中式AI-RANGPU資源池化的優(yōu)勢(shì)集中式架構(gòu)可以理解成把多個(gè)基站的基帶處理集中到邊緣機(jī)房機(jī)房里的GPU服務(wù)器組成一個(gè)資源池通過前傳網(wǎng)絡(luò)連接分布在遠(yuǎn)處的射頻單元。這個(gè)概念本質(zhì)上脫胎于C-RAN也就是云化無線接入網(wǎng)但ATR方案里的核心變化是資源池不僅能做基帶還能同時(shí)跑AI。集中式的第一個(gè)好處是資源利用率高。十個(gè)基站放在一起負(fù)載高峰時(shí)間各不相同如果每個(gè)基站各自配備一塊GPU必然出現(xiàn)有的滿負(fù)荷有的閑置。集中后十個(gè)小區(qū)的算力可以共享同一批卡按業(yè)務(wù)量動(dòng)態(tài)調(diào)度總卡數(shù)能省下三成以上。第二個(gè)好處是便于升級(jí)GPU卡可以集中替換不用爬鐵塔、進(jìn)站點(diǎn)一臺(tái)一臺(tái)換。第三個(gè)好處是AI服務(wù)更容易規(guī)?;渴饳C(jī)房里的GPU資源池直接統(tǒng)一調(diào)度一個(gè)模型可以在池子里隨意分配任何一個(gè)基站覆蓋區(qū)域的用戶都能就近獲得AI推理能力不用在每個(gè)站點(diǎn)重復(fù)部署。需要特別注意前傳網(wǎng)絡(luò)。集中式把基帶處理拉到遠(yuǎn)處后射頻單元和基帶單元之間的前傳時(shí)延必須嚴(yán)格受控尤其是L1處理對(duì)時(shí)延極敏感一般要求單跳傳輸時(shí)延在微秒級(jí)所以集中式機(jī)房通常距離遠(yuǎn)端站點(diǎn)幾十公里以內(nèi)并且需要高質(zhì)量的光模塊和精確時(shí)間同步協(xié)議。前傳帶寬同樣需要預(yù)留信道光模塊速率不夠或者抖動(dòng)過大空口指標(biāo)立刻劣化。3.2 分布式AI-RAN把算力直接推到站點(diǎn)分布式架構(gòu)則是另一幅圖景每個(gè)基站站點(diǎn)部署一套一體化的ARM加GPU設(shè)備整臺(tái)設(shè)備直接掛在接入機(jī)房甚至塔上基帶處理和AI推理都在本地完成。這種形態(tài)解決集中式最頭疼的兩個(gè)問題前傳時(shí)延超高標(biāo)準(zhǔn)和高帶寬依賴。分布式方案在低時(shí)延場景里有天然優(yōu)勢(shì)。以工業(yè)場景為例機(jī)器人的運(yùn)動(dòng)控制周期一般在幾毫秒如果控制決策要發(fā)回中心機(jī)房一來一回再考慮網(wǎng)絡(luò)排隊(duì)很難穩(wěn)定達(dá)標(biāo)。站點(diǎn)內(nèi)嵌GPU之后推理計(jì)算本地完成時(shí)延基本就一次DMA的距離穩(wěn)定在極低水平。這個(gè)優(yōu)勢(shì)適合真正硬實(shí)時(shí)的工業(yè)互聯(lián)網(wǎng)場景是集中式替代不了的。代價(jià)也很明顯分布式站點(diǎn)的環(huán)境比中心機(jī)房惡劣得多冬天沒有暖氣夏天沒有空調(diào)白天暴曬灰塵和潮氣無孔不入。GPU這類高功耗設(shè)備放在這種環(huán)境里對(duì)退熱設(shè)計(jì)、防塵過濾、供電保障都是大考驗(yàn)。另一個(gè)問題是算力浪費(fèi)站點(diǎn)流量有高峰有低谷低谷時(shí)GPU完全空閑但不像集中式還可以把資源給別的小區(qū)用只能白白閑著。所以分布式架構(gòu)更適合那些本地AI業(yè)務(wù)占用本身就比較穩(wěn)定的場景比如智慧園區(qū)、港口、礦山AI負(fù)載能和通信負(fù)載錯(cuò)峰互補(bǔ)。3.3 同一套軟件棧如何覆蓋兩種模式ATR項(xiàng)目規(guī)劃里最有價(jià)值的部分不是單獨(dú)支持集中式或分布式而是用一個(gè)軟件架構(gòu)同時(shí)覆蓋了兩種模式。這意味著運(yùn)營商不需要在兩種方案之間做非此即彼的選擇而可以根據(jù)地域、業(yè)務(wù)類型、機(jī)房條件靈活組合比如城區(qū)寫字樓區(qū)域用集中式郊區(qū)工廠用分布式。要做到這點(diǎn)關(guān)鍵在于把RAN功能拆分成可編排的原子能力。L1物理層處理、L2協(xié)議處理、L3控制面這些功能模塊全部做成可獨(dú)立部署的軟件容器。部署集中式時(shí)這些容器都跑在中心機(jī)房的GPU服務(wù)器上部署分布式時(shí)本地站點(diǎn)跑L1和一部分L2L3等高時(shí)延容忍的功能仍可送回中心機(jī)房。資源調(diào)度的策略也完全復(fù)用。無論集中還是分布底層都有一位GPU資源調(diào)度器負(fù)責(zé)給不同任務(wù)分配計(jì)算資源RAN任務(wù)擁有最高優(yōu)先級(jí)AI任務(wù)使用空閑窗口。這套調(diào)度邏輯和部署方式無關(guān)集中式調(diào)度的是一大池子分布式調(diào)度的是一小池子策略相同顆粒度不同。這就是軟硬件解耦設(shè)計(jì)帶來的最大收益一套軟件、兩種形態(tài)、多處復(fù)用。4. 從紙面到落地部署步驟與算力測算4.1 算力測算一個(gè)節(jié)點(diǎn)需要幾塊GPU調(diào)研要從紙面落到實(shí)操第一步就是算算到底需要多少GPU資源。這個(gè)數(shù)字不能拍腦袋要按小區(qū)配置、帶寬、天線數(shù)量、業(yè)務(wù)模型逐步推。以一個(gè)典型中頻宏站小區(qū)為例100兆赫茲帶寬、4T4R天線配置、TDD制式下行小區(qū)峰值吞吐量約在1.5Gbps左右L1物理層處理需要完成FFT變換、信道估計(jì)、均衡、編解碼等操作每毫秒處理一個(gè)時(shí)隙的數(shù)據(jù)。按該GPU廠商公開演示的性能單個(gè)加速卡大概可以支撐3至4個(gè)這樣配置小區(qū)的L1處理再疊加一部分L2處理實(shí)際能力會(huì)降到2至3個(gè)還要為突發(fā)流量保留余量。如果集中式機(jī)房里規(guī)劃接入10個(gè)小區(qū)就需要4塊以上加速卡。這里有個(gè)常見的誤算直接把10除以3向上取整成4張卡但實(shí)際還要考慮L2開銷、AI業(yè)務(wù)預(yù)留和故障冗余更穩(wěn)妥的是按“每小區(qū)占用0.35卡”計(jì)算再預(yù)留20%算力峰值緩沖和一塊卡的N加1備份最終結(jié)果是6塊卡左右。算力規(guī)劃寧多勿少因?yàn)闊o線RAN任務(wù)一旦超載不是變慢的問題是直接掉線。AI業(yè)務(wù)的資源預(yù)留可以單獨(dú)計(jì)數(shù)。如果機(jī)房里還要運(yùn)行30路視頻分析每路按一個(gè)輕量模型推理需要大約一定比例的GPU實(shí)例算就得增加對(duì)應(yīng)數(shù)量的卡。RAN和AI需求放在同一個(gè)資源池里調(diào)度器在保證RAN不超閾值的前提下把剩余算力盡量分配給AIAI資源總量應(yīng)該在峰值算力基礎(chǔ)上再打個(gè)折扣。4.2 一套可復(fù)制的PoC部署流程我建議第一次做AI-RAN項(xiàng)目驗(yàn)證的團(tuán)隊(duì)按下面的順序走這樣可以盡可能規(guī)避翻車。先定拓?fù)浜蛨鼍?。明確是要驗(yàn)證集中式還是分布式或者混合式。建議第一次做集中式機(jī)房條件可控問題排查也方便。然后做資源估算參考上一小節(jié)的方法把基站數(shù)、小區(qū)帶寬、天線端口、預(yù)計(jì)AI業(yè)務(wù)類型和路數(shù)全部列出來算出GPU卡數(shù)。這一步一定要多算一點(diǎn)富余量軟件層的損耗會(huì)在壓力測試?yán)锉┞冻鰜?。再?zhǔn)備硬件環(huán)境。ARM加GPU的服務(wù)器網(wǎng)卡交換機(jī)前傳光模塊時(shí)鐘同步設(shè)備逐一上架。時(shí)鐘同步這一步經(jīng)常被忽視AI-RAN機(jī)房里基站前傳和普通數(shù)據(jù)中心不太一樣必須要走精確時(shí)間同步協(xié)議否則空口幀對(duì)齊不了。軟件層則是部署容器平臺(tái)、實(shí)時(shí)操作系統(tǒng)的配置、基帶加速棧和AI推理框架。然后是單站驗(yàn)證先不在多站并發(fā)場景下跑只接一個(gè)射頻拉遠(yuǎn)單元驗(yàn)證一塊GPU跑L1處理看空口能不能穩(wěn)定建立連接吞吐量能不能達(dá)到理論值的八成以上。最后壓力測試逐步增加小區(qū)數(shù)同時(shí)混入AI推理任務(wù)觀察GPU利用率、時(shí)延和空口性能的變化曲線找到資源峰值邊界。這一步做完才算從“能用”到了“夠用”。4.3 資源切分和SLA保障策略AI-RAN系統(tǒng)里最重要的一條原則是RAN任務(wù)必須有絕對(duì)優(yōu)先權(quán)。這不是靠程序員自覺而是靠底層調(diào)度機(jī)制硬保證的。具體實(shí)現(xiàn)上GPU實(shí)例切片的使用方式值得借鑒。一塊物理GPU可按算力比例切分成多個(gè)實(shí)例每個(gè)實(shí)例擁有獨(dú)立計(jì)算單元和顯存互相之間隔離??梢越oRAN任務(wù)分配一個(gè)獨(dú)占實(shí)例這個(gè)實(shí)例不參與AI推理專職保證基帶處理的實(shí)時(shí)性。AI任務(wù)跑在另一個(gè)實(shí)例上哪怕它把實(shí)例占滿也不會(huì)對(duì)RAN造成直接沖擊最多是等資源時(shí)間變長。在實(shí)例內(nèi)部還可以加時(shí)間片隔離。實(shí)時(shí)無線任務(wù)長期占著隊(duì)列的一部分固定窗口AI任務(wù)只能在剩余窗口里運(yùn)行。這有點(diǎn)像高速公路上給應(yīng)急車輛留出專用通道日常行駛非常自由但應(yīng)急車輛一來其他車必須立刻讓行。5. 實(shí)測中遇到的問題和幾套排查思路5.1 實(shí)時(shí)任務(wù)在GPU上“跑飛”的處理第一次跑L1處理時(shí)最常見的問題是GPU任務(wù)時(shí)延抖動(dòng)。傳統(tǒng)基站的基帶處理跑在專用芯片上時(shí)間行為幾乎是確定的而GPU的任務(wù)調(diào)度天然帶著不確定性。實(shí)測時(shí)最容易看到的現(xiàn)象是某個(gè)時(shí)隙的符號(hào)處理偶爾超時(shí)超時(shí)不超過幾十微秒但對(duì)空口來說已經(jīng)構(gòu)成一次小中斷。我要特別提醒不要一上來就優(yōu)化代碼先開GPU實(shí)時(shí)調(diào)度日志把超時(shí)分布抓出來看。大多數(shù)情況下問題不在算法而在任務(wù)排隊(duì)。GPU上有多個(gè)計(jì)算隊(duì)列如果RAN任務(wù)和AI任務(wù)默認(rèn)使用同一個(gè)計(jì)算流AI的密集型計(jì)算會(huì)把RAN任務(wù)擠到隊(duì)尾。解決思路很直接把RAN任務(wù)分配到獨(dú)立的高優(yōu)先級(jí)計(jì)算流并配合固定時(shí)間片搶占機(jī)制同時(shí)把AI任務(wù)壓成低優(yōu)先級(jí)的后臺(tái)流。這屬于平臺(tái)級(jí)配置不需要改一行算法代碼。如果配置完成后仍然抖動(dòng)下一步檢查顯存分配。GPU實(shí)例之間如果共享顯存帶寬大量的顯存拷貝會(huì)拖慢RAN處理。給RAN實(shí)例預(yù)留足夠多的顯存駐留空間盡量避免運(yùn)行時(shí)頻繁申請(qǐng)能顯著改善時(shí)延穩(wěn)定性。5.2 前傳鏈路和資源沖突問題速查前傳鏈路是集中式架構(gòu)最容易出問題的地方。我整理了一份實(shí)測中最常踩坑的問題清單給正在做同類項(xiàng)目的團(tuán)隊(duì)參考。問題現(xiàn)象定位思路解決辦法前傳光模塊誤碼率升高空口吞吐下降檢查光模塊速率和鏈路預(yù)算看是否在長距離場景用錯(cuò)模塊等級(jí)換成更高等級(jí)光模塊縮短前傳距離空口幀偏移不穩(wěn)定檢查同步源是否所有射頻單元都同步到同一時(shí)鐘統(tǒng)一同步協(xié)議配置增加時(shí)鐘源冗余GPU利用率不滿但空口指標(biāo)差檢查CPU和GPU之間數(shù)據(jù)搬運(yùn)路徑是否走了低速接口確認(rèn)使用高帶寬一致性互聯(lián)通道關(guān)閉不必要的數(shù)據(jù)拷貝AI推理啟動(dòng)后RAN時(shí)延升高查看GPU任務(wù)隊(duì)列是否使用了同一計(jì)算流將RAN任務(wù)固化到獨(dú)立計(jì)算流并設(shè)為最高優(yōu)先級(jí)站點(diǎn)功耗超限導(dǎo)致掉電查看整機(jī)功耗曲線是否GPU長期滿載設(shè)置功耗上限AI任務(wù)降頻必要時(shí)鎖GPU工作頻率最容易被忽略的一個(gè)問題是AI模型預(yù)熱帶來的瞬時(shí)CPU和顯存沖擊。很多AI框架在推理服務(wù)冷啟動(dòng)時(shí)要加載模型會(huì)有一段很明顯的資源峰值如果剛好趕上RAN的忙時(shí)就可能引發(fā)資源爭搶。我建議在系統(tǒng)里做AI服務(wù)的資源配額限制并把模型加載放在RAN任務(wù)低峰期執(zhí)行AI容器啟動(dòng)后先空載運(yùn)行一段時(shí)間再接入實(shí)際業(yè)務(wù)流量。5.3 一小段真實(shí)調(diào)試經(jīng)歷供你參考我印象最深的一次調(diào)試是分布式站點(diǎn)GPU溫度過高導(dǎo)致頻率降到非常低整個(gè)系統(tǒng)的空口吞吐直接掉了三成。一開始還懷疑是前傳問題排查了半天才發(fā)現(xiàn)是散熱系統(tǒng)沒有適配好。GPU在降頻保護(hù)狀態(tài)下不會(huì)報(bào)錯(cuò)只會(huì)在日志里提示功耗和溫度限制但現(xiàn)網(wǎng)運(yùn)維如果不關(guān)注這部分日志根本發(fā)現(xiàn)不了。那個(gè)教訓(xùn)讓我養(yǎng)成了一個(gè)習(xí)慣在AI-RAN環(huán)境里做任何性能排查第一件事不是看空口指標(biāo)而是看GPU的實(shí)時(shí)狀態(tài)包括溫度、功耗、算力利用率、顯存占用、計(jì)算流隊(duì)列深度。這五個(gè)指標(biāo)先看完再判斷是不是無線側(cè)的問題。傳統(tǒng)無線工程師做RAN排查時(shí)只看空口AI工程師做系統(tǒng)性能時(shí)只看GPU利用率這個(gè)項(xiàng)目最考人的恰恰是兩邊對(duì)齊。我個(gè)人的體會(huì)是AI-RAN這個(gè)方向的工程難點(diǎn)不在“GPU跑得動(dòng)跑不動(dòng)基帶”而在“當(dāng)一個(gè)系統(tǒng)里同時(shí)存在實(shí)時(shí)通信和彈性AI兩類任務(wù)時(shí)怎么讓它們互相不拖累”。ARM加GPU的硬件平臺(tái)提供了一個(gè)足夠開放的底座但真正決定項(xiàng)目能不能落地的還是軟件調(diào)度、資源隔離、運(yùn)營維護(hù)這些細(xì)節(jié)。從現(xiàn)網(wǎng)角度看ATR項(xiàng)目目前最有參考價(jià)值的也不是那塊GPU卡而是它能不能把這套調(diào)度邏輯做成可復(fù)用的行業(yè)標(biāo)準(zhǔn)。這個(gè)方向后續(xù)值得持續(xù)跟蹤尤其是從5G-A走向6G以后基站架構(gòu)的軟件化程度會(huì)越來越高今天的ARM加GPU方案很可能就是未來整個(gè)接入網(wǎng)的主流底座。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久精品无码一区二区三区| 人妻系列无码专区中文有码 | 免費黃色視頻觀看一| 天天日天天干天天摸天天操| 久久久精品,3| 91美女视频| 欧美一二三区四五区| 亚欧日韩成人| 国产男女无套97| 91欧美丨精品丨入口| 亚洲大胆人体av| 乱伦a片视频| 天天干夜夜一操| 激情综合网五月婷婷五月天| 和协影院中文字幕三区| 亚洲综合在线高清| 青青伊人久久| 99精品在线观看| 久久精品久久久久久久| 成年无码动漫av片无尽在线 | 国产丝袜啪啪| 中文字幕 国产 精品| 丰满人妻大屁一区二区| 亚洲精品99| 女人高潮抽搐喷水视频网站| 久久综合日韩亚洲欧美| 国产操操日韩三级黄| 一线黄色免费性爱片| 午夜福利 成人 91| 大香蕉伊人在线成人AV在线观看| 日韩性爱小视频在线观看| 97亚洲综合电影| 性生活无遮挡纯毛片在线看| 60秒免费小视频| 可能人人看人人摸| 成人精品电影| 亚欧美综合网| 亚洲欧洲日韩中文字幕一区| 加勒比海成人视频网| 99久在线精品99re8| 免费97视频| 日本精品久久久久久久| 亚洲色狠| 99操视频| 色色国产| 欧美性高潮在线| 一本一道vs波多野结衣| 日本999精品| a亚洲欧美色欲| 欧美日韩另类在线| 国产丸一视频| 人妻一区二区三区四区视频| 久久久久九九九| 欧美成人一区二区三区在线播放| 亚洲一二三| 欧美性生活免费网| 热久久国产精品视频大陆精品| 狼人综合婷婷激情四射 | 亚洲高清欧美总合| 国产人妻精品久久久一区二区三区| 成年人免费观看网站| 亚洲精品九九九九九九| 国产日韩欧美三级片| 操B久久| 2020中文字幕在线| 亚洲欧美校园| 欧美18老人禁| 五月开心久久AV官网| 蜜臀久久在线视频| 久久99九九九九6666免费观看软件| 高清国产成人无码| 久99视频| 欧美躁死她一区二区| 国产精品久久久久久久久久梁医生| 亚洲h片在线免费观看| 天堂无码精品国产久| 97综合激情| 综合在线导航一区| a男人的天堂久久一级A毛片| 欧美日韩日产免费网站看| 欧成人精品一区二区三区| 中文字幕黄色片| 亚洲av噜噜噜噜噜噜| 亚洲综合贴图91 | 国产精品另类一区大香蕉| 亚洲综合五月天婷婷丁香| 乱伦一区二区三区‘| 台湾佬大香蕉| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 美女被啪到深处抽搐视频| 亚洲不卡av在线| 涩五月婷婷| 欧美性爱网97| 熟妇女人妻呻吟久久AV| 91肉丝| 6080YYY午夜理论片在线观看| 艳尻美人妻| www.成人无码| 久久久久女教师免费一区 | 999九九精品| 另类图片五月| 亚洲的天堂网| 色色色色网站| 丰满人妻一区二区三区免费 | 一区操逼| 亚洲综合中文字幕有码| 成人在线日韩| 97激情97激情| 少妇内射视频| 日亚韩精品视频二区三| 中文久久| 蜜桃av综合网发布| 操我无码| 91 亚洲 欧美 日韩 国产 综合| 欧美黄片欧美黄片xxx| 色久桃花影院在线观看| 夜夜久久| 久久久精| 人人么人人操| 亚洲欧美另类小说| 亚洲欧美激情小说| 91爱做| 97中文字幕一区| 丰满少妇乱子伦精品无| 日韩一级特黄av毛片| 中国熟女91| 国产精品免费1区2区视频| 麻豆视频test| 啊啊啊啊好多水| 国产精品久久久久综合| 伊人久久亚洲色欲综合网站 | 天天躁狠狠躁av| 国产精品久久天天干| 欧美黄色图片| 日本激情免费大片| 青青草在线视频播放器| 涩五月婷婷| 亚洲第2页| 久热精品在线| 欧美色图天堂在线| 国产主播福利| 美性中文综合网| 新久久AV| 欧美日韩中文视频播放| 爱我干综合| 91处女视频在线观看| 无遮挡一级毛片视频免费的| 青娱乐大香蕉| 99免费在线视频| 激情小说亚洲色图| 极品少妇99| 男女激情黄色网址| 久久黄人人爽视频| 欧美性,色九九| 极品综合| 97精品免费视频网站| 超碰 另类 欧美| 国产黄色 A 片免费看| 久久久久久久久9| 亚洲人成网www| AV女优男人的天堂| 中文字幕78| 97色碰| 亚洲无码偷拍| 欧美日韩精品青青| 嗯嗯啊啊操死我| 综合免费无码中文| 亚洲无 码A片在线观看麻豆| 中文字幕78| 长长久久免费视频| 美女写真| 欧美日本中字另类在线| 久久久久九九九| 99热日| 97青青操视频| 日韩三级在线观看网站| 亚洲午夜精品久久久中文影院| 日本九九久久99播| 26UUU欧美激情一区二区| 一区二区影视| 台湾佬中文娱乐网久久久久久久久久com | 亚欧无码在线| 国产精品极品美女视频| 超碰色综合| 欧美色综合图片| 69精品少妇一区二区三区蜜桃| 超碰色97| 国产蜜臀精品一区二区尤物| 天综合网| 亚洲操人| 国产成人免费观看在线视频| 国产成人无码高清| www.色婷婷色综合| 99久久精品无码一区二区| 国产精品人妻无码久久久老鸭窝| 一二三区精品视频| 久久久久久99999国产精品| 毛片17S| 亚洲国产精品久久久久久久久久| 日韩国产乱子伦App| 五月天我淫我色av| 2017av无码免费无线播| 午夜性刺激视频免费观看| 日本加靬比网站发布页| 黄色成品网站| 老熟女熟妇| 性欧美体内射精| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 操久久久久| 国产精品爽爽v| 这里只有精品视频在线观看麻豆| 亚洲密乳AV| 日本性交操一区二区不卡系列| 东京热天堂网| 婷婷伊人五月| 天天插夜夜操| blacked精品一区国产| 翔田千里一区二区三区奶水| 中文字幕日韩人妻视频| 园内精品自拍视频在线播放| 国产一区二区三区白丝| 国产精品一级片在线看| 99色综合| 欧美内射少妇| 天天操人人操骚逼网站| 九九九九九九免费视频| 成人国产视频在线观看| 国产高清精品一区二区三区毛片| yellow网站免费观看日韩高清无码| 国产人妖的免费的视频| 91爆操视频| 啪一啪免费视频| 无码在线亚洲| 99这里都是精品| 麻豆 欧美 日韩| 美女久久久久久久| 亚洲青青草| 久久97视频| 夜夜爽夜夜操| 国产精品999zyz| 噜噜噜无码AV一级一级久久影院| 国产精品交换一区二区| 天天干人妻| 深喉吞精| 成人无码电影在线观看网| 日韩丰满熟妇| 欧美日韩免费专区在线| 国产夫妻性生活视频| 国产综合久| 七月婷婷综合| 日本国产高清色www视频在线| 大香蕉婷婷| 亚洲欧美中日韩| 97av,com| 久久精品国产亚洲AV清纯| 97人妻免费中文字幕| 免费一级毛片在线视频观看| 中美日韩毛片| 女人香蕉久久毛毛片精品| 精品人妻中文字幕高清| 天堂种子在线www网资源| 激情一区二区三区在线观看| 国产一区免费午夜视频| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 97资源超碰| 夜色97| 天堂v无码免费视频| 亚洲精品xxx| 欧美专区在线| 香蕉精品二区二区| 性爱av在线免费观看| 欧美综合色站| 久久av无码| 国产无码精品高清| 高潮内射在线| 熟妇人妻精品一区二区| 蜜桃臀av在线观看| 五十路成人在线视频二区三区| 五月天婷婷在线看| 欧洲综合视频| 91肉丝| 91狠狠综合久久久久久| 欧美人妻一区二区| 岛国片国产成人亚洲播放| 欧美大香蕉在线观看| 天天天肏屄肏屄肏屄欧美欧美| 中文字幕中文字幕一区二区| 日日干夜夜操视频h| 久久男人天堂| 色噜噜综合在线| 三及片网站| 91丨九色丨东北熟女| 美女网站黄页| 高清无码久操视频| 日韩女优中文字幕| 国产又黄又爽| 亚洲、日韩、综合、另类| 天天做天天爱| 超碰超碰欧美| 污色区网站| 精品久久久久瑟瑟| 香蕉国产精品麻豆亚洲欧美日韩| 亚洲精品欧洲精品| 男人高清无码一区二区| 久久一区二区加油站| 中文精品一区二去| 欧美激色| 五月激情小说| 国产精品不卡av免费在线观看| 青青草原人妻| 日本加靬比网站发布页| 先锋色眉乱伦资源| 东京热AV男人的天堂| 亚洲无码色| 国产久久久| 好淫网一二三视区| 操逼大黄片| 蜜桃丰满熟妇av无码区不卡| 无码少妇精品一区二区60岁老人| 色约约一区=区三区| 青娱乐av在线| 中国女人内射6XXXXX| 91成人亚洲色图| 一区二区三区精品黑丝白丝酒店对鸡| 一级片视频啪啪| 97在线资源| 激情综合五| 美女操逼A A| 操曰本熟女| 国产一级片| yazhouzaixian| 丁香六月啪啪| 欧美日韩性爱电影在线| 黄站在线免费观看| 亚洲中文字幕乱码无码一区二区| 久久久久久国产精品免费网站| 超碰欧美97资源| 91xingse| 少妇xx精品| 97欧美超碰| 青青草久草AV| 91丝袜美腿网站| 亚洲色图欧美视频| av一区二区三区四区| 97中文字幕一区| 第45页一区二区| 色墦五月丁香| 午夜理论片在线观看免费| 99精品人妻| 超碰在线1234区| 75大香蕉| 欧美亚综合色图| 亚洲国产一区二区三区四区国产| 黑人白女精品一区| 狠狠婷婷亚洲中文综合久久| 天天操福利视频综合网站| 97色诱| 91 手机在线播放 绯色| 92午夜免费福利视频| 2024年最新色情网站在线观看 | 综合欧美亚洲| 2021久久国产综合精品青草| 热思思免费视频| 成人AV在线网站| 亚洲91网站| 91蜜臀在线久久久久| 无码抄逼网| 操逼天美3区| 日韩精品中文字幕人妻| 18禁看网站一区| 欧美 亚洲 在线| 欧美在线电影| 天天天干977| 蜜桃臀久久| 久草精品一区| 加勒比av官网在线| 中文字幕第23区| 欧美成人色| 在线综合 亚洲 欧美中文字幕 | 欧美一区二区情色| AV天天在线观看| 97电影院超碰| 熟妇熟女视频一区二区三区| 91在线综合网| 精品人妻一区春色| 欧美在线 亚洲| 蜜桃色院一区久久| 亚洲色图第四色| 91在线/欧洲| 亚洲天堂资源| 亚洲欧美综合图片| 91人人| 火箭成精品视频884必出精品| 小电影欧美91| 欧美精品庄| 91老司机视频| 一个人免费视频观看在线WWW| 亚洲情色综合| 一区二区三区四区免费视频| 精品成人av一区二区三区在线| 综合啪啪| 少妇同性| ...日韩成人一区二区三区字幕| h色99999| 91亚洲网站| 午夜操一操| 在线人成亚洲视频免费观看| 久操com| 五月丁香社区婷婷日韩欧美精品影院| 色色综合网站| 欧美日韩国产电影| 国产精品大屁股999| 97中文综合| 91人人| 精品人妻一区二区视频| 日本午夜福利影院| 婷婷情色综合网| 啊啊啊好舒服好爽啊啊啊视频| 91丨精品丨国产丨丝袜| 欧美一级黄片免费播放| 亚码激情| 精品女同一区| 欧美性爱日韩高清| 无遮挡猛进视频免费无限观看| 久久久九97| 亚洲国内精品成人不卡| 婷婷国产精品一区二区| se吧提供91精品国产91久久久久久 | 色噜噜狠狠色综无码久久合欧美| 日本五十路在线| com 首页 18岁 禁区 女优 免费 精选 同城 | 欧美 亚洲 综合 制服 另类| 精品人妻丰满熟妇一区二区三| 激情五月综合开心五月| 久久久一区二区三区四曲免费听| 999熟女精品| 欧美巨大性舒爽顶到了| 日韩av乱伦| 后入式在线免费观看60秒| 加勒比色99999| 欧美性爱无码一区二区三区| 啊啊啊com| 骚日日av| 午夜120视频在线观看| 色综合美国| 91在线国产后入风骚翘臀美女素人| 亚洲在线| 日韩三级久久久| 69久久| 日韩不卡毛片Av免费高清| 日本三级小说中文字幕| 性欧美91| 五月综合色| 啊啊啊啊啊舒服| 午夜激情成人在线观看| 玖玖蜜臀资源网| 欧美成人性活片| 大香蕉综合| 国产精品3| 亚洲精品国产专区在线观看| 丝袜喷水在线| 日韩一级久久毛片| 久久AV无码1区2区3区| 狠狠干91| 99国产精品久久久久久久成人热| 韩国一级做a久久久久| 欧洲色| 操久久久久| 五月婷在线| 91免费看中出视频| 中文字幕 码 自拍 视频 区| 欧美另类丝袜熟女| 亚洲天堂久久| 天天综合中文字幕 91| 亚洲另类电影| 97超碰大| 97超碰逼| 欧美亚洲20p| 国产精品久久aV| 九九久久国产精品| 亚洲一卡2卡3卡4卡乱码网站| 人人搡人人肉久久精品| 777奇米影视777四色| 久草色在线观看| 色色五月婷| 97爱亚洲| 国产男女无套97| 911av网站免费观看| 欧美国产操逼| 丁香六月啪啪| 啪啪视频免费在线观看| 97自拍一区| 夜夜影视四色| 欧美AB在线| 亚洲一二三四区机械| 一区不卡在线观看av| 啊嗯嗯啊好大好爽| 成人情色一区二区| 操逼视频色| 伊人在线大香蕉视频久久| 99在线精品观看99| 日本精品一级二级三级| 丝袜高跟澳门91视频| 五月婷丁香| 中文字幕精品免费一区二区| 熟女91网| 青娱乐av在线| 久久人人爽人人爽人人片Ⅴ| 大香蕉久久| 亚洲网污污污污| www.狠狠| 日韩欧美国产一区二区三区四区| 96国产精品| 中文字幕视频2区| 亚洲AV成人无码久久精品播放| 性色aV一区二区三区噜噜| 婷婷情色五月天| 五月天激情四射| 久久久久久99AV无码免费网站| 91无码人妻| 成人贴图日韩欧美| 一区二区三区精品久久| 国产精品视频自拍在线| 亚洲熟女av中文字幕| 人妻内射一区二区在线视频| 亚洲天堂区| 成年人一级黄色毛片大全在线观看| 91老熟女| 91美女视频在线观看| 九一国产精品| 探花视频免费观看国产专区| 九色黄站| 亚州精人品大香蕉| 97丝袜亚洲在线播放| 97久久超碰| 人人潮人人摸| WWW.操逼.COM| 欧美日韩中文视频播放| av网站免费看| 99在线精品观看视频中文 | 亚洲综合在线91| 国产超碰在线一区| 伊人五月天青青草婷婷| 色综合色综合网| 国产精品久久久久中文字幕| 99视频这有这里有精品| 精品99999| 久久精品超碰| 九九热精品视频六| 精品超碰色| 试看60秒| 男人的天堂2000| 大香蕉伊人在线成人AV在线观看| 中文字幕成人| 日本色色色视频| 亚洲啪啪视频免费| 麻豆国产97在线| 九九热精彩视频| 丰满人妻一区二区三区| 亚洲综合九九| 国产原创自拍| 97五月天| 美女刺激久久国产欧美| 精品久久久无码| 夜夜一区二区| 国产日韩精品一区二区三区| 99自拍B亚洲 | 精品人妻15区| www欧美91| 91熟女网| 人人性爱视频免费| 国产中文大片资源中文字幕| 久久黄色性爱视频| 福利伊人玖玖国产| 五月丁香啪啪网| 东京热男人的天堂网| 91网站18在线观看| 中文字幕免费观看| 二级毛片| 国产精品第一页国产大屁股视频免费区| 亚洲高清综合网| 综合另类| 国产极品美女高潮无套在线观看| 国产麻豆一级精品视频| 盗摄 精品 另类 一区| 91美女视屏| 久久久熟妇熟女国产| 激情四射五月天| 超碰吊日色| 国产 日韩,欧美 自拍| 久久亚洲欧美中文字幕国语 | 日日妻色网| 97资源站日韩| 国产第12页| 大伊香蕉在线视频免费| 一品道视频一区二区三区| 嗯~啊~快点 死我视频| 91五月天| 91综合熟女| 国产一区二区三区久久久精品| 极品白嫩美女白浆成人福利在线看| 天天插天天射| 91丝袜在线视频| 九九热精品| 性影在线视频| 97精品一二区| 亚洲欧美天| 免费成人在线观看91| 国产无套粉嫩白浆在| 久久婷婷在线观看视频| 少妇大屁屁| 日本1区2区不卡视频| 五月婷在线| 9999伦理视频| 啊啊啊啊好多水| 日韩一级成人毛片免费观看| 99.色网| 日本ZZ高免费A级视频| 欧美中文字幕日韩在线| 天天爽天天操| 日本五区不卡| 强奸乱伦AV网站| 爆乳免费黄网站| 欧美高清91| 肉嘟嘟www视频在线观看高清| 日韩91网站| 强奸乱伦αv片| 欧美亚洲涩涩| 欧美不卡在线一区二区| 亚洲综合色男人网| 天天综合网在线91| 亚洲欧洲国产综合av| 国产第11页| 国产在线激情视频| 色九九九九| 天天日天天干天天色| 91狠| 91美女小视频| 青青草操逼逼视频| 婷婷五月天激情四射| 香蕉综合网| 亚洲九九视频| 婷婷五月天色色| 亚洲成人在线乱码色午夜| 免费在线观看国内色片网站网址| 亚洲资源网| 青娱乐亚洲自拍| 色网在线| 人人摸人人添人人操| 欧美成人国产精品| 秋霞蝌科网日本一区| 人妻激情在线视频| 男男H黄动漫啪啪无遮挡网站| 精品人妻一二三四区视频| 亚洲国产成人福利在线观看| 91强在线播放| 人妻人人做人人澡人人爽欧美一区| 蜜桃久久精品一区二区三区| 一级黄色视频网| 欧美超碰人妻97| 欧美性爱精品一区二区| 99rre在线精品99re8| www.久久99| 大香蕉日韩| 熟妇人妻一区二区三区| 免费福利视频中文字幕| 天综合网欧美| 狠狠色色| A级片日韩欧美国产欧美视频精选观看| 乱理日韩中文| 亚洲AV秘 精品久久老牛影视| 九九热午夜欧亚国产视频| 国产精品久久伊人| 亚洲熟女综合网| 色综合加勒比四四季| 日日噜噜夜夜狠狠视频无| 青青草久久| 久久久无码国精品无码三区三区| 日韩成年人性爱视频| 日韩视频小说在线观看| 精品成人av一区二区三区在线| 亚洲天堂资源在线| 亚洲欧美性生活| 亞洲久久直播| 91性感在线| 青青国产在线拍揄自揄拍| 国产强奸超碰AV| 九九热AV| 国偷自 一区| 国产人妻精品久久久一区二区三区| 黄色操人| 久久精品国产亚洲粉嫩| 91熟女综合| 婷婷丁香在线| 91人妻最真实刺激绿帽| 久久丝袜| 98超碰日本| 91精品国产综合久久久蜜臀| 人妻日日干| 精品无码一区二区三区色欲| 9九九国产| 精品国产一区二区三区久久久蜜臀| 亚洲综合精品国产一区| 国产偷人伦激情在线观看| 职场同事知名国产国产精品久久欧美日韩 | 五月天社区| 国产无码精品成人| 超碰久超碰久| 97超碰免费生活| 国产精品久久久久久夜夜夜| 久热伊人| 操逼逼福利视频| 久久成人国产精品| 精品91日日夜夜超清资源| 999九九九九国产动| 97超碰色屌| 欧美性天天影视| 国产成人精品日本亚洲语言| 艹精品| 国产亚洲深夜激情| 伊人国产成人av网站| 亚洲色婷婷综合久久久久中文| 东京热熟女亚洲视频网站| 三级片大波波| 伊人影院在线理论播放| 人人人人人人少妇| 91九色首页| 国产尹人在线视频免费| 你想操日本小逼吗| 天天操天天干一区二区 | 精品欧美А∨无码黑人大荫蒂| 97超碰站| 九九九免费视频| 人人妻人人爽一区二区三区| 色九色久| 成人九九| 午夜福利 成人 91| 国产成人啪一区二区| 少妇内射视频| 五月天亚洲网| 精品制服美女中文一区二区三区| 亚洲熟久久| 97超碰这里只有精品| 麻豆 亚洲 97| 乱码人妻一区二区三区| 久久精品中文字幕女同| 偷拍片久久| 青青草一区二区三区四| 久久精品国产97欧美精品亚洲 | 人人性爱视频免费| 都市久久精品激情亚洲| 99re公开精品免费视频| 欧美午夜视频精品久久| 一区在线国产播放| 91粉芽高清在线一区二区| www.91色综合| 欧洲Au麻豆| 色制服丝袜夫妻av一区| 91 国产丝袜在线播放-百度| 好一吊区二区| 啊啊啊爽爽| 国产精品久久久久久亚洲色欲| 欧美18 在线观看| 久久久久亚洲?V片无码V| 深夜国产一区二区三区在线看| 郑州宾馆老熟女露脸啪啪| 在线啊v一区| 一区二区日韩欧美久久| 刺激性视频黄页| 欧美人妻中出| 97在线/亚洲| 亚洲 暴爽 AV人人爽日日碰| 日本一区二区三区免费观看| 国产精品婬乱一级毛片彝族| 97人人模人人爽人人| 精品久久久无码| 在线观看A啊啊啊| 中文字幕日韩情色| 超碰97人妻| 综合久久六月久久婷婷| 激情五月天网站| 国产熟女| 日韩免费性爱视频在线观看| 97中文天堂| 日本精品久久久久久久| 少妇淫妇久久久久久久| 欧美性生活免费网| 25国产精品免费观看| 啊啊好多水| 超碰97综合在线| 国产对白刺激视频| 97五月天| 色阁阁AV综合网| 久久午夜色播影院免费高清| 手机在线播放国产福利| 久久久久久久一级黄色打同平台| 国产视频大全| 精品九九| 九九综合色| 人妻少妇精品久久久| 男人的天堂va在线| 日本高清有码网址视频| 熟女一区二区| 天天日骚逼熟女| se吧提供国产乱老熟视频胖女人| 婷婷午夜| 亚洲AV在线资源| 91性高朝久久久久久久久| 丁香五月色情| 久久久久久免费电影| 天天操天天射天天日| 国产日本熟女顶级一区二区三区视频 | 东京热免费视频| 久久久男人的天堂| yaouchengrenav| 精品超碰中文在线| 亚洲情色 自拍| 日本高清有码网址视频| 1000午夜黄色| 高清无码一区二区三区| 色呦呦、国产精品| 精品人妻一区二区三区日产| 亚洲夜夜欢无码一区二区 | 人人摸.人人色| 中文字幕乱碼在线| 精品久久久久久中文字幕视频免费| 妺妺跟我一起洗澡没忍住| www被窝色com| 天天插夜夜操| 嗯嗯啊啊好疼| 精品无码不卡视频| av麻豆啪啪| 国产精品探花色| 日韩av色图综合| 国内精品久久人妻性色av| 99热超碰| 欧美AAAA黄片| yirendaxiangjiashipin| 亚洲色欧美| 特污免视频| 九九碰九九爱97超碰| 久久婷婷国产一区二区色| 亚洲人妻久久| 久久久久久亚洲精品中文字幕人妻| 91亚洲人| 男人下部插入女人下部 | 69AV女优男人的天堂| 91视频精品| 后入人妻一区| 日本免费一级AAA大片器| 日日黄色三级网站| 国产精品久久久无码AV网站| 玖玖超碰熟| 免费一级毛片在线视频观看| 欧美亚洲天天| 午夜天天碰综合视频| 五月天我淫我色av| 中文字幕文字幕无码一区二区三区电影99| 国产精品极品美女视频| 天天日骚逼熟女| 狠狠色丁香| 日韩操啪| 中字一区| 久久人妻丝袜一区二区三| 呦呦一区| 亚洲男人的天堂在线看| 日本肉体xxxx裸交| 日本精品五区| 久久超碰98| 亚洲一区中文字幕一区| 丝袜美腿av女优在线| 啊啊啊啊啊啊在线观看| 国产成自自拍在线观看| 国产高清成人传媒影视| 久草加勒比一区在线| 日韩人妻精品中文字幕| 自偷自拍的亚洲视频| 精品久久久av无码免费| 曰韩少妇无码| 啪啪91| 亚洲毛片一级带毛片基地| 高清视频一区| 国产地址二三| 大香樵伊人网| 韩日性爱av| 在线不欧美| 物业黑人 AV一区| 麻豆天美电影一区二区| 色嗨嗨在线| 国产综合色精品在线观看| 色偷偷超碰亚洲| 中文字幕一区 二 区 三 四 五 区日 日 骚| 色综合天天| 少妇一区二区三区| 色臀aV| 一道本东京热加勒比一区二区三区| h无码动漫在线观看| 亚洲色图综合| 97ai亚洲| 欧美色图 人妻| 婷婷情色综合网| 色五月婷婷色| 亚洲国产一级精品毛一级精品看免费视频 | 人人看人人爰人人操| 啊啊啊久久| 夜夜国自区| 中文字幕女同在线| 一区二区三区男女操逼黄色小电影| 抽插无码高清一区| 高清无码一区二区三区| 成人国产视频在线观看| 97鸡把在线视频| 超碰无码五月97| www.高清无码诱惑一区.com | 亚洲骚男同com| 91欧美丨精品丨入口| 91国产丝袜足交精品视频| 99精品久久| 女人高潮抽搐喷水视频网站| 亚洲精品xxx| 老熟女搡BBBB搡BBBB视频| 欧美人妻少妇| 欧美色图91| 操熟女91| 亚洲高清色综合| 91热| 九九九九精品视频| 91美女精品| 91中出在线| 97ai亚洲| 久久丝袜| 人妻丝袜一区二区三区在线| 欧美精品系列| 久久东京热成人| 亚洲无码一区成人免费午夜| 啊啊啊水好多| 久久精品国产亚洲av水密被窝| 啊啊啊啊嗯嗯在线久久久| 亚洲少妇自拍中文字幕懂色| 老鸭窝日丰县女人| Julia Annxxxxx| 欧美在线第五页| 欧美,日韩,中文,另类| 全国男人天堂网| 超碰地址久久| 91综合网| 日本人妻中文字幕| 四虎影视永久在线免费| 亚洲精品无码久久AV| 国产 亚洲 丝袜 制服| 日本一区二区做爱的视频| 国产黄色av大片网站 | 日本男人天堂| 91美女在线观看| 看日韩黄片| 天天干天天燥| 熟女人妇一区二区三区| 亚洲精品三| 天堂蜜桃无码视频一区二区| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 欧洲亚洲人人爽爽视频| 福利五区| 天天综合网在线观看| 欧美人与动性人交a| 国产av波波国产精品| 女人双腿搬开让男人桶| 美女刺激久久国产欧美| 5252色欧美在线| 乱伦av国产| 色五月丁香五月| 澳门成人网站久国产日韩| 伊人 俄罗斯 a v| 亚洲在线综合| 啪啪视频免费在线观看| 做爱A级亚欧| 五月丁香啪啪| 黄色十八禁网站| 中文精品少妇天堂| 亲子敌伦对白在线播放| 性在久久久久久| 人妻少妇久久久| 色综和网| 欧美性夜| 岛国色情视频在线观看| 99热这里只有精品99| 欧美视频第二页| 精品国产乱码久久久影院| 亚洲一区中文精品| 少妇滛荡视频| 亚洲AV无码久久精品蜜桃小说| 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 国产黄色av大片网站| 999久久久久久久精| 十八禁电影伊人网| 欧美视频一| 久久婷婷精品| 熟妇国产免费一区| 肏逼视频日本| 97操操| 久久99精品国产| 日本不卡一区二区| 免费a在线播放v| 欧美亚洲AN| 91操操操操| 99热欧美| 欧美体内射精| 国产日逼视频| 九九九九九九亚洲| 香蕉精品二区二区| 日韩欧美中文| 日韩三级在线观看mp4| 一起草视频在线| 日韩女模中文造逼| 国产精品午夜福利视频| 激情熟女12P| 欧美亚性天堂| 91痴汉| 最新日韩黄片| 欧美久久久| 26uuu偷拍亚洲欧洲综合| 无码一区二区三区四区五区六区七区八区九区十区视频 | 在线播放免费av福利片| 亚洲国产综合久久天堂| 丰满人妻一区二区三区免费| 国产亚洲精品第一最新| 久久骚| 亚洲 日韩 丝袜 熟女 变态| 操b网站亚洲无码| 亚洲码在线中文在线观看| 亚洲欧美一区二区三区在钱蜜桃| 97人人爱人人乐| 大香蕉综合在线| 91精品在线播放| 欧美亚洲日本激情在线| 91久久国外网| 乱欲一区二区| 伊人96在线| 天天干天天狼在线视频| 免费99精品国产自在在线| 日韩欧美中文日韩欧美色| 欧美精品久久| 午夜福利精品| 人人爽夜夜玩视频| 日本在线激情一区二区三区| 亚洲色图 91| 五月丁香久久| 91亚洲综合| 中文字幕精品丝袜| 一区二区精品日韩欧美在线观看| 日夜久久久九九九久| 两女互慰AV高潮喷水在线观看| 久久久久ab| 51一区二区三区| 国产精品97超碰| 激情五月综合| 亚洲中文字幕在现观看| 男人干美女| 国产AV激情无码久久无码| 俺也射| 人妻熟女一区在| 精品久久久av无码免费| 色九九九九| av婷婷色婷婷色六月| 97这里有精品| 超硑97精品| 思思性爱| 伦理第一页| 久草婷婷| 九九黄色视频在线观看| 超碰97综合| 日韩三级在线观看mp4| 久久久久久久国产a∨| 欧美日韩人妻精品系列一区二区三区| 偷拍欧美综合| 福利操逼| 久久尹人大香焦视| 人妻 欧美 中文| www九九热| 精品人妻免费观看| 日韩亚洲97| 91neishe| 性开放中文AV高清无码免费看| 91欧美www| 二级久久网| 色婷婷小说| 操逼视频国产无套| 91精品国| 日韩在线人妻网站| 99操碰| 国产对白刺激视频| 人人澡人人干| 97碰碰日本乱偷人妻中文的| 五月天婷婷影院| 日韩人妻播放| 久久精品国产亚洲AV先锋| 国产后入清纯| 亚洲综合网图| 九九性视频| 国产自产自拍| 97免费在线视频| 天操天操夜操夜月月年年操操| 99re6国产精品99re在线| 亚洲高清无码AAA久久久精品| 欧美色综合| 亚洲区小说| 九九热在线精品视频| 国产精品女同| 日韩成人综合网| 人人操人人插人人摸人人干| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 欧美高清91| 亚洲欧洲无码bt精品合集| 91美女视频直播| 激情四射五月天| 97超碰色屌| 97超级久久强资源| 人妻人人操| 国产区91柔拿会所技师| 欧差乱伦二三| 韩国一级婬片A片AAAAA| 97在线精品观看视频| 黄片www视频免费| 欧美色网络| 亚洲图片视频小说| 欧美熟女逼久久久久久| 神马久久69| 91撸色网 玖玖网 欧美| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 精彩久久中文| 都市激情人妻一区二区青青操视频| 欧洲中文字幕| 91老司机在线视频免费观看 | 污色区网站| 亚洲综合第一页| 天天日天天干少妇日| 淫淫综合网| 俞拍久久国应视频| 蜜臀99精品国产高清在线观看| 日本免费二区三区| nuu12国产麻豆精品| 韩国毛片一区二区三区| 国产诱惑| 五月天亚洲网| 国产熟女自拍| 五月天人妻综合| 日韩欧美久久婷婷网站| 欧洲自拍第一页| 欧美色爱综合| 国产综合久| 一区二区三区不卡视频| 不卡在线观看视频| 超碰色综合| 亚洲 小说 欧美 激情 另类| 人人操,人人插| 精品高清一区二区三区三州| 做爱A级亚欧| 国产CHASE男男GAYGA 毛多色婷婷| 亚洲操逼视频网站| 色色色综合网| 91在线美女|