亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

從 Issue 到 PR 合入:HCCL 開源貢獻全流程實戰(zhàn)指南

從 Issue 到 PR 合入:HCCL 開源貢獻全流程實戰(zhàn)指南 在昇騰設備上做分布式訓練時HCCLHuawei Collective Communication Library就是那個藏在底層、負責多卡和跨節(jié)點梯度同步的集合通信庫。很多做模型訓練的同學用過它但真正參與過它開發(fā)的并不多。這篇東西我想從一個貢獻者的視角把從提 Issue 到 PR 合入的完整鏈路拆開講一遍包括什么樣的 Issue 會被維護者認真看、PR 怎么寫才不用來回折騰十輪、CI 掛了先查哪里、以及 code review 時那些不好意思問出口的潛規(guī)則。如果你已經有 C/C 或 Python 基礎想找一個有真實落地場景的開源項目練手HCCL 其實是個比想象中更友好的選擇。這篇文章會從項目背景、Issue 規(guī)范、環(huán)境準備、PR 流程、CI 調試到合入后的收尾工作逐步帶你把整套流程走通。哪怕你還沒碰過集合通信只要愿意讀代碼、愿意跑測試也能找到自己可以下手的位置。1. 項目畫像先搞清楚 HCCL 到底是什么1.1 它在分布式訓練棧里的位置在聊怎么給 HCCL 貢獻代碼之前先花點時間把項目本身講清楚。HCCL 是昇騰 AI 加速卡上的集合通信庫對標的是 GPU 生態(tài)里的 NCCL。訓練大模型時數(shù)據(jù)并行是最常見的并行策略每張卡算完自己那一份梯度之后需要把梯度同步到所有卡上這個同步動作就是靠集合通信庫來完成的。AllReduce、AllGather、ReduceScatter 這些通信原語就是 HCCL 對外提供的核心能力。你可以把它理解成快遞系統(tǒng)里的分揀中心每張卡都往里面投遞自己的梯度包裹分揀中心負責按照規(guī)則重新打包再派送給所有卡。如果分揀中心效率低整個訓練任務都會卡在等待上。這也是為什么集合通信庫的性能優(yōu)化如此重要——哪怕只提升 10% 的通信效率在大規(guī)模訓練里節(jié)省的時間成本都是非常可觀的。對貢獻者來說這個位置意味著兩件事一是你寫的代碼會被真實的高性能計算場景使用改動的影響面很直觀二是它涉及的知識面比較寬包括操作系統(tǒng)、網絡協(xié)議、硬件拓撲、并發(fā)編程但每個方向都不是說你要成為專家才能參與很多任務其實是在已有代碼框架上做增量優(yōu)化和修補。1.2 代碼倉庫和模塊劃分HCCL 的源碼可以通過公開代碼托管平臺獲取常見的路徑是在 Gitee 或 GitHub 上搜索相關組織下的 HCCL 倉庫。拿到源碼之后你會發(fā)現(xiàn)它并不是一個特別龐大的項目但目錄結構劃分得很清晰。核心內容一般集中在通信算子的實現(xiàn)、設備管理、拓撲發(fā)現(xiàn)、傳輸鏈路這幾個模塊里。從新人的角度我建議先不要把精力放在底層傳輸鏈路上那個模塊涉及到對硬件驅動的理解排查問題的門檻很高。相對友好的切入點是集合通信算子的上層邏輯、工具腳本、文檔注釋和測試用例。比如你看到某個算子在特定數(shù)據(jù)大小下性能異常順著調用鏈往下查可能定位到的是內存分配策略或者同步等待邏輯的問題這種問題的修復往往只涉及幾百行代碼但對于理解整個項目幫助極大。順便說一句HCCL 的代碼風格整體比較規(guī)整大量使用 C 特性但也保留了不少 C 風格的接口設計。原因很簡單這個庫需要被上層框架比如 PyTorch 的適配層通過 C 接口調用所以對外 API 用 C 接口更穩(wěn)定內部的實現(xiàn)則用 C 來保證開發(fā)效率。1.3 貢獻前的能力準備先潑一盆冷水給 HCCL 貢獻代碼不是會寫 Python 調幾個框架就行的事情。它需要一定的 C/C 功底至少要能讀懂指針、引用、模板這些基礎概念理解多線程和鎖的用法以及具備通過日志和調試工具排查問題的經驗。但也不用被嚇住因為項目里不只是代碼一種貢獻形式。文檔修正、示例代碼、測試補充、Issue 復現(xiàn)驗證這些都是非常有價值的貢獻方式。尤其對于第一次參與開源的人來說從文檔和測試入手熟悉了整個流程之后再碰核心代碼是曲線比較平滑的一條路。環(huán)境方面如果你手頭有昇騰設備那當然是最好的可以本地復現(xiàn)并驗證性能改動。如果沒有也可以貢獻一些不依賴硬件的代碼邏輯優(yōu)化或者在 CI 環(huán)境里去跑測試。只不過需要提前說明的是HCCL 的很多測試是依賴真實硬件環(huán)境的純軟件模擬環(huán)境只能覆蓋一部分功能這個限制對所有貢獻者都一樣不是你一個人的問題。2. 從一條合格 Issue 開始2.1 Issue 不是吐槽區(qū)我見過很多新手在 GitHub/Gitee 上提 Issue開頭就是“訓練報錯了求大佬看看”然后附一張模糊的截圖沒有版本號沒有日志沒有復現(xiàn)步驟。這種 Issue 基本不可能得到有效的回復——不是維護者不熱情而是信息不足以定位問題。高質量開源協(xié)作的第一步是學會提一條合格的 Issue。一個合格的 HCCL Issue必須包含幾個核心要素問題現(xiàn)象、復現(xiàn)步驟、環(huán)境信息、日志信息?,F(xiàn)象描述要準確比如“在 8 卡環(huán)境執(zhí)行 AllReduce 時當數(shù)據(jù)量為 512MB 時性能比預期低 30%”就比“訓練很慢”有用得多。復現(xiàn)步驟要可操作別人按你的步驟能走通。環(huán)境信息包括操作系統(tǒng)版本、CANN 版本、HCCL 版本、固件驅動版本、卡型號和拓撲。日志信息則是運行時的報錯輸出、HCCL 日志通常由環(huán)境變量控制開關以及必要的堆棧信息。有人可能會覺得我提個 Issue 而已還需要整理這么多東西嗎換個角度想如果你是那個需要花半小時甚至更久去復現(xiàn)問題的維護者你希望看到什么樣的報告將心比心把信息整理清楚本身就是對維護者勞動的尊重。2.2 一份能加速處理的 Issue 長什么樣我以一個真實的 bug 類 Issue 為例給你拆解一下模板要素標題[Bug] AllReduce 在數(shù)據(jù)量為 256MB 時觸發(fā)段錯誤 環(huán)境信息 - 操作系統(tǒng)Ubuntu 20.04.6 LTS - CANN 版本8.0.RC1 - HCCL 版本v1.8.1 - 固件驅動24.1.rc1 - 硬件4 張 Atlas 訓練卡單機單卡環(huán)形互聯(lián) 復現(xiàn)步驟 1. 編譯 examples/allreduce_benchmark參數(shù)配置如下省略具體參數(shù) 2. 設置 HCCL_LOGFILE/tmp/hccl.log 環(huán)境變量 3. 啟動測試程序數(shù)據(jù)量設置為 256MB 4. 觀察程序退出碼 期望行為正常完成集合通信并輸出正確結果。 實際行為程序在通信初始化階段崩潰退出碼 -11堆棧顯示在拓撲發(fā)現(xiàn)模塊具體報錯粘貼。 日志片段 粘貼關鍵日志避免貼整個文件這個模板的信息密度很高維護者拿到手可以直接開始復現(xiàn)。值得注意的一點是“數(shù)據(jù)量為 256MB 時崩潰128MB 或 512MB 時正?!边@種信息非常關鍵因為它能幫助維護者快速縮小問題范圍——可能涉及內存池分配策略、通信緩沖區(qū)的邊界條件或者某個特定數(shù)據(jù)分片邏輯。另外如果問題涉及性能最好附上基線數(shù)據(jù)和實測數(shù)據(jù)的對比說明是在什么條件測的。性能問題比崩潰問題更難處理因為它可能和網絡拓撲、CPU 頻率、PCIe/NVLink/HCCS 鏈路狀態(tài)都有關沒有數(shù)據(jù)的性能 Issue 基本等于大海撈針。2.3 Issue 里的溝通禮儀Issue 提完之后你可能會遇到幾種情況。一種是維護者很快回復“能否提供更多信息”這時你需要及時補充一種是長時間沒人回復這并不一定代表你的問題不重要可能是維護者比較忙也可能是你的 Issue 確實缺少必要信息還有一種情況是有人回復了但是給了一個和你預期不一樣的解釋方向。在 Issue 評論區(qū)溝通要保持專業(yè)和耐心。不要用“這東西怎么這么難用”這種抱怨語氣直接陳述技術問題就好。如果某個對話已經偏離主題可以禮貌地提醒對方回到問題本身。如果維護者要求你驗證某個修復補丁盡量第一時間去跑然后把結果反饋到評論區(qū)——這是建立信任的過程。這里還有一個很容易踩的坑在 Issue 里貼完整的大文件日志。幾萬行的日志會把真正有用的錯誤信息淹沒掉正確做法是先用 grep 過濾掉無關內容只保留報錯前后的關鍵幾十行并在日志片段外簡要標注每部分可能表示的含義。維護者每天要處理大量 Issue信息越聚焦你的問題被解決的優(yōu)先級就越高。3. 從 Issue 到開發(fā)計劃3.1 怎么篩選適合自己的任務不是所有 Issue 都需要你寫代碼。HCCL 的項目維護者通常會給 Issue 打標簽比如 good first issue、help wanted、bug、enhancement 等。如果你是第一次參與建議優(yōu)先找 good first issue 或者文檔增強類的任務這類任務的技術依賴少評審要求相對寬松能幫你把整個工具鏈跑通。篩選任務的時候有幾點經驗可以分享。首先看 Issue 的創(chuàng)建時間——太老的問題可能已經沒人關注你做了也可能不被接受。其次是看評論區(qū)的活躍度如果維護者在此前已經給過一些方向性建議說明這個問題是被認可的你可以在此基礎上展開。第三是評估影響范圍盡量選那些改動文件不超過 10 個、核心邏輯相對獨立的問題。以 HCCL 為例一個對新人比較友好的任務是“補充某個通信原語在異常輸入下的錯誤碼檢查”這種改動通常只需要在 API 入口增加參數(shù)校驗邏輯清晰、影響面可控。相比之下“優(yōu)化某拓撲下 AllReduce 的帶寬利用率”這種任務雖然很有吸引力但往往需要你深入理解硬件拓撲和網絡通信機制調試周期很長不建議拿來做第一個 PR。3.2 認領任務與溝通方式找到合適的 Issue 之后不要直接悶頭開始寫代碼。正確的做法是先在這個 Issue 下面評論說明你想認領這個任務并簡單描述你打算怎么解決。好處有三個一是避免和其他貢獻者撞車讓別人知道這個任務有人在做二是維護者會給你反饋如果方案有問題可以及時調整避免白干三是有溝通記錄作為依據(jù)后續(xù)你提交 PR 時維護者更容易建立上下文。在評論認領任務時可以簡單描述你的技術背景和計劃時間線比如“我熟悉 C 和內存管理計劃兩周內完成修復并提交 PR”。這種信息能打消維護者對新人執(zhí)行力的顧慮。但要注意一旦你承諾了時間線最好能真的推進如果有意外延期也應該及時在 Issue 里同步而不是一直沉默。另外一個小技巧認領任務后可以先把相關代碼讀一遍在評論里提出你的初判。比如“經排查問題出現(xiàn)在 topology.c 中的設備發(fā)現(xiàn)邏輯可能和 PCIe 鏈路寬度檢測有關”。即使這個判斷不完全正確維護者也會覺得你是真的在做事而不是隨便占個坑。3.3 本地開發(fā)環(huán)境搭建開發(fā)環(huán)境搭建是很多新手真正卡住的地方。我的建議是分兩步走先搞定能在本地完成的工作讀代碼、編譯、跑靜態(tài)檢查再解決需要硬件資源的工作跑真實通信測試。HCCL 的代碼構建一般依賴 Linux 環(huán)境、GCC 編譯器、CMake 和 Python 工具鏈。拿到源碼后按 README 的說明安裝好依賴依次執(zhí)行配置、編譯、安裝這幾個步驟即可。在配置階段有幾個選項比較重要比如是否啟用測試代碼、日志等級、調試符號等。如果你是做功能開發(fā)而非性能調優(yōu)建議打開調試符號和更詳細的日志輸出方便定位問題。沒有昇騰硬件的情況下依然可以完成編譯驗證但鏈接階段可能會缺少某些底層庫。這種情況下一個可行的替代方案是只編譯與你改動相關的模塊做語法級別的驗證然后把完整的驗證寄托在 CI 上。這個過程雖然不那么順暢但很多開源項目的貢獻者都是這樣工作的——本地環(huán)境不完全匹配CI 反而成了最終裁判。綁定硬件環(huán)境的測試跑不了還有一個折中方案編寫針對純軟件邏輯的單元測試。比如某個函數(shù)負責解析環(huán)境變量、計算通信緩沖區(qū)大小或者維護內部狀態(tài)這種邏輯完全可以在宿主機上寫單元測試跑起來。HCCL 中這一類可以脫離硬件驗證的代碼比你想象的多得多這也是很多新人能夠遠程貢獻的主要原因。4. 寫 PR不只是把代碼推上去4.1 分支與提交規(guī)范代碼開發(fā)完成后提交 PR 的第一步是在遠端倉庫創(chuàng)建自己的分支。分支命名建議遵循一定的規(guī)范比如用 fix/ 開頭表示 bug 修復用 feature/ 表示新功能用 docs/ 表示文檔變更。這樣維護者從分支名就能快速判斷改動的性質。分支創(chuàng)建好之后開發(fā)過程中的 commit 信息也要講究。我見過很多 PR 里一個 commit 寫了 800 行改動信息只是“fix bug”這種提交歷史基本沒有可讀性。更好的做法是遵循 Conventional Commits 規(guī)范在提交信息里用簡短的類型前綴說明改動類別比如 feat: 新功能、fix: 修復問題、test: 測試相關、docs: 文檔修改。同時一個 commit 盡量只做一件事把邏輯上獨立的修改拆成多個 commit方便 reviewer 逐個審查。Git 操作層面有幾個建議。一是經常拉取主分支的最新代碼及時 rebase 以減少合并沖突二是在提交信息中用祈使句開頭比如 Fix double free in comm buffer而不是 Fixing 或 Fixed三是提交信息正文可以簡單寫清楚為什么做這個修改以及實現(xiàn)的思路但不要寫廢話。4.2 代碼風格與自檢清單在推上遠端之前先在自己的分支上做一輪自檢這種自檢能大幅提高 PR 通過率。以 C 代碼為例重點檢查以下幾項。第一命名是否規(guī)范。HCCL 這類底層庫對命名風格有嚴格要求變量名要能清晰表達含義避免 a、b、c 這種無意義命名函數(shù)和類的命名要符合項目既有風格不要一種模塊用駝峰、一種用下劃線至少在同一個文件里保持一致。第二邊界條件是否處理。比如你改了一個緩沖區(qū)分配邏輯是否考慮了 size 為 0 的情況是否考慮了內存對齊要求是否能處理分配失敗這些邊界條件往往是 bug 的溫床。第三是內存和資源管理。C/C 項目最常見的問題就是內存泄漏、雙重釋放、資源未釋放。如果你改動的代碼涉及動態(tài)內存分配仔細檢查每條路徑上資源是否都被正確釋放。對于不熟悉 C 內存管理的同學建議先讀幾遍項目里已有的分配釋放邏輯照葫蘆畫瓢比自由發(fā)揮更安全。第四日志是否恰當。HCCL 有自己的日志系統(tǒng)在關鍵路徑和錯誤分支上應該有合理的日志輸出方便線上問題排查。但日志也不能太多每個正常操作都打一條日志會把性能拖垮。第五測試是否充分。如果改動修復了某個 bug至少應該有一個能驗證該 bug 被修復的測試用例。對于性能優(yōu)化則需要附上優(yōu)化前后的基準測試結果。4.3 PR 描述怎么寫得讓 Reviewer 秒懂PR 描述是你和 reviewer 溝通的第一份材料它的質量直接決定了 review 的順暢程度。一份好的 PR 描述不需要長篇大論但必須覆蓋幾個核心信息這個 PR 解決什么問題、改動涉及哪些模塊、實現(xiàn)思路是什么、測試結果如何、是否有關聯(lián)的 Issue。一個比較實用的模板結構如下## 背景 2~3 句話說清楚為什么要做這個修改關聯(lián)的 Issue 編號 ## 改動內容 列出主要改動文件和每個文件的核心變更點 ## 實現(xiàn)思路 簡要說明采用的技術方案為什么選擇這個方案而不是其他方案 ## 測試驗證 本地測試、單測、CI 結果、性能對比數(shù)據(jù) ## 影響范圍 這個改動會影響哪些模塊或場景是否涉及接口變更、是否需要升級適配寫 PR 描述的時候要站在 reviewer 的角度去寫。reviewer 可能對你的改動上下文不熟悉你要用最短的時間讓他理解你在做什么、為什么這么做。不要直接拷貝 commit message 到 PR 描述里commit message 是給代碼歷史看的PR 描述是給人看的兩者內容可以有重疊但 PR 描述應該更完整、更有邏輯。還有一點PR 描述里提到的測試結果一定要真實可查不要編造數(shù)字。如果某個性能數(shù)據(jù)是在特定條件下測出來的要如實寫明測試環(huán)境和方法。reviewer 大概率會追著你問數(shù)據(jù)的來源如果數(shù)據(jù)站不住腳你的信譽會大打折扣。5. 過 CI 和 Code Review 的硬仗5.1 CI 跑哪些東西提交 PR 之后代碼會自動進入 CI 流程。HCCL 的 CI 通常包括編譯檢查、單元測試、靜態(tài)代碼掃描、以及依賴于硬件環(huán)境的集成測試。你不一定能看到所有 CI 階段但編譯檢查和靜態(tài)掃描基本每次都會觸發(fā)。CI 失敗是每個貢獻者都會遇到的事情第一次不用慌。最常見的失敗原因有三類編譯錯誤、代碼格式不符合規(guī)范、測試用例掛了。編譯錯誤比較直觀順著日志里報錯的文件和行號定位即可。格式問題則需要用項目指定的工具跑一遍自動格式化比如 clang-format 或 astyle 之類格式化完成后再提交。測試用例失敗的情況需要具體分析。如果在本地能復現(xiàn)那就按正常的調試流程走如果本地無法復現(xiàn)則可能是環(huán)境差異導致的此時可以在 PR 評論中說明情況并請求維護者協(xié)助查看 CI 日志。有些 CI 失敗是因為基礎設施不穩(wěn)定導致的偶發(fā)失敗比如網絡超時、資源調度延遲這種情況下重跑一次就過了但如果是你的代碼引起的重跑多少次都是失敗。想減少 CI 往返次數(shù)最好的辦法是在本地盡量復現(xiàn) CI 的檢查項。比如提前在本地跑單元測試、靜態(tài)檢查、格式化校驗確保這些過了再推代碼。CI 每失敗一次你的 PR 合入時間就延后一次而每個維護者一天能處理的 PR 數(shù)量是有限的。5.2 面對 review 意見的心態(tài)與技術準備Code review 是整個貢獻流程中壓力最大但也最有價值的環(huán)節(jié)。你的 PR 提交后維護者或社區(qū)成員會逐行查看代碼提出修改意見。這些意見可以是針對正確性的嚴重問題也可以是對變量命名的吹毛求疵甚至是對代碼風格的偏執(zhí)。先說一個最重要的心態(tài)建設review 意見不是針對你一個人的它是針對代碼本身的。看到“這里加個空指針檢查”這種意見不要興奮也不要失落把它當作一次技術方案打磨的過程就好。技術準備方面你要能區(qū)分不同性質的 review 意見。如果是正確性問題比如并發(fā)競爭、內存錯誤、邏輯漏洞這個沒有商量的余地務必認真修改。如果是風格和可讀性意見雖然不強制但建議盡量順從因為維護者比你更了解項目的歷史慣性和后續(xù)維護成本。如果是方案層面的討論比如“你為什么會選擇用自旋鎖而不是互斥鎖”這種意見開放度比較高你可以從實際場景和性能測試數(shù)據(jù)出發(fā)據(jù)理力爭前提是你的論證有數(shù)據(jù)支撐。有個經驗可以分享當你在 review 中修改代碼之后一定要在 PR 評論區(qū)回復每條意見的處理結果。常見的做法是直接用 GitHub/Gitee 的回復功能加一段“已修復見 commit xxxxxxx”或者“這個建議我不太認同原因是……”。每個意見都有交代reviewer 才能放心地在后續(xù) commit 中只關注新增的改動。5.3 反復修改與歷史清理除非你寫代碼真的行云流水否則一個 PR 經過多輪 review 修改是非常普遍的事情。每輪修改之后你需要在 PR 里追加新的 commit。這里有一個困擾很多新手的問題我改了一輪產生了 3 個新 commit歷史能清理嗎我的建議是分階段處理。在你的 PR 還沒有被 reviewer 大量關注之前可以用 git rebase 把多個小 commit 合并成幾個邏輯完整的 commit讓歷史保持整潔。但當 reviewer 已經在舊 commit 上留過言之后就不要再隨意 rebase 了因為那會讓 review 評論和代碼版本對不上反而增加溝通成本。這個階段你可以通過追加 commit 的方式表達等 PR 合入時平臺一般會默認用 squash merge 的方式把整個 PR 壓成一個 commit這樣最終歷史依然干凈。Git 操作上還有一個注意項rebase 時不要強推git push --force已經公開的 commit如果你用了一定要在 PR 評論里明確告知否則別人本地的分支會變得非?;靵y。更穩(wěn)妥的做法是先 fetch 主分支最新代碼然后 rebase 到最新再強推你的 PR 分支。5.4 合入前最后一道關卡簽署與自評很多開源項目在 PR 正式合入前還有一個輕量級的合規(guī)檢查常見的是貢獻者許可協(xié)議CLA和開發(fā)者原創(chuàng)證書DCO。HCCL 這類商業(yè)驅動的開源項目通常都在意這種合規(guī)問題因為它涉及代碼的版權歸屬和法律風險。如果合入前提示你需要簽署 CLA不要覺得麻煩這是一條一次性流程填一遍以后所有項目都能通用。DCO 的簽署則更簡單一般只需要在你的 commit message 尾部追加一行 Signed-off-by: 你的名字 郵箱表示你確認這些代碼是你寫的或者你有權提交這些代碼。很多新手一看到英文縮寫就以為很復雜其實整個流程五分鐘內就能完成。還有一個容易被忽略的步驟合入前自己最后讀一遍完整的 diff。尤其是改動后的文件從 Git 的 diff 視角再審視一次。你會發(fā)現(xiàn)很多平時注意不到的小問題,比如誤提交的調試代碼、多余的空白改動、臨時的日志輸出。自己先把這些問題清理干凈再讓維護者看到能少挨很多批。6. 合入之后與常見問題速查6.1 合入不是終點PR 合入之后很多人會覺得這件事結束了可以接著去做下一個任務。但從貢獻者的角度合入只是開始真正驗證你改動的時刻是在之后的一個月。首先你要關注合入后的 CI 情況。合入主分支并不意味著代碼完全沒問題穩(wěn)健的項目通常會在主分支上跑更長時間、更全面的回歸測試。如果這些測試發(fā)現(xiàn)你引入了回歸維護者會在你的 PR 討論里回復你或者新建一個 Issue 指向你的提交。其次你可以繼續(xù)保持對相關 Issue 的關注。如果你的改動修復了某個用戶報告的 bug可以留意用戶側有沒有反饋“這個修復有效”或“問題仍然存在”的信息。如果問題仍然存在你需要重新打開 Issue 繼續(xù)排查這也是開源社區(qū)協(xié)作的正常節(jié)奏。另外作為一個已經合入過代碼的貢獻者你已經有資格去 review 別人的 PR 了。這是一個很好的學習機會——你會發(fā)現(xiàn)坐在 reviewer 的位置上你會更加理解那些你曾經覺得煩瑣的規(guī)范其實都是項目質量和可維護性的保證。6.2 常見問題速查表下面整理了一些 HCCL 貢獻過程中常見的問題和排查方向是我以及身邊同事實際踩過的坑供你參考。問題現(xiàn)象可能原因排查思路本地編譯失敗報缺少頭文件依賴庫路徑未配置檢查 CANN 或驅動環(huán)境變量確認 LD_LIBRARY_PATH 是否正確CI 失敗全部失敗在編譯階段拉取代碼時未同步子模塊檢查倉庫是否用 --recurse-submodules 拉取或手動更新子模塊CI 失敗失敗在靜態(tài)掃描代碼格式不符合規(guī)范本地運行 clang-format 等格式化工具后重新提交本地單測通過CI 單測失敗環(huán)境差異或測試數(shù)據(jù)不同對比本地與 CI 的環(huán)境變量、依賴版本必要時在 PR 中請求維護者獲取 CI 日志性能優(yōu)化數(shù)據(jù)不佳方案與硬件拓撲不匹配嘗試在不同卡數(shù)、不同數(shù)據(jù)量下進行基準測試分析是否引入了不必要的同步無法在本地復現(xiàn) Issue 中的崩潰缺少日志開關或特定環(huán)境變量按 Issue 中提供的信息逐項核對尤其是數(shù)據(jù)量、拓撲和驅動版本PR 長期無人 review維護者繁忙或描述不清晰在 PR 評論區(qū)禮貌 維護者或補充測試數(shù)據(jù)和復現(xiàn)步驟讓問題更清晰6.3 幾條值得謹記的避坑心得做了一段時間 HCCL 貢獻之后有幾個踩過的坑讓我印象很深這里集中說一下。第一不要在 issue 里只問“怎么解決”而不提供任何上下文。一個好的問題應該讓人感覺你已經讀過代碼、有自己的猜測只需要別人幫你確認方向。我在社區(qū)里看到過的最高效的一次提問是一個貢獻者直接貼出了他定位到的代碼行號并附上了他對問題的分析維護者只回了一句“你的判斷是對的修吧”這比來回追問五六輪高效太多。第二不要在一個 PR 里同時修多個不相關的問題。多個問題混在一起reviewer 很難評估風險。一個 PR 解決一個問題是開源協(xié)作的基本契約。如果你發(fā)現(xiàn)代碼里另外有一個 bug請新建一個 Issue 或者再開一個 PR不要塞到當前這個里。第三不要忽視文檔的力量。代碼改動如果涉及對外行為的變化比如環(huán)境變量語義變更、接口參數(shù)調整、日志輸出變化一定同步更新相關文檔。你維護的不只是代碼還有這個項目的可理解性。很多 PR 因為文檔沒有同步更新而被要求返工這種事情完全可以提前避免。第四不要在 rebase 的過程中引入重復的改動。很多新手在 rebase 主分支時因為沖突解決不當把主分支的代碼又復制了一份到自己分支里導致 diff 里出現(xiàn)大量無關改動。遇到這種情況建議用 git diff 對比主分支和自己分支的差異檢查是否只保留了你想要改動的文件。最后再說一點參與開源項目不是一個零和博弈。你可能提交的第一個 PR 會被拒絕會被告知設計欠妥甚至會被人說“這個思路根本不對”。這些都很正常很多資深開發(fā)者當年的第一個 PR 也是被反復打回來的。關鍵是你能從反饋里學到東西而不是被打擊之后就放棄。如果你手頭有昇騰設備又有興趣深入了解分布式訓練底層的通信邏輯可以試著從跑通官方 benchmark 開始然后自己設置一些異常數(shù)據(jù)或者異常環(huán)境變量看看會發(fā)生什么。好奇心是最好的入口而 Issue 和 PR 只是把你對問題的理解轉化成最終代碼的載體。只要你能把一件事寫清楚、說清楚、改清楚開源社區(qū)的大門對你就是敞開的。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
在线亚洲 欧美 日本专区| 国产精品亚洲无码| 97欧美色综合| 色97| 大香网伊人久久综合| 欧美一级黄色免费专区| 97综合国产| 欧美乱妇狂野欧美在线视频| 视频二区美腿丝袜制服人妻欧美 | 另类天堂| 韩日无码在线观看| 欧美日韩操操操| 日韩免费一级性爱视频| 久久伊人最新网址视频| 亚洲熟妇A V黑人| 久久有码视频| 2017天天拍大香蕉| 日本不卡一区二区| 久9无限国产| 97资源免费视频| 99re这里只有精品3| 乱欲一区二区| 亚洲国产精品成人无码久久久| 久久性爱视频免费看| 亚洲欧美清纯| 超碰在线日韩一区| 后入式五六区| 日韩超碰97| 99热国产| 色妺妺AⅤ| 亚洲综合色在线| 亚洲精品 欧美精品| 欧美九九99久久精品| 亚洲无套久久嗯嗯| 美女大乳久久久久久久女人18| 久久五月份| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 白嫩国模丰满一二三区| 国产精品呦一区二区三区| 国产福利一区二| 久久久久久久97| 97碰碰色| 黑人娇小av在线播放| 亚洲色交| 草草电影院| 一区在线精品中文字幕| 一本色道久久天天射天天干| 欧美一级美片在线观看免费| 黄色AAAAA欧美| 97精品熟女少妇一区| 操逼片国产| 国产精品无码AV网站| 黄色高清无码无码破解免费暗网| 夜夜嗨一区二区| 大稥蕉免费视频这里只有精品| www.狠狠干.coom| 大香蕉AV丝袜| 精吧天堂| 欧美天天弄| 精品免费视频国产一区| 大香蕉黄色一级片免费看| 91香蕉视频在线观看免费| 久久久精品无码亚免费| 国产精品三级视频网站| 蜜奶av| 一区| 偷拍 亚洲 欧美| 亚洲欧美国产va在线播放频| 国产日本久久免费精品| 精品九九九九九九九九九| 国产欧美日产一区二区三区 - 国产欧美日 | 夜夜精品视频| 亚洲中文国际强奸字幕| 天天做天天爽| 1二区9| 超碰吊日色| 激情文学88| 亚洲美欧999| 老司机免费视频在线91| 蜜臀久久99精品久久久久久婷婷 | 国产乱伦亚洲| 亚洲精品男人的天堂| 老女人日韩美91| 九九九九免费视频| 岛国在线国产| 亚洲精品99| 欧美一区二区三区黄色影视| AVE乱伦| 日本在线一二 | 久久riav中文精品| 歐美一級亂黃99在綫精品| 精品一区二区三区蜜桃臀www| 东京热天堂网| 国产精品久久久三级无码| 亚洲s在线观看| 欧美亚洲手机在线| 人妻精品视频一区二区| 日本一天色道久久久精品视频| 超碰9 7女人| 日韩一级久久毛片| 骚货| 亚洲色图 欧美| av在线资源| 好舒服视频| 日本不卡一区二区| 亚洲天堂中文字幕无码男同| 日本亚欧爱爱| 亚洲蜜桃V妇女| 男人的天堂在线 | 神马久久久久久久久久久久| 91人妻在线视频| 女人爽到高潮潮喷18禁网站| 97久久国产精品| 欧洲亚洲国产综合在线| 二对二中文字幕。| 日韩人妻播放| 国产三级中文字幕粉嫩| 嫩草影院在线观看精品| 国产精品久久久久久夜夜夜夜| 91视频精品| 久热伊人99re| 亚洲欧洲成人在线电影| 欧美日本一区二区a人| 青青草原人妻| 天天爽天天操| 91亚洲网站| 婷婷午夜| 国产中出内射一区二区| 国产美女口爆吞精| 国产成人手机视频激情| 国产风韵犹存熟妇三区| 爽 好舒服 无码刺激久久| 免费成人在线熟妇网| 三级色综合| 中文字幕人乱码中文字的预防方法 | 91欧| 亚洲人妻一区二区三区| 美国一区二区三区视频| 91亚洲欧美综合高清在线| 日韩成人精品视频自拍| 国产久久天堂资源| 麻豆国产原创AV色哟哟| 91人妻做a观看视频| 亚洲精品国产拍免费91在线| 性站| 日本 色 导航| 94色色电影网| 中文字幕加勒比海高清无码免费视频| 91东京热男人的天堂| 久插综合| 欧美日韩性爱操大逼| 久久9精品网站| 国产一级黄色片在线观看| 插插综合网天天影视网| 亚洲淫乱骚妇AV| 天天操夜夜嗨| 亚洲九九九九| 欧美大干日韩| av优播| 岛国激情视频软件| 久久精品—区二区三区内射| 伊人玖玖网| 国产高潮AA片免费看| 精品日韩| 超碰97极品9| 成年男人的天堂| 欧美日韩性爱无码| 日韩操啪| 日韩内| 成人日韩中文字幕| 老鸭窝亚洲毛片| 欧美五十路熟| 尤物网站91| 天堂精品| 午夜成人福利影视| 口爆综合网| 成人福利视频网| 美女被啪到深处抽搐视频| 狠狠爱夜夜干| 9999亚洲精品| 日本天堂网| 色情五月综合婷婷| 激情网色| 超清福利精品视频在线| 色牛aV| 婷婷九月丁香| 精品9区| 日韩人体偷拍| 99熟女| 99色热国产视频精品| 91青青草| 91成人无码| 午夜操操操| 另类视频在线| 国产成自自拍在线观看| 伊人精品视频| 内射黑人| 人妻 欧美 中文| 丰满人妻一区二区三区在线| 人妻少妇一区二区| 五月天婷婷欧美三区| 91在线精品| 人妻 丝袜美腿 中文字幕| 婷婷超| 久久9久| 91天美免费| 国产精彩女在线观看视频| 欧美熟妇视频| 青青草色插素人| 国产怡红院| 97在线欧洲| 偷拍亚洲高清图片| 欧美亚洲厕所精品偷拍91| 欧美天堂超碰97| 欧美亚洲20p| www.狠狠干.coom | 96AV精品| 97免费在线视频在线观看| 色5月婷婷| 狠狠爱综合| 亚欧高清v| 国产精品久久伊人| 狠狠干狠狠干| 午夜天堂网| 久艹伊人精品综合在线| 97一本大道亚洲一区| 精品国产99| 欧亚日韩三区| 日韩电影中文字幕| 啊啊啊爽爽| 91老熟女视频| 福利社区午夜一区二区| 被体育老师抱着c到高潮| 丁香五月电影| 色好看av| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 超碰美女97| 校园春色五月天| 男女无套 免费网站| aa片毛片| 亚洲午夜av| 1956日韩精品| 亚洲日本天堂| 精品国产三级av韩国在线| 亚洲**2021在线观看| 日韩免费大片一级播放| 五月天丁香网| 欧美午夜视频| 国产精品久久久 | 蜜色网色哟哟| 内射黑丝袜| 丰满少妇一区二区三区免费看| 一起草三级AV电影在线观看 | 激情四射熟女丝袜| 91精品国产91久久青草| 亚洲精品乱码久久久久久蜜桃麻豆| www.色婷婷| 亚洲五区熟女| 天天综合中文字幕 91| 久久久久久久强迫| 亚洲五月丁香花狠狠干一区二区三区| 久久久久久久六六| 午夜男女爽爽大片免费观看| 国产精品一区人妻精品阁在线| 啊操爽品善一区二区三区| 亚洲图片 欧美电影| 翔田千里Av在线| 久久露脸国产老熟女| 久久e6只有精品| 骚货操死你| 强奸国产在线| 久久欧洲| 久久久久亚洲| 久久综合五月天| 大屁股国产在线视频| 欧美大片91| 综合久久99| 丝袜狠狠草尤物 91| 国产精品福利资源在线尤物| 蜜桃久久综合视频| 加勒比海人人操超碰在线| 亚洲字幕一区二区| 精品97久久综合| 91亚州| 在线播放中文字幕| 亚洲人妻色图| 六月丁香久久| 人人操人人精品影片| 青草草免费网站av| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 国产精品国产精品国产| www.婷婷| 97免费在线| 男人天堂婷婷五月天校园春色| 久久久一区二区三区麻豆| 伊人网青青| 精品 码产区一区二-1080P高清在线www-B029AV | 欧美人人天天网| 中国少妇XXXX做受| surenchaopeng| 欧洲黄色网| 超碰亚洲欧美日韩无| 欧天美中出| 日本无码1| 久操操| 亚洲一区二区在线观看91| 一块操欧美性爱| 日韩在线76| 老熟女综合| www激情| 欧美综合色综合| 亚洲二区精品在线观看| 91 天天综合| 色情综合网| 我要色综合网| 久操99| 黑人综合网| 91老司机在线视频免费观看 | 偷窥自拍A片| 天天操天天日青青草超碰av| 秋霞蝌科网日本一区| 啊啊啊啊啊好舒服视频| 成人福利视频网| 亚州高清av| 国产情侣自拍在线播放| 美欧色综合| 久久久久成人蜜桃精品| 一区二区中文| 极品久久久久久久久久久久久久| www.狠狠操| 国产一区二区二区按摩精品啪视频| 91亚洲黑人| 沈阳熟女高潮对白视频| 啪啪视频mP4| 在线色导航| 日夜尻逼网| 亚洲综合小说另类图欧美视频激情小说色五月天 | 99精品人妻| 伊人97色天使| 日本国产高清色www视频在线| 亚洲涩图欧美| 人人污日韩一区二区| 性爱Av免费| 色天天野狼综合社区| 欧美日不卡| 久久精品 六十路 熟女 欧美| 日本精品人妻少妇一区二区| 99精品在线播放| 亚洲av成人精品一区| 日韩pv中文| 少妇一级婬片免费放一级a性色.| 日日爽熟女| 九九热九九热| 99在线无码精品秘 入口黑人| 亚洲AV人人澡人人爱| 九九亚洲| 亚洲一区二区三区欧美日韩| 欧美色就是色| 欧美淫乱视频| 亚洲视频一二区| 色9999日韩国产| 欧美一级A片不卡视频。| 欧美色91| 91老熟女91老女人| 国产美女激情| 曰本熟女视频| 志村玲子视频一区二区| 91狼人| 国产第12页| 91色拍| 久久久久久中文| 国内精品不卡无毒99999| 蜜桃av综合网发布| 香蕉黄色一级视频| 秋霞一级鲁丝片A片| 大茄子熟女AV导航| 啊嗯嗯啊好大好爽| 亚州熟妇精品| 91麻豆天美国产欧美日| 久久久婷婷婷| 免费中文在线| 温婉少妇玩3p| 一本大道不卡一二三区| av一区二区三区四区| av网站免费看| 国产主播福利| 伊人天天久久动态图| 老妇女91| 超碰在线一区二区三区| 天天久久| 亚洲欧洲综合| 青青青在线高清视频在线一二三四区 | 天天情欲宗合网| 久久久久9999妇女| 亚洲爱爱视频一区二区| 国产精品suv一区| 91网站视频在线观看| 97综合在线观看| 日韩三级视频一区二区三区| 五月天伊人| 色综合久久888| 骚逼高潮久久精品| 国产视频三区四区| 黄色小说亚洲| 一区二区三区蜜桃成人撸久久东京热| 亚洲欧美一区二区网址| 老司机福利青青草| 蜜乳视频网站| 99在线无码精品秘 入口黑人| 天堂中文资源在线bt| 亚洲日韩美女中文字幕乱| 亚洲乱码国产乱码精网站| 乱伦AVxx| 亚洲一区二区麻豆影院| 五月天激情网图片| 伊人97色天使| 青青草视频在线观看一区二区| 亚洲欧美爆| 99xav| 中文字幕视频免费| 91人人操| 一个国产在线综合网站| 在线观看中文av字幕| 黄色片大香蕉| 亚洲情色一区综合| 欧洲一区二区| 思思热在线视频在线| 翔田千里一区二区三区奶水| 亚洲成av人片色午夜乱码| 五月天色图影视| 蜜桃在线观看一区二区三区 | 免费少妇一区二区| 国产一区二区三区导航| 亚洲中文制服诱惑| 国产精品天干天干综合网麻豆| 五月天日日操夜夜操| 大香蕉欧美| ..日韩av毛片精品久久久| 黄aaaaaaaaaaaaaaaaaa色网站| 亚洲精品三区在线观看| 九色 人妻 大香蕉| 亚洲综合射| 好爽视频在线观看视频| 一本一道vs波多野结衣| 欧美久久草熟女| 91天堂丝袜美腿| 亚洲乱码精品一区二区| 欧美亚洲中文字幕| 欧美日本天堂| 国产美女在线精品免费看| 人妻aa| 视频在线观看一二三区| 久久久久久99999国产精品| 一级性爱视频免费观看 | 精品中文一区二区| 高清有码一区二区| 长长久久曰曰夜夜成人网| 欧洲自拍色图gif在线| 成人线上超碰| 激情综合网激情五月天| 日本中文字幕一区| 国产在线视频二区| 午夜后入| 日韩综合无码一区久久92| 婷婷深爱五月| 蜜臀久久精品久久久久视频| 久草免费福利在线播放| 国产91 丝袜在线播放00-百度| 国产女人操逼视频| 黄日韩| 国产亚洲色停停久久99精品91| 99精品久久久久久久婷婷蜜桃| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 欧美人妻色| 久九九九| 亚洲熟妇自偷自拍另欧美| 51一区二区三区| 国产超碰人人操| 久久精品电影| 亚洲天堂7777| 成人久久久精品| 中文字幕aⅴ在线视频| 麻豆精品A片免费观看| 啊啊啊好多水| juliaann精品熟女一区| 精品亚洲一区在线观看| 欧美综合色站| 黄色人人| 日韩精品电影| ?亚洲伊人伊成久久人综合网| AV中文字幕剧情1区2区3| 天天插夜夜操| 亚洲一区制服诱惑| 最新欧美色网| 无码天堂| 曰本熟女视频| 国产做?爰片久久毛片?片美国| 中文字幕欧美日本乱码一线二线| 亚洲九月丁香| 少妇熟女一区二区三区| 欧美内射少妇| 日韩 欧美 另类 人妻| 物业黑人 AV一区| 久久这里只精品99re66图| 深夜视频| 成人网欧美风情| 无码丰满熟妇一区二区浪潮AV| 九七毛片九九毛片| 九九色影院| 黄骗免费网站| 男女激情中文字幕| 亚洲 图片 综合91| 牛牛操视频逼| 亚洲乱熟女一区二区| 亚洲最大无码中文字幕网站| 亚洲成成熟女人综合一区二区| 亚洲操逼网| 91超碰在线| 丰满精品人妻少妇久久字幕| 激情五月天视频| 草草电影院| 久久久国产精品亚洲精品| 五月综合激情| 欧美日韩国产三级黄色| 久久东京热成人| 欧美日韩资源在线| 五月激情综合网| 精品高清av中文字幕| 天天草AV| 人妻出轨一区二区三区| 99精彩视频| 三级AV入口| 超碰97日韩| 98福利在线视频| 蜜臀久久99精品久久综合| 人人妻人人爽 97人人看碰人免费公开视频| 色香伊人| 精品国产乱码久久久兰草影视| 欧美精品999| 国产一区二区三三视频| 六月婷婷五月丁香| 操逼国产免费| 97免费视频在线观看| 色女综合| 国产精品无码AV网站| 日韩成人高清一区二区| 欧美日韩中文字幕不卡| 少妇熟女视频一区二区三区| 在线视频一区二区传媒| 亚洲少妇色| 国产18精品亚洲精品| 手机在线A片| V A在线| 超碰久久.com| 殴美日韩m| 毛片视频白嫩| 日本三级韩三级99久久| 免費黃色視頻觀看一| 亚洲黄色a级片| 无码高清少妇久久| 人人操 欧美| 天天影视综合色| 老熟乱一区二区三区四区| 亚州高清av| 天天综合网1| 自拍二页| 亚洲码和欧洲精品激情系列| 麻豆视频test| 欧美熟爽综合| 超碰超碰95| 亚洲.欧美.丝袜.中文.综合| 色综合99| 亚洲天堂另类美腿| 亚州色图第三区| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 青青五月天| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 久久久久久久78| 日逼五月天| 台湾大香蕉99热| 中文字幕乱码人妻一区二区三区,99精品| 狠狠狠狠狠狠| 91 丝袜在线| 久草婷婷| 蜜乳av一区二区三区四区不卡| 欧美,亚洲,日韩,v,天堂,手机在线观看 | 五月天色色网站| 亚洲一区日韩| 熟妇亚洲一区二区三区| 狠狠操一区二区| 欧美韩国你懂得在线| 日韩97视频| 国产97在线播放| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 日韩性爱啪啪视频| 色女99一级片在线观看| 91艹逼精品| 麻豆天美在线喷水AV| 日韩三级av片| 亚洲熟伦熟妇AV无码春色| 欧美偷拍区| 婷婷丁香五月天综合东京热| 亚洲综合网电影91| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 好看的久久不射无码影视影院| 精品久久久一本一道| 清纯唯美综合| 亚洲自拍天堂| 91色艳| 伦在线97| 日本韩国五十路六十路七十路老熟女作爱视频网站| 中文字幕1区2区| 偷拍 欧美 日韩| 狠狠色噜噜狠狠狠狠狠色综合久久| 日韩无码专区| 久偷拍欧美日韩三区| 熟女少妇一区二区三区| ,成人免费啪啪视频| 久9热| 青青草日本中文字幕| 久久成人东京热人妻| 91大香蕉伊人| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 国产丝袜美女在线一区| 澳门特级毛片免费观看| 日本大香蕉| 久久粉色| 国产麻豆福利av在线播放| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 日本加勒比无码专区一二三| 麻豆久久精品亚洲精品88 | 欧洲亚洲天堂精品| 一级一性爱免费视频| 久久丁香五月婷婷| 亚洲精品不卡一二三区| 亚洲无线观看久久| 亚洲美乱| 女人香蕉久久毛毛片精品| 国产日韩在线播放av| 国产白领连续中出在线观看| 欧美性性性| 天天色播亚洲综合网站| 日韩女优中文字幕| 99无码| 六月丁香婷| 久久偷偷色综合蜜桃| 欧美一级久久久丰满| 国产久久久9999| 午夜在线播放| 超碰97起碰| 偷拍亚洲视频一区二区三区四区| 人人看欧美性爱| 色色色色色色色色综合| 免费国产电影一区二区| 日韩女优在线| 免费无码婬片AAAA片直播色戒| 色婷婷六月| 91情色在线| 国产三级日产三级韩国三级| 囯产精品强| 天天操夜夜嗨| 99精品高潮| 免费综合亚洲中文| 男人天堂久久精品不卡| 欧美中字二区| 91高清无码下载| 东京热不卡视频| 日韩精品碰碰| 97国产精品久久久久| 看一级特黄a大一片| 亚洲色资源| 日韩精品黄片免费观看| 综合色久欲| 日本护士高潮| 欧美色图综合网| 天天综合91在线| 亚洲91网| 人妻内射一区二区在线视频| 美女操逼福利视频| 一本大道青青| 精品网站9999| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 亚洲午夜蜜臀| 狠狠激情综合狠狠操中文字幕| 一本久久久精品| 欧美最婬乱婬爆婬性视频 | 成人日韩欧美| 激情黄色片在线观看| 欧美白嫩在线放| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 久久99国产综合精品女同| 成人性爱免费播放| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 色五月激情网| 99e久久国产精品| 老女人91| 91粉芽高清在线一区二区 | 亚洲情色在线| 久久乐| 欧美日韩黄片精品在线| 亚洲另类色综合网站| 久久久久久久久久久久久久久乱码 | 国产精品老师| 亚洲无码国产精品久久| 亚洲欧美天| 九九九九88| 最新日韩黄片| 国产又黄又粗又猛大片| 97国产精品久久久久| 精品久久99| 3D污黄视频在线观看| 国产99999| 啊啊啊操死我了| 久久一留热品黄| 爽 好舒服 无码刺激久久| 国产又色又粗又黄又爽| 天天色综合影视网| 精品97久久综合| 国产欧美日韩女同性恋ww喷水精品| 另类小说综合网| 天天干夜夜| 日韩精品9区| 久操99| 93人人操人人| 五月天我淫我色av| 少妇久久久久| 99re视频这里只有精品| 天美一区在线| 日韩一级二级在线| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 啊啊啊啊啊啊在线| 九九九九九九视频| 久久精9| 精品无码久久久| 探花精品视频| 综合久久中文字幕综合日韩精品| 亚洲免费在线探花| 日韩激情电影中文字幕| 亚洲欧美综合| 91性感在线| 97资源站国产精品| 久久有码视频| 色777999综合| 好吊色一区| 熟女天天干| 2025亚洲男人天堂| 亚洲自拍一区夜夜操| 嗯嗯,啊啊,国产精品| 日本色婷婷| 九九九九久久久| 色色色五月婷婷| 欧美性爱另类综合| av天堂影视中文在字幕在线中文| 少妇滛荡视频| 国产久久久久久久久一区二区| 日韩av乱伦| 91精品大奶人妻| 免费人成在线观看网站品爱网| 欧美精品99久久久**| 日韩无码a片| 日本Xx性爱| 草莓精品视频| 99re国产中文字幕| 婷婷情色综合网| 亚洲欧美九九| 中文字幕日韩精品一区二区三区| 久插综合| 日韩精品人妻中文字有码在线| 97超碰久| 久久久久女教师免费一区| 丝袜美腿丝袜| 美国日韩黄片| 国产av强奸美女| 亚洲 一区二区 自拍| 丁香五月久久| 久久天天摸| 超碰97在线 欧美 国产| 啊啊啊好疼| 情色五月天网| 极品少妇久久久久| 草草草草视频| 国产大陆天天艹| 人人摸人人干人人拍97| 天天插天天射| 亚州综合电影| 久久久九九| 免费精品国偷自产在线在线| 无码丰满熟妇一区二区浪潮AV| 国产AV无码AV| 97久精品| 久久美国毛片| 亚洲第一页第二页激情| 亚洲第一黄色av网站 | 人妻精品一区二区| 免费观看网黄| 国产成人无码网站在线视频| 久久免费看高潮毛片韩国| 99re在线视频| 免费看黄片现成| 国产18精品亚洲精品| 91狠婷| 亚洲校园激情| 91久久九九精品国产综合| 国产精品麻豆成人av| 99热只有| 无码男人天堂| 国产主播福利| 五月婷婷激情网| 诱惑人妻欧美一区在线播放| 91爱剪切久久| 操逼啊啊啊91| 日本 免费 一区二区三区 久久香蕉| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 99re这里只有精品9| 性做久久久久久久| 岛国小电影| 加勒比伊人综合| 日韩无码视频黄色| 色色色热| 综合熟妇一区二区三区| 超清福利精品视频在线| 亚洲成人网站在线观看| 超碰在线成人电影| 日本欧美一区二区三区视频麻豆| 欧美大码在线视频| 夜夜黄| 国产精品无套内谢| 精品九九九九九九九九九| 一起草在线视频| 日本成人A片免费看| 亚洲色图91欧美日韩| 懂色av中文字幕一区二区三区天美| 亚洲影院成人| 日本狠狠干| 97国产|免费| 欧美成人黄网色网站| 99热导航| 最新av中文字幕高清| 91大胆欧美| 久久精品一区二区| 欧美激情综合| 无码人妻一区二区三区免费九色| 国产精品久久伊人| 日韩精品9区| 黄片免费看黄片免费看| 久久久男人的天堂| 中文字幕亚韩| 超碰碰小说97| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 黄片qw| 91中文精品日韩欧美在线| 国产操逼网站亚洲一级黄色| 七久久久| 无码高清操逼网址| 日日AV加勒比| 日韩精品在线观看观看| 日韩一级二级三级免费看完整版国语版| AVE乱伦| 试看福利| av无码av无码专区| 国产中文字幕在线观看| 欧美极度丰满熟妇hd| 亚洲AV永久无码精品成人调教| 成人av免费观看| 中文字幕1区2区| 中文字幕日韩综合| 久久久久久久人妻丝袜| 99综合视频一体| 欧美影院一区二区三区| 国产一区麻豆免费观看| 色就色综合| 在线 欧美 亚洲| 欧美日韩高潮喷水91| 91处女在线观看| 久久久久9999妇女| 国产精品99久久久www| 麻豆av一区二区| 宗合情欲网| 国产aⅴ无码片毛片一级网站| 一牛影视久久久一区二区三区| 看免费的黄片| 人妻素股| 久久久久久亚洲精品中文字幕人妻| 操国产逼| 加勒比av网| 婷婷亚洲中文字幕在线| 免费αV在线视频| 国产熟女高潮一区二区三区| 天天射,天天操,天天爽-国内精品一区二区三区-成人AV | 曰本91情色| 日韩啪啪啪啪啪| 国产高清视频无码在线| 熟妇一区,二区,三区。| 亚洲男人天堂Av| 中文字幕精品一区二区精| 漂亮人妻被强中文字幕hd| 亚洲日韩肥臀视频在线观看| 黄片直播三级黄片两女一男| 97天天| 丝袜高跟澳门91视频| 蜜臀少妇一区二区| 日韩乱伦影音先锋| 亚洲综合999| 日韩久草| 人妻一区二区三区| 操逼操网| 人人操人人插 - 百度 - 百度| 玖玖爱综合网| 成人短视频在线观看| 亚洲综合九九| 中文字幕少妇色| 青草av在线| 国产AV无码AV| 美女裸体无遮挡永久免费观看网站 | 亚洲美女精品九九视频| 欧美亚洲日韩16色| 91狠狠综合久久久久久| 日韩去日本高清在| 秋霞久久亚洲精品成人| 91中出| 狠狠97| 日韩干B| m欧洲一级午老| 男人的天堂激情| 少妇内射www在线观看视频| 嗯阿好爽好紧| 亚洲精品一区中文字幕乱码| 亚洲av综合色区图片亚洲| 久夜视频| 精品无人区麻豆乱码1区2区图片| 亚洲 综合 第一页| 久久伊人网视频一区二区三区 | 久久久久久91香蕉国产| 美女超碰978| 日韩人妻少妇中文字幕| 亚洲夜夜欢无码一区二区| 91小视频| 先锋色眉乱伦资源| 日韩一级成人毛片免费观看| 东京热视频网| 97久久久久久久久久| 日本精品九九九| 亚洲性少妇| 天天躁狠狠躁av| 日本999精品| 香蕉免费一区二区三区不读 | 午夜AV人气不卡| 99e久久国产精品| 久久久久久久伊人精品| 成人免费毛片| 性影在线视频| 先锋色眉乱伦资源| 亚洲天堂精品日韩电影| 欧美成人免费在线观看| 97视频在线看| 日韩免费在线观看不卡| 可免费观看的av毛片中日美韩| 伊人国产成人av网站| 97 色综合| 伊人国产成人av网站| 黄片免费日韩| 熟女这里只有精品6| 操逼日批| 免费中文在线| 大香蕉操久久| 韩国轻伦国内自拍一区| 欧美日本天堂| 熟女高潮精品一区二区| 极品出轨视频网站| 欧美牲| 国产av波波国产精品| 激情国产乱伦Av| 精品久热| 五月天伊人| 大香蕉欧美国产日韩高潮| 91精品婷婷国产综合久久| 欧美AB在线| 国产乱伦亚洲| 日韩av在线播放不卡| 国内91熟女人妻丝袜天天精品视频在线| 欧美最婬乱婬爆婬性视频 | 亞洲久久直播| 国产91美女高潮| 亚洲色诱惑| AND人妻系列| 极品一区二区三区免费| 99re在线| 琪琪精品免费一区二区三区 | 啊啊啊免费| 啪啪AV导航| 国内外色色色色色成人视频| 少妇69中文| 欧洲综合色| 成人精品一区二区91毛片不卡| 亚洲成人性爱在线观看| 男人下部插入女人下部| 中文字幕午夜精品久久久| 青草精品视频-日本久久久久网站| 欧洲欧美视频一区二区| 中文字幕精品一区二区精品| 五月丁香啪啪啪| 97se综合| 豆花视频操逼网址| julia高潮后不停追击中出| 欧美色66| 亚洲色天| 九九99精品| 国产精品乱人伊人网| 啊啊啊啊,啊啊好多水| 国模私拍一区二区三区神乳| 六月婷婷激情| 韩国国产欧美情侣视频在线| dy888午夜老子影视达达兔| 成人性爱电影一区二区| 1204金沙人妻懂旧版免费| 人妻久久一区二区三区 | 亚洲国产欧美日韩人妻日中文| 人人九九精| 97精品熟女少妇一区| 青娱乐亚洲热| 亚洲图片小说欧洲| blacked精品一区国产| 天天综合欧美综合| 麻豆久久精品亚洲精品88 | 激情综合 婷婷五月 红杏| 久久亚洲AV无码专区国产精品| 欧洲综合视频| 热99这里有精品综合久久| 九九伊人网| 97超碰免费生活| 影音先锋视频在线| 亚洲欧洲久久天堂| 26uuu欧美日韩| 天综合中文| 亚洲天堂男| 五月婷婷激情综合| 欧美激情内射| 少妇久久久免费| 国产51色综合久久免费| 1024手机看片欧美日韩| 黄色激情电影在线观看| 天天干一区二区| 亚洲性爱成人| 97综合国产精品高潮久久| 欧美综合亚洲综合| 久久一二区四| 翔田千里爆乳巨臀无码| 啊啊啊好湿国产一二| 东京热毛片177b2viP| 久久黄黄| 日本成熟少妇A∨网站| 天天综和| 国产v片在线免费观看| 亚洲少妇激情视频| 久久久精品91八戒| 久久99精品九九久久久婷婷| 中文字幕高清精品一区| 91成人社区| www.色吧5.com| 躁躁日曰躁2020| www.黄色在线| daxiangjiao你懂的| 色狠狠色| 久久内射| 夜夜狼人妻| 蜜乳视频网站| 日本免费一区二区不卡| 自拍偷拍亚洲熟女妇人精品| 99re在线精品78| 九九久久99| 色欲久久99国产精品久久久久久| 粉嫩国产精品久久粉嫩| 国产品精品自在在线午夜免费| 天美一二三在线观看Av| 五月天久久综合网| 青青草国产一区二区三区| 嫖老熟女A片一二三区| 一区二区影视| 婷婷精品| 久久精品久久九九精品| 久热这里| av天天在线观看| 日韩操逼HD| 日本黄色XXX| 色999人与兽| 国产亚洲精品A在线观看下载| 亚洲美女 晚间男人天堂 | 日韩性爱免费视频在线网站| 91熟女视频网| 好爽,再快点啊哈嗯嗯嗯嗯| 乱伦一区二区三区‘| 日本 情色 1区| 花野真衣| 再深点灬舒服灬太大了添视频| 国产9熟妇视频网站| 中文字暮97| 久久久无码av精| 99热婷婷一区二区三| 玖玖资源中文字幕制服丝袜| 91天堂色男人的天堂| 国产毛片片精品天天看视频| 能看的av| 亚洲精品男人的天堂| 偷拍 欧美 日韩| 国产91丝袜 在线播放| 国内精品999| 91丨熟女丨丰满熟女| 欧美黄业| 久久久精品一区二区| 亚洲少妇中文字幕网址| 98人妻精品一区二区色欲| 色网亚洲人| 亚洲精品国产AV天美传媒| 丁香六月啪啪| 香蕉久久AⅤ...| 日韩电影在线观看网址| 78久久久| 操少妇很爽av| 99色热| 亚洲 日本 国产 综合| 天美精品原创av片国产| 亚洲欧美日韩中文久久自慰| 久久国产视频专区一二三| 91人妻素女| 欧美欧美啪啪视频| 91综合网在线| 97干综合网| 日韩9999| 天天操av懂色| 亚洲中文字幕97久久精品少妇| 国产女生在线| 人人妻人人爽 97人人看碰人免费公开视频| 青青久久艹| 日日玩天天干| 亚欧美色图| 91精品久久久久久77777| 少妇毛片久久| 九久久九精品视频| 1024香蕉视频| 偷拍伦理视频| 久干9操| 大学生口爆吞精| 亚洲色欲天天天堂色欲网女| 免费国产视频| 成人羞羞视频国产| 欧美高清色| 久久久久久十| 中日韩久久久免费看| 欧洲精品网| 极品后入免费视频| 久久超碰免费的| 中国小夫妻勾搭露脸淫荡对白| 久久色一区| 精品九九九九九九九九九| 国产无码三级视频在线观看| 亚洲综合影片| 啊啊啊啊好疼| 丰满人妻一区二区三区四区| 久久精品成人| 日本高清视频在线观看黄已三辽|