戰(zhàn)：不修改代碼跑PyTorch，預(yù)算砍半)
說句得罪人的話到現(xiàn)在還有不少AI開發(fā)者默認(rèn)機(jī)器學(xué)習(xí)離不開NVIDIA顯卡一提AMD就是“跑不了深度學(xué)習(xí)”。我最初也這么想直到去年把主力訓(xùn)練機(jī)從一張老N卡換成AMD RX 7900 XTXPyTorch代碼一行沒改照樣跑通了訓(xùn)練和推理顯存還大了8GB。這就是AMD ROCm今時(shí)今日的真實(shí)體驗(yàn)它不再是“裝完跑不起來”的玩具而是“預(yù)算直接砍半、代碼不用改”的可行方案。這篇文章我不做PPT式宣傳只講實(shí)際摸過的硬件、裝過的環(huán)境、踩過的坑以及你如果也想省錢到底該怎么從零開始上AMD的PyTorch快車。1. 為什么AMD ROCm沒有想象中那么難看懂這套底層邏輯很多人的第一反應(yīng)是就算PyTorch能跑生態(tài)里那些算子、加速庫、工具鏈怎么辦其實(shí)你真正依賴的并不是“NVIDIA全家桶”而是PyTorch這個(gè)框架本身。ROCm現(xiàn)在做的事情就是在AMD硬件上重新實(shí)現(xiàn)了幾乎整個(gè)CUDA軟件棧的等價(jià)物讓PyTorch既有的代碼路徑能夠無縫跑起來。1.1 “PyTorch代碼一行不改”是怎么實(shí)現(xiàn)的PyTorch在代碼里常用torch.cuda.is_available()和tensor.cuda()很多從CUDA時(shí)代過來的開發(fā)者以為這就是NVIDIA專屬接口。但實(shí)際上PyTorch把這些接口統(tǒng)一抽象成了一個(gè)“CUDA后端”的牌坊底層可以是CUDA也可以是HIP。ROCm通過HIPHeterogeneous-Computing Interface for Portability把NVIDIA的CUDA API翻譯成了AMD GPU能識(shí)別的調(diào)用PyTorch的ROCm版本在編譯時(shí)直接把算子庫替換成了AMD的rocBLAS、MIOpen、rocSPARSE所以你在Python層寫的代碼完全感知不到底層換了一張卡。說白了腳本里model.to(cuda)照常寫真正干活的是HIP運(yùn)行時(shí)。我用一個(gè)生活化的類比CUDA版PyTorch是插在美式插座上的電器ROCm版PyTorch相當(dāng)于換了個(gè)國標(biāo)插頭但電器本身沒拆過一個(gè)螺絲。你唯一要做的就是買對(duì)“轉(zhuǎn)換頭”也就是選對(duì)PyTorch的rocm wheel版本。1.2 不是所有AMD顯卡都能直接上手雖然思路通了但AMD的ROCm支持矩陣仍然有非常明確的邊界這一點(diǎn)我必須先幫你潑一盆冷水。ROCm正經(jīng)支持的是三塊CDNA系列的計(jì)算卡Instinct MI系列、RDNA架構(gòu)里的部分游戲卡以及少數(shù)APU核顯。消費(fèi)級(jí)游戲卡里RX 6900 XT、RX 6800 XT、RX 6600 XT這些RDNA2卡是官方欽點(diǎn)的RDNA3里RX 7900 XTX/XT也在官方列表。但像RX 6700 XT、RX 7600這種“非官方命定”的卡也有辦法通過環(huán)境變量跑起來只是你得明確這屬于“黑蘋果式”的兼容方案不保證所有算子都穩(wěn)。顯卡族群代表型號(hào)ROCm官方支持程度我的建議CDNA計(jì)算卡Instinct MI250/MI300全力支持預(yù)算夠直接上RDNA2游戲卡RX 6800/6900 XT官方支持二手便宜性價(jià)比高RDNA3游戲卡RX 7900 XTX/XT官方支持目前最推薦的消費(fèi)卡RDNA3中端卡RX 7600/7700 XT依賴環(huán)境變量可玩但要耐折騰GCN老卡RX 580、Vega 64ROCm 5.7后停止維護(hù)不建議會(huì)氣出病1.3 什么場景換AMD真心劃算理清技術(shù)可行性之后我還想幫你算一筆賬。如果主要是這兩個(gè)方向AMD ROCm非常值得考慮推理服務(wù)模型已訓(xùn)練好反復(fù)做前向計(jì)算算力壓力在卷積和矩陣乘上AMD的MIOpen在ResNet、Transformer一類網(wǎng)絡(luò)上表現(xiàn)不差。你買的顯存單價(jià)便宜跑大模型的友好度反而高。中小規(guī)模微調(diào)訓(xùn)練像LoRA微調(diào)、幾小時(shí)的短訓(xùn)練ROCm已經(jīng)完全可用。但如果你要天天從頭訓(xùn)練大模型還是建議看NVIDIA的H100/A100路線ROCm對(duì)分布式通信庫的支持雖然補(bǔ)上了但團(tuán)隊(duì)運(yùn)維經(jīng)驗(yàn)越厚越穩(wěn)。更關(guān)鍵的是價(jià)格。拿我手上的RX 7900 XTX來說24GB顯存二手或電商促銷價(jià)和同顯存的NVIDIA專業(yè)卡相比差距隨隨便便就是幾千元。對(duì)預(yù)算有限的個(gè)人開發(fā)者和高校實(shí)驗(yàn)室來說這可不是小錢。2. 動(dòng)手前先花十分鐘自查你的機(jī)器到底行不行裝ROCm最怕的是一股腦敲命令結(jié)果跑到一半發(fā)現(xiàn)內(nèi)核版本不對(duì)、顯卡代號(hào)不在支持列表里或者和已有N卡驅(qū)動(dòng)打架。省得返工我先教你幾招排查指令。2.1 查顯卡、查內(nèi)核、查系統(tǒng)打開終端逐條跑以下命令# 查看顯卡型號(hào) lspci | grep -i amd # 查看ROCm能否識(shí)別顯卡代號(hào) rocminfo | grep -i gfx # 查看內(nèi)核版本 uname -r # 查看系統(tǒng)版本Ubuntu下 lsb_release -a拿我自己來說RX 7900 XTX對(duì)應(yīng)的代號(hào)是gfx1100系統(tǒng)是Ubuntu 22.04內(nèi)核6.5。ROCm 6.x對(duì)這個(gè)組合的支持很穩(wěn)。如果你的顯卡顯示gfx1030或者gfx1031那你大概率是RDNA2的6600 XT、6700 XT一類后面我會(huì)專門說怎么兼容。2.2 ROCm版本怎么選與其看最新不如看PyTorch臉色這是我想重點(diǎn)提醒的ROCm版本真不是越新越好。很多人喜歡裝最新版ROCm結(jié)果PyTorch的官方wheel還在適配老版本兩邊版本對(duì)不上import torch直接報(bào)錯(cuò)。正確做法是反過來先到PyTorch官方下載頁看一眼當(dāng)前支持的ROCm版本列表然后讓安裝的ROCm大版本對(duì)齊。比如PyTorch 2.4開始有rocm6.1的wheelPyTorch 2.5、2.6對(duì)應(yīng)rocm6.2那你系統(tǒng)里的ROCm最好就是6.1/6.2這個(gè)大譜系而不是裝一個(gè)ROCm 7.0測試版然后干瞪眼。2.3 顯卡不在支持列表時(shí)用環(huán)境變量強(qiáng)行上車如果你手里恰好是RX 6700 XT、RX 7600這類非官方卡別急著賣卡。ROCm一個(gè)隱藏技巧是設(shè)置HSA_OVERRIDE_GFX_VERSION把當(dāng)前顯卡偽裝成官方支持的架構(gòu)。舉個(gè)例子假設(shè)你的顯卡識(shí)別為gfx1101RX 7600但官方只公開了gfx11007900 XTX的路徑你可以在啟動(dòng)訓(xùn)練前加一行export HSA_OVERRIDE_GFX_VERSION11.0.0如果卡是gfx10316700 XT則試試export HSA_OVERRIDE_GFX_VERSION10.3.0原理是ROCm編譯器默認(rèn)只認(rèn)白名單里的gfx代號(hào)你用環(huán)境變量強(qiáng)制指定一個(gè)兼容架構(gòu)底層就能編譯并執(zhí)行。代價(jià)是某些特殊算子可能不受支持比如最新的FlashAttention優(yōu)化版可能只能走慢速路徑。但普通卷積、矩陣乘、LayerNorm都沒問題。這個(gè)技巧我記得很牢因?yàn)橛幸欢螘r(shí)間我長期靠它跑一張6700 XT穩(wěn)定得讓我意外。3. 從零搭建ROCm版PyTorch完整安裝流與驗(yàn)證這套流程我在Ubuntu 22.04上實(shí)測過再用其他機(jī)器復(fù)測過細(xì)節(jié)基本穩(wěn)定。建議你開著終端跟著做盡量別跳步尤其是依賴環(huán)節(jié)。3.1 安裝AMD ROCm軟件棧登錄Ubuntu后先更新系統(tǒng)再添加AMD官方源。以ROCm 6.2為例sudo apt update sudo apt install -y wget wget https://repo.radeon.com/amdgpu-install/6.2/ubuntu/jammy/amdgpu-install_6.2.60200-1_all.deb sudo apt install -y ./amdgpu-install_6.2.60200-1_all.deb sudo amdgpu-install -y --usecaserocm這會(huì)把顯卡驅(qū)動(dòng)、HIP運(yùn)行時(shí)、ROCm編譯器都裝到/opt/rocm下安裝過程比較久耐心等就行。裝完建議把ROCm的庫路徑加到環(huán)境變量里否則后面PyTorch可能“找不到家”export ROCM_PATH/opt/rocm export PATH$ROCM_PATH/bin:$PATH export LD_LIBRARY_PATH$ROCM_PATH/lib:$LD_LIBRARY_PATH想永久生效的話把這三行寫進(jìn)~/.bashrc別偷懶。3.2 用官方wheel安裝PyTorch ROCm版環(huán)境變量配好后下一步最核心的是用官網(wǎng)的專用源安裝PyTorch千萬別用pip install torch默認(rèn)源那拉下來的是CUDA版。PyTorch官方提供了不同ROCm版本的wheel地址比如pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2如果你想裝對(duì)應(yīng)ROCm 5.7的舊版本就把rocm6.2換成rocm5.7。這里要特別注意torchvision和torchaudio也必須從同一個(gè)rocM源安裝否則混裝會(huì)出現(xiàn)版本沖突API行為千奇百怪。考慮到很多讀者是在conda環(huán)境里搭的我習(xí)慣新建一個(gè)獨(dú)立環(huán)境再動(dòng)手conda create -n rocm python3.11 -y conda activate rocm pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2這樣即使翻車了刪環(huán)境重來也不影響主系統(tǒng)。3.3 驗(yàn)證PyTorch到底有沒有用上AMD顯卡裝完之后什么幻覺都沒用直接跑一小段代碼看結(jié)果python -c import torch; print(torch.cuda.is_available()); print(torch.version.hip); print(torch.cuda.get_device_name(0))這里有個(gè)需要打破認(rèn)知的點(diǎn)在ROCm版PyTorch里torch.cuda.is_available()依然返回True千萬別以為檢測錯(cuò)了。這是PyTorch刻意保留的兼容接口它返回的是“有沒有可用的GPU后端”而不是“有沒有NVIDIA顯卡”。正常輸出應(yīng)該類似True 6.2.41050 AMD Radeon Graphics (gfx1100)如果你的torch.cuda.is_available()返回了False那八成是wheel版本和ROCm大版本不匹配或者LD_LIBRARY_PATH沒指向/opt/rocm/lib。3.4 跑一個(gè)真實(shí)的AI小案例當(dāng)作“試機(jī)石”驗(yàn)證完基礎(chǔ)環(huán)境我建議你別急著上大模型先用一個(gè)輕量級(jí)又典型的模型跑一次推理既測算子兼容性也看整體性能。ResNet-18是個(gè)很好的選擇torchvision里自帶預(yù)訓(xùn)練權(quán)重代碼量少還能測卷積和BatchNorm。import torch import torchvision.models as models model models.resnet18(weightsmodels.ResNet18_Weights.DEFAULT).cuda().eval() dummy_input torch.randn(1, 3, 224, 224, devicecuda) # 預(yù)熱MIOpen會(huì)在第一次運(yùn)行時(shí)編譯卷積優(yōu)化慢一點(diǎn)是正常的 with torch.no_grad(): for _ in range(10): _ model(dummy_input) # 正式計(jì)時(shí) torch.cuda.synchronize() import time start time.time() with torch.no_grad(): for _ in range(50): _ model(dummy_input) torch.cuda.synchronize() elapsed (time.time() - start) / 50 print(fResNet-18單次推理耗時(shí): {elapsed * 1000:.2f} ms)第一次跑的時(shí)候MIOpen會(huì)彈出一些編譯日志甚至卡頓一下這屬于正?，F(xiàn)象千萬別以為死機(jī)。日志跑完后后續(xù)推理速度會(huì)明顯加快。我自己的筆錄是在RX 7900 XTX上ResNet-18的batch 1推理大概在2到4毫秒徘徊和同級(jí)別N卡相比差距很小。而在之前沒有MIOpen緩存的體系里第一次跑通常會(huì)等上幾十秒那是它在給網(wǎng)絡(luò)搜索最優(yōu)卷積算法相當(dāng)于一個(gè)“熱身期”。4. 常見問題與排查技巧實(shí)錄ROCm安裝和訓(xùn)練中有幾個(gè)問題是社區(qū)里幾乎每天都能看到的。我把它們整理成下面這張速查表每個(gè)都是我或身邊朋友親手解過的現(xiàn)象可能原因解決方案torch.cuda.is_available()返回FalseROCm版本與wheel不匹配重新安裝對(duì)應(yīng)大版本檢查/opt/rocm/lib報(bào)錯(cuò)libamdhip64.so找不到缺少LD_LIBRARY_PATH在bashrc里導(dǎo)出LD_LIBRARY_PATH/opt/rocm/lib:$LD_LIBRARY_PATH報(bào)錯(cuò)hipErrorNoBinaryForGpu顯卡代號(hào)不受支持設(shè)置HSA_OVERRIDE_GFX_VERSION10.3.0/11.0.0卷積層極慢或崩MIOpen緩存損壞刪除~/.cache/miopen后重試系統(tǒng)重啟后不開機(jī)/黑屏顯卡驅(qū)動(dòng)與內(nèi)核模塊沖突在grub里追加amdgpu.runpm0參數(shù)筆記本雙顯卡無法識(shí)別沒有指定獨(dú)立GPU設(shè)置HIP_VISIBLE_DEVICES0或ROCR_VISIBLE_DEVICES04.1 環(huán)境變量救急HIP_VISIBLE_DEVICES和ROCR_VISIBLE_DEVICES如果你機(jī)器里既有AMD也有NVIDIA或者筆記本有核顯和獨(dú)顯PyTorch默認(rèn)可能選錯(cuò)設(shè)備。ROCm提供的變量類似CUDA的CUDA_VISIBLE_DEVICESexport HIP_VISIBLE_DEVICES0這里的0是指ROCm可見設(shè)備列表里的第0張不是系統(tǒng)里的物理序號(hào)。用rocm-smi --showid查詢一下再把一個(gè)合適的序號(hào)填進(jìn)去就能強(qiáng)制指派給某張卡。4.2 一個(gè)把資源吃滿的小技巧很多人跑模型到一半發(fā)現(xiàn)顯存不夠但又不想改代碼。先用這條應(yīng)急python -c import torch; torch.cuda.empty_cache()這會(huì)把緩存在顯存里的歷史計(jì)算圖碎片清掉救急很靈。更徹底的辦法是設(shè)置進(jìn)程占用的顯存比例在代碼開頭寫torch.cuda.set_per_process_memory_fraction(0.9)把上限壓到90%雖然有可能稍微降低性能但至少避免了跑到后半段突然OOM的尷尬。4.3 我踩過的最大一個(gè)坑追新ROCm反被新傷有一陣子ROCm社區(qū)傳6.3測試版能提升RDNA3性能我腦子一熱就把系統(tǒng)升級(jí)了結(jié)果PyTorch官方wheel還在等6.2成熟兩邊一碰所有和MIOpen有關(guān)的算子全部報(bào)錯(cuò)。最后我花了半天時(shí)間重裝回6.2穩(wěn)定版才恢復(fù)。所以務(wù)必記住個(gè)人開發(fā)最忌“求新不求穩(wěn)”。ROCm這種底層軟件棧穩(wěn)定版比什么都重要?jiǎng)e拿生產(chǎn)機(jī)去試beta版真的會(huì)變成大型“嚇人”現(xiàn)場。5. 最后聊聊我的真實(shí)使用感受整套環(huán)境跑順之后AMD ROCm給我的感覺很像早年安卓機(jī)剛追上iOS的時(shí)候——功能有點(diǎn)糙但核心體驗(yàn)已經(jīng)站住了。遇到需要用CUDA專屬庫的項(xiàng)目比如TensorRT推理優(yōu)化我還是會(huì)老老實(shí)實(shí)回到N卡但只要你的依賴范圍是PyTorch生態(tài)的核心那ROCm的體驗(yàn)已經(jīng)足以支撐日常開發(fā)。我自己的工作站現(xiàn)在基本是雙機(jī)配置一臺(tái)AMD卡跑PyTorch訓(xùn)練和推理驗(yàn)證一臺(tái)老N卡留著做那些重度依賴CUDA特性和TensorRT的活兒。這樣分工之后預(yù)算省了一大截也沒耽誤什么事。如果要從零起步我給你的最實(shí)在建議是三句話一先查支持矩陣再買卡二ROCm版本跟著PyTorch官方wheel走三遇到問題優(yōu)先檢查環(huán)境變量和MIOpen緩存大概率不是硬件問題。最后分享一個(gè)讓我意外的細(xì)節(jié)我用ROCm跑通第一個(gè)Stable Diffusion圖像生成流程時(shí)感覺和N卡體驗(yàn)幾乎沒差?？赡芎芏嗳四X海中還停留在“AMD只能玩游戲”的舊印象但真把代碼丟上去跑一遍你會(huì)發(fā)現(xiàn)時(shí)代確實(shí)變了。這套方案適不適合你的項(xiàng)目最快驗(yàn)證方法就是拿手頭一塊AMD卡試上一個(gè)周末實(shí)際跑幾個(gè)模型比聽我在這說一百句都管用。 AMD ROCm實(shí)戰(zhàn)：不修改代碼跑PyTorch，預(yù)算砍半
說句得罪人的話到現(xiàn)在還有不少AI開發(fā)者默認(rèn)機(jī)器學(xué)習(xí)離不開NVIDIA顯卡一提AMD就是“跑不了深度學(xué)習(xí)”。我最初也這么想直到去年把主力訓(xùn)練機(jī)從一張老N卡換成AMD RX 7900 XTXPyTorch代碼一行沒改照樣跑通了訓(xùn)練和推理顯存還大了8GB。這就是AMD ROCm今時(shí)今日的真實(shí)體驗(yàn)它不再是“裝完跑不起來”的玩具而是“預(yù)算直接砍半、代碼不用改”的可行方案。這篇文章我不做PPT式宣傳只講實(shí)際摸過的硬件、裝過的環(huán)境、踩過的坑以及你如果也想省錢到底該怎么從零開始上AMD的PyTorch快車。1. 為什么AMD ROCm沒有想象中那么難看懂這套底層邏輯很多人的第一反應(yīng)是就算PyTorch能跑生態(tài)里那些算子、加速庫、工具鏈怎么辦其實(shí)你真正依賴的并不是“NVIDIA全家桶”而是PyTorch這個(gè)框架本身。ROCm現(xiàn)在做的事情就是在AMD硬件上重新實(shí)現(xiàn)了幾乎整個(gè)CUDA軟件棧的等價(jià)物讓PyTorch既有的代碼路徑能夠無縫跑起來。1.1 “PyTorch代碼一行不改”是怎么實(shí)現(xiàn)的PyTorch在代碼里常用torch.cuda.is_available()和tensor.cuda()很多從CUDA時(shí)代過來的開發(fā)者以為這就是NVIDIA專屬接口。但實(shí)際上PyTorch把這些接口統(tǒng)一抽象成了一個(gè)“CUDA后端”的牌坊底層可以是CUDA也可以是HIP。ROCm通過HIPHeterogeneous-Computing Interface for Portability把NVIDIA的CUDA API翻譯成了AMD GPU能識(shí)別的調(diào)用PyTorch的ROCm版本在編譯時(shí)直接把算子庫替換成了AMD的rocBLAS、MIOpen、rocSPARSE所以你在Python層寫的代碼完全感知不到底層換了一張卡。說白了腳本里model.to(cuda)照常寫真正干活的是HIP運(yùn)行時(shí)。我用一個(gè)生活化的類比CUDA版PyTorch是插在美式插座上的電器ROCm版PyTorch相當(dāng)于換了個(gè)國標(biāo)插頭但電器本身沒拆過一個(gè)螺絲。你唯一要做的就是買對(duì)“轉(zhuǎn)換頭”也就是選對(duì)PyTorch的rocm wheel版本。1.2 不是所有AMD顯卡都能直接上手雖然思路通了但AMD的ROCm支持矩陣仍然有非常明確的邊界這一點(diǎn)我必須先幫你潑一盆冷水。ROCm正經(jīng)支持的是三塊CDNA系列的計(jì)算卡Instinct MI系列、RDNA架構(gòu)里的部分游戲卡以及少數(shù)APU核顯。消費(fèi)級(jí)游戲卡里RX 6900 XT、RX 6800 XT、RX 6600 XT這些RDNA2卡是官方欽點(diǎn)的RDNA3里RX 7900 XTX/XT也在官方列表。但像RX 6700 XT、RX 7600這種“非官方命定”的卡也有辦法通過環(huán)境變量跑起來只是你得明確這屬于“黑蘋果式”的兼容方案不保證所有算子都穩(wěn)。顯卡族群代表型號(hào)ROCm官方支持程度我的建議CDNA計(jì)算卡Instinct MI250/MI300全力支持預(yù)算夠直接上RDNA2游戲卡RX 6800/6900 XT官方支持二手便宜性價(jià)比高RDNA3游戲卡RX 7900 XTX/XT官方支持目前最推薦的消費(fèi)卡RDNA3中端卡RX 7600/7700 XT依賴環(huán)境變量可玩但要耐折騰GCN老卡RX 580、Vega 64ROCm 5.7后停止維護(hù)不建議會(huì)氣出病1.3 什么場景換AMD真心劃算理清技術(shù)可行性之后我還想幫你算一筆賬。如果主要是這兩個(gè)方向AMD ROCm非常值得考慮推理服務(wù)模型已訓(xùn)練好反復(fù)做前向計(jì)算算力壓力在卷積和矩陣乘上AMD的MIOpen在ResNet、Transformer一類網(wǎng)絡(luò)上表現(xiàn)不差。你買的顯存單價(jià)便宜跑大模型的友好度反而高。中小規(guī)模微調(diào)訓(xùn)練像LoRA微調(diào)、幾小時(shí)的短訓(xùn)練ROCm已經(jīng)完全可用。但如果你要天天從頭訓(xùn)練大模型還是建議看NVIDIA的H100/A100路線ROCm對(duì)分布式通信庫的支持雖然補(bǔ)上了但團(tuán)隊(duì)運(yùn)維經(jīng)驗(yàn)越厚越穩(wěn)。更關(guān)鍵的是價(jià)格。拿我手上的RX 7900 XTX來說24GB顯存二手或電商促銷價(jià)和同顯存的NVIDIA專業(yè)卡相比差距隨隨便便就是幾千元。對(duì)預(yù)算有限的個(gè)人開發(fā)者和高校實(shí)驗(yàn)室來說這可不是小錢。2. 動(dòng)手前先花十分鐘自查你的機(jī)器到底行不行裝ROCm最怕的是一股腦敲命令結(jié)果跑到一半發(fā)現(xiàn)內(nèi)核版本不對(duì)、顯卡代號(hào)不在支持列表里或者和已有N卡驅(qū)動(dòng)打架。省得返工我先教你幾招排查指令。2.1 查顯卡、查內(nèi)核、查系統(tǒng)打開終端逐條跑以下命令# 查看顯卡型號(hào) lspci | grep -i amd # 查看ROCm能否識(shí)別顯卡代號(hào) rocminfo | grep -i gfx # 查看內(nèi)核版本 uname -r # 查看系統(tǒng)版本Ubuntu下 lsb_release -a拿我自己來說RX 7900 XTX對(duì)應(yīng)的代號(hào)是gfx1100系統(tǒng)是Ubuntu 22.04內(nèi)核6.5。ROCm 6.x對(duì)這個(gè)組合的支持很穩(wěn)。如果你的顯卡顯示gfx1030或者gfx1031那你大概率是RDNA2的6600 XT、6700 XT一類后面我會(huì)專門說怎么兼容。2.2 ROCm版本怎么選與其看最新不如看PyTorch臉色這是我想重點(diǎn)提醒的ROCm版本真不是越新越好。很多人喜歡裝最新版ROCm結(jié)果PyTorch的官方wheel還在適配老版本兩邊版本對(duì)不上import torch直接報(bào)錯(cuò)。正確做法是反過來先到PyTorch官方下載頁看一眼當(dāng)前支持的ROCm版本列表然后讓安裝的ROCm大版本對(duì)齊。比如PyTorch 2.4開始有rocm6.1的wheelPyTorch 2.5、2.6對(duì)應(yīng)rocm6.2那你系統(tǒng)里的ROCm最好就是6.1/6.2這個(gè)大譜系而不是裝一個(gè)ROCm 7.0測試版然后干瞪眼。2.3 顯卡不在支持列表時(shí)用環(huán)境變量強(qiáng)行上車如果你手里恰好是RX 6700 XT、RX 7600這類非官方卡別急著賣卡。ROCm一個(gè)隱藏技巧是設(shè)置HSA_OVERRIDE_GFX_VERSION把當(dāng)前顯卡偽裝成官方支持的架構(gòu)。舉個(gè)例子假設(shè)你的顯卡識(shí)別為gfx1101RX 7600但官方只公開了gfx11007900 XTX的路徑你可以在啟動(dòng)訓(xùn)練前加一行export HSA_OVERRIDE_GFX_VERSION11.0.0如果卡是gfx10316700 XT則試試export HSA_OVERRIDE_GFX_VERSION10.3.0原理是ROCm編譯器默認(rèn)只認(rèn)白名單里的gfx代號(hào)你用環(huán)境變量強(qiáng)制指定一個(gè)兼容架構(gòu)底層就能編譯并執(zhí)行。代價(jià)是某些特殊算子可能不受支持比如最新的FlashAttention優(yōu)化版可能只能走慢速路徑。但普通卷積、矩陣乘、LayerNorm都沒問題。這個(gè)技巧我記得很牢因?yàn)橛幸欢螘r(shí)間我長期靠它跑一張6700 XT穩(wěn)定得讓我意外。3. 從零搭建ROCm版PyTorch完整安裝流與驗(yàn)證這套流程我在Ubuntu 22.04上實(shí)測過再用其他機(jī)器復(fù)測過細(xì)節(jié)基本穩(wěn)定。建議你開著終端跟著做盡量別跳步尤其是依賴環(huán)節(jié)。3.1 安裝AMD ROCm軟件棧登錄Ubuntu后先更新系統(tǒng)再添加AMD官方源。以ROCm 6.2為例sudo apt update sudo apt install -y wget wget https://repo.radeon.com/amdgpu-install/6.2/ubuntu/jammy/amdgpu-install_6.2.60200-1_all.deb sudo apt install -y ./amdgpu-install_6.2.60200-1_all.deb sudo amdgpu-install -y --usecaserocm這會(huì)把顯卡驅(qū)動(dòng)、HIP運(yùn)行時(shí)、ROCm編譯器都裝到/opt/rocm下安裝過程比較久耐心等就行。裝完建議把ROCm的庫路徑加到環(huán)境變量里否則后面PyTorch可能“找不到家”export ROCM_PATH/opt/rocm export PATH$ROCM_PATH/bin:$PATH export LD_LIBRARY_PATH$ROCM_PATH/lib:$LD_LIBRARY_PATH想永久生效的話把這三行寫進(jìn)~/.bashrc別偷懶。3.2 用官方wheel安裝PyTorch ROCm版環(huán)境變量配好后下一步最核心的是用官網(wǎng)的專用源安裝PyTorch千萬別用pip install torch默認(rèn)源那拉下來的是CUDA版。PyTorch官方提供了不同ROCm版本的wheel地址比如pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2如果你想裝對(duì)應(yīng)ROCm 5.7的舊版本就把rocm6.2換成rocm5.7。這里要特別注意torchvision和torchaudio也必須從同一個(gè)rocM源安裝否則混裝會(huì)出現(xiàn)版本沖突API行為千奇百怪。考慮到很多讀者是在conda環(huán)境里搭的我習(xí)慣新建一個(gè)獨(dú)立環(huán)境再動(dòng)手conda create -n rocm python3.11 -y conda activate rocm pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2這樣即使翻車了刪環(huán)境重來也不影響主系統(tǒng)。3.3 驗(yàn)證PyTorch到底有沒有用上AMD顯卡裝完之后什么幻覺都沒用直接跑一小段代碼看結(jié)果python -c import torch; print(torch.cuda.is_available()); print(torch.version.hip); print(torch.cuda.get_device_name(0))這里有個(gè)需要打破認(rèn)知的點(diǎn)在ROCm版PyTorch里torch.cuda.is_available()依然返回True千萬別以為檢測錯(cuò)了。這是PyTorch刻意保留的兼容接口它返回的是“有沒有可用的GPU后端”而不是“有沒有NVIDIA顯卡”。正常輸出應(yīng)該類似True 6.2.41050 AMD Radeon Graphics (gfx1100)如果你的torch.cuda.is_available()返回了False那八成是wheel版本和ROCm大版本不匹配或者LD_LIBRARY_PATH沒指向/opt/rocm/lib。3.4 跑一個(gè)真實(shí)的AI小案例當(dāng)作“試機(jī)石”驗(yàn)證完基礎(chǔ)環(huán)境我建議你別急著上大模型先用一個(gè)輕量級(jí)又典型的模型跑一次推理既測算子兼容性也看整體性能。ResNet-18是個(gè)很好的選擇torchvision里自帶預(yù)訓(xùn)練權(quán)重代碼量少還能測卷積和BatchNorm。import torch import torchvision.models as models model models.resnet18(weightsmodels.ResNet18_Weights.DEFAULT).cuda().eval() dummy_input torch.randn(1, 3, 224, 224, devicecuda) # 預(yù)熱MIOpen會(huì)在第一次運(yùn)行時(shí)編譯卷積優(yōu)化慢一點(diǎn)是正常的 with torch.no_grad(): for _ in range(10): _ model(dummy_input) # 正式計(jì)時(shí) torch.cuda.synchronize() import time start time.time() with torch.no_grad(): for _ in range(50): _ model(dummy_input) torch.cuda.synchronize() elapsed (time.time() - start) / 50 print(fResNet-18單次推理耗時(shí): {elapsed * 1000:.2f} ms)第一次跑的時(shí)候MIOpen會(huì)彈出一些編譯日志甚至卡頓一下這屬于正?，F(xiàn)象千萬別以為死機(jī)。日志跑完后后續(xù)推理速度會(huì)明顯加快。我自己的筆錄是在RX 7900 XTX上ResNet-18的batch 1推理大概在2到4毫秒徘徊和同級(jí)別N卡相比差距很小。而在之前沒有MIOpen緩存的體系里第一次跑通常會(huì)等上幾十秒那是它在給網(wǎng)絡(luò)搜索最優(yōu)卷積算法相當(dāng)于一個(gè)“熱身期”。4. 常見問題與排查技巧實(shí)錄ROCm安裝和訓(xùn)練中有幾個(gè)問題是社區(qū)里幾乎每天都能看到的。我把它們整理成下面這張速查表每個(gè)都是我或身邊朋友親手解過的現(xiàn)象可能原因解決方案torch.cuda.is_available()返回FalseROCm版本與wheel不匹配重新安裝對(duì)應(yīng)大版本檢查/opt/rocm/lib報(bào)錯(cuò)libamdhip64.so找不到缺少LD_LIBRARY_PATH在bashrc里導(dǎo)出LD_LIBRARY_PATH/opt/rocm/lib:$LD_LIBRARY_PATH報(bào)錯(cuò)hipErrorNoBinaryForGpu顯卡代號(hào)不受支持設(shè)置HSA_OVERRIDE_GFX_VERSION10.3.0/11.0.0卷積層極慢或崩MIOpen緩存損壞刪除~/.cache/miopen后重試系統(tǒng)重啟后不開機(jī)/黑屏顯卡驅(qū)動(dòng)與內(nèi)核模塊沖突在grub里追加amdgpu.runpm0參數(shù)筆記本雙顯卡無法識(shí)別沒有指定獨(dú)立GPU設(shè)置HIP_VISIBLE_DEVICES0或ROCR_VISIBLE_DEVICES04.1 環(huán)境變量救急HIP_VISIBLE_DEVICES和ROCR_VISIBLE_DEVICES如果你機(jī)器里既有AMD也有NVIDIA或者筆記本有核顯和獨(dú)顯PyTorch默認(rèn)可能選錯(cuò)設(shè)備。ROCm提供的變量類似CUDA的CUDA_VISIBLE_DEVICESexport HIP_VISIBLE_DEVICES0這里的0是指ROCm可見設(shè)備列表里的第0張不是系統(tǒng)里的物理序號(hào)。用rocm-smi --showid查詢一下再把一個(gè)合適的序號(hào)填進(jìn)去就能強(qiáng)制指派給某張卡。4.2 一個(gè)把資源吃滿的小技巧很多人跑模型到一半發(fā)現(xiàn)顯存不夠但又不想改代碼。先用這條應(yīng)急python -c import torch; torch.cuda.empty_cache()這會(huì)把緩存在顯存里的歷史計(jì)算圖碎片清掉救急很靈。更徹底的辦法是設(shè)置進(jìn)程占用的顯存比例在代碼開頭寫torch.cuda.set_per_process_memory_fraction(0.9)把上限壓到90%雖然有可能稍微降低性能但至少避免了跑到后半段突然OOM的尷尬。4.3 我踩過的最大一個(gè)坑追新ROCm反被新傷有一陣子ROCm社區(qū)傳6.3測試版能提升RDNA3性能我腦子一熱就把系統(tǒng)升級(jí)了結(jié)果PyTorch官方wheel還在等6.2成熟兩邊一碰所有和MIOpen有關(guān)的算子全部報(bào)錯(cuò)。最后我花了半天時(shí)間重裝回6.2穩(wěn)定版才恢復(fù)。所以務(wù)必記住個(gè)人開發(fā)最忌“求新不求穩(wěn)”。ROCm這種底層軟件棧穩(wěn)定版比什么都重要?jiǎng)e拿生產(chǎn)機(jī)去試beta版真的會(huì)變成大型“嚇人”現(xiàn)場。5. 最后聊聊我的真實(shí)使用感受整套環(huán)境跑順之后AMD ROCm給我的感覺很像早年安卓機(jī)剛追上iOS的時(shí)候——功能有點(diǎn)糙但核心體驗(yàn)已經(jīng)站住了。遇到需要用CUDA專屬庫的項(xiàng)目比如TensorRT推理優(yōu)化我還是會(huì)老老實(shí)實(shí)回到N卡但只要你的依賴范圍是PyTorch生態(tài)的核心那ROCm的體驗(yàn)已經(jīng)足以支撐日常開發(fā)。我自己的工作站現(xiàn)在基本是雙機(jī)配置一臺(tái)AMD卡跑PyTorch訓(xùn)練和推理驗(yàn)證一臺(tái)老N卡留著做那些重度依賴CUDA特性和TensorRT的活兒。這樣分工之后預(yù)算省了一大截也沒耽誤什么事。如果要從零起步我給你的最實(shí)在建議是三句話一先查支持矩陣再買卡二ROCm版本跟著PyTorch官方wheel走三遇到問題優(yōu)先檢查環(huán)境變量和MIOpen緩存大概率不是硬件問題。最后分享一個(gè)讓我意外的細(xì)節(jié)我用ROCm跑通第一個(gè)Stable Diffusion圖像生成流程時(shí)感覺和N卡體驗(yàn)幾乎沒差?？赡芎芏嗳四X海中還停留在“AMD只能玩游戲”的舊印象但真把代碼丟上去跑一遍你會(huì)發(fā)現(xiàn)時(shí)代確實(shí)變了。這套方案適不適合你的項(xiàng)目最快驗(yàn)證方法就是拿手頭一塊AMD卡試上一個(gè)周末實(shí)際跑幾個(gè)模型比聽我在這說一百句都管用。