簡介從零搭建CNN與ResNet的入門實戰(zhàn)代碼包面向深度學習初學者和想厘清“ResNet與CNN關系”的開發(fā)者可直接用于計算機視覺自學或課程設計參考。資源共24個文件包含5個Python訓練與工具腳本、6個h5格式數(shù)據(jù)集文件交通標志、手勢、笑臉等另有PyCharm工程配置xml/iml與運行生成的pyc緩存壓縮包整體約25.27MB代碼按“第一周CNN、第二周ResNet”兩階段組織目錄清晰便于逐周學習。目前已有1099人學習下載。源碼完整展現(xiàn)了CNN的卷積層、池化層、全連接層以及ResNet殘差塊、跳躍連接和批量歸一化的實際寫法可直接運行查看訓練過程配套h5數(shù)據(jù)集支持從數(shù)據(jù)加載、模型搭建到損失計算與驗證的完整閉環(huán)幫助讀者快速掌握PyTorch/TensorFlow建模思路并深入理解殘差連接如何緩解深層網(wǎng)絡梯度消失問題。1. 先解決最大困惑ResNet到底是不是CNN第一次看到“簡易CNN和ResNet搭建Python源碼”這份資源時我腦子里最大的問號不是“怎么搭建”而是一個更基礎的問題ResNet是CNN嗎如果你也有同款困惑那這篇入門文章就是寫給你的。CNN和ResNet的關系可以類比成同一道菜的基礎版和改良版CNN是深度學習里最常用的圖像識別模型ResNet是在CNN骨架上加裝了“殘差塊”的升級型號所以它本質(zhì)上還是CNN只不過更聰明、更適合往深了堆。這份資源里的代碼用Python帶你按兩周的節(jié)奏搭出這兩個模型。今天我們不急著刷原理我?guī)惆阉x成能上手的東西先搞懂兩個概念再看看資料里到底有什么最后落在你電腦上能跑通的第一個例子。2. 先搞懂地基CNN是怎么“看”一張圖的不管第一周還是第二周你寫的每一段代碼都是在做同一件事讓電腦從圖片里認出東西來。CNN解決的就是這個問題它仿照人眼的工作方式一層一層地從圖里找特征——先找邊緣再找紋理最后拼出“這是一只貓”的結(jié)論。要理解ResNet你得先知道CNN的四個積木塊下面我們一塊一塊來。2.1 圖像在電腦眼里是一堆數(shù)字你在屏幕上看到的照片對電腦來說只是一個巨大的數(shù)字矩陣。一張灰度圖就是一個二維數(shù)組每個數(shù)字代表一個像素點的亮度范圍通常是0到2550是純黑255是純白。彩色圖則稍微復雜一點它由三個矩陣疊在一起組成分別對應紅、綠、藍三個顏色通道。你可以用幾行代碼親手驗證這件事。打開任意一個Python文件敲進下面這段import numpy as np # 用隨機數(shù)模擬一張 4x4 的灰度圖 fake_image np.random.randint(0, 256, size(4, 4)) print(fake_image)跑一下你就會發(fā)現(xiàn)圖像在程序眼里根本不是“畫面”而是一張寫滿數(shù)字的網(wǎng)格。這里有兩個值得記住的點第一這張數(shù)字網(wǎng)格就是CNN的“輸入層”接收的數(shù)據(jù)第二數(shù)字的取值范圍很關鍵后面你訓練網(wǎng)絡時經(jīng)常要把這些數(shù)字除以255讓它們落在0到1之間這個操作叫歸一化很多新手漏了這一步導致模型怎么訓都不收斂。2.2 卷積層用一個小窗口“掃描”整張圖既然圖是數(shù)字網(wǎng)格那怎么從中找出特征最笨的辦法是把所有數(shù)字拉平成一條長向量交給全連接層處理。但這樣做有個致命問題一張100×100的圖拉平后有一萬個數(shù)字全連接層要為每個數(shù)字配一大堆權(quán)重參數(shù)數(shù)量爆炸訓練極慢還容易過擬合。卷積層換了個思路它不用看整張圖只用一個小窗口比如3×3的小方塊在圖上滑動每滑到一個位置就做一次“逐點相乘再求和”得出來的結(jié)果構(gòu)成一張新的小圖叫特征圖。這個小窗口就是濾波器也叫卷積核。一個濾波器只能找一種特征——有的負責找豎線有的負責找橫線有的負責找拐角。想讓網(wǎng)絡認識更復雜的東西就多放幾個濾波器所以卷積層的輸出通常有好多張?zhí)卣鲌D每一張是“某個特征在圖上哪里出現(xiàn)了”的地圖。這里有兩個概念會在代碼里反復出現(xiàn)步長和填充。步長就是窗口每次往右或往下挪幾格步長越大輸出圖越小填充是在原圖四周補一圈0用來控制輸出尺寸。比如輸入是32×32的圖卷積核是3×3填充設為1輸出還是32×32如果不填充輸出就變成30×30。動手改代碼時常會因為這兩個參數(shù)沒算清楚導致后面全連接層維度不匹配這個是后話你現(xiàn)在先有個印象。2.3 激活函數(shù)和池化層給特征“表態(tài)”再“瘦身”卷積層是線性操作就算堆一百層本質(zhì)上還是線性變換的組合學不到復雜規(guī)律。這時候就需要激活函數(shù)出場。CNN里最常用的是ReLU公式極其簡單負數(shù)全部變0正數(shù)原樣保留。import torch # 模擬ReLU把負數(shù)清零 x torch.tensor([-2.0, -1.0, 0.0, 1.0, 3.0]) y torch.relu(x) print(y) # 輸出: tensor([0., 0., 0., 1., 3.])為什么要把負數(shù)清零因為清零操作引入了非線性讓網(wǎng)絡有能力擬合各種彎彎曲曲的邊界。你可以把ReLU理解成“表態(tài)”這個位置沒找到特征就直接閉嘴輸出0找到了就大聲報數(shù)。池化層接在卷積和激活后面最常見的是最大池化在一個2×2的小窗口里取最大值然后窗口滑過整張圖。這樣做的效果是圖像尺寸縮小一半但最強的特征被保留下來計算量也大幅下降。而且池化讓網(wǎng)絡對輕微的位移不那么敏感——小貓在照片里稍微偏了半個像素提取到的特征幾乎不變。要注意的是池化層沒有可學習的參數(shù)它是個純“瘦身”操作新手常誤以為它和卷積一樣需要訓練。2.4 全連接層收尾把特征“拉平投票”經(jīng)過幾輪“卷積→激活→池化”之后原始圖片已經(jīng)變成一堆小而深的特征圖。接下來要做的是把這些特征圖拉平成一維向量送進全連接層做最終判斷。全連接層就像一個投票委員會每個輸入特征有權(quán)重經(jīng)過加權(quán)求和后輸出每個類別的得分。分類任務通常在最后一層接softmax把這些得分換算成概率比如“是貓的概率0.8是狗的概率0.2”。完整的CNN流程你可以記成一句話輸入→卷積→激活→池化→重復若干次→拉平→全連接→輸出概率。下面用一個極簡的CNN把這句話落到代碼上import torch import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self): super().__init__() # 卷積塊1輸入3通道彩色圖輸出8個特征圖 self.conv1 nn.Conv2d(in_channels3, out_channels8, kernel_size3, padding1) self.pool1 nn.MaxPool2d(kernel_size2, stride2) # 卷積塊2輸入8個特征圖輸出16個特征圖 self.conv2 nn.Conv2d(in_channels8, out_channels16, kernel_size3, padding1) self.pool2 nn.MaxPool2d(kernel_size2, stride2) # 全連接層把拉平后的特征映射到10個類別 self.fc nn.Linear(16 * 8 * 8, 10) def forward(self, x): x torch.relu(self.conv1(x)) # 先卷積再ReLU激活 x self.pool1(x) # 池化縮小尺寸 x torch.relu(self.conv2(x)) x self.pool2(x) x x.view(x.size(0), -1) # 拉平成一維向量 x self.fc(x) # 全連接輸出10個類別的分數(shù) return x上面這段代碼里的模型假設輸入是32×32的彩色圖。數(shù)據(jù)流向是這樣的32×32輸入經(jīng)過conv1padding1還是32×32經(jīng)過pool1變成16×16再走一輪變成8×8這時有16個特征圖拉平后就是16×8×81024個數(shù)全連接層把這1024個數(shù)映射到10個類別。如果你想換個數(shù)據(jù)集只需要改兩處全連接層的輸入維度以及最后的輸出類別數(shù)。第一次跑模型時建議在forward里加一行print(x.shape)看看每一步數(shù)據(jù)尺寸變成什么樣這是理解CNN最快的方式。3. ResNet為什么是CNN的升級版殘差塊到底在做什么現(xiàn)在你已經(jīng)知道CNN的四個積木塊了。但你可能有個疑問既然卷積、池化、全連接一套流程能把貓和狗分開那為什么還要搞一個ResNet出來答案很簡單因為人們發(fā)現(xiàn)CNN越深反而越難訓練而ResNet專治這個毛病。這一章我們解決兩個問題普通CNN到底遇到了什么困難以及殘差塊是用什么思路化解困難的。3.1 普通CNN加深后為什么會“翻車”直覺告訴我們層數(shù)越多網(wǎng)絡應該越強——畢竟能提取更細的特征。但研究者實驗后發(fā)現(xiàn)普通CNN在層數(shù)超過一定值之后訓練集上的錯誤率反而升高了不是過擬合是根本學不動。我第一學到這里時也不懂后來才明白主要有兩個原因在搗亂。第一個原因是梯度消失。深度學習靠“反向傳播”更新參數(shù)誤差要從最后一層傳回第一層每經(jīng)過一層就要乘一次梯度。如果梯度值小于1乘上幾十次之后傳到前面的梯度已經(jīng)小到接近0前面的卷積層幾乎學不到東西陷入“癱瘓”。第二個原因是退化問題理論上更深的網(wǎng)絡至少應該能模仿淺層網(wǎng)絡的性能只要后面幾層學“什么都不做”就行但實踐證明讓普通網(wǎng)絡學會“什么都不做”這件事本身就非常困難?？偨Y(jié)成一句話層數(shù)加深后網(wǎng)絡不是不想學是傳不下去、學不動。這時候需要的不是更復雜的結(jié)構(gòu)而是一條能讓信息“抄近路”的通道。3.2 殘差塊的設計思路y F(x) xResNet解決這個問題的辦法看起來簡單到讓人懷疑在模塊外面加一條短路把輸入直接加到輸出上。一個殘差塊的輸出不是“經(jīng)過卷積之后的結(jié)果”而是“卷積結(jié)果加上原始輸入”。用公式寫就是y F(x) x其中F(x)是幾層卷積和激活的組合。這條加法操作網(wǎng)上各種文章叫“跳躍連接”“恒等映射”“shortcut”聽起來很高深其實你只需要理解它給了網(wǎng)絡一條短路通道信息可以不經(jīng)過中間的卷積層直接往后傳。這樣一來即使某一層卷積學得很差原始輸入x也能原樣保留。更妙的是如果這一層確實沒什么可學的網(wǎng)絡只需要讓F(x)趨近于0輸出就約等于輸入x相當于這一層自動變成了“透明層”。相比之下普通CNN沒有這條通道每一層都必須“硬學”一個結(jié)果學不好反而添亂。打個比方普通CNN像一條必須每道工序都做好的流水線ResNet則在每段工序旁邊修了一條應急通道師傅狀態(tài)不好時東西可以直接滑到下一站不影響整體進度。這就是為什么ResNet能堆到50層、101層甚至更深而普通CNN堆到20多層就學不動了。3.3 用一張表回答“ResNet是CNN嗎”很多人糾結(jié)這個問題其實答案很明確是的ResNet就是CNN的一種是CNN的改進版本。那種“ResNet和CNN是兩套東西”的感覺來自對比時把“普通CNN”默認成了“CNN”本身。下面這張對比表幫你把關系看清楚。對比維度普通CNNResNet基本積木塊卷積、激活、池化、全連接同樣是卷積、激活、池化、全連接特殊結(jié)構(gòu)沒有跳躍連接在卷積塊之間加了殘差連接shortcut能加深嗎十幾層后容易梯度消失可以輕松堆到幾十上百層典型代表簡易CNN、VGG系列ResNet-18、ResNet-50訓練難度淺層好訓加深后變難深度較大時依然穩(wěn)定所以如果你在新手期聽人說“ResNet不是CNN它和CNN是兩種網(wǎng)絡”那這話是錯的。更準確的說法是ResNet屬于CNN家族它是為了解決CNN加深時“學不動”的問題在結(jié)構(gòu)上做的一個巧妙升級。搞懂這一點你就不會再被這兩個詞繞暈了。3.4 動手寫一個殘差塊BasicBlock說了這么多不如直接看代碼。下面是PyTorch里一個最基礎的殘差塊對應的是ResNet-18這類淺層ResNet里使用的結(jié)構(gòu)通常叫BasicBlockimport torch import torch.nn as nn class BasicBlock(nn.Module): def __init__(self, in_channels, out_channels, stride1): super().__init__() # 兩個3x3卷積每個后面跟一個批量歸一化 self.conv1 nn.Conv2d(in_channels, out_channels, kernel_size3, stridestride, padding1, biasFalse) self.bn1 nn.BatchNorm2d(out_channels) self.conv2 nn.Conv2d(out_channels, out_channels, kernel_size3, stride1, padding1, biasFalse) self.bn2 nn.BatchNorm2d(out_channels) # 當輸入輸出形狀不一致時用1x1卷積調(diào)整x的形狀 self.shortcut nn.Sequential() if stride ! 1 or in_channels ! out_channels: self.shortcut nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size1, stridestride, biasFalse), nn.BatchNorm2d(out_channels) ) def forward(self, x): identity x # 先保存原始輸入這就是“跳躍連接”的起點 out torch.relu(self.bn1(self.conv1(x))) out self.bn2(self.conv2(out)) out identity # 關鍵一步卷積結(jié)果和原始輸入相加 out torch.relu(out) return out和上一章的SimpleCNN相比這個殘差塊多了三樣東西批量歸一化、identity變量、相加操作。批量歸一化的作用是在每層卷積之后把數(shù)據(jù)分布拉回正規(guī)范圍讓訓練更穩(wěn)定這也是ResNet敢訓練得很深的原因之一。identity保存的是剛進入模塊時的原始數(shù)據(jù)它沒有經(jīng)過任何卷積操作相當于抄了近路。最后out identity這一行就是跳躍連接本身它會先在通道數(shù)上對齊兩個矩陣如果通道不一致shortcut里的1×1卷積會負責把identity調(diào)整成和out一樣的大小再逐元素相加。把幾個這樣的BasicBlock串起來最后接一個全連接層就組成一個微型ResNet。你在第4章會看到項目第二周做的事情本質(zhì)上就是重復練習組裝這種殘差塊。4. 拿到這份Python資源之后先認識文件再準備環(huán)境概念有了代碼也見過了接下來該真正動手了。但打開資源包的那一刻很多新手會被嚇一跳又是“1第一周”又是“2第二周”里面還有一堆以.idea、.iml結(jié)尾的陌生文件。別慌這一章我?guī)阒饌€認門把文件夾里每一類文件是干什么的弄清楚然后裝好環(huán)境讓代碼跑起來。4.1 資源里到底有什么按文件夾認門這份代碼是按兩周的學習節(jié)奏組織的兩個文件夾的名字已經(jīng)說明了內(nèi)容第一周搭簡易CNN第二周搭ResNet。下面這張表把核心文件列出來你對照著看就不迷路。文件/文件夾作用備注1第一周/test.py第一周的訓練/測試主流程從這里開始看1第一周/cnn_utils.pyCNN相關的輔助函數(shù)包含數(shù)據(jù)加載、參數(shù)初始化等1第一周/datasets/train_signs.h5第一周訓練數(shù)據(jù)集手勢數(shù)字圖片1第一周/datasets/test_signs.h5第一周測試數(shù)據(jù)集用來驗證訓練效果2第二周/resnets_utils.pyResNet相關的輔助函數(shù)第二周的核心工具文件2第二周/kt_utils.py笑臉數(shù)據(jù)加載工具配合train_happy使用2第二周/datasets/train_happy.h5第二周附加數(shù)據(jù)集笑臉識別任務.idea、*.iml、workspace.xmlIDE配置文件可以完全忽略pycachePython運行緩存可以完全忽略你可能會注意到第二周的datasets里也有train_signs.h5。這說明同一個手勢數(shù)據(jù)集被兩套模型各跑了一遍正好可以用來對比普通CNN和ResNet誰的準確率更高、訓練過程更穩(wěn)這是一個非常直觀的體驗設計。至于kt_utils.py和train_happy.h5它們是另一個小任務——區(qū)分圖片里是笑臉還是非笑臉適合你在學會ResNet之后拿來做二次練習。第一次看代碼時我建議你先打開test.py別看細節(jié)只追主線加載數(shù)據(jù)→建立模型→訓練→測試。你會發(fā)現(xiàn)流程和上一章的SimpleCNN幾乎一樣區(qū)別只是模型換成了ResNet。輔助函數(shù)先不細讀等主線通了再回頭看效率會高很多。另外資源里的緩存文件名帶了cpython-37字樣說明作者在Python 3.7版本下運行過你現(xiàn)在用更新的Python版本大概率也能跑但要注意依賴庫的版本兼容。4.2 跑起來之前先裝好三樣東西動手前需要準備的東西不多就三樣Python環(huán)境、PyTorch庫和h5py庫。如果你的電腦里還沒有打開終端執(zhí)行下面這條命令可以一次裝齊pip install torch h5py numpy matplotlib裝完之后建議你先用下面兩行代碼驗證環(huán)境是否正常import torch import h5py print(torch.__version__)能打印出torch的版本號說明環(huán)境沒問題了。這里有個重要的心態(tài)調(diào)整新手階段完全可以用CPU訓練不需要急著買顯卡。第一周的CNN模型很小用CPU跑幾分鐘也能完成訓練足夠你看清楚整個流程。為什么要提這一點因為經(jīng)常有新手第一反應是“我沒有GPU是不是學不了”然后在配環(huán)境中卡了三天。事實是你只需要先把邏輯跑通GPU是后面提速的事不是入門的門檻。如果你電腦上同時裝了多個Python環(huán)境建議用虛擬環(huán)境工具比如conda或venv給這個項目單獨開一個環(huán)境。虛擬環(huán)境相當于給項目一個獨立的“小房間”里面裝的庫互不干擾以后出問題了直接扔掉重建比在全局環(huán)境里折騰省心得多。這也是我踩過坑之后才養(yǎng)成的習慣——曾經(jīng)因為全局環(huán)境里某個庫版本沖突連續(xù)兩次安裝失敗后來一律開新環(huán)境再沒遇到過這個問題。4.3 讀懂h5數(shù)據(jù)項目里的第一道關卡安裝好環(huán)境之后你碰到的第一個實際障礙大概率是數(shù)據(jù)集文件。這套資源的所有數(shù)據(jù)都打包在.h5文件里新手看到這種格式往往不知道從哪下手。簡單說.h5就是一種可以同時存儲多個數(shù)組的文件格式里面數(shù)據(jù)按“鍵值對”組織類似一個字典。要查看文件里有哪些鍵用h5py寫幾行代碼就行import h5py # 先打開文件看看里面存了什么 with h5py.File(1第一周/datasets/train_signs.h5, r) as f: print(list(f.keys()))運行后你會看到類似[train_x, train_y]這樣的鍵名列表。這時你再讀取就順理成章了import h5py import numpy as np with h5py.File(1第一周/datasets/train_signs.h5, r) as f: X np.array(f[train_x]) # 圖像數(shù)據(jù) y np.array(f[train_y]) # 標簽 print(X.shape, y.shape)打印出來的形狀信息非常重要一般你會看到(樣本數(shù), 高, 寬, 通道數(shù))這種結(jié)構(gòu)。這里埋伏著新手最容易踩的一個坑h5文件里存的圖像維度順序是“高、寬、通道”而PyTorch的卷積層要求輸入是“通道、高、寬”。如果你不管三七二十一直接把數(shù)據(jù)喂給模型會立刻報維度錯誤。解決辦法是交換軸的順序代碼寫成X np.transpose(X, (0, 3, 1, 2))同時再除以255做歸一化。項目里的utils文件通常已經(jīng)把這些工作封裝好了所以新手第一周直接用現(xiàn)成的加載函數(shù)最穩(wěn)等你理解了這個步驟再自己去寫也不遲。5. 避坑指南搭CNN和ResNet最容易翻車的五個坑代碼看得再多不如自己報錯一次學得快。我下面列出的五個坑幾乎每個新手都會踩中至少兩三個每一個我都會按“現(xiàn)象→原因→解決”的順序講清楚你碰到時可以一條條對著排查。5.1 環(huán)境與路徑還沒開始訓練就卡住的兩個坑坑1找不到數(shù)據(jù)集文件?，F(xiàn)象是運行test.py時拋出FileNotFoundError提示找不到datasets/train_signs.h5。原因是代碼里寫的是相對路徑而你是從別的目錄啟動腳本的Python按照當前工作目錄去找文件自然找不到。解決方法是先確認你當前的運行目錄在代碼里加一行import os; print(os.getcwd())看輸出是不是項目所在目錄如果不是用os.chdir(項目絕對路徑)切換過去或者把數(shù)據(jù)路徑改成絕對路徑。另外提醒一句文件夾名帶了“1第一周”這種中文極少數(shù)情況下在某些開發(fā)環(huán)境會出編碼問題穩(wěn)妥的做法是進到文件夾內(nèi)部運行不要從外部拼接層次過深的路徑。坑2提示缺少模塊?，F(xiàn)象是報ModuleNotFoundError: No module named h5py或類似錯誤。原因很簡單新環(huán)境里沒有安裝全依賴庫。解決方法是執(zhí)行pip install h5py補齊缺失的庫。但我更推薦的做法是不要挨個手動裝先把環(huán)境中已裝的庫導出成清單文件以后換電腦直接一鍵還原。如果你發(fā)現(xiàn)torch裝好后導入報錯先檢查是不是裝成了CPU版本但想用GPU或者反過來入門階段統(tǒng)一裝CPU版本即可省去一堆CUDA配置問題。5.2 維度與數(shù)據(jù)格式一跑就報錯的經(jīng)典原因坑3矩陣乘法維度不匹配?，F(xiàn)象是訓練腳本跑到forward時報RuntimeError: size mismatch。原因大多是你改了網(wǎng)絡結(jié)構(gòu)或輸入圖片尺寸但全連接層的輸入維度沒有跟著算清楚。我在第2章說過全連接層的輸入等于“最后一個池化層輸出的特征圖數(shù)量×寬×高”這個值只要卷積、步長、池化任何一處改動數(shù)字就會變。解決方法是給網(wǎng)絡寫一個“維度探測”流程在forward里臨時插入print(x.shape)跑一次就能看到每一層輸出的實際尺寸確定后再把數(shù)字填進全連接層。剛學的時候覺得加print很笨但它比閉眼硬算快得多?？?圖像數(shù)據(jù)的維度順序不對。現(xiàn)象是數(shù)據(jù)能加載但送給模型時shape是(64, 64, 3)而模型期望(3, 64, 64)報錯信息看起來像“Expected 4D input, got 3D input”。原因是h5文件里存的是“高、寬、通道”順序而PyTorch卷積層要的是“通道、高、寬”。解決方法是做一次軸交換np.transpose(X, (0, 3, 1, 2))把通道維從最后挪到第二位。這也是項目里utils文件的核心功能之一所以你用現(xiàn)成函數(shù)時會覺得很順自己重寫時就容易翻車。5.3 訓練不收斂跑起來了但loss不降坑5loss一直不下降?，F(xiàn)象是訓練了好幾個epoch損失函數(shù)值幾乎沒變準確率還在瞎猜的水平。原因通常是下面幾個中的一個輸入數(shù)據(jù)沒歸一化像素還停留在0~255、學習率設得太離譜太大震蕩、太小蝸牛、或者輸出層接法有問題。解決方法是按順序排查檢查輸入數(shù)據(jù)有沒有除以255把學習率調(diào)到0.001這個常用起點如果用了CrossEntropyLoss交叉熵損失網(wǎng)絡最后一層不要再額外加softmax因為這個損失函數(shù)內(nèi)部已經(jīng)包含了softmax操作重復加會導致梯度異常。如果你想讓實驗結(jié)果可復現(xiàn)還可以在代碼開頭加上torch.manual_seed(42)固定隨機種子這樣每次跑出來的結(jié)果基本一致不會出現(xiàn)“明明沒改代碼效果卻忽好忽壞”的玄學情況。6. 下一步怎么學從跑通代碼到真正吃透ResNet到這里你已經(jīng)知道CNN和ResNet是什么關系也能看懂資源里的文件結(jié)構(gòu)了。接下來的學習路徑我建議你按下面這張表的順序走步驟任務目標第一步運行第一周的test.py完整走通“加載數(shù)據(jù)→訓練→測試”流程第二步精讀cnn_utils.py讀懂數(shù)據(jù)加載和參數(shù)初始化細節(jié)第三步自己寫一個SimpleCNN不看源碼也能搭出CNN第四步運行第二周的ResNet代碼感受殘差塊的訓練效果第五步改寫一個BasicBlock能解釋每一行在干嘛每一步的驗收標準都很明確能跑通且能向別人講清楚代碼在做什么。特別是走到第四步時建議你在同一份手勢數(shù)據(jù)集上分別用第一周的CNN和第二周的ResNet訓練對比兩者的最終準確率和loss曲線。你大概率會發(fā)現(xiàn)ResNet收斂得更穩(wěn)、準確率更高——這種“親手看到差距”的體驗比背十遍理論都管用。走完基礎流程后可以試著把數(shù)據(jù)集換成train_happy.h5做一次笑臉識別。這仍然屬于分類任務但數(shù)據(jù)分布變了你會被迫去檢查維度、類別數(shù)、歸一化方式這些細節(jié)。接著可以挑戰(zhàn)一下傳說中的ResNet-18它其實就是把你學過的BasicBlock串聯(lián)4組每組分別重復2次再接全連接層。你在第3章見過的每個零件到這里全部派上用場。如果想更進一步試著把學習率從0.001改成0.0001或者把batch size從32改成64觀察訓練曲線變化建立對超參數(shù)的“手感”。最后說點我自己的教訓。剛上手時我總喜歡跳過看數(shù)據(jù)這一步拿起來就訓練結(jié)果經(jīng)常被維度報錯和loss不降折騰一晚上。后來我強制自己每次拿到新項目先打印數(shù)據(jù)shape、再打印標簽類別數(shù)、最后才寫模型。這個習慣讓我少走了很多彎路。從那以后每次拿到新項目我都會先走一遍這個流程再開始跑代碼。希望幫到你——現(xiàn)在放心地去跑你的第一個test.py吧跑通的那一刻你會覺得這一切并不難。本文還有配套的精品資源點擊獲取 簡易CNN與ResNet搭建：Python源碼入門與實踐
簡介從零搭建CNN與ResNet的入門實戰(zhàn)代碼包面向深度學習初學者和想厘清“ResNet與CNN關系”的開發(fā)者可直接用于計算機視覺自學或課程設計參考。資源共24個文件包含5個Python訓練與工具腳本、6個h5格式數(shù)據(jù)集文件交通標志、手勢、笑臉等另有PyCharm工程配置xml/iml與運行生成的pyc緩存壓縮包整體約25.27MB代碼按“第一周CNN、第二周ResNet”兩階段組織目錄清晰便于逐周學習。目前已有1099人學習下載。源碼完整展現(xiàn)了CNN的卷積層、池化層、全連接層以及ResNet殘差塊、跳躍連接和批量歸一化的實際寫法可直接運行查看訓練過程配套h5數(shù)據(jù)集支持從數(shù)據(jù)加載、模型搭建到損失計算與驗證的完整閉環(huán)幫助讀者快速掌握PyTorch/TensorFlow建模思路并深入理解殘差連接如何緩解深層網(wǎng)絡梯度消失問題。1. 先解決最大困惑ResNet到底是不是CNN第一次看到“簡易CNN和ResNet搭建Python源碼”這份資源時我腦子里最大的問號不是“怎么搭建”而是一個更基礎的問題ResNet是CNN嗎如果你也有同款困惑那這篇入門文章就是寫給你的。CNN和ResNet的關系可以類比成同一道菜的基礎版和改良版CNN是深度學習里最常用的圖像識別模型ResNet是在CNN骨架上加裝了“殘差塊”的升級型號所以它本質(zhì)上還是CNN只不過更聰明、更適合往深了堆。這份資源里的代碼用Python帶你按兩周的節(jié)奏搭出這兩個模型。今天我們不急著刷原理我?guī)惆阉x成能上手的東西先搞懂兩個概念再看看資料里到底有什么最后落在你電腦上能跑通的第一個例子。2. 先搞懂地基CNN是怎么“看”一張圖的不管第一周還是第二周你寫的每一段代碼都是在做同一件事讓電腦從圖片里認出東西來。CNN解決的就是這個問題它仿照人眼的工作方式一層一層地從圖里找特征——先找邊緣再找紋理最后拼出“這是一只貓”的結(jié)論。要理解ResNet你得先知道CNN的四個積木塊下面我們一塊一塊來。2.1 圖像在電腦眼里是一堆數(shù)字你在屏幕上看到的照片對電腦來說只是一個巨大的數(shù)字矩陣。一張灰度圖就是一個二維數(shù)組每個數(shù)字代表一個像素點的亮度范圍通常是0到2550是純黑255是純白。彩色圖則稍微復雜一點它由三個矩陣疊在一起組成分別對應紅、綠、藍三個顏色通道。你可以用幾行代碼親手驗證這件事。打開任意一個Python文件敲進下面這段import numpy as np # 用隨機數(shù)模擬一張 4x4 的灰度圖 fake_image np.random.randint(0, 256, size(4, 4)) print(fake_image)跑一下你就會發(fā)現(xiàn)圖像在程序眼里根本不是“畫面”而是一張寫滿數(shù)字的網(wǎng)格。這里有兩個值得記住的點第一這張數(shù)字網(wǎng)格就是CNN的“輸入層”接收的數(shù)據(jù)第二數(shù)字的取值范圍很關鍵后面你訓練網(wǎng)絡時經(jīng)常要把這些數(shù)字除以255讓它們落在0到1之間這個操作叫歸一化很多新手漏了這一步導致模型怎么訓都不收斂。2.2 卷積層用一個小窗口“掃描”整張圖既然圖是數(shù)字網(wǎng)格那怎么從中找出特征最笨的辦法是把所有數(shù)字拉平成一條長向量交給全連接層處理。但這樣做有個致命問題一張100×100的圖拉平后有一萬個數(shù)字全連接層要為每個數(shù)字配一大堆權(quán)重參數(shù)數(shù)量爆炸訓練極慢還容易過擬合。卷積層換了個思路它不用看整張圖只用一個小窗口比如3×3的小方塊在圖上滑動每滑到一個位置就做一次“逐點相乘再求和”得出來的結(jié)果構(gòu)成一張新的小圖叫特征圖。這個小窗口就是濾波器也叫卷積核。一個濾波器只能找一種特征——有的負責找豎線有的負責找橫線有的負責找拐角。想讓網(wǎng)絡認識更復雜的東西就多放幾個濾波器所以卷積層的輸出通常有好多張?zhí)卣鲌D每一張是“某個特征在圖上哪里出現(xiàn)了”的地圖。這里有兩個概念會在代碼里反復出現(xiàn)步長和填充。步長就是窗口每次往右或往下挪幾格步長越大輸出圖越小填充是在原圖四周補一圈0用來控制輸出尺寸。比如輸入是32×32的圖卷積核是3×3填充設為1輸出還是32×32如果不填充輸出就變成30×30。動手改代碼時常會因為這兩個參數(shù)沒算清楚導致后面全連接層維度不匹配這個是后話你現(xiàn)在先有個印象。2.3 激活函數(shù)和池化層給特征“表態(tài)”再“瘦身”卷積層是線性操作就算堆一百層本質(zhì)上還是線性變換的組合學不到復雜規(guī)律。這時候就需要激活函數(shù)出場。CNN里最常用的是ReLU公式極其簡單負數(shù)全部變0正數(shù)原樣保留。import torch # 模擬ReLU把負數(shù)清零 x torch.tensor([-2.0, -1.0, 0.0, 1.0, 3.0]) y torch.relu(x) print(y) # 輸出: tensor([0., 0., 0., 1., 3.])為什么要把負數(shù)清零因為清零操作引入了非線性讓網(wǎng)絡有能力擬合各種彎彎曲曲的邊界。你可以把ReLU理解成“表態(tài)”這個位置沒找到特征就直接閉嘴輸出0找到了就大聲報數(shù)。池化層接在卷積和激活后面最常見的是最大池化在一個2×2的小窗口里取最大值然后窗口滑過整張圖。這樣做的效果是圖像尺寸縮小一半但最強的特征被保留下來計算量也大幅下降。而且池化讓網(wǎng)絡對輕微的位移不那么敏感——小貓在照片里稍微偏了半個像素提取到的特征幾乎不變。要注意的是池化層沒有可學習的參數(shù)它是個純“瘦身”操作新手常誤以為它和卷積一樣需要訓練。2.4 全連接層收尾把特征“拉平投票”經(jīng)過幾輪“卷積→激活→池化”之后原始圖片已經(jīng)變成一堆小而深的特征圖。接下來要做的是把這些特征圖拉平成一維向量送進全連接層做最終判斷。全連接層就像一個投票委員會每個輸入特征有權(quán)重經(jīng)過加權(quán)求和后輸出每個類別的得分。分類任務通常在最后一層接softmax把這些得分換算成概率比如“是貓的概率0.8是狗的概率0.2”。完整的CNN流程你可以記成一句話輸入→卷積→激活→池化→重復若干次→拉平→全連接→輸出概率。下面用一個極簡的CNN把這句話落到代碼上import torch import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self): super().__init__() # 卷積塊1輸入3通道彩色圖輸出8個特征圖 self.conv1 nn.Conv2d(in_channels3, out_channels8, kernel_size3, padding1) self.pool1 nn.MaxPool2d(kernel_size2, stride2) # 卷積塊2輸入8個特征圖輸出16個特征圖 self.conv2 nn.Conv2d(in_channels8, out_channels16, kernel_size3, padding1) self.pool2 nn.MaxPool2d(kernel_size2, stride2) # 全連接層把拉平后的特征映射到10個類別 self.fc nn.Linear(16 * 8 * 8, 10) def forward(self, x): x torch.relu(self.conv1(x)) # 先卷積再ReLU激活 x self.pool1(x) # 池化縮小尺寸 x torch.relu(self.conv2(x)) x self.pool2(x) x x.view(x.size(0), -1) # 拉平成一維向量 x self.fc(x) # 全連接輸出10個類別的分數(shù) return x上面這段代碼里的模型假設輸入是32×32的彩色圖。數(shù)據(jù)流向是這樣的32×32輸入經(jīng)過conv1padding1還是32×32經(jīng)過pool1變成16×16再走一輪變成8×8這時有16個特征圖拉平后就是16×8×81024個數(shù)全連接層把這1024個數(shù)映射到10個類別。如果你想換個數(shù)據(jù)集只需要改兩處全連接層的輸入維度以及最后的輸出類別數(shù)。第一次跑模型時建議在forward里加一行print(x.shape)看看每一步數(shù)據(jù)尺寸變成什么樣這是理解CNN最快的方式。3. ResNet為什么是CNN的升級版殘差塊到底在做什么現(xiàn)在你已經(jīng)知道CNN的四個積木塊了。但你可能有個疑問既然卷積、池化、全連接一套流程能把貓和狗分開那為什么還要搞一個ResNet出來答案很簡單因為人們發(fā)現(xiàn)CNN越深反而越難訓練而ResNet專治這個毛病。這一章我們解決兩個問題普通CNN到底遇到了什么困難以及殘差塊是用什么思路化解困難的。3.1 普通CNN加深后為什么會“翻車”直覺告訴我們層數(shù)越多網(wǎng)絡應該越強——畢竟能提取更細的特征。但研究者實驗后發(fā)現(xiàn)普通CNN在層數(shù)超過一定值之后訓練集上的錯誤率反而升高了不是過擬合是根本學不動。我第一學到這里時也不懂后來才明白主要有兩個原因在搗亂。第一個原因是梯度消失。深度學習靠“反向傳播”更新參數(shù)誤差要從最后一層傳回第一層每經(jīng)過一層就要乘一次梯度。如果梯度值小于1乘上幾十次之后傳到前面的梯度已經(jīng)小到接近0前面的卷積層幾乎學不到東西陷入“癱瘓”。第二個原因是退化問題理論上更深的網(wǎng)絡至少應該能模仿淺層網(wǎng)絡的性能只要后面幾層學“什么都不做”就行但實踐證明讓普通網(wǎng)絡學會“什么都不做”這件事本身就非常困難?？偨Y(jié)成一句話層數(shù)加深后網(wǎng)絡不是不想學是傳不下去、學不動。這時候需要的不是更復雜的結(jié)構(gòu)而是一條能讓信息“抄近路”的通道。3.2 殘差塊的設計思路y F(x) xResNet解決這個問題的辦法看起來簡單到讓人懷疑在模塊外面加一條短路把輸入直接加到輸出上。一個殘差塊的輸出不是“經(jīng)過卷積之后的結(jié)果”而是“卷積結(jié)果加上原始輸入”。用公式寫就是y F(x) x其中F(x)是幾層卷積和激活的組合。這條加法操作網(wǎng)上各種文章叫“跳躍連接”“恒等映射”“shortcut”聽起來很高深其實你只需要理解它給了網(wǎng)絡一條短路通道信息可以不經(jīng)過中間的卷積層直接往后傳。這樣一來即使某一層卷積學得很差原始輸入x也能原樣保留。更妙的是如果這一層確實沒什么可學的網(wǎng)絡只需要讓F(x)趨近于0輸出就約等于輸入x相當于這一層自動變成了“透明層”。相比之下普通CNN沒有這條通道每一層都必須“硬學”一個結(jié)果學不好反而添亂。打個比方普通CNN像一條必須每道工序都做好的流水線ResNet則在每段工序旁邊修了一條應急通道師傅狀態(tài)不好時東西可以直接滑到下一站不影響整體進度。這就是為什么ResNet能堆到50層、101層甚至更深而普通CNN堆到20多層就學不動了。3.3 用一張表回答“ResNet是CNN嗎”很多人糾結(jié)這個問題其實答案很明確是的ResNet就是CNN的一種是CNN的改進版本。那種“ResNet和CNN是兩套東西”的感覺來自對比時把“普通CNN”默認成了“CNN”本身。下面這張對比表幫你把關系看清楚。對比維度普通CNNResNet基本積木塊卷積、激活、池化、全連接同樣是卷積、激活、池化、全連接特殊結(jié)構(gòu)沒有跳躍連接在卷積塊之間加了殘差連接shortcut能加深嗎十幾層后容易梯度消失可以輕松堆到幾十上百層典型代表簡易CNN、VGG系列ResNet-18、ResNet-50訓練難度淺層好訓加深后變難深度較大時依然穩(wěn)定所以如果你在新手期聽人說“ResNet不是CNN它和CNN是兩種網(wǎng)絡”那這話是錯的。更準確的說法是ResNet屬于CNN家族它是為了解決CNN加深時“學不動”的問題在結(jié)構(gòu)上做的一個巧妙升級。搞懂這一點你就不會再被這兩個詞繞暈了。3.4 動手寫一個殘差塊BasicBlock說了這么多不如直接看代碼。下面是PyTorch里一個最基礎的殘差塊對應的是ResNet-18這類淺層ResNet里使用的結(jié)構(gòu)通常叫BasicBlockimport torch import torch.nn as nn class BasicBlock(nn.Module): def __init__(self, in_channels, out_channels, stride1): super().__init__() # 兩個3x3卷積每個后面跟一個批量歸一化 self.conv1 nn.Conv2d(in_channels, out_channels, kernel_size3, stridestride, padding1, biasFalse) self.bn1 nn.BatchNorm2d(out_channels) self.conv2 nn.Conv2d(out_channels, out_channels, kernel_size3, stride1, padding1, biasFalse) self.bn2 nn.BatchNorm2d(out_channels) # 當輸入輸出形狀不一致時用1x1卷積調(diào)整x的形狀 self.shortcut nn.Sequential() if stride ! 1 or in_channels ! out_channels: self.shortcut nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size1, stridestride, biasFalse), nn.BatchNorm2d(out_channels) ) def forward(self, x): identity x # 先保存原始輸入這就是“跳躍連接”的起點 out torch.relu(self.bn1(self.conv1(x))) out self.bn2(self.conv2(out)) out identity # 關鍵一步卷積結(jié)果和原始輸入相加 out torch.relu(out) return out和上一章的SimpleCNN相比這個殘差塊多了三樣東西批量歸一化、identity變量、相加操作。批量歸一化的作用是在每層卷積之后把數(shù)據(jù)分布拉回正規(guī)范圍讓訓練更穩(wěn)定這也是ResNet敢訓練得很深的原因之一。identity保存的是剛進入模塊時的原始數(shù)據(jù)它沒有經(jīng)過任何卷積操作相當于抄了近路。最后out identity這一行就是跳躍連接本身它會先在通道數(shù)上對齊兩個矩陣如果通道不一致shortcut里的1×1卷積會負責把identity調(diào)整成和out一樣的大小再逐元素相加。把幾個這樣的BasicBlock串起來最后接一個全連接層就組成一個微型ResNet。你在第4章會看到項目第二周做的事情本質(zhì)上就是重復練習組裝這種殘差塊。4. 拿到這份Python資源之后先認識文件再準備環(huán)境概念有了代碼也見過了接下來該真正動手了。但打開資源包的那一刻很多新手會被嚇一跳又是“1第一周”又是“2第二周”里面還有一堆以.idea、.iml結(jié)尾的陌生文件。別慌這一章我?guī)阒饌€認門把文件夾里每一類文件是干什么的弄清楚然后裝好環(huán)境讓代碼跑起來。4.1 資源里到底有什么按文件夾認門這份代碼是按兩周的學習節(jié)奏組織的兩個文件夾的名字已經(jīng)說明了內(nèi)容第一周搭簡易CNN第二周搭ResNet。下面這張表把核心文件列出來你對照著看就不迷路。文件/文件夾作用備注1第一周/test.py第一周的訓練/測試主流程從這里開始看1第一周/cnn_utils.pyCNN相關的輔助函數(shù)包含數(shù)據(jù)加載、參數(shù)初始化等1第一周/datasets/train_signs.h5第一周訓練數(shù)據(jù)集手勢數(shù)字圖片1第一周/datasets/test_signs.h5第一周測試數(shù)據(jù)集用來驗證訓練效果2第二周/resnets_utils.pyResNet相關的輔助函數(shù)第二周的核心工具文件2第二周/kt_utils.py笑臉數(shù)據(jù)加載工具配合train_happy使用2第二周/datasets/train_happy.h5第二周附加數(shù)據(jù)集笑臉識別任務.idea、*.iml、workspace.xmlIDE配置文件可以完全忽略pycachePython運行緩存可以完全忽略你可能會注意到第二周的datasets里也有train_signs.h5。這說明同一個手勢數(shù)據(jù)集被兩套模型各跑了一遍正好可以用來對比普通CNN和ResNet誰的準確率更高、訓練過程更穩(wěn)這是一個非常直觀的體驗設計。至于kt_utils.py和train_happy.h5它們是另一個小任務——區(qū)分圖片里是笑臉還是非笑臉適合你在學會ResNet之后拿來做二次練習。第一次看代碼時我建議你先打開test.py別看細節(jié)只追主線加載數(shù)據(jù)→建立模型→訓練→測試。你會發(fā)現(xiàn)流程和上一章的SimpleCNN幾乎一樣區(qū)別只是模型換成了ResNet。輔助函數(shù)先不細讀等主線通了再回頭看效率會高很多。另外資源里的緩存文件名帶了cpython-37字樣說明作者在Python 3.7版本下運行過你現(xiàn)在用更新的Python版本大概率也能跑但要注意依賴庫的版本兼容。4.2 跑起來之前先裝好三樣東西動手前需要準備的東西不多就三樣Python環(huán)境、PyTorch庫和h5py庫。如果你的電腦里還沒有打開終端執(zhí)行下面這條命令可以一次裝齊pip install torch h5py numpy matplotlib裝完之后建議你先用下面兩行代碼驗證環(huán)境是否正常import torch import h5py print(torch.__version__)能打印出torch的版本號說明環(huán)境沒問題了。這里有個重要的心態(tài)調(diào)整新手階段完全可以用CPU訓練不需要急著買顯卡。第一周的CNN模型很小用CPU跑幾分鐘也能完成訓練足夠你看清楚整個流程。為什么要提這一點因為經(jīng)常有新手第一反應是“我沒有GPU是不是學不了”然后在配環(huán)境中卡了三天。事實是你只需要先把邏輯跑通GPU是后面提速的事不是入門的門檻。如果你電腦上同時裝了多個Python環(huán)境建議用虛擬環(huán)境工具比如conda或venv給這個項目單獨開一個環(huán)境。虛擬環(huán)境相當于給項目一個獨立的“小房間”里面裝的庫互不干擾以后出問題了直接扔掉重建比在全局環(huán)境里折騰省心得多。這也是我踩過坑之后才養(yǎng)成的習慣——曾經(jīng)因為全局環(huán)境里某個庫版本沖突連續(xù)兩次安裝失敗后來一律開新環(huán)境再沒遇到過這個問題。4.3 讀懂h5數(shù)據(jù)項目里的第一道關卡安裝好環(huán)境之后你碰到的第一個實際障礙大概率是數(shù)據(jù)集文件。這套資源的所有數(shù)據(jù)都打包在.h5文件里新手看到這種格式往往不知道從哪下手。簡單說.h5就是一種可以同時存儲多個數(shù)組的文件格式里面數(shù)據(jù)按“鍵值對”組織類似一個字典。要查看文件里有哪些鍵用h5py寫幾行代碼就行import h5py # 先打開文件看看里面存了什么 with h5py.File(1第一周/datasets/train_signs.h5, r) as f: print(list(f.keys()))運行后你會看到類似[train_x, train_y]這樣的鍵名列表。這時你再讀取就順理成章了import h5py import numpy as np with h5py.File(1第一周/datasets/train_signs.h5, r) as f: X np.array(f[train_x]) # 圖像數(shù)據(jù) y np.array(f[train_y]) # 標簽 print(X.shape, y.shape)打印出來的形狀信息非常重要一般你會看到(樣本數(shù), 高, 寬, 通道數(shù))這種結(jié)構(gòu)。這里埋伏著新手最容易踩的一個坑h5文件里存的圖像維度順序是“高、寬、通道”而PyTorch的卷積層要求輸入是“通道、高、寬”。如果你不管三七二十一直接把數(shù)據(jù)喂給模型會立刻報維度錯誤。解決辦法是交換軸的順序代碼寫成X np.transpose(X, (0, 3, 1, 2))同時再除以255做歸一化。項目里的utils文件通常已經(jīng)把這些工作封裝好了所以新手第一周直接用現(xiàn)成的加載函數(shù)最穩(wěn)等你理解了這個步驟再自己去寫也不遲。5. 避坑指南搭CNN和ResNet最容易翻車的五個坑代碼看得再多不如自己報錯一次學得快。我下面列出的五個坑幾乎每個新手都會踩中至少兩三個每一個我都會按“現(xiàn)象→原因→解決”的順序講清楚你碰到時可以一條條對著排查。5.1 環(huán)境與路徑還沒開始訓練就卡住的兩個坑坑1找不到數(shù)據(jù)集文件?，F(xiàn)象是運行test.py時拋出FileNotFoundError提示找不到datasets/train_signs.h5。原因是代碼里寫的是相對路徑而你是從別的目錄啟動腳本的Python按照當前工作目錄去找文件自然找不到。解決方法是先確認你當前的運行目錄在代碼里加一行import os; print(os.getcwd())看輸出是不是項目所在目錄如果不是用os.chdir(項目絕對路徑)切換過去或者把數(shù)據(jù)路徑改成絕對路徑。另外提醒一句文件夾名帶了“1第一周”這種中文極少數(shù)情況下在某些開發(fā)環(huán)境會出編碼問題穩(wěn)妥的做法是進到文件夾內(nèi)部運行不要從外部拼接層次過深的路徑。坑2提示缺少模塊?，F(xiàn)象是報ModuleNotFoundError: No module named h5py或類似錯誤。原因很簡單新環(huán)境里沒有安裝全依賴庫。解決方法是執(zhí)行pip install h5py補齊缺失的庫。但我更推薦的做法是不要挨個手動裝先把環(huán)境中已裝的庫導出成清單文件以后換電腦直接一鍵還原。如果你發(fā)現(xiàn)torch裝好后導入報錯先檢查是不是裝成了CPU版本但想用GPU或者反過來入門階段統(tǒng)一裝CPU版本即可省去一堆CUDA配置問題。5.2 維度與數(shù)據(jù)格式一跑就報錯的經(jīng)典原因坑3矩陣乘法維度不匹配?，F(xiàn)象是訓練腳本跑到forward時報RuntimeError: size mismatch。原因大多是你改了網(wǎng)絡結(jié)構(gòu)或輸入圖片尺寸但全連接層的輸入維度沒有跟著算清楚。我在第2章說過全連接層的輸入等于“最后一個池化層輸出的特征圖數(shù)量×寬×高”這個值只要卷積、步長、池化任何一處改動數(shù)字就會變。解決方法是給網(wǎng)絡寫一個“維度探測”流程在forward里臨時插入print(x.shape)跑一次就能看到每一層輸出的實際尺寸確定后再把數(shù)字填進全連接層。剛學的時候覺得加print很笨但它比閉眼硬算快得多?？?圖像數(shù)據(jù)的維度順序不對。現(xiàn)象是數(shù)據(jù)能加載但送給模型時shape是(64, 64, 3)而模型期望(3, 64, 64)報錯信息看起來像“Expected 4D input, got 3D input”。原因是h5文件里存的是“高、寬、通道”順序而PyTorch卷積層要的是“通道、高、寬”。解決方法是做一次軸交換np.transpose(X, (0, 3, 1, 2))把通道維從最后挪到第二位。這也是項目里utils文件的核心功能之一所以你用現(xiàn)成函數(shù)時會覺得很順自己重寫時就容易翻車。5.3 訓練不收斂跑起來了但loss不降坑5loss一直不下降?，F(xiàn)象是訓練了好幾個epoch損失函數(shù)值幾乎沒變準確率還在瞎猜的水平。原因通常是下面幾個中的一個輸入數(shù)據(jù)沒歸一化像素還停留在0~255、學習率設得太離譜太大震蕩、太小蝸牛、或者輸出層接法有問題。解決方法是按順序排查檢查輸入數(shù)據(jù)有沒有除以255把學習率調(diào)到0.001這個常用起點如果用了CrossEntropyLoss交叉熵損失網(wǎng)絡最后一層不要再額外加softmax因為這個損失函數(shù)內(nèi)部已經(jīng)包含了softmax操作重復加會導致梯度異常。如果你想讓實驗結(jié)果可復現(xiàn)還可以在代碼開頭加上torch.manual_seed(42)固定隨機種子這樣每次跑出來的結(jié)果基本一致不會出現(xiàn)“明明沒改代碼效果卻忽好忽壞”的玄學情況。6. 下一步怎么學從跑通代碼到真正吃透ResNet到這里你已經(jīng)知道CNN和ResNet是什么關系也能看懂資源里的文件結(jié)構(gòu)了。接下來的學習路徑我建議你按下面這張表的順序走步驟任務目標第一步運行第一周的test.py完整走通“加載數(shù)據(jù)→訓練→測試”流程第二步精讀cnn_utils.py讀懂數(shù)據(jù)加載和參數(shù)初始化細節(jié)第三步自己寫一個SimpleCNN不看源碼也能搭出CNN第四步運行第二周的ResNet代碼感受殘差塊的訓練效果第五步改寫一個BasicBlock能解釋每一行在干嘛每一步的驗收標準都很明確能跑通且能向別人講清楚代碼在做什么。特別是走到第四步時建議你在同一份手勢數(shù)據(jù)集上分別用第一周的CNN和第二周的ResNet訓練對比兩者的最終準確率和loss曲線。你大概率會發(fā)現(xiàn)ResNet收斂得更穩(wěn)、準確率更高——這種“親手看到差距”的體驗比背十遍理論都管用。走完基礎流程后可以試著把數(shù)據(jù)集換成train_happy.h5做一次笑臉識別。這仍然屬于分類任務但數(shù)據(jù)分布變了你會被迫去檢查維度、類別數(shù)、歸一化方式這些細節(jié)。接著可以挑戰(zhàn)一下傳說中的ResNet-18它其實就是把你學過的BasicBlock串聯(lián)4組每組分別重復2次再接全連接層。你在第3章見過的每個零件到這里全部派上用場。如果想更進一步試著把學習率從0.001改成0.0001或者把batch size從32改成64觀察訓練曲線變化建立對超參數(shù)的“手感”。最后說點我自己的教訓。剛上手時我總喜歡跳過看數(shù)據(jù)這一步拿起來就訓練結(jié)果經(jīng)常被維度報錯和loss不降折騰一晚上。后來我強制自己每次拿到新項目先打印數(shù)據(jù)shape、再打印標簽類別數(shù)、最后才寫模型。這個習慣讓我少走了很多彎路。從那以后每次拿到新項目我都會先走一遍這個流程再開始跑代碼。希望幫到你——現(xiàn)在放心地去跑你的第一個test.py吧跑通的那一刻你會覺得這一切并不難。本文還有配套的精品資源點擊獲取