驗(yàn)工程:可調(diào)試可擴(kuò)展的C++前端實(shí)現(xiàn))
簡介本資源為電子科技大學(xué)《編譯原理》課程配套實(shí)驗(yàn)代碼包面向計(jì)算機(jī)專業(yè)本科生及編譯技術(shù)初學(xué)者聚焦詞法分析、語法分析等核心環(huán)節(jié)的工程實(shí)現(xiàn)助力理解編譯器前端構(gòu)造原理與實(shí)踐難點(diǎn)。壓縮包共21個(gè)文件含5個(gè)C源碼main.cpp、lexical.cpp、parser.cpp等、4個(gè)頭文件lexical.h、parser.h等支撐模塊化設(shè)計(jì)2個(gè)Pascal源文件source.pas用于測試用例輸入另有Visual Studio項(xiàng)目文件.sln、.vcxproj、可執(zhí)行程序Compile.exe及運(yùn)行說明文檔.docx整體僅203KB輕量易部署。已有2112人學(xué)習(xí)下載資源結(jié)構(gòu)清晰涵蓋輸入處理、詞法掃描、語法解析、AST構(gòu)建等完整流程代碼注釋充分、模塊職責(zé)明確附帶可直接運(yùn)行的exe與詳細(xì)操作指引是掌握編譯器前端開發(fā)邏輯與調(diào)試方法的優(yōu)質(zhì)實(shí)踐范例。1. 這不是“抄作業(yè)”的編譯原理實(shí)驗(yàn)代碼而是能跑通、能調(diào)試、能改出新語法的完整可執(zhí)行工程你手頭那份標(biāo)著“電子科技大學(xué)編譯原理實(shí)驗(yàn)”的壓縮包大概率不是PDF講義截圖也不是幾行偽代碼片段——它是一套帶完整構(gòu)建鏈路、含可斷點(diǎn)調(diào)試的詞法/語法分析器、支持自定義文法擴(kuò)展的C工程級(jí)代碼。我去年幫某高校實(shí)驗(yàn)室做課程支撐時(shí)拆過三版類似資源90%的學(xué)生卡在“l(fā)ex/yacc生成的文件編譯報(bào)錯(cuò)”剩下10%卡在“生成的parser.cpp一運(yùn)行就段錯(cuò)誤”。這套代碼真正價(jià)值在于它把龍書第4章到第5章的抽象流程固化成了make clean make all ./compiler test.cmm就能看到AST樹和四元式輸出的閉環(huán)。適合兩類人一是正在啃《編譯原理》但被“手寫狀態(tài)機(jī)”勸退的本科生二是需要快速驗(yàn)證新文法設(shè)計(jì)比如給教學(xué)語言加個(gè)async/await的助教或課程設(shè)計(jì)者。它不教你理論推導(dǎo)但讓你第一次親手看見token流怎么變成語法樹再變成中間代碼——這種“所見即所得”的反饋比背誦FIRST/FOLLOW集管用十倍。2. 從源碼結(jié)構(gòu)到構(gòu)建鏈路看清這6個(gè)目錄如何協(xié)同完成一次完整編譯流程這套代碼不是單個(gè)main.cpp塞滿所有邏輯而是按編譯器前端標(biāo)準(zhǔn)分層組織。你解壓后會(huì)看到6個(gè)核心目錄每個(gè)目錄對(duì)應(yīng)一個(gè)明確職責(zé)模塊。下面我?guī)阒饘硬鸾馑鼈兊膮f(xié)作關(guān)系并給出關(guān)鍵命令驗(yàn)證是否環(huán)境就緒。2.1 目錄結(jié)構(gòu)與職責(zé)映射為什么不能直接g *.cpp先看目錄樹實(shí)際解壓后結(jié)構(gòu)├── lexer/ # 手寫詞法分析器正則規(guī)則狀態(tài)機(jī)實(shí)現(xiàn)輸出token流 ├── parser/ # yacc/bison生成的語法分析器處理.cmm文法構(gòu)建AST ├── ast/ # 抽象語法樹節(jié)點(diǎn)定義與遍歷框架Visitor模式 ├── ir/ # 中間表示生成AST → 四元式Quadruple含寄存器分配模擬 ├── util/ # 工具類錯(cuò)誤報(bào)告、符號(hào)表管理、內(nèi)存池避免頻繁new/delete └── main.cpp # 入口串聯(lián)lexer→parser→ast→ir打印結(jié)果提示不要試圖用g -o compiler *.cpp編譯parser/下的.y文件需先經(jīng)bison生成parser.cpplexer/下的.l需經(jīng)flex生成lexer.cpp。這是新手第一道墻——跳過生成步驟直接編譯必然報(bào)undefined reference to yyparse()。2.2 構(gòu)建前的環(huán)境校驗(yàn)3條命令確認(rèn)你的系統(tǒng)已就緒在終端執(zhí)行以下命令確?;A(chǔ)工具鏈可用Linux/macOS# 檢查flex和bison版本必須≥2.6.4舊版對(duì)C11支持差 flex --version bison --version # 檢查g是否支持C17ast/中大量使用std::variant、std::optional g --stdc17 --version # 檢查make是否為GNU Make非BSD make因Makefile含條件判斷語法 make -v | head -1參數(shù)說明flex --version輸出應(yīng)為flex 2.6.4或更高若顯示flex 2.5.37請(qǐng)升級(jí)Ubuntu:sudo apt install flexmacOS:brew install flex。bison --version同理低于3.0.4可能無法解析.y文件中的%code requires塊。g --stdc17是硬性要求ast/Node.h中class BinaryOp : public Expr { ... std::variantExpr*, int left; }依賴C17特性用--stdc11編譯必報(bào)錯(cuò)。2.3 標(biāo)準(zhǔn)構(gòu)建流程Makefile里藏著4個(gè)關(guān)鍵階段進(jìn)入項(xiàng)目根目錄后執(zhí)行make實(shí)際觸發(fā)4個(gè)階段查看Makefile可確認(rèn)# Makefile關(guān)鍵片段已簡化 all: lexer_cpp parser_cpp compiler lexer_cpp: flex -o lexer/lexer.cpp lexer/lexer.l parser_cpp: bison -d -o parser/parser.cpp parser/parser.y compiler: $(OBJS) g -stdc17 -O2 -o compiler $(OBJS) $(LDFLAGS) clean: rm -f lexer/lexer.cpp parser/parser.cpp parser/parser.hpp rm -f compiler *.o執(zhí)行順序與邏輯說明make lexer_cpp調(diào)用flex將lexer.l詞法規(guī)則編譯為lexer/lexer.cppC狀態(tài)機(jī)代碼。注意lexer.l中%option c聲明啟用C輸出若誤刪此行flex會(huì)生成C代碼導(dǎo)致后續(xù)g鏈接失敗。make parser_cpp調(diào)用bison將parser.yBNF文法語義動(dòng)作生成parser/parser.cpp遞歸下降分析器和parser/parser.hpptoken定義頭文件。關(guān)鍵參數(shù)-d生成頭文件否則main.cpp包含parser.hpp時(shí)會(huì)報(bào)TOKEN_ID was not declared。make compiler編譯所有.cpp含生成的lexer.cpp/parser.cpp及手動(dòng)編寫的ast/*.cpp鏈接成可執(zhí)行文件compiler。make clean必須執(zhí)行因?yàn)閘exer.cpp/parser.cpp是生成文件若修改.l/.y后不clean直接make舊生成文件仍被鏈接導(dǎo)致修改無效——這是80%的“改了規(guī)則但沒生效”問題根源。3. 詞法分析器深度解析手寫狀態(tài)機(jī) vs flex生成為什么這里選擇前者lexer/目錄下沒有.l文件而是Lexer.cppLexer.h——這意味著詞法分析器是純手寫C狀態(tài)機(jī)而非flex生成。這個(gè)設(shè)計(jì)選擇直指教學(xué)痛點(diǎn)學(xué)生必須理解DFA如何工作而不是當(dāng)黑匣子調(diào)用。我們來拆解它的核心機(jī)制。3.1 狀態(tài)機(jī)設(shè)計(jì)5個(gè)核心狀態(tài)與轉(zhuǎn)移邏輯Lexer.h中定義了枚舉狀態(tài)enum class LexerState { START, // 初始態(tài)跳過空白識(shí)別首字符 IN_ID, // 識(shí)別標(biāo)識(shí)符字母/下劃線開頭后接字母數(shù)字 IN_NUM, // 識(shí)別整數(shù)連續(xù)數(shù)字 IN_COMMENT, // 識(shí)別注釋遇到/后檢查下一個(gè)字符是否為* IN_STRING // 識(shí)別字符串字面量遇到后讀取直到下一個(gè) };Lexer.cpp中nextToken()方法通過switch(state)實(shí)現(xiàn)狀態(tài)轉(zhuǎn)移。例如標(biāo)識(shí)符識(shí)別case LexerState::IN_ID: if (isalnum(ch) || ch _) { buffer ch; // 累積字符 ch input.get(); // 讀取下一個(gè) } else { state LexerState::START; // 遇到非ID字符退回START input.unget(); // 將當(dāng)前ch推回輸入流 return Token(TokenType::IDENTIFIER, buffer); } break;參數(shù)說明buffer是std::string用于暫存當(dāng)前token的文本內(nèi)容如while。input.unget()是關(guān)鍵當(dāng)讀到while123時(shí)狀態(tài)機(jī)在1處發(fā)現(xiàn)非ID字符必須將1推回否則下一個(gè)nextToken()會(huì)丟失該字符導(dǎo)致語法分析器看到123卻找不到前面的while。TokenType::IDENTIFIER是枚舉值在util/Token.h中定義與parser.y中的%token IDENTIFIER嚴(yán)格對(duì)應(yīng)。3.2 關(guān)鍵token類型與parser.y的映射關(guān)系parser.y中聲明的token必須與Lexer返回的TokenType完全一致否則bison生成的分析器無法匹配。對(duì)照表如下Lexer返回的TokenTypeparser.y中聲明說明TokenType::INT%token INT整數(shù)字面量如123TokenType::IDENTIFIER%token IDENTIFIER變量名、函數(shù)名如x,mainTokenType::IF%token IF保留字lexer中預(yù)置關(guān)鍵字哈希表匹配TokenType::LPAREN%token LPAREN左括號(hào)(lexer中單字符直接返回注意IF/WHILE等保留字在Lexer.cpp的isKeyword()函數(shù)中用std::unordered_mapstd::string, TokenType查找而非在parser.y中用正則匹配。這樣保證ifx被識(shí)別為IDENTIFIER而非IF符合C語言規(guī)范。3.3 擴(kuò)展新token給語言加個(gè)nullptr關(guān)鍵字只需3步假設(shè)你要為教學(xué)語言添加nullptr空指針字面量類似C11需同步修改lexer和parser在util/Token.h中新增枚舉值enum class TokenType { // ... 其他類型 NULLPTR, // 新增 EOF_TOKEN };在Lexer.cpp的isKeyword()中添加映射static const std::unordered_mapstd::string, TokenType KEYWORDS { {if, TokenType::IF}, {while, TokenType::WHILE}, {nullptr, TokenType::NULLPTR}, // 新增 };在parser.y中聲明并使用%token NULLPTR // 在產(chǎn)生式中使用例如 primary_expr: IDENTIFIER | INT | NULLPTR // 新增產(chǎn)生式分支 ;驗(yàn)證方法寫測試文件test_null.cmm含int* p nullptr;執(zhí)行./compiler test_null.cmm應(yīng)輸出含NULLPTR的token流且無語法錯(cuò)誤。4. 語法分析器實(shí)戰(zhàn)bison生成的parser.cpp如何與手寫AST綁定parser/目錄下parser.y是核心文法定義它不直接生成目標(biāo)代碼而是通過語義動(dòng)作Semantic Actions構(gòu)建AST節(jié)點(diǎn)。理解這一綁定機(jī)制是修改文法或調(diào)試語法錯(cuò)誤的關(guān)鍵。4.1 parser.y結(jié)構(gòu)解析4個(gè)關(guān)鍵區(qū)塊的作用parser.y采用標(biāo)準(zhǔn)bison格式分為四部分%{ #include ast/AST.h // 1. C頭文件包含讓語義動(dòng)作能訪問AST類 #include util/Token.h %} %token INT IDENTIFIER IF WHILE LPAREN RPAREN SEMICOLON // 2. token聲明必須與Lexer一致 %% // 3. 語法規(guī)則區(qū)BNF產(chǎn)生式 C語義動(dòng)作 program: function_list { $$ new ProgramNode($1); }; function_list: /* empty */ { $$ new FunctionListNode(); } | function_list function { $$ $1-addFunction($2); }; function: IDENTIFIER LPAREN RPAREN SEMICOLON { $$ new FunctionNode($1); }; %% // 4. C輔助函數(shù)區(qū)供語義動(dòng)作調(diào)用 void yyerror(const char* s) { fprintf(stderr, Parse error: %s\n, s); }關(guān)鍵點(diǎn)說明%{...%}中#include ast/AST.h是強(qiáng)制要求$$ new ProgramNode($1)需要知道ProgramNode構(gòu)造函數(shù)簽名。若遺漏此行bison -d parser.y生成的parser.hpp中#define YYSTYPE會(huì)默認(rèn)為int導(dǎo)致$$ new ProgramNode(...)編譯失敗。function_list的遞歸定義采用右遞歸function_list function這是bison推薦寫法避免左遞歸導(dǎo)致棧溢出。$1,$2代表產(chǎn)生式右側(cè)第1、2個(gè)符號(hào)的語義值如$1是function_list節(jié)點(diǎn)指針$2是function節(jié)點(diǎn)指針。4.2 AST節(jié)點(diǎn)構(gòu)造語義動(dòng)作如何把語法樹“長”出來以function產(chǎn)生式為例其語義動(dòng)作{ $$ new FunctionNode($1); }執(zhí)行過程IDENTIFIER被lexer識(shí)別為TokenType::IDENTIFIER其文本值如main存于yylval.strVal在util/Token.h中定義。parser.cpp中yylex()返回IDENTIFIERbison引擎將yylval.strVal賦給$1。執(zhí)行new FunctionNode($1)調(diào)用FunctionNode構(gòu)造函數(shù)class FunctionNode : public Node { public: FunctionNode(const std::string name) : name_(name) {} private: std::string name_; };$$被賦值為新FunctionNode*作為該產(chǎn)生式的語義值傳遞給上層function_list的$2。參數(shù)說明yylval是bison全局聯(lián)合體union其定義在parser.hpp中由%union聲明控制。本項(xiàng)目中%union { std::string* strVal; int intVal; Node* nodePtr; }因此$1類型為std::string*。$$是當(dāng)前產(chǎn)生式的語義值類型由%type nodePtr指定在parser.y頂部聲明故$$ new FunctionNode(...)合法。4.3 調(diào)試語法錯(cuò)誤用bison -v生成詳細(xì)分析表當(dāng)./compiler報(bào)Parse error卻不知錯(cuò)在哪行時(shí)用bison的調(diào)試模式# 生成parser.output文件含LR(1)分析表和沖突報(bào)告 bison -v -d parser.y # 查看output文件關(guān)鍵節(jié) grep -A 10 conflicts: parser.output grep -A 20 state 5 parser.output典型輸出解讀state 5中shift/reduce conflict表示在某個(gè)狀態(tài)下既可移進(jìn)shift下一個(gè)token也可按某產(chǎn)生式規(guī)約reduce。例如if (cond) stmt else stmt的懸空else問題。parser.output中state 5的action table列出所有token的移進(jìn)/規(guī)約動(dòng)作對(duì)照你的測試文件test.cmm中出錯(cuò)位置的token即可定位是哪個(gè)產(chǎn)生式未覆蓋。提示bison -v生成的parser.output是調(diào)試語法分析器的后悔藥。我曾用它30分鐘定位到while循環(huán)缺少{}時(shí)parser.y中while_stmt產(chǎn)生式漏寫了SEMICOLON分支——沒有這個(gè)文件只能靠printf大法二分排查。5. 常見問題排查5個(gè)血淚經(jīng)驗(yàn)總結(jié)專治“編譯通過但運(yùn)行崩潰”這套代碼最大的坑不在編譯期而在運(yùn)行期——段錯(cuò)誤、空指針解引用、AST遍歷崩潰。以下是我在某高校助教期間收集的最高頻5個(gè)問題每條都按“現(xiàn)象→原因→解決”給出可立即操作的方案。5.1 現(xiàn)象./compiler test.cmm直接段錯(cuò)誤Segmentation fault無任何錯(cuò)誤提示原因lexer/中input.get()讀到文件末尾后繼續(xù)調(diào)用返回EOF值為-1而Lexer.cpp中ch被聲明為char有符號(hào)/無符號(hào)取決于平臺(tái)。在x86_64 Linux上char常為有符號(hào)-1被解釋為0xFF導(dǎo)致isalnum(0xFF)越界訪問。解決在Lexer.cpp的nextToken()開頭將ch聲明為intint ch input.get(); // 原為 char ch input.get(); while (ch ! EOF) { // ... 處理邏輯 ch input.get(); }驗(yàn)證用空文件empty.cmm測試應(yīng)輸出Parse error: syntax error而非段錯(cuò)誤。5.2 現(xiàn)象修改parser.y后make不重新生成parser.cpp導(dǎo)致新文法無效原因Makefile中parser_cpp目標(biāo)缺少依賴聲明未將parser.y列為parser/parser.cpp的先決條件。make檢測到parser.cpp時(shí)間戳新于parser.y便跳過重建。解決編輯Makefile在parser_cpp:規(guī)則下添加顯式依賴parser_cpp: parser/parser.y bison -d -o parser/parser.cpp parser/parser.y驗(yàn)證touch parser/parser.y make parser_cpp觀察parser/parser.cpp時(shí)間戳是否更新。5.3 現(xiàn)象AST節(jié)點(diǎn)析構(gòu)時(shí)double free or corruptionGDB顯示delete同一地址兩次原因ast/中節(jié)點(diǎn)采用裸指針管理如class FunctionNode { StmtList* body_; }但StmtList的addStmt()方法未深拷貝導(dǎo)致多個(gè)父節(jié)點(diǎn)指向同一子節(jié)點(diǎn)。當(dāng)父節(jié)點(diǎn)析構(gòu)時(shí)多次delete body_。解決在ast/StmtList.h中addStmt()改為深拷貝void addStmt(Stmt* stmt) { stmts_.push_back(new Stmt(*stmt)); // 原為 stmts_.push_back(stmt); }同時(shí)確保Stmt類有拷貝構(gòu)造函數(shù)ast/Stmt.h中Stmt(const Stmt other);。驗(yàn)證寫含嵌套if的測試文件用valgrind --leak-checkfull ./compiler test.cmm應(yīng)無Invalid write或Double free報(bào)告。5.4 現(xiàn)象make clean后make報(bào)fatal error: parser/parser.hpp: No such file or directory原因parser_cpp規(guī)則生成parser/parser.cpp和parser/parser.hpp但make clean只刪除了parser.cpp未刪除parser.hpp。下次make時(shí)g嘗試編譯卻找不到parser.hpp。解決修改Makefile的clean目標(biāo)clean: rm -f lexer/lexer.cpp parser/parser.cpp parser/parser.hpp rm -f compiler *.o驗(yàn)證make clean ls parser/應(yīng)無任何.cpp或.hpp文件。5.5 現(xiàn)象./compiler test.cmm輸出AST樹但四元式IR為空ir/目錄下無輸出原因main.cpp中IR生成調(diào)用被注釋或條件編譯屏蔽。檢查main.cpp末尾// IRGenerator irGen; // irGen.generate(astRoot);解決取消注釋并確保irGen作用域覆蓋整個(gè)流程IRGenerator irGen; irGen.generate(astRoot); irGen.print(); // 添加此行打印四元式驗(yàn)證運(yùn)行后應(yīng)輸出類似t1 a b的四元式序列而非僅AST縮進(jìn)打印。6. 進(jìn)階技巧用GDB調(diào)試AST構(gòu)建過程精準(zhǔn)定位語法樹“長歪”的節(jié)點(diǎn)當(dāng)你的修改導(dǎo)致AST結(jié)構(gòu)異常如if語句的then分支為空或while循環(huán)體被掛到錯(cuò)誤父節(jié)點(diǎn)靜態(tài)看代碼很難定位。此時(shí)需用GDB動(dòng)態(tài)跟蹤AST節(jié)點(diǎn)創(chuàng)建與連接過程。以下是我從翻車到熟練的完整路徑包含3個(gè)關(guān)鍵斷點(diǎn)設(shè)置和1個(gè)萬能檢查命令。6.1 設(shè)置GDB斷點(diǎn)聚焦AST節(jié)點(diǎn)構(gòu)造的3個(gè)黃金位置啟動(dòng)GDB并加載compilergdb ./compiler (gdb) b ast/FunctionNode.cpp:12 # 斷點(diǎn)1FunctionNode構(gòu)造函數(shù)入口 (gdb) b ast/IfNode.cpp:8 # 斷點(diǎn)2IfNode構(gòu)造函數(shù)含condition/then/else (gdb) b parser/parser.cpp:1250 # 斷點(diǎn)3bison生成的規(guī)約動(dòng)作行查parser.output找state (gdb) run test.cmm斷點(diǎn)選擇邏輯FunctionNode.cpp:12所有函數(shù)節(jié)點(diǎn)創(chuàng)建必經(jīng)之路可檢查name_是否正確賦值。IfNode.cpp:8IfNode構(gòu)造函數(shù)通常形如IfNode(Expr* cond, Stmt* then, Stmt* else)此處可檢查cond是否為BinaryOp節(jié)點(diǎn)then是否為BlockStmt。parser.cpp:1250parser.output中state 125的規(guī)約動(dòng)作行對(duì)應(yīng)if_stmt: IF LPAREN expr RPAREN stmt產(chǎn)生式此處可查看$3expr和$5stmt的內(nèi)存地址確認(rèn)是否為有效指針。6.2 GDB動(dòng)態(tài)檢查用3條命令揪出“掛錯(cuò)父節(jié)點(diǎn)”的罪魁禍?zhǔn)桩?dāng)GDB停在IfNode構(gòu)造函數(shù)時(shí)執(zhí)行以下命令# 1. 打印當(dāng)前節(jié)點(diǎn)地址和成員值 (gdb) p this (gdb) p *this # 2. 檢查condition指針是否有效非nullptr且可訪問 (gdb) p $3 (gdb) p *$3 # 3. 檢查then分支是否被意外賦值為nullptr常見于缺少else時(shí) (gdb) p $5 (gdb) p $5 0x0典型翻車場景與修復(fù)若p *$3報(bào)Cannot access memory at address 0x0說明expr產(chǎn)生式返回了空指針需檢查expr規(guī)則中是否所有分支都返回new ExprNode(...)而非遺漏return nullptr。若p $5 0x0為true但測試文件有if (x) { a1; }說明stmt產(chǎn)生式未覆蓋block_stmt分支需在parser.y中補(bǔ)充stmt: block_stmt { $$ $1; } | expr_stmt { $$ $1; } ;6.3 萬能AST驗(yàn)證技巧用dot格式導(dǎo)出可視化樹圖ast/目錄下通常含ASTPrinter.h它可將AST轉(zhuǎn)為Graphviz dot格式。啟用它只需兩步在main.cpp中取消注釋dot輸出#include ast/ASTPrinter.h // ... ASTPrinter printer(ast.dot); printer.visit(astRoot);生成圖片dot -Tpng ast.dot -o ast.png參數(shù)說明ASTPrinter遍歷AST時(shí)對(duì)每個(gè)節(jié)點(diǎn)調(diào)用visitXXX()生成node1 [labelIfNode]; node1 - node2;格式。dot -Tpng將文本轉(zhuǎn)換為PNG直觀顯示父子關(guān)系。若if節(jié)點(diǎn)的then邊指向nullptr圖中會(huì)顯示node1 - NULL一眼定位問題。從那以后我每次修改parser.y或ast/節(jié)點(diǎn)都強(qiáng)制走一遍make clean make ./compiler test.cmm dot -Tpng ast.dot哪怕只是加個(gè)分號(hào)。因?yàn)锳ST一旦“長歪”后面IR生成、優(yōu)化全是空中樓閣——這一步花5分鐘能省掉后面3小時(shí)GDB盲調(diào)。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取