用LLM學(xué)人工智能這事我實(shí)操了大半年期間踩了不少坑也總結(jié)出一套自認(rèn)為靠譜的方法?，F(xiàn)在網(wǎng)上討論最多的話題就是“LLM 是什么”“人工智能學(xué)習(xí)路徑怎么規(guī)劃”“大模型能不能幫我找工作”但真正把這兩個(gè)東西串起來、用LLM作為學(xué)習(xí)人工智能的杠桿來用的系統(tǒng)性文章其實(shí)不多。這篇文章就把我這半年“邊對(duì)話邊學(xué)習(xí)、邊做項(xiàng)目邊補(bǔ)理論”的經(jīng)驗(yàn)完整寫出來內(nèi)容包括整體思路、工具選型、環(huán)境搭建、具體的Prompt玩法、RAG知識(shí)庫實(shí)戰(zhàn)以及各種報(bào)錯(cuò)和幻覺問題的排查思路。適合剛?cè)腴TAI的學(xué)生、想轉(zhuǎn)大模型方向的工程師、以及所有覺得“知識(shí)點(diǎn)太散、資料太多啃不動(dòng)”的人。1. 先給LLM定好位它到底幫我們解決學(xué)習(xí)里的哪些事1.1 讓LLM當(dāng)“導(dǎo)師”而不是“答案機(jī)”很多人用LLM學(xué)習(xí)時(shí)犯的第一個(gè)錯(cuò)誤是把它當(dāng)成一個(gè)高級(jí)版搜索引擎。遇到不懂的概念隨手拋一句話模型給你一段看起來無懈可擊的解釋復(fù)制粘貼到筆記里關(guān)掉對(duì)話框然后發(fā)現(xiàn)自己根本記不住。這不是學(xué)習(xí)這是搬運(yùn)。真正能讓人理解一個(gè)概念的方式是反復(fù)追問。比如你問“什么是梯度下降”模型給出定義你繼續(xù)問“能不能用下山來比喻”又說“那為什么下山的時(shí)候要控制步長步長太大會(huì)怎樣”再說“如果步長太大導(dǎo)致震蕩有什么辦法解決”。這一連串追問的過程就是蘇格拉底式的主動(dòng)學(xué)習(xí)。LLM在這時(shí)候不會(huì)像老師一樣不耐煩也不會(huì)像搜索引擎一樣只丟給你一堆鏈接它可以按照你的理解水平隨時(shí)調(diào)整語言的顆粒度——這是它作為“AI導(dǎo)師”的核心價(jià)值。所以我給LLM的第一個(gè)定位是“私有助教”。它不負(fù)責(zé)替你學(xué)習(xí)但它負(fù)責(zé)把你引導(dǎo)到正確的思考路徑上。用過一段時(shí)間之后你會(huì)發(fā)現(xiàn)提問的質(zhì)量直接決定收獲的大小而提問的能力恰好又是做AI研究和工程的重要基本功。另一個(gè)被忽視的用法是讓LLM“反向考你”。我經(jīng)常在學(xué)完一個(gè)模塊后讓模型充當(dāng)面試官用一組遞進(jìn)式的問題來檢驗(yàn)我的理解。比如學(xué)完注意力機(jī)制我會(huì)讓它先出基礎(chǔ)問法再出需要綜合多個(gè)概念才能回答的問題最后直接變成一個(gè)15分鐘的模擬問答。這種“被迫輸出”的壓力測試比讀十篇論文都管用。1.2 先畫學(xué)習(xí)地圖再請(qǐng)LLM當(dāng)導(dǎo)游沒有地圖就出發(fā)所有學(xué)習(xí)都會(huì)變得混亂。人工智能這個(gè)領(lǐng)域最不缺的就是名詞機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、大模型、強(qiáng)化學(xué)習(xí)、知識(shí)圖譜、RAG、Agent、多模態(tài)……如果只是在對(duì)話里這里看一眼、那里問一句很容易學(xué)了三個(gè)月還停留在“AI就是ChatGPT”的水平。我梳理過一條適合絕大多數(shù)人的學(xué)習(xí)主線也建議你在第一天就用LLM來完善這條路線的細(xì)節(jié)。大致是這樣的數(shù)學(xué)基礎(chǔ)線性代數(shù)、概率論、微積分、最優(yōu)化→ 經(jīng)典機(jī)器學(xué)習(xí)算法回歸、分類、聚類、樹模型、SVM→ 神經(jīng)網(wǎng)絡(luò)與反向傳播 → 深度學(xué)習(xí)CNN、RNN、LSTM→ 注意力機(jī)制與Transformer → 大語言模型LLM專項(xiàng) → LLM應(yīng)用工程化RAG、Agent、微調(diào)、評(píng)測→ 具體方向CV、NLP、語音、多模態(tài)、AI安全等。為什么說“LLM是否屬于深度學(xué)習(xí)”這種問題不能含糊因?yàn)樗貌仍谥R(shí)體系的連接點(diǎn)上。LLM不是憑空冒出來的獨(dú)立學(xué)科它建立在Transformer架構(gòu)之上而Transformer又建立在深度學(xué)習(xí)中序列建模和注意力機(jī)制之上再往前又追溯到神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)——反向傳播和表示學(xué)習(xí)。如果你直接上手學(xué)LLM不理底層短期內(nèi)看“會(huì)調(diào)API”“會(huì)寫Prompt”好像還挺順但一旦遇到需要優(yōu)化模型效果、定位推理性能瓶頸、設(shè)計(jì)評(píng)測方案這類深一點(diǎn)的問題就會(huì)明顯感覺到基礎(chǔ)不夠用。更具體的做法是拿著上面這條路線去問LLM讓它給你按周拆分一份計(jì)劃同時(shí)標(biāo)出每個(gè)階段要學(xué)會(huì)哪些概念、能做哪些小項(xiàng)目、需要讀哪幾篇代表性論文。然后再讓它扮演一個(gè)“嚴(yán)格的導(dǎo)師”對(duì)照計(jì)劃檢查你有沒有跑偏。我自己就是這么用的幾乎每天都會(huì)讓模型幫我重新調(diào)整當(dāng)天的學(xué)習(xí)節(jié)奏效果非常明顯。2. 學(xué)習(xí)環(huán)境怎么搭模型選型、本地部署和Token基礎(chǔ)2.1 云端API和本地開源模型怎么選我見過不少人一開始就想自己訓(xùn)練一個(gè)幾十B的大模型結(jié)果連環(huán)境都沒跑通就放棄了。正確做法是分清兩種情況用模型和學(xué)模型。學(xué)模型的時(shí)候你應(yīng)該先熟練使用成熟的云端API把精力集中在理解問題和設(shè)計(jì)方案上而當(dāng)你開始研究模型內(nèi)部機(jī)制、想動(dòng)手跑推理、做評(píng)測、調(diào)Prompt、甚至微調(diào)時(shí)就需要本地部署一套開源模型。我整理了一張上手時(shí)的選型對(duì)照表可以保存下來參考。維度云端API本地開源模型上手難度低注冊(cè)拿Key就能用中需要裝環(huán)境、拉權(quán)重成本按Token計(jì)費(fèi)對(duì)話越多越費(fèi)錢一次性硬件/電費(fèi)成本長期免費(fèi)調(diào)用數(shù)據(jù)隱私數(shù)據(jù)離開本地敏感內(nèi)容不推薦完全離線適合私有數(shù)據(jù)實(shí)驗(yàn)可控性低模型版本和參數(shù)由平臺(tái)控制高可換量化級(jí)別、可調(diào)采樣參數(shù)、可看中間輸出性能上限高模型通常更大更聰明受顯卡顯存限制一般跑7B~14B為主學(xué)習(xí)價(jià)值中適合快速驗(yàn)證想法高能直觀感受推理速度、顯存占用、上下文限制我的建議是雙軌并行。平時(shí)討論概念、梳理知識(shí)點(diǎn)用云端模型因?yàn)樗斆鳌⒒卮鹳|(zhì)量高做項(xiàng)目實(shí)驗(yàn)、處理個(gè)人筆記、研究模型行為時(shí)用本地模型因?yàn)榭梢苑磸?fù)調(diào)試且沒有隱私顧慮。2.2 本地部署沒有想象的難我用的三步操作很多教程把本地跑LLM寫得特別嚇人又是CUDA又是vLLM又是Docker。其實(shí)現(xiàn)在開源生態(tài)已經(jīng)非常成熟本地部署一個(gè)小模型三步就能跑通。我推薦Ollama這套工具它把模型管理、權(quán)重的下載、推理服務(wù)、API提供全包了對(duì)新人極度友好。第一步安裝Ollama。安裝完成后在終端里執(zhí)行拉取模型命令。以阿里開源的Qwen系列為例命令非常簡單ollama pull qwen2.5:7b這條命令會(huì)把模型權(quán)重下載到本地磁盤不同模型的大小差異很大7B級(jí)別的模型量化后大約需要4到6GB空間14B級(jí)別大約需要9到11GB建議先根據(jù)自己電腦內(nèi)存情況選型號(hào)。第二步啟動(dòng)服務(wù)。Ollama裝好后會(huì)自動(dòng)在后臺(tái)運(yùn)行你也可以手動(dòng)確認(rèn)服務(wù)狀態(tài)ollama serve默認(rèn)服務(wù)地址是http://127.0.0.1:11434它的API設(shè)計(jì)和眾多大模型平臺(tái)保持兼容所以后面不管是接Python、接LangChain還是接支持OpenAI格式的工具都毫無壓力。第三步寫一段Python代碼調(diào)用它。下面這個(gè)例子是我常用的“最小可運(yùn)行版”復(fù)制的程度為零保證貼到編輯器里就能跑import requests payload { model: qwen2.5:7b, messages: [ {role: system, content: 你是一位嚴(yán)謹(jǐn)?shù)腁I學(xué)習(xí)導(dǎo)師。}, {role: user, content: 用一句話解釋什么是自注意力機(jī)制。} ] } resp requests.post(http://127.0.0.1:11434/api/chat, jsonpayload) print(resp.json()[message][content])運(yùn)行成功的話你會(huì)看到一條對(duì)自注意力機(jī)制的精煉解釋。這時(shí)候本地模型就是一個(gè)完整的推理環(huán)境了你可以改采樣溫度、限制回復(fù)長度、觀察不同參數(shù)對(duì)輸出的影響這些細(xì)微的體驗(yàn)是直接用云端API無法獲得的。2.3 必須搞懂的Token機(jī)制key、query、value在做什么開始真正使用LLM之后你早晚會(huì)遇到三個(gè)繞不開的詞Token、上下文窗口、key/value/query。不搞清楚它們你連“為什么同樣的對(duì)話要收不同費(fèi)用”“為什么長文本會(huì)報(bào)錯(cuò)”都理解不了。先說Token。模型并不按字處理文本而是把文本切分成一個(gè)個(gè)小塊每個(gè)塊稱為一個(gè)Token。中文里通常一個(gè)漢字等于一到兩個(gè)Token英文里一個(gè)單詞往往是一到兩個(gè)Token。你發(fā)給模型的輸入和模型生成的輸出都會(huì)被折算成Token數(shù)量來計(jì)費(fèi)云端API按Token收費(fèi)就是因?yàn)檫@個(gè)。上下文窗口則是模型一次性最多能容納的Token數(shù)量比如8K、32K、128K超過這個(gè)量就會(huì)被截?cái)嗷蛘咧苯訄?bào)錯(cuò)。至于key、query、value它們來自注意力機(jī)制。這里可以用圖書館找書來類比鑰匙是你手里的索書號(hào)卡片上面寫著這本書的分類編號(hào)和位置查詢是你腦子里“我現(xiàn)在要找什么主題的書”這個(gè)需求值則是你真正從書架上取下來、翻開來讀到的正文內(nèi)容。模型在處理一句話時(shí)會(huì)先給每個(gè)詞生成一個(gè)“鑰匙”key標(biāo)記它在句中的角色再根據(jù)當(dāng)前關(guān)注的位置生成“查詢”query去匹配所有鑰匙最后按匹配程度加權(quán)匯總對(duì)應(yīng)的“值”value。這個(gè)機(jī)制直接決定了模型能否正確捕捉“他”指代的是誰、“那件事”對(duì)應(yīng)的是哪件事也是LLM學(xué)習(xí)能力強(qiáng)大的底層原因。理解了這三者以后再遇到“注意力機(jī)制到底在做什么”“為什么Token一多又慢又貴”的問題你已經(jīng)能自己解答了。3. 三個(gè)“用LLM學(xué)AI”的高效場景我實(shí)測過3.1 分層解釋法一個(gè)Prompt把Transformer講透Transformer是當(dāng)代大語言模型的地基但也是無數(shù)新手的第一道坎。模型結(jié)構(gòu)圖一擺又是Encoder又是Decoder又是多頭注意力又是位置編碼很容易讓人勸退。我總結(jié)出一個(gè)叫“分層解釋法”的Prompt模板用它拆任何復(fù)雜概念都特別好用。核心思路是強(qiáng)制讓LLM用不同深度解釋同一個(gè)概念。具體Prompt我建議這樣寫請(qǐng)分別用四種層次向我解釋“Transformer中的自注意力機(jī)制” 第一層用小學(xué)生能聽懂的比喻 第二層用高中理科生能聽懂的類比 第三層用大學(xué)CS本科生的語言結(jié)合公式和結(jié)構(gòu)圖來描述 第四層用研究生論文級(jí)別的精確表述包含數(shù)學(xué)符號(hào)和技術(shù)術(shù)語。 四個(gè)層次互相獨(dú)立逐條輸出。輸出后請(qǐng)告訴我每個(gè)層次適合在學(xué)習(xí)的哪個(gè)階段使用。這個(gè)Prompt看起來簡單但它一舉解決了“解釋太淺學(xué)不到東西”和“解釋太深直接放棄”的矛盾。我自己的使用路徑是先讀第一層確保大致畫面感再跳到第二層把機(jī)制和“查詢、鑰匙”對(duì)應(yīng)起來然后認(rèn)真啃第三層看到“Q、K、V矩陣”這些術(shù)語時(shí)就不怕了最后才去看第四層驗(yàn)證自己的理解和嚴(yán)謹(jǐn)表述是否一致。之后務(wù)必追加一個(gè)問題“請(qǐng)幫我找出四個(gè)層次中描述不一致的地方并解釋為什么會(huì)不一致?！边@一步會(huì)逼模型思考邏輯自洽性也能幫你發(fā)現(xiàn)概念里最容易混淆的部分。3.2 場景二讓LLM當(dāng)出題老師倒逼自己輸出學(xué)習(xí)科學(xué)里有個(gè)共識(shí)輸入式的閱讀效率遠(yuǎn)低于輸出式的測試。自己以為懂了真做題時(shí)才發(fā)現(xiàn)漏洞百出。用LLM學(xué)習(xí)的一大優(yōu)勢就是可以低成本獲得無限數(shù)量的題目。我在學(xué)機(jī)器學(xué)習(xí)基礎(chǔ)時(shí)常用的一個(gè)Prompt是你是一位嚴(yán)格但耐心的機(jī)器學(xué)習(xí)老師。請(qǐng)基于以下知識(shí)點(diǎn)列出今天學(xué)的內(nèi)容出10道題 前5道是概念理解題 后5道是應(yīng)用題需要結(jié)合多個(gè)知識(shí)點(diǎn)才能解出。 出完先不要給答案等我回答后你再逐題批改并解釋我錯(cuò)在哪里。不要小看這個(gè)玩法。當(dāng)你被一道題卡住時(shí)你先自己想辦法、翻資料、推導(dǎo)實(shí)在不行再讓LLM給提示。這個(gè)提示過程本身就是深度思考。如果每次做題都先讓模型給答案效果會(huì)大打折扣。我還有一個(gè)進(jìn)階操作叫“AI反向質(zhì)疑”。它并不會(huì)一直順著你你完全可以讓它扮演一個(gè)杠精專門挑你表達(dá)中的漏洞我剛學(xué)完反向傳播下面是我的理解它通過鏈?zhǔn)椒▌t從輸出端往輸入方向計(jì)算梯度然后更新權(quán)重。 請(qǐng)你扮演一個(gè)嚴(yán)厲的批判者不停針對(duì)我的理解找出不嚴(yán)謹(jǐn)之處直到我給出的解釋能經(jīng)得起你的追問為止。這個(gè)辦法特別適合檢驗(yàn)自己是不是“半桶水”。真實(shí)場景中很多所謂“懂了”在批判者的連串追問下很快就崩了但崩掉的地方恰恰就是你需要補(bǔ)的地方。3.3 場景三用RAG給自己搭一套AI知識(shí)庫邊學(xué)邊練當(dāng)基礎(chǔ)知識(shí)積累到一定程度就可以進(jìn)階到一個(gè)特別重要的工程范式RAG檢索增強(qiáng)生成。RAG這個(gè)詞在熱搜詞里高頻出現(xiàn)它本質(zhì)上是“先檢索相關(guān)資料再讓模型基于這些資料生成答案”用來彌補(bǔ)模型知識(shí)陳舊、幻覺多的問題。我建議把它作為第二個(gè)實(shí)戰(zhàn)項(xiàng)目。方法是收集十幾篇人工智能經(jīng)典論文或者你正在看的教程文檔放到一個(gè)文件夾里然后寫一個(gè)腳本把它們切成一塊塊的文本轉(zhuǎn)成向量存起來再把提問和你的資料庫一起交給LLM回答。相關(guān)代碼我提供一個(gè)最小的參考from llama_index.core import VectorStoreIndex, SimpleDirectoryReader documents SimpleDirectoryReader(./papers).load_data() index VectorStoreIndex.from_documents(documents) query_engine index.as_query_engine() response query_engine.query(這篇論文提出的方法和之前的Attention Is All You Need相比核心區(qū)別是什么) print(response)如果還沒安裝LlamaIndex執(zhí)行pip install llama-index-core llama-index-readers-file即可。跑通之后一定要手工檢查兩件事一是切分粒度過小的塊會(huì)丟失上下文信息過大的塊會(huì)沖淡檢索相關(guān)性二是檢索質(zhì)量直接看模型到底從哪段文本里摘取了答案判斷命中有沒有道理。這個(gè)“查證據(jù)”的習(xí)慣能讓你對(duì)RAG的理解遠(yuǎn)超只會(huì)調(diào)庫的人。等你把RAG跑順了就可以把書簽、論文、課程筆記都丟進(jìn)去搭建一個(gè)屬于你自己的私有知識(shí)庫。到那時(shí)“用LLM學(xué)習(xí)人工智能”就從一種對(duì)話方式變成了一個(gè)真實(shí)的生產(chǎn)力系統(tǒng)。4. 學(xué)習(xí)路上的坑和方向選擇一次講清4.1 模型幻覺怎樣判斷LLM講的東西到底對(duì)不對(duì)使用LLM學(xué)習(xí)有個(gè)天然風(fēng)險(xiǎn)它一本正經(jīng)地胡說八道。如果你毫無保留地相信模型的解釋那還不如不學(xué)。我見過有人把模型說錯(cuò)的數(shù)學(xué)公式當(dāng)成定論記了一個(gè)月后來翻書才發(fā)現(xiàn)完全對(duì)不上。我的做法是“三角驗(yàn)證法”。第一層交叉驗(yàn)證遇到關(guān)鍵結(jié)論時(shí)不只問一個(gè)模型我會(huì)把同樣的問題分別提交給兩個(gè)不同模型對(duì)比它們的表述如果不一致就深挖原因。第二層證據(jù)驗(yàn)證讓模型給出推理過程或引用來源然后人工翻原始資料確認(rèn)。第三層實(shí)驗(yàn)驗(yàn)證但凡涉及公式、偽代碼、算法流程的內(nèi)容都要親手跑一遍或者手工模擬一個(gè)極小的數(shù)據(jù)樣本推導(dǎo)。模型說反向傳播要更新權(quán)重你就在紙上手推一個(gè)兩層的例子算一遍眼見為實(shí)。順便聊聊“LLM as Judge”這個(gè)熱門玩法。簡單說就是用LLM來評(píng)價(jià)LLM的答案比如讓一個(gè)模型打分、另一個(gè)模型生成回復(fù)。這個(gè)方法用在學(xué)習(xí)場景里就是讓兩個(gè)模型分別解釋同一個(gè)問題再做互評(píng)最后你來仲裁。它不僅能給你帶來多視角的答案還能訓(xùn)練你判斷答案質(zhì)量的能力。4.2 上下文窗口爆掉怎么辦RAG和長文本的區(qū)別用著用著你大概率會(huì)遇到一個(gè)報(bào)錯(cuò)prompt超長超過模型的上下文限制。很多人第一反應(yīng)是“那我買支持更長上下文的模型不就行了”這個(gè)思路表面看沒錯(cuò)但實(shí)際工程里把幾十份文檔直接塞進(jìn)上下文不僅費(fèi)用暴漲而且模型會(huì)迷失在海量信息里關(guān)鍵的答案反而找不準(zhǔn)。這里面有個(gè)原則能用檢索解決的不要硬塞上下文。RAG解決的是“從海量文檔里找到相關(guān)片段再回答”長上下文模型解決的是“給你一整本書然后回答”。前者定位精準(zhǔn)、成本低、可解釋性強(qiáng)后者閱讀全局但容易“淹死”在細(xì)節(jié)里。學(xué)習(xí)階段更推薦用RAG因?yàn)槟隳芮宄吹侥Ｐ鸵昧四男┪谋痉奖阈ｒ?yàn)這也是我把它作為重點(diǎn)項(xiàng)目的原因。如果你確實(shí)需要處理超長文本我還有一個(gè)小經(jīng)驗(yàn)可以先讓模型分章節(jié)做摘要再把摘要匯總起來做全局問答。這個(gè)“摘要金字塔”的方式比直接塞全文更穩(wěn)健也不容易觸發(fā)模型的上下文極限。4.3 常見API報(bào)錯(cuò)Provider rejected the request schema學(xué)習(xí)過程中你一定會(huì)動(dòng)手寫代碼調(diào)用API這時(shí)候可能會(huì)遇到類似“Provider rejected the request schema or tool payload”的報(bào)錯(cuò)信息。第一次看到這串英文時(shí)我也懵了連查了好幾個(gè)文檔才明白其實(shí)是請(qǐng)求體里的JSON結(jié)構(gòu)和你調(diào)用的模型不匹配。這類報(bào)錯(cuò)大概率是以下幾個(gè)原因工具的傳入?yún)?shù)類型和模型工具定義里聲明的不一致比如定義里要求字符串實(shí)際傳了數(shù)組JSON格式本身出錯(cuò)比如多了一個(gè)逗號(hào)、少了一個(gè)引號(hào)當(dāng)前模型版本不支持你設(shè)置的參數(shù)比如某些模型不支持工具調(diào)用你卻強(qiáng)行傳了tools字段。排查順序是先檢查JSON規(guī)范性再打印出你發(fā)送給服務(wù)端的完整請(qǐng)求體做對(duì)比最后確認(rèn)模型文檔中聲明支持哪些參數(shù)和工具類型。如果還解決不了就把請(qǐng)求中的擴(kuò)展字段逐步刪掉做二分定位。這個(gè)過程本身就是一次非常好的工程訓(xùn)練你會(huì)對(duì)API的底層設(shè)計(jì)有更深的理解。4.4 關(guān)于職業(yè)選擇AI Coding工程師算不算AI工程師這個(gè)問題在兩三年以前估計(jì)不會(huì)引來多少人爭論碼農(nóng)就是碼農(nóng)。但現(xiàn)在AI Coding工程師、提示詞工程師、人工智能訓(xùn)練師這些新頭銜滿天飛很多想入行的人開始糾結(jié)自己該朝哪個(gè)方向走。我的看法是AI Coding工程師本質(zhì)上仍然是軟件工程師但他的工作對(duì)象變成了AI應(yīng)用所以可以被視為AI應(yīng)用方向的一部分而傳統(tǒng)意義上的AI工程師、算法工程師更側(cè)重模型本身的設(shè)計(jì)、訓(xùn)練、優(yōu)化、評(píng)估。一個(gè)在“用模型”一個(gè)在“造模型”。這兩種角色都值得做但學(xué)習(xí)路徑重心不同AI Coding工程師需要強(qiáng)工程能力、熟練的模型集成能力、RAG和Agent開發(fā)經(jīng)驗(yàn)算法工程師則需要更深的數(shù)學(xué)和模型原理功底。我個(gè)人建議剛?cè)腴T的朋友不要過早把自己鎖死在某一個(gè)職位名詞上。先用LLM把人工智能的整個(gè)版圖摸一遍了解模型怎么訓(xùn)練、怎么部署、怎么調(diào)優(yōu)、怎么做應(yīng)用然后根據(jù)自己的興趣和現(xiàn)有技能做出選擇?！叭斯ぶ悄苡?xùn)練師職業(yè)畫像”里提到的數(shù)據(jù)標(biāo)注、模型評(píng)測、效果迭代這些工作恰好是普通人進(jìn)入行業(yè)比較現(xiàn)實(shí)的起點(diǎn)也是在學(xué)習(xí)過程中可以順手積累的能力。4.5 想拿AI做畢業(yè)設(shè)計(jì)有哪些靠譜的應(yīng)用方向很多學(xué)生朋友問過我怎么選人工智能相關(guān)的畢業(yè)設(shè)計(jì)課題。先說結(jié)論不要選“做一個(gè)通用問答機(jī)器人”這類毫無區(qū)分度的題目也不要選“訓(xùn)練一個(gè)新大模型”這種根本不切實(shí)際的題目。要選的是“把LLM用到具體場景中解決真實(shí)問題”的應(yīng)用方向。比較穩(wěn)妥的方向我舉幾個(gè)例子基于特定領(lǐng)域文檔的RAG問答系統(tǒng)比如醫(yī)療、法律、金融、教育基于LLM的單元測試生成與缺陷檢測這類題目工程落地性很強(qiáng)也貼近軟件工程實(shí)際LLM作為評(píng)估器的評(píng)測系統(tǒng)比如對(duì)作文自動(dòng)評(píng)分、對(duì)客服對(duì)話質(zhì)量自動(dòng)打分面向邊緣設(shè)備的輕量化LLM部署涉及量化和推理加速還有利用LLM自動(dòng)生成數(shù)據(jù)增強(qiáng)樣本的小型科研題目既容易出實(shí)驗(yàn)數(shù)據(jù)又不容易撞題。比如搜索結(jié)果里出現(xiàn)過“基于LLM的單元測試”“LLM驅(qū)動(dòng)的公立醫(yī)院債務(wù)風(fēng)險(xiǎn)智能預(yù)警”這類關(guān)鍵詞它們本質(zhì)上都是“LLM加一個(gè)垂直業(yè)務(wù)場景”的組合。做這類題目時(shí)要注意兩點(diǎn)一是把業(yè)務(wù)問題定義清楚拿到明確的數(shù)據(jù)來源二是設(shè)計(jì)好評(píng)測方案用數(shù)據(jù)說話不要只給一個(gè)沒人驗(yàn)證的演示Demo。能和實(shí)際業(yè)務(wù)結(jié)合又有清晰評(píng)估指標(biāo)的選題通常更容易通過。最后說幾句實(shí)在話這半年用LLM學(xué)習(xí)人工智能我最大的體會(huì)不是“模型真聰明”而是“學(xué)習(xí)方式被重新定義了”。過去遇到一個(gè)不懂的知識(shí)點(diǎn)我得翻書、搜博客、混論壇提問整個(gè)鏈路又慢又不確定現(xiàn)在我可以隨時(shí)找到一個(gè)永遠(yuǎn)在線、永遠(yuǎn)耐心、能按我的水平調(diào)整語氣的對(duì)話對(duì)象學(xué)習(xí)效率的提升是數(shù)量級(jí)的。當(dāng)然我也想說句潑冷水的話LLM只是工具它回答得再絲滑也不能代替你思考。凡是模型給你的話都要帶著驗(yàn)證的態(tài)度去對(duì)待凡是模型算不出來的題都要老老實(shí)實(shí)回到課本和原始論文里找答案。把LLM當(dāng)成“助教”而不是“真理”這一點(diǎn)想明白才談得上真正入門。最后分享一個(gè)我最近很常用的收尾動(dòng)作。當(dāng)你覺得今天學(xué)不動(dòng)的時(shí)候把今天學(xué)到的內(nèi)容扔給模型讓它用100字向一個(gè)完全不懂AI的人復(fù)述并指出你表達(dá)中“術(shù)語過多”“邏輯跳躍”的地方。這種壓縮和轉(zhuǎn)述的訓(xùn)練比單純打卡更能暴露理解漏洞。用LLM學(xué)習(xí)人工智能關(guān)鍵不在于你看了多少資料而在于你改變了自己的學(xué)習(xí)姿態(tài)——從被動(dòng)接收變成主動(dòng)對(duì)話、主動(dòng)質(zhì)疑、主動(dòng)輸出。