做AI Agent開(kāi)發(fā)這幾年我越來(lái)越覺(jué)得“分類(lèi)”這個(gè)詞被嚴(yán)重低估了。很多人一看“功能型AI Agent分類(lèi)”以為是教科書(shū)式的概念梳理實(shí)際工作中根本用不上。但我的真實(shí)體驗(yàn)恰恰相反如果你在動(dòng)手寫(xiě)第一行Agent代碼之前沒(méi)有先想清楚這個(gè)Agent到底屬于什么功能類(lèi)型、應(yīng)該按什么模式工作后期返工的概率幾乎百分之百。這篇是系列第18篇專(zhuān)門(mén)把功能型AI Agent的分類(lèi)這件事掰開(kāi)揉碎講清楚包括我踩過(guò)的坑、驗(yàn)證過(guò)的選型方法以及每種分類(lèi)背后的技術(shù)實(shí)現(xiàn)差異。1. 為什么必須先談“分類(lèi)”再談“開(kāi)發(fā)”先講一個(gè)我自己的教訓(xùn)。早先做一個(gè)內(nèi)部工單處理系統(tǒng)我一上來(lái)就套用了當(dāng)時(shí)很流行的ReAct模式讓大模型自由調(diào)用工具處理每一個(gè)工單。demo階段看著很驚艷大模型能自己查知識(shí)庫(kù)、寫(xiě)回復(fù)、開(kāi)工單。但一上真實(shí)業(yè)務(wù)就崩了工單處理流程有明確的合規(guī)分支大模型每跑一次走的路徑都不一樣有的工單直接被模型跳過(guò)審核就提交了。最后不得不推翻重做。問(wèn)題就出在沒(méi)有提前分類(lèi)。工單處理本質(zhì)上是“規(guī)則驅(qū)動(dòng)流程型”它需要的是流程引擎加有限分支決策而不是完全開(kāi)放式的模型自由發(fā)揮。如果當(dāng)時(shí)先進(jìn)行分類(lèi)判斷我根本不會(huì)選ReAct方案。功能型AI Agent的分類(lèi)本質(zhì)上不是學(xué)術(shù)研究而是開(kāi)發(fā)前的設(shè)計(jì)方案選擇。分類(lèi)的核心價(jià)值有三個(gè)第一選型不同功能類(lèi)型的Agent對(duì)應(yīng)不同的提示詞結(jié)構(gòu)、記憶策略和工具調(diào)用方式第二評(píng)估你只有知道Agent屬于哪個(gè)類(lèi)型才知道該用什么樣的指標(biāo)去衡量它好不好用第三排查系統(tǒng)出問(wèn)題的時(shí)候分類(lèi)能幫你快速鎖定問(wèn)題層是規(guī)劃層、工具層還是決策層。需要說(shuō)明的是我這里說(shuō)的“功能型Agent”是指那些要解決具體業(yè)務(wù)任務(wù)、跑在生產(chǎn)環(huán)境里的Agent不是實(shí)驗(yàn)室里研究通用智能的那種。所以分類(lèi)的維度也完全是實(shí)用導(dǎo)向。我常用的分類(lèi)維度有四個(gè)任務(wù)粒度、決策機(jī)制、交互方式、功能定位。任何一個(gè)真實(shí)的Agent都可以用這四個(gè)維度去刻畫(huà)而且大概率會(huì)同時(shí)屬于多個(gè)類(lèi)別。這正是分類(lèi)真正有用的地方——它不是一個(gè)標(biāo)簽而是一組設(shè)計(jì)約束。2. 按任務(wù)粒度單體執(zhí)行型與復(fù)合規(guī)劃型2.1 單任務(wù)執(zhí)行型Agent單任務(wù)執(zhí)行型Agent是指一次只完成一件明確事情的Agent。典型的例子包括文本摘要Agent、敏感詞審核Agent、格式轉(zhuǎn)換Agent、翻譯Agent。這類(lèi)Agent的實(shí)現(xiàn)通常非常直接一個(gè)模型調(diào)用加上輸入輸出校驗(yàn)和失敗重試邏輯。很多人覺(jué)得這種“一個(gè)小功能”不算Agent因?yàn)樗?jiǎn)單了。但我恰恰認(rèn)為單任務(wù)執(zhí)行型是功能型Agent里數(shù)量最多、也最容易被做砸的一類(lèi)。做過(guò)生產(chǎn)環(huán)境的都知道一個(gè)翻譯Agent跑在內(nèi)部系統(tǒng)里用戶(hù)傳上來(lái)一個(gè)幾百M(fèi)B的文檔你怎么切分、怎么保持上下文、怎么處理模型超時(shí)這里面坑多得很。雖然任務(wù)單步但工程復(fù)雜度一點(diǎn)不少。實(shí)現(xiàn)這類(lèi)Agent的關(guān)鍵不在模型而在工程兜底。輸入檢查要前置格式不對(duì)直接拒絕別讓模型處理臟數(shù)據(jù)輸出要做結(jié)構(gòu)化校驗(yàn)讓模型輸出JSON就嚴(yán)格校驗(yàn)字段缺了就重試還要預(yù)留降級(jí)方案模型服務(wù)不可用的時(shí)候至少要返回一個(gè)明確錯(cuò)誤而不是讓用戶(hù)干等。我見(jiàn)過(guò)太多團(tuán)隊(duì)把精力放在調(diào)prompt上結(jié)果真正救命的卻是這些看起來(lái)不性感的工程邏輯。2.2 復(fù)合規(guī)劃型Agent復(fù)合規(guī)劃型Agent面對(duì)的是一個(gè)大目標(biāo)需要自己拆解成多個(gè)子任務(wù)再依次執(zhí)行。典型場(chǎng)景包括自動(dòng)生成調(diào)研報(bào)告、智能排期、故障根因分析。這類(lèi)Agent才算真正用上了“規(guī)劃”能力也是目前最容易翻車(chē)的類(lèi)型。實(shí)現(xiàn)路線(xiàn)主要有兩條。一條是ReAct風(fēng)格的循環(huán)讓模型在“思考-行動(dòng)-觀察”之間反復(fù)迭代另一條是Plan-and-Execute先讓模型生成一份任務(wù)清單然后逐個(gè)執(zhí)行。我的使用感受是ReAct靈活但不可控每一步都依賴(lài)模型判斷token消耗大且容易跑偏Plan-and-Execute前期可控但一旦計(jì)劃第一條就錯(cuò)了后面全跟著錯(cuò)而且缺乏動(dòng)態(tài)修正能力。所以實(shí)際項(xiàng)目里我更傾向兩種結(jié)合先生成計(jì)劃把計(jì)劃交給一個(gè)執(zhí)行器執(zhí)行過(guò)程中如果遇到計(jì)劃外的情況再回到規(guī)劃器做局部重置。復(fù)合規(guī)劃型Agent的難點(diǎn)有三個(gè)任務(wù)拆分粒度、子任務(wù)依賴(lài)關(guān)系、部分失敗回滾。任務(wù)拆分太粗子任務(wù)本身還是一個(gè)大問(wèn)題拆分太細(xì)規(guī)劃開(kāi)銷(xiāo)又過(guò)大。子任務(wù)之間如果有依賴(lài)執(zhí)行順序錯(cuò)了整個(gè)流程就廢了。部分失敗回滾更是硬骨頭頭幾個(gè)子任務(wù)成功了、后面失敗了怎么處理中間狀態(tài)這需要非常嚴(yán)謹(jǐn)?shù)臓顟B(tài)設(shè)計(jì)。注意在任務(wù)粒度上我的經(jīng)驗(yàn)是“能單步不復(fù)合”。如果一個(gè)任務(wù)不需要?jiǎng)討B(tài)規(guī)劃就能完成就老老實(shí)實(shí)用單任務(wù)Agent。很多人為了技術(shù)炫技硬把簡(jiǎn)單任務(wù)搞成多步規(guī)劃結(jié)果成本和風(fēng)險(xiǎn)都翻倍。對(duì)比項(xiàng)單任務(wù)執(zhí)行型復(fù)合規(guī)劃型任務(wù)特征目標(biāo)單一、邊界清晰目標(biāo)開(kāi)放、需要拆解實(shí)現(xiàn)復(fù)雜度低工程兜底為主高需要規(guī)劃與狀態(tài)管理穩(wěn)定性高容易測(cè)試低路徑不確定性大適用場(chǎng)景翻譯、審核、格式轉(zhuǎn)換調(diào)研、排期、診斷典型成本一次模型調(diào)用多次模型調(diào)用工具調(diào)用3. 按決策機(jī)制規(guī)則驅(qū)動(dòng)、模型驅(qū)動(dòng)與混合決策3.1 規(guī)則驅(qū)動(dòng)型Agent規(guī)則驅(qū)動(dòng)型Agent的決策不是模型做的而是由預(yù)定義的規(guī)則、狀態(tài)機(jī)或工作流引擎控制。它的特點(diǎn)是穩(wěn)定、可解釋、成本低。模型在里面的角色往往是執(zhí)行某個(gè)節(jié)點(diǎn)上的具體任務(wù)而不是決定下一步做什么。典型場(chǎng)景包括流程審批Agent、定時(shí)任務(wù)Agent、有明確分支導(dǎo)向的自動(dòng)化流程。打個(gè)比方一個(gè)合同歸檔Agent它的流程可能是“收到合同→檢查是否帶簽章→帶簽章走歸檔→不帶簽章通知補(bǔ)充”這個(gè)流程里的分支判斷完全可以由規(guī)則完成模型只需要在“識(shí)別簽章位置”這一步出力。這種Agent的優(yōu)點(diǎn)是出問(wèn)題好排查每一步都有日志、有明確狀態(tài)缺點(diǎn)是僵化流程一變就得改代碼。如果你發(fā)現(xiàn)業(yè)務(wù)流程三個(gè)月一小改、半年一大改那純規(guī)則驅(qū)動(dòng)會(huì)讓維護(hù)者想罵人。合理的做法是把規(guī)則做成可配置的甚至用可視化的工作流編輯器去管理。3.2 模型驅(qū)動(dòng)型Agent模型驅(qū)動(dòng)型Agent的決策核心是大模型系統(tǒng)只提供工具集和約束條件具體走哪條路徑完全由模型根據(jù)上下文判斷。這種類(lèi)型適合任務(wù)開(kāi)放、沒(méi)有固定流程的場(chǎng)景比如開(kāi)放域問(wèn)答、創(chuàng)意生成、復(fù)雜問(wèn)題探索。技術(shù)實(shí)現(xiàn)上常見(jiàn)的模式有三種。第一種是ReAct模型循環(huán)推理決策第二種是反思機(jī)制讓模型先做一次再自己對(duì)輸出做批評(píng)修正第三種是樹(shù)狀搜索讓模型展開(kāi)多條路徑再評(píng)估取舍。聽(tīng)起來(lái)很像是AI Agent的標(biāo)準(zhǔn)玩法實(shí)際落地時(shí)要意識(shí)到模型驅(qū)動(dòng)的代價(jià)是極高的不確定性同一輸入兩次運(yùn)行可能走完全不同的路徑這對(duì)生產(chǎn)系統(tǒng)是很頭痛的。線(xiàn)上環(huán)境用模型驅(qū)動(dòng)型Agent必須有預(yù)算控制、步驟上限和時(shí)間限制否則一個(gè)失控循環(huán)可能讓賬戶(hù)余額歸零。3.3 混合決策型Agent第三種類(lèi)型是我個(gè)人最推薦在真實(shí)業(yè)務(wù)里用的混合決策型。它的核心思想非常簡(jiǎn)單——能用規(guī)則判定的就不讓模型決定規(guī)則覆蓋不了的場(chǎng)景再讓模型兜底。這樣做的好處非常明顯。第一成本低大部分簡(jiǎn)單流量走規(guī)則只有少數(shù)復(fù)雜情況才調(diào)用模型第二穩(wěn)定規(guī)則分支的行為是可以預(yù)先測(cè)試的第三可控模型出錯(cuò)時(shí)規(guī)則層可以作為安全網(wǎng)攔截。舉一個(gè)我做過(guò)的問(wèn)題分類(lèi)Agent實(shí)例。用戶(hù)提交一個(gè)技術(shù)工單系統(tǒng)先做關(guān)鍵詞和正則匹配能命中已知問(wèn)題類(lèi)型就直接打標(biāo)簽命中不了再交給大模型做語(yǔ)義理解。實(shí)測(cè)下來(lái)這個(gè)Agent的準(zhǔn)確率比純模型高因?yàn)樗烊粶p少了模型幻覺(jué)的機(jī)會(huì)同時(shí)成本降了60%因?yàn)榇蠖鄶?shù)工單根本不需要進(jìn)模型。混合決策的關(guān)鍵在于設(shè)計(jì)好“交給模型”的觸發(fā)條件。我的建議是如果規(guī)則判定置信度很低或者規(guī)則覆蓋范圍外才調(diào)用模型。這個(gè)置信度閾值需要在真實(shí)數(shù)據(jù)上反復(fù)校準(zhǔn)太嚴(yán)格會(huì)把本該規(guī)則處理的拉去模型成本降不下來(lái)太寬松又會(huì)讓很多模型能處理的簡(jiǎn)單任務(wù)進(jìn)規(guī)則層準(zhǔn)確率受影響。一般我會(huì)習(xí)慣設(shè)兩個(gè)閾值高閾值直接采用規(guī)則結(jié)果低閾值直接給人工兜底中間地帶留給模型。決策機(jī)制優(yōu)點(diǎn)缺點(diǎn)適合場(chǎng)景規(guī)則驅(qū)動(dòng)穩(wěn)定、便宜、可解釋僵化、維護(hù)成本高流程固定的業(yè)務(wù)模型驅(qū)動(dòng)靈活、適應(yīng)開(kāi)放任務(wù)不可控、成本高探索型、開(kāi)放型任務(wù)混合決策平衡成本與靈活需要設(shè)計(jì)觸發(fā)邏輯大部分生產(chǎn)環(huán)境4. 按交互方式工具調(diào)用、知識(shí)檢索與系統(tǒng)操作4.1 工具調(diào)用型Agent工具調(diào)用型Agent的核心特征是它能通過(guò)函數(shù)調(diào)用機(jī)制去使用外部工具。你給模型一個(gè)工具清單每個(gè)工具都有名稱(chēng)、描述、參數(shù)結(jié)構(gòu)模型在需要時(shí)自主選擇調(diào)用哪個(gè)工具、傳什么參數(shù)。這就是目前大模型平臺(tái)普遍支持的函數(shù)調(diào)用機(jī)制。這類(lèi)Agent最常見(jiàn)的應(yīng)用場(chǎng)景是信息聚合和操作執(zhí)行。比如一個(gè)出行助手Agent它需要同時(shí)查天氣、查車(chē)票、查酒店就可以分別封裝成三個(gè)工具模型根據(jù)用戶(hù)需求決定調(diào)用順序。實(shí)現(xiàn)工具調(diào)用型Agent的時(shí)候最容易出問(wèn)題的其實(shí)是參數(shù)校驗(yàn)。模型給出的參數(shù)經(jīng)?！跋衲Ｏ駱拥?xì)節(jié)錯(cuò)誤”前端一個(gè)時(shí)間參數(shù)可能差一天文件名可能多了個(gè)空格。所以工具調(diào)用層必須做參數(shù)強(qiáng)校驗(yàn)不能直接把模型返回的參數(shù)透?jìng)鹘o外部系統(tǒng)。另外工具的描述要寫(xiě)清楚。很多開(kāi)發(fā)者隨便寫(xiě)一句描述模型就無(wú)法準(zhǔn)確理解工具能力和邊界。我的習(xí)慣是每個(gè)工具描述里說(shuō)明它能做什么、不能做什么、有哪些限制條件甚至給一兩個(gè)使用范例。描述寫(xiě)得好工具調(diào)用的準(zhǔn)確率能明顯提升。4.2 知識(shí)檢索型Agent知識(shí)檢索型Agent致力于解決一個(gè)核心問(wèn)題讓模型回答基于特定知識(shí)庫(kù)而不是憑空編造。實(shí)現(xiàn)上就是完整的RAG管線(xiàn)包括文檔解析、文本切分、向量化、召回、重排、生成。這類(lèi)Agent在企業(yè)內(nèi)部特別常見(jiàn)比如制度問(wèn)答Agent、產(chǎn)品手冊(cè)客服Agent、技術(shù)文檔助手。RAG管線(xiàn)的坑集中在中間環(huán)節(jié)。文檔切分粒度不對(duì)語(yǔ)義就被切斷向量化模型選得不對(duì)召回質(zhì)量直接崩召回條數(shù)設(shè)得太少上下文不足設(shè)得太多又可能把噪聲引入生成。我個(gè)人的經(jīng)驗(yàn)是重排這個(gè)環(huán)節(jié)別省。第一輪向量召回可以寬一點(diǎn)召回二三十條然后用重排模型精排取前三到五條效果比單純提高向量模型分?jǐn)?shù)來(lái)得實(shí)在。知識(shí)檢索型Agent還有一個(gè)容易忽略的評(píng)估維度答對(duì)是及格線(xiàn)答不出來(lái)才是加分項(xiàng)。很多Agent為了不冷場(chǎng)強(qiáng)行從知識(shí)庫(kù)里拽一堆弱相關(guān)內(nèi)容來(lái)編答案。這比直接說(shuō)“不知道”還要糟糕。所以生產(chǎn)環(huán)境的檢索Agent我強(qiáng)烈建議加一個(gè)“相關(guān)性閾值”召回內(nèi)容得分過(guò)低就直接輸出“當(dāng)前知識(shí)庫(kù)中暫無(wú)對(duì)應(yīng)內(nèi)容”同時(shí)把這個(gè)查詢(xún)記錄下來(lái)供人工補(bǔ)充知識(shí)。4.3 系統(tǒng)操作型Agent系統(tǒng)操作型Agent不只是調(diào)用幾個(gè)API它實(shí)際上是在操作一個(gè)業(yè)務(wù)系統(tǒng)往往帶有狀態(tài)變更。典型場(chǎng)景包括自動(dòng)化測(cè)試Agent、數(shù)據(jù)遷移Agent、批量狀態(tài)更新Agent。這類(lèi)Agent執(zhí)行的動(dòng)作是不可逆的所以安全設(shè)計(jì)是它的第一優(yōu)先級(jí)。我對(duì)系統(tǒng)操作型Agent的最低要求是所有操作必須有審計(jì)日志所有變更類(lèi)操作必須有確認(rèn)步驟所有工具必須有權(quán)限邊界。也就是說(shuō)一個(gè)Agent可以查詢(xún)訂單不代表它可以修改訂單它在測(cè)試環(huán)境可以刪除數(shù)據(jù)但生產(chǎn)環(huán)境的刪除工具壓根不暴露給模型。操作型Agent還特別依賴(lài)“冪等性”設(shè)計(jì)。因?yàn)槟Ｐ涂赡芤驗(yàn)槌瑫r(shí)重復(fù)調(diào)用同一個(gè)工具如果這個(gè)工具不是冪等的就可能產(chǎn)生重復(fù)訂單、重復(fù)扣費(fèi)。做這類(lèi)Agent時(shí)最好給關(guān)鍵工具增加冪等鍵機(jī)制同一任務(wù)的操作只允許執(zhí)行一次。這不是錦上添花而是保命用的。4.4 三種交互方式的組合實(shí)際產(chǎn)品里三種交互方式往往同時(shí)存在。一個(gè)成熟的AI助手很可能同時(shí)具備工具調(diào)用能力查天氣、建日程、知識(shí)檢索能力翻文檔找答案、系統(tǒng)操作能力幫你改配置。分類(lèi)的意義在于搞清楚主從關(guān)系。我的建議是確定一個(gè)主導(dǎo)交互方式其他作為輔助。主導(dǎo)方式?jīng)Q定了核心架構(gòu)。如果主導(dǎo)是知識(shí)檢索那重心就在知識(shí)管線(xiàn)的質(zhì)量如果主導(dǎo)是工具調(diào)用那重心就在工具體系的穩(wěn)定和權(quán)限。把主導(dǎo)方式定下來(lái)團(tuán)隊(duì)的開(kāi)發(fā)重心、測(cè)試用例設(shè)計(jì)、監(jiān)控指標(biāo)就都清晰了。5. 按功能定位內(nèi)容生產(chǎn)、數(shù)據(jù)分析、流程協(xié)同與對(duì)話(huà)服務(wù)5.1 內(nèi)容生產(chǎn)型Agent內(nèi)容生產(chǎn)型Agent的輸入和輸出都是內(nèi)容。這類(lèi)Agent不負(fù)責(zé)決策業(yè)務(wù)邏輯不操作業(yè)務(wù)系統(tǒng)它的產(chǎn)物就是文字、代碼、圖片、音視頻。典型應(yīng)用包括文案生成Agent、代碼生成Agent、報(bào)告撰寫(xiě)Agent。這類(lèi)Agent的核心矛盾是“速度與質(zhì)量”。用大模型直接生成的內(nèi)容速度快但容易模板化要讓內(nèi)容真正可用必須加入大量后處理。以營(yíng)銷(xiāo)文案為例我的做法是先生成多個(gè)候選版本再用一個(gè)評(píng)審Agent做質(zhì)量打分最后按分?jǐn)?shù)篩出最佳同時(shí)還要加敏感詞、品牌詞合規(guī)校驗(yàn)。內(nèi)容型Agent的評(píng)估方式也很直接主要看生成內(nèi)容的可用率而不是好不好看。如果10篇里能直接用的只有2篇那這個(gè)Agent在業(yè)務(wù)上沒(méi)有價(jià)值。5.2 數(shù)據(jù)分析型Agent數(shù)據(jù)分析型Agent的定位是幫助用戶(hù)從數(shù)據(jù)里拿到結(jié)論。它的工作模式一般是理解用戶(hù)的問(wèn)題、生成查詢(xún)比如SQL、執(zhí)行查詢(xún)、解讀結(jié)果、輸出結(jié)論。典型應(yīng)用場(chǎng)景包括經(jīng)營(yíng)日?qǐng)?bào)Agent、數(shù)據(jù)問(wèn)答Agent、異常指標(biāo)歸因Agent。這里要區(qū)分兩種形態(tài)。一種是只做“查詢(xún)生成”模型負(fù)責(zé)寫(xiě)SQL交給查詢(xún)引擎執(zhí)行結(jié)果直接給用戶(hù)另一種是“全鏈路解讀”模型不僅要查詢(xún)還要結(jié)合上下文業(yè)務(wù)知識(shí)做歸因分析比如“為什么昨日轉(zhuǎn)化率下降”。后者的技術(shù)難度高很多需要融合業(yè)務(wù)元數(shù)據(jù)、歷史基線(xiàn)數(shù)據(jù)和知識(shí)庫(kù)。實(shí)現(xiàn)數(shù)據(jù)分析型Agent時(shí)我最看重的是查詢(xún)準(zhǔn)確性。這里的一個(gè)現(xiàn)實(shí)問(wèn)題是模型生成的SQL經(jīng)常跑不通或者跑通了但結(jié)果偏離問(wèn)題本意。建議先在測(cè)試庫(kù)上做SQL正確性驗(yàn)證通過(guò)后再在生產(chǎn)庫(kù)執(zhí)行同時(shí)對(duì)用戶(hù)的模糊問(wèn)題要做澄清比如“這個(gè)季度的銷(xiāo)售額”到底指的是訂單金額還是實(shí)收金額不澄清就瞎猜的結(jié)果一定不準(zhǔn)。5.3 流程協(xié)同型Agent流程協(xié)同型Agent更像是一個(gè)“編排者”它不直接完成所有工作而是把不同的人和系統(tǒng)拉到一個(gè)流程里推動(dòng)事情往前走。典型場(chǎng)景包括項(xiàng)目管理Agent、工單流轉(zhuǎn)Agent、跨部門(mén)協(xié)作Agent。這類(lèi)Agent的設(shè)計(jì)核心是“狀態(tài)機(jī)”。一個(gè)流程的每個(gè)節(jié)點(diǎn)有明確的狀態(tài)待處理、處理中、已完成、已駁回。Agent的職責(zé)是根據(jù)當(dāng)前狀態(tài)決定下一步動(dòng)作可能調(diào)用模型可能在系統(tǒng)間同步數(shù)據(jù)可能通知對(duì)應(yīng)負(fù)責(zé)人。我之前踩過(guò)一個(gè)大坑就是沒(méi)有把狀態(tài)機(jī)設(shè)計(jì)清楚導(dǎo)致一個(gè)訂單卡在“已支付”和“待審核”兩個(gè)狀態(tài)里用戶(hù)支付了但系統(tǒng)遲遲不推進(jìn)。后來(lái)每次做流程協(xié)同型Agent第一件事就是畫(huà)出狀態(tài)流轉(zhuǎn)圖用代碼嚴(yán)格約束每個(gè)狀態(tài)能發(fā)生什么動(dòng)作。流程協(xié)同型Agent的評(píng)估指標(biāo)也很特殊主要看“流轉(zhuǎn)有效率”也就是工單在Agent介入后平均處理時(shí)長(zhǎng)下降了沒(méi)卡單率降低了沒(méi)。這類(lèi)Agent根本不在于聰明不聰明而在于流程治理是否嚴(yán)密。5.4 對(duì)話(huà)服務(wù)型Agent對(duì)話(huà)服務(wù)型Agent是用戶(hù)感知最強(qiáng)的一類(lèi)大家平時(shí)聊的客服Agent、銷(xiāo)售助手、閑聊伴侶都是這一類(lèi)。它的核心特征是多輪對(duì)話(huà)、上下文管理、用戶(hù)意圖識(shí)別和情感識(shí)別。對(duì)話(huà)服務(wù)型Agent的技術(shù)重點(diǎn)和前幾類(lèi)不一樣。第一多輪狀態(tài)管理用戶(hù)可能在第四輪才說(shuō)出真實(shí)需求Agent要能結(jié)合前三輪的上下文理解不能每輪都當(dāng)新對(duì)話(huà)處理第二上下文長(zhǎng)度管理多輪對(duì)話(huà)累計(jì)的token增長(zhǎng)很快需要做滑窗式摘要壓縮第三兜底策略用戶(hù)問(wèn)了一個(gè)Agent無(wú)法回答的問(wèn)題時(shí)怎么自然過(guò)渡而不讓對(duì)話(huà)死掉。我做過(guò)一個(gè)客服類(lèi)型的Agent印象最深的教訓(xùn)是“過(guò)度承諾”。模型在對(duì)話(huà)里容易輸出“好的我已為您退費(fèi)”這種話(huà)但實(shí)際上系統(tǒng)根本沒(méi)有執(zhí)行退費(fèi)。這類(lèi)問(wèn)題的解決方案是對(duì)話(huà)服務(wù)型Agent的每一條承諾都必須綁定到具體的工具執(zhí)行結(jié)果上工具沒(méi)成功對(duì)話(huà)里就不能主動(dòng)宣告成功。模型生成回復(fù)前要把“是否已執(zhí)行成功”作為關(guān)鍵信息注入提示詞。功能定位輸入輸出特征核心技術(shù)點(diǎn)主要評(píng)估指標(biāo)內(nèi)容生產(chǎn)型內(nèi)容到內(nèi)容多版本生成、評(píng)審過(guò)濾內(nèi)容可用率數(shù)據(jù)分析型問(wèn)題到結(jié)論查詢(xún)生成、歸因分析查詢(xún)準(zhǔn)確率、結(jié)論正確率流程協(xié)同型狀態(tài)到動(dòng)作狀態(tài)機(jī)、流程治理流轉(zhuǎn)有效率、卡單率對(duì)話(huà)服務(wù)型對(duì)話(huà)到對(duì)話(huà)多輪記憶、承諾控制任務(wù)完成率、用戶(hù)滿(mǎn)意度6. 實(shí)操選型一套可落地的分類(lèi)決策方法前面講的都是分類(lèi)維度現(xiàn)在說(shuō)怎么落地。我把自己的選型過(guò)程整理成一套方法每次做新Agent都按這個(gè)順序走一遍。第一步明確任務(wù)目標(biāo)。用一句話(huà)說(shuō)清楚這個(gè)Agent要完成什么業(yè)務(wù)目標(biāo)寫(xiě)不出來(lái)就說(shuō)明需求本身不清晰。第二步判斷任務(wù)粒度。這個(gè)任務(wù)能否在一個(gè)步驟內(nèi)完成如果可以直接走單任務(wù)執(zhí)行型如果不能畫(huà)一下子任務(wù)清單準(zhǔn)備做復(fù)合規(guī)劃型。第三步分析決策確定性。問(wèn)自己任務(wù)的每一步是否都有明確規(guī)定如果有走規(guī)則驅(qū)動(dòng)如果完全沒(méi)有走模型驅(qū)動(dòng)如果部分明確、部分開(kāi)放走混合決策。大多數(shù)業(yè)務(wù)場(chǎng)景都落在混合決策上。第四步確定主導(dǎo)交互方式。任務(wù)是否需要調(diào)用外部工具是否需要訪(fǎng)問(wèn)知識(shí)庫(kù)是否需要修改系統(tǒng)狀態(tài)按優(yōu)先級(jí)排一排序哪個(gè)是核心能力哪個(gè)就是主導(dǎo)交互方式。第五步歸類(lèi)功能定位。任務(wù)的核心產(chǎn)物是內(nèi)容、結(jié)論、流程推進(jìn)還是對(duì)話(huà)體驗(yàn)功能定位決定了你的評(píng)估指標(biāo)和驗(yàn)收標(biāo)準(zhǔn)。第六步評(píng)估資源約束。算一下模型調(diào)用預(yù)算、響應(yīng)時(shí)間要求、權(quán)限邊界這些制約因素會(huì)反過(guò)來(lái)調(diào)整前面的分類(lèi)決策。我拿一個(gè)“合同審查Agent”舉例。它的目標(biāo)一句話(huà)是“自動(dòng)檢查合同文本的風(fēng)險(xiǎn)點(diǎn)并輸出審查意見(jiàn)”。任務(wù)粒度上它需要讀合同、抽條款、比對(duì)規(guī)則庫(kù)、輸出報(bào)告是復(fù)合任務(wù)決策機(jī)制上條款識(shí)別用模型風(fēng)險(xiǎn)判定有明確的合規(guī)規(guī)則是混合決策交互方式上它需要檢索合同模板庫(kù)和法規(guī)庫(kù)主導(dǎo)是知識(shí)檢索加內(nèi)容生成功能定位上它產(chǎn)出的是審查報(bào)告屬于內(nèi)容生產(chǎn)型。經(jīng)過(guò)這一套分類(lèi)架構(gòu)就非常清楚了一個(gè)單入口接收合同先做文本解析關(guān)鍵條款走檢索增強(qiáng)生成從規(guī)則庫(kù)召回匹配規(guī)則風(fēng)險(xiǎn)判定部分走規(guī)則引擎過(guò)濾確定性條款最后模型輸出審查意見(jiàn)整個(gè)流程有節(jié)點(diǎn)回滾機(jī)制。這個(gè)Agent我實(shí)際搭過(guò)運(yùn)行穩(wěn)定性和可維護(hù)性都比直接讓模型自由審查好太多。在做這套分類(lèi)決策的時(shí)候要特別注意一點(diǎn)分類(lèi)不是終點(diǎn)而是溝通工具。架構(gòu)師、開(kāi)發(fā)者、業(yè)務(wù)方對(duì)齊需求時(shí)只要把分類(lèi)維度和結(jié)論擺出來(lái)很多潛在的誤解在早期就能暴露。比如業(yè)務(wù)方說(shuō)要“智能客服”技術(shù)方上來(lái)就設(shè)計(jì)了一堆花哨的對(duì)話(huà)策略但按分類(lèi)方法一聊才發(fā)現(xiàn)業(yè)務(wù)方真正需要的是工單自動(dòng)分類(lèi)加知識(shí)庫(kù)應(yīng)答壓根不需要閑聊能力。這一下就省了三分之一的開(kāi)發(fā)量。7. 常見(jiàn)誤區(qū)與排查技巧實(shí)錄做Agent項(xiàng)目久了遇到的典型問(wèn)題其實(shí)高度重復(fù)。我整理幾個(gè)出現(xiàn)頻率最高的連同排查思路一起分享。7.1 所有Agent都做成大模型自由發(fā)揮這幾乎是新手團(tuán)隊(duì)的通病。一提到AI Agent就認(rèn)為必須讓大模型主導(dǎo)決策否則就不是Agent。真上了生產(chǎn)成本高、不穩(wěn)定、難排查然后回過(guò)頭來(lái)罵模型不行。排查思路很簡(jiǎn)單如果某個(gè)環(huán)節(jié)有固定規(guī)則就把它從模型手里拿出來(lái)放進(jìn)規(guī)則層。模型只負(fù)責(zé)那些規(guī)則覆蓋不到的部分。7.2 忽視工具接口穩(wěn)定性工具調(diào)用型Agent跑得好不好和模型的聰明程度關(guān)系沒(méi)有想象中那么大大部分時(shí)間取決于工具本身穩(wěn)不穩(wěn)。工具超時(shí)、參數(shù)格式?jīng)]對(duì)齊、接口返回結(jié)構(gòu)變化任何一個(gè)問(wèn)題都會(huì)直接把Agent打掛。排查時(shí)要分清楚到底是模型選錯(cuò)了工具還是工具本身出錯(cuò)了。建議給每個(gè)工具加獨(dú)立的日志埋點(diǎn)記錄調(diào)用時(shí)間、入?yún)ⅰ⒊鰠?、錯(cuò)誤碼這樣Agent出錯(cuò)時(shí)能快速定位到是哪個(gè)環(huán)節(jié)。7.3 知識(shí)庫(kù)Agent不做效果評(píng)估很多人上RAG只顧著把文檔灌進(jìn)去就完事完全不建評(píng)測(cè)集。等上線(xiàn)了用戶(hù)反饋答得差又開(kāi)始逐條調(diào)整提示詞這屬于瞎貓碰死耗子。我的建議是知識(shí)庫(kù)Agent上線(xiàn)前至少準(zhǔn)備50到100條真實(shí)用戶(hù)問(wèn)題作為評(píng)測(cè)集每條標(biāo)注參考答案和期望的回答來(lái)源。所有對(duì)管線(xiàn)或提示詞的改動(dòng)都先跑一遍評(píng)測(cè)集拿指標(biāo)說(shuō)話(huà)再上線(xiàn)。7.4 沒(méi)有超時(shí)、重試和熔斷機(jī)制Agent是有外部依賴(lài)的復(fù)雜分布式系統(tǒng)模型的響應(yīng)時(shí)間本身就不穩(wěn)定?，F(xiàn)實(shí)環(huán)境里模型服務(wù)可能晚了幾秒用戶(hù)的請(qǐng)求就被前端斷開(kāi)了又或者工具服務(wù)臨時(shí)故障Agent沒(méi)有重試就直接放棄。排查這類(lèi)問(wèn)題一是所有外部調(diào)用都要設(shè)超時(shí)和重試二是關(guān)鍵下游連續(xù)失敗時(shí)要有熔斷路子別讓故障連續(xù)打爆整個(gè)流程三是所有Agent入口最好加一層服務(wù)質(zhì)量檢測(cè)任何一個(gè)節(jié)點(diǎn)長(zhǎng)時(shí)間高錯(cuò)誤率都要能自動(dòng)觸發(fā)降級(jí)方案。7.5 權(quán)限與安全邊界收緊不夠系統(tǒng)操作型Agent的權(quán)限如果設(shè)計(jì)不好后果要比普通程序嚴(yán)重得多。因?yàn)槟Ｐ涂赡鼙挥脩?hù)的提示詞誘導(dǎo)去調(diào)用不該調(diào)用的工具。這里的原則是用“最小權(quán)限”約束Agent模型能看到和調(diào)用的工具集在全流程中動(dòng)態(tài)收窄。比如用戶(hù)問(wèn)“幫我查一下訂單”Agent只需要查詢(xún)權(quán)限那寫(xiě)操作類(lèi)工具在這個(gè)上下文里就不應(yīng)該出現(xiàn)在工具清單里。動(dòng)態(tài)工具過(guò)濾是成本最低、效果最好的安全策略。另外補(bǔ)一個(gè)排查技巧Agent類(lèi)系統(tǒng)的日志記錄要比普通系統(tǒng)更詳細(xì)。因?yàn)槟Ｐ蜎Q策的中間過(guò)程不可復(fù)現(xiàn)所以必須把每一輪的模型輸入、輸出、工具調(diào)用結(jié)果、token消耗全部記錄在案。出了問(wèn)題回放日志就能看到模型當(dāng)時(shí)的決策路徑快速定位是提示詞問(wèn)題還是狀態(tài)傳遞問(wèn)題。這個(gè)習(xí)慣在排查復(fù)合規(guī)劃型Agent時(shí)尤其重要否則模型跑偏了你連怎么偏的都看不到。8. 實(shí)操總結(jié)與個(gè)人體會(huì)我自己做功能型Agent的感受一句話(huà)總結(jié)就是好的分類(lèi)勝過(guò)好的框架。很多人關(guān)心選哪個(gè)框架、用哪個(gè)模型但真正決定項(xiàng)目成敗的是你有沒(méi)有在動(dòng)手前想清楚這六個(gè)維度——任務(wù)粒度、決策機(jī)制、交互方式、功能定位、資源約束和評(píng)估指標(biāo)?？蚣苤皇枪ぞ叻诸?lèi)才是方向。另一個(gè)體會(huì)是分類(lèi)不是一成不變的。同一個(gè)Agent隨著業(yè)務(wù)演化會(huì)從單任務(wù)變成復(fù)合任務(wù)從規(guī)則驅(qū)動(dòng)變成混合決策。比如最初我只做了一個(gè)簡(jiǎn)單的合同條款識(shí)別單步Agent后來(lái)業(yè)務(wù)方要求加上風(fēng)險(xiǎn)歸因分析這個(gè)Agent就自然演變成了復(fù)合規(guī)劃型。所以分類(lèi)決策不是一次性的每階段迭代都要重新過(guò)一遍這套分類(lèi)方法。最后一句話(huà)給新入門(mén)的朋友別急著寫(xiě)代碼先拿一張紙把分類(lèi)表的四個(gè)維度填一遍。填完你就知道該用什么架構(gòu)、該買(mǎi)什么服務(wù)、該找什么資源了。分類(lèi)這件事花半小時(shí)做可能給你省下后面一個(gè)月的重構(gòu)時(shí)間。