最近在調(diào)一個(gè)智能體項(xiàng)目需求是讓AI自動處理客服工單從識別意圖、查訂單、擬回復(fù)到歸檔一套流程都交給Agent去做。功能倒是很快就跑通了可一旦要上線問題就來了業(yè)務(wù)方追著問管理得批預(yù)算管理得審評估你憑什么讓這個(gè)黑盒替客服干活它的判斷依據(jù)是什么查了哪條數(shù)據(jù)為什么回復(fù)客戶“可以退款”每一步能不能回溯這就是Agentic AI和普通問答的最大差別。以前用模型只是“輸入一句話、吐出一段文字”它對或錯也就幾千個(gè)字。可到了智能體階段模型要自己規(guī)劃任務(wù)、調(diào)用多個(gè)工具、觀察結(jié)果、調(diào)整策略最終才拿到結(jié)論。整條鏈路可能涉及十幾步交互任何一個(gè)環(huán)節(jié)出了錯結(jié)果都不可信。這時(shí)你才發(fā)現(xiàn)“可解釋性”根本不是學(xué)術(shù)詞是上線前就卡脖子的工程問題。我當(dāng)時(shí)踩了一圈坑試過調(diào)長提示詞、試過在代碼里寫日志、試過讓模型把“思考過程”全部打出來效果有好有壞。后來整理出來一套相對可落地的增強(qiáng)方法核心就一句話別把可解釋性當(dāng)模型能力去求要把它當(dāng)工程協(xié)議去設(shè)計(jì)。這篇就把我實(shí)際用下來的方法、提示詞結(jié)構(gòu)和避坑經(jīng)驗(yàn)一次性說清楚。1. 先說清楚Agentic AI的可解釋性問題到底難在哪1.1 從“單次對話”到“自主智能體”問題為什么變復(fù)雜了普通Chat類應(yīng)用的可解釋性說白了是“這個(gè)回答怎么來的”。你可以讓模型給出一段推理過程或者引用幾個(gè)要點(diǎn)人自己判斷靠不靠譜。即便模型撒了謊范圍也就限定在那一段輸出里你找它掰扯就行。但Agentic AI完全不是這個(gè)模式。一個(gè)智能體拿到任務(wù)后要先理解用戶意圖再拆解出子任務(wù)接著決定“先調(diào)A接口還是先查B數(shù)據(jù)庫”然后根據(jù)工具返回的結(jié)果修正下一步動作甚至可能連續(xù)調(diào)好幾次工具才把最終回答拼出來。這里面的狀態(tài)空間是指數(shù)級的步驟一多誰都沒法靠肉眼看透它為什么走到這一步。我做個(gè)真實(shí)的類比普通AI像店員給你口述商品信息你判斷他講得對不對Agent像老板派了個(gè)店員出去采購他得自己選路線、比價(jià)、核實(shí)質(zhì)量最后把東西買回來給你。如果東西買錯了你光看“買錯了”三個(gè)字沒用你得知道他當(dāng)時(shí)為什么選了那條路線、為什么信了那個(gè)報(bào)價(jià)才能決定下次是換人還是換流程?？山忉屝跃褪墙o這個(gè)過程裝上“行車記錄儀和采購日志”。所以Agentic AI的可解釋性拆開其實(shí)是三件事意圖可追溯、決策可歸因、行為可審查。也就是每一步都知道它“想干什么、為什么這么想、實(shí)際做了什么工具調(diào)用”。1.2 提示工程在智能體里的新角色很多人誤以為提示工程只是在對話場景里寫幾句“你是個(gè)助手”的開場白。在Agent場景里提示詞的功能要重得多。它既是任務(wù)說明書也是行為約束代碼還是可解釋性協(xié)議的載體。我之前接手的項(xiàng)目里智能體框架本身已經(jīng)提供了類似“ReAct”(Reasoning Acting)的循環(huán)機(jī)制模型思考一段、執(zhí)行一個(gè)工具、觀察結(jié)果、再思考。但默認(rèn)情況下這些“思考”只是臨時(shí)文本要么不保留要么以很粗糙的方式堆在日志里沒法問答業(yè)務(wù)方“你為什么這么回復(fù)”。這時(shí)候光靠框架沒用必須在提示詞層面約定一種結(jié)構(gòu)化的自我解釋協(xié)議把每一次決策的前因后果固定下來、輸出出來、存下來。這個(gè)思路的核心是不要試圖讓模型“更誠實(shí)”。模型本質(zhì)上是在做模式匹配你逼它“請誠實(shí)思考”它也不會從內(nèi)部給你挖出真正的歸因。你能做的是給它的決策過程鋪設(shè)一條固定軌道并強(qiáng)制它在軌道上留下足印。那些足印就是可解釋性。2. 可解釋性增強(qiáng)的核心方法把“黑盒”拆成“透明鏈路”這套方法的總體思路我概括為“三層透明化”第一層過程透明——把模型的思考過程與動作序列顯式化、結(jié)構(gòu)化第二層數(shù)據(jù)透明——記錄每一步參照了哪些數(shù)據(jù)、調(diào)用了哪些工具、拿到了什么結(jié)果第三層決策透明——在最終輸出里明確指出哪些是事實(shí)、哪些是推斷、哪些是未確認(rèn)項(xiàng)。下面把每一層對應(yīng)落地的方法拆開講。2.1 結(jié)構(gòu)化提示模板讓每一步意圖都在“明面上”我在實(shí)際項(xiàng)目里使用過的最有效的提示詞結(jié)構(gòu)是給Agent定義一套“五段式協(xié)議”每個(gè)任務(wù)都必須按這個(gè)協(xié)議輸出不許省略。你是智能客服工單處理智能體。每執(zhí)行一項(xiàng)任務(wù)時(shí)必須嚴(yán)格按以下協(xié)議輸出 [意圖識別] 用一句話描述你對用戶請求的理解并注明判斷依據(jù)。 [任務(wù)計(jì)劃] 列出為完成目標(biāo)所需的具體步驟按順序編號。每個(gè)步驟要寫清 - 步驟目標(biāo) - 是否需要調(diào)用工具 - 如果工具失敗備用方案是什么 [動作執(zhí)行] 每次調(diào)用工具前先說明調(diào)用的目的和預(yù)期返回結(jié)果。工具返回后再寫一句“結(jié)果是否與預(yù)期一致”。 [結(jié)論歸納] 給出最終輸出并明確標(biāo)注 - 事實(shí)項(xiàng)直接來自工具返回或用戶輸入 - 推斷項(xiàng)根據(jù)已有信息推測而來 - 待確認(rèn)項(xiàng)信息不足需要進(jìn)一步核實(shí)為什么這種格式有效因?yàn)樗隽艘患苤匾氖掳涯Ｐ偷膬?nèi)部決策轉(zhuǎn)化為外部可核驗(yàn)的文本記錄。格式本身不保證正確但它給了審計(jì)一個(gè)抓手——一旦結(jié)果出錯你能看到錯誤發(fā)生在意圖識別、計(jì)劃、執(zhí)行還是判斷環(huán)節(jié)能順藤摸瓜而不是對著最終回復(fù)的一團(tuán)文字瞎猜。這里有幾點(diǎn)實(shí)操心得不要用“請解釋你的思考過程”這種含糊指令。模型會給你編一段看起來像模像樣但實(shí)際上與真實(shí)決策無關(guān)的敘述。要明確指定格式和字段讓它“按表填寫”比讓它自由發(fā)揮可靠得多。字段名要具體“判斷依據(jù)”比“理由”強(qiáng)“工具返回結(jié)果是否與預(yù)期一致”比“結(jié)果分析”強(qiáng)。字段越具體模型越不容易糊弄。協(xié)議要放在提示詞的System部分不是用戶消息里。它應(yīng)該對所有任務(wù)生效而不是靠用戶提醒才觸發(fā)。2.2 思維軌跡記錄把鏈路中間輸出變成可審計(jì)日志提示詞只是第一層你還需要把協(xié)議輸出接入后端日志系統(tǒng)。我當(dāng)時(shí)做的改造說起來非常簡單就是在智能體執(zhí)行循環(huán)里增加一個(gè)steps數(shù)組把模型每一次結(jié)構(gòu)化輸出按順序壓進(jìn)去。# 偽代碼在執(zhí)行循環(huán)中累積可解釋性日志 steps [] for action_turn in range(max_turns): # 調(diào)用模型傳入歷史steps作為上下文 response llm.chat(messagesmessages, systemAGENT_PROTOCOL) # 解析結(jié)構(gòu)化輸出到step對象 step parse_protocol_response(response) step[turn_id] action_turn step[timestamp] datetime.now().isoformat() step[tool_inputs] extract_tool_call_details(response) step[tool_results] get_last_tool_result() steps.append(step) messages.append(response) # 任務(wù)結(jié)束將steps寫入審計(jì)存儲 audit_db.insert({task_id: task_id, steps: steps})這段代碼里有個(gè)細(xì)節(jié)值得說把“思考文本”和“工具調(diào)用”綁定存儲。很多框架默認(rèn)只記錄“調(diào)用了某個(gè)工具”“工具返回結(jié)果”卻不記錄“模型為什么在這個(gè)節(jié)骨眼上調(diào)用它”。可是業(yè)務(wù)方最關(guān)心的恰恰是“為什么”因?yàn)椤霸趺凑{(diào)”都還好查唯獨(dú)“為什么”藏在模型的上下文里不及時(shí)撈出來就永遠(yuǎn)丟了。你可能會擔(dān)心記錄步驟會不會拖慢性能。實(shí)測下來在常規(guī)任務(wù)上額外增加的開銷只來自輸出長度變長和一次結(jié)構(gòu)解析一般不會導(dǎo)致超時(shí)除非你的Agent單步調(diào)用就已經(jīng)接近模型輸出上限。后面第4節(jié)我會專門講參數(shù)怎么取舍。2.3 工具調(diào)用的“簽字蓋章”每個(gè)動作都要有跡可循智能體最大的風(fēng)險(xiǎn)來自工具調(diào)用。模型可以調(diào)查詢接口、可以寫文件、可以發(fā)郵件這些“動作”如果不可追溯可解釋性就是空談。我推薦給每個(gè)工具調(diào)用加上“簽字蓋章”機(jī)制分三部分調(diào)用前聲明模型先輸出一段“我準(zhǔn)備調(diào)用X目的是Y預(yù)期得到Z”。這相當(dāng)于寫一張單據(jù)。傳入?yún)?shù)記錄把實(shí)際傳給工具的參數(shù)原樣存下來包括那些看起來無害但可能會出問題的字段。別省略別只存“脫敏后的版本”。返回結(jié)果對照工具返回后記錄結(jié)果的關(guān)鍵摘要并讓模型做一次“是否符合預(yù)期”的判定。這套機(jī)制看起來像是讓模型多做一步其實(shí)收益不小。拿我自己的客服項(xiàng)目舉例模型需要根據(jù)訂單里的“退款狀態(tài)”判斷是否允許退款。有一次它明明查到“退款處理中”卻回復(fù)客戶“退款已到賬”。排查時(shí)就是因?yàn)椤巴素洜顟B(tài)查詢”工具的返回被完整記錄在案一對照就發(fā)現(xiàn)模型在最終結(jié)論里沒有復(fù)現(xiàn)工具的真實(shí)內(nèi)容。單獨(dú)看最終回復(fù)時(shí)它說得非常篤定單靠人眼根本看不出來問題。這就是工具級可解釋性的價(jià)值?？山忉寣臃椒▽徲?jì)物主要成本過程層五段式結(jié)構(gòu)化協(xié)議意圖/計(jì)劃/動作序列輸出變長數(shù)據(jù)層工具往返參數(shù)記錄調(diào)用參數(shù)與返回摘要存儲與日志清洗決策層事實(shí)/推斷/待確認(rèn)三分類結(jié)論字段少量推理開銷3. 實(shí)操在智能體提示工程里落地可解釋性路線圖再清晰不動手都是空的。我拿前陣子做的“客戶工單自動分類與回復(fù)”智能體作為樣例把可解釋性增強(qiáng)的完整過程走一遍。這是一個(gè)比較典型的中等復(fù)雜度場景有多分支判斷、有工具調(diào)用、有外部數(shù)據(jù)查詢非常適合演示。3.1 場景設(shè)計(jì)一個(gè)“客戶工單自動分類與回復(fù)”智能體先交代背景這個(gè)項(xiàng)目的任務(wù)是接收用戶提交的投訴工單智能體需要判斷工單類型退換貨、物流、發(fā)票、賬號異常等根據(jù)用戶手機(jī)號查詢訂單狀態(tài)查詢當(dāng)前退款進(jìn)度或物流節(jié)點(diǎn)起草回復(fù)內(nèi)容判斷是自動回復(fù)還是轉(zhuǎn)人工。功能上這版本要能夠覆蓋幾種常見分支?？山忉屝陨弦竺恳徊蕉加杏涗涁?fù)責(zé)人能夠事后復(fù)盤。這里我遇到了第一個(gè)決策點(diǎn)是直接改提示詞讓模型做所有事還是把可解釋性設(shè)計(jì)到框架層我的選擇是兩層都做但分工明確——提示詞負(fù)責(zé)約束模型的表達(dá)與決策習(xí)慣框架負(fù)責(zé)記錄與存儲軌跡。二者缺一不可。3.2 提示詞結(jié)構(gòu)設(shè)計(jì)全過程在寫這套提示詞時(shí)我大概改了四五個(gè)版本。最大的轉(zhuǎn)折點(diǎn)是從“讓模型自由輸出”改為“強(qiáng)制模板化輸出”。第一版提示詞簡單粗暴你是智能客服Agent。請?zhí)幚碛脩艄?。先思考再行動。結(jié)果接口日志雜亂無章模型偶爾在輸出里附帶解釋偶爾又直接給結(jié)果根本沒法自動化解析。第二版加了“思考過程”但模型給的思考往往是一大段散文偶爾還包含和任務(wù)無關(guān)的內(nèi)容。第三版我改成以下這種接近最終形態(tài)的結(jié)構(gòu)系統(tǒng)指令 你處理一件工單時(shí)必須嚴(yán)格按以下JSON結(jié)構(gòu)輸出每一輪信息。 { step: intent_classification, content: { intent: 工單類型, evidence: 判斷依據(jù)引用用戶原文關(guān)鍵詞, confidence: 0~1之間的置信度 } } { step: plan_formation, content: { plan: [步驟1根據(jù)手機(jī)號查詢訂單, 步驟2檢查退款狀態(tài), ...], tools_needed: [query_order_status, query_refund_status] } } { step: action_execution, content: { action: 調(diào)用 query_order_status, request_params: {phone: 隱去中間四位的手機(jī)號}, expectation: 預(yù)期返回該手機(jī)號最近的訂單及狀態(tài), result_feedback: 返回正常/異常 結(jié)果摘要 } } { step: final_answer, content: { facts: [訂單狀態(tài)為已發(fā)貨, 物流更新時(shí)間為今天早上], inferences: [用戶可能在催單建議優(yōu)先回復(fù)物流信息], cancel_conditions: [如果用戶對物流節(jié)點(diǎn)不滿意升級人工處理], summary: 向用戶輸出的話術(shù) } }強(qiáng)迫Model用JSON輸出有幾個(gè)額外的好處。一是解析穩(wěn)定不會出現(xiàn)“思考過程是一大段markdown”的尷尬二是JSON本身就是一個(gè)天然的結(jié)構(gòu)化日志格式存庫時(shí)幾乎不用轉(zhuǎn)換三是模型在生成JSON時(shí)由于格式限制會減少“東拉西扯”的自由發(fā)揮。但JSON提示詞也要注意幾點(diǎn)別讓JSON嵌套太深。解析器寫起來痛苦模型也容易在深層嵌套里出錯。我最多用兩層。需要處理偶爾的解析失敗。我在工程里加了一步“解析失敗則標(biāo)記raw_text并提示模型重輸出”不要因?yàn)榻馕鲥e誤就直接讓整個(gè)任務(wù)失敗。隱藏敏感字段。上面例子里手機(jī)號要求輸出的是“隱去中間四位”——這既是隱私要求也是可解釋性里的數(shù)據(jù)脫敏規(guī)范。3.3 中間步驟導(dǎo)出與審計(jì)從提示詞到業(yè)務(wù)可視化提示詞輸出后接下來的一公里在工程側(cè)。我的后端有個(gè)負(fù)責(zé)審計(jì)的服務(wù)每次智能體任務(wù)完成就把steps列表做成一個(gè)“任務(wù)回放頁面”按時(shí)間軸展示灰色卡片模型對意圖的判斷藍(lán)色卡片計(jì)劃列表綠色卡片每次工具調(diào)用附上參數(shù)與返回摘要紅色卡片判斷為異常的分支或失敗的工具調(diào)用。這個(gè)回放頁面后來又加了個(gè)功能按“置信度”標(biāo)紅可疑步驟——比如模型分類置信度低于0.6的工單頁面自動標(biāo)記“需要人工復(fù)核”。這個(gè)功能上線后業(yè)務(wù)方的接受度直線上升因?yàn)椤八还馐鞘潞竽芙忉屃耸虑斑€給了一個(gè)風(fēng)險(xiǎn)信號”。真正讓我覺得這套方法成了的是有一次模型把“退貨退款”誤判成“發(fā)貨咨詢”?？伤约涸趀vidence字段里寫了“用戶提到了退貨和物流因此判斷為發(fā)貨咨詢”。你看它知道自己證據(jù)不足卻還是給了個(gè)錯誤分類。業(yè)務(wù)方對照回放頁面一下就看明白問題出在“意圖識別”這一步而不是工具調(diào)用或回復(fù)環(huán)節(jié)。于是我們調(diào)整了模型指令在意圖分類時(shí)增加“用戶是否提到退貨字眼”的強(qiáng)制檢驗(yàn)誤判率明顯下降。3.4 可解釋性增強(qiáng)的性能調(diào)優(yōu)記錄最后說說性能?？山忉屝栽鰪?qiáng)是有代價(jià)的最明顯的是輸出變長、延遲上升。在同一個(gè)任務(wù)上我拿五段式協(xié)議和無協(xié)議版本對比過指標(biāo)無協(xié)議五段式協(xié)議平均輸出token數(shù)約680約1350單次任務(wù)延遲約4.2秒約5.8秒工具調(diào)用成功率93%96%業(yè)務(wù)方人工復(fù)核率28%11%事后定位根因耗時(shí)約40分鐘/單約5分鐘/單可以看到延遲漲了大約1.6秒換來的是工具調(diào)用成功率上升、人工復(fù)核率大幅下降、根因定位效率提升。對大部分業(yè)務(wù)來說這個(gè)取舍是劃算的。但如果你做的場景是毫秒級響應(yīng)的低延遲服務(wù)那就得換個(gè)策略——比如只記錄關(guān)鍵節(jié)點(diǎn)的結(jié)構(gòu)化日志而不要求每一輪都輸出完整協(xié)議。也就是說可解釋性增強(qiáng)也有不同檔位按需求來選。我還調(diào)過一個(gè)參數(shù)把max_turns從默認(rèn)值調(diào)大了一些。因?yàn)閺?qiáng)制讓模型每一步都輸出結(jié)構(gòu)化信息它在“思考”階段的token消耗變多有時(shí)需要多一輪才能完成同樣的任務(wù)。如果你的Agent本來就在最大turn數(shù)邊緣徘徊增強(qiáng)可解釋性后更容易截?cái)唷Ｎ易罱K把單任務(wù)最大循環(huán)數(shù)設(shè)為12并加了一個(gè)“達(dá)到8輪后強(qiáng)制輸出當(dāng)前結(jié)論并要求用戶確認(rèn)”的規(guī)則。這樣既限制了失控成本又保證鏈路可以收斂。4. 常見問題與排查技巧實(shí)錄這部分把我實(shí)際踩過的坑、見證別人踩過的坑都整理一下幫助后來者少走彎路。4.1 提示詞寫長了模型反而亂來增強(qiáng)可解釋性最容易犯的錯是提示詞越寫越長、字段越堆越多。我有一位同事接到需求后把協(xié)議從4個(gè)字段擴(kuò)到了18個(gè)字段包括“情緒狀態(tài)”“備選方案集合”“倫理校驗(yàn)標(biāo)記”等。結(jié)果模型越跑越糊涂經(jīng)常輸出互相矛盾的字段甚至干脆拒絕執(zhí)行工具調(diào)用。這個(gè)問題的根因是模型在同時(shí)遵循過多指令時(shí)注意力會被攤薄。尤其是那些與核心任務(wù)沒有強(qiáng)關(guān)聯(lián)的“儀式型”字段反而干擾了判斷。解決辦法是“分層提示詞”——把可解釋協(xié)議拆成“必填”和“選填”兩層必填層意圖識別、計(jì)劃、工具調(diào)用摘要、結(jié)論三分類。這四類直接關(guān)系到鏈路可追溯。選填層置信度、風(fēng)險(xiǎn)標(biāo)記、備選方案等。這些只在不增加過多認(rèn)知負(fù)載時(shí)填。另外如果某個(gè)字段必須存在但只會在極少數(shù)情況下有意義建議改成只在特定條件觸發(fā)時(shí)才要求輸出。比如“如果檢測到退款糾紛類意圖則額外輸出賠償建議依據(jù)”而不是要求每一步都輸出。4.2 工具調(diào)用時(shí)“意圖”和“行為”對不上這是Agent可解釋性項(xiàng)目里最隱蔽的坑。模型在協(xié)議里寫“我要查詢訂單”下一步它卻調(diào)用了“查詢物流”接口。單看“意圖”字段好像沒問題單看工具調(diào)用記錄也沒問題但兩者對不上要是不做交叉校驗(yàn)根本發(fā)現(xiàn)不了。我對這個(gè)問題的解決辦法是加一道一致性校驗(yàn)規(guī)則在模型聲稱的plan、tools_needed和實(shí)際執(zhí)行的action之間做簡單交叉比對。如果模型計(jì)劃里寫明要查訂單實(shí)際卻調(diào)用了物流接口就標(biāo)記為“工具調(diào)用與計(jì)劃不一致”并觸發(fā)一次修正指令。plan_tools set(step[tools_needed]) actual_tools set(step[action_execution][action]) if not actual_tools.issubset(plan_tools): log_warning(工具調(diào)用與計(jì)劃不一致, task_id, step) messages.append(你剛剛調(diào)用的工具與計(jì)劃不符請確認(rèn)意圖或修正計(jì)劃。)這個(gè)校驗(yàn)邏輯本身很簡單但很好地覆蓋了模型在復(fù)雜場景下“想一套、做一套”的毛病。而且更妙的是一旦檢測出這種不一致日志里就自動多了一條可解釋的記錄——業(yè)務(wù)方復(fù)盤時(shí)能看到“模型當(dāng)時(shí)想的是X實(shí)際做了Y系統(tǒng)發(fā)現(xiàn)后要求它糾正”。4.3 可解釋性增強(qiáng)后性能卻下降了如果你按照前文的方法把所有思考過程都堆進(jìn)上下文很快就會遇到性能衰減。我一開始把每個(gè)步驟的詳細(xì)輸出都保留在messages里傳給下一輪結(jié)果在長任務(wù)里上下文很快爆掉模型還總被自己早先的錯誤輸出帶偏。優(yōu)化手段有兩個(gè)。第一個(gè)是步驟壓縮每輪結(jié)束后不保留原始步驟全文而是讓模型生成一條不超過50字的摘要作為下一輪上下文。這樣既保留了對決策的提示又避免上下文無限膨脹。第二個(gè)是把某些歷史細(xì)節(jié)“外置”——落到審計(jì)日志里而不是留在對話上下文中。對話上下文只保留“結(jié)論級”信息比如“訂單狀態(tài)查詢完畢看到退款狀態(tài)為處理中”。詳細(xì)的工具返回參數(shù)放到外部存儲如果后續(xù)真的需要再讓模型按需查詢這一條歷史記錄。這相當(dāng)于給人腦做了一次“前額葉卸載”把工作記憶和長期記憶分開。需要注意的是壓縮摘要這一步本身也是可解釋性的一部分。別把摘要當(dāng)成“臨時(shí)處理”悄悄丟掉至少要把摘要原文存到審計(jì)庫方便回溯“模型看到的壓縮信息是什么”。因?yàn)楹芏鄷r(shí)候模型出錯不是它推理錯了而是它看到的摘要信息缺了關(guān)鍵細(xì)節(jié)。這時(shí)候你要是沒把摘要存下來排查就會卡死你不知道模型當(dāng)時(shí)看到的上下文是什么就只能猜。4.4 快速排查清單最后給你一個(gè)我整理好的“Agent可解釋性快速排查清單”適合在項(xiàng)目排障時(shí)直接套用現(xiàn)象優(yōu)先排查點(diǎn)常見根因最終結(jié)論與工具結(jié)果矛盾工具返回是否被完整記進(jìn)上下文長上下文截?cái)喟殃P(guān)鍵工具結(jié)論擠掉了計(jì)劃里寫了但沒執(zhí)行該步驟的工具調(diào)用是否被跳過模型在中途重新規(guī)劃但沒同步更新計(jì)劃字段同一個(gè)任務(wù)兩次結(jié)果不一樣上下文中是否混入了上一步的錯誤摘要步驟壓縮摘要時(shí)丟失關(guān)鍵約束業(yè)務(wù)方質(zhì)疑回復(fù)依據(jù)結(jié)論里的“事實(shí)項(xiàng)”是否可追溯到具體數(shù)據(jù)模型把推斷項(xiàng)寫成了事實(shí)項(xiàng)導(dǎo)致引用失效審計(jì)日志缺失請求是否在達(dá)到max_turns后被強(qiáng)制截?cái)嘟財(cái)嗦窂嚼餂]有做日志兜底說實(shí)話這個(gè)清單里最容易被忽略的是最后一行。很多框架在任務(wù)超時(shí)或被截?cái)鄷r(shí)只返回一個(gè)“任務(wù)失敗”狀態(tài)不會主動把已經(jīng)產(chǎn)生的那十幾個(gè)步驟存下來。我建議無論任務(wù)成功與否都先把steps數(shù)組寫入審計(jì)庫再決定怎么處理異常。在可解釋性這件事上“失敗的過程日志”比“成功的結(jié)論”更有價(jià)值因?yàn)槌鰡栴}、想復(fù)盤、要改進(jìn)看的恰恰是失敗的那幾次。5. 寫在最后的個(gè)人體會這套方法我在兩三個(gè)項(xiàng)目里反復(fù)用過最深的體會是可解釋性不能被當(dāng)成事后補(bǔ)丁來打它必須在提示工程設(shè)計(jì)階段就預(yù)埋進(jìn)去。很多人是先讓Agent跑通出了問題再去翻日志結(jié)果發(fā)現(xiàn)根本找不到完整的過程信息——因?yàn)槟Ｐ兔看沃惠敵鲆粋€(gè)最終結(jié)果中間那些決策轉(zhuǎn)彎的數(shù)據(jù)早就消失在調(diào)用里了。我的建議是從第一天開始就堅(jiān)定地采用“結(jié)構(gòu)化協(xié)議 外部日志 工具調(diào)用記錄”三件套。哪怕第一版業(yè)務(wù)邏輯還不穩(wěn)定至少每個(gè)嘗試都能留下足夠的現(xiàn)場信息。后面做調(diào)試、做分析、做“責(zé)任認(rèn)定”才不會兩眼一抹黑。還有一個(gè)心態(tài)上的提醒不要指望可解釋性做到“模型內(nèi)部歸因”那種級別。目前來說Agent的可解釋性更多是靠“工程馴化”實(shí)現(xiàn)的——用提示詞約束表達(dá)結(jié)構(gòu)、用日志記錄行為軌跡、用校驗(yàn)規(guī)則暴露異常。它不完美但足夠讓業(yè)務(wù)方建立信心、讓開發(fā)者在故障時(shí)找到方向。別人喜歡吹“絕對可解釋”我只敢說“過程有跡可循”。但這已經(jīng)夠用了。