1. 先別急著調(diào) Prompt我為什么盯上了一個仿生學方案如果你也維護過不止兩三個智能體協(xié)作的復雜任務大概率會撞上這樣一個場景Agent 一多上下文就開始“膨脹”和“稀釋”。我最早是在一套模擬三個智能體協(xié)作的流程里被逼到墻角的——planner 負責拆任務coder 負責寫代碼reviewer 負責查漏補缺三個人來回對話。跑著跑著發(fā)給模型的 Prompt 越來越大里面全是歷史消息真正關(guān)鍵的約束條件反而被埋在一堆中間過程里。模型不是不聰明是它根本看不到重點。那段時間我試過不少“正統(tǒng)方案”滑動窗口只保留最近幾輪對話省 Token 是省了但任務一開始定的目標、中間出過的關(guān)鍵警告全被窗口“甩”出去了;摘要壓縮倒是能保住主干信息可壓縮一次要花額外成本而且摘要會把細節(jié)抹平你讓模型根據(jù)“壓縮后的模糊記憶”去修正一次偶發(fā)的配置錯誤它大概率會一本正經(jīng)地編一個方案出來向量檢索看著最優(yōu)雅但它只管“語義相似”不管“這個信息多久沒碰過、被強調(diào)過幾次、和當前任務有沒有因果關(guān)聯(lián)”。真正的轉(zhuǎn)機是我換了個角度我們做智能體上下文管理本質(zhì)上是在管理“哪些信息對眼前這件事最重要”。而大自然早就有了一套成熟的信息篩選機制——螞蟻的信息素網(wǎng)絡。蜜蜂采蜜、蟻群找食靠的從來不是“記住所有路線”而是讓集體不斷強化“近期有效”的路徑同時讓舊路徑自然揮發(fā)消失。我順著這個思路做了一個叫 pheromone-network 的上下文管理層實際跑下來效果比預想的好好幾個困擾已久的問題都順帶被解決了。這篇文章不是什么學術(shù)論文是我構(gòu)建這套機制的真實記錄包括為什么傳統(tǒng)方案會失效、信息素的核心機制怎么落地成代碼、怎么把信息素網(wǎng)絡嵌進現(xiàn)有的 RAG 和工具調(diào)用流程里以及我在調(diào)參和踩坑過程中總結(jié)出的一堆經(jīng)驗。無論你是剛接觸多智能體還是已經(jīng)在線上被上下文問題折磨得夠嗆這篇都能給你一套可以直接抄走的思路和骨架。2. 傳統(tǒng)上下文管理方案的三個死穴以及為什么我會說“該換思路了”先把話說透固定窗口、摘要壓縮、向量檢索這三套方案在單輪簡單對話里都夠用但在多智能體復雜協(xié)作里各有各的硬傷。我不是要全盤否定它們而是想說清楚我為什么最終決定另起爐灶。2.1 固定窗口截斷最省資源也最粗暴固定窗口的邏輯很簡單只保留最近 N 輪對話之前的直接丟。省 Token、實現(xiàn)門檻低很多人起步都用它。但問題在于“最近”不等于“最重要”。舉個例子你讓一個 Agent 團隊做“帶用戶認證的 Web 服務”。第 1 輪用戶提了硬性要求“必須用 OAuth 2.0不要自定義 session?！钡?12 輪 coder 寫完了基礎框架第 14 輪開始討論數(shù)據(jù)庫表結(jié)構(gòu)。如果窗口只保留 10 輪那么第 1 輪的硬性要求在第 11 輪就已經(jīng)被“遺忘”了coder 后續(xù)可能會憑“默認經(jīng)驗”手寫一個自定義 session還寫得特別高興。有人會說那我把窗口調(diào)大一點不就行了可以但窗口調(diào)大意味著成本上升、延遲上升而且哪怕保留最近 50 輪“第 1 輪的關(guān)鍵約束 vs 第 49 輪的無意義閑聊”在模型眼里依然是等權(quán)的。窗口方案本質(zhì)上沒有“重要性”這個維度只有“新舊”這個維度這是它的結(jié)構(gòu)性缺陷。2.2 摘要壓縮把歷史“壓扁”的代價不可忽視摘要壓縮是我早期很依賴的方案——每個固定輪數(shù) T 之后把已有的歷史消息塞給一個模型讓它產(chǎn)出一段摘要作為“長期記憶”。這樣窗口可以縮小Token 可以控制。但踩過幾次之后我發(fā)現(xiàn)了三個麻煩。第一摘要也是模型生成的它天然傾向于“概括共識”而不是“保留沖突”。比如 reviewer 曾經(jīng)指出的一個重要的資源泄漏隱患在一次壓縮之后被概括成一句“reviewer 建議優(yōu)化性能”這等于把關(guān)鍵負面信息給加工成了正面廢話。第二壓縮是有成本的而且是隨著歷史長度增長而遞增的每次摘要生成都是一次額外推理調(diào)用。第三信息粒度不可逆壓縮完之后原文就丟了一旦后續(xù)任務需要細節(jié)比如一個異常日志的具體報錯內(nèi)容摘要里根本沒有只能靠模型自由發(fā)揮。我把摘要方案比作“匯報工作”你是給領導講清楚了大方向但領導問你某個具體數(shù)字你只能含糊過去。讓 Agent 帶著這種模糊記憶去執(zhí)行精確任務出問題的概率實在太高了。2.3 向量檢索語義召回不等于上下文管理向量檢索在 RAG 架構(gòu)里確實好用我也一直在用。但把它直接拿來當上下文管理器有個根本性的錯位向量檢索回答的是“和這句話最像的歷史內(nèi)容是哪幾條”而不是“對當前任務延續(xù)最重要的內(nèi)容是哪幾條”?！跋嗨啤焙汀爸匾笔莾苫厥隆Ｒ欢卧诘?3 輪出現(xiàn)的“加載用戶配置文件失敗”日志和第 30 輪正在排查的問題是語義相似的向量檢索能把它撈出來。但它可能漏掉一個更關(guān)鍵的信息第 10 輪你明確說過“配置文件路徑必須從環(huán)境變量讀取禁止硬編碼”這句話和第 30 輪的錯誤日志在語義上沒那么“像”但它的優(yōu)先級遠高于任何一條相似日志。向量檢索引發(fā)的另一個問題是檢索片段之間沒有上下文關(guān)聯(lián)。它可能同時召回 5 條內(nèi)容但每一條都是“孤島”它們誰在先誰在后、誰影響了誰模型無從得知。這就像把 5 頁書撕下來丟給你讓你還原整個故事的來龍去脈——能猜但猜錯的風險極高。所以我把這三種方案的問題歸結(jié)為同一個本質(zhì)它們都在解決“怎么把歷史塞進有限窗口”但沒有解決“歷史里哪些信息應該被高亮、哪些應該被自然遺忘”。后一個問題才是多智能體上下文管理的真正痛點而這正是信息素網(wǎng)絡的主場。3. 信息素網(wǎng)絡的核心機制濃度、揮發(fā)、閾值以及“越用越強”的正反饋在講代碼之前先把原理說透。螞蟻覓食的行為你應該不陌生螞蟻爬過路徑時會留下信息素后面的螞蟻會根據(jù)信息素濃度選擇路線濃度越高的路線越容易被選中被選中的路線又會留下更多信息素形成正反饋而長時間沒人走的路線信息素會隨著時間的推移自然揮發(fā)掉濃度逐漸歸零。這套機制有三個關(guān)鍵要素沉積deposit、揮發(fā)decay、閾值選擇threshold。我把它們一一映射到上下文管理上。3.1 沉積每一次被訪問、被引用都是給上下文“加濃度”在信息素網(wǎng)絡里每條上下文一個關(guān)鍵事實、一條工具結(jié)果、一條用戶約束都是一個“節(jié)點”它有一個持續(xù)變化的數(shù)值叫信息素濃度。任何“這件事被用到”的事件都會給這個濃度加上一筆增量。什么叫“被用到”舉例來說用戶在第 1 輪說“必須用 OAuth 2.0”這條約束被存入網(wǎng)絡第 4 輪 coder 生成代碼時planner 明確引用了“OAuth 2.0”這個詞這就是一次“被用到”——我應該給這條約束 deposit 一次增量第 8 輪 reviewer 提到“token 過期時間設置不合理”又一次與 OAuth 2.0 相關(guān)那再 deposit 一次。通過這種機制一個信息的價值不再由“它是第幾輪出現(xiàn)的”決定而是由“它在一路上被引用了多少次”決定。被反復強調(diào)、反復依賴的信息濃度自然高;只出現(xiàn)過一次且從此無人問津的信息濃度低慢慢就沉底了。在實現(xiàn)上我最初的數(shù)據(jù)結(jié)構(gòu)非常簡單每條上下文記錄只包含四個字段唯一標識、正文內(nèi)容、當前信息素濃度、最后訪問時間。核心操作就一個——deposit(key, content, amount)找到或創(chuàng)建這個 key 對應的記錄把濃度加上去。3.2 揮發(fā)時間是這個系統(tǒng)里最公平的裁判只有沉積沒有揮發(fā)信息素濃度就會只增不減所有上下文都變成“永久高亮”系統(tǒng)依然會回到“全都重要等于全都不重要”的困境。所以揮發(fā)機制極其關(guān)鍵——每隔一段時間所有節(jié)點的濃度按比例衰減越久沒被碰過的節(jié)點濃度下降得越厲害。我用的揮發(fā)公式非常簡單每個 tick 執(zhí)行一次C(t1) C(t) * (1 - λ)其中 λ 是揮發(fā)率取值范圍 0 到 1。λ 越大衰減越快系統(tǒng)越“健忘”λ 越小信息素殘留越久系統(tǒng)越“長情”。這個參數(shù)是整個系統(tǒng)里最重要、也最值得調(diào)的一個——后面我會專門講調(diào)參經(jīng)驗。揮發(fā)和沉積是“雙引擎”沉積讓重要信息不斷升騰揮發(fā)讓過時信息自然沉底。這比固定窗口的“一刀切丟歷史”溫和得多也比摘要壓縮的“一次性壓扁”漸進得多。信息素濃度不會瞬間歸零只會慢慢“淡出”這在多智能體協(xié)作里其實很符合直覺——重要信息雖然久遠但只要一直有人引用它的濃度就能維持在閾值以上不會因為窗口滑動而猝死。3.3 閾值激活不是所有上下文都有資格進入 Prompt信息素網(wǎng)絡的核心決策發(fā)生在“組裝 Prompt”的那一步。每輪生成前我先把所有上下文按濃度從高到低排序然后只挑出濃度超過閾值的那些條目放入最終上下文。濃度低于閾值的不是刪除而是留在倉庫里“待命”——只要未來某輪它又被引用了濃度重新漲上來它就能重新回歸視野。這一步解決了我最早最頭疼的問題Prompt 不再無腦膨脹。以前恨不得把所有歷史都丟給模型現(xiàn)在是“濃度說了算”——高濃度條目進低濃度條目出Token 花費自動跟著“重要性”走而不是跟著“消息條數(shù)”走。我常說一句話窗口方案看“新舊”摘要方案看“換算”檢索方案看“相似”信息素方案看“重要”。四種思路的差別在長期多智能體協(xié)作里會被放大成天壤之別。信息素網(wǎng)絡的核心競爭力就是它在機制層面天然具備了對“重要性”的持續(xù)度量而不是靠一次性的啟發(fā)式判斷。3.4 競爭與正反饋為什么“越常被使用的信息越容易繼續(xù)被使用”信息素機制還有一個其他方案沒有的隱藏能力路徑競爭。螞蟻世界里如果同時存在兩條通往食物的路線先被大量螞蟻走的那條路線信息素更濃后來者看到濃度差異就會傾向走濃度高的那條于是高濃度路線被進一步強化低濃度路線逐漸荒廢。這是一個典型的“贏家通吃”的正反饋回路。我把這個競爭邏輯也用進來了。在多智能體協(xié)作里經(jīng)常出現(xiàn)這種情況兩個思路在同時被討論一個是“沿用現(xiàn)有模塊做擴展”一個是“推倒重寫”。如果某個 Agent 在一次工具調(diào)用中驗證了“擴展路徑可行”并 Try to deposit 這個信息那么下一次其他 Agent 檢索時“擴展路徑可行”的濃度就會壓過“推倒重寫”后續(xù)計劃傾向性也會沿著已驗證的方向走。這既是優(yōu)點也是風險——正反饋可能讓系統(tǒng)過早收斂到一條未必最優(yōu)的路線上后面我會講這種“路徑固化”的坑和對應解法。但就效率而言這套機制讓智能體團隊能夠快速共識“哪條路是當前的默認選擇”而不是每次都把各種可能方案全盤攤開讓模型做出從零開始的模糊判斷。4. 從螞蟻到代碼最小可運行的 pheromone-network 上下文管理層原理講了半天不落地就是空談。這一節(jié)我直接把我實際跑通的那版最小實現(xiàn)拆給你看包括數(shù)據(jù)結(jié)構(gòu)、核心 API 和一個多智能體協(xié)作的演示。我知道不少讀者是帶著“我先在自己的項目里試試”的心態(tài)來看的所以代碼會保持精簡只保留核心邏輯但足夠直接改改就能用。4.1 核心數(shù)據(jù)結(jié)構(gòu)ContextEntry 和 PheromoneNetwork我先定義一條上下文記錄的數(shù)據(jù)結(jié)構(gòu)。重點在于每個條目必須攜帶濃度和最后訪問時間這兩個字段是后續(xù)所有判斷的基礎。from dataclasses import dataclass, field from typing import Dict, Optional import time dataclass class ContextEntry: key: str # 上下文唯一標識比如 constraint_oauth2 content: str # 上下文內(nèi)容比如 必須使用 OAuth2.0 認證 pheromone: float 0.0 # 當前信息素濃度 last_access: float 0.0 # 最后被 deposit 或 recall 的時間戳然后是信息素網(wǎng)絡本體。它維護一個 entries 字典提供 deposit、decay、recall 三個核心方法class PheromoneNetwork: def __init__( self, decay_rate: float 0.15, # 每個 tick 的揮發(fā)率 λ deposit_amount: float 1.0, # 每次沉積的默認增量 activation_threshold: float 0.6 # 進入 Prompt 的濃度門檻 ): self.entries: Dict[str, ContextEntry] {} self.decay_rate decay_rate self.deposit_amount deposit_amount self.activation_threshold activation_threshold def deposit(self, key: str, content: str, amount: Optional[float] None) - None: 信息素沉積找到或創(chuàng)建條目增加濃度并更新最后訪問時間。 increment amount if amount is not None else self.deposit_amount now time.time() if key not in self.entries: self.entries[key] ContextEntry(keykey, contentcontent) entry self.entries[key] entry.pheromone increment entry.last_access now def decay(self) - None: 揮發(fā)所有條目濃度統(tǒng)一乘以 (1 - decay_rate)低于下限的直接移除。 for key in list(self.entries.keys()): entry self.entries[key] entry.pheromone * (1 - self.decay_rate) if entry.pheromone 0.005: # 低于絕對下限視為“記憶消失” del self.entries[key] def recall(self, top_k: int 10) - list: 召回返回濃度高于閾值的條目按濃度排序。 candidates [ entry for entry in self.entries.values() if entry.pheromone self.activation_threshold ] candidates.sort(keylambda e: e.pheromone, reverseTrue) return candidates[:top_k]這套代碼真的就只有這么多核心邏輯不超過 30 行。你可能會問這么簡單的東西能管理上下文答案是能。傳統(tǒng)方案的復雜度來自“怎么壓縮”“怎么索引”而信息素網(wǎng)絡的復雜度來自“用機制自動篩選”機制本身并不復雜。4.2 調(diào)度觸發(fā)雙時間尺度把事件和時間驅(qū)動結(jié)合起來deposit和decay需要在合適的時機被調(diào)用。我的做法是分兩個層面事件驅(qū)動每當系統(tǒng)做出關(guān)鍵行為時就調(diào)用deposit。這個“關(guān)鍵行為”可以是“用戶提出了新約束”“某個 Agent 引用了某條上下文”“工具調(diào)用返回了重要結(jié)果”“另一個 Agent 對某條內(nèi)容進行了確認”。統(tǒng)統(tǒng)先沉積一次再決定要不要立刻拿去用。時間驅(qū)動系統(tǒng)內(nèi)部維護一個 tick 計數(shù)器每處理完 N 條消息我線上用的是每 5 條消息一個 tick后面會講為什么就調(diào)用一次decay。decay 之后所有濃度會出現(xiàn)一輪整體縮水那些近期沒被沉積的條目就會明顯下沉。之所以用“每 5 條消息”而不是“每 1 條消息”是考慮到揮發(fā)的節(jié)奏必須慢于沉積的節(jié)奏否則濃度波動會太劇烈。想象一下一個信息剛剛在第 4 條消息里被引用信息素升到 1.0如果第 5 條消息就觸發(fā) decay濃度立刻變成 0.85雖然沒歸零但那種“剛熱就涼”的感覺會讓系統(tǒng)對短期引用的響應變得不夠平滑。拉開 tick 的間隔濃度曲線會穩(wěn)定很多。4.3 一個最小演示三智能體協(xié)作上下文如何逐步分層我寫一個小模擬來展示這套網(wǎng)絡的實際行為。假設有三個 Agent——planner、coder、reviewer它們依次輪番發(fā)出消息。我定義了三個上下文 keyconstraint_oauth2用戶的硬性約束、db_schema數(shù)據(jù)庫結(jié)構(gòu)決策、log_warning一個偶發(fā)的警告日志。每條 Agent 消息都會引用其中若干條目。# 模擬多智能體協(xié)作中的上下文沉積與揮發(fā) pn PheromoneNetwork(decay_rate0.2, deposit_amount1.0, activation_threshold0.8) def simulate_round(round_id: int, refs: list): print(f Round {round_id} ) for key in refs: pn.deposit(key, fcontent for {key}) pn.decay() for entry in pn.recall(top_k5): print(f recall: {entry.key} pheromone{entry.pheromone:.2f}) # Round 1: 用戶提出 OAuth 約束 simulate_round(1, [constraint_oauth2]) # Round 2-4: coder 引用約束planner 確定表結(jié)構(gòu) simulate_round(2, [constraint_oauth2, db_schema]) simulate_round(3, [constraint_oauth2, db_schema]) simulate_round(4, [db_schema]) # Round 5: reviewer 偶發(fā)提到一個 log 警告 simulate_round(5, [log_warning]) # Round 6-7: 繼續(xù)討論 OAuth 與 db_schemalog_warning 被冷落 simulate_round(6, [constraint_oauth2, db_schema]) simulate_round(7, [constraint_oauth2])這個模擬跑出來的濃度變化很有代表性。前幾輪里constraint_oauth2和db_schema因為反復被 deposit濃度穩(wěn)居高位log_warning在第 5 輪漲到了 1.0但之后沒人再碰它在 6、7 輪的 decay 之后濃度一路縮水到 0.64跌破閾值 0.8從 recall 結(jié)果里消失了。這說明它沒有“被永久遺忘”只是暫時降級——如果第 8 輪 reviewer 又提到它濃度會重新升回閾值以上它會再次回到上下文列表。這種“暫時性沉底、可被重新激活”的特性是窗口截斷和摘要壓縮都做不到的。如果你把這套網(wǎng)絡接到真線上需要做的就是定義好“哪些 key 值得被追蹤”“哪些動作算引用”剩下的篩選邏輯全部交給濃度競爭來完成。5. 把信息素網(wǎng)絡嵌進現(xiàn)有 Agent 流程RAG 加權(quán)、工具記憶和多智能體共享跑通最小骨架之后下一步就是把它真正融進系統(tǒng)的各個環(huán)節(jié)。我實際集成了三個觸點RAG 召回排序、工具調(diào)用記憶、多智能體共享記憶。每個觸點我都會說清楚信息素網(wǎng)絡扮演什么角色、和原有邏輯怎么配合。5.1 融合排序公式讓向量相似度和信息素濃度共同決策先說 RAG。我并不打算用信息素網(wǎng)絡替代向量庫而是把它當成一個“重排序信號”與向量相似度加權(quán)融合。具體做法是final_score w1 * similarity_score w2 * pheromone_score其中similarity_score是向量檢索返回的相似度歸一化到 0~1pheromone_score是信息素濃度歸一化到 0~1 后的值。w1 和 w2 是我設置的融合權(quán)重線上初期我取 w10.6、w20.4。為什么不是全用向量相似度因為有些歷史內(nèi)容雖然語義上“不夠像”但它是當前任務的硬約束信息素濃度高融合之后它就能壓過那些語義相似但無關(guān)緊要的片段。為什么不是全用信息素因為冷啟動階段信息素為空向量檢索能保證基本召回率。融合排序的另一個好處是解決了“檢索片段零散”的問題。我之前提過向量檢索引回的片段彼此孤立模型看不出來龍去脈;加入信息素濃度排序之后高濃度的條目往往是沿著同一事件線索積累下來的它們在上下文里的位置相對靠前模型能順著濃度高低的順序理解“主線是什么”“支線是什么”上下文的結(jié)構(gòu)性大大增強了。5.2 工具調(diào)用的記憶分層哪些結(jié)果值得“記牢”哪些只做臨時態(tài)多智能體系統(tǒng)里工具調(diào)用非常頻繁文件讀寫、數(shù)據(jù)庫查詢、代碼執(zhí)行、第三方 API 請求。每一條工具結(jié)果都塞進上下文顯然不可能但完全不記又會丟掉關(guān)鍵信息。我的處理規(guī)則是“按信息素濃度做記憶分層”高濃度高于 activation_threshold進入 Prompt直接參與當前決策。中濃度在 0.2~threshold 之間不進入 Prompt但保留在上下文倉庫里作為隱性背景知識。如果后續(xù)輪次被引用濃度升高后會升級進入 Prompt。低濃度低于 0.2視為“臨時記憶”只在當輪 Prompt 里使用跨輪之后如果不被引用就直接清理。這套分層方式讓工具結(jié)果有了“短期記憶”和“長期記憶”的清晰邊界不需要人為維護白名單。比如一次“代碼執(zhí)行成功”的普通結(jié)果濃度低用完即棄但一次“執(zhí)行失敗且錯誤信息包含數(shù)據(jù)庫連接超時”的結(jié)果如果被 reviewer 在下一輪引用并討論濃度就會被沉積升級為長期記憶后續(xù)排查同類問題時還能被召回。5.3 多智能體共享記憶私有工作區(qū)與共享黑板的隔離設計多智能體場景下最復雜的問題是“誰的記憶該給誰看”。如果把所有 Agent 的上下文都倒進一個信息素池必然互相污染。我的方案是給每個 Agent 分配一個私有PheromoneNetwork實例同時維護一個共享的SharedBoard規(guī)格一模一樣但寫入權(quán)限和讀取范圍不同私有網(wǎng)絡每個 Agent 只能寫入自己的感覺、推斷、中間結(jié)論。比如 coder 自己查到一個 API 文檔琢磨出某個方案可行這是 coder 的私有上下文。共享黑板當一個 Agent 認為某個信息值得團隊共用時它顯式執(zhí)行shared_board.deposit(key, content)把這條信息沉積到共享池。讀取時所有 Agent 在組裝自己的 Prompt 前都會把共享黑板的高濃度條目并到自己的上下文列表里。讀取掩碼每個 Agent 在調(diào)用recall時可以傳入namespace_filter只召回自己寫入或指定命名空間的條目避免把別人的中間推測喂給當前 Agent。這個隔離設計非常關(guān)鍵。我見過不少團隊圖省事把所有 Agent 塞進一個全局上下文池結(jié)果就是coder 的某個“中間懷疑”污染了 planner 的判斷planner 又基于被污染的上下文調(diào)整計劃整個系統(tǒng)開始出現(xiàn)“幻覺傳染”。隔離之后私有工作區(qū)保留了每個 Agent 的獨立性共享黑板又讓團隊能圍繞真正重要的東西形成共識兩者各管一攤配合起來干凈很多。5.4 與現(xiàn)有 Prompt 組裝流程的整合一個示例代碼片段為了讓你看得更直觀我貼一段我實際在用的 Prompt 組裝片段。它做的事情是在真正調(diào)用模型之前先從私有網(wǎng)絡和共享黑板里召回高濃度條目拼成系統(tǒng)級上下文再拼上當前輪的消息最后交給模型。def build_prompt(agent_id: str, current_messages: list, pn: PheromoneNetwork, shared_board: PheromoneNetwork) - list: # 1. 從私有網(wǎng)絡召回 private_memory pn.recall(top_k8) # 2. 從共享黑板召回 shared_memory shared_board.recall(top_k5) # 3. 合并成系統(tǒng)級上下文高濃度優(yōu)先 memory_blocks [] for entry in shared_memory private_memory: memory_blocks.append( f[上下文] 濃度{entry.pheromone:.2f} | 內(nèi)容: {entry.content} ) system_prompt \n.join(memory_blocks) if memory_blocks else 暫無高優(yōu)先級上下文 # 4. 拼上歷史消息 return [ {role: system, content: system_prompt}, ] current_messages注意我通常會先拼共享黑板再拼私有記憶。原因很簡單共享黑板是團隊共識優(yōu)先級天然高于單個 Agent 的私有推斷。如果你在生產(chǎn)環(huán)境試跑后發(fā)現(xiàn)共享黑板的條目過于強勢、擠掉了私有記憶可以調(diào)整top_k配比比如改成 shared3、private10把自由發(fā)揮的空間還給單個 Agent。6. 實測參數(shù)調(diào)優(yōu)與踩坑實錄濃度超沖、揮發(fā)率玄學、路徑固化這一節(jié)可能是對你最有價值的部分——把我在真實運行中遇到的坑和對應解法都沉淀下來。參數(shù)調(diào)優(yōu)這件事網(wǎng)上的資料真的少基本靠試錯。我試錯了很多次把這些經(jīng)驗寫成清單希望你能少走彎路。6.1 濃度超沖當一條上下文“永久釘”在 Prompt 里第一個坑是濃度超沖。我在早期版本里用的是“無上限線性沉積”——每次引用濃度 1結(jié)果跑了 20 輪之后某一條關(guān)鍵約束的濃度漲到了 14.8而其他所有條目只有 0.2 到 0.6。這時候不管怎么衰減14.8 都要在固定輪數(shù)內(nèi)才可能降到閾值以下那條上下文實際上被“永久釘”在 Prompt 里了。這不是“信息重要所以保留”的邏輯出錯而是系統(tǒng)失去了“允許一個曾經(jīng)重要的信息退場”的能力。我的解決方案有兩層第一層是給濃度設置一個軟上限max_pheromone 10.0當濃度超過上限時deposit 的增量改成衰減式追加增量乘以max(0, 1 - C/max_pheromone)讓濃度可以繼續(xù)漲但越漲越慢第二層是給 recall 加一個max_prominence限制如果某條目濃度超過均值的 5 倍就算它濃度最高我也只允許它占據(jù)一個上下文位不允許它擠占所有 token。這兩層加完之后系統(tǒng)的記憶分配從“贏家通吃”變成了“贏家多吃但吃不下所有人”。關(guān)鍵信息依然占據(jù)主導地位但同時給其他中等優(yōu)先級的信息留出了呼吸空間。這個調(diào)整對多 Agent 協(xié)作特別重要——否則 reviewer 永遠只能看到 planner 制定的主線根本沒法提出替代方案整個團隊就會變成“一人獨裁”。6.2 揮發(fā)率的敏感度為什么這個參數(shù)最折磨人第二個坑是揮發(fā)率的調(diào)參真的折騰了我好幾個晚上。λ 太小比如 0.01所有濃度都掉不下去系統(tǒng)退化成“無限歷史記憶”;λ 太大比如 0.5所有濃度兩三輪就歸零recall 結(jié)果變成只依賴最近一輪的引用又回到了固定窗口的老路。我試了個比較系統(tǒng)的方法固定其他參數(shù)把 λ 從 0.05 到 0.5 每次調(diào) 0.05跑一批相同的測試任務觀察兩個指標——平均 recall 條數(shù)穩(wěn)定性和關(guān)鍵約束的召回率。實測發(fā)現(xiàn) λ0.2 左右是一個甜點區(qū)間既能讓低優(yōu)先級的舊信息在 5~8 輪內(nèi)沉底又不會讓真正重要的約束在 10 輪內(nèi)就消失。這個“5~8 輪”恰好和我的 tick 間隔每 5 條消息一次 decay配合得比較好。但這里我必須強調(diào)λ0.2 絕不是通用標準。它依賴你的 tick 間隔、每條 Agent 消息的粒度、任務平均輪數(shù)。一個更可靠的經(jīng)驗法則是設定一個你期望的“遺忘周期”假設你希望一個信息在 10 輪沒有被引用后濃度降到可忽略初始 1.0 降到 0.1 以下那么 λ 可以按1.0 - (0.1)^(1/10) ≈ 0.21這個數(shù)量級來取值。你可以以此為起點再細調(diào)。6.3 路徑固化信息素的正反饋可能讓團隊過早鎖死方向這個坑是最隱蔽的也是我后來才意識到的。信息素的正反饋機制會讓高頻被引用的方向越來越強這本是好事但也可能導致路徑固化——團隊一旦基于某個不完美的方案形成了高濃度共識就再也不愿意探索其他可能了。就像蟻群走上了一條不算最優(yōu)但“夠用”的路就不再去找真正的近路。我在一組任務里就吃過虧planner 提出用“數(shù)據(jù)庫直查”的方式完成某數(shù)據(jù)分析前兩輪所有 Agent 都圍繞這個方向討論濃度漲得飛快其實還有一條“用緩存層加速”的路徑但因為它一直沒有被提出來信息素濃度始終是零。結(jié)果等任務跑到一半發(fā)現(xiàn)數(shù)據(jù)量太大、直查性能崩了團隊才被迫掉頭。緩解措施我在代碼里加了三件事。第一給“未被引用的候選方向”留一個初始信息素底噪新條目創(chuàng)建時默認濃度 0.2而不是 0讓冷門候選不至于被一票否決。第二低濃度條目依然保留在 recall 候選集里只是排序靠后Prompt 的最終上下文里我允許填充一個“其他方向參考”塊專門放濃度在 0.2~threshold 之間的條目每輪最多一條起“提醒作用”。第三共享黑板里定期加入“復盤”或者“反向觀點”類型的條目由 reviewer 顯式沉積用來對抗過度共識。這三招不完美但至少讓系統(tǒng)保持了“可供切換方向的余量”。6.4 參數(shù)速查表與一個建議的起步配置最后匯總一張速查表把上面提到的關(guān)鍵參數(shù)、風險、建議值放一起方便你直接對著抄。參數(shù) / 機制作用我線上的取值踩坑提示decay_rate (λ)每個 tick 的揮發(fā)比例0.15 ~ 0.2太小導致上下文“只進不出”太大導致重要約束被過早遺忘deposit_amount每次引用增加的濃度1.0配合 max_pheromone 使用避免單條目濃度無限漲activation_threshold進入 Prompt 的濃度門檻0.6 ~ 0.8閾值太高則有效上下文過少太低則 Prompt 又會膨脹max_pheromone單條目濃度軟上限10.0防止“永久釘住”某條信息tick 間隔相鄰兩次 decay 之間的消息條數(shù)5 條與 λ 聯(lián)動λ 較大時 tick 間隔可適當拉長混合排序權(quán)重 w1:w2向量相似度 vs 信息素濃度0.6 : 0.4冷啟動階段 okl w2 取小一點等有歷史了再拉高我想特地強調(diào)一下起步配置別追求最優(yōu)先用一套穩(wěn)妥參數(shù)λ0.2、deposit1.0、threshold0.7、max_pheromone10.0跑起來多觀察recall出來的上下文質(zhì)量再微調(diào)。我見過不少人參數(shù)沒調(diào)好就急著加功能最后很難判斷是機制的問題還是參數(shù)的問題。信息素網(wǎng)絡這個方案最大的優(yōu)點就是參數(shù)少、可解釋性強你看到一條上下文濃度高基本能推斷出它為什么高——這是事后排查的巨大優(yōu)勢。另外還有一個調(diào)試上的心得我會在共享黑板里維護一個“信息素熱力表”每個 tick 打印前 5 條高濃度條目和濃度值。這樣每次出問題我只要看一眼熱力表就能知道“哪條上下文占用了模型注意力”定位根因比裸看 Prompt 快得多。信息素機制的好處就在這里——它不是一個黑盒濃度數(shù)值、deposit 記錄、decay 日志全是透明的你可以從外部觀測到一個 Agent 的“注意力在往哪集中”。7. 寫在最后別把它當萬能藥但它在多智能體場景里確實好用到目前為止我在多個項目里都實踐過信息素網(wǎng)絡管理上下文整體收益是實實在在的Prompt 體積下降明顯關(guān)鍵約束的召回率大幅提升多智能體協(xié)作時的方向漂移問題也緩解了很多。但我還是要潑一點冷水——信息素網(wǎng)絡不是萬能藥對于單 Agent 單輪對話它的收益基本為零對于超長單文檔問答RAG 的語義檢索仍然不可或缺對于強調(diào)完全公平記憶的任務它的正反饋機制反而可能起反作用。我用它最舒服的場景始終是“多智能體多輪協(xié)作、中間過程長、各角色需要共享部分記憶但又不希望互相污染”。這個場景恰好切中傳統(tǒng)方案的所有痛點窗口太短、摘要太糊、檢索太散。信息素網(wǎng)絡用一組簡單的濃度數(shù)值把“記憶的優(yōu)先級”這件事交給了時間和引用頻率去自然競爭而不是靠人肉設置一堆規(guī)則。對這種場景我會毫不猶豫繼續(xù)用它。如果你也想試建議就像我當初那樣先用最小骨架代碼搭起來跑一兩個模擬任務把信息素熱力表打開親眼看看濃度如何隨引用沉浮比讀十篇文章管用。等你看懂了它如何替你做判斷再逐步疊加 RAG、共享黑板、多智能體隔離這些進階能力。之后你會體會到所謂上下文管理很多時候根本不用追求“把一切都記下來”而是要讓正確的東西在正確的時刻自然浮出現(xiàn)。