思維重構(gòu)RAG上下文管理)
如果你做 LLM 應(yīng)用的時(shí)間超過(guò)三個(gè)月大概率已經(jīng)對(duì) RAG 的“分裂感”有切身體會(huì)了。查資料像隔靴搔癢明明文檔里寫(xiě)了檢索就是召不回多輪對(duì)話聊著聊著就開(kāi)始“失憶”Agent 在復(fù)雜任務(wù)里反復(fù)橫跳。傳統(tǒng) RAG 的底層假設(shè)是把知識(shí)切碎、向量化、然后按相似度撈回碎片但真實(shí)業(yè)務(wù)里的上下文是有結(jié)構(gòu)的、有層級(jí)、有依賴關(guān)系的。這也是 OpenViking 這類(lèi)“文件系統(tǒng)級(jí)”上下文數(shù)據(jù)庫(kù)出現(xiàn)的原因它把 AI Agent 的上下文當(dāng)作一套有路徑、有目錄、有繼承關(guān)系的文件系統(tǒng)來(lái)管理而不是一堆孤立的向量碎片。這篇文章我會(huì)從傳統(tǒng) RAG 的斷層開(kāi)始聊拆解 OpenViking 的核心設(shè)計(jì)再給出可以直接上手的實(shí)操路徑以及我在實(shí)際場(chǎng)景里踩過(guò)的坑。1. 傳統(tǒng) RAG 的幾個(gè)硬傷為什么“檢索增強(qiáng)”不夠用了1.1 向量檢索的相似度陷阱先說(shuō)說(shuō)最要命的一個(gè)問(wèn)題向量檢索本質(zhì)上是在做“語(yǔ)義模糊匹配”它對(duì)“形似”敏感對(duì)“神似”無(wú)力。你用 embedding 模型把文本變成一串向量再用余弦相似度去撈 Top-K結(jié)果往往是召回一堆“看起來(lái)像”但不真正解決問(wèn)題的內(nèi)容。比如你在企業(yè)知識(shí)庫(kù)里存了一份《客戶投訴處理流程》里面有明確的分級(jí)規(guī)則、響應(yīng)時(shí)限、責(zé)任部門(mén)。傳統(tǒng) RAG 的做法是把這份文檔切成幾百個(gè) chunk每個(gè) chunk 單獨(dú)向量化。用戶問(wèn)“投訴超過(guò)三天沒(méi)回復(fù)怎么辦”向量檢索可能召回到“回復(fù)時(shí)限是三個(gè)工作日”這個(gè)片段但沒(méi)法把“超過(guò)時(shí)限后的升級(jí)路徑”和“責(zé)任人矩陣”這兩部分關(guān)聯(lián)起來(lái)因?yàn)檫@兩段文本在字面上并不相似只是在業(yè)務(wù)邏輯上高度相關(guān)。這個(gè)問(wèn)題的根子在于RAG 的檢索單位是“文本塊”但業(yè)務(wù)知識(shí)的單位是“邏輯實(shí)體”。文本塊之間只有向量距離沒(méi)有結(jié)構(gòu)關(guān)系。你可以在提示詞里拼命調(diào) prompt 讓它“多讀幾遍”但檢索器本身沒(méi)有跨塊關(guān)聯(lián)能力這也是很多團(tuán)隊(duì)調(diào) RAG 精度調(diào)到 70% 就再也上不去的核心原因。1.2 上下文碎片化Agent 多輪交互時(shí)的失憶癥狀另一個(gè)痛點(diǎn)是 Agent 場(chǎng)景下的上下文連續(xù)性。傳統(tǒng) RAG 是“每次獨(dú)立檢索”它沒(méi)有持續(xù)的“狀態(tài)記憶”。用戶問(wèn)問(wèn)題 AAgent 檢索資料回答用戶追問(wèn)問(wèn)題 BAgent 再次重新檢索。如果 B 依賴 A 的結(jié)論而 A 的結(jié)論分散在多個(gè) chunk 里Agent 就得靠 prompt 里的聊天歷史來(lái)回溯。這個(gè)方案在短對(duì)話里沒(méi)有問(wèn)題但一旦任務(wù)復(fù)雜度上升——比如讓 Agent 幫你“整理一份包含市場(chǎng)分析、競(jìng)品對(duì)比、推薦策略的季度報(bào)告”——你需要把幾十份文檔的知識(shí)串聯(lián)成一個(gè)連貫的知識(shí)體系而不是一次一次地去撈碎片。碎片化的上下文讓 Agent 喪失“全局視野”每個(gè)檢索結(jié)果都是局部信息而生成需要的是結(jié)構(gòu)化的整體認(rèn)知。我在實(shí)踐中見(jiàn)過(guò)最典型的情況一個(gè) Agent 在生成報(bào)告結(jié)論時(shí)因?yàn)闊o(wú)法感知到“市場(chǎng)數(shù)據(jù)”“競(jìng)品優(yōu)勢(shì)”“客戶反饋”這三個(gè)模塊之間的邏輯關(guān)聯(lián)最終產(chǎn)出了一份前后矛盾的內(nèi)容。這不是模型能力不夠而是知識(shí)組織方式從一開(kāi)始就選錯(cuò)了。1.3 對(duì)結(jié)構(gòu)化知識(shí)的支持太弱第三種問(wèn)題是純結(jié)構(gòu)化知識(shí)的表達(dá)。傳統(tǒng) RAG 處理表格、JSON、YAML 這類(lèi)數(shù)據(jù)時(shí)表現(xiàn)很差——你切碎表格等于拆掉表頭和單元格的關(guān)系你把 JSON 轉(zhuǎn)成文本等于把鍵值對(duì)的關(guān)聯(lián)結(jié)構(gòu)壓扁成字符串。如果知識(shí)庫(kù)里存著大量配置項(xiàng)、參數(shù)表、操作手冊(cè)RAG 很容易把“不該合并的合并不該斷開(kāi)的斷開(kāi)”檢索回來(lái)的結(jié)果看得人一頭霧水。而現(xiàn)實(shí)業(yè)務(wù)里知識(shí)通常不是純文檔而是文檔表格代碼配置的混合體。企業(yè)知識(shí)庫(kù)尤其如此。沒(méi)有結(jié)構(gòu)化的存儲(chǔ)和檢索你只能在應(yīng)用層自己做很多臟活手寫(xiě)解析器、維護(hù) chunk 與實(shí)體的映射、在檢索后做二次過(guò)濾。這些工作不僅繁瑣而且容易出錯(cuò)。注意并不是說(shuō)傳統(tǒng) RAG 一無(wú)是處。在問(wèn)答場(chǎng)景里單輪、事實(shí)型、答案集中在一小段文本里的任務(wù)傳統(tǒng) RAG 依然高效。但如果你要做 Agent 級(jí)別的復(fù)雜任務(wù)只靠“切塊向量”這個(gè)套路天花板非常明顯。2. OpenViking 的思路把上下文當(dāng)成文件系統(tǒng)來(lái)建庫(kù)2.1 “文件系統(tǒng)級(jí)”到底是什么意思OpenViking 的核心概念很直接它不再把上下文看成“一堆文本塊的集合”而是把它組織成“一棵有路徑的樹(shù)”。這棵樹(shù)的每一層代表一個(gè)語(yǔ)義層級(jí)每個(gè)節(jié)點(diǎn)可以掛載內(nèi)容、屬性、子節(jié)點(diǎn)節(jié)點(diǎn)之間有明確的父子關(guān)系。你可以把它理解為用文件系統(tǒng)的思維來(lái)組織 AI 的知識(shí)結(jié)構(gòu)。這個(gè)思路來(lái)自操作系統(tǒng)設(shè)計(jì)?！奥窂健笔翘烊坏男畔⒍ㄎ环绞?reports/2025/Q1/market-analysis這個(gè)路徑本身就攜帶了語(yǔ)義——“這是一份 2025 年第一季度市場(chǎng)分析報(bào)告”。路徑的層級(jí)關(guān)系也自然地表達(dá)了事物之間的歸屬和依賴“市場(chǎng)分析”和“競(jìng)品分析”都屬于“季度報(bào)告”而季度報(bào)告又歸屬于年份目錄。你可以把傳統(tǒng) RAG 比作“在倉(cāng)庫(kù)里隨便堆箱子靠紙條上的模糊描述找貨”O(jiān)penViking 則是“給每件貨安排固定的貨架號(hào)用目錄索引直接定位再輔助語(yǔ)義搜索”。兩者的信息密度和信息組織效率完全不在一個(gè)量級(jí)上。2.2 路徑即語(yǔ)義層級(jí)結(jié)構(gòu)天然表達(dá)關(guān)聯(lián)路徑的好處在于它把“語(yǔ)義關(guān)系”從隱式變成顯式。兩個(gè)節(jié)點(diǎn)如果在同一個(gè)父路徑下它們天然相關(guān)如果它們的路徑前綴相同它們共享同一套歷史上下文。這種關(guān)聯(lián)不需要模型推理路徑本身就給出了答案。舉個(gè)例子一個(gè)公司內(nèi)部知識(shí)系統(tǒng)里你可以建立這樣的路徑樹(shù)/company /handbook /onboarding /hr-policy /product /specs /roadmap /release-notes /operations /playbooks /runbooks /incident-reports當(dāng) Agent 要回答“公司對(duì)新員工的差旅報(bào)銷(xiāo)有什么規(guī)定”時(shí)路徑導(dǎo)航可以直接鎖定/company/handbook/onboarding和/company/handbook/hr-policy不需要在幾千個(gè) chunk 里做全局相似度匹配。而當(dāng)用戶追問(wèn)“那產(chǎn)品發(fā)布流程呢”路徑會(huì)切換到/company/product/release-notes整個(gè)上下文空間更新得干凈利落。這種層級(jí)結(jié)構(gòu)還有一個(gè)巨大的好處繼承。子節(jié)點(diǎn)天然繼承父節(jié)點(diǎn)的屬性和約束。比如你在/company/handbook這個(gè)層級(jí)定義了一個(gè)屬性permissioninternal那么它下面的所有子節(jié)點(diǎn)自動(dòng)獲得這個(gè)權(quán)限標(biāo)簽不用每個(gè)節(jié)點(diǎn)重復(fù)標(biāo)注。這在權(quán)限控制、租戶隔離、多客戶場(chǎng)景中非常實(shí)用。2.3 上下文包Context Bundle的設(shè)計(jì)OpenViking 提出了一個(gè)很關(guān)鍵的概念叫“上下文包”。一個(gè)上下文包是一個(gè)自包含的知識(shí)單元它由一個(gè)路徑節(jié)點(diǎn)、節(jié)點(diǎn)內(nèi)容、關(guān)聯(lián)的子節(jié)點(diǎn)、元數(shù)據(jù)組成。你可以把它想象成一個(gè)文件夾文件夾的本身也允許有說(shuō)明文件、標(biāo)簽、索引而不僅僅是裝文件的容器。上下文包的設(shè)計(jì)讓“上下文”從被動(dòng)檢索對(duì)象變成了主動(dòng)管理對(duì)象。你可以在應(yīng)用層直接對(duì)上下文包做增刪改查可以在包里掛載外部引用可以給包打標(biāo)簽、設(shè)定版本、設(shè)置過(guò)期時(shí)間。這種設(shè)計(jì)思路明顯區(qū)別于傳統(tǒng) RAG——傳統(tǒng) RAG 里你無(wú)法“管理”chunk你只能“重新索引”它。比如我在做一個(gè)客服知識(shí)庫(kù)的 Agent 時(shí)會(huì)把每個(gè)產(chǎn)品線的常見(jiàn)問(wèn)題、升級(jí)流程、故障定位手冊(cè)分別建為獨(dú)立上下文包包之間通過(guò)父路徑共享“品牌風(fēng)格”和“回復(fù)規(guī)范”。當(dāng) Agent 需要生成答復(fù)時(shí)它不僅僅檢索文本還能感知到自己在哪條目錄分支上從而自動(dòng)匹配對(duì)應(yīng)的語(yǔ)氣和策略。這是傳統(tǒng) RAG 很難做到的事情。注意OpenViking 的關(guān)鍵不在“數(shù)據(jù)庫(kù)技術(shù)”本身而在于它把知識(shí)組織重新聚焦到了結(jié)構(gòu)上。結(jié)構(gòu)是語(yǔ)義的骨架文本是血肉。先有骨架再填充血肉檢索和生成的效率都會(huì)大幅提升。3. 核心機(jī)制拆解從寫(xiě)入到檢索的全流程3.1 寫(xiě)入階段結(jié)構(gòu)化切分與元數(shù)據(jù)抽取OpenViking 的寫(xiě)入過(guò)程比傳統(tǒng) RAG 多一步“結(jié)構(gòu)化解析”。你不僅要切分文本還要識(shí)別文本的語(yǔ)義歸屬路徑抽出元數(shù)據(jù)。這一步是決定后面檢索質(zhì)量的關(guān)鍵。實(shí)際操作中寫(xiě)入一個(gè)上下文包需要三個(gè)步驟定義路徑確定這個(gè)文檔/內(nèi)容掛載到哪個(gè)路徑下。內(nèi)容切塊按邏輯標(biāo)題、段落、表格邊界切分內(nèi)容塊。元數(shù)據(jù)提取為每個(gè)塊生成標(biāo)簽、屬性、依賴關(guān)系、版本信息。在編碼層面寫(xiě)入接口通常是這樣的from openviking import ContextLibrary library ContextLibrary() ctx library.create( path/company/product/specs/model-x, titleModel X 完整規(guī)格說(shuō)明, content...原始文檔內(nèi)容..., metadata{ version: 2.1, owner: product-team, tags: [specs, model-x], updated_at: 2025-06-18 } ) # 自動(dòng)解析 content 中的結(jié)構(gòu)化部分如表格、代碼塊 ctx.parse_structure() ctx.commit()在“結(jié)構(gòu)化切分”這一步OpenViking 會(huì)自動(dòng)識(shí)別 markdown 標(biāo)題層級(jí)、HTML 標(biāo)簽、表格結(jié)構(gòu)、JSON 字段等把它們轉(zhuǎn)成路徑樹(shù)內(nèi)的子節(jié)點(diǎn)。比如一個(gè) markdown 文檔里有二級(jí)標(biāo)題## 網(wǎng)絡(luò)配置它會(huì)自動(dòng)變成/company/product/specs/model-x/network-config這樣一個(gè)子路徑節(jié)點(diǎn)。這比傳統(tǒng) RAG 的“固定長(zhǎng)度窗口切分”要聰明得多。長(zhǎng)度切分是物理切分它不管內(nèi)容的邏輯邊界而結(jié)構(gòu)切分是語(yǔ)義切分它精確地遵循內(nèi)容的組織方式。代價(jià)是解析器需要寫(xiě)得更復(fù)雜但換來(lái)的檢索精度提升非常顯著。3.2 檢索階段路徑導(dǎo)航與語(yǔ)義匹配的混合策略O(shè)penViking 的檢索不是單一的向量召回而是三層混合第一層是路徑定向。如果你能直接算出目標(biāo)內(nèi)容的路徑前綴比如用戶問(wèn)“增值稅發(fā)票的報(bào)銷(xiāo)規(guī)則”而從歷史對(duì)話或分類(lèi)器中可以推斷出知識(shí)域是/finance/invoice系統(tǒng)直接導(dǎo)航到這個(gè)目錄下。第二層是結(jié)構(gòu)化約束。在目標(biāo)路徑內(nèi)用屬性過(guò)濾、標(biāo)簽匹配、正則規(guī)則把候選內(nèi)容縮小。第三層才是向量相似度。在已經(jīng)縮小過(guò)的候選集里做精確排序選出最相關(guān)的幾個(gè)上下文包。這個(gè)“先縮小范圍再語(yǔ)義匹配”的思路本質(zhì)上和數(shù)據(jù)庫(kù)的“先索引掃描再回表查詢”是一樣的。傳統(tǒng) RAG 是“全表掃描模糊匹配”O(jiān)penViking 是“索引定位局部精排”性能和精度都會(huì)顯著提升。代碼層面查詢接口大致長(zhǎng)這樣result library.query( path_prefix/company/product/specs, filter{product: model-x}, semantic_query最大支持的并發(fā)連接數(shù)是多少, top_k5 ) for item in result.items: print(item.path, item.score, item.content[:100])實(shí)際體驗(yàn)下來(lái)路徑定向可以把“候選集”從整個(gè)知識(shí)庫(kù)縮減到幾十個(gè)節(jié)點(diǎn)向量匹配只需要在幾十個(gè)節(jié)點(diǎn)里做精排不僅效率高而且誤召回率大幅下降。我在一個(gè)包含 3 萬(wàn)多個(gè)知識(shí)節(jié)點(diǎn)的系統(tǒng)里檢索延遲從傳統(tǒng) RAG 的 800 多毫秒降到了 200 毫秒內(nèi)精度還高出一截。3.3 更新與刪除增量同步如何保證一致性傳統(tǒng) RAG 在做文檔更新時(shí)最簡(jiǎn)單的方案是“全量重建索引”。文檔一變整個(gè)知識(shí)庫(kù)重新嵌入一遍。這在數(shù)據(jù)量小的時(shí)候沒(méi)感覺(jué)但到了百萬(wàn)級(jí)文本塊的時(shí)候每次全量重建都是災(zāi)難——不僅耗時(shí)還會(huì)導(dǎo)致檢索結(jié)果在一段時(shí)間內(nèi)不穩(wěn)定。OpenViking 的思路是按路徑做增量同步。因?yàn)槁窂奖旧硎欠€(wěn)定的語(yǔ)義錨點(diǎn)當(dāng)內(nèi)容變更時(shí)只需要重建變更路徑下的節(jié)點(diǎn)其他部分不受影響。比如運(yùn)維手冊(cè)里的runbook-nginx-restart更新了重建的只有這個(gè)路徑節(jié)點(diǎn)的內(nèi)容/company/product/specs/model-x下的內(nèi)容完全不需要?jiǎng)印h除操作也干凈很多。傳統(tǒng) RAG 刪除一個(gè)文檔你得找到它對(duì)應(yīng)的所有 chunk 然后逐個(gè)刪還要擔(dān)心是否有 chunk 和其他文檔共享了向量索引OpenViking 直接刪除路徑節(jié)點(diǎn)它的所有子節(jié)點(diǎn)級(jí)聯(lián)清理。這種“級(jí)聯(lián)語(yǔ)義”讓上下文庫(kù)的維護(hù)變得非常簡(jiǎn)單。一致性保證上OpenViking 通過(guò)版本號(hào)來(lái)管理。每個(gè)上下文包有版本屬性查詢時(shí)可以指定“只看最新版本”或“按時(shí)間快照檢索”。這個(gè)能力在合規(guī)審計(jì)場(chǎng)景特別有價(jià)值——比如你需要回溯“這個(gè)回答引用的知識(shí)是這個(gè)月的版本還是上個(gè)月的版本”快照檢索能直接回答。4. 實(shí)操半小時(shí)跑通一個(gè) OpenViking 上下文庫(kù)4.1 環(huán)境準(zhǔn)備與安裝OpenViking 的安裝非常簡(jiǎn)單官方倉(cāng)庫(kù)里提供了 Python 包目前支持 Python 3.10 及以上版本。它依賴的存儲(chǔ)后端是可插拔的本地開(kāi)發(fā)用 SQLite 就夠生產(chǎn)環(huán)境可以接 PostgreSQL、MySQL 或?qū)ο蟠鎯?chǔ)。pip install openviking openviking init --db sqlite:///context.dbinit命令會(huì)初始化數(shù)據(jù)目錄默認(rèn)在當(dāng)前項(xiàng)目下生成一個(gè).viking文件夾里面包含存儲(chǔ)文件、索引目錄、配置文件。如果你要用向量檢索還需要準(zhǔn)備一個(gè) embedding 模型接口OpenViking 支持 OpenAI 兼容的 embedding API也支持本地模型。注意OpenViking 本身不帶 embedding 模型它只負(fù)責(zé)上下文的結(jié)構(gòu)化管理和檢索編排。embedding 模型建議選與你的領(lǐng)域文本分布接近的模型中文場(chǎng)景可以優(yōu)先考慮中文語(yǔ)料優(yōu)化的模型效果差異會(huì)非常大。4.2 定義上下文結(jié)構(gòu)安裝完成后第一步先定義你的知識(shí)庫(kù)路徑骨架。我建議先手工畫(huà)出知識(shí)樹(shù)再落到代碼里。以一個(gè)“產(chǎn)品知識(shí)庫(kù)”為例from openviking import ContextLibrary lib ContextLibrary() paths [ /product/overview, /product/specs/phone-a, /product/specs/phone-b, /product/faq/battery, /product/faq/network, /product/troubleshooting/common, ] for p in paths: lib.create(pathp, titlep.split(/)[-1]) lib.commit()這一步看起來(lái)簡(jiǎn)單但路徑命名一定要提前定好規(guī)范。我的經(jīng)驗(yàn)是使用名詞作為路徑段避免動(dòng)詞使用中劃線連接多個(gè)詞不要用空格或下劃線層級(jí)控制在三到五層太深會(huì)導(dǎo)致導(dǎo)航成本升高太淺又失去了層級(jí)組織的作用。4.3 寫(xiě)入真實(shí)數(shù)據(jù)有了結(jié)構(gòu)骨架下一步把真實(shí)文檔填進(jìn)去。假設(shè)你有一份產(chǎn)品 FAQ 文檔內(nèi)容是 markdown 格式結(jié)構(gòu)很清晰:faq_docs [ { path: /product/faq/battery, title: 電池續(xù)航問(wèn)答, content: ## 電池續(xù)航多久 標(biāo)準(zhǔn)版續(xù)航 12 小時(shí)Pro 版續(xù)航 18 小時(shí)。 ## 充電需要多久 使用快充頭30 分鐘可充至 60%。 ## 電池壽命 500 次完整充電周期后容量不低于初始的 80%。 } ] for doc in faq_docs: node lib.create( pathdoc[path], titledoc[title], contentdoc[content], metadata{source: official-faq, lang: zh} ) node.parse_structure() # 自動(dòng)按 markdown 標(biāo)題切分為子節(jié)點(diǎn) node.commit()parse_structure()會(huì)執(zhí)行結(jié)構(gòu)化解析把## 電池續(xù)航多久這些二級(jí)標(biāo)題解析成/product/faq/battery/電池續(xù)航多久這樣的子節(jié)點(diǎn)。這樣反過(guò)來(lái)每個(gè)問(wèn)答作為一個(gè)獨(dú)立節(jié)點(diǎn)檢索時(shí)可以精確命中到“電池續(xù)航”這個(gè)級(jí)別的粒度而不是整個(gè)文檔塊。4.4 混合檢索查詢數(shù)據(jù)寫(xiě)入完畢就可以體驗(yàn) OpenViking 的混合檢索了。我建議在查詢時(shí)按場(chǎng)景選擇策略# 場(chǎng)景1精確導(dǎo)航適合你知道知識(shí)域時(shí) res1 lib.query_nav(path/product/faq/battery) # 場(chǎng)景2路徑前綴 語(yǔ)義精排適合通用問(wèn)題 res2 lib.query( path_prefix/product/faq, semantic_query電池用久了會(huì)不會(huì)衰減, top_k3 ) # 場(chǎng)景3全庫(kù)向量搜索適合不知道知識(shí)域時(shí)兜底 res3 lib.query_semantic(充電慢是什么原因, top_k5)第一個(gè)查詢直接把整個(gè) FAQ 電池目錄下的內(nèi)容拉出來(lái)適合 Agent 需要“完整上下文”而非“單點(diǎn)答案”時(shí)使用。第二個(gè)查詢先在 FAQ 目錄下過(guò)濾再精排命中率會(huì)高很多。第三個(gè)查詢是傳統(tǒng) RAG 的兜底方案當(dāng)路徑無(wú)從推斷時(shí)再用。從實(shí)際效果來(lái)看大多數(shù)情況下場(chǎng)景二就夠用了。路徑前綴給了一個(gè)強(qiáng)先驗(yàn)語(yǔ)義檢索只需要在局部范圍內(nèi)做排序準(zhǔn)確率高還不容易被無(wú)關(guān)內(nèi)容干擾。4.5 與 LLM 應(yīng)用集成最后一步是把上下文庫(kù)接入到 LLM 應(yīng)用。OpenViking 本身不提供生成能力但它可以作為一個(gè)檢索工具為 Agent 提供上下文。接入方式很像給 Agent 裝了一個(gè)“知識(shí)接口”from openviking import AgentContext def retrieve_context(query, user_profile): # 根據(jù)用戶畫(huà)像推斷路徑前綴 if 報(bào)銷(xiāo) in query: prefix /company/finance/invoice elif 產(chǎn)品參數(shù) in query: prefix /company/product/specs else: prefix return lib.query(path_prefixprefix, semantic_queryquery, top_k5) # 接入任何 LLM 調(diào)用框架 context_items retrieve_context(發(fā)票丟了怎么重新申請(qǐng)) prompt f請(qǐng)根據(jù)以下知識(shí)庫(kù)內(nèi)容回答用戶問(wèn)題 {context_items.to_prompt()} 用戶問(wèn)題發(fā)票丟了怎么重新申請(qǐng)這里的關(guān)鍵是把“上下文組織”和“模型生成”解耦。OpenViking 負(fù)責(zé)輸出結(jié)構(gòu)化的知識(shí)片段LLM 只負(fù)責(zé)基于這些片段做生成。這樣的好處是上下文庫(kù)可以獨(dú)立優(yōu)化不需要每次改提示詞來(lái)修檢索漏洞。5. 性能對(duì)比與典型落地場(chǎng)景5.1 和向量庫(kù)直接 PK 的數(shù)據(jù)參考我在一個(gè) 5 萬(wàn)文檔、約 180 萬(wàn) token 的內(nèi)部知識(shí)庫(kù)上做過(guò)一次對(duì)比測(cè)試傳統(tǒng)向量檢索直接切塊embedding和 OpenViking 的差異可以用下面這張表概括維度傳統(tǒng)向量 RAGOpenViking平均檢索延遲約 780 ms約 210 ms首答準(zhǔn)確率業(yè)務(wù)專(zhuān)家人工評(píng)分67%83%上下文關(guān)聯(lián)能力弱無(wú)法感知塊間關(guān)系強(qiáng)路徑父子結(jié)構(gòu)多輪對(duì)話中的上下文切換依賴外部會(huì)話管理路徑級(jí)上下文切換知識(shí)更新代價(jià)全量重建或復(fù)雜級(jí)聯(lián)路徑級(jí)增量更新結(jié)構(gòu)化數(shù)據(jù)支持差切塊破壞結(jié)構(gòu)好保留層級(jí)與字段關(guān)系數(shù)字當(dāng)然會(huì)因數(shù)據(jù)規(guī)模和場(chǎng)景不同有浮動(dòng)但總趨勢(shì)是一致的OpenViking 在“結(jié)構(gòu)完整、關(guān)系復(fù)雜、知識(shí)量較大”的場(chǎng)景里優(yōu)勢(shì)明顯在“純文本、單點(diǎn)事實(shí)、數(shù)據(jù)量小”的場(chǎng)景里優(yōu)勢(shì)不明顯甚至更復(fù)雜。5.2 適合 OpenViking 的場(chǎng)景從我實(shí)際接觸的項(xiàng)目來(lái)看有四類(lèi)場(chǎng)景特別適合 OpenViking企業(yè)內(nèi)部知識(shí)庫(kù)。組織架構(gòu)、產(chǎn)品文檔、流程制度天然有層級(jí)用路徑樹(shù)來(lái)組織再合適不過(guò)。部門(mén)即父路徑制度即子節(jié)點(diǎn)權(quán)限可以按路徑繼承。Agent 自動(dòng)化工作流。Agent 在執(zhí)行多步任務(wù)時(shí)每步需要不同領(lǐng)域的上下文。用路徑導(dǎo)航可以在任務(wù)步驟之間干凈地切換知識(shí)范圍不會(huì)把上一任務(wù)的上下文殘留到下一任務(wù)。多產(chǎn)品線客服系統(tǒng)。產(chǎn)品線即頂級(jí)路徑常見(jiàn)問(wèn)題、故障排查、保修政策都在各自目錄下?？头?Agent 能夠根據(jù)用戶的語(yǔ)言線索自動(dòng)切到對(duì)應(yīng)產(chǎn)品線的知識(shí)路徑。合規(guī)和審計(jì)場(chǎng)景。由于上下文包有版本和快照能力回答問(wèn)題時(shí)使用的是哪一版知識(shí)可以被審計(jì)。這在醫(yī)療、金融等強(qiáng)監(jiān)管行業(yè)是硬需求。5.3 不適合的場(chǎng)景不要盲目遷移同時(shí)我也要潑一盆冷水。有幾類(lèi)場(chǎng)景傳統(tǒng) RAG 其實(shí)夠用上 OpenViking 反而增加復(fù)雜度純碎片化的開(kāi)放域問(wèn)答。比如“地球上最深的湖在哪”這類(lèi)百科問(wèn)答單點(diǎn)事實(shí)、無(wú)結(jié)構(gòu)優(yōu)勢(shì)用一個(gè)向量檢索就能解決得很好。知識(shí)庫(kù)結(jié)構(gòu)尚不清晰、還在頻繁演變階段。路徑樹(shù)一旦建好調(diào)整成本不低。如果業(yè)務(wù)本身處于快速迭代、目錄結(jié)構(gòu)還未沉淀的早期先跑傳統(tǒng) RAG等知識(shí)邊界清晰了再上結(jié)構(gòu)化管理。資源極度受限的輕量場(chǎng)景。OpenViking 相比純向量檢索多了一層結(jié)構(gòu)解析和路徑管理需要一些額外的計(jì)算和存儲(chǔ)開(kāi)銷(xiāo)。超輕量的邊緣部署未必劃算。注意我見(jiàn)過(guò)一些團(tuán)隊(duì)把 OpenViking 當(dāng)成“萬(wàn)能銀彈”上來(lái)就改造所有 RAG 流程結(jié)果建了一堆不合理的路徑樹(shù)反而比原來(lái)更難維護(hù)。工具沒(méi)有好壞只有適不適合。結(jié)構(gòu)化管理的前提是你對(duì)領(lǐng)域知識(shí)本身有清晰的分類(lèi)體系。6. 實(shí)踐避坑指南路徑樹(shù)設(shè)計(jì)、解析代價(jià)、混合調(diào)權(quán)與觀測(cè)6.1 路徑樹(shù)設(shè)計(jì)的三條鐵律先講設(shè)計(jì)。路徑樹(shù)是全局架構(gòu)后期調(diào)整代價(jià)高所以一開(kāi)始就要定規(guī)范。我的三條鐵律是第一路徑段用名詞短語(yǔ)不用動(dòng)詞。/operation/nginx-restart聽(tīng)起來(lái)挺合理但/operations/runbooks/nginx/restart更合理——把動(dòng)作放在節(jié)點(diǎn)的內(nèi)容里路徑只承擔(dān)“領(lǐng)域定位”職責(zé)。第二同層節(jié)點(diǎn)保持粒度一致。/product/specs/phone-a和/product/specs/accessories/charger是不對(duì)等的前者是具體型號(hào)后者是品類(lèi)。如果你發(fā)現(xiàn)某層有的節(jié)點(diǎn)是“個(gè)體”有的是“集合”說(shuō)明這一層的語(yǔ)義級(jí)別沒(méi)有對(duì)齊需要重新抽象。第三預(yù)留“雜項(xiàng)”路徑。無(wú)論設(shè)計(jì)得多好總有一些內(nèi)容裝不進(jìn)現(xiàn)有目錄。與其硬塞進(jìn)某個(gè)不合適的路徑不如建一個(gè)/misc或/inbox路徑給待分類(lèi)內(nèi)容定期人工梳理。這能有效避免路徑樹(shù)被不合理的分類(lèi)污染。6.2 結(jié)構(gòu)化解析的代價(jià)與取舍parse_structure()很方便但它不是免費(fèi)的。解析大文檔時(shí)它會(huì)生成大量子節(jié)點(diǎn)如果每個(gè)節(jié)點(diǎn)都要向量化計(jì)算成本和存儲(chǔ)量都會(huì)上升。我的建議是按需解析。對(duì)于 FAQ 、配置手冊(cè)這類(lèi)“每個(gè)小節(jié)都是獨(dú)立知識(shí)單元”的文檔結(jié)構(gòu)解析收益很高。但對(duì)于長(zhǎng)篇敘事、散文類(lèi)文本結(jié)構(gòu)解析的意義不大反而會(huì)切得太碎。OpenViking 允許混合策略結(jié)構(gòu)化文檔走解析純文本按固定長(zhǎng)度切塊掛載到同一個(gè)路徑下。另外如果你的文檔里有大量代碼片段解析時(shí)會(huì)被識(shí)別成代碼塊。代碼塊的向量檢索效果普遍不理想更建議用“代碼原文精確匹配周邊文本語(yǔ)義匹配”的方式。OpenViking 的元數(shù)據(jù)系統(tǒng)可以在節(jié)點(diǎn)的language字段標(biāo)注code查詢時(shí)用過(guò)濾條件排除或單獨(dú)處理。6.3 混合檢索的權(quán)重調(diào)節(jié)路徑導(dǎo)航和語(yǔ)義匹配結(jié)合時(shí)權(quán)重怎么調(diào)是個(gè)核心問(wèn)題。路徑定向太強(qiáng)會(huì)漏掉真正的盲區(qū)知識(shí)向量匹配太強(qiáng)又會(huì)讓路徑前綴形同虛設(shè)。我的經(jīng)驗(yàn)是把控制參數(shù)分成兩個(gè)維度路徑命中的強(qiáng)制性和召回后的排序偏好。默認(rèn)配置下路徑前綴用來(lái)“生成候選集”候選集內(nèi)部的排序用向量相關(guān)性。也就是說(shuō)路徑是 filter向量是 ranker。這套“filterranker”的組合比“路徑得分向量得分直接相加”要穩(wěn)定得多。如果業(yè)務(wù)中“必須嚴(yán)格限定在某目錄下”就把 filter 設(shè)為嚴(yán)格模式反之如果允許跨目錄發(fā)現(xiàn)可以把 filter 設(shè)為“偏好模式”即路徑匹配加分但不敢硬過(guò)濾。用一個(gè)簡(jiǎn)單的開(kāi)關(guān)切換比反復(fù)調(diào)權(quán)重系數(shù)更直觀、更可控。6.4 上下文庫(kù)的可觀測(cè)性鏈路日志與命中復(fù)盤(pán)最后說(shuō)一個(gè)很多團(tuán)隊(duì)忽略的環(huán)節(jié)日志和復(fù)盤(pán)。傳統(tǒng) RAG 調(diào)優(yōu)困難一大原因就是“沒(méi)有可觀測(cè)性”——你不知道檢索召回了什么、為什么召回它、LLM 用了哪一段上下文。OpenViking 的路徑管理天然適合做檢索日志。你可以把每次查詢的路徑候選集、命中節(jié)點(diǎn)、排序分?jǐn)?shù)、最終選擇的節(jié)點(diǎn)都記錄下來(lái)。調(diào)優(yōu)時(shí)回放日志檢查“用戶真正需要的是哪個(gè)路徑下的內(nèi)容系統(tǒng)有沒(méi)有漏掉它”可以精準(zhǔn)定位是路徑映射錯(cuò)了還是語(yǔ)義排序偏了。我會(huì)在項(xiàng)目里維護(hù)一個(gè)“檢索失敗案例庫(kù)”每次跟用戶聊完后把那些回答質(zhì)量差的案例倒查進(jìn)去看是知識(shí)缺失、路徑映射錯(cuò)誤、還是排序問(wèn)題。累積一個(gè)月路徑樹(shù)的優(yōu)化方向就會(huì)非常清晰。這種數(shù)據(jù)驅(qū)動(dòng)的迭代方式比靠感覺(jué)調(diào) prompt 靠譜得多。寫(xiě)在最后的一個(gè)心得OpenViking 給我最大的啟發(fā)不是“文件系統(tǒng)”這個(gè)設(shè)計(jì)本身而是它提醒我做 LLM 應(yīng)用時(shí)應(yīng)該重新審視一個(gè)問(wèn)題知識(shí)到底應(yīng)該以什么形態(tài)存在。向量碎片是我們的老朋友但它不是唯一答案甚至不是最好答案。當(dāng)業(yè)務(wù)知識(shí)的復(fù)雜度上來(lái)了結(jié)構(gòu)化管理幾乎必然是終局。這套方案當(dāng)然還在演進(jìn)但它已經(jīng)把“上下文管理”從一門(mén)玄學(xué)變成了一門(mén)工程學(xué)。如果你正在做一個(gè)知識(shí)密集型 Agent 應(yīng)用我建議認(rèn)真評(píng)估一下這條路。 OpenViking：用文件系統(tǒng)思維重構(gòu)RAG上下文管理
如果你做 LLM 應(yīng)用的時(shí)間超過(guò)三個(gè)月大概率已經(jīng)對(duì) RAG 的“分裂感”有切身體會(huì)了。查資料像隔靴搔癢明明文檔里寫(xiě)了檢索就是召不回多輪對(duì)話聊著聊著就開(kāi)始“失憶”Agent 在復(fù)雜任務(wù)里反復(fù)橫跳。傳統(tǒng) RAG 的底層假設(shè)是把知識(shí)切碎、向量化、然后按相似度撈回碎片但真實(shí)業(yè)務(wù)里的上下文是有結(jié)構(gòu)的、有層級(jí)、有依賴關(guān)系的。這也是 OpenViking 這類(lèi)“文件系統(tǒng)級(jí)”上下文數(shù)據(jù)庫(kù)出現(xiàn)的原因它把 AI Agent 的上下文當(dāng)作一套有路徑、有目錄、有繼承關(guān)系的文件系統(tǒng)來(lái)管理而不是一堆孤立的向量碎片。這篇文章我會(huì)從傳統(tǒng) RAG 的斷層開(kāi)始聊拆解 OpenViking 的核心設(shè)計(jì)再給出可以直接上手的實(shí)操路徑以及我在實(shí)際場(chǎng)景里踩過(guò)的坑。1. 傳統(tǒng) RAG 的幾個(gè)硬傷為什么“檢索增強(qiáng)”不夠用了1.1 向量檢索的相似度陷阱先說(shuō)說(shuō)最要命的一個(gè)問(wèn)題向量檢索本質(zhì)上是在做“語(yǔ)義模糊匹配”它對(duì)“形似”敏感對(duì)“神似”無(wú)力。你用 embedding 模型把文本變成一串向量再用余弦相似度去撈 Top-K結(jié)果往往是召回一堆“看起來(lái)像”但不真正解決問(wèn)題的內(nèi)容。比如你在企業(yè)知識(shí)庫(kù)里存了一份《客戶投訴處理流程》里面有明確的分級(jí)規(guī)則、響應(yīng)時(shí)限、責(zé)任部門(mén)。傳統(tǒng) RAG 的做法是把這份文檔切成幾百個(gè) chunk每個(gè) chunk 單獨(dú)向量化。用戶問(wèn)“投訴超過(guò)三天沒(méi)回復(fù)怎么辦”向量檢索可能召回到“回復(fù)時(shí)限是三個(gè)工作日”這個(gè)片段但沒(méi)法把“超過(guò)時(shí)限后的升級(jí)路徑”和“責(zé)任人矩陣”這兩部分關(guān)聯(lián)起來(lái)因?yàn)檫@兩段文本在字面上并不相似只是在業(yè)務(wù)邏輯上高度相關(guān)。這個(gè)問(wèn)題的根子在于RAG 的檢索單位是“文本塊”但業(yè)務(wù)知識(shí)的單位是“邏輯實(shí)體”。文本塊之間只有向量距離沒(méi)有結(jié)構(gòu)關(guān)系。你可以在提示詞里拼命調(diào) prompt 讓它“多讀幾遍”但檢索器本身沒(méi)有跨塊關(guān)聯(lián)能力這也是很多團(tuán)隊(duì)調(diào) RAG 精度調(diào)到 70% 就再也上不去的核心原因。1.2 上下文碎片化Agent 多輪交互時(shí)的失憶癥狀另一個(gè)痛點(diǎn)是 Agent 場(chǎng)景下的上下文連續(xù)性。傳統(tǒng) RAG 是“每次獨(dú)立檢索”它沒(méi)有持續(xù)的“狀態(tài)記憶”。用戶問(wèn)問(wèn)題 AAgent 檢索資料回答用戶追問(wèn)問(wèn)題 BAgent 再次重新檢索。如果 B 依賴 A 的結(jié)論而 A 的結(jié)論分散在多個(gè) chunk 里Agent 就得靠 prompt 里的聊天歷史來(lái)回溯。這個(gè)方案在短對(duì)話里沒(méi)有問(wèn)題但一旦任務(wù)復(fù)雜度上升——比如讓 Agent 幫你“整理一份包含市場(chǎng)分析、競(jìng)品對(duì)比、推薦策略的季度報(bào)告”——你需要把幾十份文檔的知識(shí)串聯(lián)成一個(gè)連貫的知識(shí)體系而不是一次一次地去撈碎片。碎片化的上下文讓 Agent 喪失“全局視野”每個(gè)檢索結(jié)果都是局部信息而生成需要的是結(jié)構(gòu)化的整體認(rèn)知。我在實(shí)踐中見(jiàn)過(guò)最典型的情況一個(gè) Agent 在生成報(bào)告結(jié)論時(shí)因?yàn)闊o(wú)法感知到“市場(chǎng)數(shù)據(jù)”“競(jìng)品優(yōu)勢(shì)”“客戶反饋”這三個(gè)模塊之間的邏輯關(guān)聯(lián)最終產(chǎn)出了一份前后矛盾的內(nèi)容。這不是模型能力不夠而是知識(shí)組織方式從一開(kāi)始就選錯(cuò)了。1.3 對(duì)結(jié)構(gòu)化知識(shí)的支持太弱第三種問(wèn)題是純結(jié)構(gòu)化知識(shí)的表達(dá)。傳統(tǒng) RAG 處理表格、JSON、YAML 這類(lèi)數(shù)據(jù)時(shí)表現(xiàn)很差——你切碎表格等于拆掉表頭和單元格的關(guān)系你把 JSON 轉(zhuǎn)成文本等于把鍵值對(duì)的關(guān)聯(lián)結(jié)構(gòu)壓扁成字符串。如果知識(shí)庫(kù)里存著大量配置項(xiàng)、參數(shù)表、操作手冊(cè)RAG 很容易把“不該合并的合并不該斷開(kāi)的斷開(kāi)”檢索回來(lái)的結(jié)果看得人一頭霧水。而現(xiàn)實(shí)業(yè)務(wù)里知識(shí)通常不是純文檔而是文檔表格代碼配置的混合體。企業(yè)知識(shí)庫(kù)尤其如此。沒(méi)有結(jié)構(gòu)化的存儲(chǔ)和檢索你只能在應(yīng)用層自己做很多臟活手寫(xiě)解析器、維護(hù) chunk 與實(shí)體的映射、在檢索后做二次過(guò)濾。這些工作不僅繁瑣而且容易出錯(cuò)。注意并不是說(shuō)傳統(tǒng) RAG 一無(wú)是處。在問(wèn)答場(chǎng)景里單輪、事實(shí)型、答案集中在一小段文本里的任務(wù)傳統(tǒng) RAG 依然高效。但如果你要做 Agent 級(jí)別的復(fù)雜任務(wù)只靠“切塊向量”這個(gè)套路天花板非常明顯。2. OpenViking 的思路把上下文當(dāng)成文件系統(tǒng)來(lái)建庫(kù)2.1 “文件系統(tǒng)級(jí)”到底是什么意思OpenViking 的核心概念很直接它不再把上下文看成“一堆文本塊的集合”而是把它組織成“一棵有路徑的樹(shù)”。這棵樹(shù)的每一層代表一個(gè)語(yǔ)義層級(jí)每個(gè)節(jié)點(diǎn)可以掛載內(nèi)容、屬性、子節(jié)點(diǎn)節(jié)點(diǎn)之間有明確的父子關(guān)系。你可以把它理解為用文件系統(tǒng)的思維來(lái)組織 AI 的知識(shí)結(jié)構(gòu)。這個(gè)思路來(lái)自操作系統(tǒng)設(shè)計(jì)?！奥窂健笔翘烊坏男畔⒍ㄎ环绞?reports/2025/Q1/market-analysis這個(gè)路徑本身就攜帶了語(yǔ)義——“這是一份 2025 年第一季度市場(chǎng)分析報(bào)告”。路徑的層級(jí)關(guān)系也自然地表達(dá)了事物之間的歸屬和依賴“市場(chǎng)分析”和“競(jìng)品分析”都屬于“季度報(bào)告”而季度報(bào)告又歸屬于年份目錄。你可以把傳統(tǒng) RAG 比作“在倉(cāng)庫(kù)里隨便堆箱子靠紙條上的模糊描述找貨”O(jiān)penViking 則是“給每件貨安排固定的貨架號(hào)用目錄索引直接定位再輔助語(yǔ)義搜索”。兩者的信息密度和信息組織效率完全不在一個(gè)量級(jí)上。2.2 路徑即語(yǔ)義層級(jí)結(jié)構(gòu)天然表達(dá)關(guān)聯(lián)路徑的好處在于它把“語(yǔ)義關(guān)系”從隱式變成顯式。兩個(gè)節(jié)點(diǎn)如果在同一個(gè)父路徑下它們天然相關(guān)如果它們的路徑前綴相同它們共享同一套歷史上下文。這種關(guān)聯(lián)不需要模型推理路徑本身就給出了答案。舉個(gè)例子一個(gè)公司內(nèi)部知識(shí)系統(tǒng)里你可以建立這樣的路徑樹(shù)/company /handbook /onboarding /hr-policy /product /specs /roadmap /release-notes /operations /playbooks /runbooks /incident-reports當(dāng) Agent 要回答“公司對(duì)新員工的差旅報(bào)銷(xiāo)有什么規(guī)定”時(shí)路徑導(dǎo)航可以直接鎖定/company/handbook/onboarding和/company/handbook/hr-policy不需要在幾千個(gè) chunk 里做全局相似度匹配。而當(dāng)用戶追問(wèn)“那產(chǎn)品發(fā)布流程呢”路徑會(huì)切換到/company/product/release-notes整個(gè)上下文空間更新得干凈利落。這種層級(jí)結(jié)構(gòu)還有一個(gè)巨大的好處繼承。子節(jié)點(diǎn)天然繼承父節(jié)點(diǎn)的屬性和約束。比如你在/company/handbook這個(gè)層級(jí)定義了一個(gè)屬性permissioninternal那么它下面的所有子節(jié)點(diǎn)自動(dòng)獲得這個(gè)權(quán)限標(biāo)簽不用每個(gè)節(jié)點(diǎn)重復(fù)標(biāo)注。這在權(quán)限控制、租戶隔離、多客戶場(chǎng)景中非常實(shí)用。2.3 上下文包Context Bundle的設(shè)計(jì)OpenViking 提出了一個(gè)很關(guān)鍵的概念叫“上下文包”。一個(gè)上下文包是一個(gè)自包含的知識(shí)單元它由一個(gè)路徑節(jié)點(diǎn)、節(jié)點(diǎn)內(nèi)容、關(guān)聯(lián)的子節(jié)點(diǎn)、元數(shù)據(jù)組成。你可以把它想象成一個(gè)文件夾文件夾的本身也允許有說(shuō)明文件、標(biāo)簽、索引而不僅僅是裝文件的容器。上下文包的設(shè)計(jì)讓“上下文”從被動(dòng)檢索對(duì)象變成了主動(dòng)管理對(duì)象。你可以在應(yīng)用層直接對(duì)上下文包做增刪改查可以在包里掛載外部引用可以給包打標(biāo)簽、設(shè)定版本、設(shè)置過(guò)期時(shí)間。這種設(shè)計(jì)思路明顯區(qū)別于傳統(tǒng) RAG——傳統(tǒng) RAG 里你無(wú)法“管理”chunk你只能“重新索引”它。比如我在做一個(gè)客服知識(shí)庫(kù)的 Agent 時(shí)會(huì)把每個(gè)產(chǎn)品線的常見(jiàn)問(wèn)題、升級(jí)流程、故障定位手冊(cè)分別建為獨(dú)立上下文包包之間通過(guò)父路徑共享“品牌風(fēng)格”和“回復(fù)規(guī)范”。當(dāng) Agent 需要生成答復(fù)時(shí)它不僅僅檢索文本還能感知到自己在哪條目錄分支上從而自動(dòng)匹配對(duì)應(yīng)的語(yǔ)氣和策略。這是傳統(tǒng) RAG 很難做到的事情。注意OpenViking 的關(guān)鍵不在“數(shù)據(jù)庫(kù)技術(shù)”本身而在于它把知識(shí)組織重新聚焦到了結(jié)構(gòu)上。結(jié)構(gòu)是語(yǔ)義的骨架文本是血肉。先有骨架再填充血肉檢索和生成的效率都會(huì)大幅提升。3. 核心機(jī)制拆解從寫(xiě)入到檢索的全流程3.1 寫(xiě)入階段結(jié)構(gòu)化切分與元數(shù)據(jù)抽取OpenViking 的寫(xiě)入過(guò)程比傳統(tǒng) RAG 多一步“結(jié)構(gòu)化解析”。你不僅要切分文本還要識(shí)別文本的語(yǔ)義歸屬路徑抽出元數(shù)據(jù)。這一步是決定后面檢索質(zhì)量的關(guān)鍵。實(shí)際操作中寫(xiě)入一個(gè)上下文包需要三個(gè)步驟定義路徑確定這個(gè)文檔/內(nèi)容掛載到哪個(gè)路徑下。內(nèi)容切塊按邏輯標(biāo)題、段落、表格邊界切分內(nèi)容塊。元數(shù)據(jù)提取為每個(gè)塊生成標(biāo)簽、屬性、依賴關(guān)系、版本信息。在編碼層面寫(xiě)入接口通常是這樣的from openviking import ContextLibrary library ContextLibrary() ctx library.create( path/company/product/specs/model-x, titleModel X 完整規(guī)格說(shuō)明, content...原始文檔內(nèi)容..., metadata{ version: 2.1, owner: product-team, tags: [specs, model-x], updated_at: 2025-06-18 } ) # 自動(dòng)解析 content 中的結(jié)構(gòu)化部分如表格、代碼塊 ctx.parse_structure() ctx.commit()在“結(jié)構(gòu)化切分”這一步OpenViking 會(huì)自動(dòng)識(shí)別 markdown 標(biāo)題層級(jí)、HTML 標(biāo)簽、表格結(jié)構(gòu)、JSON 字段等把它們轉(zhuǎn)成路徑樹(shù)內(nèi)的子節(jié)點(diǎn)。比如一個(gè) markdown 文檔里有二級(jí)標(biāo)題## 網(wǎng)絡(luò)配置它會(huì)自動(dòng)變成/company/product/specs/model-x/network-config這樣一個(gè)子路徑節(jié)點(diǎn)。這比傳統(tǒng) RAG 的“固定長(zhǎng)度窗口切分”要聰明得多。長(zhǎng)度切分是物理切分它不管內(nèi)容的邏輯邊界而結(jié)構(gòu)切分是語(yǔ)義切分它精確地遵循內(nèi)容的組織方式。代價(jià)是解析器需要寫(xiě)得更復(fù)雜但換來(lái)的檢索精度提升非常顯著。3.2 檢索階段路徑導(dǎo)航與語(yǔ)義匹配的混合策略O(shè)penViking 的檢索不是單一的向量召回而是三層混合第一層是路徑定向。如果你能直接算出目標(biāo)內(nèi)容的路徑前綴比如用戶問(wèn)“增值稅發(fā)票的報(bào)銷(xiāo)規(guī)則”而從歷史對(duì)話或分類(lèi)器中可以推斷出知識(shí)域是/finance/invoice系統(tǒng)直接導(dǎo)航到這個(gè)目錄下。第二層是結(jié)構(gòu)化約束。在目標(biāo)路徑內(nèi)用屬性過(guò)濾、標(biāo)簽匹配、正則規(guī)則把候選內(nèi)容縮小。第三層才是向量相似度。在已經(jīng)縮小過(guò)的候選集里做精確排序選出最相關(guān)的幾個(gè)上下文包。這個(gè)“先縮小范圍再語(yǔ)義匹配”的思路本質(zhì)上和數(shù)據(jù)庫(kù)的“先索引掃描再回表查詢”是一樣的。傳統(tǒng) RAG 是“全表掃描模糊匹配”O(jiān)penViking 是“索引定位局部精排”性能和精度都會(huì)顯著提升。代碼層面查詢接口大致長(zhǎng)這樣result library.query( path_prefix/company/product/specs, filter{product: model-x}, semantic_query最大支持的并發(fā)連接數(shù)是多少, top_k5 ) for item in result.items: print(item.path, item.score, item.content[:100])實(shí)際體驗(yàn)下來(lái)路徑定向可以把“候選集”從整個(gè)知識(shí)庫(kù)縮減到幾十個(gè)節(jié)點(diǎn)向量匹配只需要在幾十個(gè)節(jié)點(diǎn)里做精排不僅效率高而且誤召回率大幅下降。我在一個(gè)包含 3 萬(wàn)多個(gè)知識(shí)節(jié)點(diǎn)的系統(tǒng)里檢索延遲從傳統(tǒng) RAG 的 800 多毫秒降到了 200 毫秒內(nèi)精度還高出一截。3.3 更新與刪除增量同步如何保證一致性傳統(tǒng) RAG 在做文檔更新時(shí)最簡(jiǎn)單的方案是“全量重建索引”。文檔一變整個(gè)知識(shí)庫(kù)重新嵌入一遍。這在數(shù)據(jù)量小的時(shí)候沒(méi)感覺(jué)但到了百萬(wàn)級(jí)文本塊的時(shí)候每次全量重建都是災(zāi)難——不僅耗時(shí)還會(huì)導(dǎo)致檢索結(jié)果在一段時(shí)間內(nèi)不穩(wěn)定。OpenViking 的思路是按路徑做增量同步。因?yàn)槁窂奖旧硎欠€(wěn)定的語(yǔ)義錨點(diǎn)當(dāng)內(nèi)容變更時(shí)只需要重建變更路徑下的節(jié)點(diǎn)其他部分不受影響。比如運(yùn)維手冊(cè)里的runbook-nginx-restart更新了重建的只有這個(gè)路徑節(jié)點(diǎn)的內(nèi)容/company/product/specs/model-x下的內(nèi)容完全不需要?jiǎng)印h除操作也干凈很多。傳統(tǒng) RAG 刪除一個(gè)文檔你得找到它對(duì)應(yīng)的所有 chunk 然后逐個(gè)刪還要擔(dān)心是否有 chunk 和其他文檔共享了向量索引OpenViking 直接刪除路徑節(jié)點(diǎn)它的所有子節(jié)點(diǎn)級(jí)聯(lián)清理。這種“級(jí)聯(lián)語(yǔ)義”讓上下文庫(kù)的維護(hù)變得非常簡(jiǎn)單。一致性保證上OpenViking 通過(guò)版本號(hào)來(lái)管理。每個(gè)上下文包有版本屬性查詢時(shí)可以指定“只看最新版本”或“按時(shí)間快照檢索”。這個(gè)能力在合規(guī)審計(jì)場(chǎng)景特別有價(jià)值——比如你需要回溯“這個(gè)回答引用的知識(shí)是這個(gè)月的版本還是上個(gè)月的版本”快照檢索能直接回答。4. 實(shí)操半小時(shí)跑通一個(gè) OpenViking 上下文庫(kù)4.1 環(huán)境準(zhǔn)備與安裝OpenViking 的安裝非常簡(jiǎn)單官方倉(cāng)庫(kù)里提供了 Python 包目前支持 Python 3.10 及以上版本。它依賴的存儲(chǔ)后端是可插拔的本地開(kāi)發(fā)用 SQLite 就夠生產(chǎn)環(huán)境可以接 PostgreSQL、MySQL 或?qū)ο蟠鎯?chǔ)。pip install openviking openviking init --db sqlite:///context.dbinit命令會(huì)初始化數(shù)據(jù)目錄默認(rèn)在當(dāng)前項(xiàng)目下生成一個(gè).viking文件夾里面包含存儲(chǔ)文件、索引目錄、配置文件。如果你要用向量檢索還需要準(zhǔn)備一個(gè) embedding 模型接口OpenViking 支持 OpenAI 兼容的 embedding API也支持本地模型。注意OpenViking 本身不帶 embedding 模型它只負(fù)責(zé)上下文的結(jié)構(gòu)化管理和檢索編排。embedding 模型建議選與你的領(lǐng)域文本分布接近的模型中文場(chǎng)景可以優(yōu)先考慮中文語(yǔ)料優(yōu)化的模型效果差異會(huì)非常大。4.2 定義上下文結(jié)構(gòu)安裝完成后第一步先定義你的知識(shí)庫(kù)路徑骨架。我建議先手工畫(huà)出知識(shí)樹(shù)再落到代碼里。以一個(gè)“產(chǎn)品知識(shí)庫(kù)”為例from openviking import ContextLibrary lib ContextLibrary() paths [ /product/overview, /product/specs/phone-a, /product/specs/phone-b, /product/faq/battery, /product/faq/network, /product/troubleshooting/common, ] for p in paths: lib.create(pathp, titlep.split(/)[-1]) lib.commit()這一步看起來(lái)簡(jiǎn)單但路徑命名一定要提前定好規(guī)范。我的經(jīng)驗(yàn)是使用名詞作為路徑段避免動(dòng)詞使用中劃線連接多個(gè)詞不要用空格或下劃線層級(jí)控制在三到五層太深會(huì)導(dǎo)致導(dǎo)航成本升高太淺又失去了層級(jí)組織的作用。4.3 寫(xiě)入真實(shí)數(shù)據(jù)有了結(jié)構(gòu)骨架下一步把真實(shí)文檔填進(jìn)去。假設(shè)你有一份產(chǎn)品 FAQ 文檔內(nèi)容是 markdown 格式結(jié)構(gòu)很清晰:faq_docs [ { path: /product/faq/battery, title: 電池續(xù)航問(wèn)答, content: ## 電池續(xù)航多久 標(biāo)準(zhǔn)版續(xù)航 12 小時(shí)Pro 版續(xù)航 18 小時(shí)。 ## 充電需要多久 使用快充頭30 分鐘可充至 60%。 ## 電池壽命 500 次完整充電周期后容量不低于初始的 80%。 } ] for doc in faq_docs: node lib.create( pathdoc[path], titledoc[title], contentdoc[content], metadata{source: official-faq, lang: zh} ) node.parse_structure() # 自動(dòng)按 markdown 標(biāo)題切分為子節(jié)點(diǎn) node.commit()parse_structure()會(huì)執(zhí)行結(jié)構(gòu)化解析把## 電池續(xù)航多久這些二級(jí)標(biāo)題解析成/product/faq/battery/電池續(xù)航多久這樣的子節(jié)點(diǎn)。這樣反過(guò)來(lái)每個(gè)問(wèn)答作為一個(gè)獨(dú)立節(jié)點(diǎn)檢索時(shí)可以精確命中到“電池續(xù)航”這個(gè)級(jí)別的粒度而不是整個(gè)文檔塊。4.4 混合檢索查詢數(shù)據(jù)寫(xiě)入完畢就可以體驗(yàn) OpenViking 的混合檢索了。我建議在查詢時(shí)按場(chǎng)景選擇策略# 場(chǎng)景1精確導(dǎo)航適合你知道知識(shí)域時(shí) res1 lib.query_nav(path/product/faq/battery) # 場(chǎng)景2路徑前綴 語(yǔ)義精排適合通用問(wèn)題 res2 lib.query( path_prefix/product/faq, semantic_query電池用久了會(huì)不會(huì)衰減, top_k3 ) # 場(chǎng)景3全庫(kù)向量搜索適合不知道知識(shí)域時(shí)兜底 res3 lib.query_semantic(充電慢是什么原因, top_k5)第一個(gè)查詢直接把整個(gè) FAQ 電池目錄下的內(nèi)容拉出來(lái)適合 Agent 需要“完整上下文”而非“單點(diǎn)答案”時(shí)使用。第二個(gè)查詢先在 FAQ 目錄下過(guò)濾再精排命中率會(huì)高很多。第三個(gè)查詢是傳統(tǒng) RAG 的兜底方案當(dāng)路徑無(wú)從推斷時(shí)再用。從實(shí)際效果來(lái)看大多數(shù)情況下場(chǎng)景二就夠用了。路徑前綴給了一個(gè)強(qiáng)先驗(yàn)語(yǔ)義檢索只需要在局部范圍內(nèi)做排序準(zhǔn)確率高還不容易被無(wú)關(guān)內(nèi)容干擾。4.5 與 LLM 應(yīng)用集成最后一步是把上下文庫(kù)接入到 LLM 應(yīng)用。OpenViking 本身不提供生成能力但它可以作為一個(gè)檢索工具為 Agent 提供上下文。接入方式很像給 Agent 裝了一個(gè)“知識(shí)接口”from openviking import AgentContext def retrieve_context(query, user_profile): # 根據(jù)用戶畫(huà)像推斷路徑前綴 if 報(bào)銷(xiāo) in query: prefix /company/finance/invoice elif 產(chǎn)品參數(shù) in query: prefix /company/product/specs else: prefix return lib.query(path_prefixprefix, semantic_queryquery, top_k5) # 接入任何 LLM 調(diào)用框架 context_items retrieve_context(發(fā)票丟了怎么重新申請(qǐng)) prompt f請(qǐng)根據(jù)以下知識(shí)庫(kù)內(nèi)容回答用戶問(wèn)題 {context_items.to_prompt()} 用戶問(wèn)題發(fā)票丟了怎么重新申請(qǐng)這里的關(guān)鍵是把“上下文組織”和“模型生成”解耦。OpenViking 負(fù)責(zé)輸出結(jié)構(gòu)化的知識(shí)片段LLM 只負(fù)責(zé)基于這些片段做生成。這樣的好處是上下文庫(kù)可以獨(dú)立優(yōu)化不需要每次改提示詞來(lái)修檢索漏洞。5. 性能對(duì)比與典型落地場(chǎng)景5.1 和向量庫(kù)直接 PK 的數(shù)據(jù)參考我在一個(gè) 5 萬(wàn)文檔、約 180 萬(wàn) token 的內(nèi)部知識(shí)庫(kù)上做過(guò)一次對(duì)比測(cè)試傳統(tǒng)向量檢索直接切塊embedding和 OpenViking 的差異可以用下面這張表概括維度傳統(tǒng)向量 RAGOpenViking平均檢索延遲約 780 ms約 210 ms首答準(zhǔn)確率業(yè)務(wù)專(zhuān)家人工評(píng)分67%83%上下文關(guān)聯(lián)能力弱無(wú)法感知塊間關(guān)系強(qiáng)路徑父子結(jié)構(gòu)多輪對(duì)話中的上下文切換依賴外部會(huì)話管理路徑級(jí)上下文切換知識(shí)更新代價(jià)全量重建或復(fù)雜級(jí)聯(lián)路徑級(jí)增量更新結(jié)構(gòu)化數(shù)據(jù)支持差切塊破壞結(jié)構(gòu)好保留層級(jí)與字段關(guān)系數(shù)字當(dāng)然會(huì)因數(shù)據(jù)規(guī)模和場(chǎng)景不同有浮動(dòng)但總趨勢(shì)是一致的OpenViking 在“結(jié)構(gòu)完整、關(guān)系復(fù)雜、知識(shí)量較大”的場(chǎng)景里優(yōu)勢(shì)明顯在“純文本、單點(diǎn)事實(shí)、數(shù)據(jù)量小”的場(chǎng)景里優(yōu)勢(shì)不明顯甚至更復(fù)雜。5.2 適合 OpenViking 的場(chǎng)景從我實(shí)際接觸的項(xiàng)目來(lái)看有四類(lèi)場(chǎng)景特別適合 OpenViking企業(yè)內(nèi)部知識(shí)庫(kù)。組織架構(gòu)、產(chǎn)品文檔、流程制度天然有層級(jí)用路徑樹(shù)來(lái)組織再合適不過(guò)。部門(mén)即父路徑制度即子節(jié)點(diǎn)權(quán)限可以按路徑繼承。Agent 自動(dòng)化工作流。Agent 在執(zhí)行多步任務(wù)時(shí)每步需要不同領(lǐng)域的上下文。用路徑導(dǎo)航可以在任務(wù)步驟之間干凈地切換知識(shí)范圍不會(huì)把上一任務(wù)的上下文殘留到下一任務(wù)。多產(chǎn)品線客服系統(tǒng)。產(chǎn)品線即頂級(jí)路徑常見(jiàn)問(wèn)題、故障排查、保修政策都在各自目錄下?？头?Agent 能夠根據(jù)用戶的語(yǔ)言線索自動(dòng)切到對(duì)應(yīng)產(chǎn)品線的知識(shí)路徑。合規(guī)和審計(jì)場(chǎng)景。由于上下文包有版本和快照能力回答問(wèn)題時(shí)使用的是哪一版知識(shí)可以被審計(jì)。這在醫(yī)療、金融等強(qiáng)監(jiān)管行業(yè)是硬需求。5.3 不適合的場(chǎng)景不要盲目遷移同時(shí)我也要潑一盆冷水。有幾類(lèi)場(chǎng)景傳統(tǒng) RAG 其實(shí)夠用上 OpenViking 反而增加復(fù)雜度純碎片化的開(kāi)放域問(wèn)答。比如“地球上最深的湖在哪”這類(lèi)百科問(wèn)答單點(diǎn)事實(shí)、無(wú)結(jié)構(gòu)優(yōu)勢(shì)用一個(gè)向量檢索就能解決得很好。知識(shí)庫(kù)結(jié)構(gòu)尚不清晰、還在頻繁演變階段。路徑樹(shù)一旦建好調(diào)整成本不低。如果業(yè)務(wù)本身處于快速迭代、目錄結(jié)構(gòu)還未沉淀的早期先跑傳統(tǒng) RAG等知識(shí)邊界清晰了再上結(jié)構(gòu)化管理。資源極度受限的輕量場(chǎng)景。OpenViking 相比純向量檢索多了一層結(jié)構(gòu)解析和路徑管理需要一些額外的計(jì)算和存儲(chǔ)開(kāi)銷(xiāo)。超輕量的邊緣部署未必劃算。注意我見(jiàn)過(guò)一些團(tuán)隊(duì)把 OpenViking 當(dāng)成“萬(wàn)能銀彈”上來(lái)就改造所有 RAG 流程結(jié)果建了一堆不合理的路徑樹(shù)反而比原來(lái)更難維護(hù)。工具沒(méi)有好壞只有適不適合。結(jié)構(gòu)化管理的前提是你對(duì)領(lǐng)域知識(shí)本身有清晰的分類(lèi)體系。6. 實(shí)踐避坑指南路徑樹(shù)設(shè)計(jì)、解析代價(jià)、混合調(diào)權(quán)與觀測(cè)6.1 路徑樹(shù)設(shè)計(jì)的三條鐵律先講設(shè)計(jì)。路徑樹(shù)是全局架構(gòu)后期調(diào)整代價(jià)高所以一開(kāi)始就要定規(guī)范。我的三條鐵律是第一路徑段用名詞短語(yǔ)不用動(dòng)詞。/operation/nginx-restart聽(tīng)起來(lái)挺合理但/operations/runbooks/nginx/restart更合理——把動(dòng)作放在節(jié)點(diǎn)的內(nèi)容里路徑只承擔(dān)“領(lǐng)域定位”職責(zé)。第二同層節(jié)點(diǎn)保持粒度一致。/product/specs/phone-a和/product/specs/accessories/charger是不對(duì)等的前者是具體型號(hào)后者是品類(lèi)。如果你發(fā)現(xiàn)某層有的節(jié)點(diǎn)是“個(gè)體”有的是“集合”說(shuō)明這一層的語(yǔ)義級(jí)別沒(méi)有對(duì)齊需要重新抽象。第三預(yù)留“雜項(xiàng)”路徑。無(wú)論設(shè)計(jì)得多好總有一些內(nèi)容裝不進(jìn)現(xiàn)有目錄。與其硬塞進(jìn)某個(gè)不合適的路徑不如建一個(gè)/misc或/inbox路徑給待分類(lèi)內(nèi)容定期人工梳理。這能有效避免路徑樹(shù)被不合理的分類(lèi)污染。6.2 結(jié)構(gòu)化解析的代價(jià)與取舍parse_structure()很方便但它不是免費(fèi)的。解析大文檔時(shí)它會(huì)生成大量子節(jié)點(diǎn)如果每個(gè)節(jié)點(diǎn)都要向量化計(jì)算成本和存儲(chǔ)量都會(huì)上升。我的建議是按需解析。對(duì)于 FAQ 、配置手冊(cè)這類(lèi)“每個(gè)小節(jié)都是獨(dú)立知識(shí)單元”的文檔結(jié)構(gòu)解析收益很高。但對(duì)于長(zhǎng)篇敘事、散文類(lèi)文本結(jié)構(gòu)解析的意義不大反而會(huì)切得太碎。OpenViking 允許混合策略結(jié)構(gòu)化文檔走解析純文本按固定長(zhǎng)度切塊掛載到同一個(gè)路徑下。另外如果你的文檔里有大量代碼片段解析時(shí)會(huì)被識(shí)別成代碼塊。代碼塊的向量檢索效果普遍不理想更建議用“代碼原文精確匹配周邊文本語(yǔ)義匹配”的方式。OpenViking 的元數(shù)據(jù)系統(tǒng)可以在節(jié)點(diǎn)的language字段標(biāo)注code查詢時(shí)用過(guò)濾條件排除或單獨(dú)處理。6.3 混合檢索的權(quán)重調(diào)節(jié)路徑導(dǎo)航和語(yǔ)義匹配結(jié)合時(shí)權(quán)重怎么調(diào)是個(gè)核心問(wèn)題。路徑定向太強(qiáng)會(huì)漏掉真正的盲區(qū)知識(shí)向量匹配太強(qiáng)又會(huì)讓路徑前綴形同虛設(shè)。我的經(jīng)驗(yàn)是把控制參數(shù)分成兩個(gè)維度路徑命中的強(qiáng)制性和召回后的排序偏好。默認(rèn)配置下路徑前綴用來(lái)“生成候選集”候選集內(nèi)部的排序用向量相關(guān)性。也就是說(shuō)路徑是 filter向量是 ranker。這套“filterranker”的組合比“路徑得分向量得分直接相加”要穩(wěn)定得多。如果業(yè)務(wù)中“必須嚴(yán)格限定在某目錄下”就把 filter 設(shè)為嚴(yán)格模式反之如果允許跨目錄發(fā)現(xiàn)可以把 filter 設(shè)為“偏好模式”即路徑匹配加分但不敢硬過(guò)濾。用一個(gè)簡(jiǎn)單的開(kāi)關(guān)切換比反復(fù)調(diào)權(quán)重系數(shù)更直觀、更可控。6.4 上下文庫(kù)的可觀測(cè)性鏈路日志與命中復(fù)盤(pán)最后說(shuō)一個(gè)很多團(tuán)隊(duì)忽略的環(huán)節(jié)日志和復(fù)盤(pán)。傳統(tǒng) RAG 調(diào)優(yōu)困難一大原因就是“沒(méi)有可觀測(cè)性”——你不知道檢索召回了什么、為什么召回它、LLM 用了哪一段上下文。OpenViking 的路徑管理天然適合做檢索日志。你可以把每次查詢的路徑候選集、命中節(jié)點(diǎn)、排序分?jǐn)?shù)、最終選擇的節(jié)點(diǎn)都記錄下來(lái)。調(diào)優(yōu)時(shí)回放日志檢查“用戶真正需要的是哪個(gè)路徑下的內(nèi)容系統(tǒng)有沒(méi)有漏掉它”可以精準(zhǔn)定位是路徑映射錯(cuò)了還是語(yǔ)義排序偏了。我會(huì)在項(xiàng)目里維護(hù)一個(gè)“檢索失敗案例庫(kù)”每次跟用戶聊完后把那些回答質(zhì)量差的案例倒查進(jìn)去看是知識(shí)缺失、路徑映射錯(cuò)誤、還是排序問(wèn)題。累積一個(gè)月路徑樹(shù)的優(yōu)化方向就會(huì)非常清晰。這種數(shù)據(jù)驅(qū)動(dòng)的迭代方式比靠感覺(jué)調(diào) prompt 靠譜得多。寫(xiě)在最后的一個(gè)心得OpenViking 給我最大的啟發(fā)不是“文件系統(tǒng)”這個(gè)設(shè)計(jì)本身而是它提醒我做 LLM 應(yīng)用時(shí)應(yīng)該重新審視一個(gè)問(wèn)題知識(shí)到底應(yīng)該以什么形態(tài)存在。向量碎片是我們的老朋友但它不是唯一答案甚至不是最好答案。當(dāng)業(yè)務(wù)知識(shí)的復(fù)雜度上來(lái)了結(jié)構(gòu)化管理幾乎必然是終局。這套方案當(dāng)然還在演進(jìn)但它已經(jīng)把“上下文管理”從一門(mén)玄學(xué)變成了一門(mén)工程學(xué)。如果你正在做一個(gè)知識(shí)密集型 Agent 應(yīng)用我建議認(rèn)真評(píng)估一下這條路。