這兩年跟AI打交道下來我有一個越來越強烈的感受公眾討論里對AI人工智能的誤解不是太少而是太多了。前腳有人說它馬上就要取代一半人的工作后腳就有人罵它是個高級點的搜索引擎。這兩種說法放在一起你很容易發(fā)現(xiàn)——大家談?wù)摰母静皇峭粋€東西。我寫這篇內(nèi)容想做的事情很簡單把我自己實際測試、使用、觀察到的AI行為規(guī)律盡量講清楚順便把它本質(zhì)上是如何工作的這件事用最樸素的話說明白然后基于這些規(guī)律聊聊我們應(yīng)該怎么用、怎么防、怎么跟它協(xié)作。適合這么幾類人看自己平時用AI寫文字、做圖、寫代碼但心里對它的可靠性拿不準(zhǔn)的團隊里正在糾結(jié)要不要把AI接入工作流的以及單純想搞清楚“AI到底有沒有智能”的普通用戶。我不會故意堆術(shù)語。遇到必須講的原理我會用最日常的類比把它拆開。因為“正確認識AI人工智能”這件事并不需要你先成為機器學(xué)習(xí)專家你只需要建立一個足夠準(zhǔn)確的判斷框架。1. 拆掉對AI的兩個常見濾鏡它既不是神也不是騙子1.1 神化濾鏡是怎么形成的你去網(wǎng)上搜AI的演示視頻永遠看不到它翻車的樣子。這是神化濾鏡最直接的來源所有被放出來的內(nèi)容都是千挑萬選的成功案例。模型廠商開發(fā)布會展示的一定是最亮眼的能力——寫詩、寫代碼、解數(shù)學(xué)題、做復(fù)雜推理。你看到的是“高光集錦”而它背后那些答非所問、胡說八道的普通時刻被剪掉了。另一個容易被忽略的原因是AI回答問題時語氣實在太自信了。它不是用不確定的口吻說“我覺得可能是”而是用一種不容置疑的語氣給出完整段落。人類有一個認知習(xí)慣——語氣篤定的人更容易獲得信任。這個機制放在AI身上同樣成立。但你要知道自然語言生成模型的設(shè)計目標(biāo)是生成“像人說的話”不是生成“經(jīng)過驗證的真話”?！跋瘛弊质撬ㄒ坏淖非?。當(dāng)它模仿人類自信口吻的能力越強你就越容易在不知不覺間把它當(dāng)成一個有判斷力的專家。這里還有一個自我強化的反饋回路你越覺得它厲害就越傾向于拿開放式問題去問它比如“給我一個創(chuàng)新的營銷方案”“幫我規(guī)劃人生”。這種問題根本沒有標(biāo)準(zhǔn)答案AI當(dāng)然回答得很流暢而流暢再次強化了你對它的信任。于是濾鏡越來越厚。等你終于問到一件具體到必須核實的事它給你編了一個有鼻子有眼的東西你才猛然驚醒——原來它也會翻車。1.2 蔑視濾鏡是怎么形成的神化濾鏡的另一面就是蔑視濾鏡。很多人抱著巨大期待去用AI結(jié)果遇到一本正經(jīng)的胡說八道——它會引用一篇不存在的論文會給出一個完全算錯的數(shù)字會在推理過程中突然偷換概念。于是這部分人迅速倒向另一極“人工智能就是個高級的自動回復(fù)機器人工智障而已?！边@種體驗是真實的我不否認。但我想提醒一件事把AI某次翻車當(dāng)成“它完全沒用”和把AI某次驚艷表現(xiàn)當(dāng)成“它已經(jīng)有意識”本質(zhì)上是同一個錯誤——用自己的單次體驗替代對整個系統(tǒng)機制的判斷。我實際用下來最深的體會是AI的能力不是一個穩(wěn)定的點而是一條分布。它有時候表現(xiàn)極好好到讓你懷疑人生有時候表現(xiàn)極差差到讓你懷疑自己為什么要用這個破玩意兒。這兩個極端都真實存在取決于問題類型、上下文、提示詞質(zhì)量甚至取決于隨機采樣時的那一點運氣。所以如果你只在一次驚艷和一次翻車之間做判斷那你得到的結(jié)論一定是偏的。正確認識AI的第一個前提就是接受它的“不穩(wěn)定”并且理解這種不穩(wěn)定來自它的底層機制——下一章我會專門講這個機制。1.3 正確的態(tài)度不是折中而是建立判斷標(biāo)準(zhǔn)有人會說那我不吹不黑中庸一點總行了吧不行?！爸杏埂敝皇菓B(tài)度不是方法。真正可靠的做法是建立一套“條件性使用”規(guī)則——在什么條件下可以信任AI的輸出在什么條件下必須懷疑。我給自己定過三個問題每次想拿AI干正經(jīng)事之前都會過一遍第一個問題這個任務(wù)的結(jié)果可以驗證嗎比如讓AI寫一段代碼能不能跑通就是驗證。讓AI算一個數(shù)學(xué)題能不能驗算就是驗證。讓AI寫一篇新聞稿里面的地名、時間、人名能不能逐條查證就是驗證。能驗證的任務(wù)大膽用AI。第二個問題這個任務(wù)的容錯率有多高給朋友圈寫一段開業(yè)文案錯一兩個措辭無所謂。但讓AI起草一份合同條款錯一個詞可能就出大問題。容錯率低的場景AI只能當(dāng)輔助不能當(dāng)主力。第三個問題如果AI錯了我能發(fā)現(xiàn)嗎這個問題最容易被忽略。如果你對某個領(lǐng)域完全陌生AI說什么你信什么那你就處在最危險的境地——不是因為AI想騙你而是因為你沒有能力識別它的錯誤。這種情況下要么先自己補基礎(chǔ)的判斷力要么只讓AI幫你整理思路不碰事實結(jié)論。這套三問框架后面所有章節(jié)其實都在給它提供支撐。先把標(biāo)準(zhǔn)立起來再去看AI的能力邊界你就不會被某一個單次的輸出帶偏。2. 大模型“懂”與“不懂”的分界線在哪里2.1 一個最小化的原理它是一臺高級續(xù)寫機很多人被“大語言模型”這個名字嚇住以為它內(nèi)部有什么神秘的思考機制。實際上它的核心任務(wù)可以用一句很不浪漫的話概括給定前面所有文字預(yù)測下一個詞是什么。你會說這不就是輸入法的聯(lián)想功能嗎方向上確實有點像只是規(guī)模完全不同。輸入法看的是你打了幾個字從一個小詞庫里挑候選詞大模型看的是你給它的整段上下文從經(jīng)過數(shù)十億條人類文本訓(xùn)練出來的參數(shù)分布中預(yù)測概率最高的下一個詞。然后它把這個詞拼到句尾再用新的完整句子繼續(xù)預(yù)測下一個詞。一遍一遍重復(fù)就生成了整段回答。你可以把它的參數(shù)想象成一張規(guī)模極大的“人類語言統(tǒng)計表”——但不是簡單的詞頻表而是記錄了詞語在不同語境下的共現(xiàn)規(guī)律。它不知道“蘋果”是一種水果還是一個品牌它只知道在“削皮吃”的上下文里“蘋果”更可能指水果在“發(fā)布了新手機”的上下文里“蘋果”更可能指品牌。這個機制有一個極其重要的推論AI的所有回答都是逐詞生成的它沒有在某個數(shù)據(jù)庫里“查詢”答案,也沒有在后臺“回憶”什么東西。它全程在做的事情只有一件——生成一串在統(tǒng)計上最像樣的文字。至于這串文字是不是符合事實它不關(guān)心也沒有能力關(guān)心。2.2 “看起來懂”和“真懂”之間隔著一道鴻溝那么問題來了如果說它只是在做文字接龍為什么它能通過那么多看起來需要推理的測試答案是人類寫的文本里本身就包含了大量推理過程的記錄。模型在訓(xùn)練時把這些推理的“語言模式”學(xué)進去了。比如網(wǎng)上有大量“因為A所以B”“步驟一、步驟二、步驟三”這類內(nèi)容模型學(xué)會了這種結(jié)構(gòu)。當(dāng)你提問時它自然會按照這種結(jié)構(gòu)輸出一段邏輯上看起來通順的推演。但你仔細觀察會發(fā)現(xiàn)它的“推理”有一個致命弱點它依賴的是語言上的模式識別而不是對問題本身做真正的推演。我做過一個測試問一個常見邏輯謎題它能給出正確答案。但當(dāng)我在題干里改動一個關(guān)鍵條件讓答案完全不同時它仍然沿著原來的思路把舊答案里的推理過程原封不動地搬過來。人類如果真在讀題會發(fā)現(xiàn)條件變了答案就變了它沒有發(fā)現(xiàn)因為它不是“讀題”而是“看到了一串像某個經(jīng)典題目的文字”然后把記憶里最接近的答案模式吐了出來。這個例子說明一個關(guān)鍵問題模型缺少一個穩(wěn)定的“世界模型”。人類理解語言時會調(diào)動物理直覺、因果邏輯、空間想象、經(jīng)驗常識。模型沒有這些東西它只有文字模式的統(tǒng)計規(guī)律。它可以在字面上構(gòu)建一個看起來合理的“世界”但這個“世界”是脆弱的經(jīng)不起條件的微小改變。這不是說它完全沒用。恰恰相反人類語言里編碼了大量知識模型在統(tǒng)計上能夠復(fù)現(xiàn)這些知識的表面模式所以它在很多場景下表現(xiàn)得非常聰明。但你要清楚那是“記憶的拼接”不是“邏輯的生成”。兩者的差別在你遇到不常見的條件組合時會被瞬間放大。2.3 思維鏈看起來像思考但它只是草稿紙這幾年有一個很流行的技巧叫“思維鏈”——你在提問的時候讓它先把推理過程一步步寫出來再給結(jié)論。很多人發(fā)現(xiàn)加了這一步之后模型的正確率明顯上升。甚至有人因此認為模型是真的在“思考”了。我的理解是思維鏈之所以有效是因為它把“一次生成一大段答案”拆成了“一次只生成一小步”。每生成一小步模型需要聯(lián)想的跨度就變小了出錯概率自然降低。這就像你做復(fù)雜的數(shù)學(xué)題如果心算直接出結(jié)果很容易錯但如果每一步都寫在草稿紙上每一步只做一個小運算整體正確率就高得多。所以思維鏈的本質(zhì)是通過“外部化的中間步驟”來提高統(tǒng)計上的正確率。它有用但它不等于模型具備真正的推理能力。我把同樣的思維鏈用在一些需要真實世界知識的任務(wù)上它照樣會一本正經(jīng)地編造事實。因為它把推理步驟寫得越詳細就越像是在認真思考但它從頭到尾都在做同一件事——生成看起來合理的文字。記住這一點很重要。它能幫你省下大量去“解釋AI為什么出錯”的時間和精力不要問“它是不是故意胡說”而要接受“它本來就不是沖著‘正確’去的它沖著‘像樣’去”。3. 能力邊界實測哪些場景可靠哪些場景只是硬撐3.1 封閉性任務(wù)可靠開放性任務(wù)要謹(jǐn)慎我自己平時會把工作任務(wù)簡單分兩類封閉性任務(wù)和開放性任務(wù)。這個分法基本上決定了我對AI輸出的信任程度。封閉性任務(wù)指的是輸入和輸出都有明確規(guī)則的把一段文字改成報告格式、把Python代碼翻譯成Java、把一篇長文壓縮成摘要、把口語化表述改成書面表達。這類任務(wù)目標(biāo)清晰、答案空間小、結(jié)果可驗證。AI在這類任務(wù)上的表現(xiàn)非?？煽恳驗樗谟?xùn)練時見過海量類似模式而且任務(wù)本身不依賴真實世界的新知識。開放性任務(wù)就完全不同了讓你寫一篇有獨創(chuàng)觀點的評論文章、讓你給一個商業(yè)難題做戰(zhàn)略判斷、讓你評估某個方案在真實環(huán)境里是否可行。這類任務(wù)沒有標(biāo)準(zhǔn)答案高度依賴對真實世界的理解。AI在這類任務(wù)上表現(xiàn)得像什么呢像一個口才極好但履歷存疑的顧問——它能把話說得非常漂亮結(jié)構(gòu)完整、措辭精當(dāng)?shù)锩娴恼摀?jù)是否真實、觀點是否經(jīng)得起推敲它是不能保證的。我列了一張表大家可以對號入座任務(wù)類型典型例子可靠度原因封閉性任務(wù)格式轉(zhuǎn)換、代碼翻譯、摘要提取、語言潤色高規(guī)則明確可驗證答案空間小半開放性任務(wù)頭腦風(fēng)暴、方案框架搭建、文章提綱中需要創(chuàng)造力但不涉及事實核查開放判斷型任務(wù)策略論證、方案評估、專業(yè)建議低依賴真實世界經(jīng)驗?zāi)Ｐ蜎]有判斷力事實生成型任務(wù)新聞寫作、文獻綜述、專業(yè)問答極低需人工核查模型會為流暢度而編造事實有一個細節(jié)很多人不知道同一個任務(wù)你把要求描述得越精確AI的可靠度就越高。比如你讓它“寫一份活動總結(jié)”它就自由發(fā)揮你改成“寫一份300字的活動總結(jié)包含時間、地點、參與人數(shù)、效果反饋四個部分語氣正式不要抒情”效果立刻不一樣。這其實是把開放性任務(wù)往封閉性任務(wù)方向拉——你要讓它有規(guī)則可循。3.2 知識時效性和專業(yè)縱深是兩個硬傷AI訓(xùn)練語料有一個截止日期這是常識但很多人用的時候還是會忘記。我經(jīng)?？吹接腥四肁I問“最新的某某手機發(fā)布了沒有”“某個政策最近怎么調(diào)整了”AI面不改色地給了一個幾個月前的過期信息。這不是它笨是它知道的東西就截止到那里。對這類問題你應(yīng)該做的事是把它當(dāng)作一個“帶時效滯后的百科全書”而不是實時新聞源。比時效性更隱蔽的問題是專業(yè)縱深。我找過做財務(wù)的朋友做過測試讓AI解釋一個具體的稅務(wù)處理流程它能說出一大堆專業(yè)術(shù)語框架看起來完全正確但涉及到特定行業(yè)的執(zhí)行細節(jié)時錯得毫不含糊。原因不復(fù)雜——AI訓(xùn)練語料里關(guān)于這個專業(yè)領(lǐng)域的知識大多是公開的教材、文章、百科而不是一線從業(yè)者腦子里那些“真正做事的規(guī)矩”。它的回答像是看了一本教科書之后寫出來的而真實世界的專業(yè)判斷往往在教科書之外。所以我個人的建議是AI非常適合用來做“跨界快速入門”。你完全不懂一個領(lǐng)域的時候讓它給你梳理框架、推薦學(xué)習(xí)路徑、解釋基本概念效率極高。但如果你已經(jīng)在這個領(lǐng)域有幾年經(jīng)驗想拿它當(dāng)專業(yè)顧問那一定要把它給的結(jié)論當(dāng)成“候選方案”而不是“最終答案”。專業(yè)縱深的那道關(guān)目前還得靠人。3.3 幻覺的三種典型形態(tài)以及一套自測方法“幻覺”這個詞聽起來很玄其實就是AI一本正經(jīng)地胡說八道。我觀察下來它主要有三種形態(tài)。第一種是編造事實它會把一個根本不存在的產(chǎn)品、事件、數(shù)據(jù)說得活靈活現(xiàn)。第二種是混淆概念把兩個相似的理論混在一起張冠李戴。第三種最陰險——憑空引用它給你編一個書名、一個作者、一篇論文甚至一個鏈接看起來無比真實但點進去什么也沒有。怎么訓(xùn)練自己對幻覺的敏感度我推薦一個自測方法選一個你非常熟悉的領(lǐng)域比如你的專業(yè)、你的愛好、你做了多年的手藝然后讓AI回答一個中等難度的問題。接下來你逐條核查它提到的每一個具體信息——人名、年份、數(shù)據(jù)、作品名。我保證大多數(shù)人做一次這個測試就會改變對AI的看法。因為在自己熟悉的領(lǐng)域里你才能看清它有多頻繁地用流暢的語言掩蓋不確定。這里有一條我的實操心得AI的回答越是一本正經(jīng)、細節(jié)越是豐富越要警惕。很多人以為出錯的特征是“語焉不詳”恰恰相反AI撒謊的典型特征是“細節(jié)過度”。因為它的訓(xùn)練目標(biāo)決定了含糊其辭會讓文本“不像人話”而堆砌細節(jié)會讓文本“很像人話”。它寧可給你編一個具體的假數(shù)據(jù)也不愿意說一句“我不確定”。4. 決定AI表現(xiàn)的三駕馬車數(shù)據(jù)、算力與算法以及它們的真實權(quán)重4.1 數(shù)據(jù)決定上限也決定偏見你要是問我數(shù)據(jù)、算力、算法哪個對AI表現(xiàn)的影響最大我會毫不猶豫地說是數(shù)據(jù)。模型的能力上限基本由訓(xùn)練數(shù)據(jù)的質(zhì)量和規(guī)模決定。數(shù)據(jù)里有什么它才能學(xué)會什么數(shù)據(jù)里沒有的領(lǐng)域它在這個領(lǐng)域就是一張白紙只能靠“就像”來硬撐。這個結(jié)論有一個直接推論如果一個領(lǐng)域在網(wǎng)絡(luò)上的高質(zhì)量文本很少AI在這個領(lǐng)域的表現(xiàn)就會明顯更差。比如一些非常小眾的地方性常識、某些行業(yè)內(nèi)部的操作規(guī)范它在回答時就會顯得空洞和籠統(tǒng)——因為它的語料池里沒有足夠多關(guān)于這些內(nèi)容的文本。比缺失更值得警惕的是偏見。訓(xùn)練數(shù)據(jù)是人類寫的人類文本里天然含有各種刻板印象和偏好。AI不會判斷這些刻板印象對錯它只是統(tǒng)計出“在數(shù)據(jù)中這類內(nèi)容經(jīng)常和那類內(nèi)容一起出現(xiàn)”然后把這種相關(guān)性當(dāng)作規(guī)律輸出。所以你會看到AI在某些話題上給出明顯帶有偏見的回答——那不是因為它“有自己的立場”恰恰是因為它沒有立場它只是在復(fù)述數(shù)據(jù)中概率最高的模式。搞明白這一點你就不會跟AI爭論“你為什么這么想”因為你面對的從來不是一個思考者而是一面映射人類文本統(tǒng)計規(guī)律的鏡子。4.2 算力決定你能跑多大的模型也決定成本數(shù)據(jù)決定了模型的上限但能不能把這么大一個模型跑起來是算力的問題。模型越大通常能力越強但所需的顯存、內(nèi)存、計算時間也會水漲船高。你可能不理解為什么很多AI服務(wù)要收費或者為什么有些功能只對訂閱用戶開放——核心原因就是算力成本。我經(jīng)常遇到一種誤解以為所有AI的能力都一樣選最便宜的那個就吃虧了。實際上不同規(guī)模的模型差異非常大。小模型速度快、成本低但復(fù)雜推理和知識廣度明顯不足大模型能力強但推理一次需要消耗大量計算資源成本也高。普通用戶不用盲目追求最強模型很多任務(wù)用小模型就夠了。前端還有一個趨勢值得關(guān)注越來越多的AI能力開始下放到手機和電腦本地。本地小模型的好處是隱私友好、響應(yīng)快、不依賴網(wǎng)絡(luò)代價是能力上限不如云端大模型。你把它想成“買菜去樓下便利店買家電去大商場”就行了——不同需求去不同的地方別指望一個模型包辦一切。4.3 算法是配方但提示詞才是你手里的遙控器算法指的是模型內(nèi)部的結(jié)構(gòu)設(shè)計、訓(xùn)練方式、對齊方法。這些東西對實際效果影響巨大但普通用戶碰不到。模型廠商發(fā)布的每一次版本升級背后基本都是算法層面的改進。你作為使用者只能使用已經(jīng)訓(xùn)練好的模型不能改它的內(nèi)部參數(shù)。但你能改一樣?xùn)|西——輸入。這就是提示詞的價值。我在實操里越來越覺得提示詞工程的本質(zhì)不是什么玄學(xué)它就是“把需求說清楚”的工程化表達。因為你每寫一句提示詞都在給模型劃定一個更小的概率空間明確背景它的聯(lián)想范圍就縮小了明確輸出格式它的結(jié)構(gòu)選擇就減少了明確“不要編造”它就更傾向于從上下文里找信息而不是憑空發(fā)揮。之前有人問我“我寫了那么長的提示詞它會不會嫌煩”不會。模型沒有情緒它只會嚴(yán)格按照你的約束來調(diào)整生成方向。你給的信息越充分它的輸出越靠近你想要的答案。這就是為什么同一個模型有人覺得好用有人覺得是人工智障——很大程度不是模型差距而是你們手里的“遙控器”按法不一樣。5. 把這套認知變成生產(chǎn)力與AI協(xié)作的三條實操規(guī)則5.1 把AI當(dāng)“能力忽高忽低的實習(xí)生”而不是權(quán)威專家如果要用一句話概括我對AI的定位那就是它是一個能力忽高忽低的實習(xí)生。你給它布置任務(wù)它會給你一個看起來很認真的初稿但你必須審核。你明確告訴它邊界它能做得很漂亮你放任它自由發(fā)揮它能把事情辦得離譜?；谶@個定位我給自己建立了一套固定的協(xié)作流程讓AI產(chǎn)出初稿我來審核讓AI提供反面觀點我來取舍讓AI做信息整理我來做最終判斷。這套流程看起來簡單但能規(guī)避掉絕大多數(shù)AI翻車帶來的風(fēng)險。舉一個實際的例子。我讓AI幫我寫一份產(chǎn)品介紹頁的內(nèi)容它給出了一個結(jié)構(gòu)完整、用詞講究的框架。但當(dāng)我核對里面的產(chǎn)品參數(shù)時發(fā)現(xiàn)其中一個關(guān)鍵數(shù)據(jù)比真實參數(shù)大了三分之一。如果我直接把文案發(fā)出去這就是一個事故。所以我的流程永遠是AI的內(nèi)容必須過人工審核尤其是事實性的部分。這不是不信任AI而是它的機制決定了它沒有能力保證事實正確。這里有一條不能妥協(xié)的底線如果任務(wù)的結(jié)果必須精確、且你無法驗證——比如醫(yī)療建議、法律意見、財務(wù)數(shù)字——不要讓AI直接產(chǎn)出最終答案。它最多只能幫你梳理知識點、整理思路最終結(jié)論必須由有資格的真人來做。5.2 一套可套用的提示詞模板背景、角色、任務(wù)、格式、約束、示例很多朋友問我提示詞到底怎么寫我給他們一個六個要素的模板照著填基本不會跑偏背景告訴它你處在什么情況里為什么需要這個內(nèi)容。角色讓它扮演一個什么角色比如數(shù)據(jù)分析師、文案策劃、資深編輯。任務(wù)明確告訴它要做什么越具體越好。格式告訴它輸出長什么樣比如分點、表格、按重要性排序。約束告訴它不能做什么最重要的是“不要編造未提供的信息”。示例給它一個例子讓它照著示例的調(diào)性來。我自己常寫的一句約束是“所有判斷必須基于我提供的信息如果信息不足請直接說不確定不要假設(shè)?！奔恿诉@一句之后AI編造信息的概率會明顯下降——不是因為它變誠實了而是因為你給出了一個更窄的輸出空間。你可以做一個對比實驗先不寫約束讓它介紹一個你熟悉但比較小眾的話題它大概率會給你幾個聽起來合理但有毛病的具體事實你再加上如上的約束再問一次你會發(fā)現(xiàn)它變得保守多了。這說明提示詞不是話術(shù)儀式它是在實打?qū)嵉馗淖兡Ｐ偷妮敵鲂袨椤?.3 迭代式對話別指望一次提問得到精品我見過太多人把AI當(dāng)成一個“輸入問題、輸出成品”的機器結(jié)果第一版不滿意就放棄然后得出“AI沒用”的結(jié)論。這其實是用錯了方式。真實工作流里的AI合作應(yīng)該是一個迭代的過程。我的實際操作是這樣的先讓它列一個提綱我看了結(jié)構(gòu)方向?qū)Σ粚θ绻较蛴袉栴}就立刻糾正不浪費時間展開內(nèi)容確認結(jié)構(gòu)之后再讓它一部分一部分展開展開之后我再把我的反饋、補充信息、想調(diào)整的點持續(xù)提供給它最后讓它統(tǒng)一潤色。整個過程可能涉及四五輪對話每一輪都在追加約束、修正路徑。這背后的道理很簡單每一輪對話都在給模型“喂”更多背景信息。你第一輪的提問它只知道你的初始要求你第五輪的提問它已經(jīng)掌握了你篩選后的方向、你補充的細節(jié)、你的偏好。兩相對比后者的輸出質(zhì)量必然更高。這跟帶實習(xí)生是一個道理——你只甩一句“寫個方案”和你在旁邊說“第一段重點講用戶痛點第二段給數(shù)據(jù)分析思路第三段給落地方案”拿到的結(jié)果完全不一樣。所以當(dāng)你覺得AI不好用的時候先問自己一句你是把它當(dāng)成了需要一次成功的自動售貨機還是把它當(dāng)成了需要通過溝通來拉齊信息的下屬前者經(jīng)常失望后者才會越來越順手。6. 風(fēng)險與責(zé)任真正的危機不是“替代”而是無成本制造看似合理的內(nèi)容6.1 正在發(fā)生的真實風(fēng)險批量生產(chǎn)“看起來正確”的內(nèi)容關(guān)于AI的風(fēng)險公眾最關(guān)心的問題是“它會不會取代我的工作”。但我在實際觀察中越來越覺得更迫近的風(fēng)險不是取代而是另一種東西——AI讓“制造看似合理的內(nèi)容”變得幾乎沒有成本。在AI普及之前一篇措辭專業(yè)、結(jié)構(gòu)嚴(yán)謹(jǐn)、看似權(quán)威的文章至少需要一個人花不少時間寫出來。現(xiàn)在同樣質(zhì)量的文章可以被批量生成。你可以在幾分鐘之內(nèi)得到數(shù)百篇風(fēng)格不同但都足夠流暢的短文、帖子、評論。這帶來的直接后果是信息環(huán)境的污染大量“看起來正確”但未經(jīng)核實的內(nèi)容涌入網(wǎng)絡(luò)人們越來越難以分辨什么是真實的什么是生成的。這種風(fēng)險不需要等到什么“超級智能”出現(xiàn)現(xiàn)在的技術(shù)就已經(jīng)完全夠了。你可以看到很多賬號在用AI批量生產(chǎn)內(nèi)容有些是營銷文有些是造謠文有些只是噪聲。真正讓我警惕的是當(dāng)這種內(nèi)容多到一定程度之后人們會逐漸形成一種懷疑一切的心理——連真實的信息也不敢信了。信任一旦被稀釋到這種濃度重建的成本就非常高昂。6.2 責(zé)任在流程設(shè)計者身上AI不背鍋人背鍋既然AI生成內(nèi)容的成本這么低那責(zé)任應(yīng)該誰來承擔(dān)我的答案很明確誰決定使用AI生成內(nèi)容誰就要為內(nèi)容負責(zé)。AI不會背鍋也不應(yīng)該讓它背鍋。道理很簡單AI是一個工具工具沒有主觀意圖。你用計算器算錯了賬責(zé)任不在計算器在你手按錯了。同樣你把AI生成的內(nèi)容直接發(fā)布內(nèi)容里的錯誤、偏見、不實信息責(zé)任在發(fā)布者身上。這個原則如果建立不起來就會有人拿“這是AI寫的”來推卸責(zé)任——那是非常危險的滑坡。對于團隊和企業(yè)我建議在接入AI時先定幾條規(guī)矩明確哪些場景可以用AI哪些場景不可以凡是AI生成的內(nèi)容必須有真人審核環(huán)節(jié)涉及事實、數(shù)據(jù)、法律承諾的內(nèi)容必須多人復(fù)核對外發(fā)布時合理標(biāo)注“AI輔助生成”。這些流程聽起來不夠炫但它們是真正能把AI用安全的關(guān)鍵。對于個人創(chuàng)作者至少要做到不直接發(fā)布AI輸出的不可驗證的具體信息引用AI給出的來源時先核實這個來源是否真實存在重要內(nèi)容發(fā)布前留出時間做人工檢查。6.3 一個更現(xiàn)實的自處方式把AI當(dāng)“外腦”而不是“替身”講了這么多風(fēng)險不是讓你別用AI。恰恰相反我認為AI是一個值得認真對待的生產(chǎn)力工具關(guān)鍵是要把它放在合適的位置上——當(dāng)外腦而不是當(dāng)替身?！疤嫔怼币馕吨惆雅袛唷懽?、決策整個外包給它“外腦”意味著它幫你處理體力活——整理資料、生成初稿、提供視角、潤色語言——而最終的方向判斷、內(nèi)容取舍、事實核查、責(zé)任承擔(dān)都由你自己完成。前者會讓你越來越依賴它同時喪失自己的判斷力后者會讓你在保持判斷力在線的前提下把效率提升一大截。我自己這幾年的體會是AI幫我把大量瑣碎的信息處理工作接住了但真正讓我成長的部分恰恰發(fā)生在“向AI提問之前的思考以及收到答案之后的判斷”里。你需要想清楚自己要什么才能給它有效的指令你需要有能力識別它錯在哪里才能安全地使用它。這些要求本身就在倒逼你變得更專業(yè)。所以“正確認識AI人工智能”落到最后其實就是一句話把它放在工具的位置上心懷敬畏但不迷信保持懷疑但不排斥看清它的機制、尊重它的邊界然后在邊界內(nèi)把它的能力榨干。這是一種有邊界的協(xié)作也是一件值得長期練習(xí)的事。