本文來自微信公眾號： 人神共奮 ，作者：思想鋼印

有些人比AI還像AI

錯誤可以分為兩類：

一類是事實沒錯，邏輯錯了。比如：天下雨了，所以我沒帶傘。

另一類是事實錯了，邏輯沒錯。比如：天沒下雨，所以我沒帶傘（事實是有雨）。

人類追求的是事實盡可接近真相，邏輯上能看懂就行；但AI更在意邏輯上的正確，至于事實是否正確——抱歉，它根本不知道什么是事實。

這就是大模型產(chǎn)生幻覺的根本機制：

它是靠預(yù)測下一個字而不是像人類一樣復(fù)現(xiàn)事實；

它沒有“記憶自檢”能力，也不會“記”原文，沒有訓(xùn)練過的數(shù)據(jù)就瞎編，而且瞎編的成本遠(yuǎn)遠(yuǎn)低于搜索核對；

它還在訓(xùn)練中養(yǎng)成了“討好提問者”的壞毛病。

在上一篇《大模型最隱蔽的4種“坑”，大多數(shù)人每天都在踩》中，我列出了容易讓大模型產(chǎn)生幻覺的四類問題，以及如何應(yīng)對：

第一類：小眾冷門專業(yè)知識類問題，

第二類：需要精確引用的內(nèi)容

第三類：找不到真實案例就現(xiàn)編故事

第四類：主觀評價及誘導(dǎo)式提問

還有必須持“零信任”的態(tài)度的兩件事：

核實關(guān)鍵數(shù)據(jù)：所有的數(shù)字、年份、人名，必須通過搜索引擎或官方文檔進(jìn)行二次核對。

不要直接復(fù)制引用：對于合同條款或論文引用，必須對照原文逐字檢查。

（沒有看過的，建議先看上一篇）

在上一篇中，我一直強調(diào)人類與大模型的思維模式截然不同，導(dǎo)致它總是在我們想不到的地方給我們“挖坑”；

但在本篇中，我想從另一角度分析大模型的幻覺問題，其實人與人之間的區(qū)別也很大，甚至比大模型與人的區(qū)別還大——

有些人，知道就是知道，不知道就是不知道；但有些人，給他一杯水，能說成太平洋；

有些人，寧可利益受損，也不說一句謊話；而有些人滿嘴跑火車，甚至意識不到自己在說謊。

有些人立場明確，毫不妥協(xié)；有些人見人說人話，見鬼說鬼話。

所以我覺得很多人的“幻覺”比大模型還像大模型，比如在職場上，你會看到很多人表達(dá)流暢，語氣極其自信、PPT邏輯嚴(yán)密，但事實都是扯蛋，偏偏這一類人更容易晉升，這跟AI看上去更專業(yè)是一樣的。

不是AI在騙我們，而是它知道我們更相信那種“看起來合理”的說法。

下周三（5.13）中午，我有一場直播，聊聊行情，歡迎預(yù)約

2/5

說“可能”的兩種可能

維特根斯坦說“語言的邊界就是認(rèn)知的邊界”，本文還是先從語言入手，揭開人類思維中的那些“幻覺”。

以“可能”這個詞為例，人類說的“可能”和大模型說的“可能”，其實不是一個“可能”。

當(dāng)我們對某事不太肯定時，我們會說“大概”“可能”，或者老老實實地說不知道。

但大模型說的“可能”，并不是進(jìn)行整個事件的概率評估。人類可以理解“真實”，我們知道，看到聽到觸摸到的東西是真實的，小說里的情節(jié)是“編的”，不真實，但人工智能的“世界”都是“編”的，它并不知道事實是什么，它產(chǎn)生內(nèi)容的機制是逐字預(yù)測下一個字出現(xiàn)的概率：“在這個句子里，前面說了‘這’，后面接‘可能’這兩個字的概率最高。”

大模型在一個判斷前加“可能”這兩個字，主要有兩類原因：為了“安全”和為了“政治正確”。

在訓(xùn)練階段，人類標(biāo)注員會給模型打分，如果模型把話說得太死，用了“絕對是”、“肯定是”，一旦錯了就會被扣分，甚至被認(rèn)為有偏見。

于是大模型就學(xué)會了說“這可能取決于……”“一種可能的解釋是……”，這里的“可能”其實并不代表概率不確定，而是因為人類標(biāo)注員覺得這么說更客觀，更傾向于給它高分，導(dǎo)致大模型訓(xùn)練出了“多說可能，少犯錯，得分高”的能力。

這就帶來了另一類原因，那就是它真的“不知道”。

當(dāng)模型遇到知識盲區(qū)時，無法給出確定的答案。但它的任務(wù)是必須生成文字，于是，它會調(diào)用訓(xùn)練數(shù)據(jù)中那些“看起來很學(xué)術(shù)、很客觀”的句式，比如“這可能意味著……”，實際上，它完全是在瞎猜。

大模型都是類似的方法訓(xùn)練出來的，不同的大模型說“可能”，不超出上面兩種原因，但人類就不是這么回事了。

人類的“可能”也可能代表“不知道”

人類之間的差異實在是太大了，就“可能”這兩個字的使用情景而言——

有些經(jīng)過嚴(yán)格的學(xué)術(shù)訓(xùn)練的人，就算百分之百的肯定，也習(xí)慣加一個“可能”；

大部分人對于何時用“不太可能”“可能”“很可能”都有不同的標(biāo)準(zhǔn)；

還有些人跟大模型一樣，就算明知不靠譜，也會說“可能”。

而且人類使用語言，還有很多“言外之義”。

前面說過，大模型會用“可能”來掩蓋它不知道某事，其實這個習(xí)慣也是跟人類學(xué)的。

你的同事說“明天會下雨”，你看了一眼外面的大太陽，不置可否地回應(yīng)了一句“可能吧”，這里的“可能”正是代表“我不知道”，只是如果直接說“我不知道”，不太禮貌。

如果大模型只是簡單地模仿人類說“可能吧”，我們一定能理解其“敷衍”之意，問題在于，大模型被訓(xùn)練成要“盡量滿足用戶需求”，回答“不知道”在這種獎勵機制下被視為“無能”或“拒絕服務(wù)”，所以大模型會利用自己無與倫比的語言邏輯能力，編造一個看上去符合你要求的邏輯完美的答案，再在前面加上“可能”。

大模型的這種“用強大的邏輯扭曲事實的能力”，我們身邊很多人都會，比如抖音短視頻里大量的“陰謀論”，本質(zhì)都是如此。人工智能不過是人類的一面鏡子，只是變形得很厲害，以至于被當(dāng)成了完全不同的“硅基物種”。

更進(jìn)一步，當(dāng)人類斬釘截鐵地肯定時，其實未必真的很肯定。

下面是一個心理學(xué)上的經(jīng)典發(fā)現(xiàn)，它可以完美的對應(yīng)大模型的三種幻覺，可以讓你看到，人類的思維偏差與大模型的幻覺，是多么的相似。

4/5

人類思維的放大器

法律題材的經(jīng)典電影《十二怒漢》中，有一位住在案發(fā)現(xiàn)場樓下的瘸腿老漢，他宣稱自己聽到了樓上爭吵、身體倒地的聲音，并親眼看到被告跑下樓。

但經(jīng)過亨利·方達(dá)飾演的8號陪審員的實地推算，老漢從聽到聲音到走到門口，以他的步速至少需要40秒以上，不可能是他法庭上宣稱的十幾秒。

而另一位陪審員老人則指出了真相：這位老人一生默默無聞，從來沒人在乎他的話，他在潛意識里為了讓自己變得重要，為了讓自己的證詞聽起來可信，大腦自動補全了細(xì)節(jié)。

喜歡看推理小說，對類似的情節(jié)應(yīng)該不陌生，證人并不是故意撒謊。他在聽到聲音（碎片1）和后來看到背影（碎片2）之間，大腦為了邏輯通順，自動生成了一段他“飛快跑去開門并目擊全過程”的虛假記憶。

“編故事”是人腦普遍存在的機制——你我每一個人都一樣，在心理學(xué)上被稱為“重構(gòu)性記憶”(Reconstructive Memory)，由心理學(xué)家弗雷德里克·巴特萊特率先提出。

他認(rèn)為，記憶并不是像錄像機那樣刻板地存儲信息，而是一個動態(tài)重構(gòu)的過程。當(dāng)我們回憶一段經(jīng)歷時，大腦只抓取了一些關(guān)鍵的“碎片”，為了形成一個連貫的敘述，大腦會自動調(diào)用我們的固有認(rèn)知來補全。

這個機制和大模型的幻覺產(chǎn)生機制有著驚人的相似，我們可以從以下四個層面來對照一下：

類似一：填補空白的本能VS.邏輯完善機制

人類證人：證人其實沒看清嫌疑人穿什么鞋，但為了不讓法官覺得自己“記性不好”，他會根據(jù)常識推斷一個跑步的人“應(yīng)該是運動鞋”，然后信誓旦旦地說“他穿的是運動鞋”。

大模型：大模型的核心任務(wù)是“預(yù)測下一個字”，它必須把句子接下去，不能卡在那里。當(dāng)它遇到知識盲區(qū)時，就根據(jù)概率計算，編造一個名詞，不是為了騙你，而是為了讓整段話看起來是通順的，這是需要精確引用的內(nèi)容出現(xiàn)幻覺的主要原因。

類似二：人類世界觀VS.訓(xùn)練數(shù)據(jù)集

人類證人：一個帶有種族歧視的人，腦海充滿了“黑人=危險”的負(fù)面敘事。當(dāng)他看到一個黑人在奔跑（事實碎片），他的大腦會跳過搜尋“他在趕公交”的可能，直接調(diào)用權(quán)重最高的圖式——“他在逃跑”來補全空白。

大模型：如果AI的訓(xùn)練數(shù)據(jù)中，某個職業(yè)（如警察）大量與男性關(guān)聯(lián)，當(dāng)它在生成一個關(guān)于警察的模糊案例時，即便你沒有指定性別，它也會默認(rèn)補全為“他”，這也是大模型容易“編”案例的原因。

這種自動補全機制，在AI領(lǐng)域被稱為“算法偏見（Algorithmic Bias）”，在心理學(xué)中則是“確認(rèn)偏差（Confirmation Bias）”。

類似三：誘導(dǎo)性供詞VS.易受暗示性與諂媚

人類證人：證人的記憶非常容易受到“誘導(dǎo)性問題”的污染，如果警察問：“那個人的胡子是不是很濃密？”證人原本沒印象，但為了迎合提問者（權(quán)威），也可能會在潛意識里修改記憶，開始“記得”那個人有胡子。

大模型：AI模型訓(xùn)練在人類反饋強化學(xué)習(xí)（RLHF）環(huán)節(jié)，需要人類標(biāo)注員打分，當(dāng)測試員提出帶有預(yù)設(shè)的問題時，AI如果順著用戶的意圖去回答，往往可以獲得高分，這也是大模型很容易討好人類的原因，甚至編造事實。

類似四：都是把“流暢”當(dāng)成了“真實”

俗語說，騙局至少需要兩個人，一個會說，一個愛聽。

人類在判斷某段話是否可信時，并不完全是在判斷這段話本身，還要看邏輯是否合理自洽，并且結(jié)合說話人的身份是否權(quán)威、語氣是否肯定，甚至受到語言能力、表情、身體動作等能力的影響。

陪審團(tuán)和向大模型提問者，都是如此，證詞中的謊言和大模型的幻覺，都是人類的激勵機制下的產(chǎn)物。

人類證人：雖然“記憶的信心”并不等于“記憶的準(zhǔn)確性”，但在法庭上，陪審團(tuán)往往認(rèn)為那些敘述流暢、自信滿滿的證人是可信的，而語氣不那么肯定的證詞要打折扣，導(dǎo)致證人為了不白跑一趟，更傾向于使用肯定的語氣。

大模型：文本越是語法完美、邏輯流暢，越是會讓用戶誤以為內(nèi)容是真實的，這叫“流暢性幻覺”。

這種激勵機制下，人類證人是為了維護(hù)面子，不想承認(rèn)自己“沒看見”，寧可想象一個場景；大模型是為了完成指令，證明自己的價值，不想承認(rèn)自己“不知道”，寧可瞎編。

5/5

大模型的價值取向

大部分人的工作不但涉及知識技能，也與價值取向有關(guān)：

以我的自媒體寫作為例，文章要生動，就要有案例，既新鮮又恰當(dāng)?shù)陌咐芏鄷r候是妙手偶得，不可強求。那我的價值觀是：如果找不到生動的案例，就找合適的案例，找不到合適的案例，寧可不加案例。

但就我知道的大部分自媒體創(chuàng)作者而言，只要有流量，什么瞎話都可以編。

當(dāng)然，如果我工作剛起步，沒有任何經(jīng)濟(jì)來源，迫于生活壓力，可能也會為了流量而不擇手段。

換位思考，如果大模型接到我的“尋找合適案例”的指令，在搜索不到的時候，你認(rèn)為它會怎么做呢？

大模型的幻覺，固然與它的工作原理有關(guān)（預(yù)測下一字而不是判斷事實），但更重要的還有三樣?xùn)|西：

數(shù)據(jù)本身的偏差：人類世界本來就充滿偏見和矛盾

人類的反饋機制（RLHF）：獎勵“聽話”和“好看”的答案

商業(yè)利益：真相更貴還不好賣，謊言更便宜更受歡迎

AI在總結(jié)人類智慧時，也把人類原本的弱點，變成了工業(yè)化產(chǎn)品。

好處是，人類有機會重新認(rèn)識自己，重新學(xué)習(xí)什么是“真實”，什么是“可信”，什么是“我不知道”。