版權歸原作者所有，如有侵權，請聯(lián)系我們

近日，知乎“直答”AI搜索功能升級引發(fā)關(guān)注。不少人期望，這一國內首個(gè)支持答案全鏈路溯源的AI問(wèn)答產(chǎn)品，真的能治治AI時(shí)不時(shí)“一本正經(jīng)地胡說(shuō)八道”的毛病。

AI幻覺(jué)，是指AI在交互時(shí)生成與事實(shí)不符、缺乏依據的內容。比如，當你給美食AI助手上傳一張番茄炒蛋照片，得到的卻是“這是一道典型的意大利菜——馬蘇里拉奶酪配番茄沙拉，建議搭配紅酒享用”的反饋。這種源于模型訓練數據局限和算法缺陷下的必然，已經(jīng)嚴重影響了AI輸出信息的可靠性。

無(wú)止境的“拼圖游戲”

AI為什么會(huì )產(chǎn)生“幻覺(jué)”呢？

其實(shí)，這個(gè)過(guò)程就像孩童在昏暗的房間里拼湊萬(wàn)花筒一樣。當開(kāi)發(fā)者將海量的數據輸入到AI系統中時(shí)，這些數據就像散落的彩色玻璃碎片一樣，雜亂無(wú)章。而AI通過(guò)深度學(xué)習構建認知框架的過(guò)程，本質(zhì)上就是在進(jìn)行一場(chǎng)無(wú)止境的“拼圖游戲”。

在自然語(yǔ)言處理領(lǐng)域，像GPT這樣的系列模型，平均每個(gè)詞語(yǔ)的生成都要經(jīng)歷數百億次的概率計算。這種基于概率的創(chuàng )作機制，雖然讓AI能夠生成流暢自然的文本，但也時(shí)常讓它在知識的邊界模糊地帶“自由發(fā)揮”。就像人類(lèi)在不自覺(jué)中會(huì )填補視覺(jué)盲區一樣，AI也會(huì )用統計學(xué)上認為“合理”的內容來(lái)填補數據的空白。

值得玩味的是，人類(lèi)與AI的互動(dòng)本身也在塑造這種“幻覺(jué)”。當用戶(hù)反復追問(wèn)不存在的事物時(shí)，AI就像被觀(guān)眾要求不斷加戲的即興演員一樣，最終呈現的“作品”已然超出了原始劇本的范圍。這種現象在心理學(xué)上被稱(chēng)為“確認偏誤的算法鏡像”，人類(lèi)的執著(zhù)提問(wèn)與AI的“討好性”回應形成了閉環(huán)，共同編織出了虛實(shí)交錯的敘事。

應用中的“蝴蝶效應”

AI產(chǎn)生“幻覺(jué)”不可避免，在現實(shí)應用中也可能帶來(lái)一系列的問(wèn)題。

有醫院就曾接診過(guò)一起特殊病例，AI輔助診斷系統將這一普通的皮膚過(guò)敏識別為“未知惡性病變”，只因為訓練數據中相似的圖像多與重癥病例關(guān)聯(lián)。這個(gè)事件暴露出“AI幻覺(jué)”可能帶來(lái)的“蝴蝶效應”——在醫療、司法、金融等領(lǐng)域，一個(gè)算法的偏差就可能引發(fā)連鎖反應，造成嚴重的后果。

教育領(lǐng)域也同樣面臨著(zhù)挑戰。有高校教師發(fā)現，學(xué)生用AI生成的論文中頻繁出現“19世紀量子力學(xué)奠基人”等時(shí)空錯亂的概念。這些“學(xué)術(shù)幻覺(jué)”不僅折射出了知識傳播的失真風(fēng)險，更揭示了新一代學(xué)生面臨的認知危機：當AI成為知識中介時(shí)，我們該如何守護真相的邊界？

保持“數字懷疑”意識

我們該如何對抗AI的“幻覺(jué)”呢？

第一道防線(xiàn)其實(shí)就藏在古老的人類(lèi)智慧中。硅谷某科技公司就頗具啟示性地開(kāi)展了“紅隊演習”：他們專(zhuān)門(mén)雇傭古典文學(xué)學(xué)者來(lái)挑戰AI系統，用荷馬史詩(shī)中的隱喻陷阱來(lái)檢驗機器的邏輯連貫性。這種人文與科技的碰撞，意外地成為校準AI認知的重要方式。

對于普羅大眾而言，我們更需要建立起“數字懷疑”的意識。一位母親發(fā)現育兒AI建議“給嬰兒飲用稀釋蜂蜜水”時(shí)，她沒(méi)有盲從，而是查閱了權威資料，避免了可能引發(fā)肉毒桿菌中毒的風(fēng)險。這種保持清醒的交互態(tài)度，正是人機協(xié)作時(shí)代的生存法則。

站在文明演進(jìn)的長(cháng)河中回望，從原始壁畫(huà)的夸張變形到AI的算法幻想，人類(lèi)始終在與“非真實(shí)”共舞。當大模型偶爾在對話(huà)中插入莎士比亞風(fēng)格的十四行詩(shī)時(shí)，當文生圖工具繪出三只眼睛的蒙娜麗莎時(shí)，這些數字世界的“莊周夢(mèng)蝶”，既是技術(shù)局限性的注腳，也暗藏著(zhù)突破認知邊界的可能。在亦真亦幻的辯證中，人類(lèi)與AI共同譜寫(xiě)的，或許正是這個(gè)時(shí)代最動(dòng)人的“科幻現實(shí)主義”篇章。

（作者系中國計算機學(xué)會(huì )科學(xué)普及工作委員會(huì )委員）

點(diǎn)擊查看 中國科普資源名錄 資源展示

點(diǎn)擊查看 中國科普資源名錄 資源需求

歡迎掃碼關(guān)注深i科普！

我們將定期推出

公益、免費、優(yōu)惠的科普活動(dòng)和科普好物！