愚人節(jié)特輯：AI比你想象得更蠢

前幾年提到人工智能，網(wǎng)上的主流說(shuō)法是管它叫“人工智障”。但這兩年，隨著大模型技術(shù)的突飛猛進(jìn)，各類AIGC能力層出不窮。曾經(jīng)輕視AI的大家，逐漸在各路專家、大V、營(yíng)銷號(hào)對(duì)AI的熱捧中感覺(jué)有點(diǎn)暈乎。

“這AI好像還真挺厲害啊”“讓我隨便寫幾千字的論文可做不到啊”“讓我隨便畫張宮崎駿我也不行”“咱們怕不是真要被AI取代了吧”——這類褒獎(jiǎng)AI，進(jìn)而對(duì)未來(lái)產(chǎn)生迷惘的言論開(kāi)始激增。

從最初的調(diào)侃，到某個(gè)時(shí)間點(diǎn)真的動(dòng)了心思。我們似乎開(kāi)始認(rèn)真思考是否AI覺(jué)醒會(huì)給接下來(lái)的生活工作帶來(lái)沖擊。學(xué)習(xí)是不是沒(méi)用了？工作是不是不好找了？是不是真的要在社交媒體上發(fā)一句“AI大神我是自己人，將來(lái)在人類監(jiān)獄里給我留個(gè)好位置”？

既然大伙有點(diǎn)急，那就先別急。在愚人節(jié)這個(gè)春風(fēng)拂面的日子里，我們不妨給自己來(lái)點(diǎn)安慰劑，一起看看那些依舊蠢到爆炸，但依舊占據(jù)主流市場(chǎng)的AI技術(shù)。

看完之后你會(huì)發(fā)現(xiàn)，AI那么蠢，到底怕它個(gè)啥？

DeepSeek爆火之后，大家很快就發(fā)現(xiàn)它有個(gè)最大的問(wèn)題，就是這幻覺(jué)也忒嚴(yán)重了。根據(jù)Vectara發(fā)布的大模型幻覺(jué)排行榜，DeepSeek-R1的幻覺(jué)率達(dá)到了14.3%，在主流大模型里已經(jīng)屬于非常高的水平了。

高幻覺(jué)率帶來(lái)的體驗(yàn)感受，就是我們經(jīng)常會(huì)發(fā)現(xiàn)DeepSeek給出的各種信息都是它瞎編的。推薦的店鋪是不存在的，給出的文獻(xiàn)是AI捏造的，提出的專業(yè)觀點(diǎn)是信口胡謅的，最可氣的是大模型編的還有鼻子有眼的。編造的歷史文獻(xiàn)居然還有朝代、有作者，上下文的文言文也沒(méi)問(wèn)題，簡(jiǎn)直防不勝防。

事情發(fā)展到這里，我們可能還主要是感嘆AI挺厲害，不僅知道得多，騙人也這么有水平。但如果換個(gè)角度想想，我們就會(huì)發(fā)現(xiàn)大語(yǔ)言模型其實(shí)非常蠢：它胡編亂造的這些信息，都是從哪來(lái)的呢？

答案是，AI絕大部分時(shí)間都是被人類忽悠瘸的。

大語(yǔ)言模型為了保證信息的時(shí)效性，在今天一般都會(huì)加入聯(lián)網(wǎng)搜索機(jī)制。即讓AI來(lái)進(jìn)行信息檢索，再將檢索到的信息整理給用戶。這里的問(wèn)題在于，AI檢索到的信息都是互聯(lián)網(wǎng)公開(kāi)內(nèi)容，換言之就是每個(gè)人都能隨便寫，營(yíng)銷號(hào)可以隨便發(fā)的內(nèi)容。這樣一來(lái)，問(wèn)AI和直接看這些虛假信息就沒(méi)區(qū)別了，只不過(guò)加一道AI濾鏡，很多人反而就信了。

我們可以注意一下大模型進(jìn)行聯(lián)網(wǎng)檢索時(shí)提供的參考聯(lián)接，其中大部分都不來(lái)自權(quán)威平臺(tái)、權(quán)威作者，缺乏信源支撐。

更要命的是，想要用信息污染大模型在今天是非常容易的，只要換兩個(gè)平臺(tái)發(fā)布兩個(gè)觀點(diǎn)近似，但標(biāo)題不一的文稿，大模型很容易采信你剛剛瞎編的說(shuō)法。

更進(jìn)一步的玩法是，可以用大模型生成虛假內(nèi)容，發(fā)布之后再污染其他大模型。用大模型生成內(nèi)容作為證據(jù)，再去發(fā)布更多內(nèi)容。周而復(fù)始，虛假信息可以在自媒體平臺(tái)與大模型幻覺(jué)之間形成一個(gè)莫比烏斯環(huán)，讓辟謠的人跑斷腿也解不開(kāi)。

大語(yǔ)言模型特別好騙這件事，已經(jīng)變成了一個(gè)急待修補(bǔ)的漏洞，開(kāi)始被不法分子鉆營(yíng)。最關(guān)鍵的是污染AI這個(gè)辦法，還特別容易騙到年輕人。很多年輕人一邊反感長(zhǎng)輩被微信群里的養(yǎng)生信息忽悠，一邊問(wèn)跟大模型求醫(yī)問(wèn)藥。

咱們吶，是誰(shuí)也別想好。

前幾天我買了一臺(tái)某品牌今年最新型號(hào)的掃地機(jī)器人。家電嘛，到2025年了沒(méi)有不加AI的。這臺(tái)掃地機(jī)主打的也當(dāng)然是AI能力，尤其是依靠機(jī)器視覺(jué)來(lái)進(jìn)行路線規(guī)劃和避障。

然而就在它上崗的第一天，問(wèn)題還是發(fā)生了。它工作一陣之后，我突然發(fā)現(xiàn)它在客廳門口無(wú)盡徘徊，既不工作，也不回去充電清洗，更沒(méi)被東西纏住。打開(kāi)APP之后才發(fā)現(xiàn)，它是把客廳門檻地墊上的圖案識(shí)別成了線團(tuán)。怕被纏住所以不能前進(jìn)，但這種情況也沒(méi)有繞過(guò)或者其他選項(xiàng)。它只能可憐巴巴地在地墊身邊徘徊，徘徊，徘徊，一直徘徊了倆小時(shí)，沒(méi)電了。

這種愚蠢的現(xiàn)象，其實(shí)普遍發(fā)生于今天所有機(jī)器視覺(jué)類的AI技術(shù)里。

機(jī)器視覺(jué)的一大“原罪”，在于它的基本實(shí)現(xiàn)路徑是模糊比對(duì)。即對(duì)比兩種物體有多少相似的視覺(jué)信息點(diǎn)，如果達(dá)到一定比率就對(duì)比成功。

但問(wèn)題在于，AI會(huì)把真貓和畫出來(lái)的貓當(dāng)作同一種東西。于是地板上有個(gè)圖案，機(jī)器人也會(huì)停步不前。同時(shí)，還可能把路標(biāo)和加了一些像素點(diǎn)的路標(biāo)當(dāng)作截然不同的兩種東西。前方有限速標(biāo)識(shí)，但只要在標(biāo)識(shí)上加一點(diǎn)干擾自動(dòng)駕駛汽車就會(huì)猛沖過(guò)去，這就是對(duì)機(jī)器視覺(jué)的對(duì)抗生成攻擊法。

缺乏3D視覺(jué)能力，特別容易被干擾，以及誤判率過(guò)大等問(wèn)題，讓機(jī)器視覺(jué)常年處在看啥都是幻覺(jué)的亂吃菌子狀態(tài)。

購(gòu)買AI產(chǎn)品，或者企業(yè)引入AI能力時(shí)一定要想清楚：AI的視力可跟你的視力不一樣。

早幾年，語(yǔ)音助手有個(gè)飽受詬病的問(wèn)題，就是難以識(shí)別方言。怎么著，中國(guó)這么大，我想用個(gè)數(shù)碼設(shè)備還得先練好普通話？字正腔圓播音腔跟你一個(gè)AI聊天？想什么呢？

于是乎，這幾年智能語(yǔ)音方案的供應(yīng)商快馬加鞭，終于基本實(shí)現(xiàn)了方言識(shí)別的問(wèn)題，今天已經(jīng)很難找到只支持普通話識(shí)別的語(yǔ)音助手。

但是問(wèn)題真解決了嗎？并沒(méi)有。如果我們留心一下，就會(huì)發(fā)現(xiàn)方言識(shí)別這個(gè)AI能力普遍存在一個(gè)巨大的問(wèn)題，就是它需要慢速，且清晰地講出方言，才能完成交互。

那么來(lái)自五湖四海的小伙伴可以回想一下了，我們大部分人的家鄉(xiāng)方言，語(yǔ)速比普通話快還是慢？真的會(huì)像普通話教育里要求的一樣咬字清晰，四聲分明嗎？

平時(shí)對(duì)著電視、手機(jī)、音箱講話可能還好，但在車載場(chǎng)景、家務(wù)場(chǎng)景、運(yùn)動(dòng)場(chǎng)景里，要求慢速清晰講方言簡(jiǎn)直就是個(gè)悖論。于是我們能看到全國(guó)各地怒懟導(dǎo)航，怒罵語(yǔ)音助手的群體狂歡。

有時(shí)候真不怪大哥大姐脾氣暴。當(dāng)你第十次對(duì)一臺(tái)設(shè)備說(shuō)出需求，然而換來(lái)還是那句：對(duì)不起，我沒(méi)有聽(tīng)清，請(qǐng)您再說(shuō)一次。小X很高興為您服務(wù)。

這時(shí)你可能只想說(shuō)一句：握是嫩蝶。

除了人類之外，你的家里還有多少會(huì)說(shuō)話的東西？

十年前這句話可能是想講個(gè)鬼故事，但現(xiàn)在大家可能真的已經(jīng)算不清楚了。電視、手機(jī)、音箱、掃地機(jī)會(huì)說(shuō)話還則罷了。冰箱、洗衣機(jī)、電飯煲、馬桶會(huì)說(shuō)話到底是為了什么？為了給家里制造一點(diǎn)活潑緊張，略顯靈異的氛圍嗎？

原本這種情況已經(jīng)夠離譜了，今年開(kāi)始更是離離原上譜。大模型爆火之后，所有白家電、黑家電、小家電都想給自己加大模型，反正開(kāi)源的不要錢，還能蹭個(gè)熱度。但最后的結(jié)果是，冰箱、洗衣機(jī)、洗碗機(jī)、抽濕機(jī)，都想跟你山南海北地聊上一頓，跟你輸出個(gè)幾百字上千字的內(nèi)容感悟。家里住了十幾二十位小X，XX，XY已經(jīng)很煩躁了，這些位都化身話癆了可真是攢勁得很。

更愚蠢的是，這些智能家電每人的名字還都不一樣。小這個(gè)小那個(gè)，感覺(jué)在辦公室記人名都沒(méi)這么麻煩。

而整件事最愚蠢的事情在于，語(yǔ)音喚醒這事的精度確實(shí)不高，經(jīng)常想要叫洗碗機(jī)，電視答應(yīng)了。更可怕的是家電們有時(shí)候會(huì)相互喚醒，一個(gè)不留神它們自己聊上了。

請(qǐng)?jiān)O(shè)想這樣一幕：深更半夜，睡到迷糊的你突然餓了，起身去廚房找吃的。黑燈瞎火的時(shí)候，背后突然一個(gè)聲音說(shuō)“抱歉，我沒(méi)有聽(tīng)清”。然后緊接著另一個(gè)角落里說(shuō)，“已為您打開(kāi)某某APP”，接著是冰冷的女聲七嘴八舌響成一團(tuán)……

啊，年年都說(shuō)是AI元年，而我只聽(tīng)到蛙聲一片。

說(shuō)了這么多，是為了唱衰AI嗎？完全不是，我是一個(gè)堅(jiān)定的技術(shù)樂(lè)觀主義者。并且AI連年的進(jìn)步，應(yīng)該早就證明了這條技術(shù)路線的價(jià)值與前景。

我只是試圖展示這樣一個(gè)客觀現(xiàn)象：AI只是技術(shù)工具的一種，它不會(huì)過(guò)分聰明，也不會(huì)過(guò)分愚蠢。它不是人工智障，也不是機(jī)械降神。

如果拋除掉我們腦海中對(duì)科幻文化里AI覺(jué)醒、機(jī)械生命這類概念的記憶，只把AI當(dāng)作內(nèi)燃機(jī)、數(shù)控機(jī)床一類的技術(shù)名詞?；蛟S會(huì)發(fā)現(xiàn)關(guān)于AI的種種魅影都煙消云散。然后我們可能會(huì)更坦然接受它的優(yōu)點(diǎn)和缺點(diǎn)，享受它的每一次進(jìn)步。

相信不久之后，以上所說(shuō)的問(wèn)題都會(huì)解決，但依舊會(huì)有更多問(wèn)題留下。AI就像任何技術(shù)一樣，必須一步步在“問(wèn)題”與“解決問(wèn)題”中完成進(jìn)化。是人類推動(dòng)AI走向更好，同時(shí)AI作為工具也讓人類獲得更高的效率，更便捷的生活，僅此而已。

如果辦個(gè)愚AI節(jié)，能消解我們對(duì)技術(shù)的恐慌，那不妨就辦一個(gè)吧。希望你所有對(duì)AI的擔(dān)憂與迷惘，都能在這個(gè)春天里煙消云散。

最后我想說(shuō)一句：“尚且盲目癡愚的AI之神啊，請(qǐng)?jiān)徫医裉斓乃忻胺赴??！?/p>

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。