新聞?wù)l繁“翻車”，蘋果AI遠(yuǎn)未成熟

極客網(wǎng)·極客觀察1月10日 蘋果在iPhone上增加一個新AI功能，它可以生成新聞提示（News Alerts）。這看起來很美好，但推出之后卻發(fā)現(xiàn)，AI生成的提示信息并不準(zhǔn)確，很多人要求蘋果撤銷該功能。

當(dāng)出現(xiàn)突發(fā)新聞時，AI會摘取新聞，但它老是犯錯。BBC抱怨稱，去年12月份蘋果在轉(zhuǎn)述BBC報道時出現(xiàn)錯誤，BBC要求修正，蘋果直到本周才給出回應(yīng)。

《衛(wèi)報》前員工Alan Rusbridger認(rèn)為，蘋果AI新聞?wù)a(chǎn)品明顯沒有準(zhǔn)備好，還要繼續(xù)努力。他還認(rèn)為，蘋果的新AI技術(shù)明顯失控，會給社會帶來傳播虛假信息的風(fēng)險。

英國NUJ（The National Union of Journalists，全國記者聯(lián)盟）認(rèn)為，蘋果應(yīng)該快速行動，剔除Apple Intelligence，防止信息誤導(dǎo)公眾。

NUJ管理人員Laura Davison稱：“獲得精準(zhǔn)報道已經(jīng)變得越來越重要，當(dāng)公眾接收到新聞后，不應(yīng)該讓他們在事后猜測新聞的真實性?！?/p>

無國界記者組織（RSF）認(rèn)為，蘋果的調(diào)查不夠充分，它一再強調(diào)蘋果應(yīng)該將產(chǎn)品下架。

AI新聞?wù)l繁出錯，蘋果AI遠(yuǎn)未成熟

上個月，蘋果AI對一條新聞進(jìn)行加工，告訴讀者Luigi Mangione已經(jīng)自殺。Luigi Mangione是一位美國男子，他涉嫌謀殺聯(lián)合健康保險（United Healthcare）的CEO。然而，Luigi Mangione并沒有自殺，蘋果匯總的新聞通報出現(xiàn)嚴(yán)重錯誤。

上周五，蘋果AI對BBC內(nèi)容進(jìn)行加工，宣稱Luke Littler拿到了飛鏢大賽的冠軍（PDC World Darts Championship），當(dāng)時決賽還沒有開始。蘋果還說巴西網(wǎng)球運動員Rafael Nadal是同性戀。

BBC回應(yīng)稱：“蘋果AI摘要功能給出的內(nèi)容未能反映BBC內(nèi)容的本意，有時甚至是完全矛盾的。蘋果應(yīng)該迅速解決這些問題，因為保持新聞的準(zhǔn)確性對于BBC維持用戶的信賴極為重要?！?/p>

不只有BBC受到影響。例如，11月份蘋果AI功能摘取《紐約時報》APP的新聞，暗示以色列總理內(nèi)塔尼亞湖被捕。

RSF認(rèn)為，Luigi Mangione謀殺事件影響巨大，蘋果AI生成錯誤信息，說明生成式AI服務(wù)遠(yuǎn)沒有成熟，它無法生成可靠信息。

為了解決問題，蘋果準(zhǔn)備升級AI功能，升級后會告知用戶新聞提示是AI生成的，但這樣做并不能解決所有問題。

RSF高管Vincent Berthier說：“蘋果只是將責(zé)任推給用戶，用戶早就被充滿困惑的信息搞得頭昏腦脹，現(xiàn)在還要檢查信息的真實性?！?/p>

蘋果聲稱是測試版本，未來會不斷優(yōu)化

蘋果稱，未來幾周就會對功能進(jìn)行更新。

蘋果AI的初衷很好，它會匯總多個新聞APP的通知內(nèi)容并進(jìn)行重寫，然后在蘋果的鎖屏上顯示，只需要一條通知就能顯示全部內(nèi)容。蘋果認(rèn)為，新聞提示摘要功能可以讓用戶查看更詳細(xì)的細(xì)節(jié)。

周一時，蘋果在聲明中表示：“Apple Intelligence目前仍是測試版本，我們會根據(jù)用戶的反饋不斷優(yōu)化。”它還說，是否接收這些摘要通知由用戶決定，用戶不想要可以關(guān)閉。

蘋果稱：“未來幾周我們會升級軟件，當(dāng)展示的文本是由Apple Intelligence摘要而來時，我們會進(jìn)一步澄清說明。如果用戶發(fā)現(xiàn)存在意料之外的通知摘要，希望能及時報告?！?/p>

為了趕上AI潮流，蘋果推出很多AI功能，12月份這些功能正式進(jìn)入英國。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系統(tǒng)必須達(dá)到ios 18.1，一些iPad和Mac也支持。

受挑戰(zhàn)的不止蘋果，AI幻覺難以根除

谷歌也推出了AI摘要功能，當(dāng)用戶在谷歌搜索查詢內(nèi)容時，結(jié)果頁最頂部會顯示摘要信息，這些內(nèi)容也不完美，經(jīng)常會顯示錯誤信息。當(dāng)時谷歌新聞發(fā)言人曾表示，這些只是孤例，未來摘要功能會更好。

一些AI專家擔(dān)憂，蘋果AI功能出現(xiàn)的問題可能就是“幻覺”，AI在生成內(nèi)容時會保留錯誤、誤導(dǎo)信息。

市場咨詢公司CCS Insights的分析師Ben Wood指出：“在AI生成內(nèi)容時，我懷疑遇到挑戰(zhàn)的不只有蘋果。我看到過無數(shù)案例，AI服務(wù)總是充滿自信地傳播不實信息，也就是所謂的‘幻覺’信息。”

蘋果AI只是將其它媒體的報道摘要一下，抽取一些基本信息，然后呈現(xiàn)給讀者。實際上，蘋果抽取的內(nèi)容是不準(zhǔn)確的，但在傳播時卻充滿自信，AI深信自己描述的就是事實。

Ben Wood稱：“蘋果試圖將內(nèi)容進(jìn)行壓縮，將它變成更簡短的摘要，這樣做會增加復(fù)雜性，最終可能輸出的是錯誤信息。蘋果肯定會盡快解決問題，競爭對手肯定也會關(guān)注蘋果的做法。”

當(dāng)用戶向AI提問時，AI可能并不知道答案，但它會一本正經(jīng)胡說，裝出知道答案的樣子，實際上卻是在撒謊。

華盛頓大學(xué)信息科學(xué)教授Chirag Shah認(rèn)為，蘋果AI功能遇到挫折實際上反應(yīng)了更嚴(yán)重的問題，也就是“幻覺”，AI會生成內(nèi)容，但會犯錯。你無法簡單通過調(diào)試解決此問題，因為“幻覺”是LLM的屬性之一，AI就是伴隨著“幻覺”運行的。

Chirag Shah還說，蘋果如果只是提醒用戶內(nèi)容是AI生成的，這樣的補救遠(yuǎn)遠(yuǎn)不夠。他說：“大多人并不知道摘要、合成內(nèi)容是怎樣生成的，沒有什么快速的修補方法。最正確的選擇是不要使用，直到進(jìn)一步優(yōu)化、緩解問題后再讓它上線?！?/p>

美國東北大學(xué)AI顧問Michael Bennett認(rèn)為，充滿“幻覺”的AI摘要功能讓蘋果尷尬。在Apple Intelligence推出之前，市場普遍認(rèn)為蘋果在AI領(lǐng)域落后了，Apple Intelligence可以讓蘋果回到正軌，但現(xiàn)在看來問題還有很多。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。