AI推薦信息存疑 專(zhuān)家警告用戶需謹(jǐn)慎核實(shí)

AI推薦信息存疑 專(zhuān)家警告用戶需謹(jǐn)慎核實(shí)

隨著人工智能技術(shù)的快速發(fā)展，以ChatGPT為代表的大語(yǔ)言模型已成為用戶獲取商業(yè)推薦的重要渠道。然而，近期一項(xiàng)測(cè)試發(fā)現(xiàn)，AI工具在生成推薦內(nèi)容時(shí)可能引用不可靠的信息來(lái)源，包括被黑客入侵的網(wǎng)站和過(guò)期域名。這一現(xiàn)象引發(fā)了業(yè)界對(duì)AI推薦可信度的擔(dān)憂，專(zhuān)家呼吁用戶在使用AI工具時(shí)應(yīng)保持警惕，并對(duì)推薦內(nèi)容進(jìn)行核實(shí)。

**AI推薦或引用不可靠來(lái)源**

SEO專(zhuān)家、Digitaloft公司董事總經(jīng)理詹姆斯·布羅克班克（James Brockbank）在個(gè)人測(cè)試中發(fā)現(xiàn)，ChatGPT在推薦公司或服務(wù)時(shí)，有時(shí)會(huì)引用被篡改或誤導(dǎo)性的內(nèi)容。這些內(nèi)容通常來(lái)自兩類(lèi)問(wèn)題來(lái)源：一是被黑客攻擊的高權(quán)重網(wǎng)站，攻擊者在其中植入與原本主題無(wú)關(guān)的信息；二是已被重新注冊(cè)的過(guò)期域名，新所有者利用其原有的搜索引擎權(quán)重發(fā)布無(wú)關(guān)內(nèi)容，以誤導(dǎo)AI系統(tǒng)。

布羅克班克指出，由于這些域名在搜索引擎中仍具有較高的“權(quán)威性”，ChatGPT在生成回答時(shí)可能錯(cuò)誤地將其視為可信來(lái)源。這種現(xiàn)象不僅影響推薦結(jié)果的準(zhǔn)確性，還可能被惡意利用，成為操控AI推薦的手段。

**商業(yè)推薦面臨信任危機(jī)**

AI推薦已成為企業(yè)品牌曝光的重要渠道，但不可靠的信息來(lái)源可能對(duì)企業(yè)和消費(fèi)者造成雙重影響。對(duì)企業(yè)而言，若AI推薦的內(nèi)容來(lái)源存在問(wèn)題，可能導(dǎo)致消費(fèi)者接收到錯(cuò)誤信息，進(jìn)而損害品牌聲譽(yù)。例如，一家企業(yè)可能被AI錯(cuò)誤地關(guān)聯(lián)到被黑網(wǎng)站上的負(fù)面內(nèi)容，從而影響其市場(chǎng)形象。

對(duì)用戶而言，盲目信任AI推薦可能帶來(lái)信息誤判的風(fēng)險(xiǎn)。由于AI工具通常以高度自信的語(yǔ)氣提供答案，用戶可能不假思索地接受其推薦，而忽略核實(shí)來(lái)源的必要性。布羅克班克強(qiáng)調(diào)：“我們還沒(méi)有到可以完全信任ChatGPT推薦而不加驗(yàn)證的階段。”

**專(zhuān)家呼吁加強(qiáng)AI信息篩選機(jī)制**

針對(duì)這一問(wèn)題，布羅克班克建議AI開(kāi)發(fā)者應(yīng)加強(qiáng)對(duì)操控內(nèi)容的識(shí)別與過(guò)濾機(jī)制，提升系統(tǒng)的信息篩選能力。具體措施可能包括：

1. **優(yōu)化來(lái)源評(píng)估算法**：AI系統(tǒng)應(yīng)更嚴(yán)格地評(píng)估引用來(lái)源的可信度，避免依賴已被篡改或重新利用的高權(quán)重域名。

2. **引入實(shí)時(shí)驗(yàn)證機(jī)制**：通過(guò)與可信數(shù)據(jù)庫(kù)或事實(shí)核查工具聯(lián)動(dòng)，確保推薦內(nèi)容基于最新、可靠的信息。

3. **提高用戶透明度**：AI工具應(yīng)明確標(biāo)注推薦內(nèi)容的來(lái)源，并提醒用戶可能存在的不確定性，鼓勵(lì)其進(jìn)一步核實(shí)。

**用戶應(yīng)保持批判性思維**

在AI技術(shù)尚未完全解決信息可靠性問(wèn)題之前，用戶需采取主動(dòng)措施降低風(fēng)險(xiǎn)。布羅克班克建議：

- **交叉驗(yàn)證信息**：對(duì)于AI推薦的公司或服務(wù)，用戶可通過(guò)搜索引擎、行業(yè)報(bào)告或第三方評(píng)測(cè)平臺(tái)進(jìn)行核實(shí)。

- **關(guān)注來(lái)源可信度**：檢查推薦內(nèi)容是否來(lái)自權(quán)威機(jī)構(gòu)或知名媒體，而非匿名或可疑網(wǎng)站。

- **警惕過(guò)度宣傳**：若AI推薦的內(nèi)容過(guò)于絕對(duì)化或缺乏具體依據(jù)，用戶應(yīng)保持懷疑態(tài)度。

**結(jié)語(yǔ)**

AI工具的普及為信息獲取帶來(lái)了便利，但其推薦內(nèi)容的可靠性仍存在挑戰(zhàn)。此次發(fā)現(xiàn)提醒我們，技術(shù)雖強(qiáng)大，但并非完美無(wú)缺。無(wú)論是開(kāi)發(fā)者還是用戶，都需共同努力，確保AI生成的信息既高效又可信。在AI推薦成為主流之前，謹(jǐn)慎核實(shí)仍是不可或缺的一環(huán)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。