標(biāo)題：Meta大刀闊斧：90%產(chǎn)品風(fēng)險評估交由AI，人工審核成歷史？
社交媒體巨頭Meta正計劃將其產(chǎn)品潛在風(fēng)險評估的任務(wù)從人工審核轉(zhuǎn)向更多依賴人工智能（AI），這一舉措引發(fā)了廣泛關(guān)注。據(jù)美國國家公共廣播電臺（NPR）報道，Meta的目標(biāo)是讓高達(dá)90%的風(fēng)險評估工作由AI完成，甚至包括涉及青少年風(fēng)險和“誠信”領(lǐng)域的評估。然而，與NPR交流的現(xiàn)任和前任Meta員工警告稱，AI可能會忽視一些人工團(tuán)隊能夠識別的嚴(yán)重風(fēng)險。
在過去的幾年里，Meta旗下的Instagram和WhatsApp等平臺已經(jīng)形成了自己的審核機(jī)制，在產(chǎn)品更新和新功能推出之前，都會經(jīng)過人工審核。然而，Meta最近兩個月大幅增加了對AI的使用，產(chǎn)品團(tuán)隊需要填寫一份關(guān)于其產(chǎn)品的調(diào)查問卷，并提交給AI系統(tǒng)進(jìn)行審核。該系統(tǒng)通常會提供“即時決策”，指出其識別出的風(fēng)險領(lǐng)域。產(chǎn)品團(tuán)隊隨后需要解決AI提出的要求，才能發(fā)布產(chǎn)品。
盡管有人認(rèn)為減少審核力度意味著“你正在創(chuàng)造更高的風(fēng)險”，但Meta在聲明中回應(yīng)稱，公司仍會利用“人類專業(yè)知識”來評估“新穎且復(fù)雜的問題”，而將“低風(fēng)險決策”交給AI處理。然而，Meta最近公布的誠信報告顯示，政策調(diào)整后被刪除的內(nèi)容數(shù)量有所下降，但霸凌和騷擾行為、以及暴力和血腥內(nèi)容卻略有上升。這一現(xiàn)象引發(fā)了人們對AI審核效果的質(zhì)疑。
首先，我們需要明確的是，AI在風(fēng)險評估方面具有一定的優(yōu)勢。它能夠快速處理大量數(shù)據(jù)，進(jìn)行模式識別和預(yù)測分析，這對于一些簡單、常見的問題識別具有很高的準(zhǔn)確性。然而，AI的局限性也十分明顯。它缺乏人類的情感、判斷力和語境理解能力，因此在處理復(fù)雜、模糊或涉及主觀判斷的問題時，可能會出現(xiàn)偏差。此外，AI也無法處理一些涉及人類行為和社會現(xiàn)象的問題，這些問題往往需要人類的洞察力和專業(yè)知識。
其次，我們需要考慮的是AI審核的效果是否能夠完全替代人工審核。雖然人工審核在某些方面具有優(yōu)勢，如對細(xì)節(jié)的關(guān)注、對文化背景的理解等，但人工審核也存在一些問題，如疲勞、主觀性、情感干擾等。而AI審核可以提供一種更加客觀、準(zhǔn)確和高效的風(fēng)險評估方式，特別是在處理復(fù)雜和模糊問題時。因此，將AI審核與人工審核相結(jié)合，可以更好地平衡風(fēng)險和用戶體驗，提供更加全面和準(zhǔn)確的風(fēng)險評估。
最后，我們需要考慮的是如何確保AI審核的公正性和透明度。在將風(fēng)險評估任務(wù)交給AI處理時，必須確保算法的公正性和透明度，避免潛在的偏見和歧視問題。同時，也需要建立有效的反饋機(jī)制，及時發(fā)現(xiàn)和糾正AI審核中的問題，提高其準(zhǔn)確性和可靠性。
總之，Meta大刀闊斧地將90%的產(chǎn)品風(fēng)險評估交由AI處理，這一舉措引發(fā)了廣泛關(guān)注。雖然AI在風(fēng)險評估方面具有一定的優(yōu)勢，但也存在局限性。因此，將AI審核與人工審核相結(jié)合，并確保其公正性和透明度，是未來社交媒體平臺風(fēng)險評估的重要方向。同時，我們也需要關(guān)注政策調(diào)整后被刪除的內(nèi)容數(shù)量下降但霸凌和騷擾行為、暴力和血腥內(nèi)容卻略有上升的現(xiàn)象，這需要我們進(jìn)一步研究和探討。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
