AI、大數(shù)據(jù)等新技術(shù)應(yīng)用到安全領(lǐng)域之后，給安全帶來(lái)了新的思路，比如主動(dòng)安全、零信任安全等等，但同時(shí)這些技術(shù)也會(huì)被攻擊者所利用。IBM Security全球副總裁Bob Kalka在本屆互聯(lián)網(wǎng)安全大會(huì)（ISC 2020）中，向我們介紹了在即將到來(lái)的智能時(shí)代，要通過(guò)何種思路來(lái)應(yīng)對(duì)未來(lái)智能安全環(huán)境中新攻擊手段與態(tài)勢(shì)。
Bob Kalka 是IBM Security的全球副總裁，負(fù)責(zé)管理IBM Security全球的技術(shù)人員。在其31年的職業(yè)生涯中，有26年是在幫助IBM發(fā)展安全業(yè)務(wù)。本文為Bob Kalka的觀點(diǎn)。
智能安全的信任和透明
智能安全是一個(gè)非常好的概念，它引申了關(guān)于AI在安全領(lǐng)域的討論。在IBM，我們采用的是信任和透明原則。AI、以及其他新技術(shù)的開(kāi)發(fā)和部署，都要遵守這樣的原則。而且我們鼓勵(lì)所有技術(shù)公司，都應(yīng)采用類(lèi)似的原則。
信任和透明原則有三個(gè)核心：
一、AI的目的是增強(qiáng)，而不是取代人類(lèi)的智慧。
首先，我們更傾向于把AI說(shuō)成增強(qiáng)智能，因?yàn)槿绻Q(chēng)之為人工智能的話，人們會(huì)認(rèn)為機(jī)器人將會(huì)取代一些職業(yè)。在這一領(lǐng)域，IBM以Watson等為代表的AI研究，已經(jīng)有數(shù)十年的歷史了。但我們并沒(méi)有發(fā)現(xiàn)一些職業(yè)已經(jīng)被取代，AI只是幫助人們更好的完成自己的工作。
其次，數(shù)據(jù)和洞察屬于其創(chuàng)造者。客戶不一定要放棄對(duì)自己數(shù)據(jù)的所有權(quán)。顯然，在這一點(diǎn)中，隱私尤其重要。
第三，包括AI系統(tǒng)在內(nèi)的新技術(shù)，必須透明且能被人理解。IBM采用了信任和透明的原則，這對(duì)于先進(jìn)的技術(shù)研發(fā)非常重要。
人工智能 能力越大，責(zé)任越大
如何把AI應(yīng)用在正確的地方，在這里又有三個(gè)關(guān)鍵點(diǎn)：
第一關(guān)鍵點(diǎn)：AI發(fā)展的好，隨之而來(lái)的就是責(zé)任。
第二關(guān)鍵點(diǎn)：我們應(yīng)該把AI應(yīng)用在合理的地方，比如網(wǎng)絡(luò)安全中威脅情報(bào)的獲取、分析和應(yīng)用。威脅情報(bào)的來(lái)源可能有數(shù)百萬(wàn)個(gè)，而只有約20％的來(lái)源是在網(wǎng)上有收錄和可搜索的。
如何才能進(jìn)行有效的威脅調(diào)查？今天大多數(shù)人的做法，是對(duì)這20％的數(shù)據(jù)進(jìn)行手動(dòng)搜索。大約在四年半之前 IBM就開(kāi)始訓(xùn)練Watson來(lái)獲取、分析和應(yīng)用威脅情報(bào)?，F(xiàn)在我們存儲(chǔ)的威脅來(lái)源數(shù)量已經(jīng)超過(guò)了一百萬(wàn)。
有時(shí)候IBM的客戶四五秒就可以查到想要的來(lái)源，Watson會(huì)告訴你：
“我認(rèn)為這個(gè)應(yīng)當(dāng)是需要引起你注意的威脅：
準(zhǔn)確率大約為……、
這是我導(dǎo)出這一結(jié)論所用的XX個(gè)來(lái)源、
如果想查看詳情，可以點(diǎn)擊這里……”
這種能力，Watson的網(wǎng)絡(luò)安全能力是和IBM的 QRadar平臺(tái)互通的，這完全不同于IBM的競(jìng)爭(zhēng)對(duì)手。有一個(gè)客戶說(shuō)，通過(guò)應(yīng)用AI，他們的威脅調(diào)查快了60倍。
AI攻擊 全新的威脅形態(tài)
很顯然，攻擊者群體也想利用AI，我們必須專(zhuān)注于保護(hù)AI模型本身。
這里也有三點(diǎn)：
第一點(diǎn)：我們已經(jīng)看到攻擊者在利用AI進(jìn)行攻擊。AI讓他們獲得了巨大的回報(bào)，所以我們必須采取預(yù)防措施。
第二點(diǎn)：攻擊者會(huì)攻擊AI模型，他們會(huì)一點(diǎn)一點(diǎn)的、不斷的把錯(cuò)誤信息注入到模型當(dāng)中，最終模型可能會(huì)出錯(cuò)而給出錯(cuò)誤的答案。不過(guò)這些技巧都被IBM的平臺(tái)一覽無(wú)余，能夠完全知曉。
第三點(diǎn)：對(duì)模型本身的盜取。顯然，如果你偷了別人的模型，你可以用他的AI。因此，IBM花費(fèi)了大量的時(shí)間和精力，來(lái)確保這些問(wèn)題或任何問(wèn)題都不會(huì)發(fā)生。
12下一頁(yè)>（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
