大模型作為引領(lǐng)科技變革的創(chuàng)新力量，正以驚人的速度將未來照進(jìn)現(xiàn)實(shí)。然而，AI安全問題也如影隨形，模型篡改、供應(yīng)鏈攻擊、隱私泄露等對企業(yè)應(yīng)用大模型構(gòu)成了嚴(yán)峻挑戰(zhàn)。從模型準(zhǔn)備、模型訓(xùn)練到模型應(yīng)用的全生命周期，面臨著內(nèi)生和外在的安全風(fēng)險(xiǎn)，僅依賴外部安全解決方案是遠(yuǎn)遠(yuǎn)不夠的。
面對大模型存在的安全隱患，龍蜥衍生版服務(wù)器操作系統(tǒng) KOS在社區(qū)版基礎(chǔ)上增強(qiáng)內(nèi)生安全機(jī)制，通過eBPF安全技術(shù)、可信計(jì)算及機(jī)密計(jì)算方面技術(shù)創(chuàng)新，構(gòu)建并升級了“雙保險(xiǎn)”、“可信任”、“高隱私”的內(nèi)生安全智能防護(hù)系統(tǒng)，有效防御bootkit攻擊、模型盜竊和勒索軟件等針對大模型的威脅，并將基于eBPF安全技術(shù)的入侵檢測及訪問控制貢獻(xiàn)給了龍蜥社區(qū)，促進(jìn)產(chǎn)業(yè)上下游提升大模型訓(xùn)練、微調(diào)、推理安全防護(hù)能力。
大模型面臨全生命周期安全威脅
大模型安全的棘手之處在于，網(wǎng)絡(luò)安全威脅不只局限于外部的單點(diǎn)攻防突破，而是會滲透到模型全生命周期的不同環(huán)節(jié)，帶來更加錯(cuò)綜復(fù)雜的內(nèi)生安全風(fēng)險(xiǎn)。
■ 模型準(zhǔn)備階段存在數(shù)據(jù)泄漏、數(shù)據(jù)投毒風(fēng)險(xiǎn)。企業(yè)訓(xùn)練大模型需要采集、準(zhǔn)備大量數(shù)據(jù)，這些數(shù)據(jù)往往包含用戶數(shù)據(jù)、企業(yè)內(nèi)部數(shù)據(jù)、公共數(shù)據(jù)，不但會遇到外部攻擊，還會因?yàn)閮?nèi)部人員主動或被動泄露，帶來安全隱患。近期某企業(yè)在大模型訓(xùn)練過程中就遇到類似問題，訓(xùn)練數(shù)據(jù)被注入了破壞性代碼，導(dǎo)致大模型訓(xùn)練出現(xiàn)嚴(yán)重錯(cuò)誤。
■ 模型訓(xùn)練階段存在模型篡改、AI組件漏洞、平臺漏洞、供應(yīng)鏈投毒等風(fēng)險(xiǎn)。惡意攻擊者利用存在風(fēng)險(xiǎn)的訓(xùn)練環(huán)境，對大模型的訓(xùn)練過程進(jìn)行干擾或者破壞，影響大模型的訓(xùn)練成果。例如，Hugging Face開源模型庫中曾經(jīng)出現(xiàn)一個(gè)GPT-J-6B模型，是一個(gè)隱藏了虛假內(nèi)容的惡意模型，不知情的開發(fā)者如果將這一模型嵌入自己的應(yīng)用中，無疑會產(chǎn)生惡劣影響。
■ 模型應(yīng)用階段，不受信任的環(huán)境將影響推理結(jié)果的準(zhǔn)確性，造成大模型在推理過程中頻繁出現(xiàn)錯(cuò)誤或者產(chǎn)生誤導(dǎo)性輸出，而不恰當(dāng)?shù)拇竽Ｐ屯评硇袨橐矔?dǎo)致隱私數(shù)據(jù)泄露。例如，某國際知名企業(yè)員工將涉及內(nèi)部機(jī)密代碼與會議信息輸入 ChatGPT 端口，導(dǎo)致敏感資料被上傳至外部服務(wù)器。
在大模型安全風(fēng)險(xiǎn)不斷加劇的背景下，僅依賴基于網(wǎng)絡(luò)攻防設(shè)計(jì)的外生安全系統(tǒng)明顯存在短板，無法實(shí)現(xiàn)面向硬件與操作系統(tǒng)的防護(hù)，難以有效防范針對硬件及特權(quán)代碼、動態(tài)數(shù)據(jù)、以及內(nèi)核的攻擊。同時(shí)，基于軟件的數(shù)據(jù)加密方案會帶來較高的系統(tǒng)開銷，影響大模型系統(tǒng)的整體性能，也會加大用戶在硬件方面的投入。
“內(nèi)核級”防護(hù)系統(tǒng)從根源杜絕安全隱患
面對大模型的安全威脅，龍蜥衍生版服務(wù)器操作系統(tǒng) KOS通過對社區(qū)版本優(yōu)化，升級了具備“內(nèi)核級”防護(hù)能力、自適應(yīng)AI安全策略的內(nèi)生安全防護(hù)系統(tǒng)。該系統(tǒng)基于可信計(jì)算、eBPF安全及機(jī)密計(jì)算等技術(shù)，將安全能力覆蓋到服務(wù)器硬件、操作系統(tǒng)、中間件以及大模型平臺，并能根據(jù)業(yè)務(wù)場景變化靈活制定防御策略，從根源上有效防御數(shù)據(jù)泄漏、模型篡改、平臺漏洞、以及隱私泄露等安全威脅。
龍蜥衍生版KOS內(nèi)生安全智能防護(hù)系統(tǒng)
通過在硬件、OS及應(yīng)用層面對不同安全技術(shù)組合，系統(tǒng)實(shí)現(xiàn)從硬件層的靜態(tài)可信驗(yàn)證，到系統(tǒng)層和應(yīng)用程序運(yùn)行時(shí)的動態(tài)可信驗(yàn)證，無需對內(nèi)核或者業(yè)務(wù)代碼進(jìn)行任何修改或侵入性操作，即可提供安全的中間件和大模型運(yùn)行環(huán)境，并且能夠根據(jù)數(shù)據(jù)的敏感程度與使用場景，靈活地選擇、應(yīng)用不同的數(shù)據(jù)保護(hù)策略。
比如，在需要高度保護(hù)的數(shù)據(jù)場景中，采取強(qiáng)加密與嚴(yán)格的訪問控制機(jī)制，確保數(shù)據(jù)在處理與傳輸過程中的安全性;而在對性能要求較高的場景，可以在保證安全性的前提下，適當(dāng)降低加密強(qiáng)度或者訪問控制復(fù)雜度，以提高系統(tǒng)性能。
為大模型全生命周期建立安全防線
通過將可信計(jì)算、eBPF安全及機(jī)密計(jì)算“三駕馬車”融為一體，系統(tǒng)能夠自內(nèi)而外幫助企業(yè)構(gòu)建可信的大模型全棧運(yùn)行環(huán)境，以及滿足模型準(zhǔn)備、模型訓(xùn)練和模型應(yīng)用全生命周期的應(yīng)用安全與數(shù)據(jù)安全需求。
在大模型數(shù)據(jù)處理階段，用戶通過可信加密引擎，構(gòu)建基于硬件的數(shù)據(jù)中心可信執(zhí)行環(huán)境，通過將特權(quán)代碼排除在受信任的范圍之外，獲得芯片級的高安全數(shù)據(jù)保護(hù)能力。數(shù)據(jù)加密處理后進(jìn)入可信執(zhí)行環(huán)境，且系統(tǒng)驗(yàn)證數(shù)據(jù)的來源與完整性，以確保數(shù)據(jù)在傳輸與存儲過程中不被纂改或替換。同時(shí)，該系統(tǒng)能夠?qū)⒓用茇?fù)載卸載到硬件加速器上，從而降低了軟件加密帶來的性能開銷，有效提升系統(tǒng)性能。
在大模型訓(xùn)練階段，通過“雙保險(xiǎn)”保障模型訓(xùn)練質(zhì)量，在訓(xùn)練環(huán)境底層內(nèi)置KOS eBPF安全技術(shù)，保護(hù)大模型訓(xùn)練平臺的軟硬件內(nèi)核基礎(chǔ)安全;在上層部署KSecure，支持用戶對于模型訓(xùn)練的整個(gè)流程進(jìn)行安全監(jiān)測，識別輸入數(shù)據(jù)和輸出結(jié)果的安全風(fēng)險(xiǎn)、監(jiān)控資源使用情況，從而進(jìn)行針對性的安全策略調(diào)整，這有助于封堵安全漏洞，防范大模型訓(xùn)練中數(shù)據(jù)投毒、供應(yīng)鏈攻擊等影響，保障模型訓(xùn)練質(zhì)量。
在某客戶數(shù)據(jù)中心項(xiàng)目中，KOS采用eBPF安全+可信計(jì)算為用戶提供數(shù)據(jù)可信搬遷解決方案，保證數(shù)據(jù)設(shè)備在跨地域物理搬遷過程中的完整性、安全性，實(shí)現(xiàn)更低成本海量數(shù)據(jù)搬遷的同時(shí)有效規(guī)避了安全風(fēng)險(xiǎn)。
在大模型推理階段，構(gòu)建可信環(huán)境。系統(tǒng)幫助模型開發(fā)企業(yè)和用戶共同構(gòu)建雙方可信任的大模型應(yīng)用環(huán)境，通過KSecure構(gòu)建更加健壯的大模型平臺，化解提示注入、對抗攻擊等風(fēng)險(xiǎn)，通過可信計(jì)算來保護(hù)推理后輸出數(shù)據(jù)的安全。
以某AI圖像渲染模型廠商為例，其交付的模型服務(wù)通常會允許客戶修改某些配置文件以優(yōu)化推理，但相關(guān)權(quán)限可能導(dǎo)致技術(shù)細(xì)節(jié)泄露或是大模型被破壞。系統(tǒng)可以有效控制特權(quán)代碼的權(quán)限，有效保護(hù)大模型知識產(chǎn)權(quán)，同時(shí)避免終端客戶隨意修改導(dǎo)致大模型崩潰。
綜上， KOS升級內(nèi)生安全智能防護(hù)系統(tǒng)，為大模型構(gòu)建自適應(yīng)安全策略，通過計(jì)算環(huán)境的安全可信構(gòu)建、模型訓(xùn)練與運(yùn)行時(shí)內(nèi)存中高價(jià)值數(shù)據(jù)的保護(hù)，以及內(nèi)核級的零侵入安全防御等措施，顯著降低AI基礎(chǔ)設(shè)施的安全風(fēng)險(xiǎn)，為大模型的應(yīng)用開發(fā)和使用提供了一個(gè)智能化的安全防護(hù)框架，助力大模型價(jià)值的充分釋放。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
