隨著人工智能技術(shù)的飛速發(fā)展，AI大模型正以前所未有的速度滲透到各行各業(yè)，成為人們工作生活中不可或缺的“數(shù)字助手”。然而，這項(xiàng)技術(shù)帶來的便利背后，也潛藏著不容忽視的數(shù)據(jù)安全風(fēng)險(xiǎn)。近期國家安全部門披露的典型案例，為公眾敲響了警鐘。

某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開源AI工具進(jìn)行文本分析。由于電腦系統(tǒng)默認(rèn)開啟公網(wǎng)訪問權(quán)限且未設(shè)置密碼保護(hù)，導(dǎo)致存儲(chǔ)在設(shè)備中的敏感資料被境外IP地址非法訪問并下載。這一事件暴露出開源框架大模型在聯(lián)網(wǎng)環(huán)境下存在的重大安全隱患。

據(jù)網(wǎng)絡(luò)安全專家介紹，開源大模型是指將模型架構(gòu)、參數(shù)及訓(xùn)練數(shù)據(jù)完全公開供免費(fèi)使用的人工智能系統(tǒng)。這類模型在互聯(lián)網(wǎng)上種類繁多，功能各異：有的擅長邏輯推理，有的精通代碼編寫，有的專長文本處理，還有的能夠分析醫(yī)學(xué)影像。例如，用戶上傳體檢報(bào)告后，模型可自動(dòng)識(shí)別異常指標(biāo)并提供健康建議。

中國網(wǎng)絡(luò)空間安全協(xié)會(huì)專家王媛媛指出，數(shù)據(jù)存儲(chǔ)機(jī)制是開源大模型的核心工作原理，但這也成為其最大的安全漏洞。當(dāng)用戶上傳文件或圖片時(shí)，系統(tǒng)會(huì)自動(dòng)保存這些數(shù)據(jù)以便進(jìn)行分析處理。若涉及企業(yè)機(jī)密或個(gè)人隱私信息，就相當(dāng)于主動(dòng)將數(shù)據(jù)暴露在開放網(wǎng)絡(luò)環(huán)境中。

數(shù)據(jù)泄露風(fēng)險(xiǎn)主要來自兩個(gè)方面：一是模型開發(fā)者本身具有數(shù)據(jù)訪問權(quán)限，可能通過后臺(tái)查看用戶上傳內(nèi)容；二是開源代碼存在的技術(shù)漏洞可能被黑客利用，通過攻擊模型服務(wù)器獲取存儲(chǔ)數(shù)據(jù)。某安全團(tuán)隊(duì)演示顯示，攻擊者僅需利用系統(tǒng)未修復(fù)的漏洞，即可在數(shù)分鐘內(nèi)提取模型數(shù)據(jù)庫中的全部敏感信息。

針對日益嚴(yán)峻的安全形勢，專家建議普通用戶應(yīng)避免在開源AI平臺(tái)上傳身份證號、銀行賬戶、健康檔案等敏感信息。企業(yè)用戶若需使用大模型處理業(yè)務(wù)數(shù)據(jù)，必須采用私有化部署方案，將所有計(jì)算過程限制在內(nèi)部網(wǎng)絡(luò)環(huán)境，并配備專業(yè)團(tuán)隊(duì)進(jìn)行安全維護(hù)。雖然這種方案需要投入更多基礎(chǔ)設(shè)施成本，但能有效阻斷數(shù)據(jù)外泄途徑。

當(dāng)前，我國已出臺(tái)多項(xiàng)人工智能安全治理規(guī)范，要求開發(fā)者在模型設(shè)計(jì)階段就嵌入數(shù)據(jù)加密、訪問控制等安全機(jī)制。網(wǎng)絡(luò)安全部門將持續(xù)加強(qiáng)對開源項(xiàng)目的審查力度，定期通報(bào)高危漏洞信息，督促相關(guān)平臺(tái)及時(shí)修復(fù)系統(tǒng)缺陷。