隨著人工智能大模型在各行業(yè)的廣泛應用，這位“數字助手”在帶來便利的同時，也引發(fā)了新的安全隱患。國家安全部門近期披露的案例顯示，部分機構因不當使用開源AI工具，導致內部數據面臨泄露風險。

某單位工作人員在處理內部文件時，違規(guī)使用開源AI工具，由于系統(tǒng)默認開啟公網訪問且未設置密碼，導致敏感資料被境外IP非法訪問和下載。這一事件暴露出開源框架在網絡安全防護方面的薄弱環(huán)節(jié)。專家指出，開源大模型雖具有免費使用的優(yōu)勢，但其架構、參數和訓練數據的公開性，使得數據安全成為首要挑戰(zhàn)。

中國網絡空間安全協(xié)會人工智能安全治理專業(yè)委員會委員王媛媛解釋，開源大模型是指將模型核心代碼、參數和訓練數據向公眾開放的AI系統(tǒng)。這類模型功能多樣，有的擅長邏輯推理，有的精通代碼編寫，還有的能處理文本或影像數據。例如，用戶上傳體檢報告后，模型可分析身體異常并提供調整建議。然而，這種便利性背后隱藏著數據泄露風險。

專家特別強調，AI工具的存儲功能常被用戶忽視。所有輸入模型的文件、圖片等數據都會被系統(tǒng)自動保存，這是其進行分析的基礎機制。若企業(yè)將機密數據上傳至開源平臺，相當于主動將信息暴露在潛在威脅之下。開發(fā)者因擁有系統(tǒng)權限可查看數據，黑客則可能通過攻擊模型漏洞入侵后臺，兩種途徑均可能導致數據泄露。

針對普通網民，專家建議避免在開源AI工具中輸入個人敏感信息，如身份證號、銀行賬戶等。企業(yè)用戶若需使用開源模型訓練自有數據，應采取私有化部署方案，將所有數據存儲在本地服務器，并配備專業(yè)團隊維護系統(tǒng)安全。這種方案雖需投入基礎設施和人力成本，但能有效阻斷數據外流途徑。