在近日舉辦的Xcon安全峰會(huì)上，聯(lián)想全球安全實(shí)驗(yàn)室專家張嘉琦以“虛擬人格的安全邊界——AI數(shù)字人生態(tài)攻防”為主題，系統(tǒng)剖析了數(shù)字人產(chǎn)業(yè)快速擴(kuò)張背后的安全挑戰(zhàn)。據(jù)統(tǒng)計(jì)，2017至2025年間，中國(guó)虛擬人核心市場(chǎng)規(guī)模呈現(xiàn)指數(shù)級(jí)增長(zhǎng)，功能型與伴侶型數(shù)字人已深度滲透電商直播、客戶服務(wù)、教育娛樂等場(chǎng)景。以羅永浩數(shù)字分身、京東“東哥”數(shù)字人直播帶貨為代表的應(yīng)用案例，驗(yàn)證了技術(shù)落地的商業(yè)價(jià)值，但同時(shí)也暴露出技術(shù)棧復(fù)雜、權(quán)利邊界模糊等深層隱患。

數(shù)字人生態(tài)的技術(shù)架構(gòu)由前端展示層、應(yīng)用服務(wù)層、AI核心層與基礎(chǔ)設(shè)施層構(gòu)成，每個(gè)層級(jí)均存在可被利用的攻擊面。張嘉琦展示的威脅全景圖顯示，攻擊者可能通過應(yīng)用交付漏洞篡改數(shù)字人交互邏輯，或利用編排服務(wù)缺陷實(shí)現(xiàn)流量劫持。在AI核心引擎層面，模型供應(yīng)鏈投毒、對(duì)抗樣本攻擊等技術(shù)可直接影響數(shù)字人決策能力，而基礎(chǔ)設(shè)施層的配置錯(cuò)誤則可能導(dǎo)致整個(gè)系統(tǒng)癱瘓。典型攻擊案例中，某電商平臺(tái)曾因提示詞注入漏洞，導(dǎo)致數(shù)字人主播在直播過程中自動(dòng)觸發(fā)違規(guī)商品鏈接；另有攻擊者通過同義詞替換技術(shù)，繞過內(nèi)容審核機(jī)制傳播違法信息。

合規(guī)風(fēng)險(xiǎn)同樣不容忽視。深度偽造（DeepFake）技術(shù)的濫用已引發(fā)多起身份冒用事件，某金融機(jī)構(gòu)數(shù)字客服因語(yǔ)音合成漏洞被偽造，造成客戶資金損失。更嚴(yán)峻的是，當(dāng)前AI生成內(nèi)容缺乏統(tǒng)一標(biāo)識(shí)規(guī)范，導(dǎo)致虛假信息溯源困難。某社交平臺(tái)曾出現(xiàn)大量AI生成的虛假新聞，因無(wú)法追溯生成源頭，最終只能采取全平臺(tái)內(nèi)容下架的極端措施。這些案例凸顯出構(gòu)建數(shù)字人安全體系的緊迫性。

針對(duì)多維安全威脅，張嘉琦提出分層防御策略：在AI模型與數(shù)據(jù)安全層面，需建立供應(yīng)鏈全生命周期審查機(jī)制，對(duì)訓(xùn)練數(shù)據(jù)實(shí)施動(dòng)態(tài)加密，并通過輸入凈化技術(shù)過濾惡意指令；內(nèi)容安全領(lǐng)域應(yīng)部署實(shí)時(shí)審核系統(tǒng)，結(jié)合數(shù)字水印與區(qū)塊鏈技術(shù)實(shí)現(xiàn)內(nèi)容溯源；應(yīng)用服務(wù)層需嚴(yán)格管控API接口權(quán)限，采用差分隱私技術(shù)保護(hù)用戶交互數(shù)據(jù)；基礎(chǔ)設(shè)施層則要通過網(wǎng)絡(luò)隔離、系統(tǒng)加固與異常行為監(jiān)測(cè)構(gòu)建縱深防御體系。某數(shù)字人生成平臺(tái)已應(yīng)用上述策略，成功攔截97%的模型投毒攻擊，并將內(nèi)容違規(guī)率降至0.03%以下。

隨著《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)的落地，數(shù)字人產(chǎn)業(yè)正進(jìn)入合規(guī)化發(fā)展新階段。張嘉琦強(qiáng)調(diào)，安全防護(hù)不是單一技術(shù)問題，而是需要技術(shù)、法律、倫理多維度協(xié)同的系統(tǒng)工程。只有構(gòu)建起覆蓋全生命周期的安全體系，才能確保數(shù)字人技術(shù)在推動(dòng)產(chǎn)業(yè)升級(jí)的同時(shí)，真正成為可信的數(shù)字化伙伴。