全球知名在線(xiàn)游戲平臺(tái)Roblox近日宣布推出一項(xiàng)創(chuàng)新AI功能，通過(guò)實(shí)時(shí)改寫(xiě)聊天中的不當(dāng)用語(yǔ)，進(jìn)一步優(yōu)化用戶(hù)交流體驗(yàn)。該系統(tǒng)旨在解決傳統(tǒng)內(nèi)容過(guò)濾機(jī)制導(dǎo)致的對(duì)話(huà)斷裂問(wèn)題，同時(shí)引導(dǎo)玩家形成更文明的互動(dòng)習(xí)慣。

據(jù)平臺(tái)安全團(tuán)隊(duì)介紹，此前采用的AI過(guò)濾系統(tǒng)會(huì)將違規(guī)內(nèi)容直接替換為星號(hào)符號(hào)（####），但這種處理方式常使對(duì)話(huà)語(yǔ)境變得支離破碎。新上線(xiàn)的智能改寫(xiě)功能突破了這一局限，系統(tǒng)能自動(dòng)識(shí)別不雅詞匯并轉(zhuǎn)換為符合社區(qū)規(guī)范的表達(dá)方式。例如當(dāng)用戶(hù)輸入"Hurry TF up"時(shí)，系統(tǒng)會(huì)將其優(yōu)化為"Hurry up!"，既保留了原意又避免了語(yǔ)言粗俗化。

首席安全官拉吉夫·巴蒂亞在官方博客中強(qiáng)調(diào)，該功能特別針對(duì)青少年用戶(hù)群體設(shè)計(jì)。在已啟用該功能的聊天場(chǎng)景中，所有參與者都會(huì)收到內(nèi)容修改提示，發(fā)送者更可查看具體被替換的詞匯。這種透明化處理機(jī)制既維護(hù)了交流的連貫性，又通過(guò)即時(shí)反饋幫助用戶(hù)理解社區(qū)規(guī)范。值得注意的是，系統(tǒng)雖能凈化語(yǔ)言環(huán)境，但對(duì)于持續(xù)惡意辱罵的行為仍將采取賬號(hào)處罰措施。

目前該功能已覆蓋Roblox翻譯系統(tǒng)支持的所有語(yǔ)言版本，但僅對(duì)完成年齡驗(yàn)證且年齡相近的用戶(hù)組開(kāi)放。平臺(tái)技術(shù)團(tuán)隊(duì)表示，隨著機(jī)器學(xué)習(xí)模型的持續(xù)優(yōu)化，未來(lái)將逐步擴(kuò)大應(yīng)用范圍，并增加對(duì)隱喻性侮辱等復(fù)雜語(yǔ)言模式的識(shí)別能力。這項(xiàng)改進(jìn)被視為Roblox構(gòu)建健康數(shù)字社區(qū)的重要里程碑，標(biāo)志著內(nèi)容治理從被動(dòng)過(guò)濾向主動(dòng)引導(dǎo)的轉(zhuǎn)型。