南京律師李小亮在搜索引擎上經(jīng)歷了一場荒誕的“名譽危機”。當他輸入自己的姓名時，某搜索引擎的AI智能回答竟顯示“因犯爆炸罪被判處有期徒刑三年”，并配上了他身著律師袍的照片。這一虛假信息并非偶然出現(xiàn)，即便李小亮多次通過律師函、投訴熱線及郵箱向平臺方反映，對方雖承諾處理，但核心謠言始終未徹底清除。直至起訴前，該平臺仍會推送相關虛假內(nèi)容。無奈之下，李小亮以名譽侵權為由將平臺方告上法庭，要求刪除不實信息、公開道歉并索賠。

庭審中，平臺方辯稱AI生成內(nèi)容存在“幻覺”現(xiàn)象，屬于技術發(fā)展的必然代價，且無法預見具體輸出結果。然而，法官當場提出關鍵質(zhì)疑：為何其他同類AI工具在相同關鍵詞搜索下未出現(xiàn)類似誹謗內(nèi)容？這一追問直指核心——問題并非技術不可控，而是涉事平臺在內(nèi)容審核機制上存在明顯漏洞。法院最終判決認定，平臺對特定自然人的誹謗性內(nèi)容具有可預見性，未采取合理防控措施構成過錯，需承擔法律責任。

這起案件并非孤例。2025年5月，北京律師黃貴耕發(fā)現(xiàn)某搜索引擎AI生成多條關于他的虛假刑事指控，包括“威脅法官”“偽造印章”等，并被傳播至其委托人及家屬。他起訴后，平臺方在庭審中仍以“AI無獨立意志”“技術中立”等理由辯解，但同期其他AI工具均未輸出類似內(nèi)容。同年年底，河北男子冀承祥搜索姓名時，發(fā)現(xiàn)該平臺AI將其真實求學經(jīng)歷與“組織賣淫罪”虛假信息關聯(lián)，聲稱其被判刑五年六個月。

連續(xù)發(fā)生的類似事件暴露出涉事平臺在內(nèi)容風控上的系統(tǒng)性缺陷。法院在判決中明確劃清界限：技術缺陷不能成為免責借口，平臺對高風險內(nèi)容負有主動審核義務。東南大學法學院專家指出，大語言模型的“幻覺”風險雖客觀存在，但研發(fā)者需通過技術手段和人工審核相結合的方式建立防控機制，不能以技術之名規(guī)避責任。

涉事平臺的AI業(yè)務在2025年已成長為營收核心，第四季度占一般性業(yè)務收入的43%。然而，其內(nèi)容安全防線卻屢現(xiàn)漏洞。從早年的醫(yī)療廣告爭議到如今的AI侵權糾紛，該平臺多次將責任歸咎于“商業(yè)邏輯”或“技術局限”。行業(yè)評論認為，AI競爭已進入下半場，參數(shù)規(guī)模等指標不再是關鍵，內(nèi)容安全治理能力將成為決定企業(yè)長遠發(fā)展的核心因素。當前，該平臺AI營收與風控投入的失衡，正將用戶信任危機轉化為難以忽視的經(jīng)營風險。