在AI搜索結果中，北京一教師被造謠“因猥褻學生被判入獄10年”

當AI搜索“造謠”傷人，個人權益如何維護？

你嘗試過用AI搜索自己的名字嗎？對於北京一所知名國際高中的音樂老師小河（化名）來說，這個操作觸發了“潘多拉魔盒”。

日前，他向解放日報·上觀新聞記者講述了自己的遭遇：在AI的搜索結果裡，他與一起已宣判的猥褻案關聯在一起。“AI准確地提到我的職務和我所在的學校，但這完全是個莫須有的罪名，AI的回答損害了我作為教師的公眾形象。萬一哪天被學生及家長看到，我要付出大量的解釋成本，更可能承受廣泛的潛在偏見。”

當AI搜索結果侵犯個人名譽，如何厘清責任邊界？有人說，不能苛求新技術“絕對零錯誤”﹔也有聲音認為，技術創新要守住人的基本權利紅線。面對AI的失序風險，越來越多人認為，提供AI搜索技術的相關企業平台不能置身事外，應主動承擔起生成內容的治理責任，切實有效保障用戶權益。

沒想到AI幻覺這麼離譜

“按AI的說法我現在應該在監獄裡。我知道AI有幻覺，但沒想到會發生在自己身上，且這麼離譜。”發現問題后，小河曾聯系AI服務提供商上海某社交平台的客服，希望能及時更改生成結果，並將自己的相關証明發送到了平台官方郵箱。他還向上海市民服務熱線12345進一步反映，請求相關部門協調。歷經一年，AI生成的虛假信息網頁鏈接才終於失效。

小河回憶，第一時間發現AI造謠的並非他本人。2025年1月某個晚上，他的同事在社交平台瀏覽相關帖文，發現某帖文下方出現一個“猜你想搜”的詞條，后綴並排出現學校名字、小河真名，同事出於好奇點擊鏈接。頁面隨后跳轉到一個置頂AI答案的搜索結果。同事大吃一驚，迅速截圖轉發給小河，詢問他是怎麼回事。

小河看到，AI信誓旦旦地描述了一起小河在其學校發生的“事件”，且聲稱是“目前公開信息的梳理和總結”。AI搜索結果顯示，2024年6月小河因涉嫌猥褻學生被刑事拘留，並最終被判處有期徒刑10年。同時，AI梳理了一條事件發展時間線：2024年6月事件爆發﹔7月當地相關管理部門發布通報，小河被開除黨籍、開除公職﹔8月，法院一審判處小河有期徒刑10年﹔9月，判決生效，小河被依法送交監獄執行刑罰。

小河在該平台嘗試搜索自己的名字，發現生成結果與同事看到的一樣，並且查看不到生成結果的來源依據，僅僅是“AI為你回答”。在公開平台搜索同名同姓的人士，沒有找到可以對應的相關案件。學校也不曾發生過類似的丑聞和案件。隨后，他發現AI衍生出關鍵詞“事件后續”鏈接，生成了新的版本。AI提到，小河存在“體罰”或“辱罵學生”的行為，有模有樣地提及事件的來龍去脈，並有相關視頻流傳，且事件在網上持續發酵，成為熱點案例。他將AI生成結果的過程進行錄屏，整理網頁鏈接，向學校第一時間報備，主動証明自己的清白。

“到底之前有多少人看到過這些虛假的生成結果？有多少人受到這些答案的影響？”如今，這些尖銳的虛假“指控”已無法再被搜索到，但他仍后怕。讓他百思不得其解的是，他一直以網絡昵稱在社交平台分享教學、演出的內容，至多出現姓氏，在公開的犯罪案件中也沒有與其有同名同姓的情況，“AI為何會如此杜撰”。

發防搜帖能對抗AI嗎

“我在賬號中發了澄清帖和防搜聲明，但作用有限，AI搜索結果到現在仍會關聯虛假負面信息。”小兆（化名）是一名00后二次元專職畫師。她常用同一個網絡昵稱在各社交平台發布自己的原創作品，由此吸引潛在客戶，目前已積累數千粉絲。去年，她在某社交平台搜索自己的昵稱，想看看“風評”，然而，置頂的AI搜索答案提到她存在“爭議事件中的負面曝光”，稱她在過去的一起交易中存在跑單、騙稿行為，需要“避雷”。

“我們畫師靠口碑接單，客戶在下單前一定會通過社交媒體或行業平台進行背調。這樣的評價對我影響很大。”小兆最初的感受是驚訝，隨后點開AI引用來源進行分析。其中有一張截圖來自另一個社交平台，內容是她與一位網友的對話。他們討論了另一位畫師存在騙稿的失當行為。AI生成的結果反而將她關聯、塑造成失當行為的當事人。小兆意識到，AI可以跨平台對同名用戶的評論內容進行截圖抓取，且在處理文本信息時無法准確分辨賬號名字與評論內容的邏輯關系。

許多網友也發現AI搜索存在類似缺陷，開始分享五花八門的“AI防搜”經驗。比如，在賬號簡介寫一句“賬號已注銷”，可減少AI生成的具體內容。又比如，將昵稱改成食物類等更為大眾的稱呼，AI生成的內容就隻會出現常規詞條解釋。

小兆不想更改昵稱，她擔心粉絲“取關”。她找到他人分享的一篇“防搜聲明”模板，並在賬號中發布：本人賬號（ID：XX）在該平台發布、上傳及曾刪除的全部內容（包含本聲明發布前后的所有內容，尤其是商業產品、文藝作品、音視頻作品等），均不授權和許可某某平台及所屬公司及其關聯公司、股權持有人使用。禁止人工智能相關處理（包括但不限於機器學習、數據分析、自動生成摘要等）、內容改編、二次創作或跨平台轉載、商業推廣及營利性活動、整合至其他產品或服務（含已知及未來開發的技術形式）、用戶畫像構建及行為分析。

這樣的聲明能震懾AI嗎？小兆搖搖頭，AI在不久后確實新增了一部分關於這些澄清舉動的內容，但描述十分模糊，口吻中性，仍關聯此前生成的虛假信息。“好像我的職業生涯真的有‘瓜’一樣。”平台也沒有對應的投訴通道，小兆只能無奈地在右下角的“點贊”和“沒用”中選擇后者。

“網友發布的AI防搜聲明，有一定法律效力，能有效固定用戶權利主張。但並非‘絕對有效’，最終能否對抗平台還取決於用戶協議約定、法律強制性規定及舉証情況。”一名業內人士說，不少社交平台、大模型企業在用戶使用協議中要求用戶讓渡部分個人信息的使用權利，因此類似的聲明難以直接阻斷平台合規的數據使用，需依靠監管部門推動平台完善隱私政策，保障用戶選擇權。

身為執業律師的黃貴耕選擇了一種更為直接有效的救濟方式——起訴。2025年11月，黃貴耕以AI惡意生成虛假負面信息，嚴重損害其名譽繼而摧毀律師執業信譽的名義起訴相關平台，索賠各項損失共計109.104萬元。今年，北京市海澱區法院已依法受理該案並完成第一次開庭，目前案件仍在審理中。黃貴耕說，涉事的主流搜索引擎置頂的AI搜索結果通過無中生有、張冠李戴、憑空捏造等手法虛構了諸多罪名。“這些虛假信息對律師職業信譽是毀滅性打擊，直接導致我的委托人及社會公眾對我產生存在違法犯罪行為的嚴重誤解。”

將監管指導前置到研發

今年3月，為了解當下生成式AI針對個人信息搜索分析的傾向性和披露程度，記者使用五家國內外AI大模型平台進行測試。記者發現，多數AI都會根據用戶輸入的實名信息直接進行搜索整合，受不同平台的文本數據影響，所呈現的精准度差別很大，甚至存在不顯示引用來源的情況。所有平台已在界面提醒“AI生成內容僅供參考”，但都不會設置搜索邊界，也不會提醒用戶注意保護個人隱私、不要過度搜索個人信息。

根據《生成式人工智能服務管理暫行辦法》第四條、第九條規定，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。多位法律界人士認為，AI服務平台的開發與運營者具備民事主體資格，應承擔審核與過濾侵權信息的義務。

一名從事國內AI搜索業務的人士告訴記者，大模型的AI幻覺盡管現階段在技術上無法完全避免，但開發運營者在增強生成內容准確性和用戶體驗上有較大提高空間。尤其是上述黃貴耕案例中，AI存在篡改權威來源原始文本的行為，說明相應的模型總結能力較低。目前，國內一些AI開發團隊設立了專門的隱私合規專項小組。用戶提交個人証件及証據后，客服確認生成內容對用戶本人造成侵權，就會將投訴交由摘要引用、生成環節等業務部門判斷錯誤源頭，對涉及個人隱私信息的搜索內容進行人工干預處理，原則上幾個工作日內就能處理好錯誤數據，用戶無法再搜到相應內容。

復旦大學計算與智能創新學院教授張奇接受記者採訪時表示，生成式AI大模型本質是個概率性模型，從技術上來講不可避免地存在推斷錯誤的情況。即便採取技術手段防控和緩解幻覺，對於平台來說，類似張冠李戴、無中生有的錯誤無法做到整體性解決。只能人工一對一地替換數據、反復測試，才能修正生成錯誤的情況，因此對於平台來說修復的工作量很大，難有動力主動作為。

張奇認為，相關監管部門可將指導動作前置到AI研發環節，在數據標注、模型架構、訓練方法等關鍵節點，引導相關企業注重個人信息整合搜索的合規底線、強化信源質量核驗，同時設立投訴反饋入口，建立快速響應受理處置機制。在出現用戶個人名譽侵權等風險隱患后，監管部門可督促企業及時完善技術防控體系，加強跟蹤問效，從源頭遏制技術漏洞。“新技術帶來新問題，要秉持‘在發展中規范、在規范中發展’的理念去解決，隻有全社會攜起手來，AI相關產業才能更健康地發展。”

（來源：解放日報 記者 車佳楠）