又懂事又心疼長輩，出身貧寒自強不息……可就是“AI味”太濃

那個“它”，為何“姨姨媽媽”總同情

近日刷短視頻，你有沒有看到一個名叫小海的苦孩子？他出身貧寒卻自強不息、充滿正義感，還一口一個“姨姨媽媽”，向屏幕這頭素不相識的網友問好。小海的經歷讓很多網友心疼不已，更有年近八旬的老人想千裡迢迢乘坐火車去探望他。

然而，小海是“它”不是“他”——它由AI生成，是最新賣慘營銷劇本中的主角。

此前，已有大量賣慘擺拍視頻被監管部門和平台整治。照理說，小海也是賣慘擺拍，為什麼能逃避監管，形成刷屏效應？又為什麼騙取了那麼多“姨姨媽媽”的同情心？

“懂事”的小海是誰？

如今，在短視頻平台上搜索“小海”，不再能找到賣慘的視頻，而是官方媒體發布的提示內容，提醒網友小海是AI生成的形象。不過，從媒體引用的原視頻可以還原此前刷屏的小海形象：長相清秀，穿著朴素，經常對著屏幕喊“姨姨媽媽”。

這些“小海”在不同場合展示自己窘迫的生活，以及懂事、心疼長輩的特點：中秋節的晚上，小海眼含熱淚，在沒有人的教室啃饅頭，一邊吃一邊說：“我還買了個肉包，是給姨姨媽媽的”﹔在田間為長輩分擔農活，小海來不及擦去額頭的汗珠，就對著屏幕說：“姨姨媽媽，我請您吃”﹔在帶貨視頻裡，小海變成了“貼心晚輩”，用“姨姨媽媽，要對自己好一點”“姨姨媽媽，支持一下小海”等話術，誘導網友下單……

在記者看來，這些視頻帶有很濃的“AI味”，包括人物和場景細節粗糙、情節漏洞百出。可仍有不少網友將小海當成真人，在評論區留言“好孩子，太讓人心疼了”“你沒錢嗎？姨姨給你打點錢，吃好點”……

“相關視頻存在明顯的AI生成痕跡，既與發布者的制作水平有關，也可能是發布者用這類視頻來‘篩人’。”從事社交賬號代運營服務的王先生解釋，那些能一眼看出小海是“假的”的網友，並不是這類賬號的圍獵目標，而那些信以為真的網友，往往具有“富有同情心但缺乏防備心”的特征，所以會被視頻發布者相中，然后被精准引向下一步——購買小海推薦的產品。

業內人士指出，小海這一類視頻代表了賣慘營銷的技術升級。以前，賣慘營銷需要選擇場地、找人擺拍，甚至要培訓演技。但現在，幾元錢就能買到全套的AI虛擬人模板和營銷話術，批量生出成百上千個“小海”，一個人能同時運營幾十個賬號。但AI虛擬人賣慘帶貨與真人賣慘帶貨在法律定性上沒有本質區別，都涉嫌欺詐，賬號運營者應當承擔法律責任。

為什麼會有小海？

賣慘營銷歷來有之，真人版的“苦情戲”“假慈善”已被治理過多次。但“新瓶裝舊酒”的小海說明，現有針對賣慘營銷的治理方式仍有短板。

一方面，部分上了年紀的網友對AI生成技術及“內容由AI生成”標識不太熟悉。

記者看到，很多小海視頻的頁面都帶有“AI生成”水印，有的視頻發布賬號名稱裡就包含“AI虛擬人”等提示。但有老年網友表示，他們對“AI生成”的理解與法律法規介紹的有差異。

已經退休的市民李女士經常與朋友分享各自喜歡的短視頻，但坦言經常忽略“AI生成”標識，“短視頻節奏很快，畫面細節多，主角、場景、字幕甚至彈幕，根本看不過來，很多平台的‘AI生成’水印不太明顯。我自己就鬧過幾次笑話，把AI生成的視頻當成真人演的視頻。”

她還和朋友們錯誤理解了“AI生成”的意思，“我們以為部分場景無法拍攝，用AI生成，所以才打這個標簽，覺得就像很多電影那樣，是真人與虛構場景結合的結果。直到現在AI短劇越來越多，我們才發現，就連人物也是AI生成的。”

另一方面，平台針對賣慘擺拍的治理仍舊採用事后補救模式——先有舉報，才有響應。類似小海賣慘等短視頻，在發布初期通常不含推銷內容，而是主打情感陪伴，與粉絲建立信任。這些視頻又按規定標注“AI生成”，所以平台已有的管理機制未能及時識別。等到問題視頻或套路被曝光時，小海們已經收割了一批“韭菜”。

眼下，雖然小海被曝光了，很多賬號也被封停了，但別有用心者利用AI技術，可以迅速換臉不換套路、換號不換話術，生成“小山”“小河”“小川”，違法營銷屢禁不止。

最后，小海屢屢得手，還與情感空巢有關。綜觀近年來針對老年網友的短視頻騙局，能發現很多都瞄准他們的情感需求：除了賣慘營銷外，還有“霸道總裁”“暖心弟弟”等人設，都是瞄准生活孤獨、缺少有效陪伴的老年人。復旦大學老齡研究院教授申琦通過調研提出，不少老年人陷入AI虛擬人設的情感敘事，並非判斷力低下，而是現實世界裡可供傾訴、共情的社交選擇本就稀缺。

怎樣預防下個小海？

“眼下，很多AI短視頻能被識破，是因為技術有缺陷，生成的結果不夠完美。但要看到，隨著AI短劇的發展，越來越多的AI生成結果可以用‘以假亂真’來形容。當我們肯定AI短劇的進步時，有沒有想過，不法分子會用同樣的技術，圍獵上了年紀的用戶？”

預防下一個“小海”，應當是從技術到內容的全面防控。

專家指出，提高老年網友數字素養，仍有不少空間。比如，平台不僅要落實“AI生成”標識規范，還可以通過各種形式告知老年網友，這類標識意味著什麼，做好風險前置提醒。再如，通過算法推薦，將反詐宣傳送到高風險老年群體的手機上。“平台有技術能力識別視頻下的評論和老人的購物行為。這些數據可以成為精准提醒的基礎。先為高風險老年群體‘畫像’，再通過后台自動預警、算法推薦等，有助於防患於未然。”

在內容方面，要關注不同形式的擺拍營銷。賣慘、炫富、投訴等都是社交平台的“流量密碼”。在某種程度上，這些“流量密碼”就好比“舊瓶裝新酒”裡的“舊瓶”，而類似“懂事小海”“霸道總裁”“暖心弟弟”等人設，則是瓶裡的“新酒”。想從根本上杜絕擺拍欺詐，不能等到舉報出現再下架視頻，而是要提前識別這類套路化的敘事人設，提前掐斷流量變現的鏈條。

申琦認為，想要堵住AI生成騙局的生存空間，還應當從技術設計到情感支持雙向發力。

在技術層面，多想想老人到底要什麼。有晚輩為了避免老人上當受騙，選擇不讓老人用數字產品，這種因噎廢食的做法，隻會適得其反，導致老人在自我摸索時遭遇陷阱。

在情感層面，則要警惕“遠程陪伴也是陪伴”的誤區。有些晚輩覺得，配齊智能設備、裝上監測工具，就等同於完成陪伴。這種用機器代替真人相處的想法，反而會拉開和長輩的距離，將長輩推到虛擬世界。說到底，數智養老不該讓算法替代真實陪伴，而是讓技術成為親情之間的橋梁，補上現實中的情感缺口，從根源上減少虛假AI人設乘虛而入的機會。

（來源：解放日報 記者 任翀）