網上售賣AI低俗效果軟件，嚴查！

上海市網信辦曝光多起處理案例，屬地電商對相關店鋪予以關閉，對一批賬號實施禁言

花費幾十元“定制”名人的音視頻內容，隻需一張照片就能成為熱播視頻中的主角……近年來，伴隨著技術門檻的降低和商業應用場景的增多，教授類似“AI換臉/換衣”技術的課程遍地開花，甚至成為不法分子牟利的手段。

近日，上海市網信辦發布的“清朗浦江·2024”網絡生態治理處置案例中曝光了類似案例：“程序媛**”“小狗愛吃**”等賬號發布視頻教程，教授用戶利用AI技術實現“給現代女神穿上肚兜”“一鍵去衣”等低俗效果﹔“AI科技雜燴”“火兒科技館”等網絡店鋪售賣“AI換衣”“AI換臉”相關軟件。上海市網信辦表示，鑒於“AI變裝”“AI換臉變聲”等技術不當使用可能造成侵權甚至是觸犯刑法，屬地電商平台進行了全面排查，清理相關商品，對相關店鋪予以關閉，對一批賬號採取禁言等階段性處置措施。

在網絡上售賣傳播“AI換衣”“AI換臉”相關課程，法律的邊界在哪裡？上海市信息安全測評認証中心的專家說，我國《民法典》第1019條明確，任何組織或者個人不得以丑化、污損，或者偽造等方式侵害他人的肖像權。這意味著，未經授權使用“AI換臉”技術偽造他人肖像，可能構成對肖像權的侵犯。如果不法分子將“AI換臉”“AI去衣”用在淫穢視頻的制作與傳播或者將“AI換臉”用於詐騙牟利，違反我國刑法的相關規定，將被追究刑事責任。

當下，是否有技術手段能精准識別應用AI技術的音視頻內容？專家表示，“AI換臉/換衣”技術本質上是利用深度學習模型，對圖像中的語義信息（如：人臉特征、衣物紋理等）進行解構與重組，並通過對抗性訓練以及圖像融合技術達到逼真的視覺效果。就目前的技術而言，鑒別真實圖像和AI生成的圖像需要綜合運用多種方法。其中利用了一些技術檢測手段，包括元數據分析、傳感器噪聲模式、深度學習檢測模型、物理一致性驗証等。但也面臨生成技術的快速迭代以及后處理干擾等挑戰。

近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》及配套的強制性國家標准《網絡安全技術人工智能生成合成內容標識方法》，將於今年9月1日起實施。其中明確人工智能生成合成內容標識必須包括顯式標識和隱式標識兩種形式。專家認為，平台企業、工具提供方以及傳播平台對上架的相關程序、功能進行AI內容的顯著標識后，為監管其落實的精度和廣度，需加強AI生成內容識別與溯源追蹤技術，實現對個人生物識別信息使用的全程監控，以智能對智能，檢測出未標識的AI生成內容。

同時，為防范生成式人工智能技術被濫用，還必須從法律、社會等多個維度採取措施。

在法律規范方面，當前大部分的“AI換臉/換衣”技術不當利用行為處於民商事訴訟范疇，受侵害的個體面臨定損難、舉証難、維權成本高等困境。專家建議，應完善現行法律法規，細化AI克隆技術法律條款，明確侵權行為的定義和責任，加強執法的力度。

在社會教育方面，應提升公眾的風險防范意識和辨識能力，普及反詐騙知識，增強公眾對人工智能技術潛在風險的理解。建立“事前審核—事中監測—事后追責”的全鏈條防御體系，才能夠有效地遏制生成式人工智能技術被用於制造虛假信息、詐騙等非法行為。

（來源：解放日報 記者 車佳楠）

分享讓更多人看到