南都訊 記者樊文揚 11月14日，據“網信中國”消息，近期宏源證券有網絡賬號利用AI技術仿冒公眾人物形象，在直播、短視頻等環節發布營銷信息，誤導網民，涉嫌虛假宣傳和網絡侵權。網信部門嚴厲處置“百貨超市小店”“娜娜好物聯盟”“環球護膚美妝甄選”等一批違法違規網絡賬號。同時，督促網站平臺發布治理公告，舉一反三宏源證券，開展集中清理整治，目前已累計清理相關違規信息8700余條，處置仿冒公眾人物賬號1.1萬余個。
該消息稱，下一步，網信部門將繼續壓實網站平臺主體責任，對利用AI仿冒公眾人物開展直播營銷問題保持高壓嚴管態勢，對惡意營銷賬號，發現一批、處置一批、曝光一批，維護良好網絡生態。
近期，演員溫崢嶸自曝被AI換臉盜播一事引發廣泛關注。據報道，當前有多個直播間同時出現“溫崢嶸”的帶貨形象，視頻內容要么是AI合成的虛假直播，要么是盜播、錄播的過往片段。溫崢嶸提問“你是溫崢嶸我是誰”后，反而被對方拉黑。
11月6日，南都N視頻記者從抖音電商方面獲悉，不少商家和達人在未取得授權情況下，利用AI、特效仿冒名人等方式進行帶貨營銷，誤導消費者。平臺已啟動專項治理，處置涉及侵權仿冒違規的達人賬號1.1萬個，其中涉及仿冒溫崢嶸、李玫瑾、羅永浩、董宇輝等多位名人的賬號。
隨著近年來AI飛速發展，利用該技術為名人換臉換聲進行虛假宣傳等事件屢見不鮮。今年5月，演員鄧超和孫儷旗下工作室相繼發文稱，發現有部分網絡用戶通過技術合成的方式，利用鄧超、孫儷的形象和聲音制作虛假廣告宣傳視頻為某些商家的產品進行推薦宏源證券，部分視頻播放量超百萬次。
今年6月，北京海淀區市場監管局查處了某公司利用AI技術冒用央視主持人李梓萌名義和形象的虛假廣告案，并對其進行了行政處罰。該案中的涉事直播間，憑借高度仿真的合成影像吸引了88萬關注者，開播后銷量迅速突破萬單，讓不少消費者誤以為是本尊推薦。
據央視新聞8月報道，某社交平臺上，有博主利用AI仿冒奧運冠軍全紅嬋的聲音賣土雞蛋；孫穎莎、王楚欽的聲音也被“克隆”，用來給“嬋寶家土雞蛋”高調帶貨……評論區顯示，不少網友誤以為這就是奧運冠軍本人，紛紛下單購買。此外，還有博主“克隆”演員靳東等的聲音，進行24小時語音直播。
今年9月起，《人工智能生成合成內容標識辦法》正式施行，其中明確提出強制添加顯式和隱式標識等規范要求，為治理亂象提供了政策依據。然而現實情況中，這一規定的落實仍存在難點。據了解，有部分造假者將標識藏在視頻、直播簡介的角落，用極小的字體顯示；有的商家利用技術手段對AI生成內容進行去標識化處理，或讓AI造假內容混跡在正常信息流中，難以被精準識別。
針對頻現的AI換臉造假事件宏源證券，北京乾成律師事務所律師王琮瑋給出了維權建議。當用戶發現遭到他人侵權等非法利用時，應當第一時間固定證據，并要求平臺下架侵權內容；通過行政投訴舉報，向公安機關報案等尋求救濟措施。
傳金所提示：文章來自網絡，不代表本站觀點。
