電商用「AI換臉」帶貨！假冒劉德華聲音製造流量 專家：已違法
[周刊王CTWANT] 大陸不肖電商業者利用AI技術，深度偽造了像是明星或是名醫的臉部和聲音進行直播帶貨，甚至成功賣出1200多條蛋白棒產品，還有人為了流量，用「AI模仿劉德華的聲音」據當地專家表示，用「AI假冒名人」進行帶貨的行為涉嫌違法。
根據大陸《央視》報導，今年以來，AI深度偽造假冒名人的事件不斷發生，還有人用小米創辦人雷軍的聲音和臉，惡搞出許多影片，令雷軍相當無奈。據雷軍表示，「自己也挺困擾，也挺不舒服的，在這裡希望大家不要再玩了，這個事情不太好，不過還是覺得AI是很好的技術，也非常實用」。
報導引述專家看法，目前AI模仿技術成熟，可輕鬆複製臉和聲音，不過AI假冒名人，進行帶貨的行為涉嫌違法，一旦消費者信以為真，購買了產品，可以要求賣家退一賠三。《央視》強調，未經授權使用他人形象的行為，均屬違法行為，短影音平台也應該擔負主體責任，有義務防範AI假冒名人影片，在自己的平台上大量傳播。
針對大陸網路直播行銷行為亂象，浙江省政府也發布了《浙江省網路直播行銷行為規範指引》，以目錄清單式列明30條「常講常新」的經營者合規要求，並為消費者提供直播購物的「防套路手冊」。
針對AI數位人可能導致公眾混淆誤認，《指引》要求，使用應用深度合成服務的AI數位人可能導致公眾混淆或者誤認的，應當在合理位置、區域進行持續、顯著標識，與自然人名義或形象進行明顯區分，不得採用技術手段刪除、篡改、隱匿區分AI數位人標識。
看更多 CTWANT 文章
18歲開始當小三賺4000萬 她同時約會3人沒事…嘆：人生沒目標
侯怡君「大戰小三」壓身上掐脖 受傷被老公冷回
太罕見！雌雄同體擁「2套生殖系統」先嫁尪生1子 又娶妻得1娃
