AI技術(shù)為社會(huì)消費(fèi)帶來極大便利，與此同時(shí)，應(yīng)用場(chǎng)景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設(shè)營(yíng)銷，既需法律震懾與技術(shù)攔截，也依賴平臺(tái)自律與社會(huì)監(jiān)督。積極構(gòu)建源頭審核、過程監(jiān)控、事后追責(zé)的全鏈條社會(huì)監(jiān)督機(jī)制，才能遏制技術(shù)濫用，營(yíng)造健康放心的消費(fèi)環(huán)境。

借助AI技術(shù)魔改文案和視頻資料，偽造虛假公眾人物形象、虛構(gòu)“精英人設(shè)”，在短視頻平臺(tái)推銷保健品，近一段時(shí)間以來，這股AI魔改之風(fēng)在網(wǎng)絡(luò)平臺(tái)甚囂塵上。從“老板娘楊麗華”到冒用張文宏等名人形象，屢禁不止的AI造假視頻不僅挑戰(zhàn)了消費(fèi)者的辨別能力，更暴露出技術(shù)濫用下的監(jiān)管漏洞。應(yīng)該說，AI技術(shù)在短視頻領(lǐng)域的營(yíng)銷應(yīng)用亂象，是流量經(jīng)濟(jì)下借助公眾健康焦慮的一次“合謀”，亟待法律、技術(shù)與社會(huì)的系統(tǒng)性治理。(據(jù)2月11日《中國(guó)消費(fèi)者報(bào)》報(bào)道)

虛構(gòu)人設(shè)與AI技術(shù)結(jié)合，打造“信任背書”，是AI魔改視頻的顯著特點(diǎn)。商家通過AI技術(shù)生成虛假人物形象并盜用公眾人物肖像，利用其社會(huì)影響力誘導(dǎo)消費(fèi)者，同時(shí)還常用夸大功效與擦邊宣傳。

AI魔改短視頻營(yíng)銷中，眾多賬號(hào)與店鋪有頻繁更換名稱躲避監(jiān)管嫌疑。同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店，經(jīng)營(yíng)主體多為注冊(cè)時(shí)間短、資質(zhì)存疑的小微企業(yè)。加之AI技術(shù)極大降低虛假視頻制作成本，讓批量生產(chǎn)、快速傳播、收割變現(xiàn)、注銷換殼的欺詐營(yíng)銷閉環(huán)快速形成。

虛假宣傳導(dǎo)致消費(fèi)者誤購高價(jià)低效產(chǎn)品，甚至延誤正規(guī)治療。虛構(gòu)人設(shè)營(yíng)銷擾亂保健品行業(yè)競(jìng)爭(zhēng)生態(tài)，網(wǎng)絡(luò)平臺(tái)若放任此類行為，將削弱消費(fèi)者信任，最終損害自身商業(yè)信譽(yù)。同時(shí)，AI技術(shù)被濫用于造假，消解了“眼見為實(shí)”的認(rèn)知基礎(chǔ)，一些公眾人物遭AI換臉帶貨，不僅侵犯其肖像權(quán)，更可能引發(fā)社會(huì)對(duì)權(quán)威信息的普遍懷疑。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，AI生成內(nèi)容應(yīng)當(dāng)進(jìn)行明確標(biāo)識(shí)并由相關(guān)方承擔(dān)侵權(quán)責(zé)任。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)加強(qiáng)審查制度，落實(shí)主體責(zé)任，對(duì)未標(biāo)注的AI視頻強(qiáng)制下架，強(qiáng)化平臺(tái)管理約束機(jī)制。針對(duì)保健品宣傳，嚴(yán)格執(zhí)行《廣告法》《食品安全法》等法律法規(guī)，嚴(yán)懲虛假療效宣傳行為，并將屢犯者納入失信名單，發(fā)揮信用懲戒作用。

道高一尺，魔高一丈。首先，短視頻平臺(tái)可以利用AI識(shí)別技術(shù)篩查虛假人設(shè)賬號(hào)，對(duì)利用虛擬人設(shè)、虛假精英形象的賬號(hào)采取封禁與粉絲清零等措施。其次，建立溯源機(jī)制，對(duì)頻繁更換主體的店鋪實(shí)施流量限制，并公開違規(guī)案例以警示教育廣大消費(fèi)者。同時(shí)，針對(duì)易受騙的老年群體，開展反詐宣傳，揭露所謂“養(yǎng)生大師”話術(shù)陷阱。社會(huì)應(yīng)當(dāng)關(guān)注老年人消費(fèi)動(dòng)態(tài)，有關(guān)機(jī)構(gòu)要及時(shí)介入異常購物行為，阻斷欺詐鏈條。

AI技術(shù)為社會(huì)消費(fèi)帶來極大便利，與此同時(shí)，應(yīng)用場(chǎng)景中出現(xiàn)的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設(shè)營(yíng)銷，既需法律震懾與技術(shù)攔截，也依賴平臺(tái)自律與社會(huì)監(jiān)督。積極構(gòu)建源頭審核、過程監(jiān)控、事后追責(zé)的全鏈條社會(huì)監(jiān)督機(jī)制，才能遏制技術(shù)濫用，營(yíng)造健康放心的消費(fèi)環(huán)境。