|
你在網(wǎng)絡直播間看到的正在帶貨的名人明星是真人嗎？未必。近期，小米集團創(chuàng)始人雷軍建議加強“AI換臉擬聲”違法侵權重災區(qū)治理，再次引發(fā)公眾對AI數(shù)字人使用的討論。
去年以來，AI生成的數(shù)字人大量“占領”電商平臺，有的靠“圖”預售、以次充好，還有的用AI數(shù)字人仿冒名人外貌及聲音為一些“神藥”“神器”背書，短時間內賣出巨額大單。在這背后，一套從肖像、配音，到文案生成的AI數(shù)字人帶貨制作流程充斥網(wǎng)絡，帶來眾多監(jiān)管難題。
專家表示，利用AI數(shù)字場景直播帶貨是電商發(fā)展的新趨勢，但在發(fā)展前期，一些不法商家利用監(jiān)管漏洞侵害了消費者權益，建議盡快完善法律法規(guī)，強化平臺責任，設定AI數(shù)字場景使用邊界，防止AI“賦能”變AI“負能”。
一場“眼見是否為實”的暗戰(zhàn)
蘭州市民崔女士近日在網(wǎng)絡直播間購買了一件春季薄款毛衫。商品頁面中模特展示這款毛衫的面料細膩柔軟，穿在身上得體優(yōu)雅，她感覺自己的身材也像模特一樣屬于偏瘦類型，于是下單。而收到實物后卻發(fā)現(xiàn)，這件毛衫材質既不細膩也不柔軟，裁剪還很粗糙，她深感上當受騙。
經(jīng)過與售后一番費盡周折的交流，崔女士得知，該模特其實是AI生成的“數(shù)字人”，面料的視覺效果都經(jīng)過了AI技術的“渲染”。
甘肅慧聯(lián)信息科技發(fā)展有限責任公司總經(jīng)理王雪蓮已有十多年電商從業(yè)經(jīng)歷。她告訴記者，雇用模特試穿拍照是服裝電商行業(yè)的傳統(tǒng)做法，但AI數(shù)字模特的迷惑性在于它可以通過參數(shù)設置，生成“九頭身”“馬甲線”理想化身材，并借助AI渲染技術消除衣服褶皺、增強光澤感和飄逸靈動感，使廉價的面料呈現(xiàn)出昂貴質感，讓消費者誤判服裝的實際效果。
崔女士的購物經(jīng)歷并非個例。記者調查發(fā)現(xiàn)，在直播帶貨領域，AI數(shù)字人通過仿真的面部形象、聲音和精心的場景布置，其迷惑性讓消費者防不勝防。
更有甚者，有商家將名人明星換臉為數(shù)字人“平替”。去年以來，“AI換臉楊冪”直播賣化妝品、“AI古天樂”代言游戲等AI數(shù)字人仿冒名人話題頻頻登上熱搜。今年春節(jié)期間，更有不法商家生成“AI張文宏”，“嚴肅認真地在直播間賣蛋白棒”，從開播到被舉報關停，短時間內賣出了1200多單商品。
除了借用名人效應外，一些商家用AI技術打造數(shù)字人人設，如“成功女企業(yè)家”“單親媽媽”“帶娃寶媽”“知性美女”“美妝達人”等，利用特定人群的同理心直播帶貨。而在保健品、藥品、化妝品、醫(yī)療輔助器械“三品一械”領域，精心打造的數(shù)字人面向老年人、學生等辨別能力弱的群體，大肆夸大產(chǎn)品功效，快速斂財。
AI數(shù)字營銷監(jiān)管“網(wǎng)眼大”
針對AI數(shù)字人仿冒名人直播帶貨、AI換臉詐騙等違法行為，國家網(wǎng)信辦已出臺《人工智能生成合成內容標識辦法（征求意見稿）》，并開展網(wǎng)絡清朗行動等專項行動約束管理。
然而，對于正處在發(fā)展初期的AI數(shù)字營銷，一些專家表示，從法治層面到平臺監(jiān)管，還存在諸多漏洞。
記者在某平臺上輸入“AI數(shù)字人直播教學”等關鍵詞，搜索出成千上萬個教程，學費從幾十元到數(shù)百元不等，還有的甚至免費。
記者聯(lián)系一位收費教程博主，其稱“三分鐘教會搭建AI數(shù)字人直播間”，并承諾“一天可以做近百個數(shù)字作品，都能通過原創(chuàng)審核”。 共2頁 [1] [2] 下一頁
|
