|
此外，還有不少商家以9.9元、19.9元等價格出售高清AI視頻換臉制作的教程，并提供多套模板和數(shù)字虛擬人面部捕捉工具。但記者發(fā)現(xiàn)，這類商品大多差評多多。“不要買，沒有用”“騙人的，誰買誰上當(dāng)”“資料包沒有想象中那么簡單，也沒有人工售后，全靠自學(xué)”，網(wǎng)友們評價道。
“找人定制AI換臉視頻，看起來成片效果好，但實(shí)際上有很大的安全隱患。”陳玉表示，這一過程需要搜集大量的面部識別信息，而這恰恰是用戶最核心的個人信息。“個人信息一旦被比對之后，如果落到不法分子的手里，極易威脅到財產(chǎn)安全和人身安全。”
加強(qiáng)防范
AI詐騙有待更高層面監(jiān)管
AI換臉技術(shù)的可及性，讓AI詐騙頻發(fā)。近日，包頭市公安局發(fā)布一起使用AI技術(shù)進(jìn)行電信詐騙的案件，受害人郭先生10分鐘內(nèi)被騙430萬元。5月25日，4月發(fā)生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經(jīng)開區(qū)發(fā)生的“冒充熟人”詐騙案中，詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”，詐騙金額達(dá)245萬元。
基于AI換臉的詐騙手段已發(fā)展到什么地步？對此，奇安信首席反詐騙專家裴智勇對記者表示，不法分子在使用AI換臉進(jìn)行詐騙時，大多以發(fā)送或展示AI換臉視頻片段作為手段。“比如最近警方提到的9秒AI換臉視頻，它其實(shí)沒有和受害人發(fā)生真實(shí)交互，由于時間很短，受害人也很難詳細(xì)分辨。”
“但我們無需過分恐慌及妖魔化AI換臉的可用范圍。”裴智勇表示，以目前技術(shù)來看，想要盜取微信賬號、劫持微信鏡頭并在實(shí)時視頻聊天中運(yùn)用AI實(shí)時換臉和變聲技術(shù)，難度和成本都極高。“騙子通常都是用很低的成本博取很高的收益，不太可能花費(fèi)高昂代價去批量尋找受害者。”
陳玉表示，普通用戶防范AI詐騙，關(guān)鍵在保護(hù)個人面部信息，防止被不法分子所獲取。“用戶不要在互聯(lián)網(wǎng)上隨意公開發(fā)布包含自己高清正面人臉的照片和視頻，或與不熟悉的人隨意進(jìn)行線上視頻等。”
“沒有經(jīng)過訓(xùn)練的普通人想要用肉眼識別視頻是否為AI合成，難度極高。騙子甚至不會給你詳細(xì)判斷的機(jī)會，幾秒就掛斷。”裴智勇認(rèn)為，公眾與其花費(fèi)大量精力分辨騙子發(fā)來視頻的真假，不如在有懷疑時直接換一種渠道驗證對方身份，業(yè)內(nèi)稱為“雙因子身份驗證”。“比如好友視頻聊天后要求轉(zhuǎn)賬，你就撥打?qū)Ψ诫娫捥柎a再次確認(rèn)；對方使用微信談?wù)摻灰祝憔筒环劣肣Q再找他問問。多渠道驗證要比肉眼分辨視頻容易得多，也可靠得多。”
同時，業(yè)內(nèi)專家認(rèn)為，AI詐騙亟待更高層面監(jiān)管，比如監(jiān)管部門應(yīng)該建立專門的人工智能安全機(jī)構(gòu)，監(jiān)督AI技術(shù)在不同領(lǐng)域內(nèi)的應(yīng)用。技術(shù)企業(yè)也應(yīng)該加強(qiáng)數(shù)據(jù)合規(guī)建設(shè)，在人工智能設(shè)計中嵌入個人信息保護(hù)機(jī)制，并采用技術(shù)措施和管理制度，確保個人信息安全。
來源：北京日報客戶端 共2頁 上一頁 [1] [2]
|
