隨著人工智能技術(shù)的飛速進(jìn)步,AI換臉的門檻和效率正在發(fā)生質(zhì)變。據(jù)相關(guān)技術(shù)演示及媒體報(bào)道,如今的AI換臉工具已能從過(guò)去的“秒級(jí)”處理,進(jìn)化至以“毫秒”為單位的極速響應(yīng)。
這種“毫秒級(jí)”延遲意味著,從捕捉輸入畫面到在人臉上完成精準(zhǔn)替換,整個(gè)過(guò)程耗時(shí)極短。在實(shí)際演示中,系統(tǒng)僅需一張目標(biāo)人物的靜態(tài)照片,即可將實(shí)時(shí)視頻畫面中的人臉無(wú)縫替換為目標(biāo)形象,達(dá)到五官、輪廓、皮膚質(zhì)感甚至光影都高度一致的逼真效果。即便是動(dòng)態(tài)的搖頭、眨眼等微表情,也能被精準(zhǔn)復(fù)制和再現(xiàn),肉眼幾乎難以分辨真?zhèn)巍?/p>

更令人驚詫的是,現(xiàn)在的AI能夠以單張照片為基礎(chǔ),在同一個(gè)視頻環(huán)境中為同一個(gè)人實(shí)時(shí)“分裂”出多個(gè)外觀完全一致、行為同步的分身。多個(gè)“同一人”在不同位置或場(chǎng)景下同步進(jìn)行互動(dòng)的畫面,已成為可能。這些數(shù)字分身并非物理分身,而是基于生成式AI創(chuàng)造的逼真影像。若配合已日漸成熟的語(yǔ)音克隆技術(shù),便可形成聲、畫、口型、表情高度統(tǒng)一的“數(shù)字人”,普通人僅憑主觀經(jīng)驗(yàn)將更難辨識(shí)。
技術(shù)飛速發(fā)展的另一面是顯而易見(jiàn)的風(fēng)險(xiǎn)。這類技術(shù)一旦被濫用,將主要在兩類場(chǎng)景中構(gòu)成嚴(yán)重威脅:一類是利用實(shí)時(shí)“AI換臉視頻通話”冒充親友,以緊急求助等為由實(shí)施欺詐;另一類則是用于繞過(guò)人臉識(shí)別安全驗(yàn)證系統(tǒng),從而非法入侵他人賬戶或平臺(tái),對(duì)公民的財(cái)產(chǎn)安全與個(gè)人隱私構(gòu)成雙重侵害。警方已屢次通報(bào)此類新型網(wǎng)絡(luò)詐騙案件,并有受害人因接到由AI換臉制作的“親人視頻”而被騙走大額資金。
對(duì)此,反詐部門再次提醒公眾提升個(gè)人信息保護(hù)意識(shí):在日常生活中,應(yīng)盡量減少在公開平臺(tái)或非可信應(yīng)用上傳和暴露自己或家人清晰、無(wú)遮擋的正面人臉照片及動(dòng)態(tài)視頻;對(duì)于需要進(jìn)行人臉識(shí)別的各類App或網(wǎng)站,應(yīng)在充分了解其安全資質(zhì)后謹(jǐn)慎授權(quán)。





























浙公網(wǎng)安備 33010502007447號(hào)