男子參加多人會(huì)議，只有自己是真人!

主編 · 發(fā)表于 2024-3-5 08:31:29

登錄查看大圖

您需要登錄才可以下載或查看，沒(méi)有賬號(hào)？立即注冊(cè)

×

參加多人視頻會(huì)議

結(jié)果只有自己是真人

這事聽上去似乎匪夷所思

卻真實(shí)地發(fā)生了

近期，香港警方披露了一起

多人 “AI換臉”詐騙案

涉案金額高達(dá)2億港元

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1.jpg

登錄/注冊(cè)后可看大圖

在這起案件中，一家跨國(guó)公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”，并按照要求先后轉(zhuǎn)賬多次，將2億港元分別轉(zhuǎn)賬15次，轉(zhuǎn)到5個(gè)本地銀行賬戶內(nèi)。

其后，向總部查詢才知道受騙。警方調(diào)查得知，這起案件中所謂的視頻會(huì)議中只有受害人一個(gè)人是“真人”，其他“參會(huì)人員”都是經(jīng)過(guò)“AI換臉”后的詐騙人員。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (1).jpg

登錄/注冊(cè)后可看大圖

近期

在陜西西安也發(fā)生了一起

“AI換臉”詐騙案例

▼

陜西西安財(cái)務(wù)人員張女士與老板視頻通話，老板要求她轉(zhuǎn)賬186萬(wàn)元到一個(gè)指定賬號(hào)。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (2).jpg

登錄/注冊(cè)后可看大圖

被害人張女士：老板讓把這個(gè)款趕緊轉(zhuǎn)過(guò)去，這筆款要得非常著急，因?yàn)樗曇暨€有視頻圖像都跟他人是一樣的，所以就更確信這筆款是他要的了。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (3).jpg

登錄/注冊(cè)后可看大圖

轉(zhuǎn)賬之后，張女士按照規(guī)定將電子憑證發(fā)到了公司財(cái)務(wù)內(nèi)部群里，然而出乎意料的是，群里的老板看到信息后，向她詢問(wèn)這筆資金的來(lái)由。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (4).jpg

登錄/注冊(cè)后可看大圖

被害人張女士：然后我們就打電話再跟老板核實(shí)，老板說(shuō)他沒(méi)有給我發(fā)過(guò)視頻，也沒(méi)有說(shuō)過(guò)這筆“轉(zhuǎn)賬”。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (5).jpg

登錄/注冊(cè)后可看大圖

意識(shí)到被騙的張女士連忙報(bào)警求助，警方立刻對(duì)接反詐中心、聯(lián)系相關(guān)銀行進(jìn)行緊急止付，最終保住了大部分被騙資金——156萬(wàn)元。

據(jù)專家介紹

“AI換臉”過(guò)程

主要包括

人臉識(shí)別追蹤

面部特征提取

人臉變換融合

背景環(huán)境渲染

圖像與音頻合成等幾個(gè)關(guān)鍵步驟

其背后

最核心的包括三個(gè)部分：

首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。

其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。

最后，通過(guò)背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (6).jpg

登錄/注冊(cè)后可看大圖

學(xué)會(huì)幾招

識(shí)別AI“換臉換聲”

AI換臉這一技術(shù)的出現(xiàn)

導(dǎo)致眼見也不一定為實(shí)了

我們?cè)撊绾畏婪赌兀?/div>

專家表示

其實(shí)AI人工換臉無(wú)論做得多逼真

想要識(shí)別真假還是有一些方法的

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (7).jpg

登錄/注冊(cè)后可看大圖

中國(guó)計(jì)算機(jī)學(xué)會(huì)安全專業(yè)委員會(huì)數(shù)字經(jīng)濟(jì)與安全工作組成員方宇：我們可以要求對(duì)方在視頻對(duì)話的時(shí)候，在臉部的前面通過(guò)揮手的方式，去識(shí)別實(shí)時(shí)偽造的視頻，因?yàn)樗獙?duì)這個(gè)視頻進(jìn)行實(shí)時(shí)的生成和處理以及AI的換臉。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (8).jpg

登錄/注冊(cè)后可看大圖

在揮手的過(guò)程中，會(huì)造成面部的數(shù)據(jù)干擾。揮手過(guò)程中，他所偽造的人臉，會(huì)產(chǎn)生一定的抖動(dòng)或者是閃現(xiàn)，再或是一些異常的情況。

640_wx_fmt=jpeg&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (9).jpg

登錄/注冊(cè)后可看大圖

第二個(gè)就是，在點(diǎn)對(duì)點(diǎn)的溝通中可以問(wèn)一些只有對(duì)方知道的問(wèn)題，驗(yàn)證對(duì)方的真實(shí)性。

中國(guó)科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng)俞能海提醒，可以讓對(duì)方摁鼻子、摁臉，觀察其面部變化。

他在一個(gè)采訪中表示，如果是真人的鼻子，按下去是會(huì)變形的，但AI生成的鼻子并不會(huì)。

640_wx_fmt=png&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1 (1).png

登錄/注冊(cè)后可看大圖

同樣，臉部也一樣。真人臉部按下去是會(huì)變形的。

640_wx_fmt=png&from=appmsg&wxfrom=5&wx_lazy=1&wx_co=1.png

登錄/注冊(cè)后可看大圖

提醒：提高防范意識(shí)

避免個(gè)人生物信息泄露

專家表示，除了知曉一些辨別AI換臉詐騙的小訣竅，我們每一個(gè)人都應(yīng)該提高防范意識(shí)，在日常生活中也要做好相關(guān)防范，養(yǎng)成良好的上網(wǎng)習(xí)慣。

首先，應(yīng)該是做好日常信息安全保護(hù)，加強(qiáng)對(duì)人臉、聲紋、指紋等生物特征數(shù)據(jù)的安全防護(hù)。另外做好個(gè)人的手機(jī)、電腦等終端設(shè)備的軟硬件的安全管理。

第二，不要登錄來(lái)路不明的網(wǎng)站，以免被病毒侵入。

第三，對(duì)可能進(jìn)行聲音、圖像甚至視頻和定位等信息采集的應(yīng)用，做好授權(quán)管理。不給他人收集自己信息的機(jī)會(huì)，也能在一定程度上讓AI換臉詐騙遠(yuǎn)離自己。

AI技術(shù)“換臉換聲”

可能存在法律風(fēng)險(xiǎn)

法律專家表示，用AI技術(shù)為他人“換臉換聲”甚至翻譯成其他語(yǔ)言并發(fā)布視頻，可能涉嫌侵權(quán)，主要有三個(gè)方面：

一是涉嫌侵犯著作權(quán)，例如相聲、小品等都屬于《中華人民共和國(guó)著作權(quán)法》保護(hù)的“作品”。例如網(wǎng)友用AI軟件將相聲、小品等“翻譯”成其他語(yǔ)言，需經(jīng)過(guò)著作權(quán)人授權(quán)，否則就存在侵權(quán)問(wèn)題。

二是涉嫌侵犯肖像權(quán)，根據(jù)《中華人民共和國(guó)民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

三是涉嫌侵犯聲音權(quán)，根據(jù)《中華人民共和國(guó)民法典》規(guī)定，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。也就是說(shuō)，需要取得聲音權(quán)人的同意，才能夠使用他人的聲音。

來(lái)源：中央政法委長(zhǎng)安劍、中國(guó)普法、江蘇警方
編輯：呂毅
審核：劉一鳴、吳澍天
復(fù)審：沈娜
終審：孫洪洋