您的位置： 蕭山網(wǎng) >  新聞中心 >  綜合新聞 >  國(guó)內(nèi) > 

男子參加視頻會(huì)議被騙，只有自己是真人！如何辨別真假？專家支招

[ 國(guó)內(nèi) ]    
2024
02-28
15:56

參加多人視頻會(huì)議結(jié)果只有自己是真人。這事聽上去似乎匪夷所思，卻真實(shí)地發(fā)生了。

據(jù)央視新聞報(bào)道，近期，香港警方披露了一起AI“多人換臉”詐騙案，涉案金額高達(dá)2億港元。在這起案件中，一家跨國(guó)公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”，并按照要求先后轉(zhuǎn)賬多次，將2億港元分別轉(zhuǎn)賬15次，到了5個(gè)本地銀行賬戶內(nèi)。

其后，向總部查詢才知道受騙。警方調(diào)查得知，這起案件中所謂的視頻會(huì)議中只有受害人一個(gè)人是“真人”，其他“參會(huì)人員”都是經(jīng)過“AI換臉”后的詐騙人員。

據(jù)香港媒體報(bào)道，詐騙分子是利用了人工智能的深度偽造技術(shù)，從國(guó)外視聽網(wǎng)站YouTube上下載了視頻，模仿了公司高層人員的聲音再對(duì)受害者發(fā)出行動(dòng)指示，最終成功行騙。

由于AI形象在講話時(shí)被人打斷或提問容易漏出破綻，在視頻過程中，嫌疑人曾要求受害者做簡(jiǎn)短的自我介紹，隨后便沒有其他口頭互動(dòng)交流，在用借口完結(jié)了對(duì)話之后，嫌疑人將溝通轉(zhuǎn)移到線上即時(shí)通訊軟件上進(jìn)行。


網(wǎng)上流傳其他AI換臉行騙視頻

香港特區(qū)政府嚴(yán)正澄清

據(jù)悉，除了此次香港AI“多人換臉”視頻詐騙案，香港近期還出現(xiàn)了其他AI換臉行騙隱患。

港媒24日?qǐng)?bào)道稱，網(wǎng)上出現(xiàn)以人工智能（AI）偽造的電視節(jié)目片段，冒稱香港特別行政區(qū)行政長(zhǎng)官向市民推介一項(xiàng)投資計(jì)劃。

在網(wǎng)上出現(xiàn)以AI偽造的短片中，可以看到“AI李家超”現(xiàn)身推介一項(xiàng)“高回報(bào)的投資計(jì)劃”。

1月24日晚，香港特區(qū)政府發(fā)布新聞公報(bào)稱，特區(qū)政府發(fā)言人呼吁市民必須提高警惕，切勿誤信網(wǎng)上以AI偽造的電視節(jié)目片段，節(jié)目?jī)?nèi)容均冒稱行政長(zhǎng)官向市民推介一項(xiàng)投資計(jì)劃。特區(qū)政府嚴(yán)正澄清，影片全屬偽造，行政長(zhǎng)官?gòu)奈醋鞒鱿嚓P(guān)言論，并強(qiáng)烈譴責(zé)不法之徒假冒行政長(zhǎng)官向市民詐騙。

發(fā)言人再次提醒市民，切勿輕信類似的所謂投資廣告或推廣影片，在網(wǎng)上提供個(gè)人資料給他人，登記加入有關(guān)的應(yīng)用程序或點(diǎn)擊任何鏈接。市民應(yīng)小心求證，核實(shí)真?zhèn)?，慎防受騙。有關(guān)事件將轉(zhuǎn)交警方作進(jìn)一步調(diào)查。


AI詐騙屢見不鮮

近年來關(guān)于使用AI進(jìn)行詐騙的案例屢見不鮮。近期，在陜西西安，財(cái)務(wù)人員張女士與老板視頻通話，老板要求她轉(zhuǎn)賬186萬元到一個(gè)指定賬號(hào)。

被害人 張女士：老板讓把這個(gè)款趕緊轉(zhuǎn)過去，這個(gè)款非常著急，因?yàn)樗曇暨€有視頻圖像都跟他人長(zhǎng)得一樣的，所以就更確信這筆款是他說的了，然后我直接就把這筆款轉(zhuǎn)了。

轉(zhuǎn)賬之后，張女士按照規(guī)定將電子憑證發(fā)到了公司財(cái)務(wù)內(nèi)部群里，然而出乎意料的是，群里的老板看到信息后，向她詢問這筆資金的來由？

被害人 張女士：然后我們就打電話再跟老板去核實(shí)，老板說他沒有給我發(fā)過視頻，然后也沒有說過這筆轉(zhuǎn)賬。

意識(shí)到被騙的張女士連忙報(bào)警求助，警方立刻對(duì)接反詐中心、聯(lián)系相關(guān)銀行進(jìn)行緊急止付，最終保住了大部分被騙資金156萬元。


如何識(shí)別AI“換臉換聲”？

學(xué)會(huì)這幾招很關(guān)鍵

據(jù)中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專委會(huì)專家薛智慧介紹，AI換臉過程，主要包括人臉識(shí)別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟。

其背后，最核心的包括為三個(gè)部分：

首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。

其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。

最后，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻。

AI換臉這一技術(shù)的出現(xiàn)，導(dǎo)致耳聽為虛、眼見也不一定為實(shí)了。

那我們?cè)撊绾畏婪赌兀?/strong>

專家表示，其實(shí)AI人工換臉無論做得多逼真，想要識(shí)別真假還是有一些方法的。

中國(guó)計(jì)算機(jī)學(xué)會(huì)安全專業(yè)委員會(huì)數(shù)字經(jīng)濟(jì)與安全工作組成員 方宇：我們可以要求對(duì)方在視頻對(duì)話的時(shí)候，在臉部的面前通過揮手的方式，去進(jìn)行一個(gè)識(shí)別，實(shí)時(shí)偽造的視頻，因?yàn)樗獙?duì)這個(gè)視頻進(jìn)行實(shí)時(shí)的生成和處理和AI的換臉。

在揮手的過程中，會(huì)造成面部的數(shù)據(jù)的干擾。揮手過程中，他所偽造的這個(gè)人臉，會(huì)產(chǎn)生一定的抖動(dòng)或者是一些閃現(xiàn)，或者是一些異常的情況。

第二個(gè)就是點(diǎn)對(duì)點(diǎn)的溝通中可以問一些只有對(duì)方知道的問題，驗(yàn)證對(duì)方的真實(shí)性。

近日，中國(guó)科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長(zhǎng)俞能海提醒，可以讓對(duì)方摁鼻子、摁臉，觀察其面部變化。

他在一個(gè)采訪中表示，如果是真人的鼻子，按下去是會(huì)變形的，但AI生成的鼻子并不會(huì)。


提高防范意識(shí)

避免個(gè)人生物信息泄露

專家表示，除了一些辨別AI換臉詐騙的小訣竅，我們每一個(gè)人都應(yīng)該提高防范意識(shí)，在日常生活中也要做好相關(guān)防范措施，養(yǎng)成良好的上網(wǎng)習(xí)慣。

首先應(yīng)該是做好日常的信息安全的保護(hù)，加強(qiáng)對(duì)人臉、聲紋、指紋等生物特征數(shù)據(jù)的安全防護(hù)。另外做好個(gè)人的手機(jī)、電腦等終端設(shè)備的軟硬件的安全管理。

第二，不要登錄來路不明的網(wǎng)站，以免被病毒侵入。

第三，對(duì)可能進(jìn)行聲音、圖像甚至視頻和定位采集的應(yīng)用，做好授權(quán)管理。不給他人收集自己信息的機(jī)會(huì)，也能在一定程度上讓AI換臉詐騙遠(yuǎn)離自己。


AI技術(shù)“換臉換聲”

可能存在法律風(fēng)險(xiǎn)

法律專家表示，用AI技術(shù)為他人換臉換聲甚至翻譯成其他語言并發(fā)布視頻，可能涉嫌侵權(quán)，主要有三個(gè)方面：

一是涉嫌侵犯著作權(quán)，例如相聲、小品等都屬于《中華人民共和國(guó)著作權(quán)法》保護(hù)的“作品”。例如網(wǎng)友用AI軟件將相聲、小品等“翻譯”成其他語言，需經(jīng)過著作權(quán)人授權(quán)，否則就存在侵權(quán)問題。

二是涉嫌侵犯肖像權(quán)，根據(jù)《中華人民共和國(guó)民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

三是涉嫌侵犯聲音權(quán)，根據(jù)《中華人民共和國(guó)民法典》規(guī)定，對(duì)自然人聲音的保護(hù)，參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。也就是說，需要取得聲音權(quán)人的同意，才能夠使用他人的聲音。


AI視頻技術(shù)火熱發(fā)展

概念股曾于近期大漲

AI視頻技術(shù)是近年的熱潮，雖然伴隨著信息安全等爭(zhēng)議，仍一路高歌取得快速發(fā)展。前段時(shí)間，繼ChatGPT這一現(xiàn)象級(jí)的應(yīng)用推出一年之后，美國(guó)開放人工智能研究中心OpenAI正式發(fā)布了旗下首款視頻生成模型Sora。該模型通過接收文本指令，即可生成60秒的短視頻。Sora的發(fā)布后在A股市場(chǎng)再次掀起了AI熱潮。

2月19日，龍年A股首個(gè)交易日，在外圍市場(chǎng)表現(xiàn)強(qiáng)勢(shì)的帶動(dòng)下，滬指高開20.69點(diǎn)，以2886點(diǎn)開市，創(chuàng)業(yè)板指數(shù)更是高開1.51%。漲幅榜前列，大多是AI概念股，與視覺領(lǐng)域相關(guān)的?？低?、大華股份也出現(xiàn)大漲。從板塊來看，與AI相關(guān)的板塊漲幅排在前列，如多模態(tài)AI板塊漲幅高達(dá)7%以上，AIGC概念板塊漲幅超6%。此外，短劇游戲板塊漲幅接近5%。算力相關(guān)的板塊漲幅也超4%。AI視頻技術(shù)的新發(fā)展一度讓外界十分看好。


來源：綜合央視新聞客戶端、廣州日?qǐng)?bào)、環(huán)球時(shí)報(bào)、券商中國(guó)、深圳市反電信網(wǎng)絡(luò)詐騙中心、中國(guó)之聲、北京日?qǐng)?bào)等  

作者：  

編輯：蔡少鳴
相關(guān)新聞
推薦閱讀